모델 연결 전 프롬프트가 어디로 가는지 정하세요

Portward는 세 가지 모델을 지원합니다: 표준 API 엔드포인트를 통한 클라우드 AI 제공자, PC에서 직접 실행되는 로컬 모델, 그리고 내장 모델입니다. 각 선택은 프롬프트의 이동 경로를 결정하므로, 에이전트를 서버에 연결하기 전에 먼저 결정하세요.

모델 연결 방법 세 가지

클라우드 AI 제공자

클라우드 제공자는 설정 창에 엔드포인트 주소와 API 키를 입력해 연결합니다. Portward는 프롬프트를 해당 엔드포인트로 보내며, 에이전트가 읽은 파일이나 로그의 텍스트도 포함될 수 있습니다. 채팅 기록, 작업 폴더, API 키는 PC에 남아 있고, 도구 출력의 비밀 정보는 모델로 전달되기 전에 가려집니다. 이 경로는 긴 로그나 큰 설정 파일에 적합하며, 모델이 하드웨어 제약을 받지 않기 때문입니다. 제공자의 약관을 확인하고 엔드포인트를 입력한 후 테스트 버튼을 누르세요.

PC 로컬 모델

PC에서 실행되는 로컬 모델은 모든 데이터를 머신 내부에 유지합니다. Portward를 로컬 엔드포인트에 연결하면 테스트 버튼이 응답 시간과 컨텍스트 윈도우를 보여줍니다. 속도와 품질은 모델과 하드웨어 성능에 따라 달라지며, 작은 모델은 긴 설정 파일에서 실수를 할 수 있으므로 각 diff를 주의 깊게 읽어야 합니다. 이 경로는 사적인 이름이 포함된 메일 설정 복사본처럼 외부로 보내고 싶지 않은 노트나 로그에 적합합니다.

내장 모델

내장 모델은 별도의 엔드포인트 없이 바로 사용할 수 있으므로, 첫 번째 작업 전에 입력할 것이 없습니다. 다른 연결을 하기 전에 카드, diff, 승인 모드를 확인하고 싶을 때 선택하세요. 나중에 작업에 더 큰 모델이 필요하면 클라우드나 로컬 모델로 전환할 수 있습니다. 품질은 작업마다 다르므로, 수락하기 전에 결과 카드와 diff를 모두 읽고 서버에서 두 번째 세션으로 결과를 테스트하세요.

테스트 버튼의 역할

테스트 버튼은 엔드포인트를 확인한 뒤 응답 시간과 컨텍스트 윈도우를 보여줍니다. 에이전트에게 서버 작업을 부여하기 전, 클라우드 또는 로컬 엔드포인트를 입력한 후에 실행하세요. 컨텍스트 윈도우는 한 번의 요청에 들어갈 수 있는 텍스트의 양을 나타내며, 긴 로그나 설정 파일을 붙여넣을 때 중요합니다. 테스트가 실패하면 엔드포인트 주소와 키를 확인하고 수정한 뒤, 작업을 시작하기 전에 다시 테스트하세요.

작업에 맞는 모델 선택

긴 로그 읽기나 방화벽 변경 계획 같은 복잡한 작업에는 큰 모델을 사용하고, 복사된 설정 파일의 한 줄 수정 같은 작은 작업에는 작은 모델을 사용하세요. run_on_model 도구는 복잡한 작업을 큰 모델로 보내고 나머지 채팅은 기본 모델에 유지합니다. task 도구는 디스크 공간과 서비스 상태처럼 독립적인 확인 작업을 병렬 서브 에이전트에 분배합니다. Cron은 저장된 프롬프트를 정해진 시간에 실행하며, 계획은 재시작 후에도 유지되므로 긴 작업은 앱을 닫은 후에도 계속될 수 있습니다.

모델마다 품질이 다르며, 어떤 모델도 로그를 잘못 읽거나 잘못된 설정을 제안할 수 있습니다. 수락하기 전에 diff를 확인하세요. Ask first는 변경 작업을 수행하기 전에 잠시 멈추고, Plan only는 계획만 작성하고 실행하지 않으며, Auto-run은 즉시 실행합니다. 변경의 위험도에 맞게 모드를 선택하세요. 결과를 직접 테스트하세요. 예를 들어 두 번째 세션으로 로그인해 확인합니다.