モデル接続前に、プロンプトの送信先を決めよう
Portwardは3種類のモデルに対応しています。標準APIエンドポイント経由のクラウドAI、PC上で動作するローカルモデル、そして内蔵モデルです。プロンプトがどこへ送信されるかは選択次第なので、エージェントにサーバー作業を任せる前に設定してください。
モデル接続の3つの方法
クラウドAIプロバイダ
クラウドプロバイダは、設定画面にエンドポイントとAPIキーを入力することで接続します。Portwardはプロンプトをそのエンドポイントへ送信し、エージェントが読み取ったファイルやログのテキストもプロンプトに含まれるため、クラウドモデルはそのテキストを受け取ります。チャット履歴、作業フォルダ、APIキーはPC上に残ります。ツール出力内の機密情報は、モデルに送信される前に削除されます。この方法は、モデルのハードウェア制限を受けないため、長いログや大きな設定ファイルの処理に適しています。プロバイダの利用規約でプロンプトの扱いを確認し、エンドポイント入力後に[テスト]ボタンを押してください。
PC上のモデル
PC上でローカルに動作するモデルは、すべてのデータをマシン内に保持します。ローカルモデルを使用する場合、データは外部へ一切送信されません。Portwardをローカルエンドポイントに接続し、[テスト]ボタンで応答時間とコンテキストウィンドウを確認します。速度と品質はモデルとハードウェアに依存し、小さなモデルは長い設定ファイルの処理で誤りを起こす可能性があるため、差分は注意深く確認してください。この方法は、メール設定のようにプライベートな情報を含むログやメモを外部に送らない場合に適しています。
内蔵モデル
内蔵モデルは独自のエンドポイントが不要ですぐに使用できるため、最初のタスク前に何かを入力する必要はありません。他のモデルを接続する前に、カードや差分、承認モードを確認したい場合に選択してください。タスクに応じてクラウドやローカルモデルに後から切り替えることも可能です。タスクによって品質は異なるため、承認する前に結果カードと差分を確認し、別のセッションからサーバー上で結果をテストしてください。
[テスト]ボタンで確認すること
[テスト]ボタンはエンドポイントを検証し、応答時間とコンテキストウィンドウを表示します。エージェントにサーバータスクを割り当てる前に、クラウドまたはローカルのエンドポイントを入力した後に実行してください。コンテキストウィンドウは1回のリクエストで送信できるテキストの量を示し、長いログや設定ファイルを貼り付ける際に重要です。テストが失敗した場合は、エンドポイントのアドレスとキーを確認し、修正してからタスクを開始する前に再テストしてください。
タスクに応じたモデルの選択
長いログの読み込みやファイアウォール変更の計画など、複雑なステップには大きなモデルを、コピーした設定ファイルの1行修正など小さな編集には小さなモデルを使用してください。run_on_modelツールは複雑なステップを大きなモデルに送信し、チャットの残りはデフォルトのモデルで処理します。taskツールはディスク容量やサービス状態など独立したチェックを並列サブエージェントに分割して実行します。Cronは保存したプロンプトをスケジュールで実行し、プランは再起動後も維持されるため、アプリを閉じた後も長いジョブを継続できます。
モデルによって品質は異なり、どのモデルでもログの読み間違いや誤った設定の提案を行う可能性があります。承認する前に差分を確認してください。Ask firstは変更を伴うアクションの前に一時停止し、Plan onlyはプランのみを生成して実行は行いません。Auto-runは直ちに実行するため、変更のリスクに合わせてモードを選択してください。別のセッションからログインするなどして、結果を自分でテストしてください。