Wähle den Pfad deiner Prompts, bevor du ein Modell verbindest

Portward funktioniert mit drei Arten von Modellen: einem Cloud-KI-Anbieter über einen Standard-API-Endpunkt, einem Modell, das lokal auf deinem PC läuft, und dem integrierten Modell. Jede Wahl bestimmt, wohin deine Prompts gesendet werden, also triff die Entscheidung, bevor du den Agenten an einen Server richtest.

Drei Möglichkeiten, ein Modell zu verbinden

Cloud-KI-Anbieter

Ein Cloud-Anbieter verbindet sich über einen Standard-API-Endpunkt, den du in den Einstellungen zusammen mit deinem eigenen API-Schlüssel eingibst. Portward sendet deine Prompts an diesen Endpunkt, und ein Prompt kann den Text jeder Datei oder jedes Logs enthalten, das der Agent gelesen hat, sodass ein Cloud-Modell diesen Text erhält. Deine Chats, Arbeitsordner und API-Schlüssel bleiben auf deinem PC, und Geheimnisse in der Agentenausgabe werden vor der Übertragung an das Modell maskiert. Diese Route ist üblich für lange Logs und große Konfigurationsdateien, da das Modell nicht durch deine eigene Hardware begrenzt ist. Lies die eigenen Nutzungsbedingungen des Anbieters, um zu sehen, wie er mit Prompts umgeht, und drücke die Test-Schaltfläche, nachdem du den Endpunkt eingegeben hast.

Modell auf deinem PC

Ein lokal auf deinem PC laufendes Modell behält alles auf der Maschine: Bei einem lokalen Modell verlässt nichts das System. Du verbindest Portward mit dem lokalen Endpunkt, und die Test-Schaltfläche zeigt die Antwortzeit und das Kontextfenster an. Geschwindigkeit und Qualität hängen vom Modell und deiner Hardware ab, und ein kleineres Modell kann bei einer langen Konfigurationsdatei mehr Fehler machen, also lies jeden Diff sorgfältig. Diese Route eignet sich für Notizen und Logs, die du nicht an einen Anbieter senden möchtest, zum Beispiel eine Kopie einer Mail-Konfiguration, die private Namen enthält.

Integriertes Modell

Das integrierte Modell ist ohne einen eigenen Endpunkt sofort einsatzbereit, sodass vor der ersten Aufgabe nichts eingegeben werden muss. Wähle es, wenn du die Karten, die Diffs und die Genehmigungsmodi prüfen möchtest, bevor du etwas anderes verbindest. Du kannst später zu einem Cloud- oder lokalen Modell wechseln, wenn eine Aufgabe ein größeres Modell erfordert. Die Qualität variiert von Aufgabe zu Aufgabe, also lies jede Ergebniskarte und jeden Diff, bevor du sie akzeptierst, und teste das Ergebnis auf deinem Server aus einer zweiten Sitzung heraus.

Was die Test-Schaltfläche prüft

Die Test-Schaltfläche prüft einen Endpunkt und zeigt anschließend die Antwortzeit sowie das Kontextfenster an. Führe sie aus, nachdem du einen Cloud- oder lokalen Endpunkt eingegeben hast, bevor du dem Agenten eine Serveraufgabe gibst. Das Kontextfenster zeigt an, wie viel Text in eine Anfrage passt, was wichtig ist, wenn du ein langes Log oder eine Konfigurationsdatei einfügst. Wenn der Test fehlschlägt, überprüfe die Endpunkt-Adresse und den Schlüssel, korrigiere sie und führe den Test erneut aus, bevor du die Aufgabe startest.

Wähle ein Modell für die Aufgabe

Verwende ein größeres Modell für komplexe Schritte, wie das Lesen eines langen Logs oder das Planen einer Firewall-Änderung, und ein kleineres Modell für kleine Änderungen, wie eine einzelne Zeile in einer kopierten Konfigurationsdatei. Das Tool run_on_model sendet einen komplexen Schritt an ein größeres Modell, während der Rest des Chats auf dem Standardmodell bleibt. Das Task-Tool teilt unabhängige Prüfungen, zum Beispiel Festplattenspeicher und Dienststatus, auf parallele Sub-Agenten auf. Cron führt einen gespeicherten Prompt zeitgesteuert aus, und Pläne überleben Neustarts, sodass ein langer Job fortgesetzt werden kann, nachdem du die App geschlossen hast.

Die Qualität variiert zwischen den Modellen, und jedes Modell kann ein Log falsch lesen oder eine falsche Einstellung vorschlagen. Lies den Diff, bevor du ihn akzeptierst. Ask first pausiert vor Aktionen, die etwas ändern, Plan only erstellt einen Plan und führt nichts aus, und Auto-run führt sofort aus. Passe den Modus also an das Risiko der Änderung an. Teste das Ergebnis selbst, zum Beispiel durch eine Anmeldung aus einer zweiten Sitzung heraus.