Alege unde ajung prompturile înainte de a conecta un model
Portward funcționează cu trei tipuri de modele: un furnizor AI cloud printr-un endpoint API standard, un model care rulează local pe PC-ul tău și modelul integrat. Fiecare alegere determină unde ajung prompturile tale, așa că fă-o înainte să direcționezi agentul către un server.
Trei moduri de a conecta un model
Furnizor AI cloud
Un furnizor cloud se conectează printr-un endpoint API standard pe care îl introduci în setări împreună cu cheia ta API. Portward trimite prompturile tale la acel endpoint, iar un prompt poate include textul oricărui fișier sau jurnal citit de agent, astfel încât un model cloud primește acel text. Conversațiile, folderele de lucru și cheile API rămân pe PC-ul tău, iar secretele din ieșirea instrumentelor sunt mascate înainte să ajungă la model. Această rută este comună pentru jurnale lungi și fișiere de configurare mari, deoarece modelul nu este limitat de hardware-ul tău. Citește termenii furnizorului pentru a vedea cum gestionează prompturile și apasă butonul Test după ce ai introdus endpoint-ul.
Model pe PC-ul tău
Un model care rulează local pe PC-ul tău păstrează totul pe mașină: cu un model local, nimic nu părăsește calculatorul. Conectezi Portward la endpoint-ul local, iar butonul Test raportează timpul de răspuns și fereastra de context. Viteza și calitatea depind de model și de hardware-ul tău, iar un model mai mic poate face mai multe greșeli la un fișier de configurare lung, așa că citește fiecare diff cu atenție. Această rută se potrivește pentru note și jurnale pe care nu vrei să le trimiți către niciun furnizor, de exemplu o copie a unei configurații de mail care conține nume private.
Model integrat
Modelul integrat este gata de utilizare fără un endpoint propriu, așa că nu ai nimic de introdus înainte de prima sarcină. Alege-l când vrei să verifici cardurile, diff-urile și modurile de aprobare înainte să conectezi altceva. Poți trece la un model cloud sau local mai târziu dacă o sarcină necesită unul mai puternic. Calitatea variază de la o sarcină la alta, așa că citește fiecare card de rezultat și fiecare diff înainte să-l accepți, și testează rezultatul pe serverul tău dintr-o sesiune secundară.
Ce verifică butonul Test
Butonul Test verifică un endpoint, apoi afișează timpul de răspuns și fereastra de context. Rulează-l după ce ai introdus un endpoint cloud sau local, înainte să dai agentului o sarcină pe server. Fereastra de context îți spune cât text încap într-o singură cerere, lucru important când lipești un jurnal lung sau un fișier de configurare. Dacă testul eșuează, verifică adresa endpoint-ului și cheia, corectează-le și rulează din nou testul înainte de a începe sarcina.
Alege un model pentru sarcină
Folosește un model mai mare pentru pași complecși, cum ar fi citirea unui jurnal lung sau planificarea unei modificări de firewall, și un model mai mic pentru editări mici, cum ar fi o singură linie într-un fișier de configurare copiat. Instrumentul run_on_model trimite un pas complex la un model mai mare, în timp ce restul conversației rămâne pe cel implicit. Instrumentul task împarte verificările independente, cum ar fi spațiul pe disc și starea serviciilor, între sub-agente paralele. Cron rulează un prompt salvat la intervale programate, iar planurile supraviețuiesc restarturilor, astfel încât o sarcină lungă poate continua după ce închizi aplicația.
Calitatea variază între modele, iar orice model poate interpreta greșit un jurnal sau poate sugera o setare incorectă. Citește diff-ul înainte de a-l accepta. Ask first (Întreabă înainte) întrerupe acțiunile care modifică ceva, Plan only (Doar plan) scrie un plan și nu rulează nimic, iar Auto-run (Rulare automată) acționează imediat, așa că potrivește modul cu riscul modificării. Testează rezultatul singur, de exemplu conectându-te dintr-o sesiune secundară.
