Zvolte, kam půjdou vaše podněty, než připojíte model

Portward pracuje se třemi typy modelů: cloudovým AI poskytovatelem přes standardní API endpoint, modelem běžícím lokálně na vašem PC a vestavěným modelem. Každá volba určuje, kam půjdou vaše podněty, takže ji zvolte dříve, než přiřadíte agenta k serveru.

Tři způsoby připojení modelu

Cloudový AI poskytovatel

Cloudový poskytovatel se připojuje přes standardní API endpoint, který zadáte do nastavení spolu s vlastním API klíčem. Portward odesílá vaše podněty na tento endpoint a podnět může obsahovat text libovolného souboru nebo logu, které agent přečetl, takže cloudový model tento text obdrží. Vaše chaty, pracovní složky a API klíče zůstávají na vašem PC a tajemství ve výstupu nástrojů jsou před odesláním do modelu maskována. Tato cesta je běžná pro dlouhé logy a velké konfigurační soubory, protože model není omezen vaším hardwarovým vybavením. Přečtěte si vlastní podmínky poskytovatele a zjistěte, jak zachází s podněty, a po zadání endpointu stiskněte tlačítko Test.

Model na vašem PC

Model běžící lokálně na vašem PC udržuje všechno na stroji: u lokálního modelu nic neopouští. Připojíte Portward k lokálnímu endpointu a tlačítko Test nahlásí dobu odezvy a kontextové okno. Rychlost a kvalita závisí na modelu a na vašem hardwaru a menší model může dělat více chyb u dlouhého konfiguračního souboru, takže každý diff pečlivě čtěte. Tato cesta se hodí pro poznámky a logy, které nechcete odesílat žádnému poskytovateli, například kopii poštovní konfigurace obsahující soukromá jména.

Vestavěný model

Vestavěný model je připraven k použití bez vlastního endpointu, takže před prvním úkolem nemusíte zadávat nic. Vyberte ho, když chcete nahlédnout do karet, diffů a režimů schvalování, než připojíte cokoli dalšího. Později můžete přepnout na cloudový nebo lokální model, pokud úkol vyžaduje větší model. Kvalita se liší podle úkolu, takže před přijetím přečtěte každou výslednou kartu a každý diff a výsledek otestujte na serveru z druhé relace.

Co kontroluje tlačítko Test

Tlačítko Test zkontroluje endpoint a následně zobrazí dobu odezvy a kontextové okno. Spusťte ho po zadání cloudového nebo lokálního endpointu, než dáte agentovi úkol pro server. Kontextové okno vám řekne, kolik textu se vejde do jednoho požadavku, což má význam, když vložíte dlouhý log nebo konfigurační soubor. Pokud test selže, zkontrolujte adresu endpointu a klíč, opravte je a spusťte test znovu před zahájením úkolu.

Vyberte model pro úkol

Pro náročné kroky, jako je čtení dlouhého logu nebo plánování změny firewallu, použijte větší model a pro malé úpravy, jako je jedna řádka v zkopírovaném konfiguračním souboru, menší model. Nástroj run_on_model odešle náročný krok k většímu modelu, zatímco zbytek chatu zůstává na výchozím. Nástroj task rozděluje nezávislé kontroly, například místo na disku a stav služeb, mezi paralelní sub-agenty. Cron spustí uložený podnět podle harmonogramu a plány přežijí restarty, takže dlouhý úkol může pokračovat i po zavření aplikace.

Kvalita se mezi modely liší a jakýkoli model může špatně přečíst log nebo navrhnout nesprávné nastavení. Před přijetím si diff přečtěte. Ask first pozastaví akce, které něco mění, Plan only napíše plán a nic nespustí a Auto-run provede akci okamžitě, takže přizpůsobte režim riziku změny. Výsledek si otestujte sami, například přihlášením z druhé relace.