Modeli bağlamadan önce isteklerinizin nereye gideceğini belirleyin

Portward üç tür modelle çalışır: standart bir API uç noktası üzerinden bir bulut AI sağlayıcısı, PC'nizde yerel olarak çalışan bir model ve dahili model. Her seçim, isteklerinizin nereye gideceğini belirler; bu yüzden ajanı bir sunucuya yönlendirmeden önce kararı verin.

Bir modeli bağlamanın üç yolu

Bulut AI sağlayıcısı

Bir bulut sağlayıcısı, ayarlarda kendi API anahtarınızla birlikte girdiğiniz standart bir API uç noktası üzerinden bağlanır. Portward, isteklerinizi bu uç noktaya gönderir; bir istek, ajanın okuduğu herhangi bir dosyanın veya günlük metnini içerebilir, bu nedenle bulut modeli bu metni alır. Sohbetleriniz, çalışma klasörleriniz ve API anahtarlarınız PC'nizde kalır ve araç çıktısındaki gizli bilgiler modele ulaşmadan önce maskelenir. Bu yöntem, uzun günlükler ve büyük yapılandırma dosyaları için yaygındır çünkü model kendi donanımınızla sınırlı değildir. Sağlayıcının kendi koşullarını okuyarak istekleri nasıl işlediğini öğrenin ve uç noktasını girdikten sonra Test düğmesine basın.

PC'nizdeki model

PC'nizde yerel olarak çalışan bir model her şeyi makinede tutar: yerel bir modelle hiçbir şey dışarı çıkmaz. Portward'ı yerel uç noktaya bağlarsınız ve Test düğmesi yanıt süresini ve bağlam penceresini gösterir. Hız ve kalite modele ve donanımınıza bağlıdır; daha küçük bir model uzun bir yapılandırma dosyasında daha fazla hata yapabilir, bu yüzden her farkı dikkatle okuyun. Bu yöntem, özel adlar içeren bir posta yapılandırma kopyası gibi herhangi bir sağlayıcıya göndermek istemediğiniz notlar ve günlükler için uygundur.

Dahili model

Dahili model, kendi uç noktanıza gerek duymadan kullanıma hazırdır, bu yüzden ilk görevden önce bir şey girmenize gerek yoktur. Başka bir şey bağlamadan önce kartlara, farklara ve onay modlarına bakmak istediğinizde bu seçeneği belirleyin. Bir görev daha büyük bir model gerektirirse daha sonra bulut veya yerel modele geçebilirsiniz. Kalite görevden göreve değişir, bu yüzden kabul etmeden önce her sonuç kartını ve her farkı okuyun ve sonucu ikinci bir oturumdan sunucunuzda test edin.

Test düğmesi neyi kontrol eder

Test düğmesi bir uç noktasını kontrol eder, ardından yanıt süresini ve bağlam penceresini gösterir. Ajanı bir sunucu görevine vermeden önce, bir bulut veya yerel uç noktası girdikten sonra çalıştırın. Bağlam penceresi, bir istekte ne kadar metnin sığacağını gösterir; bu, uzun bir günlük veya yapılandırma dosyası yapıştırırken önemlidir. Test başarısız olursa, uç noktası adresini ve anahtarı kontrol edin, düzeltin ve görevi başlatmadan önce testi tekrar çalıştırın.

Görev için bir model seçin

Uzun bir günlük okuma veya bir güvenlik duvarı değişikliği planlama gibi zor adımlar için daha büyük bir model kullanın; kopyalanan bir yapılandırma dosyasındaki tek bir satır gibi küçük düzenlemeler için daha küçük bir model kullanın. run_on_model aracı, zor bir adımı daha büyük bir modele gönderirken sohbetin geri kalanı varsayılan modelde kalır. task aracı, bağımsız kontrolleri (örneğin disk alanı ve hizmet durumu) paralel alt ajanlara böler. Cron, kaydedilmiş bir istemi zamanlanmış olarak çalıştırır ve planlar yeniden başlatmalardan sonra kaybolmaz, bu yüzden uzun bir iş, uygulamayı kapattıktan sonra devam edebilir.

Modeller arasında kalite değişir ve herhangi bir model bir günlüğü yanlış okuyabilir veya yanlış bir ayar önerebilir. Kabul etmeden önce farkı okuyun. Ask first, bir şeyleri değiştiren eylemlerden önce duraklatır; Plan only bir plan yazar ve hiçbir şey çalıştırmaz; Auto-run ise hemen harekete geçer. Bu yüzden modu değişikliğin riskine uygun hale getirin. Sonucu kendiniz test edin, örneğin ikinci bir oturumdan oturum açarak.