मॉडल जोड़ने से पहले तय करें कि प्रॉम्प्ट कहाँ जाएंगे

Portward तीन तरह के मॉडल के साथ काम करता है: एक मानक API एंडपॉइंट वाले क्लाउड AI प्रदाता, आपके पीसी पर चलने वाला लोकल मॉडल, और इनबिल्ट मॉडल। हर विकल्प तय करता है कि आपके प्रॉम्प्ट्स कहाँ जाएंगे, इसलिए एजेंट को सर्वर पर इस्तेमाल करने से पहले यह सेटिंग चुन लें।

मॉडल कनेक्ट करने के तीन तरीके

क्लाउड AI प्रदाता

क्लाउड प्रदाता एक मानक API एंडपॉइंट के जरिए कनेक्ट होता है, जिसे आप सेटिंग्स में अपनी API कुंजी (API key) के साथ दर्ज करते हैं। Portward आपके प्रॉम्प्ट्स उस एंडपॉइंट पर भेजता है, और प्रॉम्प्ट में एजेंट द्वारा पढ़े गए किसी भी फ़ाइल या लॉग का पाठ शामिल हो सकता है, इसलिए क्लाउड मॉडल उस पाठ को प्राप्त करता है। आपकी चैट, वर्किंग फ़ोल्डर और API कुंजियाँ आपके पीसी पर ही रहती हैं, और टूल के आउटपुट में मौजूद गोपनीय जानकारी मॉडल तक पहुँचने से पहले छिपा दी जाती है। यह तरीका लंबे लॉग और बड़ी कॉन्फ़िगरेशन फ़ाइलों के लिए आम है, क्योंकि मॉडल आपके हार्डवेयर से सीमित नहीं होता। प्रदाता की अपनी शर्तें पढ़ें ताकि पता चले कि वह प्रॉम्प्ट्स को कैसे संभालता है, और एंडपॉइंट दर्ज करने के बाद टेस्ट बटन दबाएं।

आपके पीसी पर मॉडल

आपके पीसी पर चलने वाला मॉडल सब कुछ मशीन पर ही रखता है: लोकल मॉडल के साथ कुछ भी बाहर नहीं जाता। आप Portward को लोकल एंडपॉइंट से जोड़ते हैं, और टेस्ट बटन रिस्पॉन्स टाइम और कॉन्टेस्ट विंडो दिखाता है। गति और क्वालिटी मॉडल और आपके हार्डवेयर पर निर्भर करती है, और छोटा मॉडल लंबी कॉन्फ़िगरेशन फ़ाइल पर ज्यादा गलतियाँ कर सकता है, इसलिए हर डिफ़ को सावधानी से पढ़ें। यह तरीका उन नोट्स और लॉग्स के लिए उपयुक्त है जिन्हें आप किसी प्रदाता को नहीं भेजना चाहते, जैसे कि एक ईमेल कॉन्फ़िगरेशन की कॉपी जिसमें निजी नाम शामिल हों।

इनबिल्ट मॉडल

इनबिल्ट मॉडल बिना आपके अपने एंडपॉइंट के तुरंत इस्तेमाल के लिए तैयार है, इसलिए पहले कार्य से पहले कुछ भी दर्ज करने की जरूरत नहीं है। इसे चुनें जब आप कुछ और जोड़ने से पहले कार्ड्स, डिफ़ और अप्रूवल मोड देखना चाहते हों। यदि किसी कार्य के लिए बड़े मॉडल की जरूरत है, तो आप बाद में क्लाउड या लोकल मॉडल पर स्विच कर सकते हैं। क्वालिटी कार्य से कार्य अलग होती है, इसलिए इसे स्वीकार करने से पहले हर रिजल्ट कार्ड और हर डिफ़ पढ़ें, और अपने सर्वर पर दूसरी सेशन से आउटपुट टेस्ट करें।

टेस्ट बटन क्या चेक करता है

टेस्ट बटन एक एंडपॉइंट की जांच करता है, फिर रिस्पॉन्स टाइम और कॉन्टेस्ट विंडो दिखाता है। क्लाउड या लोकल एंडपॉइंट दर्ज करने के बाद, एजेंट को सर्वर टास्क देने से पहले इसे चलाएं। कॉन्टेस्ट विंडो बताती है कि एक रिक्वेस्ट में कितना पाठ फिट होता है, जो तब मायने रखता है जब आप एक लंबा लॉग या कॉन्फ़िगरेशन फ़ाइल पेस्ट करते हैं। यदि टेस्ट फेल हो जाता है, तो एंडपॉइंट एड्रेस और कुंजी चेक करें, उन्हें ठीक करें और कार्य शुरू करने से पहले टेस्ट फिर से चलाएं।

कार्य के हिसाब से मॉडल चुनें

लंबे लॉग पढ़ने या फ़ायरवॉल बदलाव की प्लानिंग जैसे कठिन स्टेप्स के लिए बड़ा मॉडल इस्तेमाल करें, और कॉपी की गई कॉन्फ़िगरेशन फ़ाइल में एक लाइन जैसे छोटे एडिट्स के लिए छोटा मॉडल इस्तेमाल करें। run_on_model टूल एक कठिन स्टेप को बड़े मॉडल पर भेजता है, जबकि चैट का बाकी हिस्सा आपके डिफ़ॉल्ट मॉडल पर रहता है। task टूल स्वतंत्र जांचों, जैसे डिस्क स्पेस और सर्विस स्टेटस, को पैरेलल सब-एजेंट्स के बीच बांटता है। Cron एक सेव्ड प्रॉम्प्ट को शेड्यूल के हिसाब से चलाता है, और प्लान रीस्टार्ट के बाद भी बने रहते हैं, इसलिए एक लंबा कार्य ऐप बंद करने के बाद भी जारी रह सकता है।

मॉडल के बीच क्वालिटी अलग-अलग होती है, और कोई भी मॉडल लॉग गलत पढ़ सकता है या गलत सेटिंग सुझा सकता है। इसे स्वीकार करने से पहले डिफ़ पढ़ें। Ask first एक्शन से पहले रुकता है जो कुछ बदलते हैं, Plan only एक प्लान लिखता है और कुछ नहीं चलाता, और Auto-run तुरंत एक्शन लेता है, इसलिए बदलाव के जोखिम के हिसाब से मोड चुनें। रिजल्ट की खुद जांच करें, उदाहरण के लिए दूसरी सेशन से लॉगिन करके।