เลือกเส้นทางของ prompt ก่อนเชื่อมต่อโมเดล

Portward รองรับโมเดลสามประเภท: ผู้ให้บริการ AI ผ่านคลาวด์ด้วย endpoint API มาตรฐาน โมเดลที่ทำงานในเครื่อง PC ของคุณ และโมเดลในตัว การเลือกแต่ละแบบกำหนดว่า prompt ของคุณจะถูกส่งไปที่ไหน ดังนั้นควรตัดสินใจก่อนกำหนดเป้าหมาย agent ให้กับเซิร์ฟเวอร์

สามวิธีในการเชื่อมต่อโมเดล

ผู้ให้บริการ AI แบบคลาวด์

ผู้ให้บริการคลาวด์เชื่อมต่อผ่าน endpoint API มาตรฐานที่คุณป้อนในการตั้งค่าพร้อมกับ API key ของคุณ Portward ส่ง prompt ของคุณไปยัง endpoint นั้น และ prompt สามารถรวมข้อความของไฟล์หรือบันทึกที่ agent อ่านได้ ดังนั้นโมเดลคลาวด์จึงได้รับข้อความนั้น ชัตของคุณ โฟลเดอร์การทำงาน และ API key ยังคงอยู่บน PC ของคุณ และข้อมูลลับในผลลัพธ์ของเครื่องมือจะถูกซ่อนก่อนส่งไปยังโมเดล เส้นทางนี้เป็นที่นิยมสำหรับบันทึกยาวและไฟล์กำหนดค่าขนาดใหญ่ เนื่องจากโมเดลไม่ถูกจำกัดด้วยฮาร์ดแวร์ของคุณ อ่านข้อกำหนดของผู้ให้บริการเพื่อดูว่าจัดการกับ prompt อย่างไร และกดปุ่ม Test หลังจากป้อน endpoint แล้ว

โมเดลในเครื่อง PC ของคุณ

โมเดลที่ทำงานในเครื่อง PC ของคุณเก็บข้อมูลทั้งหมดไว้ในเครื่อง: ด้วยโมเดลในเครื่อง ข้อมูลจะไม่ออกนอกเครื่องเลย คุณเชื่อมต่อ Portward กับ endpoint ในเครื่อง และปุ่ม Test จะรายงานเวลาตอบสนองและหน้าต่างบริบท ความเร็วและคุณภาพขึ้นอยู่กับโมเดลและฮาร์ดแวร์ของคุณ และโมเดลขนาดเล็กอาจทำผิดพลาดมากขึ้นในไฟล์กำหนดค่าที่ยาว ดังนั้นควรอ่าน diff อย่างระมัดระวัง เส้นทางนี้เหมาะสำหรับบันทึกและไฟล์ที่คุณไม่ต้องการส่งไปยังผู้ให้บริการใดๆ เช่น สำเนาไฟล์กำหนดค่าอีเมลที่มีชื่อส่วนตัว

โมเดลในตัว

โมเดลในตัวพร้อมใช้งานโดยไม่ต้องมี endpoint ของคุณเอง ดังนั้นจึงไม่ต้องป้อนอะไรก่อนงานแรก เลือกใช้เมื่อคุณต้องการดูการ์ด diff และโหมดการอนุมัติก่อนเชื่อมต่อสิ่งอื่น คุณสามารถสลับไปยังโมเดลคลาวด์หรือโมเดลในเครื่องภายหลังหากงานต้องการโมเดลที่ใหญ่กว่า คุณภาพอาจแตกต่างกันไปตามงาน ดังนั้นควรอ่านการ์ดผลลัพธ์และ diff แต่ละรายการก่อนยอมรับ และทดสอบผลลัพธ์บนเซิร์ฟเวอร์ของคุณจากเซสชันที่สอง

สิ่งที่ปุ่ม Test ตรวจสอบ

ปุ่ม Test ตรวจสอบ endpoint จากนั้นแสดงเวลาตอบสนองและหน้าต่างบริบท ให้รันหลังจากป้อน endpoint คลาวด์หรือโมเดลในเครื่อง ก่อนมอบงานเซิร์ฟเวอร์ให้กับ agent หน้าต่างบริบอกบอกคุณว่าข้อความขนาดเท่าใดที่พอดีกับคำขอหนึ่งครั้ง ซึ่งสำคัญเมื่อคุณวางบันทึกยาวหรือไฟล์กำหนดค่า หากการทดสอบล้มเหลว ให้ตรวจสอบที่อยู่ endpoint และ key แก้ไขให้ถูกต้องแล้วรันการทดสอบอีกครั้งก่อนเริ่มงาน

เลือกโมเดลสำหรับงาน

ใช้โมเดลขนาดใหญ่สำหรับขั้นตอนที่ยาก เช่น การอ่านบันทึกยาวหรือวางแผนการเปลี่ยนแปลงไฟร์วอลล์ และใช้โมเดลขนาดเล็กสำหรับการแก้ไขเล็กๆ เช่น การแก้ไขบรรทัดเดียวในไฟล์กำหนดค่าที่คัดลอกมา เครื่องมือ run_on_model ส่งขั้นตอนที่ยากไปยังโมเดลขนาดใหญ่ในขณะที่การสนทนาอื่นๆ ยังคงใช้โมเดลเริ่มต้น เครื่องมือ task แบ่งการตรวจสอบที่อิสระ เช่น พื้นที่ดิสก์และสถานะบริการ ไปยัง sub-agent แบบขนาน Cron รัน prompt ที่บันทึกไว้ตามกำหนดเวลา และแผนงานจะคงอยู่หลังจากการรีสตาร์ท ดังนั้นงานที่ยาวสามารถดำเนินต่อได้หลังจากปิดแอป

คุณภาพแตกต่างกันระหว่างโมเดล และโมเดลใดๆ ก็อาจอ่านบันทึกผิดหรือแนะนำการตั้งค่าที่ผิด อ่าน diff ก่อนยอมรับ Ask first จะหยุดก่อนการดำเนินการที่เปลี่ยนแปลงสิ่งใด Plan only จะเขียนแผนและรันอะไรไม่เลย และ Auto-run จะดำเนินการทันที ดังนั้นควรจับคู่โหมดกับความเสี่ยงของการเปลี่ยนแปลง ทดสอบผลลัพธ์ด้วยตนเอง เช่น โดยการเข้าสู่ระบบจากเซสชันที่สอง