Tentukan tujuan prompt sebelum menghubungkan model
Portward mendukung tiga jenis model: penyedia AI cloud melalui endpoint API standar, model yang berjalan di PC Anda, dan model bawaan. Setiap pilihan menentukan ke mana prompt Anda dikirim, jadi tentukan pilihan ini sebelum mengarahkan agen ke server.
Tiga cara menghubungkan model
Penyedia AI cloud
Penyedia cloud terhubung melalui endpoint API standar yang Anda masukkan di pengaturan bersama kunci API Anda. Portward mengirim prompt Anda ke endpoint tersebut, dan prompt dapat menyertakan teks file atau log apa pun yang telah dibaca agen, sehingga model cloud menerima teks tersebut. Obrolan, folder kerja, dan kunci API Anda tetap berada di PC, dan rahasia dalam output alat akan dihapus sebelum mencapai model. Jalur ini umum untuk log panjang dan file konfigurasi besar karena model tidak dibatasi oleh perangkat keras Anda. Baca ketentuan resmi penyedia untuk mengetahui cara mereka menangani prompt, lalu tekan tombol Uji setelah memasukkan endpoint.
Model di PC Anda
Model yang berjalan secara lokal di PC Anda menyimpan semuanya di mesin tersebut: dengan model lokal, tidak ada data yang keluar dari mesin itu. Anda menghubungkan Portward ke endpoint lokal, dan tombol Uji menampilkan waktu respons serta jendela konteks. Kecepatan dan kualitas bergantung pada model dan perangkat keras Anda. Model yang lebih kecil mungkin lebih sering salah pada file konfigurasi panjang, jadi bacalah setiap diff dengan hati-hati. Jalur ini cocok untuk catatan dan log yang tidak ingin Anda kirim ke penyedia mana pun, misalnya salinan konfigurasi email yang berisi nama pribadi.
Model bawaan
Model bawaan siap digunakan tanpa perlu endpoint tambahan, sehingga Anda tidak perlu memasukkan apa pun sebelum memulai tugas pertama. Pilih opsi ini jika Anda ingin melihat kartu, diff, dan mode persetujuan sebelum menghubungkan model lain. Anda dapat beralih ke model cloud atau lokal nanti jika tugas memerlukan model yang lebih besar. Kualitas bervariasi tergantung tugas, jadi bacalah setiap kartu hasil dan diff sebelum menerimanya, serta uji hasilnya di server dari sesi kedua.
Apa yang dicek oleh tombol Uji
Tombol Uji memeriksa endpoint, lalu menampilkan waktu respons dan jendela konteks. Jalankan uji ini setelah memasukkan endpoint cloud atau lokal, sebelum memberikan tugas server ke agen. Jendela konteks memberi tahu Anda berapa banyak teks yang muat dalam satu permintaan, hal ini penting saat Anda menempelkan log panjang atau file konfigurasi. Jika uji gagal, periksa alamat endpoint dan kunci, perbaiki, lalu jalankan uji lagi sebelum memulai tugas.
Pilih model untuk tugas
Gunakan model yang lebih besar untuk langkah sulit, seperti membaca log panjang atau merencanakan perubahan firewall, dan model yang lebih kecil untuk pengeditan kecil, seperti perubahan satu baris pada file konfigurasi yang disalin. Alat run_on_model mengirim langkah sulit ke model yang lebih besar sementara sisa obrolan tetap menggunakan model default Anda. Alat tugas memisahkan pemeriksaan independen, seperti ruang disk dan status layanan, ke agen bawahan paralel. Cron menjalankan prompt yang disimpan secara berkala, dan rencana tersimpan setelah restart, sehingga pekerjaan panjang dapat berlanjut setelah Anda menutup aplikasi.
Kualitas bervariasi antar model, dan model apa pun dapat salah membaca log atau menyarankan pengaturan yang salah. Bacalah diff sebelum menerimanya. Ask first menjeda sebelum tindakan yang mengubah sesuatu, Plan only menulis rencana dan tidak menjalankan apa pun, dan Auto-run bertindak segera, jadi sesuaikan mode dengan risiko perubahan. Uji hasilnya sendiri, misalnya dengan masuk dari sesi kedua.
