Chọn nơi gửi lời nhắc trước khi kết nối mô hình
Portward hoạt động với ba loại mô hình: nhà cung cấp AI đám mây qua điểm cuối API tiêu chuẩn, mô hình chạy cục bộ trên PC của bạn và mô hình tích hợp. Mỗi lựa chọn quyết định nơi lời nhắc của bạn được gửi đi, vì vậy hãy quyết định trước khi giao tác vụ cho tác nhân.
Ba cách kết nối mô hình
Nhà cung cấp AI đám mây
Nhà cung cấp đám mây kết nối qua điểm cuối API tiêu chuẩn mà bạn nhập trong cài đặt cùng với khóa API của mình. Portward gửi lời nhắc của bạn đến điểm cuối đó, và một lời nhắc có thể bao gồm văn bản của bất kỳ tệp hoặc nhật ký nào tác nhân đã đọc, vì vậy mô hình đám mây nhận được văn bản đó. Các cuộc trò chuyện, thư mục làm việc và khóa API của bạn vẫn nằm trên PC, và các bí mật trong kết quả công cụ được ẩn trước khi gửi đến mô hình. Đường này phổ biến cho nhật ký dài và tệp cấu hình lớn, vì mô hình không bị giới hạn bởi phần cứng của bạn. Đọc điều khoản của nhà cung cấp để xem cách họ xử lý lời nhắc, và nhấn nút Test sau khi nhập điểm cuối.
Mô hình trên PC của bạn
Mô hình chạy cục bộ trên PC của bạn giữ mọi thứ trên máy: với mô hình cục bộ, không có dữ liệu nào rời khỏi máy. Bạn kết nối Portward với điểm cuối cục bộ, và nút Test báo cáo thời gian phản hồi và cửa sổ ngữ cảnh. Tốc độ và chất lượng phụ thuộc vào mô hình và phần cứng của bạn, và một mô hình nhỏ hơn có thể mắc lỗi nhiều hơn với tệp cấu hình dài, vì vậy hãy đọc từng diff cẩn thận. Đường này phù hợp với ghi chú và nhật ký mà bạn không muốn gửi cho bất kỳ nhà cung cấp nào, ví dụ bản sao cấu hình email chứa tên riêng.
Mô hình tích hợp
Mô hình tích hợp sẵn sàng sử dụng mà không cần điểm cuối riêng, vì vậy không cần nhập gì trước tác vụ đầu tiên. Chọn nó khi bạn muốn xem các thẻ, các diff và chế độ phê duyệt trước khi kết nối bất kỳ thứ gì khác. Bạn có thể chuyển sang mô hình đám mây hoặc cục bộ sau nếu tác vụ cần mô hình lớn hơn. Chất lượng thay đổi tùy theo tác vụ, vì vậy hãy đọc thẻ kết quả và diff trước khi chấp nhận, và kiểm tra kết quả trên máy chủ từ một phiên thứ hai.
Nút Test kiểm tra gì
Nút Test kiểm tra một điểm cuối, sau đó hiển thị thời gian phản hồi và cửa sổ ngữ cảnh. Chạy nó sau khi nhập điểm cuối đám mây hoặc cục bộ, trước khi giao tác vụ máy chủ cho tác nhân. Cửa sổ ngữ cảnh cho bạn biết bao nhiêu văn bản vừa với một yêu cầu, điều này quan trọng khi bạn dán nhật ký dài hoặc tệp cấu hình. Nếu kiểm tra thất bại, hãy kiểm tra địa chỉ điểm cuối và khóa, sửa chúng và chạy lại kiểm tra trước khi bắt đầu tác vụ.
Chọn mô hình cho tác vụ
Sử dụng mô hình lớn hơn cho các bước khó, chẳng hạn như đọc nhật ký dài hoặc lập kế hoạch thay đổi tường lửa, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ, chẳng hạn như một dòng trong tệp cấu hình được sao chép. Công cụ run_on_model gửi bước khó đến mô hình lớn hơn trong khi phần còn lại của cuộc trò chuyện vẫn ở mô hình mặc định của bạn. Công cụ task chia các kiểm tra độc lập, chẳng hạn như dung lượng đĩa và trạng thái dịch vụ, giữa các tác nhân con song song. Cron chạy lời nhắc đã lưu theo lịch trình, và kế hoạch tồn tại sau khi khởi động lại, vì vậy một tác vụ dài có thể tiếp tục sau khi bạn đóng ứng dụng.
Chất lượng thay đổi giữa các mô hình, và bất kỳ mô hình nào cũng có thể đọc sai nhật ký hoặc đề xuất cài đặt sai. Đọc diff trước khi chấp nhận. Ask first tạm dừng trước các hành động thay đổi thứ gì đó, Plan only viết kế hoạch và không chạy gì, và Auto-run thực hiện ngay lập tức, vì vậy hãy khớp chế độ với rủi ro của thay đổi. Tự kiểm tra kết quả, chẳng hạn bằng cách đăng nhập từ một phiên thứ hai.
