Nhà cung cấp OpenAI
Thiết lập
Chọn OpenAI, nhập khóa API và giữ https://api.openai.com/v1 nếu dùng điểm cuối chính thức. Chọn mô hình tài khoản được phép dùng và hỗ trợ Chat Completions. Mô hình chỉ có trên API khác không trở nên tương thích chỉ vì xuất hiện trong danh sách.
Với cổng trung gian, chọn hồ sơ tương ứng để dùng đúng điểm cuối và header. Với Azure, dùng Azure OpenAI, cấu hình deployment và phiên bản API riêng.
Điểm cuối và xác thực
| Trường | Giá trị đặt sẵn |
|---|---|
| Giao vận | openai-compatible |
| Khóa API | Bắt buộc |
| URL cơ sở | https://api.openai.com/v1 |
| Mô hình mặc định | gpt-4o |
| Temperature | 0.5 |
| Thử kết nối | models-then-chat |
Chương trình chuẩn hóa các dạng URL cơ sở đã biết trước khi tạo tuyến danh sách hoặc chat. Bắt đầu từ URL đặt sẵn và kiểm tra tuyến đã giải khi debug, thay vì đoán rồi nối thêm đoạn đường dẫn.
Tìm mô hình
Fetch models truy vấn điểm cuối đã cấu hình. Kiểm tra kết nối có thể thành công từ danh sách mà chưa xác minh sinh chat. Sau phép thử, chạy ghi chú dùng một lần với đúng nhà cung cấp/mô hình.
Suy luận, tư duy, lấy mẫu và token đầu ra phụ thuộc hồ sơ cùng quy tắc lúc chạy cho mô hình. Kiểm tra tổ hợp thật; xuất hiện trong danh sách không bảo đảm mọi tham số được nhận.
Khắc phục sự cố
401/403: kiểm tra khóa API, quyền dự án, quyền mô hình và trạng thái tài khoản.404: kiểm tra điểm cuối, ID và API mô hình hỗ trợ.- Danh sách hoạt động nhưng tác vụ lỗi: xem lỗi chat thực tế và tham số yêu cầu.
- Kết quả dài bị lỗi hoặc cắt: xem giới hạn đầu ra, kích thước nguồn và phản hồi; phép thử ngắn không tái hiện mọi lỗi yêu cầu dài.
Khi nên dùng
Dùng cho mô hình OpenAI trực tiếp nhận Chat Completions đã triển khai. Đánh giá bằng ghi chú đại diện trước khi chọn cho công việc. Giá và khả năng dùng mô hình thay đổi độc lập với bản phát hành Notemd.
Tiếp theo
- Tổng quan: định tuyến và giao thức.
- Khắc phục sự cố: bằng chứng đã lọc và lỗi đầu ra.