Skip to main content

Nhà cung cấp Anthropic

💡TL;DR

Anthropic sử dụng giao thức truyền tin Messages API bản gốc, chứ không phải giao thức tương thích OpenAI. Cài đặt mặc định hiện tại là claude-3-5-sonnet-20240620, https://api.anthropic.comtemperature: 0.5. Hãy coi nó như một giao diện giao thức riêng biệt khi gỡ lỗi.

Đây là một phần của Obsidian Hướng dẫn Quản lý Kiến thức AI.

Cài đặt

Tạo một khóa Anthropic API, thêm hồ sơ nhà cung cấp Anthropic, và để Base URL ở endpoint bản gốc trừ khi bạn đang định tuyến qua một hồ sơ gateway chuyên dụng. Chọn ID mô hình Claude mà bạn muốn sử dụng trong trường model; giá trị mặc định sẽ giữ nguyên mức cơ sở của sản phẩm hiện tại.

Anthropic là lựa chọn tốt cho việc tóm tắt chất lượng cao, tổng hợp nghiên cứu và trích xuất khái niệm. Nếu bạn kết hợp nó với các nhà cung cấp rẻ hơn, hãy chỉ sử dụng nó cho những nhiệm vụ mà chất lượng đầu ra của nó mang lại lợi ích.

Endpoint Và Xác thực

TrườngCài đặt mặc định
Giao thức truyền tinanthropic
Khóa APIYêu cầu
Base URLhttps://api.anthropic.com
Mô hình mặc địnhclaude-3-5-sonnet-20240620
Temperature0.5
Kiểm tra kết nốiChỉ chat

Thời gian chạy sẽ gửi yêu cầu đến /v1/messages với x-api-keyanthropic-version: 2023-06-01. Đừng cấu hình endpoint /v1/chat/completions theo kiểu OpenAI dưới cài đặt mặc định này; hãy sử dụng cài đặt gateway tương thích OpenAI thay vào đó.

Khám phá mô hình

Anthropic sử dụng chế độ khám phá anthropic-models trong danh bạ nhà cung cấp. Nếu khóa hoặc tài khoản của bạn không thể liệt kê các mô hình, hãy giữ một ID mô hình đã biết trong hồ sơ và xác thực thông qua bài kiểm tra kết nối.

Phương thức truyền dữ liệu này không thể thay thế cho các nhà cung cấp tương thích OpenAI. Một mô hình Claude được định tuyến qua OpenRouter, LiteLLM hoặc một cổng khác phải nằm trong hồ sơ của cổng đó, chứ không phải trong hồ sơ Anthropic gốc.

Khắc phục sự cố

  • 401 hoặc 403: kiểm tra phạm vi khóa, quyền truy cập workspace, việc thanh toán và xem khóa có thuộc workspace Anthropic mong muốn hay không.
  • 404: Base URL bị sai hoặc ID mô hình được chọn không có sẵn cho tài khoản.
  • ID mô hình Claude kiểu cổng thất bại: di chuyển hồ sơ sang nhà cung cấp cổng tương ứng vì Anthropic gốc yêu cầu tên mô hình gốc.
  • Các yêu cầu dài thất bại ở giai đoạn cuối: giảm kích thước đầu ra mô hình mỗi nhiệm vụ hoặc sử dụng mô hình có giới hạn token đầu ra lớn hơn.

Khi nào nên sử dụng

Hãy dùng Anthropic khi chất lượng tổng hợp, ghi chú nghiên cứu hoặc viết có cấu trúc quan trọng hơn chi phí thô. Đừng dùng nó như một giải pháp thay thế tổng quát tương thích OpenAI; điểm mạnh của phương thức truyền dữ liệu riêng biệt chính là ở đó, và việc kết hợp các giao thức sẽ khiến việc chẩn đoán trở nên khó khăn hơn.


Các bước tiếp theo

  • LLM Providers -- Cấu hình đầy đủ, mô hình mỗi nhiệm vụ và logic thử lại
  • Troubleshooting -- Sửa lỗi 401/403 và lỗi kết nối