Skip to main content

ספקים בסין

💡TL;DR

Notemd תומך בספקים מהאזור של סין וממקור של סין דרך קצוות תואמים בעיקר ל-OpenAI. הקבוצה הנוכחית כוללת את DeepSeek, Qwen, Qwen Code, Doubao, Moonshot, Xiaomi MiMo, GLM, MiniMax, Baidu Qianfan, SiliconFlow, Huawei Cloud MaaS ו-Z AI. היתרון הוא הגישה האזורית ושליטה בעלויות; הסיכון הוא שמות מודלים ספציפיים לספק ובקרת חשבונות.

זהו חלק מהObsidian מדריך ניהול ידע AI.

הגדרה

יש ליצור חשבון ספק, לייצר מפתח API, ולאחר מכן לבחור את ההגדרה המותאמת של הספק Notemd במקום להשתמש בפרופיל כללי OpenAI. ההגדרה הזו כוללת את Base URL הבסיסי, מודל, מצב בדיקה API, התנהגות גילוי מודלים, וכל שדות UI ספציפיים לספק.

יש להשתמש בבחירת מודל לפי משימה באופן אגרסיבי כאן. לדוגמה, לשמור על DeepSeek או GLM בעבודות הדורשות חשיבה מורכבת, להשתמש ב-Qwen או Moonshot לעבודות רחבות בשפה הסינית, ולהפנות משימות קידוד ל-Qwen Code כאשר החשבון הזה מציג מודלי מתכנתים.

קצה ואימות

ספקמודל ברירת המחדלBase URL
DeepSeekdeepseek-v4-proapi.deepseek.com
Qwenqwen3-235b-a22bdashscope.aliyuncs.com/compatible-mode/v1
Qwen Codeqwen3-coder-plusdashscope.aliyuncs.com/compatible-mode/v1
Doubao(נדרש מזהה קצה)ark.cn-beijing.volces.com/api/v3
Moonshotkimi-k2-0905-previewapi.moonshot.cn/v1
Xiaomi MiMomimo-v2.5-proapi.xiaomimimo.com/v1
GLMglm-5open.bigmodel.cn/api/paas/v4
MiniMaxMiniMax-M2.7api.minimaxi.com/v1
Baidu Qianfanernie-4.5-turbo-32kqianfan.baidubce.com/v2
SiliconFlowQwen/QwQ-32Bapi.siliconflow.cn/v1
Huawei Cloud MaaSDeepSeek-V3api.modelarts-maas.com/v1
Z AIglm-5api.z.ai/api/paas/v4

הערה: Doubao דורש מזהה קצה של Ark (פורמט: ep-xxxxxxxx-xxxx-xxxx) במקום שם מודל סטנדרטי.

רוב הספקים האלה משתמשים בסביבת ביצועים משותפת תואמת ל-OpenAI, אך הסמנטיקה של החשבונות והמודלים שלהם שונה. יש לשמור על Base URL הספציפי להגדרה אלא אם כן בדקתם את קצה החלופי של החשבון.

גילוי מודלים

DeepSeek, Qwen, Qwen Code, Doubao, Moonshot, Xiaomi MiMo, GLM, Z AI, MiniMax, Baidu Qianfan ו-SiliconFlow משתמשים בגילוי מודלים תואם ל-OpenAI כאשר הספק תומך ברשימה. Huawei Cloud MaaS משתמש במודל huaweicloud-modelarts-models מכיוון שמטא-נתוני ההפעלה של ModelArts אינם זהים לרשימה כללית של /v1/models.

אל תטילו את כישלון הגילוי כהוכחה ששיחה בלתי אפשרית. מספר ספקים מאפשרים שיחה תוך הגבלת זכויות רשימת המודלים. במקרה כזה, יש לשמור על מזהה מודל מפורש בפרופיל ולבדוק זאת עם מבחן החיבור.

פתרון בעיות

  • האימות מצליח אך השיחה נכשלת: שם המודל עשוי להיות מחוץ להרשאות או לאזור של החשבון.
  • Doubao נכשל עם שם מודל רגיל: יש להשתמש במזהי קצה של Ark בשדה המודל כאשר ההפעלה שלכם דורשת זאת.
  • תגובות החשיבה מקוצרות: בדקו את מספר הטוקנים המרבי הספציפי לספק ואת הגדרות הטוקן המרבי המבוססות מודל של Notemd.
  • הרשתות האזוריות שונות: השתמשו בקצה של הספק באזור סין כאשר מחשב האוצר נמצא בסין; השתמשו רק בקצה הבינלאומי כאשר החשבון ונתיב הרשת שניהם תקינים.

מתי להשתמש

השתמשו בספקים מסין כאשר עיכובים אזוריים, גישה לתשלומים/חשבונות, איכות בשפה הסינית או העלות הם המגבלה העיקרית. העדיפו OpenAI ישיר, Anthropic, Google או ספקים מקומיים כאשר אתם זקוקים לגבולות פרוטוקול פשוטים יותר או לעקביות חזקה יותר בניפוי שגיאות בין ספקים.


צעדים באופק

  • LLM Providers -- תצורה מלאה, מודלים לכל משימה, ולוגיקת ניסיונות חוזרים
  • פתרון בעיות -- תקן בעיות של חיבור אזורי ושגיאות אימות