اربط نقطة نهاية OpenAI-compatible واحدة بـ LiteLLM
يتحدث LiteLLM بلغة OpenAI افتراضيًا. سجّل هذه البوابة باعتبارها OpenAI-compatible provider — عنوان base URL واحد ومفتاح واحد — ووجّه GPT وClaude وGrok وKimi وGLM وDeepSeek عبر إعداد LiteLLM الحالي لديك.
هذه البوابة باعتبارها LiteLLM provider مقابل ربط كل مزوّد على حدة
يستطيع LiteLLM التحدث مع مزوّدين كُثُر، لكن كلًا منهم يحتاج إلى بيانات اعتماد وإعدادات خاصة به. توجيهه إلى بوابة متوافقة واحدة يختزل ذلك كله إلى مدخل واحد.
| هذه البوابة في LiteLLM | كل مزوّد على حدة في LiteLLM | |
|---|---|---|
| مداخل المزوّدين المطلوب إعدادها | مدخل OpenAI-compatible واحد | كتلة لكل مزوّد بمفاتيح منفصلة |
| بيانات الاعتماد المطلوب تدويرها | مفتاح واحد | مفتاح لكل مزوّد منبع |
| توجيه النماذج | التبديل بسلسلة النموذج تحت عنوان base URL واحد | ربط كل نموذج بإعدادات مزوّده |
| النماذج الصينية | Kimi وQwen وGLM وDeepSeek في المدخل نفسه | إعداد منفصل، وبعضها غير مدعوم أصلًا |
| الفوترة | رصيد CNY مدفوع مسبقًا، بلا انتهاء صلاحية | تُفوتَر كل مزوّد على حدة |
| الخصائص الأصلية للمزوّد | سطح OpenAI الشائع | دعم كامل لمعاملات كل مزوّد |
لمن هذا
مناسب لك إذا كنت
- تشغّل LiteLLM بالفعل (مكتبة أو وكيل) وترغب في إعدادات مزوّدين أقل
- تريد مفتاحًا واحدًا وعنوان base URL يغطيان النماذج المتقدمة والصينية
- تفضّل تدوير بيانات اعتماد واحدة على كثرة مفاتيح المزوّدين
- تريد رصيدًا مدفوعًا مسبقًا بدلًا من عدة فواتير محسوبة بالاستهلاك
غير مناسب لك إذا كنت
- تحتاج إلى أن يمرّر LiteLLM معاملات أصلية للمزوّد لا تكشفها هذه البوابة
- مضطرًا للإبقاء على الفوترة المباشرة لكل مزوّد لأغراض إسناد التكاليف
- تتطلب فوترة بالدولار الأمريكي لأغراض الشراء
- تعتمد على نموذج لا توجّهه البوابة
قيود صريحة
ما المتوقع عندما يوجَّه LiteLLM إلى بوابة متوافقة.
- ميزات LiteLLM الخاصة بكل مزوّد لا تعمل إلا إذا كشفها السطح الأساسي؛ والنقطة المتوافقة تغطي معاملات OpenAI الشائعة.
- الفوترة والرصيد المدفوع مسبقًا بعملة CNY؛ وسيعكس تتبع التكلفة في LiteLLM تسعير البوابة لا تسعير المورّد المنبع.
- حدود المعدل لكل مفتاح — اضبط إعادة المحاولة والتراجع في LiteLLM لأخطاء HTTP 429.
- لا ننشر أرقام كمون لم نقسها. أجرِ اختبار أداء عبر إعداد LiteLLM لديك قبل الالتزام.
ما الذي تسجّله في LiteLLM
القيم الملموسة لمدخل OpenAI-compatible provider. تُطبَّق المضاعفات على أساس 0.4 CNY لكل 1M رمز.
تعتمد الإنتاجية والكمون عبر LiteLLM على نشرك ومنطقتك. لا ننشر أرقامًا لم نقسها — شغّل اختبار أداء LiteLLM الخاص بك مقابل نقطة النهاية الموثّقة.
واجهة برمجية متوافقة مع LiteLLM — الأسئلة الشائعة
كيف أضيف هذه البوابة إلى LiteLLM؟
سجّل OpenAI-compatible provider مع تعيين api_base على https://api.llm-token.cn/v1 ومفتاحك باعتباره api_key. ثم استدعِ النماذج بسلسلة النموذج الخاصة بالبوابة.
هل يعمل مع مكتبة LiteLLM والوكيل معًا؟
نعم. كل ما يقبل OpenAI-compatible base URL ومفتاحًا يعمل — مكتبة Python، وخادم الوكيل، والأطر التي تغلّف LiteLLM.
هل يستطيع LiteLLM توجيه النماذج الصينية عبرها؟
نعم. ولأنها تتشارك عنوان OpenAI-compatible base URL واحدًا، يصل LiteLLM إلى Kimi وQwen وGLM وDeepSeek بسلسلة النموذج دون إعداد مزوّد منفصل.
كيف تُتتبَّع التكلفة؟
يتتبع LiteLLM الاستخدام وفق أسعار البوابة لكل نموذج (مضاعف ثابت على أساس 0.4 CNY لكل 1M رمز)، تُدفع من رصيد مدفوع مسبقًا لا تنتهي صلاحيته أبدًا.
LiteLLM provider واحد، كل النماذج
اشترِ مفتاحًا، وأضف مدخل OpenAI-compatible واحدًا، ووجّه كل شيء عبر LiteLLM.