ما هو التخزين المؤقت للمطالبات؟

يعيد تخزين المطالبات المؤقت استخدام معالجة النموذج السابقة للجزء الافتتاحي من المطالبة. عندما يبدأ الطلب بنفس الرموز التي يبدأ الطلب الأخير، يتم فوترة تلك الرموز المخزنة مؤقتا بمعدل قراءة ذاكرة مخبأة أقل في النماذج التي تدرج واحدا، بينما تفوتر الباقية بمعدل الإدخال العادي.

المفاهيم

ما هو التخزين المؤقت المحفز

قبل أن يكتب النموذج أي شيء، يعالج كل رمز من المدخلات. ترسل العديد من التطبيقات نفس رموز الافتتاح على كل طلب: موجه نظام طويل، مجموعة تعريفات الأدوات، مستند مرجعي، أو الأدوار المبكرة للمحادثة.

يحتفظ التخزين المؤقت للمطالبات بالنتيجة المعالجة لذلك الجزء الافتتاحي، والتي تسمى البادئة. عندما يبدأ طلب لاحق بنفس الرموز بالضبط، يعيد النموذج استخدام البادئة المخزنة مؤقتا ويعالج فقط الرموز الجديدة التي تليه. يتم توليد الناتج بالطريقة المعتادة، لذا يغير التخزين المؤقت كيفية فوترة المدخلات، وليس ما يكتبه النموذج.

تخيل مساعدا تجمع تعريفات التوجيه والأدوات الخاصة به 4000 رمز، يليه سؤال مكون من 150 رمزا. عندما يقرأ الجزء الافتتاحي من الذاكرة المؤقتة، يتم إصدار حوالي 4000 من أصل 4150 رمز إدخال بمعدل قراءة الذاكرة المؤقتة، ويتم احتساب السؤال فقط بمعدل الإدخال الكامل.

لماذا يجب أن تتطابق البادئة تماما

تطابق الذاكرة المؤقتة يبدأ من الرمز الأول ويتوقف عند الفرق الأول. أي حرف واحد تم تغييره قرب بداية المطالبة، مثل الطابع الزمني، أو اسم مستخدم، أو معرف الطلب في موجه النظام، لا يعني شيئا بعد إمكانية قراءته من الذاكرة المؤقتة. لرفع معدل ضربات الذاكرة المؤقتة:

  • ضع المحتوى المستقر أولا. التعليمات، تعريفات الأدوات، الأمثلة، والمستندات المرجعية الطويلة توضع في البداية. سؤال المستخدم، المقاطع المسترجعة، وأي شيء آخر يتغير يذهب في النهاية.
  • حافظ على الجزء المستقر متطابق. استخدم نفس الترتيب للأدوات والأمثلة، نفس الصياغة ونفس الفراغ في كل طلب.
  • إضافة بدلا من التحرير. في المحادثة، أضف كل دور جديد في النهاية واترك الأدوار السابقة دون تغيير، بحيث يمتد كل طلب للدور السابق.

البادئة المتطابقة تجعل قراءة الكاش محتملة، غير مؤكدة، لذا قس معدل الإصابة بدلا من افتراضه.

كيف يتم تحصيل المدخلات المخزنة مؤقتا على EmpirioLabs AI

التخزين المؤقت تلقائي. لا يوجد ذاكرة تخزين مؤقت لإنشاء ولا علامة لإضافتها: في النماذج التي تدعمه، يتم تخزين البادئات المتكررة مؤقتا بمفردها.

  • أي النماذج. يدعم النموذج التخزين المؤقت للمطالبات عند عرض سعر قراءة الذاكرة المؤقتة. النماذج المدرجة في هذه الصفحة لديها سعر واحد.
  • الفوترة. تحسب رموز الإدخال المخزنة مؤقتا بمعدل قراءة الذاكرة المؤقتة، وهو أقل من معدل الإدخال الطبيعي للنموذج. يتم فوترة الإدخال غير المخزنة وجميع رموز الإخراج بمعدلات المعتاد.
  • في واجهة برمجة التطبيقات الخاصة بالكتالوج. ابدأ /v1/models يبلغ المعدل ك input_cache_read في التسعير. في نموذج بدون خصم للذاكرة المؤقتة، يساوي معدل الإدخال الطبيعي.
  • في كل رد. عند تطبيق التخزين المؤقت، الاستخدام يبلغون عن الرموز المخزنة، على سبيل المثال cache_read_input_tokens على /v1/messages و input_tokens_details.cached_tokens على /v1/responses.
  • مع مرور الوقت. ال واجهة برمجة تطبيقات استخدام الحساب إرجاع cache_hit_rate، نسبة رموز الإدخال المقدمة من ذاكرة التخزين المؤقت في نافذة زمنية، عبر جميع النماذج أو لنموذج واحد.

الرموز المخزنة مؤقتا لا تزال مدخلة، لذا تحتسب ضمن نافذة السياق مثل أي رمز آخر.

حيث يساعد التخزين المؤقت أكثر

  • تطبيقات الدردشة والوكلاء الذين يعيدون إرسال محادثة متزايدة في كل منعطف.
  • العديد من الأسئلة تطرح على نفس المستند أو قاعدة الشيفرة الطويلة.
  • توليد معزز بالاسترجاع مع كتلة ثابتة من التعليمات والأمثلة.
  • خطوط أنابيب ترسل العديد من الطلبات عبر موجه نظام مشترك واحد.

التخزين المؤقت لا يفعل الكثير عندما يختلف كل طلب عن أول رمز له. لجانب التكلفة، انظر كيفية تحصيل الرموز ومعدلات قراءة الذاكرة المؤقتة الحالية على صفحة الأسعار.

النماذج التي تدعم التخزين المؤقت للمطالبات على EmpirioLabs AI

يعرض 36 من النماذج سعرًا للإدخال المخزّن مؤقتًا بجانب سعر الإدخال، يُقرأ مباشرة من كل جدول أسعار.

النموذجالإدخالالإدخال المخزّن مؤقتًا
GLM 4.5 Flash Z.aiمجانيمجاني
GLM 4.6V Flash Z.aiمجانيمجاني
GLM 4.7 Flash Z.aiمجانيمجاني
Qwen3.7 Flash Alibaba Cloud<=32K $0.03 32K-256K $0.10 256K-1M $0.20<=32K $0.006 32K-256K $0.02 256K-1M $0.04
GLM 4.6V FlashX Z.ai$0.04$0.036
Nova Micro 1.0 Amazon$0.040$0.0224
Qwen3.5 4B Alibaba Cloud$0.04$0.02
Gemma 4 26B-A4B Google$0.15$0.05$0.15$0.025
عرض جميع النماذج (36)
النموذجالإدخالالإدخال المخزّن مؤقتًا
Nova Lite 1.0 Amazon$0.069$0.0386
GLM 4.7 FlashX Z.ai$0.07$0.063
Qwen3.6 35B A3B Alibaba Cloud$0.248$0.07$0.035
Qwen3.5 9B Alibaba Cloud$0.10$0.09$0.045
Step 3.5 Flash StepFun$0.10$0.02
Step 3.5 Flash 2603 StepFun$0.10$0.02
MiniMax M3.1 Flash MiniMax$0.15$0.1125$0.015$0.01125
Qwen3.8 27B Alibaba Cloud$0.45$0.17$0.08
DeepSeek V4.1 Flash 1017 DeepSeek$0.20$0.02
Muse Glimmer 30B Meta AI$0.35$0.20$0.05
Step 3.7 Flash StepFun$0.20$0.04
MiniMax M3 MiniMax$0.30 <=512K $0.225 $0.60 >512K $0.45$0.06 <=512K $0.045 $0.12 >512K $0.09
Nova Lite 2 Amazon$0.38$0.2128
GLM 5.1 Z.ai$1.40 <=32K $0.825 $1.40 32K-200K $1.10$0.26 <=32K $0.165 $0.26 32K-200K $0.22
Kimi K2.6 Moonshot AI$0.95$0.8939$0.1788
Step 5 Preview StepFun$1.00$0.10
Muse Spark 1.1 Meta AI$1.25$1.00
Muse Spark 1.2 Meta AI$1.25$1.00
Muse Spark 1.3 Meta AI$1.25$1.00
Qwen4 Max Alibaba Cloud$1.50$0.075
StepAudio 2.5 Chat StepFun$1.50$0.30
StepAudio 2.5 Realtime StepFun$1.50$0.30
StepAudio 3 Chat StepFun$1.50$0.30
Fugu Max Sakana AI$2.00$0.25
Kimi K3.1 Pro Moonshot AI$2.00$0.184
Fugu Ultra v1.1 Sakana AI<=272K $5.00 >272K $10.00<=272K $0.50 >272K $1.00
Fugu Ultra v2.0 Sakana AI<=272K $5.00 >272K $10.00<=272K $0.50 >272K $1.00
Fugu Ultra v1.0 Sakana AI<=272K $7.50 >272K $15.00<=272K $1.50 >272K $3.00

الأسئلة الشائعة

هل أحتاج إلى تفعيل التخزين المؤقت للمطالبات؟

لا. في النماذج التي تدعم ذلك، ينطبق التخزين المؤقت تلقائيا على بادئات المطالبات المتكررة. ضع الجزء من المطالبة الذي لا يتغير في البداية لتحصل على أقصى استفادة منه.

كم تكلفة الإدخال المخزن مؤقتا؟

يتم احتساب رموز الإدخال المخزنة مؤقتا بمعدل قراءة ذاكرة التخزين المؤقت للنموذج، وهو أقل من معدل الإدخال العادي. كل نموذج يدعم التخزين المؤقت يعرض سعر قراءة الذاكرة المؤقتة الخاص به.

هل يغير التخزين المؤقت للمطالبات إجابة النموذج؟

لا. التخزين المؤقت يؤثر على كيفية معالجة المدخلات وفوترةها. النموذج يولد مخرجه بالطريقة المعتادة.

كيف يمكنني التحقق مما إذا كانت طلباتي تستخدم ذاكرة التخزين المؤقت؟

كائن الاستخدام في كل استجابة يبلغ عن رموز الإدخال المخزنة مؤقتا عند تطبيق التخزين المؤقت. كما تعيد واجهة برمجة تطبيقات استخدام الحساب معدل ضربات ذاكرة التخزين المؤقت لأي نافذة زمنية، عبر جميع النماذج أو لنموذج واحد.

هل أنت مستعد لاستخدام نقاط نهاية أفضل؟

تحقق من تسعيرنا أو تواصل إذا كنت ترغب في نشر نموذجك الخاص على مجموعتنا.