التربيعية باهظة الثمن: منحنى تكلفة وكيل LLM

التربيعية باهظة الثمن: منحنى تكلفة وكيل LLM

لا تتزايد تكاليف وكيل LLM بشكل خطي - فهي تنمو بشكل تربيعي، مما يعني أنه مع نمو سير العمل الخاص بك من حيث التعقيد وعدد الخطوات، فإن استهلاكك المميز (وفاتورتك) يتسارع بشكل أسرع بكثير مما تتوقعه معظم الفرق. ولم يعد فهم منحنى التكلفة هذا أمرًا اختياريًا؛ إنه الفرق بين استراتيجية الذكاء الاصطناعي المربحة وتلك التي تستنزف ميزانيتك بهدوء.

لماذا تتبع تكاليف وكيل LLM النمط التربيعي؟

السبب الجذري هو تراكم السياق. في كل مرة يتخذ وكيل LLM خطوة - استدعاء أداة، أو قراءة ملف، أو تقييم قرار - فإنه يقوم بإلحاق تلك النتيجة بنافذة السياق قيد التشغيل الخاصة به. عندما يتخذ الوكيل خطوته التالية، يجب عليه معالجة جميع الخطوات السابقة مرة أخرى. لا يكلف سير العمل المكون من عشر خطوات عشرة أضعاف تكلفة المكالمة المكونة من خطوة واحدة؛ يمكن أن تكلف ما يقرب من خمسة وخمسين مرة، لأنك تدفع بشكل أساسي مقابل المبلغ الثلاثي لكل تفاعل مع السياق.

هذه ليست مشكلة بائع أو خطأ مؤقت. إنه أمر أساسي لكيفية حساب النماذج القائمة على المحولات للانتباه. يتعامل كل رمز مميز مع كل رمز مميز سابق، مما يعني أن سياقًا مكونًا من 10,000 رمزًا مميزًا يكلف ما يقرب من أربعة أضعاف تكلفة معالجة رمز واحد من 5000 رمز مميز - ويسعد الوكلاء بتنمية سياقاتهم إلى مئات الآلاف من الرموز المميزة عبر المهام طويلة الأمد.

ما هي الفرق التي تقلل من تقدير فرق التكلفة في العالم الحقيقي باستمرار؟

تركز معظم توقعات التكلفة على ما هو واضح: سعر واجهة برمجة التطبيقات (API) لكل رمز مميز. لكن الفرق ذات الخبرة تتعلم بسرعة المضاعفات المخفية التي تؤدي إلى تفاقم التأثير التربيعي:

حلقات إعادة المحاولة: عندما يفشل الوكيل في الخطوة السابعة من الخطوة العاشرة ويعيد المحاولة من البداية، فإنك تدفع مقابل جميع الخطوات السبع السابقة مرة أخرى - بالإضافة إلى المحاولة الجديدة.

إسهاب استدعاء الأداة: يقوم الوكلاء الذين يقومون بإرجاع حمولات JSON الكاملة من واجهات برمجة التطبيقات الخارجية بدلاً من النتائج الملخصة بتضخيم السياق بسرعة، ويضيفون في بعض الأحيان 2000 إلى 5000 رمزًا مميزًا لكل استدعاء أداة.

الوكلاء الفرعيون المتوازيون: يؤدي تشغيل وكلاء متعددين في نفس الوقت إلى مضاعفة التكاليف عبر المنحنى التربيعي الفردي لكل وكيل، وليس فقط عبر عدد الوكلاء.

تكرار موجه النظام: تتم إعادة إدخال موجه نظام مكون من 3000 رمز مميز في كل خطوة، مما يعني أن سير العمل المكون من 20 خطوة يدفع مقابل 60000 رمز مميز من موجه النظام وحده قبل معالجة سطر واحد من بيانات المهمة الفعلية.

تصاريح التقييم والتفكير: يضيف الوكلاء الذين يقومون بالنقد الذاتي أو التحقق من مخرجاتهم تصاريح استدلال إضافية كاملة، ويدفع كل منهم تكلفة السياق المتراكمة بالكامل عند تلك النقطة في سير العمل.

"اللحظة الأكثر خطورة في اعتماد وكيل LLM هي عندما يبدأ شيء ما في العمل. تقوم الفرق بتوسيع سير العمل وإضافة الخطوات وإضافة الوكلاء - ولا تكتشف هيكل التكلفة التربيعية إلا عند وصول الفاتورة. وبحلول ذلك الوقت، تكون البنية قد تم دمجها بالفعل."

كيف يمكن للشركات أن تصمم طريقها للخروج من التكاليف التربيعية؟

والخبر السار هو أن القياس التربيعي ليس أمرًا حتميًا - فهو خيار تصميم يمكن عكسه جزئيًا باستخدام التصميم المتعمد. تتضمن استراتيجيات التخفيف الأكثر فعالية تقليم السياق، حيث يتم توجيه الوكلاء بشكل صريح لتلخيص النتائج الوسيطة وتجاهلها بدلاً من الاحتفاظ بمخرجات الأداة الأولية. تساعد أنماط الوكيل الهرمية أيضًا بشكل كبير: فبدلاً من وكيل واحد طويل الأمد يراكم سياقًا ضخمًا، يمكنك تنسيق الوكلاء الفرعيين قصيري العمر الذين يتعامل كل منهم مع مهمة ضيقة، ويسلمون ملخصًا مضغوطًا، وينتهي.

التخزين المؤقت هو أداة أخرى غير مستغلة بشكل كافٍ. يتيح لك التخزين المؤقت السريع - المدعوم الآن من قبل معظم موفري النماذج الرئيسيين - تجنب إعادة الدفع مقابل الأجزاء الثابتة من السياق الخاص بك مثل مطالبات النظام والمستندات المرجعية. بالنسبة للشركات التي تدير عمليات سير عمل آلية بكميات كبيرة، فإن هذا وحده يمكن أن يقلل التكاليف بنسبة 30-60%. وأخيرا، فإن توجيه النماذج - إرسال مهام فرعية أبسط إلى نماذج أصغر وأرخص مع الاحتفاظ بالنماذج الحدودية لاتخاذ قرارات تعتمد على المنطق - يؤدي إلى تسطيح منحنى التكلفة بشكل كبير.

ماذا يعني هذا بالنسبة للشركات التي تحاول وضع ميزانية لعمليات الذكاء الاصطناعي؟

تفترض ميزانية البرامج التقليدية أن التكاليف تتزايد مع المستخدمين

Related Posts

• أداة العزل في سطر الأوامر في macOS غير المعروفة (2025)
• لماذا أشعر بالقلق بشأن فقدان الوظيفة والأفكار حول الميزة النسبية
• ملحقات Chrome تتجسس على بيانات تصفح المستخدمين
• طريقة وآلة حاسبة لبناء منظمات الأدراج الرغوية