كلمة اللحظة، في عالم عملاء الذكاء الاصطناعي الصغير، هي هندسة السياق.

يبدو أنه تم اختراع علامة تجارية أخرى لبيع شيء قمنا به بالفعل. في جزء منه. ومع ذلك، وكما يحدث في كثير من الأحيان، فإن التسمية تنتشر لأنها تعطي اسمًا للألم الحقيقي.

الألم هو أن النماذج لا تفشل لمجرد أنها "لا تفكر". غالبًا ما يفشلون لأننا نرسلهم للعمل في الغرفة الخطأ.

نعطيهم تعليمات قديمة. نخفي عنه ملفات مهمة. نمرر لهم مستندات طويلة جدًا ولا نذكر ما يهم. نعرض لهم السجلات دون الأولوية. نعطيهم عشر أدوات دون أن نشرح لهم متى يستخدمونها. ثم نتفاجأ إذا تحرك الوكيل مثل شخص استيقظ في شقة مجهولة.

الموجه هو العبارة التي تقولها له. السياق هو العالم الذي تعده من حوله.

من الهندسة الفورية إلى هندسة السياق

غالبًا ما كان يُنظر إلى الهندسة السريعة على أنها كتابة. اختر الكلمات المناسبة، واسأل بالطريقة الصحيحة، وأضف الأمثلة، وحدد التنسيق.

هندسة السياق أقرب إلى الهندسة المعمارية.

أنت لا تسأل فقط "كيف أقوم بصياغة الطلب؟". يسأل:

• ما هي المعلومات المطلوبة حقا؟
• ما هي الضوضاء؟
• ما الذي يجب استعادته بسرعة؟
• ما الذي يجب أن نتذكره؟
• ما هي الأدوات التي يجب أن تتعرض لها؟
• ما هي التعليمات المستقرة والتي تعتمد على المهمة؟
• كيف أجعل الوكيل يفهم ما هو المعتمد؟

إنه تغيير دقيق ولكنه ضخم. لأنه عندما تعمل مع الوكلاء، فإن السياق ليس كتلة ثابتة. يتغير في كل خطوة.

يفتح الوكيل ملفًا، ويتعلم شيئًا ما، ويجري اختبارًا، ويتلقى خطأ، ويحدث الخطة، ويستدعي أداة، ويكتشف التبعية. مع كل لفة عليه أن يقرر ما الذي سيأخذه معه وما الذي يجب تركه.

هذه هي الهندسة.

السياق ليس مكب النفايات

أعطتنا القوالب ذات نوافذ السياق الكبيرة إغراءً: فلنضع كل شيء فيها.

إنه أمر مفهوم. إذا كان لدي مليون رمز، لماذا يجب أن أختار؟

لأنه حتى عندما تتمكن من وضع كل شيء، فهذا لا يعني أن كل شيء يساعد. في الواقع، الضوضاء لها تكلفة. إنه يكلف الرموز، ويكلف الاهتمام، ويكلف الكمون، ويكلف الجودة. يمكن أن يضيع النموذج في تفاصيل غير ذات صلة تمامًا مثلنا عندما نفتح عشرين علامة تبويب ولا نتذكر السبب.

السياق الجيد له تسلسل هرمي:

1. تعليمات وسياسات النظام؛
2. هدف محدد؛
3. الوضع الحالي.
4. البيانات ذات الصلة؛
5. القيود؛
6. الأدوات المتاحة.
7. متابعة القرارات التي تم اتخاذها بالفعل.

ليست هناك حاجة للتعامل مع كل شيء على نفس المستوى. أمر المستخدم يستحق أكثر من ملاحظة قديمة. إن الاختبار الفاشل أصبح الآن يستحق أكثر من مجرد تفضيل جمالي منذ ثلاثة أشهر. إن سياسة الأمان تستحق أكثر من مجرد اختصار للإنتاج.

تعني هندسة السياق أيضًا إعطاء الأوزان، وليس البيانات فقط.

الذاكرة: تذكر أقل، تذكر بشكل أفضل

تعد الذاكرة في الوكلاء واحدة من أكثر المواضيع زلقًا.

كمستخدم، تريد أن يعرفك الوكيل. تريده أن يتذكر اللهجة، والخطة، والاتفاقيات، والأشياء التي تم تحديدها بالفعل. كمهندس، أنت تعلم أن كل ذكرى مستمرة هي أيضًا خطر: يمكن أن تكون خاطئة، أو قديمة، أو شخصية جدًا، أو عامة جدًا، أو غير قابلة للتحقق.

يجب أن تتمتع الذاكرة المفيدة بثلاث صفات على الأقل:

• المصدر: من أين تأتي هذه المعلومات؟
• التاريخ: متى كان ذلك صحيحاً؟
• الغرض: ما نوع المهمة التي يجب استخدامها من أجلها؟

وبدون هذه الأشياء الثلاثة، تصبح الذاكرة خرافة.

أحب أن أفكر في الذاكرة الفاعلة باعتبارها مصنفًا، وليس كعقل سحري. هناك ملاحظات مؤقتة، وقرارات مؤكدة، وتفضيلات الأسلوب، والقيود الفنية، وروابط للمصادر. بعض الأشياء تنتهي صلاحيتها. البعض يحتاج إلى إعادة كتابة. ويجب حذف بعضها لأن الوكيل أخطأ في استنتاجها.

النظام الجيد يجب أن يجعل هذه الصيانة طبيعية. ليست بطولية.

الاسترجاع والأدوات ليسا نفس الشيء

عندما نتحدث عن السياق، غالبًا ما ينتهي بنا الأمر فورًا إلى RAG. التضمين، قاعدة بيانات المتجهات، التقطيع، إعادة الترتيب.

كلها مفيدة. لكن الاسترجاع ليس سوى طريقة واحدة لجلب المعلومات إلى النموذج. إنه ليس الوحيد.

يمكن للوكيل الحصول على السياق من خلال قراءة الملفات، والاستعلام عن واجهة برمجة التطبيقات، والاتصال بخادم MCP، وفتح المتصفح، وإجراء الاختبارات، والبحث في Slack، والنظر إلى لوحة المعلومات، وسؤال الإنسان.

الجزء المثير للاهتمام هو تحديد الطريق الذي يجب استخدامه ومتى.

إذا كان العميل بحاجة إلى الإجابة على سؤال تاريخي، فربما يكون مجرد الاسترجاع كافيًا. إذا كان عليه إصلاح خطأ ما، فعليه قراءة التعليمات البرمجية الحقيقية. إذا كان بحاجة إلى فهم سبب فشل النشر، فيجب عليه إلقاء نظرة على السجلات الجديدة. إذا كنت بحاجة إلى الكتابة إلى العميل، فأنت بحاجة إلى استرداد النغمة والتاريخ وحالة التذكرة. وإذا كان لا بد من التصرف في الإنتاج، فعليه أن يستأذن.

السياق ليس قاعدة بيانات. إنه سير العمل.

الوكيل الجيد يعرف أيضًا كيف يتجاهل

ستكون علامة النضج لدى الوكلاء هي القدرة على القول: لا أحتاج إلى هذه المعلومات.

يبدو الأمر تافها، لكنه صعب للغاية. تتراكم العديد من الأنظمة الوكيلة. يضيف كل استدعاء أداة نصًا. يبقى كل خطأ في المخزن المؤقت. تتم إضافة كل ملف يتم قراءته إلى المكدس. في النهاية، النموذج له تاريخ طويل جدًا ولا توجد به خريطة.

هناك حاجة إلى الضغط. هناك حاجة إلى التوليف المتوسط. يجب أن تكون منظمة.

ليس "هذا كل ما حدث"، ولكن:

• الهدف لا يزال صالحا؛
• الفرضية الحالية.
• الملفات التي تم فحصها بالفعل؛
• القرارات المتخذة؛
• المخاطر المفتوحة؛
• الإجراء التالي.

وهذا يجعل الوكيل أقل مسرحية وأكثر فائدة. ليس لأنه يبدو أكثر ذكاءً، ولكن لأنه يعمل بمكتب مرتب.

هندسة السياق للفرق، وليس للفنانين الفوريين

السبب الذي يجعلني مهتمًا بهذا الموضوع هو أنه ينقل المسؤولية من الفرد إلى النظام.

في الهندسة السريعة، غالبًا ما يفوز الشخص الذي يمكنه التحدث إلى النموذج بشكل أفضل. في هندسة السياق، يفوز الفريق الذي ينظم عمله بشكل أفضل: التوثيق، والاتفاقيات، والقضايا، والسجلات، والاختبارات، والملكية، والتسمية، والمصادر.

يصبح المستودع النظيف سياقًا أفضل. إن القضية المكتوبة جيدًا تصبح وقودًا أفضل. يحفظ دليل التشغيل المحدث الرموز والقلق. سجل التغيير الواضح يقلل من الهلوسة.

هذه أخبار جيدة وغير مريحة إلى حد ما. جميل لأنه يكافئ الممارسات الجيدة. غير مريح لأنه لا يمكنك حل كل شيء بمطالبة ذكية.

يقوم الوكلاء بتضخيم نظافة النظام الذي يجدونه.

كيف سأطبقه غدًا

إذا كنت سأقوم بإدخال هندسة السياق في مشروع حقيقي، فسأبدأ بأشياء صغيرة:

• ملف تعليمات المشروع القصير والمحافظ عليه؛
• أمثلة جيدة على المخرجات المتوقعة.
• قائمة بالأدوات المتاحة والحالات التي يمكن استخدامها فيها؛
• القرارات المعمارية المكتوبة بطريقة يمكن الاستشهاد بها؛
• قضية مع الحد الأدنى من السياق الإلزامي؛
• سهولة استرداد السجلات والاختبارات؛
• ذاكرة ثابتة قابلة للتعديل من قبل الإنسان.

ثم أود أن أقيس شيئًا بسيطًا: كم مرة يتعين على الوكيل أن يطلب توضيحًا أو يمضي في الاتجاه الخاطئ؟

إذا حدث ذلك كثيرًا، فلن أضيف نموذجًا أكبر على الفور. أود أن أنظر إلى السياق.

##قراءتي

هندسة السياق هي كلمة منتفخة بعض الشيء، نعم. لكن المفهوم سليم.

ويذكرنا أن ذكاء العميل لا يقتصر فقط على النموذج. إنه يكمن في البيئة التي نهيئها له: ما يراه، وما يتذكره، وما يمكنه فعله، وما يحظر عليه فعله، وما هي المصادر التي يعترف بصحتها.

الجزء البشري هو كما يلي: إعداد السياق جيدًا هو شكل من أشكال الرعاية. إنها تخبر الوكيل، ولكن أيضًا الفريق، "لا أريدكم أن تخمنوا، أريدكم أن تحصلوا على ما تحتاجون إليه."

سحر أقل. غرفة نظافة. الوكلاء يحتاجون إليها بقدر ما نحتاجها.

المصادر

• مدونة LangChain: ظهور هندسة السياق
• سايمون ويليسون: هندسة السياق
• بروتوكول سياق النموذج: مقدمة
• أنثروبي: بناء عوامل فعالة
• OpenAI: أدوات جديدة لوكلاء البناء