اس لمحے کا لفظ، AI ایجنٹوں کی چھوٹی سی دنیا میں، سیاق و سباق کی انجینئرنگ ہے۔

ایسا لگتا ہے کہ ہم نے پہلے ہی کچھ فروخت کرنے کے لئے ایک اور لیبل ایجاد کیا ہے۔ جزوی طور پر یہ ہے۔ تاہم، جیسا کہ اکثر ہوتا ہے، لیبل اس لیے پکڑتا ہے کیونکہ یہ ایک حقیقی درد کو ایک نام دیتا ہے۔

درد یہ ہے: ماڈل صرف اس وجہ سے ناکام نہیں ہوتے کہ وہ "سوچتے ہی نہیں"۔ وہ اکثر ناکام ہو جاتے ہیں کیونکہ ہم انہیں غلط کمرے کے ساتھ کام کرنے کے لیے بھیجتے ہیں۔

ہم انہیں پرانی ہدایات دیتے ہیں۔ ہم اس سے اہم فائلیں چھپاتے ہیں۔ ہم انہیں ایسی دستاویزات پاس کرتے ہیں جو بہت لمبی ہوتی ہیں اور یہ نہیں بتاتے کہ کیا اہم ہے۔ ہم انہیں بغیر ترجیح کے لاگ دکھاتے ہیں۔ ہم انہیں یہ بتائے بغیر دس ٹولز دیتے ہیں کہ انہیں کب استعمال کرنا ہے۔ پھر ہم حیران ہوتے ہیں اگر ایجنٹ کسی نامعلوم اپارٹمنٹ میں جاگنے والے شخص کی طرح حرکت کرتا ہے۔

پرامپٹ وہ جملہ ہے جسے آپ کہتے ہیں۔ سیاق و سباق وہ دنیا ہے جسے آپ اس کے ارد گرد تیار کرتے ہیں۔

فوری انجینئرنگ سے سیاق و سباق کی انجینئرنگ تک

فوری انجینئرنگ کو اکثر لکھنے کے بارے میں سوچا جاتا تھا۔ صحیح الفاظ کا انتخاب کریں، صحیح طریقے سے پوچھیں، مثالیں شامل کریں، فارمیٹ کی وضاحت کریں۔

سیاق و سباق کی انجینئرنگ فن تعمیر کے قریب ہے۔

آپ صرف یہ نہیں پوچھتے کہ "میں درخواست کیسے تیار کروں؟"۔ یہ پوچھتا ہے:

• واقعی کس معلومات کی ضرورت ہے؟
• شور کیا ہیں؟
• مکھی پر بازیافت کرنے کی کیا ضرورت ہے؟
• کیا یاد رکھنا چاہئے؟
• کن ٹولز کو بے نقاب کیا جانا چاہئے؟
• کون سی ہدایات مستحکم ہیں اور جو کام پر منحصر ہیں؟
• میں ایجنٹ کو کیسے سمجھاؤں کہ مستند کیا ہے؟

یہ ایک لطیف لیکن بہت بڑی تبدیلی ہے۔ کیونکہ جب آپ ایجنٹوں کے ساتھ کام کرتے ہیں تو سیاق و سباق ایک مستحکم بلاک نہیں ہوتا ہے۔ یہ ہر قدم پر بدلتا ہے۔

ایجنٹ ایک فائل کھولتا ہے، کچھ سیکھتا ہے، ٹیسٹ چلاتا ہے، غلطی موصول ہوتی ہے، پلان کو اپ ڈیٹ کرتا ہے، کسی ٹول کو کال کرتا ہے، انحصار کا پتہ لگاتا ہے۔ ہر گود کے ساتھ اسے یہ فیصلہ کرنا ہوتا ہے کہ اسے اپنے ساتھ کیا لینا ہے اور کیا چھوڑنا ہے۔

یہ انجینئرنگ ہے۔

سیاق و سباق زمینی نہیں ہے۔

بڑی سیاق و سباق والی ونڈوز والے ٹیمپلیٹس نے ہمیں ایک آزمائش دی: آئیے سب کچھ اندر ڈال دیں۔

بات سمجھ میں آتی ہے۔ اگر میرے پاس ایک ملین ٹوکن ہیں تو میں کیوں انتخاب کروں؟

کیونکہ یہاں تک کہ جب آپ سب کچھ ڈال سکتے ہیں، اس کا مطلب یہ نہیں ہے کہ سب کچھ مدد کرتا ہے۔ بے شک، شور کی ایک قیمت ہوتی ہے۔ اس پر ٹوکن لاگت آتی ہے، اس پر توجہ کی لاگت آتی ہے، اس میں تاخیر خرچ ہوتی ہے، اس کے معیار کی قیمت ہوتی ہے۔ ایک ماڈل ہماری طرح غیر متعلقہ تفصیلات میں کھو سکتا ہے جب ہم بیس ٹیبز کھولتے ہیں اور اب یاد نہیں رہتا کہ کیوں۔

اچھے سیاق و سباق کا ایک درجہ بندی ہے:

1. نظام کی ہدایات اور پالیسیاں؛
2. مخصوص مقصد؛
3. موجودہ حیثیت؛
4. متعلقہ ڈیٹا؛
5. رکاوٹیں؛
6. دستیاب اوزار؛
7. پہلے سے کیے گئے فیصلوں کو ٹریک کریں۔

ہر چیز کا ایک ہی سطح پر علاج کرنے کی ضرورت نہیں ہے۔ صارف کمانڈ کی قیمت پرانے نوٹ سے زیادہ ہے۔ ایک ناکام ٹیسٹ اب تین مہینے پہلے کی جمالیاتی ترجیح سے زیادہ قابل قدر ہے۔ سیکیورٹی پالیسی کی قیمت پروڈکشن شارٹ کٹ سے زیادہ ہے۔

سیاق و سباق کی انجینئرنگ کا مطلب وزن دینا بھی ہے، نہ کہ صرف ڈیٹا۔

یادداشت: کم یاد رکھیں، بہتر یاد رکھیں

ایجنٹوں میں میموری سب سے زیادہ پھسلنے والے موضوعات میں سے ایک ہے۔

بطور صارف، آپ چاہتے ہیں کہ ایجنٹ آپ کو جانے۔ آپ چاہتے ہیں کہ وہ لہجہ، منصوبہ، کنونشن، پہلے سے طے شدہ چیزیں یاد رکھے۔ ایک انجینئر کے طور پر، آپ جانتے ہیں کہ ہر مستقل یادداشت بھی ایک خطرہ ہے: یہ غلط، پرانی، بہت ذاتی، بہت عام، ناقابل تصدیق ہو سکتی ہے۔

مفید میموری میں کم از کم تین خصوصیات ہونی چاہئیں۔

• ثبوت: یہ معلومات کہاں سے آتی ہے؟
• تاریخ: یہ کب سچ تھا؟
• مقصد: اسے کس قسم کے کام کے لیے استعمال کیا جانا چاہیے؟

ان تین چیزوں کے بغیر یادداشت توہم پرستی بن جاتی ہے۔

میں ایجنٹ میموری کو ایک ورک بک کے طور پر سوچنا پسند کرتا ہوں، جادوئی ذہن کے طور پر نہیں۔ عارضی نوٹ، تصدیق شدہ فیصلے، طرز کی ترجیحات، تکنیکی رکاوٹیں، ذرائع کے لنکس ہیں۔ کچھ چیزیں ختم ہوجاتی ہیں۔ کچھ کو دوبارہ لکھنے کی ضرورت ہے۔ کچھ کو ختم کر دینا چاہیے کیونکہ ایجنٹ نے ان کا غلط اندازہ لگایا۔

ایک اچھے نظام کو اس دیکھ بھال کو معمول بنانا چاہیے۔ بہادر نہیں۔

بازیافت اور اوزار ایک ہی چیز نہیں ہیں۔

جب ہم سیاق و سباق کے بارے میں بات کرتے ہیں، تو ہم اکثر فوری طور پر RAG پر ختم ہو جاتے ہیں۔ ایمبیڈنگ، ویکٹر ڈیٹا بیس، چنکنگ، رینکنگ۔

تمام مفید۔ لیکن بازیافت ماڈل تک معلومات لانے کا صرف ایک طریقہ ہے۔ وہ اکیلا نہیں ہے۔

ایک ایجنٹ فائلوں کو پڑھ کر، API سے استفسار کر کے، MCP سرور کو کال کر کے، براؤزر کھول کر، ٹیسٹ چلا کر، Slack کو تلاش کر کے، ڈیش بورڈ کو دیکھ کر، انسان سے پوچھ کر سیاق و سباق حاصل کر سکتا ہے۔

دلچسپ حصہ یہ فیصلہ کر رہا ہے کہ کون سا راستہ استعمال کرنا ہے اور کب۔

اگر ایجنٹ کو کسی تاریخی سوال کا جواب دینے کی ضرورت ہے، تو شاید صرف بازیافت ہی کافی ہے۔ اگر اسے کوئی بگ ٹھیک کرنا ہے تو اسے اصلی کوڈ پڑھنا ہوگا۔ اگر اسے یہ سمجھنے کی ضرورت ہے کہ تعیناتی کیوں ناکام ہوتی ہے، تو اسے تازہ نوشتہ جات کو دیکھنے کی ضرورت ہے۔ اگر آپ کو کسی گاہک کو لکھنے کی ضرورت ہے، تو آپ کو ٹکٹ کا لہجہ، تاریخ اور حیثیت دوبارہ حاصل کرنے کی ضرورت ہے۔ اگر اسے پیداوار پر عمل کرنا ہے تو اسے اجازت لینا ہوگی۔

سیاق و سباق ڈیٹا بیس نہیں ہے۔ یہ ایک ورک فلو ہے۔

اچھا ایجنٹ نظر انداز کرنا بھی جانتا ہے۔

ایجنٹوں میں پختگی کی علامت یہ کہنے کی صلاحیت ہوگی: مجھے اس معلومات کی ضرورت نہیں ہے۔

یہ معمولی لگتا ہے، لیکن یہ بہت مشکل ہے. بہت سے ایجنٹی نظام جمع ہوتے ہیں۔ ہر ٹول کال متن کا اضافہ کرتی ہے۔ ہر خرابی بفر میں رہتی ہے۔ پڑھنے والی ہر فائل اسٹیک میں اضافہ کرتی ہے۔ آخر میں ماڈل کی ایک بہت لمبی تاریخ ہے اور کوئی نقشہ نہیں ہے۔

کمپریشن کی ضرورت ہے۔ درمیانی ترکیب کی ضرورت ہے۔ اسے ڈھانچہ بنانے کی ضرورت ہے۔

"یہ سب کچھ ہوا" نہیں، لیکن:

• مقصد اب بھی درست ہے؛
• موجودہ مفروضہ؛
• فائلیں پہلے ہی چیک کی گئی ہیں۔
• فیصلے کیے؛
• کھلے خطرات؛
• اگلی کارروائی۔

یہ ایجنٹ کو کم تھیٹر اور زیادہ مددگار بناتا ہے۔ اس لیے نہیں کہ وہ زیادہ ہوشیار لگتا ہے، بلکہ اس لیے کہ وہ ایک صاف میز کے ساتھ کام کرتا ہے۔

ٹیموں کے لیے سیاق و سباق کی انجینئرنگ، فوری فنکاروں کے لیے نہیں۔

اس موضوع میں میری دلچسپی کی وجہ یہ ہے کہ یہ فرد سے نظام کی ذمہ داری کو منتقل کرتا ہے۔

فوری انجینئرنگ میں، جو ماڈل سے بہترین بات کر سکتا ہے وہ اکثر جیت جاتا ہے۔ سیاق و سباق کی انجینئرنگ میں، وہ ٹیم جو اپنے کام کو بہترین طریقے سے منظم کرتی ہے جیت جاتی ہے: دستاویزات، کنونشنز، مسائل، لاگز، ٹیسٹ، ملکیت، نام، ذرائع۔

ایک صاف ذخیرہ ایک بہتر سیاق و سباق بن جاتا ہے۔ ایک اچھی طرح سے لکھا ہوا مسئلہ بہتر ایندھن بن جاتا ہے۔ ایک اپ ڈیٹ شدہ رن بک ٹوکن اور پریشانی کو بچاتی ہے۔ ایک واضح چینج لاگ ہیلوسینیشن کو کم کرتا ہے۔

یہ اچھی اور کسی حد تک تکلیف دہ خبر ہے۔ خوبصورت کیونکہ یہ اچھے طریقوں کا بدلہ دیتا ہے۔ تکلیف دہ ہے کیونکہ آپ ہوشیار اشارہ سے ہر چیز کو حل نہیں کرسکتے ہیں۔

ایجنٹس نظام کی حفظان صحت کو بڑھا دیتے ہیں جو انہیں ملتا ہے۔

میں کل اسے کیسے اپلائی کروں گا۔

اگر میں ایک حقیقی پروجیکٹ میں سیاق و سباق کی انجینئرنگ کو متعارف کرانا چاہتا ہوں، تو میں چھوٹی چیزوں سے شروع کروں گا:

• ایک مختصر اور برقرار رکھے ہوئے پروجیکٹ انسٹرکشن فائل؛
• متوقع پیداوار کی اچھی مثالیں؛
• دستیاب ٹولز اور کیسز کی ایک فہرست جس میں انہیں استعمال کرنا ہے۔
• آرکیٹیکچرل فیصلے قابل ذکر انداز میں لکھے گئے ہیں؛
• کم از کم لازمی سیاق و سباق کے ساتھ مسئلہ؛
• نوشتہ جات اور ٹیسٹ بازیافت کرنے میں آسان؛
• مستقل میموری کو انسانوں کے ذریعہ تبدیل کیا جاسکتا ہے۔

پھر میں ایک سادہ چیز کی پیمائش کروں گا: ایجنٹ کو کتنی بار وضاحت طلب کرنی پڑتی ہے یا غلط سمت میں جاتا ہے؟

اگر یہ اکثر ہوتا ہے، تو میں ابھی ایک بڑا ماڈل شامل نہیں کروں گا۔ میں سیاق و سباق کو دیکھوں گا۔

میرا پڑھنا

سیاق و سباق انجینئرنگ تھوڑا سا پھولا ہوا لفظ ہے، ہاں۔ لیکن تصور درست ہے۔

یہ ہمیں یاد دلاتا ہے کہ ایجنٹ کی ذہانت صرف ماڈل میں نہیں ہوتی۔ یہ اس ماحول میں مضمر ہے جسے ہم اس کے لیے تیار کرتے ہیں: وہ کیا دیکھتا ہے، کیا یاد رکھتا ہے، وہ کیا کرسکتا ہے، اسے کیا کرنے سے منع کیا گیا ہے، وہ کن ذرائع کو سچ تسلیم کرتا ہے۔

انسانی حصہ یہ ہے: سیاق و سباق کو اچھی طرح سے تیار کرنا دیکھ بھال کی ایک شکل ہے۔ یہ ایجنٹ بلکہ ٹیم کو بھی کہہ رہا ہے، "میں نہیں چاہتا کہ آپ اندازہ لگائیں، میں چاہتا ہوں کہ آپ کے پاس وہ ہو جس کی آپ کو ضرورت ہے۔"

کم جادو۔ صاف ستھرا کمرہ۔ ایجنٹوں کو اس کی اتنی ہی ضرورت ہے جتنی ہمیں ہے۔

ذرائع

• LangChain بلاگ: سیاق و سباق کی انجینئرنگ کا عروج
• سائمن ولیسن: سیاق و سباق انجینئرنگ
• ماڈل سیاق و سباق پروٹوکول: تعارف
• انتھروپک: موثر ایجنٹس بنانا
• OpenAI: عمارت کے ایجنٹوں کے لیے نئے ٹولز