مع انتقال الذكاء الاصطناعي من الإجابة عن الأسئلة إلى اتخاذ الإجراءات، تتوقف الحوكمة عن كونها أوراقًا وتصبح هي المنتج.
روبوت محادثة يصيغ بريدًا إلكترونيًا أمرٌ منخفض المخاطر؛ إن أخطأ النبرة لاحظ ذلك إنسان وأصلحه. أما الوكيل الذي يرسل البريد — أو يحدّث سجلًا، أو يطلق سير عمل، أو يحرّك أموالًا — فمسألة مختلفة تمامًا. الذكاء الاصطناعي الوكيل ينقل السؤال من «هل الإجابة جيدة؟» إلى «هل الإجراء آمن؟»، وهذا يغيّر ما على الحوكمة أن تفعله.
الاستقلالية ترفع المخاطر
حين يتخذ الذكاء الاصطناعي إجراءات، تتغير ثلاثة أشياء دفعة واحدة:
- العواقب تصبح حقيقية. للإجراء أثرٌ في العالم لا تملكه إجابة خاطئة.
- الأخطاء تتراكم. في مهمة متعددة الخطوات، خطأ صغير في البداية قد يتصاعد إلى خطأ كبير في النهاية.
- المساءلة تلتبس. حين يتصرف نظام مستقل، يجب أن يكون واضحًا من المسؤول، وكيف يمكن إعادة بناء القرار لاحقًا.
ما تتطلبه الاستقلالية المسؤولة
حوكمة الوكلاء جيدًا تتعلق بجعلهم خاضعين للمساءلة أكثر مما تتعلق بتقييدهم. عمليًا يعني ذلك أشياء محددة:
- إشراف بشري عند نقاط التفتيش الصحيحة — ليس على كل خطوة، بل على الخطوات المهمة.
- قابلية التدقيق — كل إجراء قابل للتتبع، لتستطيع دائمًا الإجابة عن «ماذا فعل، ولماذا؟».
- صلاحيات محدودة النطاق — الحد الأدنى من الامتيازات، فلا يستطيع الوكيل إلا ما هو مقصود له فعلًا.
- القدرة على الإيقاف والمراجعة والتراجع — سيطرة تبقى بيد المؤسسة.
الثقة بالوكيل تُكتسب كما تُكتسب بالإنسان: بالمساءلة لا بالثقة بالنفس.
الحوكمة تصميمًا لا امتثالًا
الخطأ هو التعامل مع الحوكمة كقائمة تحقق تُطبَّق بعد بناء النظام. الضوابط المثبتة من الخارج تبطئ كل شيء ولا تُرضي أحدًا. أما الضوابط المصممة من البداية فتجعل الاستقلالية آمنة للتوسع.
المؤسسات التي ستكسب بالذكاء الاصطناعي الوكيل ليست الأسرع حركةً لمجرد السرعة، بل التي تستطيع أن تتحمّل السرعة — لأنها قادرة على إثبات أنها ممسكة بزمام الأمور.