Преодоление разрыва в подотчетности: необходимое условие для внедрения ИИ-агентов в компаниях.

عندما تفوض الشركات والحكومات المهام التشغيلية لوكلاء Искусственный интеллект، غالبًا ما يبدأ النقاش بالحديث عن القدرات. هل يمكن للذكاء الاصطناعي أن يؤدي ما يقوم به الإنسان، مثل تسوية الحسابات، التفاوض مع الموردين، توقيع وثيقة، Или تقديم إيداع عام؟ وهل يمكنه القيام بذلك بسرعة وبتكلفة منخفضة بما يكفي لتبرير توظيفه؟

هذه الأسئلة مهمة، لكن الأداء ليس سوى جزء من الصورة الكاملة. بمجرد أن يتصرف الوكيل بشكل مستقل، تظهر أسئلة أخرى؛ من فوضه، ومن يمثل مصالحه، وأين تنتهي صلاحياته، وربما الأهم من ذلك، من المسؤول عندما تسوء الأمور؟

هذه هي فجوة المساءلة في Агент искусственного интеллекта، ولن يسدها نموذج أكثر تطوراً. قد يكون الوكيل ذا قدرات فائقة، ومع ذلك قد يتصرف بنتائج غير مرغوبة Или حتى غير قانونية.

السبيل الوحيد لسد هذه الفجوة هو من خلال نظام مزود بضوابط واضحة للصلاحيات ومسار تدقيق يربط كل إجراء يقوم به الوكيل بالشخص الذي فوضه، ويستطيع في المقام الأول التمييز بين الإنسان والآلة.

خطأ عادي بحجم استثنائي

عندما يفكر الناس في مخاطر الذكاء الاصطناعي، غالبًا ما يتخيلون آلة تتحرر من السيطرة البشرية وتسعى لتحقيق أهدافها الخاصة. لكن الخطر الأكثر إلحاحًا أقل دراماتيكية؛ وهو أن يخطئ نظام ما في مهمة عادية، مرارًا وتكرارًا، دون وجود خط واضح للمسؤولية والمساءلة.

قد يرسل شخص فاتورة إلى عميل خاطئ. لكن وكيلاً متصلاً بقاعدة بيانات العملاء الكاملة customer database يمكن أن يرسل الفاتورة نفسها إلى الآلاف. قد يغير حقلاً خاطئًا ثم يكرر هذا التغيير عبر سوق بأكمله، ليس لأنه أصبح خبيثًا، بل لأنه أساء فهم تعليمات معينة وكان لديه صلاحية التصرف بناءً عليها.

السرعة التي تجعل الوكيل ذا قيمة يمكن أن توفر على الشركات مئات الساعات، ولكنها يمكن أيضًا أن تحول خطأً صغيراً قابلاً للإصلاح إلى مشكلة تشغيلية خطيرة.

عندما يقوم وكيل بصياغة بريد إلكتروني لمراجعته من قبل شخص ما، قد لا يكون هذا الغموض ذا أهمية كبيرة لأن الشخص يظل حلقة الوصل بين البرنامج والعالم الخارجي.

ولكن عندما يمكنه إرسال الرسالة، Или تقديم إقرار، Или تحويل الأموال، فإن الأمر يختلف كثيراً. تخيل أن تطلب من مساعد حجز رحلة طيران واحدة، وبدلاً من منحه بطاقة شركة بحد إنفاق مناسب، تسلمه جواز سفرك وبطاقتك المصرفية ومفاتيح مكتبك. قد تثق بالمساعد تماماً، لكن الصلاحيات الممنوحة لا تتناسب بشكل معقول مع المهمة.

رسم الحدود وحل المشكلة

لا يمكن لوكلاء الذكاء الاصطناعي أن يتمتعوا بالجنسية Или الشخصية القانونية، لكن يمكن ربطهم بأشخاص طبيعيين بطرق سليمة قانونيًا. على سبيل المثال، يمكن لمعرّف موثوق به تتبع نشاط الوكيل إلى الشخص المسؤول عن نشره. وبالاقتران مع صلاحيات وتفويضات واضحة تجعل شروط سلطته مرئية وقابلة للتدقيق، سيسمح هذا لوكلاء الذكاء الاصطناعي بتنفيذ مجموعة من العمليات والمعاملات بطريقة أكثر تحكمًا وشفافية.

يمكن أن تكون هذه الضوابط دقيقة للغاية. فقد يُسمح للوكيل بالاطلاع على المعلومات المالية دون تغييرها، Или إعداد دفعة دون الموافقة عليها، Или الطلب من موردين محددين دون تجاوز مبلغ ثابت. وقد تستمر صلاحياته لمعاملة واحدة، Или ليوم عمل واحد، Или طوال مدة عقد معين، وبعد ذلك تنتهي تلقائيًا دون الحاجة إلى تذكير شخص بإيقاف تشغيلها.

يجب أن يكون سحب هذه الصلاحية بنفس السهولة. فإذا أنهت شركة علاقتها بوكيل، Или غيرت موردًا، Или اكتشفت وجود خطأ ما، فيجب أن تكون قادرة على إلغاء وصوله على الفور دون الحاجة لتغيير بيانات اعتماد الشخص المسؤول عنه.

إن التفويض القانوني للوكيل في مختلف مجالات هذه الضوابط يتمتع بعمر افتراضي أطول من أي نموذج ذكاء اصطناعي فردي، والذي سيتم ترقيته واستبداله ودمجه بمرور الوقت، غالبًا دون أن يرى العميل أكثر من رقم إصدار جديد.

تطبيق الفكرة على أرض الواقع

قررت إستونيا معالجة هذه المسائل الآن. ففي يونيو، بدأت الحكومة في تطوير نظام تسجيل مدعوم من الدولة لوكلاء الذكاء الاصطناعي، سيكون متاحًا لكل من المواطنين الإستونيين ومجتمع رواد الأعمال العالمي في البلاد. ويهدف هذا إلى استكشاف كيفية فتح الدولة الإستونية الرقمية بالكامل، التي تتوفر فيها جميع الخدمات العامة عبر الإنترنت، أمام الموجة الناشئة من الأعمال التجارية المدعومة С искусственным интеллектом.

بموجب الاقتراح الحالي، سيحصل الشخص على معرّف رقمي مسجل يمكن ربطه بواحد Или أكثر من الوكلاء الذين يعملون نيابة عنه. وتُعامل العمليات التي يقوم بها وكيل الذكاء الاصطناعي كعمليات تقوم بها آلة، ويكون الشخص الطبيعي، الذي يمثل مرساة الهوية، مسؤولاً عنها، وهو ما يتضح في حالات مثل الأخطاء الناجمة عن الاعتماد المفرط على الذكاء الاصطناعي. ولا يمكن لوكيل الذكاء الاصطناعي أن يعمل إلا ضمن حدود الصلاحيات الممنوحة له.

ولتحقيق الشفافية، يحتاج مقدمو الخدمات الخاصون أيضًا إلى معرفة ما إذا كانت العملية قد تمت بواسطة شخص Или بواسطة آلة تعمل نيابة عنه. وهذا يتيح لهم تطبيق الضوابط والقيود ونماذج المخاطر المناسبة بفعالية.

مصمم للتفويض

يعتمد هذا النهج على أكثر من عقدين من الخبرة في الحكومة الرقمية. ففي إستونيا، يسمح نظام المعرفات الشخصية والهويات الرقمية بالفعل للأفراد بالتصرف نيابة عن آخرين، مع تحديد صلاحيات واضحة.

يمكن للمحاسب تقديم إقرارات ضريبية لعميله، ويمكن للبالغ إدارة شؤون والديه المسنين عبر البوابة الصحية، كما يمكن لعدة أشخاص استخدام حساب بنكي للشركة بصلاحيات وقيود فردية. من حيث المبدأ، يمكن لهذا الإطار نفسه أن يدعم صلاحيات وكلاء الذكاء الاصطناعي.

وهذا من شأنه أن يمنح المستخدمين ثقة أكبر بوجود ضمانات لحماية الشخص المسؤول من الأخطاء المتوقعة التي قد يرتكبها وكيل الذكاء الاصطناعي. كما سيساعد ذلك في سد فجوة المساءلة مع تزايد الأنشطة التي يقوم بها الوكلاء.

قبل منح وكلاء الذكاء الاصطناعي صلاحيات تنفيذية، يحتاجون إلى إطار عمل ملزم فنيًا وقانونيًا يسجل من يمثلون، وما يمكنهم فعله، ومن يبقى مسؤولاً عن أفعالهم.