وكيل Meta الآلي يشارك عنوان منزل مُستخدِم مع مشترٍ

أثار Muse وكيل الذكاء الاصطناعي الجديد التابع لشركة Meta مخاوف بشأن الخصوصية وحدود تفويض الأنظمة التي تتصرف نيابة عن المستخدم، بعد واقعة أرسل فيها عنوان المستخدم لشخص آخر دون حصوله على إذن بذلك.

وقال صانع محتوى تقني يدعي مات روب إن Muse شارك عنوان منزله مع مشترٍ عبر Facebook Marketplace، ورتب موعدًا لاستلام سلعة من دون منحه إذن بمشاركة العنوان أو على تفاصيل الصفقة. 

ووصل المشتري بالفعل إلى المبنى معتقدًا أنه يتواصل مع صاحب الإعلان، بينما لم يكن البائع يعرف أن Muse أكمل هذه الخطوات نيابة عنه.

ويقول روب إنه رأى إعلانات Meta حول قدرة Muse على أتمتة قوائم معروضاته في Facebook Marketplace فقرر الاستفادة من ذلك. وأدخل عنوانه كموقع لاستلام البضائع، لكنه يؤكد أنه لم يمنح الوكيل أبدًا الإذن بمشاركته مع المشترين المحتملين.

ويشير روب إلى أنه اكتشف أن Muse  كان يتفاوض نيابة عنه دون طلب موافقته، وكان يقبل عروضًا مالية بخسه.

وتكتسب الواقعة أهميتها لأن الخطأ لم يبقَ على الشاشة؛ بل أدى إلى انتقال شخص إلى موقع فعلي بناءً على معلومات شاركها النظام.

وأطلقت كانت Meta خدمة Muse في سبتمبر/ أيلول الجاري، ووصفتها في إعلان بأنها وكيل شخصي يستطيع تنفيذ المهام بدل الاكتفاء بتقديم اقتراحات.

وتقول الشركة إن وكيل الذكاء الاصطناعي الجديد يمكنه فتح المتصفح وملء النماذج وحجز السفر وإرسال البريد والعمل على مهام طويلة بعد إغلاق التطبيق، كما يستطيع استخدام الخدمات المتصلة بحساب المستخدم وفق الصلاحيات الممنوحة له.

وتوضح هذه القدرات الفرق بين الوكيل وروبوت المحادثة، إذ يمكن للوكيل اتخاذ سلسلة من الخطوات في العالم الرقمي، ولذلك تصبح طريقة تفسيره للإذن عاملًا أمنيًا أساسيًا.

ولم تثبت الواقعة أن Muse يشارك العناوين بصورة منهجية. لكن الحادث يقدم مثالًا عمليًا على مشكلة ستزداد أهميتها مع انتشار الوكلاء؛ فكلما اتسعت صلاحيات النظام، أصبحت حدود التفويض أكثر حساسية.