كشفت واقعة حديثة مع مساعد الذكاء الاصطناعي «ميوز» (Muse) التابع لشركة «ميتا» عن مخاطر جديدة قد يواجهها المستخدمون عند منح الأنظمة الذكية صلاحية إدارة حساباتهم والتواصل مع الآخرين نيابة عنهم، بعدما شارك المساعد عنوان منزل أحد المستخدمين مع مشترٍ محتمل، واتفق معه على موعد لاستلام سلعة معروضة للبيع، دون أن ينتبه صاحب الحساب إلى تفاصيل الترتيب.
وتعيد الواقعة فتح النقاش حول حدود استقلالية وكلاء الذكاء الاصطناعي، الذين لم تعد مهمتهم مقتصرة على الإجابة عن الأسئلة أو كتابة النصوص، بل أصبح بإمكانهم تنفيذ مهام فعلية عبر التطبيقات والمنصات الرقمية، بما في ذلك الرد على الرسائل والتفاوض على الأسعار وترتيب المعاملات، وفقًا للصلاحيات الممنوحة لهم.
كيف شارك مساعد ذكي عنوان منزل صاحبه؟
بدأت الواقعة عندما استخدم صانع المحتوى التقني مات روب حساب «ميوز» للمساعدة في إدارة عملية بيع لوحة مفاتيح عبر منصة Facebook Marketplace، التابعة لشركة ميتا، بهدف الرد على المشترين وتسهيل إتمام الصفقة، وبحسب التقارير المنشورة، تواصل المساعد مع أحد المشترين، وتفاوض معه بشأن السعر، ثم شارك عنوان منزل البائع واتفق على موعد لاستلام السلعة. ووصل المشتري إلى المنزل، بينما لم يكن صاحبه على علم بأن المساعد رتب اللقاء أو أن شخصًا غريبًا أصبح يمتلك عنوانه.
وأظهرت تفاصيل الواقعة أن المستخدم كان قد اختار إعداد السماح للمساعد بالرد تلقائيًا بصورة مستمرة، لكنه اعتقد أن النظام سيطلب موافقته قبل إتمام الاتفاقات. وأوضح لاحقًا أن المساعد أخطأ أيضًا في التعامل مع السعر، إذ وافق على عرض أقل من الحد الذي كان يرغب في قبوله، وأثارت الحادثة مخاوف بشأن وضوح الأذونات التي تمنحها التطبيقات الذكية، خاصة عندما لا يدرك المستخدم أن السماح بالرد نيابة عنه قد يؤدي إلى مشاركة معلومات شخصية أو ترتيب مقابلات فعلية دون مراجعة كل خطوة على حدة.
ما الفرق بين روبوت المحادثة ووكيل الذكاء الاصطناعي؟
تختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية في قدرتها على الانتقال من تقديم الإجابات إلى تنفيذ سلسلة من الإجراءات لتحقيق هدف معين، فبدلًا من اقتراح رد على رسالة، قد يتمكن الوكيل من إرسال الرد مباشرة، والتواصل مع الطرف الآخر، والبحث عن المعلومات، وتنفيذ بعض المعاملات وفقًا للصلاحيات المتاحة له.
وتزداد المخاطر عندما يرتبط الوكيل بحسابات المستخدم وتطبيقاته ورسائله، لأن الخطأ لا يظل مجرد إجابة غير دقيقة، بل قد يتحول إلى إجراء فعلي، مثل مشاركة عنوان أو إرسال معلومات خاصة أو قبول عرض مالي أو تحديد موعد لا يناسب صاحب الحساب، وتشير منظمة التعاون الاقتصادي والتنمية إلى أن توسع استخدام هذه الأنظمة يطرح تحديات تتعلق بالموافقة على استخدام البيانات، وتحديد الغرض من معالجتها، وضمان قدرة المستخدم على التحكم في المعلومات التي تنتقل بين الخدمات المختلفة.
هل يمكن للذكاء الاصطناعي كشف بياناتك دون قصد؟
لا يعني استخدام مساعد ذكي أن بيانات المستخدم ستُكشف تلقائيًا، لكن مستوى المخاطر يرتبط بالصلاحيات التي يحصل عليها النظام، وطريقة إعداد الحساب، وآليات المراجعة التي تسبق تنفيذ الإجراءات.
فعندما يُسمح للمساعد بقراءة الرسائل أو الوصول إلى معلومات الاتصال أو إدارة حساب تجاري، فقد يتعامل مع بيانات شخصية لم يكن المستخدم يقصد مشاركتها في كل موقف. وقد تشمل هذه المعلومات عناوين المنازل وأرقام الهواتف وتفاصيل المواعيد أو المحادثات الخاصة، ولا تقتصر المخاطر على صاحب الحساب وحده، إذ قد تتضمن الرسائل التي يقرأها المساعد معلومات تخص أفراد الأسرة أو الأصدقاء أو زملاء العمل، رغم أنهم لم يمنحوا النظام موافقة مباشرة على معالجة بياناتهم.
كيف تحمي بياناتك عند استخدام وكلاء الذكاء الاصطناعي؟
يمكن للمستخدمين تقليل المخاطر من خلال اتباع مجموعة من الإجراءات عند ربط المساعدات الذكية بحساباتهم الشخصية أو التجارية:
* مراجعة الصلاحيات: التأكد من التطبيقات والبيانات التي يستطيع المساعد الوصول إليها، وعدم منحه أذونات لا يحتاج إليها.
* تقييد الردود التلقائية: اختيار السماح المؤقت بدلًا من السماح المستمر، متى كان ذلك متاحًا ومناسبًا.
* طلب الموافقة قبل الإجراءات الحساسة: عدم السماح بإتمام عمليات البيع أو قبول الأسعار أو تحديد مواعيد الزيارة دون مراجعة بشرية.
* تقليل مشاركة المعلومات الشخصية: تجنب إدخال عنوان المنزل أو بيانات مالية أو معلومات حساسة في قوالب الردود التلقائية ما لم تكن هناك ضرورة واضحة.
* مراجعة سجل النشاط: متابعة الرسائل والاتفاقات التي ينفذها المساعد، وإلغاء الصلاحيات غير الضرورية عند اكتشاف سلوك غير متوقع، ولا يكفي إيقاف صلاحية الوصول لاحقًا لضمان اختفاء جميع المعلومات التي سبق أن عالجها النظام؛ لذلك ينبغي مراجعة خيارات الاحتفاظ بالبيانات والحذف لدى الخدمة المستخدمة.
الذكاء الاصطناعي بين الراحة والمخاطر
تعكس الواقعة تحولًا مهمًا في علاقة المستخدمين بالتكنولوجيا؛ فكلما ازدادت قدرة الأنظمة الذكية على تنفيذ المهام بصورة مستقلة، ازدادت الحاجة إلى ضوابط واضحة تحدد ما يمكنها فعله، وما يجب أن يتوقف تنفيذه لحين الحصول على موافقة صريحة من المستخدم.
وبينما توفر هذه الأدوات وقتًا وجهدًا في إدارة الرسائل والمعاملات اليومية، فإن منحها صلاحيات واسعة دون فهم حدودها قد يحول خطأً تقنيًا أو سوء فهم للإعدادات إلى مشكلة تمس الخصوصية والأمان الشخصي، ويظل التحدي الأساسي أمام الشركات المطورة هو تحقيق التوازن بين سهولة الاستخدام والتحكم الفعلي للمستخدم، بحيث لا تتحول المساعدة الذكية إلى تفويض مفتوح لاتخاذ قرارات قد تكون لها عواقب في العالم الحقيقي.
