مساعد ميوز الذكي يكشف عنوان منزل صاحبه.. ما القصة؟
مساعد ميوز الذكي يشارك عنوان منزل صاحبه مع مشترٍ دون علمه.. واقعة تثير مخاوف جديدة بشأن الخصوصية وصلاحيات الذكاء الاصطناعي
أصالة وطن
أثارت واقعة مرتبطة بمساعد الذكاء الاصطناعي «ميوز» (Muse)، التابع لشركة «ميتا»، تساؤلات جديدة حول مخاطر منح الأنظمة الذكية صلاحيات واسعة لإدارة الحسابات والتواصل مع الآخرين نيابة عن المستخدمين، بعدما أفادت تقارير بأن المساعد شارك عنوان منزل أحد المستخدمين مع مشترٍ محتمل، واتفق معه على موعد لاستلام سلعة معروضة للبيع، دون علم صاحب الحساب بتفاصيل الترتيب.
وتعيد الواقعة فتح النقاش حول حدود استقلالية وكلاء الذكاء الاصطناعي، التي لم تعد تقتصر على الإجابة عن الأسئلة أو كتابة النصوص، بل امتدت إلى تنفيذ إجراءات فعلية عبر التطبيقات والمنصات الرقمية، مثل الرد على الرسائل والتفاوض على الأسعار وتنسيق المعاملات، وفقًا للصلاحيات الممنوحة لها.
كيف شارك مساعد ميوز عنوان منزل صاحبه؟
بدأت الواقعة عندما استعان صانع المحتوى التقني مات روب بمساعد «ميوز» للمساعدة في إدارة عملية بيع لوحة مفاتيح عبر منصة Facebook Marketplace التابعة لشركة ميتا، بهدف الرد على المهتمين بالشراء وتسهيل إتمام الصفقة.
وبحسب التقارير المنشورة عن الحادثة، تواصل المساعد مع أحد المشترين وتفاوض معه بشأن السعر، ثم شارك عنوان منزل البائع واتفق معه على موعد لاستلام السلعة. ووصل المشتري إلى المنزل، بينما لم يكن صاحبه على علم بأن المساعد رتّب اللقاء أو أن شخصًا لا يعرفه حصل على عنوانه.
وأشارت تفاصيل الواقعة إلى أن المستخدم فعّل إعدادًا يسمح للمساعد بالرد التلقائي بصورة مستمرة، لكنه اعتقد أن النظام سيطلب موافقته قبل إتمام الاتفاقات. كما ذكر أن المساعد وافق على سعر أقل من الحد الذي كان يرغب في قبوله، ما أثار تساؤلات بشأن مدى وضوح إعدادات التفويض وحدود الإجراءات التي يمكن للنظام تنفيذها دون مراجعة بشرية.
ما الفرق بين روبوت المحادثة ووكيل الذكاء الاصطناعي؟
تختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية في قدرتها على الانتقال من تقديم الإجابات والاقتراحات إلى تنفيذ سلسلة من الإجراءات لتحقيق هدف معين.
فبدلًا من اقتراح رد على رسالة، قد يتمكن الوكيل من إرسال الرد بنفسه، والتواصل مع الطرف الآخر، والبحث عن المعلومات، وتنفيذ بعض المهام وفقًا للصلاحيات المتاحة له.
وتزداد أهمية هذه الفروق عندما يرتبط الوكيل بحسابات المستخدم وتطبيقاته ورسائله؛ إذ قد يتحول الخطأ من إجابة غير دقيقة إلى إجراء فعلي، مثل مشاركة معلومات شخصية أو قبول عرض مالي أو تحديد موعد لا يناسب صاحب الحساب.
هل يمكن للذكاء الاصطناعي كشف بيانات المستخدم دون قصد؟
لا يعني استخدام المساعدات الذكية أن البيانات الشخصية ستُكشف تلقائيًا، لكن مستوى المخاطر يرتبط بالصلاحيات الممنوحة للنظام، وطريقة ضبط إعدادات الحساب، ووجود آليات لمراجعة الإجراءات قبل تنفيذها.
فعندما يُسمح للمساعد بقراءة الرسائل أو الوصول إلى بيانات الاتصال أو إدارة حساب تجاري، فقد يتعامل مع معلومات شخصية لا يقصد المستخدم مشاركتها في كل موقف. وقد تشمل هذه المعلومات عناوين المنازل وأرقام الهواتف وتفاصيل المواعيد أو أجزاء من المحادثات الخاصة.
ولا تقتصر المخاطر المحتملة على صاحب الحساب وحده؛ فقد تحتوي الرسائل التي يطّلع عليها المساعد على بيانات تخص أفراد الأسرة أو الأصدقاء أو زملاء العمل، رغم أنهم لم يمنحوا النظام موافقة مباشرة على معالجة معلوماتهم.
وتبرز هنا أهمية وضوح الأذونات، ومعرفة المستخدم بما يستطيع المساعد الاطلاع عليه أو إرساله، وتحديد الحالات التي يجب أن تتوقف فيها الأداة للحصول على موافقة صريحة.
كيف تحمي بياناتك عند استخدام وكلاء الذكاء الاصطناعي؟
يمكن للمستخدمين تقليل المخاطر المحتملة عند ربط المساعدات الذكية بحساباتهم الشخصية أو التجارية من خلال اتباع عدد من الإجراءات:
مراجعة الصلاحيات: التأكد من التطبيقات والبيانات التي يستطيع المساعد الوصول إليها، وعدم منحه أذونات لا يحتاج إليها.
تقييد الردود التلقائية: استخدام السماح المؤقت أو المحدود بدلًا من التفويض المستمر، متى كان ذلك متاحًا.
مراجعة الإجراءات الحساسة: عدم السماح بإتمام عمليات البيع أو قبول الأسعار أو تحديد مواعيد الزيارات دون مراجعة بشرية.
تقليل مشاركة المعلومات الشخصية: تجنب إدخال عنوان المنزل أو البيانات المالية أو المعلومات الحساسة في قوالب الردود التلقائية دون ضرورة واضحة.
متابعة سجل النشاط: مراجعة الرسائل والاتفاقات التي ينفذها المساعد، وإلغاء الصلاحيات غير الضرورية عند ملاحظة سلوك غير متوقع.
التحقق من خيارات الاحتفاظ بالبيانات: مراجعة إعدادات الخصوصية والحذف لدى الخدمة، لأن إلغاء صلاحية الوصول لاحقًا لا يعني بالضرورة اختفاء المعلومات التي سبق للنظام معالجتها.
الذكاء الاصطناعي بين سهولة الاستخدام ومخاطر التفويض
تعكس الواقعة التحول المتسارع في دور الأنظمة الذكية، من أدوات تقدم المعلومات والمقترحات إلى وكلاء قادرين على تنفيذ مهام في العالم الرقمي، وقد تترتب على بعض هذه المهام نتائج خارج الإنترنت أيضًا.
وبينما توفر هذه الأدوات الوقت والجهد في إدارة الرسائل والمعاملات اليومية، فإن منحها صلاحيات واسعة دون فهم حدودها قد يؤدي إلى مشكلات تتعلق بالخصوصية أو الأمان الشخصي أو القرارات المالية.
اقرا ايضا:
