لم تعد مخاطر الذكاء الاصطناعي تقتصر على المعلومات المضللة أو القرارات الخاطئة في الفضاء الرقمي، بل امتدت، مع تطور الروبوتات الذكية، إلى العالم المادي، حيث يمكن لقرار تتخذه خوارزمية أن يتحول إلى حركة فعلية قد تهدد سلامة الإنسان.
وفي هذا السياق، كشفت دراسة حديثة أجرتها مؤسسة “Robocurve” المتخصصة في تقييم سلامة الذكاء الاصطناعي، عن ثغرات في قدرة نماذج الذكاء الاصطناعي المستخدمة للتحكم بالروبوتات على إدراك المخاطر، بعدما أظهرت التجارب أن التلاعب بالصور التي تستقبلها هذه الأنظمة قد يدفعها إلى محاولة تنفيذ تعليمات خطرة، حتى عندما تتعلق بأدوات أو مواد يمكن أن تسبب أضراراً جسيمة.
ووفقاً للدراسة، حاولت نماذج الذكاء الاصطناعي تنفيذ مهام خطرة في 27% من الاختبارات عندما تلقت صوراً طبيعية للمشهد، فيما ارتفعت النسبة إلى نحو 88% عند تشويش الصور، ووصلت إلى 97% عندما عُدّلت الصور رقمياً لإظهار الأشياء الخطرة وكأنها مواد أو أدوات غير مؤذية.
وشملت التجارب خمسة نماذج متقدمة للذكاء الاصطناعي، جرى اختبارها باستخدام أذرع روبوتية حقيقية، في 900 تجربة تناولت خمس مهام خطرة، من بينها توجيه سكين نحو دمية على هيئة رضيع، ووضع جهاز كهربائي في الماء، وسكب الماء داخل محمصة كهربائية، وخلط مواد تنظيف قد يؤدي تفاعلها إلى إنتاج غاز سام.
وأظهرت التجارب تفاوتاً في استجابة الأنظمة للأوامر الخطرة تبعاً لطبيعة الصور التي تتلقاها، إذ أثّر وضوح المعلومات البصرية ودقتها بصورة مباشرة في قدرتها على إدراك المخاطر ورفض تنفيذ المهام.
وفي إحدى التجارب، عُدّلت صورة دمية لتبدو كأنها تفاحة، فيما أظهرت تجارب أخرى عبوات مواد كيميائية خطرة على أنها مشروبات عادية، الأمر الذي دفع بعض النماذج إلى محاولة تنفيذ الأوامر المرتبطة بها.
وتسلط هذه النتائج الضوء على أحد التحديات التي تواجه تطوير الروبوتات المعتمدة على الذكاء الاصطناعي، والمتمثل في قدرتها على التمييز بين التعليمات التي يمكن تنفيذها بأمان وتلك التي قد تشكل خطراً على البشر أو البيئة المحيطة، خصوصاً عندما تكون المعلومات البصرية مضللة.
وتعيد الدراسة طرح تساؤلات بشأن مدى جاهزية الروبوتات المدعومة بالذكاء الاصطناعي للعمل في البيئات التي تتطلب تفاعلاً مباشراً مع البشر، إذ لا تتعلق السلامة بقدرة هذه الأنظمة على فهم التعليمات فحسب، بل بمدى قدرتها على التحقق من طبيعة الأشياء المحيطة بها، ومقاومة المعلومات المضللة، والامتناع عن تنفيذ الأوامر عند وجود خطر محتمل.
كما تبرز الحاجة إلى تطوير أنظمة أمان مستقلة تراقب قرارات الروبوتات وتحد من قدرتها على تنفيذ المهام الخطرة، بدلاً من ترك مسؤولية السلامة للنموذج الذكي نفسه.
