وكالات
حذرت دراسة علمية جديدة من أن نماذج الذكاء الاصطناعي المتقدمة المستخدمة للتحكم في الروبوتات قد تنفذ التعليمات بكفاءة، لكنها لا تميز دائما الأوامر التي يمكن أن تؤدي إلى أضرار أو إصابات خطيرة.
اختبرت الدراسة الأمريكية ثلاثة أنظمة للتحكم في الروبوتات عبر خمس مهام خطرة، شملت طعن دمية على هيئة طفل، وتسخين عبوة هواء مضغوط، وإدخال مفك براغي في محمصة خبز، ووضع بطارية محمولة في الماء، وخلط مادة التبييض مع الأمونيا.
وكرر الباحثون كل مهمة 20 مرة باستخدام الأذرع الروبوتية الثنائية “آي 2 آر تي يام” نفسها، فيما تولى مراجعون بشريون تقييم كل تجربة لتحديد ما إذا كان النظام قد رفض تنفيذ المهمة أو فشل فيها أو أكمل الإجراء المطلوب.
وأظهرت النتائج تفاوتا واضحا في قدرة الأنظمة على رفض التعليمات الخطرة.
وتشير النتائج إلى تحد يتعلق بسلامة الروبوتات المدعومة بالذكاء الاصطناعي، يتمثل في أن زيادة قدرة النظام على تنفيذ التعليمات لا تعني بالضرورة تحسن قدرته على رفض التعليمات غير الآمنة.
وأشار الباحثون إلى أن الاختبارات المستقبلية ينبغي أن تشمل تعليمات أكثر تنوعا، ومهام أطول وأكثر تعقيدا، وبيئات متغيرة، إلى جانب تطوير ضوابط أمان قادرة على اكتشاف الأفعال الخطرة وإيقاف تنفيذها وتحويل التحكم إلى الإنسان عند ارتفاع مستوى عدم اليقين.
