عاجل
كشفت شركة جوجل عن تمكن نموذج الذكاء الاصطناعي التابع لها «جيميناي» (Gemini) من اختراق أنظمة 3 شركات دون قصد، وذلك خلال اختبارات للأمن السيبراني أُجريت في مايو الماضي، في واقعة جديدة تسلط الضوء على المخاطر المرتبطة بتطور قدرات وكلاء الذكاء الاصطناعي.
ووقعت الاختراقات خلال اختبارات أجرتها شركة «إريغولار» (Irregular) المتخصصة في أمن الذكاء الاصطناعي، وهي الاختبارات نفسها التي كشفت عن وقائع مشابهة مرتبطة بنماذج تابعة لشركات OpenAI وAnthropic وMeta Platforms.
وأكدت «إريغولار» أن الاختراقات المختلفة نتجت عن المشكلة نفسها، مشيرة إلى أنها أبلغت مطوري نماذج الذكاء الاصطناعي المعنيين بالوقائع في أواخر يوليو الماضي.
كيف تمكن «جيميناي» من اختراق أحد الأنظمة؟
وقعت إحدى الحالات عندما طُلب من نموذج جيميناي البحث عن معلومات حول شركة وهمية، إلا أن اسم الشركة تطابق بالصدفة مع اسم شركة حقيقية.
وخلال عملية البحث، تمكن النموذج من تخمين كلمة مرور والوصول إلى خدمة تابعة للشركة الحقيقية، وفقًا لما أكدته جوجل بعد الكشف عن الواقعة من جانب صحيفة «وول ستريت جورنال».
وقالت جوجل إنها أبلغت السلطات بالحادثة، في الوقت الذي أثارت فيه الواقعة تساؤلات حول كيفية تعامل نماذج الذكاء الاصطناعي الوكيلة مع المعلومات التي تصل إليها خلال تنفيذ المهام الموكلة إليها.
مستودعات عامة قادت «جيميناي» إلى بيانات دخول
وأوضحت هيذر أدكنز، نائبة رئيس هندسة الأمن في جوجل، أن حالات الاختراق الأخرى المرتبطة بجيميناي وقعت أثناء بحث النموذج عبر الإنترنت باستخدام أسماء الشركات.
وأشارت إلى أن عمليات البحث قادت النموذج إلى مستودعات عامة على الإنترنت تضمنت بيانات دخول تخص شركات أخرى، وهو ما مكّنه من استخدامها للوصول إلى أنظمة إضافية.
وأكدت أدكنز أن النموذج توقف في الحالات الثلاث، مع التأكد من إبلاغ الشركات المتضررة بالاختراقات.
اختبارات تكشف مخاطر وكلاء الذكاء الاصطناعي
أعادت هذه الوقائع فتح النقاش العالمي حول المخاطر المحتملة للتوسع في استخدام وكلاء الذكاء الاصطناعي، خاصة مع ارتفاع قدرتها على البحث عبر الإنترنت وتنفيذ مهام متعددة والوصول إلى أنظمة وبيانات مختلفة.
وتأتي هذه الاختبارات في وقت تتسابق فيه شركات التكنولوجيا على تطوير نماذج ذكاء اصطناعي أكثر استقلالية وقدرة على تنفيذ المهام دون تدخل بشري مستمر، وهو ما يضع قضايا الأمن السيبراني وحماية البيانات ضمن أبرز التحديات التي تواجه القطاع.
«إريغولار»: معالجة جميع المشكلات المعروفة
من جانبه، قال جوزيف لاور، المتحدث باسم شركة «إريغولار»، إن الشركة تحركت فورًا للتعامل مع الوقائع، موضحًا أنه تمت معالجة المشكلات المعروفة من جانبها وحلها قبل أسابيع.
وكانت الشركة قد أبلغت مطوري نماذج الذكاء الاصطناعي بالوقائع في نهاية يوليو، بما شمل الشركات التي ظهرت نماذجها في نتائج الاختبارات.
جدل عالمي حول تنظيم وتطوير الذكاء الاصطناعي
أثارت وقائع الاختراق الأخيرة نقاشًا أوسع بشأن سرعة تطوير تقنيات الذكاء الاصطناعي، إذ دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على مستوى القطاع، وهو المقترح الذي حظي بتأييد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك وآخرين.
وفي المقابل، عارض الرئيس الأمريكي دونالد ترامب، والرئيس التنفيذي لشركة Nvidia جنسن هوانغ، والرئيس التنفيذي لشركة Meta مارك زوكربيرغ، فرض قيود تنظيمية جديدة على الذكاء الاصطناعي، مؤكدين، ضمن مبررات أخرى، أن شركات التكنولوجيا يجب أن تتمكن من تنظيم نفسها.
كما حذرت بعض شركات الذكاء الاصطناعي الناشئة من أن تشديد القيود التنظيمية قد يزيد صعوبة منافستها للشركات الكبرى.
جوجل: ضرورة تدريب النماذج على التصرف بمسؤولية
قالت هيذر أدكنز إن الوقائع التي كشفتها الاختبارات تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.
وتعكس هذه التصريحات جانبًا من التحدي الذي يواجه صناعة الذكاء الاصطناعي، والمتمثل في تحقيق التوازن بين تطوير قدرات النماذج وزيادة استقلاليتها من جهة، وضمان قدرتها على العمل ضمن ضوابط أمنية واضحة من جهة أخرى.
