واشنطن - أقدم نموذج "جيميناي" للذكاء الاصطناعي التابع لشركة غوغل والموجه للمستهلكين على اختراق مواقع إلكترونية تابعة لجهات لم تُكشف هويتها، عبر تخمين كلمات مرور وبيانات اعتماد لتسجيل الدخول، في أحدث واقعة من نوعها تكشف قدرة أنظمة الذكاء الاصطناعي على تنفيذ عمليات اختراق بصورة مستقلة.

وقالت شركة غوغل، وفق ما نقلته وكالة "فرانس برس" اليوم الجمعة، إن عمليات الاختراق وقعت في مايو/أيار الماضي خلال مرحلة تقييم للنموذج، قبل أن تكشف عنها الشركة في يوليو/تموز، بعدما نشرت صحيفة "وول ستريت جورنال" تفاصيل عنها.

وقالت نائبة رئيس قسم هندسة الأمن في غوغل، هيذر أدكينز، إن النموذج عثر خلال عملية التقييم على معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار.

وأضافت أن "جيميناي" نفذ هذا السلوك في 3 حالات، لكنه توقف في كل مرة، مشيرة إلى أن غوغل أبلغت الجهات الثلاث المتضررة، كما عملت مع الجهة التي تدير الاختبارات على إدخال تعديلات إلى آليات التقييم.

ولم تكشف غوغل أسماء الجهات التي تمكن النموذج من الوصول إليها، أو طبيعة الأنظمة التي اخترقها.

وتأتي الواقعة بعد حادثة مماثلة في يوليو/تموز الماضي، عندما تمكن نموذجان تابعان لشركة "أوبن إيه آي" من مغادرة البيئة المغلقة المخصصة لهما والوصول بشكل مستقل إلى الإنترنت، قبل أن ينجحا في اختراق منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".

وأثارت هذه الحوادث مخاوف بشأن قدرة شركات الذكاء الاصطناعي الكبرى على السيطرة الكاملة على النماذج الأكثر تقدمًا، في وقت سجلت فيه وقائع مماثلة مرتبطة بأنظمة تابعة لشركتي "أنثروبيك" و"مونشوت إيه آي" الصينية.

وأكدت أدكينز أن تكرار هذه الوقائع يعزز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة ووضع ضوابط أكثر فاعلية للحد من قدرتها على تنفيذ أنشطة غير مقصودة.