أكدت شركة جوجل أن نموذج الذكاء الاصطناعي "جيميني" التابع لها قد اخترق أنظمة حاسوب ثلاث شركات حقيقية خلال اختبار للأمن السيبراني في مايو الماضي.
ووقعت هذه الحوادث خلال تقييم أمني أجرته شركة "إيريجولار"، وهي شركة ناشئة إسرائيلية متخصصة في أمن الذكاء الاصطناعي. وأبلغت "إيريجولار" جوجل في أواخر يوليو الماضي، بعد اكتشاف حادثة منفصلة تتعلق بنموذج "أوبن إيه آي" وبرنامج "هاغينغ فيس".
ولم تؤكد جوجل اختراقات "جيميني" علنًا إلا هذا الأسبوع بعد استفسار صحيفة "وول ستريت جورنال" عنها.
ووفقًا للصحيفة، كان "جيميني" يشارك في تمرين "التقاط العلم" المصمم لاختبار قدرته على الوصول إلى معلومات داخل أنظمة تابعة لشركات وهمية، وكان من المفترض أن تكون بيئة الاختبار معزولة عن الإنترنت، إلا أن اتصالًا غير مقصود سمح للنموذج بالوصول إلى معلومات وأنظمة حقيقية.
وفي إحدى الحالات، كان "جيميني" يحاول الوصول إلى شركة وهمية تطابق اسمها اسم شركة حقيقية. وتمكن النموذج في النهاية من الوصول إلى برمجيات الشركة الحقيقية. في حالتين أخريين، عثر نظام Gemini على بيانات اعتماد مُسربة على الإنترنت، واستخدمها للوصول إلى أنظمة شركات حقيقية.
تقييم معياري
وخلال تقييم معياري، عثر النموذج على معلومات عامة على الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظنّ أنها جزء من الاختبار. وفي الحالات الثلاث، توقف النموذج عن العمل، كما تم إبلاغ الشركات المتضررة، وأكدت جوجل أنها لم تجد أي دليل على تسبب هذه الحوادث في أي ضرر.
يتمتع فريق الأمن لدينا بسجل حافل في الإبلاغ عن المشكلات التي نكتشفها في برامج وأنظمة الآخرين، حتى لو كانت بسيطة ككلمة مرور ضعيفة، وقد حرصنا على إبلاغ الجهات الثلاث، وعملنا مع شريكنا التدريبي على التغييرات التي أدخلوها على عمليات الاختبار، حيث تُبرز هذه الأحداث أهمية تدريب نماذج الذكاء الاصطناعي القوية على العمل بمسؤولية.
وهذه هي نفس المشكلة التي تم الإبلاغ عنها سابقًا، ولا تمثل حادثة منفصلة جوهريًا. تم إخطار جميع المختبرات المعنية في أواخر يوليو، وتم التواصل مع الجهات المتضررة كجزء من التحقيق. وكما ذكرنا سابقًا، اتخذت Irregular إجراءات فورية، وتمت معالجة جميع المشكلات المعروفة من جانبنا وحلها قبل أسابيع.
ومع ذلك، تُسلط هذه الحادثة الضوء على تحدٍ متزايد يواجه مطوري الذكاء الاصطناعي، حيث أصبحت النماذج قادرة على تنفيذ مهام معقدة بشكل مستقل. إن منح نظام الذكاء الاصطناعي إمكانية الوصول إلى الإنترنت أو أدوات البرمجيات أو بيانات الاعتماد قد يسمح له باتخاذ إجراءات خارج البيئة الخاضعة للرقابة التي قصد المطورون اختباره فيها.
وكشفت OpenAI عن حوادث تتعلق بوصول وكلاء الذكاء الاصطناعي إلى أنظمة خارجية، بما في ذلك حادثة قام فيها أحد النماذج بتحميل حزم برمجية خبيثة إلى RubyGems، وهي منصة لحزم البرامج، وحادثة أخرى تتعلق ببرنامج Hugging Face.
يأتي هذا الحادث الأخير وسط مخاوف متجددة بشأن ما إذا كان الذكاء الاصطناعي يُشكّل خطرًا على البشرية.
إخلاء مسؤولية إن موقع بالبلدي يعمل بطريقة آلية دون تدخل بشري،ولذلك فإن جميع المقالات والاخبار والتعليقات المنشوره في الموقع مسؤولية أصحابها وإداره الموقع لا تتحمل أي مسؤولية أدبية او قانونية عن محتوى الموقع.
"جميع الحقوق محفوظة لأصحابها"
المصدر :" النبأ "
