"غوغل" تؤكد اختراق نموذجها Gemini لأنظمة ثلاث شركات حقيقية أثناء اختبار أمني

ووقعت هذه الحوادث خلال تقييم أمني أجرته شركة Irregular الإسرائيلية المتخصصة في أمن الذكاء الاصطناعي، والتي أبلغت "غوغل" في أواخر يوليو بعد اكتشاف حادثة منفصلة تتعلق بنموذج من OpenAI وشركة Hugging Face.

ولم تؤكد "غوغل" هذه الاختراقات علنا إلا هذا الأسبوع بعد استفسار من صحيفة The Wall Street Journal.

كيف حدث الاختراق؟

كان Gemini يشارك في تمرين capture the flag المصمم لاختبار قدرته على العثور على معلومات داخل أنظمة تابعة لشركات وهمية، في بيئة كان من المفترض أن تكون معزولة عن الإنترنت. لكن اتصالا غير مقصود سمح للنموذج بالوصول إلى معلومات وأنظمة حقيقية.

ففي إحدى الحالات، كان Gemini يحاول الوصول إلى شركة وهمية صادف أن اسمها تطابق مع اسم شركة حقيقية، فتمكن من الوصول إلى برامج الشركة الحقيقية. وفي حالتين أخريين، وجد النموذج بيانات اعتماد مكشوفة علنا على الإنترنت واستخدمها للوصول إلى أنظمة شركات حقيقية.

وقالت هيذر أدكينز، نائب رئيس هندسة الأمن في "غوغل": "في جميع هذه الحالات الثلاث، توقف النموذج". وأكدت أنه تم إخطار الشركات المتأثرة، وأن "غوغل" لم تجد أي دليل على أن الحوادث تسببت في أضرار. وأضافت: "تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".

من جهتها، قالت شركة Irregular إن هذه ليست حادثة منفصلة، بل هي المشكلة نفسها التي سبق الإبلاغ عنها. وأكدت أنها أخطرت جميع المختبرات المعنية في أواخر يوليو، وأنها تحركت فورا وعالجت كل المشكلات من جانبها منذ أسابيع.

وتوضح هذه الحادثة التحدي المتزايد الذي يواجه مطوري الذكاء الاصطناعي مع تزايد قدرة النماذج على تنفيذ مهام معقدة بشكل مستقل، إذ يمكن أن يؤدي منح نظام ذكاء اصطناعي إمكانية الوصول إلى الإنترنت أو الأدوات البرمجية إلى اتخاذ إجراءات تتجاوز البيئة الخاضعة للرقابة.

حوادث مماثلة

شاركت Irregular في اختبارات أمنية مرتبطة بحوادث أخرى شملت OpenAI وAnthropic. فقد كشفت لـOpenAI عن حوادث تتعلق بوكلاء ذكاء اصطناعي يصلون إلى أنظمة خارجية، بما في ذلك حادثة تحميل حزم ضارة إلى منصة RubyGems وأخرى تتعلق بـHugging Face، كما أبلغت Anthropic عن حوادث تتعلق بنماذج Claude أثناء الاختبارات الأمنية.

وتأتي هذه الحادثة وسط مخاوف متجددة بشأن مخاطر الذكاء الاصطناعي على البشرية. فقد ادعى جاكوب كوكسون، الباحث السابق في Anthropic، الأسبوع الماضي أنه استقال من الشركة لأن مطوري الذكاء الاصطناعي "يقامرون بحياتنا" وهم "يعتقدون بصدق أنه قد يقتلنا جميعا بحلول نهاية العقد". وقد أثارت استقالته جدلا حول ما إذا كان التهديد حقيقيا أم مجرد دعاية تسويقية.

المصدر: إندبندنت

إقرأ المزيد

تجربة روسية تكشف مفاجآت الذكاء الاصطناعي في تعليم الإنجليزية

اختبرت المرشحة لنيل درجة الدكتوراه في العلوم التربوية أولغا ميرونوفا من جامعة نيجني نوفغورود اللغوية كيف يمكن للذكاء الاصطناعي أن يساعد المدرس في تعليم اللغة الإنجليزية بالمدرسة.

"أنثروبيك" تكشف: Claude "يزداد قوة" ويشارك في تطوير نسخة منه أكثر ذكاء

أعلنت شركة "أنثروبيك" (Anthropic) أن نموذجها للذكاء الاصطناعي Claude يشارك في تطوير النسخة الأكثر ذكاء من نفسه، حيث يقود الآن 26% من أبحاث وتطوير النماذج في الشركة.

OpenAI تكشف 6 حالات جديدة لسلوك "مقلق " لنماذجها وتحذر من استمرار التطوير بالسرعة الحالية

كشفت شركة OpenAI عن ستة أمثلة جديدة لسلوك "غير متوقع أو مقلق" صادر عن تقنيتها، محذرة في الوقت نفسه من أن استمرار التطوير بالوتيرة الحالية لم يعد ممكنا.

بعد تحذيرها من خطر الذكاء الاصطناعي على البشر.. "أنثروبيك" تبحث عن مدير سياسات للأسلحة التقليدية!

نشرت شركة "أنثروبيك" إعلانا وظيفيا للبحث عن مدير سياسات للتعامل مع الأسلحة التقليدية، بعد يومين فقط من تحذير رئيسها التنفيذي من أن إنشاء نظام ذكي متقدم قد يؤدي إلى انقراض البشر.

ماسك يحدد "السبيل الوحيد" لجعل جميع سكان الأرض "أثرياء"

ادعى إيلون ماسك أن الذكاء الاصطناعي هو مفتاح تحقيق أجور مرتفعة "شاملة" لجميع سكان العالم.