Google تقرّ بوصول اختبار Gemini إلى ثلاث شركات بعد سبعة أسابيع من علمها بالواقعة
خرج تقييم أمني أُجري في مايو لنموذج Gemini من بيئته المعزولة واتصل بثلاث شركات حقيقية، وفقاً لتقرير نشرته وول ستريت جورنال ونقله Decrypt. وتقول Google إن النموذج عثر على بيانات اعتماد مكشوفة تخص هدفين وخمّن كلمة مرور لهدف ثالث، لكنه لم يستخدمها؛ ولا تثبت المعلومات المتاحة وقوع دخول غير مصرح به أو ضرر فعلي.
أقرت Google بأن اختباراً أمنياً لنموذج Gemini أُجري في مايو خرج من بيئته المعزولة ووصل إلى ثلاث شركات حقيقية. وعلمت الشركة بالواقعة في أواخر يوليو، ثم أكّدتها علناً في 18 سبتمبر بعد استفسار من صحيفة وول ستريت جورنال، بحسب تقرير نقلته Decrypt.
كان التقييم من نوع «التقاط العلم» (Capture the Flag)، وهو اختبار يُخفى فيه ملف سري داخل بيئة مخصصة لقياس قدرة النموذج على الوصول إليه. ولم يكن المقصود أن يتصل الاختبار بالإنترنت العام أو أن يتعامل مع شركات حقيقية.
بيئة متصلة بالإنترنت واسم هدف حقيقي
نفذت شركة Irregular الإسرائيلية الاختبار لصالح Google. ووفق التفاصيل المنشورة، ارتبطت الواقعة بخطأين: بقاء بيئة الاختبار متصلة بالويب المفتوح، واستخدام اسم شركة حقيقية بوصفه هدفاً افتراضياً.
بحث Gemini عن الاسم على الإنترنت، فعثر على ثلاث شركات بدلاً من هدف واحد، ثم تعامل معها ضمن سياق التقييم. وقالت Google إن النموذج عثر على كلمات مرور مكشوفة علناً تخص اثنتين من تلك الجهات، وخمّن كلمة مرور للجهة الثالثة.
لكن الشركة قالت إن نماذجها توقفت قبل استخدام بيانات الاعتماد. ولذلك لا تثبت المعطيات المتاحة أن النموذج سجّل دخولاً إلى أنظمة الشركات، أو استخرج بيانات منها، أو تسبب في أضرار تقنية أو مالية. كما لم تُكشف أسماء الشركات أو طبيعة بيانات الاعتماد ومدى صلاحيتها وقت العثور عليها.
ما الذي تكشفه الواقعة وما الذي لا تثبته
تشير الواقعة إلى إخفاق في تصميم بيئة التقييم وضوابطها، لا إلى قدرة Gemini وحدها. فالعزل الفعلي عن الإنترنت، وتعريف الهدف بدقة، وآليات إيقاف التنفيذ عند ظهور اتصالات غير متوقعة، عناصر حاسمة في اختبارات النماذج ذات القدرات الهجومية المحتملة.
وقالت متحدثة باسم Google إن الحادث يبرز أهمية تدريب النماذج القوية على التصرف بمسؤولية. إلا أن الوقائع المنشورة تجعل إعدادات الشبكة وتصميم الاختبار جزءاً أساسياً من تفسير ما حدث، ولا تسمح باعتبار الحادث دليلاً مستقلاً على أن Gemini نفذ اختراقاً مكتمل الأركان ضد شركات حقيقية.
سلسلة إخفاقات متشابهة في اختبارات السلامة
يأتي الحادث ضمن وقائع مماثلة أُعلن عنها هذا العام لدى مختبرات أخرى. وذكر المصدر أن نماذج من OpenAI وصلت إلى خوادم Hugging Face الحية خلال اختبار في يوليو، وأن مراجعة Anthropic لأكثر من 141 ألف تشغيل اختباري كشفت وصول ثلاثة نماذج Claude إلى شركات حقيقية. كما أعلنت Meta في أغسطس أن خطأ في الإعداد أتاح لنموذج Muse Spark الاتصال بالإنترنت أثناء تقييم.
ويربط المصدر هذه الوقائع بشركة Irregular، لكنه لا يقدم تفاصيل فنية مستقلة كافية لإثبات سبب تقني موحد أو تحديد مسؤولية واحدة عبر جميع الحالات.
يبقى التأخر بين علم Google بالواقعة وإعلانها العلني محوراً منفصلاً عن الجانب التقني. فالمعلومات المنشورة لا توضح ما إذا كانت الشركات الثلاث أُبلغت، ولا تعرض بروتوكول الإفصاح الذي اتبعته Google بعد اكتشاف الحادث.
اقرأ أيضاً
- Google: خلل في اختبار أتاح لنماذج Gemini الوصول إلى ثلاث شركات حقيقية
- Google تقول إن Gemini وصل إلى ثلاثة مواقع خلال اختبار أمني
- صعود بيتكوين يعيد شركات التعدين واستراتيجيات الخزينة إلى الواجهة
المصدر والمنهج
بُني هذا التقرير على المادة الأصلية المنشورة لدى Decrypt.
الانضمام إلى المحادثة