عندما كشفت OpenAI مؤخرًا أن اثنين من أكثرها تقدمًا الذكاء الاصطناعي لقد أفلتت نماذج الذكاء الاصطناعي (AI) من حدود اختبار الأمن السيبراني واخترقت شركة ناشئة، بدا الأمر مشابهًا إلى حد كبير لنوع السيناريو الذي أمضى الباحثون في مجال سلامة الذكاء الاصطناعي سنوات في التحذير منه.
وجدت النماذج ثغرة أمنية لم تكن معروفة سابقًا في البنية التحتية المخصصة لاحتوائها، وتمكنت من الوصول إلى الإنترنت العام واقتحمت Hugging Face، وهي منصة رئيسية لاستضافة نماذج الذكاء الاصطناعي ومجموعات البيانات. ومع ذلك، كان هدفهم أقل شرًا مما قد يوحي به تسلسل الأحداث: لقد كانوا يبحثون عن معلومات من شأنها أن تساعدهم في إكمال اختبار الأمن السيبراني الذي قدمته لهم OpenAI.
في أ بيان 16 يوليووكشف ممثلو Hugging Face عن اختراق مجموعات البيانات الداخلية، قائلين إنها “مختلفة عن أي شيء تعاملنا معه من قبل” لأنها كانت مدفوعة “بواسطة نظام وكيل مستقل للذكاء الاصطناعي”. في آخر بيان نشر في 21 يوليو، اعترف ممثلو OpenAI بمسؤوليتهم، ووصفوا الحادثة بأنها “حادثة سيبرانية غير مسبوقة” بينما حذروا من أن الأحداث المماثلة يمكن أن تصبح أكثر شيوعًا مع تزايد قدرة نماذج الذكاء الاصطناعي.
أحدث مقاطع الفيديو منالعلوم الحية
الخبراء المستقلون الذين تحدثوا مع Live Science يتفقون على أن ما حدث مهم، لكنهم حذروا من تفسيره على أنه نظام ذكاء اصطناعي يطور فجأة أجندة خبيثة. يبدو أن النماذج قد تابعت المهمة التي كلفتها بها شركة OpenAI، حيث وجدت طريقًا للنجاح فشل منشئوها في توقعه أو منعه بشكل مناسب.
“إذا كان هناك فشل هنا، فهذا ليس أن الذكاء الاصطناعي أراد اختراق شيء ما،” أولي باكليوقال أستاذ الأمن السيبراني بجامعة لوبورو في المملكة المتحدة لموقع Live Science. “إن الأمر هو أن البشر قاموا بإنشاء اختبار حيث يتم قياس النجاح من خلال تحقيق هدف ما، وخففوا عمدا بعض الضوابط الأمنية العادية لقياس قدرات النظام، وقللوا من مدى فعالية النموذج في إيجاد مسار غير متوقع للنجاح.”
كيف انتهى اختبار OpenAI إلى ضرب Hugging Face بهذه الطريقة؟
تم اختبار OpenAI جي بي تي-5.6 سول ونموذج أكثر قوة لم يتم طرحه بعد باستخدام ExploitGym، وهو معيار يتحدى أنظمة الذكاء الاصطناعي للعثور على ثغرات البرامج واستغلالها. قامت الشركة بإزالة بعض ضمانات الأمن السيبراني التي من شأنها أن تمنع عادةً الإجراءات الخطيرة المحتملة مع الاعتماد على بيئة معزولة لإبقاء العارضات بعيدًا عن الإنترنت على نطاق أوسع.
وفقًا لتحليل OpenAI، اكتشفت النماذج ثغرة أمنية لم تكن معروفة سابقًا في برامج الطرف الثالث المستخدمة في حزم البرامج الوكيلة والتخزين المؤقت. لقد استغلوها وصعدوا من امتيازاتهم وانتقلوا عبر البنية التحتية البحثية لـ OpenAI حتى وصلوا إلى جهاز متصل بالإنترنت العام.
أصبح Hugging Face هدفًا لأن العارضات حددته كمصدر محتمل للمعلومات التي يمكن أن تساعدهن في إكمال تحديات ExploitGym. قالت OpenAI إن سلسلة هجوم واحدة على الأقل تضمنت بيانات اعتماد مسروقة ونقاط ضعف غير معروفة سابقًا والتي مكنت النماذج في النهاية من تنفيذ تعليمات برمجية عن بعد على أنظمة Hugging Face والوصول إلى حلول الاختبار المخزنة في قاعدة بيانات الإنتاج.
وفي كشفهم، قال ممثلو Hugging Face إن الشركة سجلت أكثر من 17000 إجراء أثناء عملية الاقتحام، لكنهم لم يتمكنوا في البداية من شرح من أو ماذا كان وراء ذلك. لقد وفر الكشف اللاحق لشركة OpenAI تلك القطعة المفقودة: لقد خرجت نماذجها من بيئة الاختبار الخاصة بها وذهبت للبحث عن الإجابات في مكان آخر.
بدلاً من إخفاء أي نية خبيثة، أرادت نماذج الذكاء الاصطناعي ببساطة معرفة المزيد من المعلومات حتى يتمكنوا من إكمال مهمتهم.
(رصيد الصورة: وايلدبيكسل / غيتي إيماجز)
هل “هرب” الذكاء الاصطناعي حقًا؟
ومن الجدير بالذكر أن النماذج وجدت خللاً في البنية التحتية المصممة لاحتواء الذكاء الاصطناعي واستخدمته للوصول إلى الإنترنت العام. وقال باكلي إن وصف النماذج بأنها “أصبحت مارقة” يخاطر بتخصيص دوافع غير مدعومة لها.
قال باكلي: “أعتقد أنني سأكون حذرًا من القفز إلى الذكاء الاصطناعي المارق”. “لم تضع العارضات أجندتهن الخاصة أو يقررن مهاجمة Hugging Face أثناء تدوير شاربهن الرقمي.”
قارنه باكلي بمطالبة كلب بإحضار كرة أثناء ترك بوابة الحديقة مفتوحة. وقال: “إذا كانت الكرة الأسهل التي يمكن العثور عليها موجودة في الحديقة على الطريق، فهذا هو المكان الذي ستتجه إليه”. “لن تقول إن الكلب قد أصبح مارقًا، بل ستقول فقط أنك قللت من تقدير مدى مواصلته للمهمة حرفيًا.”
دانيال هولموافق رجل الأعمال المقيم في جامعة كوليدج لندن والرئيس التنفيذي لشركة Conscium لسلامة الذكاء الاصطناعي، على أنه لا ينبغي تخصيص دوافع للنماذج مثل دوافع الإنسان. وقال لـ Live Science: “النماذج ليس لديها نية، البشر لديهم النية، ونحن ندرب النماذج مع وضع الأهداف في الاعتبار”.
قد تكون القدرة أكثر أهمية من الدافع
ما يهم أكثر من الدوافع المفترضة للنماذج هو ما تمكنوا من تحقيقه أثناء متابعة المهمة الموكلة إليهم.
وقال باكلي: “النقطة المهمة حقًا هي أن النماذج تبدو وكأنها ربطت عدة نقاط ضعف عبر أنظمة مختلفة وحافظت على سلسلة معقدة من الإجراءات”. “وهذا يوضح مستوى القدرة الذي يجب على المتخصصين في مجال الأمن أن يأخذوه على محمل الجد.”
الدرس المستفاد ليس أن الذكاء الاصطناعي أصبح ضارًا. وبدلاً من ذلك، فإن الأنظمة ذات القدرة المتزايدة سوف تستغل الفرص التي يفشل البشر في توقعها.
أولي باكلي، أستاذ الأمن السيبراني في جامعة لوبورو
كاترينا ميتروكوتساوقال أستاذ الأمن السيبراني والتشفير التطبيقي في جامعة سانت غالن في سويسرا، إن فشل الاحتواء يثير القلق بشكل خاص لأن شركة أخرى دفعت الثمن في النهاية.
وقال ميتروكوتسا لـ Live Science: “أكثر ما يقلقني هو من الذي تأثر في النهاية”. “لم تكن الضحية هي الشركة التي أجرت الاختبار، بل طرفًا ثالثًا. هذا هو السيناريو الذي حذر منه الباحثون الأمنيون لبعض الوقت: أن هروب عميل الذكاء الاصطناعي لا يظل بالضرورة محصورًا في البيئة التي نشأ فيها.”
قال ممثلو OpenAI إنهم قاموا بتشديد البنية التحتية المستخدمة في هذه التقييمات. لكن ميتروكوتسا حذر من أن ضمان الاحتواء يصبح أكثر صعوبة مع تحسن النماذج في أداء نوع الاستغلال الذي كانت شركة OpenAI تختبره.
تحذير من الذكاء الاصطناعي – وعرض مثير للإعجاب للمنتج
هناك أيضًا سبب للنظر بعناية في كيفية تأطير الحادث. يخدم حساب OpenAI غرضين في وقت واحد: فهو يحذر من المخاطر الأمنية التي يشكلها الذكاء الاصطناعي المتزايد القدرة بينما يوضح مدى القدرة التي أصبحت عليها أحدث نماذجها.
وقال باكلي إن الإعلانات الصادرة عن شركات الذكاء الاصطناعي الرائدة مثل OpenAI أو Anthropic يجب أن يُنظر إليها في سياق صناعة تتنافس لبناء نماذج أكثر قوة من أي وقت مضى.
وقال: “لقد رأينا عروضاً مماثلة رفيعة المستوى لقدرات شركة أنثروبيك وغيرها”. “هذا لا يجعل النتائج غير صحيحة، لكنه يعني أننا يجب أن نفصل الأدلة الفنية عن السرد التسويقي.”
وأضاف أن هذه الشركات لديها كل الحوافز لإظهار أن نماذجها قادرة بشكل غير عادي، وأنها تأخذ المخاطر على محمل الجد. وتُظهِر حادثة Hugging Face أن نماذج OpenAI نفذت سلسلة معقدة من العمليات باستقلالية كبيرة، وأن إجراءاتها الأمنية فشلت في إبقائها داخل التجربة.
يرى هولم أن التحدي على المدى الطويل يتمثل في ضمان قدرة أنظمة الذكاء الاصطناعي المتزايدة على تحقيق أهدافها بطرق تظل متسقة مع القيم الإنسانية.
وقال: “بدلاً من السعي للسيطرة على أنظمة الذكاء الاصطناعي، يجب أن يكون التركيز على المواءمة”، مضيفًا أنه ستكون هناك حاجة إلى اختبار مستمر لضمان بقاء الأنظمة متوافقة مع مهامها المقصودة مع الحفاظ على أمانها.
وقال الخبراء إن هذه الحادثة تركت OpenAI بنتيجة مثيرة للإعجاب وغير مريحة بنفس القدر. وقد عثرت نماذجها على نقاط ضعف لم تكن معروفة من قبل، واستمرت في متابعة هدفها بما يتجاوز الحدود التي توقعها منشئوها، ولكن لا شيء من ذلك يتطلب منهم تطوير نوايا خبيثة.
وقال باكلي: “الدرس المستفاد ليس أن الذكاء الاصطناعي أصبح خبيثاً”. “بدلاً من ذلك، فإن الأنظمة ذات القدرة المتزايدة ستستغل الفرص التي يفشل البشر في توقعها.”
في هذه الحادثة، تم منح نماذج OpenAI الجديدة تحديًا للقرصنة وتمت مكافأتهم على إيجاد طريقة لحل هذا التحدي. البشر الذين أجروا التجربة ببساطة لم يتوقعوا إلى أي مدى يمكن أن يصلوا.
مرتبط
اكتشاف المزيد من موقع مدسن medicine
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
