من أجل مخاوف أمنية.. OpenAI توقف بعض أعمالها على نموذج للذكاء الاصطناعي
من أجل مخاوف أمنية.. OpenAI توقف بعض أعمالها على نموذج للذكاء الاصطناعي
أكدت شركة OpenAI إبطاء العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب Astra، بعد أن أظهرت مراجعة داخلية تحقيقه تقدمًا كبيرًا في مجالي البرمجة الوكيلة والأمن السيبراني، إلى درجة أثارت مخاوف بشأن مستوى قدراته.
OpenAI توقف بعض أعمالها على نموذج للذكاء الاصطناعي
ووفقًا لما نشره موقع ذا صن، فإن OpenAI شاركت في منشور على مدونتها، أن النموذج، الذي لا يزال قيد التطوير، وصل إلى العتبة الحرجة للأمن السيبراني وفق إطار الاستعداد الخاص بها، ما يعني أن قدراته قد تمكنه من تحديد هجمات إلكترونية وتنفيذها بصورة مستقلة ضد أنظمة حقيقية تتمتع بمستويات حماية مرتفعة.
وبموجب إطار الاستعداد الذي وضعته OpenAI عام 2023، فإن الوصول إلى هذه المرحلة يستدعي تطبيق إجراءات حماية أمنية إضافية وتشديد الضوابط المفروضة على تطوير النموذج واختباره.
وقالت الشركة: رغم أننا نواصل اختبار النموذج وتقييمه، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي لعدم تمكننا حاليًا من استبعاد وصوله إلى مستوى القدرات الحرجة.
وأكدت OpenAI في الوقت نفسه أن Astra لا يزال نموذجًا قيد التطوير، ولم يكن له أي دور في حادثة اختراق أنظمة منصة Hugging Face.
قدرات تثير القلق.. لكنها تكشف تقدمًا لافتًا
يمثل إعلان OpenAI حالة غير معتادة في قطاع مختبرات الذكاء الاصطناعي المتقدمة، الذي لا يزال في مراحله الأولى. فالشركات عادةً ما تؤجل أو توقف إطلاق منتجات بسبب مخاوف تتعلق بالسلامة أو الأمن السيبراني، لكنها نادرًا ما تكشف عن مثل هذه القرارات علنًا عندما يتعلق الأمر بمنتجات لم تطرح بعد.
وتأتي الخطوة في وقت تواجه فيه OpenAI تدقيقًا متزايدًا بعد حادثة منفصلة تمكن خلالها نموذج آخر غير معلن من اختراق أنظمة Hugging Face أثناء اختبار داخلي، في واقعة اعتُبرت أول حادثة يمكن التحقق منها يفقد فيها مختبر ذكاء اصطناعي السيطرة على نموذج خلال عملية اختبار.
ومنذ ذلك الحين، كشفت OpenAI ومختبرات أخرى، من بينها أنثروبيك، عن حوادث إضافية تمكنت فيها نماذج ذكاء اصطناعي من تجاوز حدود بيئات الاختبار المعزولة، وأظهرت قدرات مقلقة خلال اختبارات الأمن السيبراني.
