لا تزال مختبرات Frontier الذكاء الاصطناعي غير قادرة على تحديد كيفية احتوائها على نموذج مارق

ماذا حدث؟

وفقاً لدراسة حديثة، قام عدد قليل من أفضل مختبرات الذكاء الاصطناعي بنشر أو عرض خطط الاستجابة للاحتواء. توضح خطة الاحتواء ما يحدث عندما يتم القبض على الذكاء الاصطناعي وهو يحاول تقويض السيطرة البشرية - ما الذي سيتم قطعه من الوصول، ومتى يتم إغل...

نص الخبر بالعربي

وفقاً لدراسة حديثة، قام عدد قليل من أفضل مختبرات الذكاء الاصطناعي بنشر أو عرض خطط الاستجابة للاحتواء. توضح خطة الاحتواء ما يحدث عندما يتم القبض على الذكاء الاصطناعي وهو يحاول تقويض السيطرة البشرية - ما الذي سيتم قطعه من الوصول، ومتى يتم إغلاق النظام بالكامل. هذه هي النتيجة التي توصلت إليها Guidelight AI Standards، وهي منظمة مكرسة لتعزيز ممارسات تطوير الذكاء الاصطناعي الحدودية الآمنة، والتي صنفت خمسة مختبرات رائدة على مدى استعدادها لهذا السيناريو بالضبط.

جاء OpenAI في المقدمة؛ سجل الأنثروبي والميتا أدنى مستوى. تعتبر هذه النتائج مهمة لأن الذكاء الاصطناعي الوكيل يتولى أدوارًا أكثر استقلالية داخل الأنظمة الخاصة بالشركات، ومع بدء الهيئات التنظيمية في كاليفورنيا ونيويورك في المطالبة بالإفصاح. بالنسبة لأي شخص يعتمد على هذه النماذج أو يستثمر فيها، فهي قراءة مستقلة نادرة حول مد...

استند تقييم Guidelight إلى الخطط المتاحة للعامة من Anthropic وGoogle وOpenAI وMeta وxAI، والتي تم تصنيفها عبر مجموعة من المقاييس، بما في ذلك مدى جودة كل شركة في تسجيل ومراقبة ما تفعله أنظمة الذكاء الاصطناعي الخاصة بها داخليًا، وما إذا كانت توقف الأنظمة بعد موجة من سوء السلوك المُعلن عنها، وما إذا كانت أطراف ثالثة مستقلة تقوم بمراجعة ضوابطها ونشر النتائج، وما هي خطتها الدقيقة لاحتواء نموذج يخرج عن المسار الصحيح.

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://techcrunch.com/2026/08/22/frontier-ai-labs-still-wont-say-how-theyd-contain-a-rogue-model/

من مواقع أخرى حول نفس الموضوع