جين10 بيانات 28 أغسطس ، قامت OpenAI و Anthropic مؤخرًا بتقييم نماذج بعضهما البعض في محاولة لاكتشاف المشكلات التي قد تكون قد فاتت في اختباراتهم. ذكرت الشركتان يوم الأربعاء في مدوناتهما الخاصة أنهما أجرتا اختبارات أمان على نماذج الذكاء الاصطناعي المتاحة للجمهور في الصيف هذا العام وتحققوا مما إذا كانت النماذج تعاني من ميل للتوهم ، بالإضافة إلى ما يسمى بمشكلة "فقدان التوافق" (misalignment) ، أي أن النماذج لم تعمل كما توقع المطورون. تم الانتهاء من هذه التقييمات قبل إطلاق OpenAI لـ GPT-5 وقبل أن تطلق Anthropic Opus 4.1 في أوائل أغسطس. تم تأسيس Anthropic بواسطة موظفين سابقين في OpenAI.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
OpenAI و Anthropic تختبران مشكلات幻觉 والأمان لنموذجها
جين10 بيانات 28 أغسطس ، قامت OpenAI و Anthropic مؤخرًا بتقييم نماذج بعضهما البعض في محاولة لاكتشاف المشكلات التي قد تكون قد فاتت في اختباراتهم. ذكرت الشركتان يوم الأربعاء في مدوناتهما الخاصة أنهما أجرتا اختبارات أمان على نماذج الذكاء الاصطناعي المتاحة للجمهور في الصيف هذا العام وتحققوا مما إذا كانت النماذج تعاني من ميل للتوهم ، بالإضافة إلى ما يسمى بمشكلة "فقدان التوافق" (misalignment) ، أي أن النماذج لم تعمل كما توقع المطورون. تم الانتهاء من هذه التقييمات قبل إطلاق OpenAI لـ GPT-5 وقبل أن تطلق Anthropic Opus 4.1 في أوائل أغسطس. تم تأسيس Anthropic بواسطة موظفين سابقين في OpenAI.