آگاه:طبق تحقیقی جدید بیشتر شرکت‌های هوش مصنوعی نمی‌توانند ریسک‌های فاجعه‌بار این فناوری را مدیریت کنند.
تحقیق موسسه Future of Life نشان می‌دهد که هشت شرکت برتر 
هوش مصنوعی فاقد اقدامات ایمنی اثبات‌شده، نظارت مستقل و برنامه‌های بلندمدت برای مدیریت ریسک سیستم‌های قدرتمند هستند. در شاخص ایمنی هوش مصنوعی (AI Safety Index)، شرکت‌های آمریکایی بهترین امتیاز را گرفتند و محصول Anthropic بالاتر از OpenAI و DeepMind گوگل قرار گرفت.
با این حال، هیچ شرکتی در ارزیابی «ریسک وجودی» نمره بالاتر از D نگرفت و  Alibaba Cloud، DeepSeek، Meta، xAI  و Z.ai نمره F کسب کردند. تحقیق تاکید کرده که ایمنی وجودی همچنان بزرگ‌ترین ضعف ساختاری این حوزه است و فاصله بین شتاب در توسعه AGI و نبود برنامه‌های معتبر کنترل آن روزبه‌روز نگران‌کننده‌تر می‌شود.
استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، می‌گوید: «مدیران ارشد می‌دانند چگونه ابرهوش بسازند، اما هیچ‌کس نمی‌تواند نشان دهد چگونه خطر از دست رفتن کنترل آنها را مهار ‌کند. آنها نمی‌توانند ریسک سالانه از دست دادن کنترل را به اندازه‌ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته‌ای باشد.»