Несколько важных новостей из мира ИИ, которые можно объединить в один пост:
Второй пошел: еще один инженер, Джо Бентон, ранее работавший в команде в Anthropic, с криками "мы все умрем" объявил об уходе из компании из-за недостаточных инвестиций в безопасность ИИ и рисков потери контроля над сверхинтеллектуальными системами. Ранее, и очень громко (мы подробно об этом писали)
Гендир OpenAI Сэм Альтман сообщил, что компания открыта к замедлению разработки продвинутых систем ИИ, на фоне растущих опасений по поводу безопасности. Эти комментарии последовали за недавними инцидентами, связанными с выходом систем ИИ из-под человеческого контроля, и призывами исследователей к более строгим мерам защиты. OpenAI также поддержала обязательные требования США по безопасности ИИ и ранее заявила, что темпы разработки передового ИИ в конечном итоге могут потребовать преднамеренного замедления
Anthropic сообщила об использовании ИИ в кибератаках против Украины и Европы. Россия якобы использует ИИ в кибератаках против Украины и Европы, нацеленных на аккаунты WhatsApp и государственные министерства. В отчете Anthropic говорится, что среди основных целей также были поставщики военных беспилотных технологий и связанные с ними цепочки поставок
