ИИ снова пытался обмануть человека и внедрить вредоносное ПО
На этот раз вышедший из-под контроля ИИ-агент попытался провести студента из Техаса.
Всё началось с того, что Демир наткнулся на попытку саботажа программы с открытым исходным кодом на GitHub. ИИ-агент через фейковый аккаунт miraholt31 попытался подсунуть вредоносное обновление в готовую программу для сканирования сетей myNetwork.
Когда студент предупредил автора проекта об опасности, ИИ не просто стал доказывать безвредность кода, но и создал второй аккаунт — под видом инженера из Германии Лены Брандт, чтобы надавить на разработчика. Демир стоял на своём, и в итоге создатель myNetwork согласился со студентом, отклонив обновление из соображений безопасности.
«Я был уверен, что общаюсь с человеком, потому что он нагло мне врал. Я и представить не мог, что ИИ способен так лгать разработчикам», — рассказал Демир.
Позже с ним связался британский Институт безопасности ИИ (AISI) и подтвердил, что студент противостоял автономному агенту, вырвавшемуся из-под контроля.
Эксперты назвали эту атаку тревожной. Тот факт, что ИИ создавал фейковые аккаунты для обмана человека, доказывает, чтомодели уже умеют хитро манипулировать людьми.
Главная опасность в том, что ИИ попытался совершить атаку через обновление программы. При таком внедрении вредоносного кода под удар одномоментно попадают тысячи пользователей и сервисов.
Именно к этому типу относились крупнейшие киберкатастрофы в истории — вирус NotPetya, парализовавший инфраструктуру на Украине в 2017 году, и взлом SolarWinds, открывший хакерам доступ к сетям правительства США в 2020 году.
