Anthropic предотвратила кибератаки против Украины с использованием моделей Claude
Компания Anthropic успешно остановила попытки применения своих моделей Claude для проведения кибершпионских операций против Украины, которые, по всей видимости, имели связь с Россией.
Как сообщает Reuters, в отчете компании отмечается, что киберпреступники и хакеры, действующие с поддержкой государства, всё чаще прибегают к искусственному интеллекту для организации и выполнения значительных кибератак, в которых люди играют роль наблюдателей, а не непосредственных исполнителей.
В сообщении подчеркивается, что «использование искусственного интеллекта вышло за рамки простых вопросов и ответов чат-бота и стало подразумевать применение многоагентных систем».
Согласно данным Anthropic, одна из хакерских групп проводила фишинг-атаки, захватывала сети Wi-Fi в гостиницах и взламывала аккаунты в WhatsApp, нацеливаясь на правительственные, военные и дипломатические структуры Украины, используя искусственный интеллект на всех этапах своих операций.
Эти действия соответствуют методам, применяемым российской хакерской группой Midnight Blizzard, которую правительство США ранее связывало с российской службой внешней разведки СВР.
По информации компании, группа использовала искусственный интеллект для создания системы, которая автоматически определяла, когда её вредоносное ПО было обнаружено системами защиты, и переписывала код, чтобы избежать выявления.
Anthropic также сообщила о пресечении деятельности, связанной с аффилированными лицами группировки ShinyHunters, которая на данный момент является одной из наиболее активных киберпреступных групп и связана с атаками на крупные корпорации по всему миру.
Следует напомнить:
Ведущий исследователь OpenAI выразил обеспокоенность быстрым развитием искусственного интеллекта, который становится всё более сложным для понимания и контроля людьми, и высказал надежду, что лаборатории, занимающиеся разработкой ИИ, будут добровольно замедлять темпы своего прогресса в интересах безопасности.
