Одна из крупнейших американских компаний в области развития искусственного интеллекта Anthropic сообщила в четверг о пресечении попыток использования ее системы Claude для исследований, которые могли бы способствовать разработке биологического оружия.
В отчете, посвященном анализу угроз, Anthropic привел пять примеров возможного злонамеренного использования своих технологий в период с декабря 2025 года по август 2026 года.
В одном из случаев исследователь из страны, где сервисы Anthropic не доступны официально, с помощью виртуальных частных серверов (VPS) получил доступ к системе Claude и в течение нескольких недель планировал эксперименты по адаптации вируса птичьего гриппа для передачи к млекопитающим. К числу стран, которые не имеют официального доступа к услугам Anthropic, относятся, в частности, Россия, Китай, Северная Корея и Беларусь.
В другом случае, неназванный в отчете Anthropic ученый использовал Claude для составления заявки на государственное финансирование исследования вируса чикунгунья.
Представители Anthropic сообщили газете The New York Times, что этот случай вызывает особую обеспокоенность, поскольку работы должны были проводиться в военном научно-исследовательском институте.
Чикунгунья – это передаваемое комарами заболевание, способное вызывать сильные боли и лихорадку, которые могут длиться месяцами. По словам представителей Anthropic, подобные исследования могут иметь двойное назначение, став основой как для создания полезных вакцин, так и для разработки биологического оружия.
Anthropic заблокировал доступ к системе Claude в вышеуказанных случаях. Представители компании заявила, что учли полученные данные при разработке новых мер безопасности, механизмов контроля и систем анализа угроз.
При этом Anthropic в своем отчете не называл конкретные организации, страны, биологические агенты или методы исследований, имеющие отношение к упомянутым инцидентам.
«Использование технологий искусственного интеллекта в сфере биологии с вредоносными целями – один из самых серьезных рисков, связанных с передовыми моделями искусственного интеллекта», – говорится в отчете.
В Anthropic подчеркивают, что без надлежащих мер защиты подобные возможности AI могут привести к катастрофическим последствиям.
В Anthropic также заявили, что компания давно выражает обеспокоенность по поводу возможного использования моделей искусственного интеллекта для повышения опасности уже существующих патогенов или создания новых.
В описанных выше случаях несанкционированного применения Claude исследователи смогли обойти системы защиты, блокирующие доступ из их стран, и пытались скрыть истинные цели своей работы.
В том же отчете сообщается, что пользователи из Китая, России и Йемена смогли применить модель Claude для создания программного обеспечения для обычных видов вооружений – в частности, огнестрельного оружия, ракет, боевых беспилотников, бомб и других боеприпасов, а также систем их наведения и управления.
Руководитель отдела безопасности и анализа угроз в Anthropic Джейкоб Кляйн сообщил агентству Reuters, что возможности моделей ИИ стремительно растут.
«Еще год назад, если бы вы захотели оптимизировать работу дрона или программное обеспечение ракеты, модели ИИ справились бы с этой задачей не так хорошо, как сейчас», – отметил он.
В Anthropic также заявили, что китайские лаборатории пытались применить возможности модели Claude в промышленных масштабах. Так с мая по июль 2026 года компания Anthropic зафиксировала более 151 миллиона взаимодействий с операторами, имеющими отношение к одной из крупнейших китайских торговых площадок Китая Alibaba.
Anthropic обвинил ряд лабораторий, включая Moonshot, DeepSeek и Xiaomi, в попытках воспроизвести или частично скопировать возможности Claude – в том числе путем перенаправления и прогона своих реальных диалогов с клиентами через Claude. Эти компании не ответили на обвинения Anthropic.
В отчете также содержатся факты пресечении попыток шпионажа со стороны Китая и Ирана против представителей диаспор и диссидентских сообществ, включая сторонников демократии в Гонконге, тибетцев, последователей движения Фалуньгун и иранских оппозиционных групп за пределами Ирана.
Anthropic считает, что киберпреступники и хакеры, действующие при поддержке государств, все чаще используют ИИ для организации и осуществления значительной части от общего числа кибератак, и при этом люди зачастую выполняют лишь функции контроля, а не исполнителей.
«Использование ИИ вышло за рамки простого обмена вопросами и ответами с чат-ботом и перешло к применению мультиагентных систем», – заявили в Anthropic. Такие системы состоят из нескольких или целой сети автономных программных систем на базе искусственного интеллекта, и они уже способны решать большие сложные задачи.
Одна из группировок, методы которой, по данным Anthropic, совпадают с тактикой российской хакерской группы Midnight Blizzard, предположительно проводила фишинговые атаки, перехватывая данные через Wi-Fi в отелях и в приложении WhatsApp, против правительственных, военных и дипломатических структур Украины с использованием ИИ практически на каждом этапе своих операций.
Правительство США связывает хакеров Midnight Blizzard с российской Службой внешней разведки.