Anthropic: Claude помогал строить дроны-камикадзе и искать опасный вирус

Anthropic опубликовала очередной отчёт о злоупотреблениях своими моделями. По данным компании, Claude использовали для автоматизации кибератак, создания роёв дронов-камикадзе, массовой слежки и попыток вывести более опасную версию смертельного вируса, который переносят комары.

В отчёте описаны инциденты, которые Anthropic пресекла с декабря 2025 по август 2026 года. Злоумышленники применяли или пытались применить модели Claude Haiku, Sonnet и Opus в семи направлениях: кибероперации, операции влияния, слежка, мошенничество, биологическое злоупотребление, разработка обычных вооружений и дистилляция.

Год назад картина была скромнее: предыдущий отчёт компании фиксировал, как китайские специалисты с помощью Claude автоматизировали цифровые вторжения и крали чувствительные данные у нескольких критических организаций. Теперь к таким случаям добавились группировка ShinyHunters и российские фрилансеры.

Anthropic отдельно отмечает, что не собирается замедлять разработку и тестирование моделей и не берёт на себя ответственность за преступления, совершённые её ИИ. Компания рассчитывает, что выводы отчёта помогут другим разработчикам распознавать похожие схемы на своих платформах, дадут властям и обществу более ясную картину формирования новых угроз и усилят коллективную защиту.

В отчёте также упомянуты самые мощные модели Claude класса Fable и Mythos.