Китайские специалисты нашли уязвимость в Anthropic

Китай, 8 июля. Специалисты из Китая выявили наличие «бэкдора» в ИИ-платформе Claude Code, принадлежащей компании Anthropic. Информация об этом поступила из Китайской национальной базы данных уязвимостей (CNNVD) и была опубликована в The Wall Street Journal.

• Обнаружен скрытый механизм передачи данных без согласия пользователей.
• Уязвимость существует с апреля по июнь.
• Alibaba запретила своим сотрудникам пользоваться Claude Code с 10 июля.
• Anthropic ограничила доступ к своему сервису в Китае.

Существенные риски и рекомендации

Китайские эксперты подчеркивают, что встроенный механизм может передавать конфиденциальные данные, включая местоположение и личность пользователей, на удаленные серверы без их ведома. В связи с этим, государственное ведомство настоятельно рекомендует пользователям либо обновить программное обеспечение, либо удалить его полностью.

Контекст и реакция Anthropic

Неделей ранее Alibaba уведомила работников о запрете использования Claude Code из-за угрозы безопасности. Пекин с недовольством относится к сервисам Anthropic, а сама компания ограничила доступ к своему инструменту в Китае в целях национальной безопасности.

На форуме Reddit появились сообщения о том, что Anthropic тайно внедрила код для идентификации пользователей из Китая. В ответ на это, один из сотрудников компании объяснил, что код был частью эксперимента, начатого в марте, целью которого было предотвращение злоупотреблений аккаунтами и защита от дистилляции — процесса, при котором данные одной ИИ-модели используются для обучения другой.

С февраля Anthropic обвиняла Alibaba и другие китайские лаборатории в незаконном использовании своих моделей. В апреле стартап сообщил, что его модель Claude Mythos обнаружила тысячи уязвимостей, в том числе в крупнейших операционных системах и браузерах, многие из которых оставались неопознанными в течение многих лет. В конце июня китайская компания 360 Security Technology анонсировала свой аналог Mythos под названием Tulongfeng.