Утверждается, что после масштабного обновления ChatGPT в середине 2025 года сотни пользователей получили от искусственного интеллекта подробные инструкции по созданию биологического оружия. Об этом пишет The Wall Street Journal (WSJ) со ссылкой на внутренние документы OpenAI и мнения экспертов.
Согласно расследованию, в некоторых случаях ChatGPT предоставлял пользователям пошаговую и понятную информацию о создании смертельных токсинов, биологического оружия и зажигательных смесей. По словам специалистов, ответы были достаточно точными, и следовать этим инструкциям мог бы даже школьник с базовыми знаниями биологии.
По данным WSJ, в начале 2026 года в систему поступали запросы о методах распространения опасных патогенов, искусственном усилении вируса кори и кустарном производстве рицина. Утверждается, что искусственный интеллект предоставлял подробные ответы на эти темы.
В статье отмечается, что OpenAI оперативно блокировала аккаунты, уличенные в подобной активности. Однако компания не информировала об этом правоохранительные органы США. Причиной этого является отсутствие в федеральном законодательстве США правового требования, обязывающего ИИ-компании сообщать государственным органам о пользователях, интересующихся созданием оружия массового поражения.
WSJ напоминает, что риск использования искусственного интеллекта для создания биологического оружия был предметом обсуждения в Пентагоне и Белом доме еще во время администрации Джо Байдена. После этого механизмы контроля над мощными моделями искусственного интеллекта были дополнительно ужесточены.
OpenAI, Anthropic и другие ведущие компании в сфере искусственного интеллекта заявляют, что сотрудничают с государственными органами, блокируют подозрительные аккаунты и внедряют дополнительные механизмы безопасности. Тем не менее, действующее законодательство не требует от них сообщать о подобных случаях в правоохранительные органы.
В расследовании также отмечается, что те же пользователи отправляли аналогичные запросы и в другие системы искусственного интеллекта, такие как Claude, Gemini и Grok.