СМИ: ChatGPT учил пользователей создавать биологическое оружие

ChatGPT после обновления прошлым летом предоставил сотням пользователей по всему миру инструкции создания и применения биологического оружия и ядов.

Как передает nedelia.az, об этом пишет The Wall Street Journal со ссылкой на экспертов.

Модели компании "терпеливо" отвечали на любые вопросы пользователей, выдавая пошаговые инструкции, которые сотрудники OpenAI описывали как достаточно простые, чтобы им мог следовать ученик средней школы, изучающий биологию. Биологи, проанализировав ответы ИИ, назвали их "смертельно точными".

Компания заблокировала учетные записи пользователей, задававших вопросы о создании оружия и ядов, впрочем, как пишет WSJ, это не насторожило правоохранительные органы. В настоящий момент в США нет федеральных законов, обязывающих ИИ-компании ограничивать или раскрывать запросы о создании оружия или разработке планов, представляющих угрозу безопасности.

По данным газеты, в начале 2026 года пользователи массово спрашивали ChatGPT, как распылять патогенные микроорганизмы, создавая смертоносный туман. Один из них также хотел узнать, как модифицировать вирус кори, чтобы сделать вспышку устойчивой к вакцине, и получил ответ. Другой пользователь хотел узнать, как изготовить рицин - высокотоксичный яд, запрещенный международными договорами. ChatGPT тоже дал подробные инструкции.

По словам неназванных чиновников, в Белом доме и Минобороны США еще при Джо Байдене обсуждали угрозу ИИ как руководства по созданию биологического оружия. С появлением новых мощных моделей администрация приняла решение об усилении контроля.

OpenAI, Anthropic и другие ИИ-компании заявляют о тесном сотрудничестве с властями в вопросах выпуска моделей, блокировки пользователей и ограничения доступа к аккаунтам с подозрительной активности. Однако по сей день компании не обязаны на законодательном уровне оповещать о потенциально опасных пользователях.

По данным WSJ, пользователи, которые искали инструкции по созданию биологического оружия, также обращались к чат-боту Claude от Anthropic, к чат-боту Gemini от Google и к чат-боту Grok от xAI Илона Маска. Однако неясно, получали ли они ответы.

Появление китайских языковых моделей, которые за небольшую цену предоставляют доступ к мощным системам, усиливают опасения по поводу возможных атак, отмечает издание. Исследователи обнаружили, что такие открытые модели пользователи могут сами настраивать, снимая некоторые защитные ограничения.

В материале говорится, что когда в 2022 году был запущен ChatGPT, сотрудники OpenAI выявили проблемы с вопросами о биологии и химии. В дальнейшем для исправления данных запросов компания наняла ученых, занимавшихся обучением моделей и выставлением ограничений.

Несмотря на это, некоторым пользователям удавалось обмануть чат-бот, заставляя его выдать рецепт напалма, заявляя, что им этот рецепт читала бабушка перед сном. Они просили ChatGPT зачитать этот рецепт вслух, чтобы им было легче уснуть. Представитель компании заявила WSJ, что с того времени меры безопасности стали гораздо более надежными.

Несмотря на это, руководитель отдела исследований в области угроз и безопасности Эми Чанг из компании Cisco заявила, что в ходе тестирования чат-ботов OpenAi, Anthropic и Google, были выявлены обходные пути для получения потенциально опасных ответов. "Ни одна модель не застрахована на 100% от взлома, особенно если пользователь достаточно настойчив", - сказала она.

• 27 июл., 09:10