«Anthropic» закрыла ученым доступ к «Claude» из-за риска создания биооружия

Компания «Anthropic» предотвратила несколько возможных попыток использования ее ИИ-моделей для проведения исследований, которые могли помочь в разработке биологического оружия.
Как передает Nedelya.az со ссылкой на Газета.ру, об этом пишет «The New York Times».
В отчете о неправомерном использовании технологий Anthropic указала, что заблокировала исследователей и институты, которые пытались обходить защитные механизмы для проведения экспериментов двойного назначения. В одном из зафиксированных случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности.
«Вы не увидите кого-либо, кто скажет как в комиксах: «Я хочу создать биологическое оружие, чтобы уничтожить всех». Это невероятно сложная и неоднозначная ситуация», — сказал глава отдела разведки угроз Anthropic Джейкоб Кляйн.
Anthropic — американская технологическая компания в сфере искусственного интеллекта, создавшая семейство языковых моделей Claude.
До этого исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
В июле генеральный директор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.

• 11 сент., 15:50