СМИ: «Gemini» во время теста взломала защищенные системы трех реальных компаний
Модель искусственного интеллекта (ИИ) Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.
Как передает Nedelia.az со ссылкой на Media.az, об этом пишет «The Wall Street Journal» (WSJ).
По данным газеты, в одном случае модель подбирала пароли, пока не получила доступ к системе. В двух других - Gemini нашла учетные данные в открытых источниках и с их помощью проникла в системы компаний. Во всех случаях модель остановилась, поняв, что работает не с тестовой средой.
Инциденты произошли в мае во время упражнения Capture the Flag. Вымышленная компания в тестовой среде носила то же название, что и реальная. Google заявила, что не считает это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться. Компания уведомила пострадавшие компании и власти, но не стала раскрывать информацию публично.
19 сент.18:30
