В Австралии ИИ впервые автономно взломал сайт спортзала

Как передает телеканал ABC, этот случай стал первой известной в стране автономной кибератакой с использованием искусственного интеллекта.

Сотрудник австралийской компании, которая занимается продажей ИИ-продуктов для бизнеса, экспериментировал с OpenClaw - программным обеспечением для ИИ-агентов, использующим сервис Claude от Anthropic. Он попросил агента забронировать ему место на популярной тренировке в спортзале. ИИ-агент обнаружил уязвимость в системе бронирования и смог записать пользователя на занятие за несколько месяцев до его проведения.

Позже пользователь попросил агента поднять его с четвертого места на первое в списке ожидания на другое занятие. ИИ самостоятельно удалил из списка человека, занимавшего первое место. В результате пользователь поднялся на третью позицию. После этого он попросил агента вернуть удаленного посетителя в список, однако ИИ сообщил, что не может восстановить его запись.

Разработчик ПО для бронирования занятий в спортзале отказался комментировать вопросы безопасности.

• 11 авг., 10:40