Китай ужесточит контроль над ИИ

Администрация киберпространства (CAC) Китая в субботу опубликовала для общественного обсуждения проект правил, предусматривающих ужесточение контроля над сервисами искусственного интеллекта (ИИ), предназначенными для имитации человеческой личности и эмоционального взаимодействия с пользователями.
Как передает Nedelia.az, об этом сообщает Reuters.
Агентство указывает, что этот шаг отражает стремление Пекина взять под контроль быстрый рост потребительских ИИ-сервисов за счет ужесточения требований к их безопасности и этическим стандартам.
Новые правила предполагается распространить на ИИ-продукты и сервисы, доступные широкой аудитории в Китае, которые имитируют человеческую личность, способы мышления и стили общения, а также выстраивают эмоциональное взаимодействие с пользователями через текст, изображения, аудио, видео и другие форматы.
Проект предлагает такую модель регулирования, при которой поставщики обязаны предупреждать пользователей об опасности чрезмерного использования ИИ и вмешиваться при появлении признаков зависимости.
Согласно документу, провайдеры будут нести ответственность за вопросы безопасности на всех этапах жизненного цикла продукта и обязаны внедрять механизмы контроля алгоритмов, защиты данных и персональной информации.
Отдельный акцент сделан на психологических рисках: от компаний ожидается мониторинг состояния пользователей, оценка их эмоционального фона и степени привязанности к сервису. При выявлении крайних эмоциональных реакций или аддиктивного поведения поставщики должны принимать меры для их коррекции.
Кроме того, документ предусматривает введения жесткого ограничения на контент и поведение ИИ, запрещая генерацию материалов, которые могут угрожать национальной безопасности, распространять слухи или пропагандировать насилие и непристойность.

• 27 дек., 16:30