ChatGPT будет выявлять склонных к экстремизму пользователей

ChatGPT будет выявлять пользователей, склонных к экстремизму, и направлять их в специальные чат-боты для "дерадикализации".

Как передает nedelia.az, об этом сообщает Reuters. По данным агентства, такая инициатива - попытка решить проблемы безопасности из-за растущего числа судебных исков.

Разработкой нового инструмента занимается новозеландский стартап ThroughLine. Он сотрудничает с ChatGPT, OpenAI, а также ее конкурентами Anthropic и Google. Компания занимается перенаправлением пользователей в службы кризисной поддержки, если в их запросах выявляют угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения. Сейчас организация расширяет свой функционал, чтобы предотвращать насильственный экстремизм.

ThroughLine будет работать в тандеме с The Christchurch Call - компанией по борьбе с разжиганием ненависти в интернете. Она была создана после самого крупного теракта в Новой Зеландии в 2019 году. The Christchurch Call будет давать экспертные рекомендации при появлении экстремистских запросов, а ThroughLine займется разработкой чат-бота для оперативного вмешательства.

• 03 апр., 09:50