ЦБА: Искусственный интеллект может допускать ошибки при выдаче кредитов

Центробанк Азербайджана планирует до конца текущего года представить финансовому сектору методическое руководство по управлению искусственным интеллектом, а в ноябре - документ по управлению данными.
Как сообщает Nedelia.az со ссылкой на Report, об этом заявил директор Департамента данных ЦБА Эльмир Гасанлы на XII конференции «Инвестиции и устойчивое развитие в микрофинансировании» в Баку.
По его словам, при подготовке методических руководств Центробанк привлекает участников финансового сектора и направляет проекты документов соответствующим структурам.
«Методология управления искусственным интеллектом была разработана совместно с банками», - отметил Гасанлы.
Он обратил внимание на ряд рисков, связанных с применением ИИ в кредитовании. Один из них - изменение, или «дрейф», модели с течением времени. Даже если первоначально она принимает правильные решения, без регулярного мониторинга ее работа может измениться и привести к ошибочным результатам.
Еще одним риском Гасанлы назвал предвзятость модели. Если искусственный интеллект обучается на основе ранее принятых решений, он может перенять содержащиеся в них предубеждения и в результате выдавать непрозрачные заключения.
Гасанлы подчеркнул, что стоимость используемой модели не является главным показателем ее эффективности.
«Можно приобрести самую дорогую модель, однако основным критерием должна быть не ее цена, а качество принимаемых решений и возможность их обосновать. Модель следует оценивать прежде всего по полноте, прозрачности и объяснимости ее решений», - заявил он.
Методическое руководство по управлению данными будет распространяться на банки, небанковские кредитные организации и аналитические структуры. Документ охватит вопросы качества данных, управления ими, доступности, полноты и другие важные направления.

• 28 окт., 21:20