Сбербанк и психотерапевт снижают галлюцинации нейросетей в банковских сервисах

Сбербанк и психотерапевт: совместный проект по снижению галлюцинаций нейросетей

Сбербанк объявляет о запуске совместного проекта с известным по телепередачам психотерапевтом, целью которого является разобраться, почему нейросети, применяемые в банковских сервисах, порой дают галлюцинации, и как их устранить. В рамках инициативы ставится задача снизить частоту ошибок и повысить надёжность алгоритмов.

Что происходит в проекте

Команды Сбербанка и приглашённого специалиста исследуют причины искажения выводов нейросетей, работают над методиками калибровки, тестирования и доверительной оценки ответов моделей. По описанию участников, внимание уделяется созданию устойчивых механизмов отклика ИИ, которые на основе неопределённости дают понятные и взвешенные результаты.
Мы исследуем методики калибровки и доверительной оценки, чтобы снизить галлюцинации нейросетей, отметил представитель проекта.

Почему это важно

Галлюцинации в нейросетях подрывают доверие клиентов к цифровым банковским сервисам и могут затрагивать безопасность финансовых операций. Уменьшение ошибок делает сервисы понятнее, предсказуемее и снижает риски неправильной обработки данных. Инициатива демонстрирует возможность синергии технологий ИИ и психологии для повышения надёжности систем.

Перспективы и влияние на отрасль

Ожидается усиление контроля качества и прозрачности алгоритмов в банковской сфере. При успешной реализации подходов методики могут быть адаптированы и для других отраслей — образования, медицины и госуслуг — с учётом особенностей обработки чувствительных данных. В числе обсуждаемых вопросов — приватность и ответственность, которые будут решать регуляторы и корпорации.

Цитаты экспертов

Надёжная калибровка и чёткие критерии доверия к ответам модели — залог безопасного внедрения ИИ в банки, отметил эксперт по ИИ. Такие инициативы могут стать образцом для других отраслей, но требуют строгого контроля за данными и ответственности, добавляет независимый аналитик.

Елена Смирнова

Аналитические статьи о рынке криптовалют, криптовалютном трейдинге и инвестировании. Автор публикует статьи и обзоры на тему блокчейн расследований и безопасности цифровых активов. Елена является автором следующих разделов сайта: Люди, Интервью, Мнения, Безопасность.