Эксперт рассказал, как внедрить ИИ, которому будут доверять пользователи

Финансовым организациям предложили «паспорт доверия» для ИИ-систем

icon 17/11/2026
icon 17:15
Эксперт рассказал, как внедрить ИИ, которому будут доверять пользователи

© chatgpt

chatgpt

Чтобы финансовые организации доверяли ИИ-системам, поставщики должны подтверждать их надежность и безопасность. Для этого предлагается использовать «паспорт доверия» — комплект документов с результатами испытаний конкретной версии модели.

По словам Сергея Карповича, заместителя руководителя направления «Искусственный интеллект» ИТ-холдинга Т1, паспорт включает четыре основных блока:

  • Назначение и ограничения системы: решаемые задачи, доступ к данным, допустимые действия и критерии качества.
  • Состав системы: используемые модели, данные, компоненты и внешние сервисы, а также гарантии их поддержки и безопасности.
  • Тестирование: проверка качества, устойчивости к нагрузкам и атакам, выявление ошибок и ограничений. Любые существенные обновления требуют повторных испытаний.
  • Безопасность архитектуры: контроль движения данных, возможность управления и отключения системы, ограничение прав ИИ-агентов.

Особое внимание эксперт уделил тому, что доверие должно основываться не на обещаниях поставщика, а на проверяемых и воспроизводимых доказательствах того, что ИИ стабильно выполняет задачи и соблюдает установленные ограничения.