Эксперт рассказал, как внедрить ИИ, которому будут доверять пользователи
Финансовым организациям предложили «паспорт доверия» для ИИ-систем
© chatgpt
Чтобы финансовые организации доверяли ИИ-системам, поставщики должны подтверждать их надежность и безопасность. Для этого предлагается использовать «паспорт доверия» — комплект документов с результатами испытаний конкретной версии модели.
По словам Сергея Карповича, заместителя руководителя направления «Искусственный интеллект» ИТ-холдинга Т1, паспорт включает четыре основных блока:
- Назначение и ограничения системы: решаемые задачи, доступ к данным, допустимые действия и критерии качества.
- Состав системы: используемые модели, данные, компоненты и внешние сервисы, а также гарантии их поддержки и безопасности.
- Тестирование: проверка качества, устойчивости к нагрузкам и атакам, выявление ошибок и ограничений. Любые существенные обновления требуют повторных испытаний.
- Безопасность архитектуры: контроль движения данных, возможность управления и отключения системы, ограничение прав ИИ-агентов.
Особое внимание эксперт уделил тому, что доверие должно основываться не на обещаниях поставщика, а на проверяемых и воспроизводимых доказательствах того, что ИИ стабильно выполняет задачи и соблюдает установленные ограничения.
Комментируйте наши новости:
Другие новости Новости компаний
Финансовым организациям предложили «паспорт доверия» для ИИ-систем
СберСтрахование запустила выдачу направлений на ремонт по каско прямо на месте ДТП
ИТ-холдинг Т1 внедрил спутниковый ИИ-мониторинг лесов на площади 3,8 млн гектаров в Нижегородской области
Вклад «Доход Плюс» Уралсиба занял второе место в рейтинге