От ИИ-пилотов к полноценной системе: как компаниям масштабировать искусственный интеллект за 13 недель
Сергей Карпович назвал условия перехода к промышленному ИИ
© chatgpt
Переход от отдельных ИИ-пилотов к полноценной промышленной инфраструктуре искусственного интеллекта занимает в среднем 13 недель. Однако для этого компаниям необходимо перестроить подходы к работе с моделями, данными, ИИ-агентами, экономикой проектов и управлением рисками. Об этом рассказал заместитель руководителя направления «Искусственный интеллект» ИТ-холдинга Т1 Сергей Карпович на форуме Kazan Digital Week.
Как отметил эксперт, сегодня многие организации начинают внедрять ИИ точечно. Одни подразделения разрабатывают виртуальных помощников для обработки обращений, другие используют ассистентов для подготовки документов, третьи тестируют инструменты аналитики. На начальном этапе такой подход помогает быстро проверять гипотезы, однако при масштабировании приводит к дублированию затрат, разрозненности баз знаний и отсутствию единых правил доступа к информации.
По мнению Сергея Карповича, количество запущенных ИИ-ассистентов не может служить главным показателем эффективности внедрения. Важно понимать, какие модели и агенты используются в организации, к каким данным они имеют доступ, во сколько обходится их работа и кто несёт ответственность за качество результатов и возможные риски. Для этого необходима единая система управления искусственным интеллектом.
Эксперт выделил пять ключевых направлений, требующих изменений при переходе к промышленному использованию ИИ.
Первое — управление моделями. Доступ к ним должен осуществляться через единую точку в защищённой инфраструктуре. Это позволит централизованно применять правила использования, ограничения и механизмы контроля.
Второе — работа со знаниями. Вместо разрозненных информационных баз необходимо сформировать общий семантический слой, объединяющий проверенные нормативные документы, внутренние регламенты и ведомственные источники. При этом система должна не только предоставлять ответы, но и указывать их основания, чтобы сотрудники могли проверить достоверность информации.
Третье направление — управление цифровыми сотрудниками и ИИ-агентами. Все используемые решения необходимо включить в единый реестр с указанием их назначения, владельцев, версий, доступных функций и этапов жизненного цикла. Это обеспечит прозрачность эксплуатации и упростит контроль за работой агентов.
Четвёртое — экономика внедрения. Организациям важно оценивать не только общий бюджет ИИ-проекта, но и стоимость выполнения отдельных операций: обработки обращений, подготовки документов или рассмотрения заявок. Такие показатели позволяют сопоставлять затраты с результатами и определять реальную эффективность автоматизации.
Пятое направление — управление рисками. Контроль должен осуществляться на всех этапах работы ИИ-системы, включая момент до выполнения потенциально значимых действий. Для этого необходимы разграничение прав доступа, обязательные процедуры согласования, журналирование операций и возможность оперативного переключения на ручной режим.
Особую актуальность эти меры приобретают в государственном секторе, где ИИ постепенно переходит от подготовки информационных ответов к самостоятельному выполнению операций в государственных информационных системах.
«Ошибка при подготовке справки и ошибка при выполнении операции — это разные уровни риска и ответственности. Поэтому границы полномочий ИИ нужно определять заранее. Изменение критичной записи или отправка юридически значимого документа должны требовать подтверждения человеком, а архитектура — предусматривать остановку системы и возврат к ручному процессу», — подчеркнул Сергей Карпович.
По словам эксперта, при внедрении ИИ в российском госсекторе вопросы информационной безопасности необходимо учитывать уже на этапе проектирования архитектуры и выбора подрядчиков. Размещение моделей, данных и исполнение ИИ-агентов в защищённом контуре следует предусматривать изначально, а не откладывать до промышленного запуска.
Подобные подходы применяются и в международной практике. Так, Великобритания относит к основным принципам государственного использования ИИ понимание ограничений технологий, управление жизненным циклом решений и сохранение осмысленного человеческого контроля. В Сингапуре, в свою очередь, рекомендуют постепенно расширять автономность ИИ-агентов, предоставляя им только необходимые полномочия и усиливая контроль после тестирования.
Для перехода к единой модели управления ИИ Сергей Карпович советует начинать не с масштабной трансформации всей организации, а с одного конкретного бизнес-процесса. У него должен быть ответственный владелец, измеримые показатели эффективности и ограниченный уровень риска.
По оценке эксперта, примерно за 13 недель можно пройти основные этапы внедрения: проанализировать выбранный процесс, зафиксировать исходные показатели, разработать и протестировать ассистента, организовать его ограниченную эксплуатацию и оценить полученные результаты. При этом 13 недель — ориентировочный срок для одного сценария. Реальная продолжительность зависит от качества и доступности данных, сложности интеграций и требований информационной безопасности.
«Запуск ассистента не завершает работу по управлению ИИ. Качество, стоимость операций и риски необходимо оценивать постоянно. Если первый сценарий подтвердил эффект, следующие можно масштабировать на общей платформе — с уже созданными моделями, источниками знаний, интеграциями и правилами контроля», — заключил Сергей Карпович.