«Умка ИИ»: внедрение ИИ в критическую инфраструктуру сдерживает не технология, а нераспределённая ответственность

2 июня в рамках III Международного форума «ИИ — будущее сегодня», прошедшего на полях 29-го Петербургского международного экономического форума (Cosmos St. Petersburg), состоялась сессия «Интеллектуальные помощники человека: синергия LLM, NLP и RPA в задачах бизнеса и государства». В дискуссии приняла участие Анна Дмитрова, отраслевой эксперт-консультант компании «Умка ИИ». Выступление было сфокусировано на главном барьере для массового внедрения ИИ в значимых отраслях. По оценке эксперта, дело не столько в зрелости моделей, сколько в регуляторном давлении и в том, что ответственность за решения ИИ сегодня не отделена от ответственности конкретного должностного лица. В объектах критической информационной инфраструктуры действуют требования ФСТЭК (приказы № 239, № 235, для государственных систем — № 117), под которые недетерминированный генеративный ИИ ложится плохо, а за нарушение правил эксплуатации предусмотрена уголовная ответственность по статье 274.1 УК РФ. В результате на местах рациональной стратегией становится отказ от внедрения. Отдельно Анна Дмитрова обратила внимание, что существующий контур информационной безопасности защищает периметр, но не закрывает ИИ-специфичные угрозы — дрейф моделей, отравление RAG-базы, инъекции через промпты, — а соответствующий класс средств защиты в России пока не сертифицирован под КИИ. Как практический выход эксперт предложила механизм регуляторных «песочниц» на базе экспериментальных правовых режимов (258-ФЗ), позволяющих протестировать ИИ на реальном объекте с временным разделением ответственности. В своём консалтинговом подходе «Умка ИИ» помогает бизнесу и госструктурам выстраивать внедрение ИИ так, чтобы оно проходило по требованиям регуляторов и снимало рисковый барьер с команд на местах — от оценки применимости технологий в критических процессах до проектирования контуров ответственности и подготовки кадров на стыке доменов. «Главный барьер для ИИ в критической инфраструктуре — не модель и не вычисления, а вопрос: кто отвечает, если ИИ ошибётся. Пока этот риск целиком ложится на конкретного инженера или директора по безопасности, рациональный выбор на местах — ничего не внедрять. Наша задача как консультантов — снять этот паралич: выстроить внедрение так, чтобы оно было предсказуемым для регулятора и безопасным для людей, которые принимают решение. Бизнесу нужна не мягкость требований, а предсказуемость правил».