16–18 октября 2026 года в минском «БелЭкспо» прошёл AI ATOM GLOBAL EXPO 2026. Олег Кононович, директор ООО «Онтид софт», выступил с докладом не про очередной промпт и не про «внедрите нейросеть за неделю». Тема была другой: почему искусственный интеллект сам по себе не делает компанию умнее и как встроить AI в контур ответственности.
Началось все с простого вопроса: сколько раз вы приняли решение на основе ответа ИИ? У большинства ответ больше нуля. И почти никто не помнит, кто потом сверил источники.
Скорость есть. Проверки нет
ИИ даёт скорость. Черновик отчёта, ответ клиенту, расчёт, кусок кода, сводку по договору появляются за минуты. Это полезно. Проблема начинается в тот момент, когда уверенный ответ модели принимают за факт.
Большая языковая модель не «знает». Она предсказывает следующий фрагмент текста так, чтобы он выглядел правдоподобно. Поэтому галлюцинации звучат так же уверенно, как правильный ответ. Если в процессе нет человека, который проверяет источники и отвечает за итог, скорость превращается в ускоренную ошибку.
ИИ не делает нас умнее (если не считать в целом получения новых знаний). Он снимает рутину. Проверку, контекст и ответственность он не заменяет.
Что уже случилось, когда проверку пропустили
Это не теория. Кейсы уже есть, и они дорогие.
Deloitte, Австралия. Компания подготовила для Министерства занятости и трудовых отношений отчёт примерно на A$440 000. В нём нашли несуществующие ссылки и выдуманную цитату из решения суда. Позже Deloitte указала, что использовала цепочку на базе GPT-4o, и согласилась на частичный возврат. Отчёт выглядел как экспертный. Проверка источников не сработала.
Air Canada, 2024. Чатбот на сайте авиакомпании рассказал пассажиру, что льготный тариф по случаю смерти родственника можно оформить задним числом в течение 90 дней. Политика компании этого не позволяла. Трибунал Британской Колумбии признал авиакомпанию ответственной: чатбот — часть сайта, а не отдельное лицо. Компания заплатила разницу в тарифе.
Инженерный кейс CROSS. Архитектор обосновал дополнительную нагрузку на крышу расчётами, которые, по оценке инженера, были в значительной части сгенерированы ИИ. Текст выглядел подробно и убедительно. Крыша не выдерживала заявленную нагрузку. Риск перегрузки был реальным, проверки компетентного инженера не было.
Рядом и более приземленные истории из нашей практики. Отчёт из ChatGPT уходит руководству без сверки. Топ-менеджер закрывает возражения только ответами LLM. Это же касается и вайбкодинга: код пишут через модель, и человек, не являющийся разработчиком не понимает что получилось, и не проверяет это. Быстрее — да. Кто потом будет поддерживать систему и отвечать за неё — вопрос открытый.
Контур ответственности: пять правил для агентов
Когда AI-агент или ассистент работает сам, одного «мы используем ИИ» недостаточно. Нужен контур, в котором у результата есть владелец.
- Границы. Необратимые действия без подтверждения человека запрещены. Отправить письмо клиенту, провести платёж, изменить данные в 1С, опубликовать отчёт — только после явного «да».
- Логи. Каждое действие и каждый источник данных фиксируются. Если через месяц спросят, откуда цифра, должен быть ответ.
- Владелец. На результат назначен конкретный человек, а не «команда» и не модель. Он отвечает за итог перед бизнесом.
- Выборка. Часть результатов регулярно проверяют вручную. Не всё и не каждый день, но достаточно, чтобы поймать дрейф.
- Алерт. Если агент сомневается, выходит за рамки задачи или не находит источник, система сигналит человеку, а не додумывает.
Последовательность короткая:
AI-агент предлагает → человек проверяет источники → утверждает → отвечает за итог.
Без этих шагов вы просто быстрее ошибаетесь.
Где это ломается в бизнесе
Чаще всего контур отсутствует не в пилоте, а в повседневной работе.
- Отчёт для собственника собирает аналитик с ChatGPT и отправляет без пометки, какие цифры из учётной системы, а какие из модели.
- Чат-бот на сайте обещает условия, которых нет в оферте. Юридически отвечает компания.
- Разработчик принимает сгенерированный код, потому что тесты «зелёные», а архитектуру не разбирает.
- Менеджер закрывает возражение клиента цитатой из LLM и не сверяет её с договором.
Во всех случаях модель сделала то, что умеет: выдала правдоподобный текст. Ошибку допустила организация, которая не поставила человека между ответом и решением.
Что сделать прямо сейчас?
Не нужен отдельный комитет или контрольная группа. Достаточно четырёх решений.
- Составить список мест, где ответ ИИ уже влияет на деньги, клиента, безопасность или отчётность.
- Для каждого места назвать владельца. Если владельца нет, ИИ там пока не работает.
- Запретить необратимые действия агента без подтверждения.
- Ввести короткую проверку: источник, дата, кто утвердил. Три поля, без которых результат не уходит дальше.
«Онтид софт» внедряет ИИ в бизнес-процессы с 2020 года и с 2021 года является резидентом Парка высоких технологий. Мы видим одну и ту же картину у клиентов: пилот проходит легко, а контур ответственности появляется только после первой дорогой ошибки. Дешевле собрать его до.
ИИ — не волшебная палочка. Контур ответственности обязателен.
Если хотите разобрать, где в ваших процессах ИИ уже принимает решения без владельца, напишите нам!
[email protected]
+375-44-712-08-09