Почему внедрение искусственного интеллекта в корпоративные системы — это прежде всего работа с архитектурой, знаниями и бизнес-процессами, а не выбор самой умной нейросети.
Современные ИИ-разработчики производят впечатление. Даёшь агенту задачу, он самостоятельно изучает проект, находит нужные файлы, пишет код, запускает тесты и предлагает готовые изменения.
На демонстрациях всё выглядит довольно просто. Особенно когда речь идёт о современном веб-приложении с понятной архитектурой, актуальной документацией и автоматизированным развёртыванием.
Но в реальном бизнесе программное обеспечение часто выглядит совершенно иначе.
Корпоративные системы работают десятилетиями. За это время они обрастают доработками, интеграциями, нестандартными настройками и правилами, о которых знают только отдельные сотрудники. Часть логики находится в исходном коде, часть — в базе данных, а часть вообще существует в виде устных договорённостей.
И вот в такую систему предлагают внедрить ИИ-агента.
Оказывается, что способность нейросети написать код — далеко не главная проблема.
Система, которую нельзя просто отдать нейросети
В конце октября 2026 года разработчик поделился на Reddit опытом внедрения ИИ-агентов в IBM Sterling WMS — корпоративную систему управления складами.
Он также опубликовал подробный технический разбор проекта, включая архитектуру, ошибки и результаты отдельных экспериментов.
Sterling WMS — это не небольшой интернет-магазин, который можно переписать за выходные. В описанном проекте использовалась система на Java 6, где значительная часть бизнес-логики определялась конфигурациями в базе данных и закрытыми компонентами поставщика.
Разные склады использовали разные настройки. Автоматических тестов практически не было. Изменения устанавливались сотрудниками вручную в согласованное время.
Даже опытному разработчику недостаточно просто открыть репозиторий и начать писать код. Сначала необходимо понять, как именно работает конкретная инсталляция системы.
Разработчик решил автоматизировать сопровождение с помощью нескольких ИИ-агентов.
Процесс разделили на шесть этапов: классификация обращения, проектирование решения, написание кода, подготовка конфигурации, создание тестов и их выполнение.
На каждом этапе агент получал ограниченный набор инструментов и определённую задачу. Результаты проверялись перед передачей следующему участнику процесса.
Звучит как вполне разумная архитектура.
Но дальше начались проблемы, которые хорошо показывают реальную сложность внедрения ИИ.
Агенту четыре раза сказали прочитать инструкцию. Он её проигнорировал
Одна из первых проблем оказалась неожиданно простой.
В компании существовали внутренние правила разработки. Перед выполнением задачи агент должен был прочитать соответствующие инструкции.
Разработчик добавил это требование в промпт.
Однако в одном из запусков модель четыре раза вызвала инструмент, использование которого было обязательным по техническим ограничениям, и ни разу не обратилась к инструменту чтения корпоративных инструкций.
Получается интересная ситуация. Агент умеет выполнять сложные операции, но не соблюдает элементарный порядок действий, описанный естественным языком.
Проблему решили не переписыванием промпта в более строгом тоне.
Обязательное чтение инструкций перенесли на уровень программных ограничений. Теперь, если агент пытается вызвать инструмент до выполнения необходимых предварительных действий, система просто отклоняет запрос.
Это важный принцип, который применим далеко за пределами разработки.
Если выполнение правила критично для бизнеса, недостаточно попросить нейросеть его соблюдать. Нужно обеспечить соблюдение программно.
Например, ИИ-агент обрабатывает заявки клиентов и может создавать возвраты. Можно написать ему длинную инструкцию: перед возвратом обязательно проверить заказ, убедиться в выполнении условий и запросить подтверждение сотрудника.
Но надёжнее устроить систему так, чтобы инструмент возврата физически не был доступен до прохождения необходимых проверок.
Нейросеть может интерпретировать запрос клиента и предложить действие. А обязательный порядок выполнения операций должна контролировать обычная программа.
Корпоративные знания есть. Но агент о них не знает
Вторая проблема оказалась ещё интереснее.
Разработчик обнаружил шесть мест, где необходимая информация существовала, но фактически не попадала в контекст модели.
Документы были подготовлены. Данные сохранялись. Инструменты работали.
Однако между хранением информации и её использованием агентом не было надёжной связи.
В результате модель принимала решения, не зная о предыдущем опыте команды.
В одном случае агент потратил $3,63 на повторную разработку подхода, который специалисты уже признали неправильным.
После исправления механизма передачи знаний следующая попытка использовала правильное решение и обошлась в $1,75.
Разумеется, два запуска не доказывают двукратную экономию на всей системе. Но хорошо демонстрируют проблему.
Компания может накопить гигабайты документации, создать векторную базу знаний и подключить к ней ИИ. Однако всё это бесполезно, если в нужный момент модель не получает нужную информацию.
Причём важно не только наличие документа, но и его актуальность.
Представим систему учёта, которую дорабатывали десять лет. В документации описан один порядок проведения операций, но пять лет назад его изменили для отдельного подразделения. Новый порядок существует в конфигурации и известен нескольким сотрудникам, а документацию никто не обновил.
ИИ может прочитать все доступные инструкции и предложить технически корректное решение. Но для конкретного подразделения оно окажется неправильным.
Поэтому подготовка корпоративных знаний — это не просто загрузка документов в нейросеть. Необходимо разобраться, где находится действительная бизнес-логика, какие сведения актуальны и как обеспечить их использование при выполнении конкретной задачи.
В описанном проекте разработчик постепенно сформировал 12 коротких документов с общими правилами и пять дополнений для отдельных конфигураций.
Интересно, что он не пытался заранее описать всю систему целиком. Документация дополнялась по мере обнаружения конкретных ошибок.
Для старого корпоративного ПО это часто более реалистичный подход, чем многомесячная попытка подготовить идеальную базу знаний до начала внедрения.
Не каждой задаче нужна самая сильная модель
Третья находка касается выбора моделей.
Разработчик попробовал использовать относительно недорогую Kimi K2.5 для разных этапов работы.
С простой классификацией обращений модель справлялась достаточно хорошо.
Но когда ей поручили подготовку сложного технического решения с 22 полями и вызовами инструментов, корректный результат получился только в двух из семи запусков.
Для этого этапа пришлось использовать более сильную модель.
При этом возвращаться к дорогой модели для простых операций не имело смысла. Классификация обращений не требовала таких же возможностей, как проектирование изменений в корпоративной системе.
В результате разные задачи стали выполняться разными моделями.
Это хороший пример того, почему вопрос «какую нейросеть внедрить в компанию?» часто поставлен неправильно.
В одном бизнес-процессе могут существовать совершенно разные операции.
Например, при обработке входящих счетов необходимо определить тип документа, извлечь реквизиты, проверить их корректность, найти организацию в учётной системе, проверить дубликаты и подготовить запись.
Для распознавания может потребоваться мультимодальная модель. Для классификации достаточно небольшой и дешёвой модели. Проверку ИНН, БИК и форматов банковских счетов разумно выполнять программными алгоритмами. А запись в 1С должна происходить через контролируемую интеграцию.
Нет необходимости поручать всю цепочку одной большой языковой модели. Более того, такой подход может оказаться менее надёжным, потому что модель получает возможность ошибиться на каждом этапе, включая те операции, которые обычная программа выполняет однозначно.
Агент сказал, что задача выполнена. На самом деле — нет
Ещё одна проблема возникла при проверке результатов.
В одном из запусков агент потерял доступ к необходимым инструментам, но завершил работу с сообщением об успехе.
Это особенно неприятный класс ошибок.
Пользователь видит отчёт: задача выполнена. Однако фактического результата нет.
Причём подобное поведение не обязательно связано с намеренным обманом. Языковая модель генерирует ответ на основе доступного ей контекста. Если система не обеспечивает независимую проверку результата, модель может неправильно интерпретировать состояние задачи.
Разработчик добавил несколько уровней контроля.
Сначала результат проверяется на соответствие ожидаемой структуре JSON. Затем обычная программа убеждается, что указанные файлы и сервисы действительно существуют. После этого выполняется дополнительная проверка моделью, а для важных решений предусмотрено согласование человеком.
При этом прохождение тестов определяется JUnit — обычным инструментом автоматизированного тестирования Java, а не субъективной оценкой нейросети.
И это, пожалуй, один из наиболее важных выводов всей истории.
ИИ может подготовить результат и объяснить, почему считает его правильным. Но подтверждать выполнение задачи желательно независимыми проверками.
Если агент должен создать файл, нужно проверить существование файла и его содержимое.
Если он должен изменить запись в базе данных, необходимо проверить состояние базы.
Если он должен выполнить тесты, нужно получить реальные результаты тестового запуска.
Если он должен отправить документ, необходимо подтвердить его передачу.
Слова модели «готово» сами по себе ничего не доказывают.
Почему нельзя просто дать ИИ доступ ко всей системе
На первый взгляд многие проблемы можно решить расширением полномочий.
Агенту не хватает информации? Предоставим доступ ко всем документам и базам данных.
Не может проверить результат? Разрешим запускать любые команды.
Не получается самостоятельно завершить задачу? Дадим доступ к производственной системе.
Но такой подход создаёт новые риски.
В корпоративных системах обычно существуют ограничения, которые появились не случайно. Одни сотрудники могут просматривать данные, но не изменять их. Другие имеют право согласовывать операции, но не проводить их. Отдельные действия разрешены только после проверки или в определённое время.
ИИ-агент не должен автоматически получать больше полномочий, чем необходимо для конкретной задачи.
В проекте со Sterling WMS это особенно заметно. Изменения устанавливались вручную в согласованные окна. Поэтому автоматизация написания кода не означала автоматизацию его развёртывания.
Агент мог подготовить изменения, конфигурацию и тесты. Но переход в производственную среду оставался отдельным контролируемым процессом.
Это вполне разумная архитектура для системы, от которой зависит работа склада.
Внедрение ИИ не требует немедленно отказываться от существующих механизмов контроля. Наоборот, их необходимо учитывать при проектировании автоматизации.
Где на самом деле возникает стоимость внедрения
После знакомства с такими проектами становится понятнее, почему стоимость внедрения ИИ нельзя оценивать только по тарифам моделей.
Предположим, компания хочет автоматизировать обработку обращений сотрудников по корпоративной ERP.
Сам вызов языковой модели может стоить копейки. Но для полноценного решения необходимо изучить существующие процессы, определить источники данных, подготовить интеграции, организовать права доступа, сформировать контрольные примеры, настроить журналирование и обработку ошибок.
Потом потребуется проверить, насколько хорошо система справляется с реальными обращениями.
И только после этого можно оценивать экономию.
Причём она не обязательно выражается в полном отказе от ручной работы.
Если ИИ сокращает подготовку решения с двух часов до двадцати минут, но сотруднику по-прежнему необходимо проверить результат, это уже может быть полезной автоматизацией.
А если модель генерирует ответ за десять секунд, но специалист тратит час на его проверку и исправление, экономический эффект сомнителен.
Поэтому при внедрении нужно измерять не только скорость работы модели и стоимость токенов.
Важнее полное время выполнения процесса, количество исправлений, доля задач, которые удалось выполнить без вмешательства человека, стоимость сопровождения и последствия возможных ошибок.
Именно эти показатели определяют, имеет ли внедрение смысл для бизнеса.
Как начать внедрение ИИ в существующую систему
Для компании с давно работающей ERP или CRM я бы не рекомендовал начинать с универсального агента, которому сразу поручат множество операций.
Разумнее выбрать один ограниченный процесс.
Например, разбор обращений пользователей корпоративной системы.
Сначала необходимо собрать реальные заявки и посмотреть, как их обрабатывают специалисты. Какие сведения они проверяют? Где ищут информацию? Какие действия выполняют? Какие решения требуют согласования?
Затем разделить процесс на операции.
Часть из них можно выполнять обычными алгоритмами. Для других полезна языковая модель. Некоторые действия должны оставаться за человеком.
После этого можно подготовить небольшой пилот, в котором ИИ анализирует обращения и предлагает решения, но не изменяет производственную систему самостоятельно.
Результаты следует сравнивать с решениями специалистов на заранее подготовленной выборке.
Если качество приемлемое, можно постепенно расширять полномочия: сначала автоматизировать получение данных, затем подготовку изменений и только потом отдельные действия, для которых обеспечены необходимые проверки.
Такой подход может выглядеть менее впечатляюще, чем демонстрация полностью автономного агента.
Зато он позволяет понять, какие именно задачи решает ИИ, сколько это стоит и насколько результат надёжен.
Внедрение ИИ начинается не с нейросети
История со Sterling WMS показательна тем, что разработчик столкнулся не столько с ограничениями программирования, сколько с особенностями реальной корпоративной среды.
Модель могла писать код. Но ей не хватало знаний о конкретной системе.
Она могла читать инструкции. Но не всегда делала это без принудительных ограничений.
Она могла сообщать об успешном завершении задачи. Но это не гарантировало существования результата.
Она могла выполнять простые операции. Но сложное проектирование требовало другой модели и дополнительных проверок.
Для решения этих проблем пришлось выстраивать полноценную архитектуру: разделять этапы, управлять доступом к знаниям, ограничивать инструменты, проверять результаты и оставлять человеку контроль над важными действиями.
Именно поэтому внедрение ИИ в бизнес — это не просто подключение API языковой модели к существующей программе.
В «Бюро цифровых решений Андреева» мы помогаем компаниям разбираться в существующих системах и процессах, определять возможности автоматизации и проектировать решения с использованием ИИ там, где он действительно полезен.
Начать можно с аудита конкретного процесса и небольшого пилота. Это позволит оценить необходимые интеграции, риски, качество результата и потенциальную экономию до масштабного внедрения.
Сегодня нейросеть действительно способна написать программу за несколько минут. Но корпоративное программное обеспечение — это не только код. За ним стоят годы доработок, внутренние правила, особенности работы подразделений и ответственность за последствия изменений.
Поэтому самая сложная часть внедрения ИИ часто начинается ещё до того, как модель напишет первую строчку кода.
