Исследование, проведенное Бостонская консалтинговая группа (BCG) предполагает, что организации, лидирующие в разработке технологий, получают преимущество первопроходца, когда дело доходит до искусственного интеллекта (ИИ) и использования агентного ИИ для улучшения бизнес-процессов.
По словам Джессики Апотекер, управляющего директора и старшего партнера Boston Consulting Group, в выводах BCG поразительно то, что ведущими компаниями в области искусственного интеллекта являются в основном те же компании, которые были лидерами восемь лет назад.
«Отчет этого года показывает, что разрыв в стоимости между этими и другими компаниями значительно увеличивается», — говорит она. Другими словами, исследование BCG показывает, что организации, которые непропорционально инвестировали в технологии, получают более высокую отдачу от этих инвестиций.
Многочисленные исследования показывают, что значительная часть инициатив в области ИИ не приносит измеримого успеха в бизнесе. В отчете BCG «Build for the Future 2025» показано, что компании, которые компания считает лучшими пользователями ИИ, генерируют в 1,7 раза больший рост доходов, чем 60% компаний в категориях, которые компания определяет как стагнирующие или развивающиеся.
Для Илан Твиг, соучредитель и технический директор (CTO) NavanПроекты искусственного интеллекта, которые не приносят пользы, свидетельствуют о том, как предприятия используют технологии искусственного интеллекта. Слишком часто ИИ внедряется поверх старых систем и устаревших процессов.
Основываясь на RPA
Однако, безусловно, есть смысл развивать предыдущие инициативы, такие как роботизированная автоматизация процессов (RPA).
Выступая на недавнем саммите Forrester по технологиям и инновациям в Лондоне, Бернхард Шаффрик, главный аналитик Forrester, обсудил, как можно построить агентный ИИ поверх детерминистической системы RPA, чтобы обеспечить большую гибкость, чем та, которую можно запрограммировать для достижения существующих систем.
Аналитическая фирма использует термин «оркестровка процессов» для описания следующего уровня автоматизации бизнес-процессов, используя агентный искусственный интеллект в рабочих процессах, чтобы гораздо легче справляться с неопределенностями, чем программные сценарии, используемые в RPA.
«Классические инструменты автоматизации процессов требуют, чтобы вы знали все на этапе проектирования — вам необходимо предвидеть все ошибки и все исключения», — говорит Шаффрик.
Он отмечает, что учитывать эти вещи во время разработки нереально при попытке организовать сложные процессы. Но разрабатываются новые инструменты для оркестровки процессов, основанные на агентах ИИ.
Надежная база данных
Boston Consulting Group (BCG) заявляет, что предпосылками успешного внедрения агентов ИИ являются прочная база данных, масштабируемые возможности ИИ и четкое управление.
По мнению Твига, стандартизация данных является ключевым требованием для успеха. «Большая часть проблемы — это данные», — говорит он. «ИИ настолько силен, насколько сильна информация, на которой он работает, и у многих компаний нет стандартизированных, согласованных наборов данных, необходимых для его надежного обучения или развертывания».
В контексте агентного ИИ это важно, чтобы избежать недопонимания как на уровне технологической инфраструктуры, так и в понимании информации людьми. Однако не обязательно создавать всю основу данных сразу.
Апотекер из BCG говорит, что компании могут ставить перед собой общекорпоративную цель по получению чистых данных и реализовывать ее по одному проекту за раз, обеспечивая чистую основу данных, на которой можно строить последующие проекты. При этом организации могут лучше понять корпоративные данные, необходимые этим проектам, одновременно обеспечивая чистоту наборов данных и соблюдение передовых методов управления данными.
Рабочая стратегия агентного ИИ опирается на агентов ИИ, связанных слоем метаданных, благодаря чему люди понимают, где и когда делегировать определенные решения ИИ или передавать работу внешним подрядчикам. Основное внимание уделяется определению роли ИИ и тому, какой вклад должны внести люди, участвующие в рабочем процессе.
Эту функциональность можно считать своего рода платформой. Скотт Уилсон, руководитель отдела маркетинга продуктов в xtypeописывает платформы рабочих процессов ИИ как механизмы оркестровки, координирующие работу нескольких агентов ИИ, источников данных и точек взаимодействия между людьми посредством сложных недетерминированных рабочих процессов. На уровне кода эти платформы могут реализовывать архитектуры, управляемые событиями, с использованием очередей сообщений для обработки асинхронной обработки и обеспечения отказоустойчивости.
Отслеживание происхождения данных должно происходить на уровне кода с помощью систем распространения метаданных, которые помечают каждое преобразование данных, вывод модели и точку принятия решения уникальными идентификаторами. Уилсон говорит, что это создает неизменяемый контрольный журнал, которого все чаще требует нормативно-правовая база. По словам Уилсона, в продвинутых реализациях могут использоваться журналы только для добавления, подобные блокчейну, чтобы гарантировать, что данные управления не могут быть изменены задним числом.
Адаптация рабочих процессов и управление изменениями
Создав с нуля системы, основанные на искусственном интеллекте, и преобразовав собственные процессы разработки продуктов компании с использованием искусственного интеллекта, Алан Лефорт, генеральный директор и соучредитель StrongestLayerотмечает, что большинство организаций задают совершенно неправильные вопросы при оценке платформ рабочих процессов ИИ.
«Фундаментальный вопрос не технологический, а организационный», — говорит он.
Закон Конвея гласит, что организации разрабатывают системы, отражающие их коммуникационные структуры. Но, по словам Лефорта, большинство оценок рабочих процессов ИИ предполагают, что организации привязывают ИИ к существующим процессам, разработанным с учетом человеческих ограничений. Это, по его словам, приводит к последовательному принятию решений, цепочкам одобрений, не склонным к риску, и разрозненности в конкретных областях.
Когда вы пытаетесь интегрировать ИИ в процессы, разработанные человеком, вы получаете незначительные улучшения. Когда вы перепроектируете процессы с учетом возможностей ИИ, вы получите экспоненциальную выгоду.
Алан Лефорт, StrongestLayer
“ИИ не имеет таких ограничений. ИИ может параллельно выполнять действия, которые люди должны выполнять последовательно, не страдает от накопления территориальных знаний и не нуждается в сложных системах безопасности, которые мы построили вокруг человеческой подверженности ошибкам”, – добавляет он. “Когда вы пытаетесь интегрировать ИИ в процессы, разработанные человеком, вы получаете незначительные улучшения. Когда вы перепроектируете процессы с учетом возможностей ИИ, вы получаете экспоненциальный выигрыш”.
StrongestLayer недавно преобразовал свой процесс разработки программного обеспечения, используя этот принцип. Разработка традиционных продуктов протекает последовательно. Менеджер по продукту беседует с клиентами, извлекает требования и затем передает их команде по работе с пользователями для проектирования, затем команда управления программой утверждает дизайн, а разработчики внедряют программное обеспечение. По его словам, раньше на полную перестройку приложения в этом процессе уходило 18–24 месяца.
Вместо того, чтобы привязывать к этому процессу искусственный интеллект, Лефорт говорит, что StrongestLayer «фундаментально переосмыслил его».
“Мы создали полнофункциональную роль прототиписта в паре с интерфейсным инженером, специализирующимся на архитектуре. Ключевым моментом было создание конвейера искусственного интеллекта, который отражал контекстуальные знания каждой роли: философию дизайна, предпочтения технологического стека, нефункциональные требования, стандарты тестирования и потребности в документации”.
По его словам, в результате этих изменений в рабочей нагрузке компания смогла достичь того же результата с точки зрения разработки продукта за четверть времени. Это, по его словам, было достигнуто не обязательно за счет более быстрой работы, а за счет перепроектирования рабочего процесса, основанного на способности ИИ распараллеливать последовательные действия человека.
Ожидается, что Лефорт столкнется с сопротивлением. “Мой ответ заключался в том, чтобы руководить с самого начала. Я объединился непосредственно с нашим директором по продукту Джошуа Бассом, чтобы выстроить процесс, доказав, что он работает, прежде чем предлагать другим его внедрить. Мы переосмыслили успех нашего фронтенд-инженера вокруг скорости и внедрения новых способов работы”, – говорит он.
Для ЛеФорта истинная скорость получения прибыли обусловлена двумя фундаментальными источниками: устранением перерывов между действиями по созданию ценности и ускорением завершения отдельных действий за счет автоматизации ИИ. «Это требует первоначальных инвестиций в перепроектирование процессов, а не в быстрое внедрение технологий», — говорит он.
ЛеФорт призывает организации оценивать платформы рабочих процессов ИИ на основе их способности обеспечить фундаментальную трансформацию процессов, а не работать над интеграцией существующих неэффективностей.
Правильное принятие решений агентным ИИ
Исследования BCG показывают, что лучший способ развертывания агентов — это несколько важных рабочих процессов с четкими планами внедрения и обучением персонала, а не массовое внедрение агентов повсюду одновременно.
Существуют разные модели с разной мощностью. Мы хотим использовать лучшую модель для каждой задачи
Ранил Ботеха, Lloyds Banking Group
Одна из областей, которую необходимо учитывать ИТ-руководителям, заключается в том, что их организация, скорее всего, будет полагаться на ряд моделей ИИ для поддержки рабочих процессов с агентным ИИ. Например, Ранил Ботеджу, директор по данным и аналитике Lloyds Banking Groupсчитает, что для решения каждой отдельной части запроса клиента можно использовать различные модели.
«Мы думаем об этом так: существуют разные модели с разными преимуществами, и мы хотим использовать лучшую модель для каждой задачи», — говорит Ботеджу. Именно такой подход банк видит в развертывании агентного ИИ.
С помощью агентного ИИ проблемы можно разбивать на все более мелкие части, где на каждую часть реагируют разные агенты. Ботеджу верит в использование агентов ИИ для проверки результатов работы других агентов, подобно тому, как если бы они выступали в роли судьи или коллеги второй линии, выступающего в роли наблюдателя. Это может помочь исключить ошибочное принятие решений, возникающее из-за галлюцинаций ИИ, когда модель ИИ в основном дает ложный результат.
ИТ-безопасность в агентном ИИ
Люди, работающие в сфере ИТ, склонны понимать важность соблюдения лучших практик кибербезопасности. Но как Фрейзер Дир, руководитель отдела искусственного интеллекта и инноваций в BCNотмечает, большинство пользователей не думают как разработчик программного обеспечения, который учитывает вопросы управления при создании собственных агентов. Он призывает организации ввести политики, которые гарантируют, что ключевые шаги безопасности не будут пропущены в спешке с развертыванием агентного ИИ.
“Подумайте о том, к чему могут получить доступ эти агенты ИИ через SharePoint: многочисленные версии документов, стенограммы, файлы отдела кадров, данные о зарплатах и многое другое. Без ограждений агенты ИИ могут получить доступ ко всему этому без разбора. Они не обязательно будут знать, какие версии этих документов являются черновыми, а какие утверждены”, – предупреждает он.
Проблема обостряется, когда агент, созданный одним человеком, становится доступным более широкой группе коллег. Это может непреднамеренно предоставить им доступ к данным, выходящим за рамки их уровня разрешений.
Дир считает, что управление данными должно включать настройку границ данных, ограничение доступа к тем или иным данным в зависимости от должностной роли и уровня конфиденциальности. В системе управления также должно быть указано, из каких ресурсов данных может извлекать агент ИИ.
Кроме того, он говорит, что агенты ИИ должны создаваться с определенной целью, используя принципы наименьших привилегий: “Как и любое другое критически важное для бизнеса приложение, оно должно быть адекватно протестировано и объединено в “красную команду”. Проведите тестирование на проникновение, чтобы определить, какие данные агент может предоставить, кому и насколько точны эти данные. Отслеживайте и проверяйте, какие агенты получают доступ к тем или иным данным и для какой цели, а также внедряйте оповещения в реальном времени, чтобы выявлять необычные шаблоны доступа”.
Впереди ухабистая дорога
Эти беседы с экспертами в области технологий иллюстрируют то, что не существует прямого пути к достижению измеримой бизнес-выгоды от рабочих процессов с агентным ИИ — и, более того, эти системы должны быть безопасными по своей конструкции.
Организациям необходимо иметь правильную стратегию обработки данных, и они уже должны далеко продвинуться на пути к полной цифровизации, где автоматизация с помощью RPA используется для объединения многих разрозненных рабочих процессов. Агентический ИИ — это следующий этап этой автоматизации, на котором ИИ поручено принимать решения способом, который раньше при использовании RPA был бы слишком неуклюжим.
Однако автоматизация рабочих процессов и бизнес-процессов — это лишь части общей мозаики. Растет понимание того, что разговор в зале заседаний должен выходить за рамки людей и процессов.
Апотекер из BCG считает, что бизнес-лидеры должны переоценить то, что важно для их организации и на чем они хотят сосредоточиться в будущем. Это выходит за рамки дебатов о построении или покупке: некоторые процессы и задачи должны принадлежать бизнесу; некоторые могут быть переданы на аутсорсинг поставщику, который вполне может использовать ИИ; а некоторые будут автоматизированы с помощью внутренних рабочих процессов агентного ИИ.
Это похоже на проектирование бизнес-процессов, где элементы, работающие на базе ИИ, соседствуют с задачами, переданными внешнему поставщику услуг. Для Апотекера это означает, что компаниям необходимо четко понимать, какая часть бизнес-процесса является стратегически важной и может быть преобразована внутри компании.
Затем бизнес-лидерам необходимо выяснить, как связать стратегически важную часть рабочего процесса с тем, что компания фактически передает на аутсорсинг или потенциально автоматизирует собственными силами.
