01 — Почему большинство внедрений ИИ не являются внедрениями ИИ

Постраничное техническое извлечение. Текст источника сохранён в блоках; это не редакционный пересказ. Таблицы, порядок чтения схем и изображения требуют сверки с PDF.

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                                         Paper Planes




1. Почему большинство
внедрений ИИ не
являются внедрениями
ИИ




01
Компания, способная работать с ИИ
                                                      Рынок искусственного интеллекта формирует у
                                                      руководителей понятное, но опасное ожидание.
                                                      Кажется, что появилась новая производительная
                                                      сила, которую достаточно подключить
                                                      к существующей организации.



                                                                                                              11

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                              Paper Planes




Компания покупает доступ к модели, проводит обучение по составлению запросов, создаёт
несколько агентов и рассчитывает получить рост производительности. Через некоторое время
отдельные сотрудники действительно начинают делать часть работы быстрее. Но на уровне всей
организации эффект оказывается нестабильным.
Результат зависит от конкретного энтузиаста. Разные сотрудники получают разные ответы.
Созданные решения не переносятся между подразделениями. Ошибки обнаруживаются
поздно. Руководители не понимают, как измерить экономический эффект. После смены модели
или интерфейса приходится начинать почти заново.
Причина часто заключается не в недостаточных возможностях технологии. Компания пытается
технологически решить проблему, которая находится на уровне управления.



1.1. Запрос на ИИ как симптом
управленческого разрыва
Рассмотрим несколько типичных запросов.

«Нам нужно прогнозировать закупки»
На первом шаге выясняется, что компания не использует единой методики расчёта потребности.
Продажи, производство и закупки опираются на разные горизонты планирования. Страховые запасы
рассчитываются неустойчиво. Ограничения производственной мощности учитываются ситуативно.
В этой ситуации задача состоит не в том, чтобы попросить модель спрогнозировать объём закупок.
Сначала необходимо определить метод планирования, набор входных данных, правила расчёта
буферов и механизм корректировки прогноза.
ИИ может ускорить применение этого метода, но не должен незаметно придумывать его вместо компании.

«Нам нужен агент продаж»
За этим запросом могут скрываться совершенно разные задачи:
    искать потенциальных клиентов;
    оценивать их привлекательность;
    готовить менеджера к встрече;
    анализировать переговоры;
    формировать коммерческое предложение;
    контролировать прохождение этапов;
    подсказывать возможность дополнительной продажи.

Каждая из этих функций использует свои данные, методы и критерии качества. Некоторые
могут быть почти полностью автоматизированы. Другие требуют профессионального суждения
или человеческого взаимодействия.
Единого «агента продаж» здесь не существует. Существует набор ограниченных рабочих контуров,
которые должны быть связаны с действующей методологией продаж.




Компания, способная работать с ИИ                                                                  12

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                            Paper Planes




«Нам нужна корпоративная база знаний»
Само наличие документов не создаёт знания.
Если компания загрузит в систему тысячи регламентов, презентаций, протоколов и исследований,
модель сможет находить в них фрагменты текста. Но это не означает, что она понимает:
    какой документ является действующим;
    какое правило обладает приоритетом;
    какой материал относится к конкретной роли;
    при каких условиях применяется метод;
    какие решения были признаны ошибочными;
    что изменилось после последнего инцидента.

Без архитектуры контекста корпоративная база знаний превращается в более удобный поиск
по накопленному информационному шуму.

«Нам нужно автоматизировать процесс»
Нередко выясняется, что процесс существует только номинально. Его участники
по-разному определяют начало и завершение работы. Обязательные артефакты
отсутствуют. Исключения обрабатываются вручную. Владелец процесса не установлен.
Качество результата определяется субъективно.
Автоматизация такого процесса закрепляет его неопределённость. Поэтому сначала
необходимо сделать процесс исполнимым на уровне человеческой организации — и лишь затем
передавать отдельные функции машине.




Компания, способная работать с ИИ                                                                13

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                            Paper Planes




1.2. Искусственный интеллект усиливает
существующую систему
ИИ часто описывают как замену или дополнение к человеческому труду. Для управленческой
практики полезнее смотреть на него как на усилитель.
Он увеличивает:
    скорость исполнения;
    количество обработанных объектов;
    доступность накопленного знания;
    частоту проверки;
    число одновременно рассматриваемых вариантов;
    способность распространять один способ работы на большое количество сотрудников.

Но усилитель не различает хороший и плохой сигнал.
Если компания использует сильную методологию, ИИ помогает применять её быстрее
и последовательнее. Если методология противоречива, система масштабирует противоречие.
Если данные ненадёжны, ускоряется производство недостоверных выводов. Если стандарт
результата не определён, увеличивается объём правдоподобного, но непригодного
к использованию контента.
Поэтому технологически успешный запуск может одновременно оказаться управленчески вредным.
Система выполнила поручение. Ответ выглядит убедительно. Пользователь сэкономил время.
Но решение стало хуже, риск вырос или организация потеряла способность объяснить, почему был
выбран именно этот вариант.



1.3. Три распространённых заблуждения
Заблуждение первое: результат определяет выбранная модель
Разные модели действительно отличаются по качеству рассуждения, работе с текстом,
программированию, поиску и мультимодальным задачам. Но в корпоративном применении результат
обычно ограничивается не только способностями модели.
Гораздо чаще ограничения создают:
    плохо поставленная задача;
    отсутствие метода;
    недостаточный контекст;
    неизвестное качество данных;
    противоречивые правила;
    отсутствие проверки;
    неопределённая ответственность.

Замена модели может временно улучшить результат, но не устраняет эти причины.
Поэтому архитектура должна быть по возможности переносимой между моделями. Методы, правила
и знания компании не должны исчезать вместе с конкретным продуктом.




Компания, способная работать с ИИ                                                                14

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                          Paper Planes




Заблуждение второе: автономность является мерой зрелости
Автономный агент выглядит более технологичным, чем система, которая регулярно запрашивает
подтверждение человека. Но количество человеческих вмешательств само по себе ничего не
говорит о качестве решения.
В ясной и повторяемой операции высокая автономность может быть оправданна. В задаче
с несколькими допустимыми ответами человеческий шлюз является не недостатком, а необходимой
частью архитектуры. В сложной ситуации попытка добиться автономности способна уничтожить
сам механизм обнаружения нового.
Целью должна быть не максимальная автономность, а правильное распределение действий,
решений и ответственности.

Заблуждение третье: достаточно научить сотрудников пользоваться ИИ
Обучение отдельным инструментам создаёт локальный рост производительности,
но не гарантирует изменения организации.
Сотрудник может научиться быстрее готовить отчёт, однако:
    его коллега использует другой формат;
    руководитель проверяет документ по неявным критериям;
    результат не попадает в корпоративную память;
    найденная ошибка не изменяет правило;
    удачный способ работы не распространяется на остальных.

Организационная способность возникает только тогда, когда индивидуальный опыт превращается
в общий стандарт, навык или элемент рабочего процесса.




Компания, способная работать с ИИ                                                              15

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                          Paper Planes




1.4. Правильная единица внедрения
Не следует внедрять искусственный интеллект сразу:
    в компанию;
    в подразделение;
    в профессию;
    в должность;
    во всё управление знаниями.

Эти объекты слишком велики и неоднородны.
Рабочей единицей является ограниченная функция внутри конкретного процесса. У неё должны быть:
    понятное начало;
    определённый вход;
    известный метод;
    ожидаемый результат;
    критерий проверки;
    владелец;
    правила обработки исключений;
    измеримый эффект.

Например, не «автоматизировать клиентский сервис», а классифицировать поступившую
рекламацию, определить тип продукта, найти применимый стандарт и подготовить проект
ответа для сотрудника.
Не «внедрить ИИ в продажи», а на основании проверяемых источников собрать факты
о потенциальном клиенте, оценить его по утверждённым критериям и подготовить вопросы
к первой встрече.
Не «создать цифрового директора по качеству», а проверить конкретный документ по действующему
стандарту, показать обнаруженные отклонения и передать решение ответственному человеку.
Такая декомпозиция уменьшает риск и одновременно создаёт возможность обучения. Узкую
функцию проще проверить, исправить, версионировать и перенести в другой процесс.




Компания, способная работать с ИИ                                                              16

1. Почему большинство внедрений ИИ не являются внедрениями ИИ                           Paper Planes




1.5. С чего начинается внедрение
Первый цикл работы должен отвечать на восемь вопросов.
1. Какой стратегический или экономический результат требуется компании?
2. Какое ограничение мешает его получить?
3. В каком процессе проявляется это ограничение?
4. Какая функция внутри процесса создаёт основную потерю?
5. К какому типу относится решаемая задача?
6. Какой метод должен применяться?
7. Как распределяются действия и решения между человеком и машиной?
8. По каким показателям будет установлено, что система действительно улучшила работу?

Если на эти вопросы нет согласованных ответов, начинать разработку преждевременно.
Возможно, первым результатом проекта станет не агент и не программный интерфейс,
а описание метода, модель процесса, словарь данных или стандарт качества. Это не задержка
внедрения искусственного интеллекта. Это создание основания, без которого внедрение
останется демонстрацией возможностей технологии.




Вывод
Большинство неудачных ИИ-проектов начинаются слишком поздно — сразу с выбора инструмента
и проектирования решения.
Методология предлагает начать раньше: со стратегии, ограничения, процесса и способа мышления,
который компания хочет воспроизвести.
Искусственный интеллект становится полезен не тогда, когда организация передаёт ему как можно
больше деятельности. Он становится полезен тогда, когда организация способна точно определить:
    что именно должна делать машина;
    по какому методу;
    в каких границах;
    с использованием какого контекста;
    где требуется решение человека;
    как будет проверяться результат;
    чему система должна научиться после ошибки.

Следующий вопрос состоит в том, что именно необходимо сделать машиночитаемым, чтобы такое
распределение работы стало возможным.




Компания, способная работать с ИИ                                                                17