03 — Выбор правильного режима ИИ

Постраничное техническое извлечение. Текст источника сохранён в блоках; это не редакционный пересказ. Таблицы, порядок чтения схем и изображения требуют сверки с PDF.

3. Не все задачи одинаковы: выбор правильного режима ИИ                                               Paper Planes




3. Не все задачи
одинаковы: выбор
правильного режима
ИИ




03
Компания, способная работать с ИИ
                                                          Предыдущая глава приводит к естественному выводу:
                                                          прежде чем передать искусственному интеллекту
                                                          какую-либо деятельность, её необходимо описать.



                                                                                                              31

Глава 3                                                                                                    Paper Planes




Задача определяет режим


     Воспроизводимое                                              Экспертный анализ
     исполнение
     Известный метод                                              Несколько обоснованных
                                                                  вариантов

     Проверяемый результат                                        Человеческое суждение




     Сложная среда                                                Хаотическая ситуация


     Портфель гипотез                                             Стабилизация


     Ограниченные эксперименты                                    Человеческая
                                                                  ответственность




 Неопределённое состояние
 Сначала — декомпозиция и исследование




Схема по тексту: Глава 3. Геометрия показывает связи и последовательность, а не количественные значения.

Компания, способная работать с ИИ                                                                                  32

3. Не все задачи одинаковы: выбор правильного режима ИИ                                       Paper Planes




Но из этого не следует, что любую описанную деятельность можно автоматизировать.
Компания способна формализовать порядок проведения стратегической сессии, критерии найма
руководителя или процедуру разработки нового продукта. Однако наличие описания ещё не
превращает эти задачи в алгоритм с единственным правильным результатом.
В одних ситуациях причинно-следственная связь известна, а качество ответа можно проверить
по однозначному правилу. В других необходим профессиональный анализ и допустимы несколько
обоснованных решений. В третьих результат возникает только в ходе взаимодействия, эксперимента
и наблюдения за реакцией системы.
Если применять к этим ситуациям одинаковый ИИ-механизм, компания получает либо недостаточную
автоматизацию, либо опасную иллюзию определённости.
Поэтому выбор технологии должен начинаться с диагностики природы задачи.



3.1. Два предварительных вопроса
Для первичной классификации полезно задать два вопроса.

Насколько задачу можно алгоритмизировать?
Алгоритмизируемая задача допускает заранее определённую последовательность действий. Можно установить:
    входные данные;
    порядок обработки;
    применяемые правила;
    условия перехода;
    формат результата;
    способ проверки.

Это не означает, что задача обязательно проста. Расчёт производственного плана, оптимизация
логистической сети или проверка сложной финансовой модели могут требовать значительных
вычислений. Но способ получения результата в принципе поддаётся формализации.
В неалгоритмизируемой задаче невозможно заранее определить полную последовательность
действий. Новая информация меняет сам способ рассуждения. Решение зависит от контекста,
поведения участников и возникающих в процессе работы эффектов.




Компания, способная работать с ИИ                                                                     33

3. Не все задачи одинаковы: выбор правильного режима ИИ                                   Paper Planes




Существует ли единственный правильный ответ?
В некоторых задачах результат можно проверить однозначно. Значение рассчитано правильно
или неправильно. Документ соответствует стандарту или содержит конкретное нарушение.
Обязательное поле заполнено или отсутствует.
В других задачах несколько разных решений могут быть обоснованными. Эксперты способны
согласиться с фактами и при этом предложить разные варианты действий:
    по-разному распределить ограниченный ресурс;
    выбрать разные продуктовые приоритеты;
    по-разному интерпретировать слабый рыночный сигнал;
    предложить разные архитектуры процесса;
    принять разные уровни риска.

Чем меньше определённость метода и результата, тем меньше оснований передавать машине право
на окончательное решение.



3.2. Связь с логикой Cynefin
Предлагаемая классификация созвучна фреймворку Cynefin, но не является его буквальным изложением.
Cynefin различает ситуации по характеру причинно-следственных связей и предполагает,
что способ управления должен соответствовать природе конкретной среды. В ясном домене
причинно-следственные связи очевидны и применимы установленные практики. В усложнённом они
доступны экспертному анализу, но могут существовать несколько обоснованных ответов. В сложном
домене закономерности проявляются в ходе взаимодействия и часто становятся понятными лишь
ретроспективно. В хаотическом сначала требуется действие, создающее хотя бы минимальную
устойчивость. Описание доменов Cynefin
Само слово Cynefin описывает множество переплетённых факторов среды и опыта, влияющих на то,
как человек думает, интерпретирует происходящее и действует. Фреймворк создавался именно
для того, чтобы руководитель выбирал способ действия в соответствии с контекстом, а не пытался
подогнать всякую ситуацию под знакомый метод. Официальное описание Cynefin
В рамках этого white paper мы используем более узкую прикладную проекцию: рассматриваем,
какие роли целесообразно отдавать искусственному интеллекту в задачах разной природы.
Эта проекция нужна не для точной онтологической классификации организации. Она используется
как управленческий фильтр перед проектированием ИИ-контура.




Компания, способная работать с ИИ                                                                 34

3. Не все задачи одинаковы: выбор правильного режима ИИ                               Paper Planes




3.3. Четыре режима применения
искусственного интеллекта
Режим 1. Воспроизводимое исполнение
В этом режиме:
    причинно-следственная связь понятна;
    метод установлен;
    операция повторяется;
    результат можно проверить;
    исключения известны или могут быть эскалированы.
Примеры:
    классификация входящего обращения;
    проверка обязательных полей;
    сопоставление документа со стандартом;
    поиск товара по артикулу;
    подбор аналога по заданным характеристикам;
    извлечение фактов из утверждённого источника;
    расчёт показателя по установленной формуле;
    контроль срока или незавершённого цикла;
    подготовка документа по утверждённому шаблону.

Здесь искусственный интеллект может выполнять значительную часть работы самостоятельно.
Основными механизмами становятся:
    навыки;
    правила;
    агенты с ограниченной областью действия;
    программные проверки;
    последовательные рабочие процессы;
    микросервисы.

Роль человека состоит прежде всего в том, чтобы:
    установить метод;
    определить границы;
    утвердить критерии качества;
    спроектировать обработку исключений;
    контролировать изменение правил.
После накопления достаточной статистики человеческое участие может смещаться от проверки
каждой операции к контролю выборки и исключений.
Однако даже в этом режиме автономность не должна предоставляться по умолчанию.
Необходимо оценить цену ошибки.




Компания, способная работать с ИИ                                                             35

3. Не все задачи одинаковы: выбор правильного режима ИИ                                Paper Planes




Автоматическая классификация внутреннего документа и автоматическое
перечисление крупной суммы могут быть одинаково алгоритмизируемыми, но требуют
совершенно разных механизмов подтверждения.
Следовательно, степень автономности определяется не только ясностью задачи, но и обратимостью
действия, масштабом последствий и способностью обнаружить дефект.




Компания, способная работать с ИИ                                                               36

3. Не все задачи одинаковы: выбор правильного режима ИИ                                   Paper Planes




Режим 2. Экспертный анализ
В этом режиме причинно-следственные связи в целом существуют, но не являются очевидными.
Для их обнаружения требуется профессиональная модель, расчёт или интерпретация.
Примеры:
    прогнозирование закупок с учётом спроса, запасов и производственных ограничений;
    распределение ресурса между несколькими проектами;
    оценка инвестиционных вариантов;
    анализ причин отклонения маржи;
    выбор продуктового приоритета;
    проектирование организационной структуры;
    оценка привлекательности клиента;
    сравнение нескольких сценариев выхода на рынок.

Здесь редко существует единственный бесспорный ответ. Разные эксперты могут использовать
разные модели, присваивать факторам разные веса или по-разному оценивать риск.
ИИ особенно полезен для:
    сбора и очистки данных;
    применения расчётных моделей;
    построения сценариев;
    проверки внутренней непротиворечивости;
    поиска пропущенных факторов;
    сравнения альтернатив;
    подготовки оснований для решения.

Но право выбора должно оставаться у человека или установленного органа управления.
Рабочая архитектура выглядит следующим образом:
данные → модель → несколько вариантов → проверка допущений → человеческое решение →
фиксация основания → наблюдение за результатом.
В этом режиме особенно важен scaffolding — когнитивная опора, которая помогает человеку
правильно интерпретировать подготовленный анализ.
Система не говорит руководителю: «Выберите вариант Б». Она показывает:
    какие факторы повлияли на результат;
    на каких допущениях держится расчёт;
    какие данные недостаточно надёжны;
    какие риски отличаются между вариантами;
    при каком изменении условий решение перестанет быть оправданным.

ИИ снижает когнитивную нагрузку, но не подменяет профессиональное суждение.
Официальные материалы Cynefin также подчёркивают, что в усложнённом домене машины способны
обрабатывать данные, находить связи и поддерживать оптимизацию, но интерпретация контекста,
компромиссов и последствий остаётся человеческой задачей. О совместной работе человека
и машины в разных доменах




Компания, способная работать с ИИ                                                                 37

3. Не все задачи одинаковы: выбор правильного режима ИИ                                  Paper Planes




Режим 3. Исследование сложной среды
В сложной среде нельзя заранее определить устойчивую причинно-следственную модель.
Поведение системы возникает из взаимодействия большого количества участников и ограничений.
К этому режиму часто относятся:
    изменение корпоративной культуры;
    запуск принципиально нового продукта;
    формирование новой категории;
    перестройка поведения клиентского сообщества;
    интеграция после слияния;
    трансформация неформальных отношений внутри организации;
    разработка стратегии в условиях существенной неопределённости;
    изменение сложной системы мотивации;
    работа с доверием и ответственностью.

Попытка сразу построить единый алгоритм здесь опасна. Она фиксирует одно объяснение раньше,
чем компания получила возможность увидеть реальное поведение системы.
Основной способ работы:
1. Собрать множество наблюдений.
2. Сформулировать несколько гипотез.
3. Спроектировать небольшие параллельные вмешательства.
4. Ограничить потенциальный ущерб каждого эксперимента.
5. Наблюдать за возникающими паттернами.
6. Усиливать полезные изменения.
7. Останавливать или изменять неработающие вмешательства.
8. Формализовать практику только после появления устойчивости.
В логике Cynefin это соответствует принципу «пробовать — распознавать — отвечать»: причинность
в сложной среде нельзя заменить предварительным анализом, поэтому используются несколько
параллельных безопасных для неудачи проб. Cynefin о действиях в сложном домене
Искусственный интеллект способен существенно усилить этот режим. Он может:
    обрабатывать большое количество наблюдений;
    группировать сигналы без заранее заданной жёсткой классификации;
    находить аномалии;
    сравнивать нарративы разных групп;
    вести реестр гипотез;
    фиксировать изменения;
    обнаруживать формирующиеся паттерны;
    напоминать о противоречащих наблюдениях;
    поддерживать портфель экспериментов.
Но ИИ не следует назначать владельцем сложной системы.
Он не обладает собственным опытом последствий, не несёт ответственности и не участвует
в отношениях, смысл которых пытается интерпретировать. Он способен найти повторяющуюся
языковую конструкцию, но не может самостоятельно определить, является ли она признаком
доверия, ритуальным ответом или защитной реакцией.


Компания, способная работать с ИИ                                                                38

3. Не все задачи одинаковы: выбор правильного режима ИИ                                  Paper Planes




Поэтому в сложной среде человек отвечает не только за итоговое решение, но и за создание смысла.

Режим 4. Стабилизация
В хаотической ситуации невозможно надёжно установить связь между действием и результатом.
События развиваются быстрее, чем организация способна их анализировать.
Примеры:
    критический производственный инцидент;
    внезапный отказ ключевой инфраструктуры;
    угроза жизни и безопасности;
    крупная утечка данных;
    стремительно развивающийся репутационный кризис;
    потеря управляемости при резком внешнем шоке.

В такой ситуации ожидание полного анализа увеличивает ущерб. Задача руководителя — сначала
создать ограничения и вернуть системе минимальную устойчивость.
Приоритетная логика:
действовать → стабилизировать → наблюдать → уточнять → переводить ситуацию в управляемый режим.
Cynefin рассматривает хаос как переходное состояние: первоочередная задача состоит в наложении
ограничений и создании условий, в которых снова становится возможным осмысленное управление.
О хаотическом домене
ИИ может поддерживать:
    сбор сигналов;
    консолидацию сообщений;
    мониторинг состояния;
    поиск известных протоколов;
    ведение журнала действий;
    подготовку вариантов коммуникации;
    обнаружение новых отклонений.

Но он не должен самостоятельно определять допустимую цену стабилизации. В кризисе
особенно значимы власть, ответственность, этика и понимание необратимых последствий.
Поэтому окончательные решения остаются человеческими.




Компания, способная работать с ИИ                                                                39

3. Не все задачи одинаковы: выбор правильного режима ИИ                                  Paper Planes




3.4. Пятое состояние: мы не понимаем,
с какой задачей имеем дело
На практике самая частая ошибка возникает ещё до выбора одного из четырёх режимов.
Организация не понимает природу ситуации, но действует так, как привыкла. Финансист пытается
всё рассчитать. Владелец продукта запускает эксперимент. Операционный руководитель пишет
регламент. Технологическая команда предлагает агента.
Cynefin описывает такое состояние как confused или aporetic — состояние недостаточной
определённости, в котором ещё невозможно уверенно отнести ситуацию к одному домену.
Для ИИ-проектов это принципиально важная категория.
Если команда не способна определить тип задачи, нельзя по умолчанию считать
её алгоритмизируемой. Необходимо сначала:
    декомпозировать проблему;
    отделить факты от интерпретаций;
    выделить разные типы деятельности;
    определить участки известного и неизвестного;
    найти часть, которую можно безопасно исследовать;
    установить временные границы и точки пересмотра.

Неопределённость классификации — основание для дополнительного исследования, а не
для более уверенной автоматизации.



3.5. Один процесс может содержать задачи
разных типов
Нельзя присвоить домен целому подразделению или профессии.
Например, процесс экспертной продажи может включать:
    сбор реквизитов клиента — воспроизводимое исполнение;
    поиск фактов о компании — воспроизводимое исполнение с проверкой источников;
    оценку коммерческого потенциала — экспертный анализ;
    выбор стратегии переговоров — экспертное решение;
    сам разговор — взаимодействие с высокой контекстной зависимостью;
    создание новой ценности вместе с клиентом — сложная деятельность;
    подготовку коммерческого предложения — сочетание правил и экспертной интерпретации;
    контроль обязательных этапов — воспроизводимое исполнение.

Если назвать весь этот процесс «сложным», компания потеряет возможности автоматизации.
Если назвать его «алгоритмизируемым», она передаст машине решения, для которых та
не располагает достаточным основанием.
Поэтому единицей классификации должна быть не должность и даже не процесс целиком, а функция
или решение внутри процесса.




Компания, способная работать с ИИ                                                                40

3. Не все задачи одинаковы: выбор правильного режима ИИ                                Paper Planes




3.6. Как выбирать механизм
Перед проектированием ИИ-контура полезно провести короткую диагностику.

Вопросы о методе
    Существует ли признанный способ выполнения задачи?
    Можно ли обучить ему нового сотрудника?
    Согласны ли эксперты между собой?
    Известны ли основные исключения?
    Можно ли объяснить основание решения?


Вопросы о результате
    Существует ли один правильный ответ?
    Можно ли проверить результат автоматически?
    Через какое время становится понятна ошибка?
    Можно ли отменить действие?
    Каков потенциальный ущерб?


Вопросы о среде
    Повторяются ли исходные условия?
    Меняет ли действие саму систему?
    Зависит ли результат от реакции людей?
    Можно ли перенести прошлый опыт?
    Требуется ли эксперимент?


Вопросы об ответственности
    Кто принимает окончательное решение?
    Кто имеет право изменить правило?
    Кто отвечает за ошибку?
    Где машина обязана остановиться?
    Как человек может оспорить вывод системы?

Ответы позволяют выбрать не только инструмент, но и допустимую степень автономности.




Компания, способная работать с ИИ                                                              41

3. Не все задачи одинаковы: выбор правильного режима ИИ                                            Paper Planes




3.7. Матрица ролей человека и ИИ
  Режим                             Основная роль ИИ       Основная роль человека   Предпочтительный
                                                                                    механизм


  Воспроизводимое                   Выполнять              Устанавливать правила    Навыки, агенты,
  исполнение                        и проверять            и разбирать исключения   рабочие процессы


  Экспертный анализ                 Считать, сравнивать,   Интерпретировать         Модели, scaffolds,
                                    показывать             и выбирать               шлюзы решения
                                    допущения


  Исследование                      Расширять              Создавать смысл,         Исследовательский
  сложной среды                     наблюдение             гипотезы                 контур
                                    и фиксировать          и эксперименты
                                    паттерны


  Стабилизация                      Поддерживать           Действовать и нести      Кризисный протокол
                                    мониторинг             ответственность
                                    и координацию


  Неопределённое                    Помогать               Определять природу       Диагностический
  состояние                         декомпозиции           ситуации                 контур



Эта матрица не должна использоваться как раз и навсегда установленная классификация.
Задача может менять состояние.
После серии экспериментов в сложной среде может появиться устойчивая практика.
Эксперты анализируют её и переводят в метод. После проверки метод стандартизируется
и становится основой воспроизводимого процесса.
Возможна и обратная динамика. Изменение рынка разрушает ранее устойчивую
причинно-следственную связь. Процесс, который считался ясным, начинает давать непредсказуемые
результаты. Продолжение автоматического исполнения в такой ситуации не повышает
эффективность, а ускоряет ошибку.
Система должна уметь распознавать не только отклонение результата, но и признаки того,
что сам режим задачи изменился.




Компания, способная работать с ИИ                                                                          42

3. Не все задачи одинаковы: выбор правильного режима ИИ                                   Paper Planes




3.8. Ограничение агентного подхода
Популярность агентов создаёт соблазн представить любую работу
как последовательность поручений цифровым исполнителям.
Это допустимо, если каждый агент:
    выполняет ограниченную функцию;
    использует определённые источники;
    действует по известному правилу;
    возвращает проверяемый результат;
    не принимает необратимых решений;
    передаёт исключения человеку.

В более сложных задачах ансамбль агентов может быть полезен для разделения аналитического
труда. Один собирает факты, второй проверяет источники, третий контролирует структуру,
четвёртый ищет логические противоречия.
Но количество агентов не меняет природу задачи. Если неизвестен сам метод оценки, четыре
агента не превращают неопределённость в знание. Они способны лишь быстрее и убедительнее
воспроизвести общее неверное допущение.
Поэтому агентная архитектура должна проектироваться после выбора режима задачи, а не вместо него.




Вывод
Главная ошибка внедрения искусственного интеллекта — применять один и тот же способ
автоматизации к задачам разной природы.
Воспроизводимые операции можно передавать навыкам и агентам. Экспертные задачи требуют
моделей, прозрачных допущений и человеческого решения. В сложной среде ИИ поддерживает
наблюдение и эксперимент, но не владеет смыслом. В хаосе он помогает координации, тогда
как ответственность за стабилизацию остаётся у человека.
Практическая последовательность выглядит так:
декомпозировать процесс → определить природу функции → выбрать роль ИИ → установить роль
человека → определить контроль → только затем проектировать технологию.
После выбора режима возникает следующий вопрос: из каких компонентов должен состоять рабочий
контур, чтобы соединить корпоративный контекст, методы, исполнение, проверку и обучение.




Компания, способная работать с ИИ                                                                 43