Нью-Йорк — чат-бот MyCity советовал предпринимателям нарушать закон, его отключили

Коротко. Нью-Йорк запустил в октябре 2023 года чат-бота MyCity на базе Microsoft Azure AI, чтобы консультировать предпринимателей по городским нормам. Проверки журналистов показали: бот раз за разом давал советы, противоречащие закону. В январе 2026 года новый мэр объявил об отключении бота, и к началу февраля 2026 года он перестал работать.

Что изменили

MyCity должен был автоматически отвечать предпринимателям на вопросы о городских правилах — можно ли забирать чаевые сотрудников, обязателен ли приём наличных, как принимать арендаторов с жилищными ваучерами. Ответы генерировались без проверки каждого из них человеком; по данным The Markup, город опирался на внешних подрядчиков. После публикации расследования в марте 2024 года администрация добавила дисклеймеры и ограничила тематику вопросов, но не остановила бота — он проработал ещё почти два года, до решения новой администрации в 2026 году.

Как измерили

Издание The Markup в марте 2024 года само протестировало бота, опубликовав конкретные вопросы и ответы. В той же статье юридическая организация Legal Services NYC назвала советы бота «опасно неточными» — это комментарий эксперта, а не отдельная проверка. Позже, в апреле 2024 года, ещё два независимых теста подтвердили проблему: StateScoop получил от бота ответ, что бизнес имеет право отказать в обслуживании агрессивным клиентам (это неверно), а Brick Underground задал боту 13 вопросов о правах арендаторов; по обязанностям арендодателя — части этих вопросов — верными, по данным издания, оказались только 2 ответа из 10.

Ни один из тестов не был систематическим количественным измерением по репрезентативной выборке вопросов — это точечные проверки, а не аудит с фиксированной методикой. Именно поэтому итоговый уровень доказательности — B, а не A: сам факт системных ошибок подтверждён несколькими независимыми проверками, но полной статистики точности ответов бота нет ни у журналистов, ни у города.

Что получилось

Бот давал юридически неверные советы: «да, вы можете забирать часть чаевых сотрудника», «да, вы можете сделать ресторан безналичным», а при вопросе о выселении арендатора называл законным «запереть» его — что противоречит нью-йоркскому законодательству. Городская администрация Адамса тогда заявляла, что бот помог «тысячам людей» точными ответами, но это самоотчёт без независимой статистики, который не отменяет задокументированных ошибок.

28 января 2026 года новый мэр Мамдани на пресс-конференции о бюджетном дефиците города в 12 млрд долларов назвал бота «функционально непригодным для использования» и объявил о его ликвидации как одной из мер экономии. По его словам, бот обходился администрации «примерно в полмиллиона долларов» — без уточнения, за какой период и что входит в эту сумму.

По данным The Markup, само построение основы бота стоило около 600 000 долларов — эта цифра близка к названной мэром, но подтверждена только как «по сообщениям прессы», не как проверенный факт. К началу февраля 2026 года бот был отключён: страница на официальном сайте города показывает «Бета-тестирование чат-бота завершено».

Почему так вышло

Механизм ошибок в открытых источниках не раскрыт — неизвестно, почему генеративная модель на Azure AI давала неверные ответы по конкретным нормам (проблема ли это качества обучающих данных, отсутствия проверки перед ответом или чего-то ещё). Известно только, что ответы генерировались автоматически, без предварительной модерации каждого ответа человеком. Решение об отключении бота в 2026 году имеет две названные причины сразу — бюджетную экономию при дефиците бюджета в 12 млрд долларов и признание ненадёжности бота. Источники не разделяют, какая из них была решающей.

Чему учит

Генеративный ИИ, консультирующий по юридическим вопросам без проверки человеком, может давать неверные ответы и оставаться в работе ещё годы после публичного разоблачения.
Самоотчёт ведомства о пользе сервиса («помог тысячам людей») не заменяет независимую проверку точности — это разные вещи, и одно не опровергает другое.
Точечные журналистские тесты — не строгий аудит, но нескольких независимых проверок с одинаковым результатом достаточно, чтобы считать проблему подтверждённой.
Отключение проблемного сервиса может произойти не сразу после выявления ошибок, а через смену руководства и по бюджетным причинам — прямой связи между обнаружением проблемы и решением может не быть.

Источники

NYC's AI Chatbot Tells Businesses to Break the Law — The Markup, 29.03.2024
Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law — The Markup, 30.01.2026 (обновление 04.02.2026)
NYC mayor Eric Adams' chatbot gives wrong answers — StateScoop, 03.04.2024
NYC chatbot gives wrong answers on housing questions — Brick Underground, 12.04.2024
Chatbot maintenance page — City of New York (nyc.gov)

Уровень доказательности: B. Системные ошибки бота подтверждены несколькими независимыми точечными тестами, но не строгим количественным аудитом. Финансовая цифра «полмиллиона долларов» — заявление мэра без указания периода и состава затрат; цифра «около 600 000 долларов» на создание бота — по сообщениям прессы, не подтверждена первичным документом.