Deloitte — отчёт для австралийского министерства с ИИ-помощью вышел с выдуманными ссылками

Коротко. Deloitte готовила для австралийского министерства занятости (DEWR) итоговый отчёт о системе Targeted Compliance Framework — за 440 000 австралийских долларов. Для сокращения текста и оформления ссылок команда использовала собственную платформу Deloitte MyAssist на базе Azure OpenAI GPT-3.5/4o, а для анализа кода — лицензированный DEWR инструмент ChatGPT. В итоговом отчёте оказались сфабрикованные академические ссылки и выдуманная цитата из решения Федерального суда по делу Amato. Deloitte признала ошибку письменно, отчёт переиздавали минимум дважды, а компания согласилась вернуть последний платёж по контракту.

Что изменили

Обычно черновик такого отчёта готовит и вычитывает команда консультантов вручную. Здесь часть работы — резюмирование судебных материалов и оформление сносок и списка литературы — Deloitte передала генеративному ИИ: MyAssist использовали, чтобы «дополнительно резюмировать для целей форматирования» и «завершать и форматировать цитаты в черновых версиях». Для анализа кода команда также применяла отдельно лицензированный DEWR инструмент ChatGPT. Итоговую ответственность за текст несла фирма: партнёр Deloitte подписал письмо с признанием ошибок в адрес Department of Finance.

Как измерили

Факты подтверждены тремя источниками разного происхождения. Первый — письмо самой Deloitte в Department of Finance от 2 сентября 2025 года, раскрытое по запросу о свободе информации (FOI): в нём фирма прямо признаёт, что «использование инструментов генеративного ИИ привело к неточным результатам: часть ссылок в виде сносок и источников в списке литературы содержала ошибки». Второй — официальная страница министерства DEWR с итоговым отчётом, где указаны даты всех версий документа. Третий — расследование The Guardian с цитатами независимого учёного, обнаружившего фабрикации, и сенатора, комментировавшей возврат оплаты.

Слабое место: точный масштаб ошибок (сколько именно ссылок были сфабрикованы, точная итоговая сумма возврата) в открытых источниках не раскрыт — известен только факт частичного возврата, без суммы на момент публикации. Поэтому уровень доказательности — B, не A: причинная связь между ИИ и ошибками задокументирована самой компанией, но не дана прозрачная количественная мера масштаба проблемы.

Что получилось

Итоговый отчёт содержал выдуманные ссылки на несуществующие работы профессоров Сиднейского и Лундского университетов и выдуманную цитату из реального решения суда по делу о системе «robodebt» — «Deanna Amato v Commonwealth». Первая проверка исправила часть ошибок, но не все — сама Deloitte признала это в письме: «хотя эта проверка исправила часть ошибок, не все были выявлены в рамках этого процесса». Компания провела дополнительную проверку, которая «выявила дополнительные неточные результаты», подлежащие устранению в обновлённой версии.

По словам обнаружившего фабрикации учёного, доктора Криса Раджа (Sydney University), при переиздании отчёта в октябре 2025 года одну выдуманную ссылку не просто заменили на настоящую — вместо неё появилось «пять, шесть, семь или восемь» новых ссылок сразу, что, по его оценке, означает: исходный тезис изначально не опирался на конкретный источник. Известны три версии отчёта: исходная от 4 июля 2025 года и исправленные от 3 октября 2025 года и 3 февраля 2026 года («для устранения выявленных исправлений»). DEWR подтвердило, что Deloitte вернёт последний платёж по контракту; сумму обещали обнародовать после завершения операции, на момент публикации The Guardian она раскрыта не была. При этом, по заявлению представителя DEWR, «содержательная часть независимого обзора сохранена, изменений в рекомендациях нет» — то есть ошибки затронули оформление ссылок, а не итоговые выводы проверки.

Почему так вышло

Механизм прямо описан в собственном письме Deloitte: генеративные ИИ-инструменты использовались для сокращения текста и завершения/оформления цитат в черновиках, и именно это привело к неточным результатам — фабрикации ссылок в сносках и списке литературы. Компания не назвала выпуск отчёта с такими ошибками событием, критически нарушающим условия контракта, и подчеркнула, что выводы и рекомендации отчёта не изменились. По данным Deloitte и DEWR, ошибки касались ссылок — той части работы, где применялся ИИ. Выводы при этом не изменились. Независимого технического разбора нет.

Чему учит

Генеративный ИИ, используемый для «технической» работы — сокращения текста, оформления ссылок — может незаметно внести фактические ошибки в самое проверяемое место документа: список источников.
Первая проверка не гарантирует полного исправления: Deloitte сама признала, что после первого раунда правок не все ошибки были найдены, а отчёт пришлось исправлять ещё раз в феврале 2026 года.
Публичное признание ошибки компанией — первичный документ, которому можно доверять больше, чем последующим публичным формулировкам: именно в письме к Department of Finance Deloitte прямо назвала ИИ причиной неточностей, хотя в переизданном отчёте, по данным The Guardian, ИИ причиной ошибок не назван.
Ошибки в оформлении (ссылки, цитаты) не обязательно означают ошибки в содержательных выводах — но именно первые проще всего проверить постороннему читателю, и именно они подрывают доверие к работе быстрее всего.

Источники

FOI 25-26-084 Document 1 — письмо Deloitte в Department of Finance — Deloitte Touche Tohmatsu / Department of Finance (Австралия), 02.09.2025
Deloitte to pay money back to Albanese government after using AI in $440,000 report — The Guardian, 06.10.2025
Targeted Compliance Framework Assurance Review – Final Report — Department of Employment and Workplace Relations (Австралия), 03.02.2026

Уровень доказательности: B. Причинная роль ИИ в ошибках подтверждена собственным письмом-признанием Deloitte, факт повторных правок — официальной страницей DEWR, детали фабрикаций — независимым расследованием The Guardian. Точный масштаб ошибок и итоговая сумма возврата оплаты в открытых источниках не раскрыты.