74 
- Deloitte визнала використання генеративного ШІ під час підготовки звіту на $440 000 з помилками та вигаданими посиланнями.
- Компанія виплатить компенсацію федеральному уряду Австралії.
- Інцидент посилює побоювання щодо прозорості та надійності використання ШІ в аналітиці.
Компанія Deloitte Australia погодилася частково відшкодувати витрати федеральному уряду на тлі скандалу зі звітом для уряду. Експерти з’ясували, що під час підготовки документа за $440 000 використовувалися інструменти генеративного ШІ, що призвело до появи безлічі помилок і вигаданих посилань.
Звіт Міністерства зайнятості та трудових відносин (DEWR) спочатку було опубліковано в липні 2025 року. Документ присвячений ІТ-системам автоматизації санкцій у соціальній сфері та нібито створювався аналітиками фірми.
Однак під час аналізу документа експерти виявили, що значна частина звіту написана за допомогою генеративного ШІ. При цьому документ мав масу помилок, «галюцинацій» і вигаданих посилань.
Після критики з боку вчених Deloitte провела внутрішню перевірку і в оновленій версії звіту прибрала понад десять фіктивних посилань, виправила виноски та переписала список літератури. У методології звіту тепер зазначено, що застосовувався «інструментарій генеративної моделі ШІ (Azure OpenAI GPT-4o)».
Інцидент викликав серйозне занепокоєння в місцевому професійній спільноті. Вчений із Сіднейського університету Крістофер Радж заявив, що помилки є результатом «галюцинацій» ШІ. Він поставив під сумнів достовірність рекомендацій звіту з огляду на відсутність початкового розкриття використання технології.
Представники DEWR заявили, що «суть огляду збережено» і рекомендації не змінилися. Водночас влада відмовилася коментувати, чи вимагатиметься повне повернення коштів і чи продовжиться співпраця з Deloitte. Представник відомства повідомив, що компанія погодилася виплатити останній внесок за контрактом, сума якого не розголошується.
У звіті також виявлено системні проблеми DEWR, включно з недостатньою документацією, помилками в процесах і «каральною моделлю дотримання вимог». Цей документ послідував за критичним звітом омбудсмена Співдружності, де було зазначено, що сотні випадків призупинення соціальних виплат були незаконними.
Інцидент підкреслює важливість прозорості під час використання ШІ в державних і корпоративних дослідженнях, вважають експерти. Водночас Deloitte, яка активно використовує ШІ у своїй роботі, стикається з ризиком втрати довіри через недостатню ясність щодо застосування нових технологій, зазначили фахівці.
Нагадаємо, ми писали, що юридичний клерк позбувся роботи за використання ChatGPT для написання позовів.
