Введение
В мире технологий искусственный интеллект (ИИ) становится все более важным инструментом для бизнеса. Однако недавний случай с компанией KPMG показывает, что использование ИИ требует серьезного подхода и внимательности. KPMG отозвала свой отчет, в котором были представлены данные об использовании ИИ, после того как несколько организаций заявили о неверности информации.
Ошибки в отчете KPMG
Отчет, озаглавленный «Переопределение excellence в эпоху агентного ИИ», был опубликован в октябре 2025 года. Однако вскоре после публикации исследовательская группа GPTZero обнаружила ряд неточностей, касающихся заявлений о том, как различные организации применяют ИИ. В частности, несколько крупных организаций, включая Национальную службу здравоохранения Великобритании и Швейцарские федеральные железные дороги, отметили, что информация в отчете была либо ложной, либо вводящей в заблуждение.
Причины ошибок: галлюцинации ИИ
GPTZero объясняет, что ошибки в отчете возникли из-за так называемых «галлюцинаций» ИИ. Этот термин относится к ситуации, когда алгоритмы машинного обучения генерируют некорректные или вымышленные данные. Таким образом, KPMG, похоже, использовала ИИ для составления отчета о ИИ, что, как показывает практика, может привести к серьезным последствиям.
Ответ KPMG и уроки для бизнеса
После получения обратной связи от организаций KPMG приняла решение удалить отчет со своих веб-сайтов и начала внутреннее расследование. Представитель компании заявил, что они ожидают от своих сотрудников соблюдения строгих стандартов в области ответственного использования ИИ, включая наличие человеческого контроля для проверки контента и подтверждения источников. Этот случай подчеркивает важность критического подхода к данным, генерируемым ИИ, и необходимость внедрения механизмов проверки.
Заключение
Случай с KPMG служит важным напоминанием о том, что, несмотря на все преимущества, которые приносит ИИ, его использование должно быть обоснованным и хорошо контролируемым. Бизнесам необходимо быть внимательными к информации, которую они получают, и использовать ИИ как вспомогательный инструмент, а не полагаться на него полностью. Это обеспечит более надежные и точные результаты, что в конечном итоге укрепит доверие к технологиям.
История KPMG — не просто конфуз крупной консалтинговой фирмы, а сигнал об опасности автоматизации без контроля. Когда большие игроки игнорируют собственные рекомендации об ответственном ИИ ради скорости, это подрывает доверие ко всему сектору. Урок простой: галлюцинации генмоделей — это не баг, а фича, которую нужно учитывать в процессах.
Российским консалтинговым и IT-компаниям этот кейс должен служить предупреждением: внедрение ИИ в отчетность и аналитику требует жесткого quality assurance. На фоне растущего использования LLM в российском бизнесе риск публикации сфабрикованных данных под видом аналитики становится реальной угрозой репутации.
