HBR предупредил о деградации знаний из-за ИИ в компаниях
Harvard Business Review зафиксировал побочный эффект массового внедрения генеративного ИИ в компаниях и предупреждает о деградации знаний из-за ИИ в компаниях. Вместо обещанного ускорения части бизнес-процессов организации получают поток слабых материалов, рост затрат на проверку и постепенное размывание внутренних знаний. Речь идёт не об отдельных ошибках моделей, а о системной нагрузке на сотрудников, которые вынуждены фильтровать и перепроверять машинный результат.
В материале HBR этот эффект описан через термин workslop. Под ним понимают поток сгенерированного ИИ контента, который формально выглядит как рабочий результат, но требует дополнительной ручной проверки и исправлений. На практике цепочка выглядит так: сотрудник генерирует текст, сводку или проект решения, в материале остаются ошибки и «галлюцинации», коллеги тратят время на верификацию, доверие к данным падает, а ценность корпоративной базы знаний снижается.
Издание пишет, что проблема усиливается, когда генеративные модели становятся обязательным слоем почти во всех процессах. Тогда ИИ перестаёт быть точечным инструментом и начинает влиять на то, как компания хранит, обновляет и передаёт знания между командами. Если ошибочные или шаблонные ответы многократно попадают во внутренние документы, они закрепляются в процедурах и начинают участвовать в принятии решений уже как «нормальные» данные.
Отдельный эффект связан с навыками сотрудников. HBR отмечает, что при постоянной передаче черновой работы моделям люди реже проверяют исходные предпосылки, хуже удерживают контекст и постепенно теряют часть прикладной экспертизы. Для бизнеса это означает двойной расход: сначала компания платит за автоматизацию, затем за слой контроля над автоматизацией.
Деградация знаний из-за ИИ в компаниях
Тревога выглядит логичной на фоне того, как быстро генеративный ИИ вошёл в корпоративный контур. По данным McKinsey, ещё в 2024 году 65% опрошенных компаний заявляли, что уже регулярно используют генеративный ИИ хотя бы в одной бизнес-функции. Темп высокий, а правила применения часто писались уже после запуска пилотов. Обычно это плохой момент для аккуратной работы со знаниями.
При этом ранние исследования не давали однозначного ответа о чистом росте производительности. Например, в известном исследовании NBER по колл-центрам модели действительно помогали менее опытным сотрудникам и повышали их выпуск. Однако этот результат касался узкого сценария с хорошо измеряемой задачей, а не всей офисной работы сразу. Переносить такой эффект на документооборот, аналитику, найм и внутренние коммуникации компании начали заметно быстрее, чем успели проверить ограничения.
У крупных платформенных поставщиков был другой стимул. Microsoft, Google, OpenAI, Salesforce и другие продавали бизнесу не отдельную функцию, а идею универсального «второго пилота» для большинства офисных задач. Отсюда и риск: чем шире охват, тем больше в систему попадает материалов, которые выглядят убедительно, но не проходят даже базовую фактологическую проверку. В редакционных тестах похожих инструментов эта проблема проявляется регулярно: чем увереннее тон ответа, тем дороже обходится его ручная проверка.
Схожая логика уже появлялась в других сегментах. Поисковые системы с ИИ-сводками несколько раз показывали ошибки в ответах на простые запросы, а разработчики программного кода жаловались на рост объёма правок после автогенерации типовых фрагментов. Для внутренней корпоративной среды такой сбой чувствительнее, потому что ошибка не исчезает после одного просмотра, а может остаться в шаблоне, инструкции или базе знаний.
HBR отдельно выделяет влияние на найм и коммуникации внутри компаний. Автоматизированные этапы отбора и подготовки материалов искажают ожидания обеих сторон: кандидат получает шаблонную обратную связь, работодатель видит «причесанное» резюме, а реальный уровень совпадения приходится устанавливать вручную уже позже. Чем больше посредников в цепочке общения, тем меньше сигнал и тем больше шума.
В качестве рабочего выхода из этой ситуации издание предлагает не отказываться от генеративного ИИ, а жёстче ограничивать его применение. Лучше всего модели работают там, где нужна быстрая заготовка, суммаризация или помощь в поиске вариантов, а итоговый результат остаётся у человека или у специализированной системы, обученной на проверенных внутренних данных.
- черновики писем и документов
- суммаризация длинных материалов
- поиск типовых формулировок
- внутренние базы знаний с ограниченным набором источников
Наименее предсказуемым остаётся сценарий, когда публичная большая языковая модель подключается ко всем этапам сразу и начинает порождать вторичный контент поверх другого вторичного контента. В такой схеме компания быстрее получает видимость активности, чем реальный результат. Именно эту «имитацию бурной деятельности» HBR считает одной из главных управленческих ловушек текущего этапа.
Рынок вряд ли откажется от корпоративного ИИ. По оценкам Bloomberg Intelligence, мировая выручка сегмента генеративного ИИ к началу следующего десятилетия может превысить $1 трлн, и значительная часть этого спроса придётся на бизнес-сервисы. Поэтому следующим этапом для компаний, вероятно, станет не расширение охвата любой ценой, а пересборка правил: где модель экономит время, а где создаёт новый отдел по исправлению её ошибок.
