Компании откатывают поспешное внедрение ИИ

Компании, которые в последние годы активно внедряли инструменты искусственного интеллекта, начинают пересматривать свою политику. По данным Reuters, Meta сократила планы по замене сотрудников ИИ-агентами: работники тратили всё больше времени на исправление технических и security-ошибок, которые порождали автоматизированные системы. После сокращения штата в рамках оптимизации 2023 года компания вновь расширяет управленческий состав, о чём свидетельствуют публикации сотрудников в LinkedIn.

В Microsoft, где ИИ внедряли широко и внутри компании, исполнительный вице-президент Райан Рослански публично пожаловался на засилье «ИИ-мусора» в повседневной работе. Получив от коллеги документ, явно сгенерированный ИИ, он попросил свой ИИ его пересказать — и не узнал ничего нового. Рослански предупредил о «цикле обречённости», в котором ИИ читает и пишет за человека, оставляя «океан одинаковости».

В Walmart сотрудники магазинов и складов сталкиваются с необоснованными ожиданиями, ошибками и ложными сигналами от ИИ-инструментов, которые распределяют задачи, составляют графики и следят за производительностью, сообщает Business Insider. Боты задают заведомо недостижимые стандарты, прокладывают бессмысленные маршруты для сборщиков заказов и выдают бесполезные уведомления о безопасности. Один из менеджеров заявил изданию, что система исходит из того, что работник «будет идеальным каждый раз», и это неприемлемо.

Масштаб проблемы подтверждают исследования. По данным рабочего доклада Федерального резервного банка Атланты, 90% руководителей признают, что усилия в области ИИ пока не привели к росту производительности. Опрос Ernst & Young, опубликованный в прошлом месяце, показал: 36% старших ИИ-руководителей компаний с выручкой от $1 млрд сообщили об инцидентах, связанных с потерей данных, финансовым или репутационным ущербом либо сбоями в работе.

Реакция бизнеса уже началась. Microsoft и McKinsey ограничивают использование ИИ сотрудниками, поскольку расходы на новые инструменты давят на финансовые показатели. Palantir, Booz Allen Hamilton и Nvidia вводят запреты из-за опасений за безопасность корпоративных данных при передаче их ИИ-компаниям, пишет Reuters. Microsoft и Walmart отказались от комментариев, Meta, Palantir, Nvidia и Booz Allen Hamilton не ответили на запросы.

Главная сложность в том, что ИИ выдаёт «правдоподобный на вид результат» с незаметными сразу ошибками, поясняет Джессика Райф из Wharton School. Из-за этого сбой распространяется по рабочему процессу, а не исправляется сразу, и проблемы накапливаются как снежный ком. По данным опроса Indeed, более половины сотрудников не получают нужного обучения по ИИ, а 45% менеджеров не чувствуют себя готовыми руководить «аборигенами ИИ».

Компании пытаются закрыть пробелы переходом от разовых вебинаров к «постоянному обучению под конкретные роли», говорит Джонни Тейлор из SHRM. В Microsoft пришли к выводу, что «добавление агентов в сломанный процесс оставляет процесс сломанным», а ускорение одного этапа лишь удлиняет очередь на следующем. Ставка на обучение и наставничество, особенно для начинающих инженеров, дала рост производительности.

Отдельная головная боль — утечки в публичное поле. Адвокат Уилл Мойе накануне процесса против 3M получил от независимого эксперта отчёт на 14 500 страниц, собранный за считаные часы, с характерным форматированием и шрифтами. Запрошенные в суде логи показали, что автор загружал в ChatGPT фото газового детектора с вопросом «На что я смотрю?». Присяжные признали, что 3M не обеспечила должную безопасность.