Работников по всему миру следит ИИ

Британский потребительский кооператив Co-op, управляющий сетью супермаркетов, похоронных бюро, страховых и юридических компаний, внедрил систему автоматического прослушивания телефонных звонков сотрудников. Искусственный интеллект записывает, анализирует и выставляет процентную оценку каждому разговору операторов Co-op Legal Services с клиентами по вопросам наследства и завещаний. Об этом сообщает The Guardian со ссылкой на анонимного сотрудника, назвавшего систему «угнетающей и антиутопической».

Co-op не признаёт критику, утверждая, что консультанты по наследственным делам демонстрируют высокую вовлечённость. Однако инцидент иллюстрирует глобальную тенденцию: работники по всему миру всё чаще сталкиваются с пристальным мониторингом, когда малейшие изменения в поведении приводят к негативным оценкам эффективности. Подобные системы уже применяются в Amazon, где сотрудников складов штрафуют за длительные перерывы, и в сети больниц Kaiser Permanente, где автоматика оценивает тон голоса медсестёр при общении с пациентами.

Реакция на такие практики начинает находить отражение в законодательстве. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом подписал законы, запрещающие некоторые виды слежки на рабочем месте. В частности, под запрет попадают тепловые карты, отслеживающие перемещения сотрудников, включая время, проводимое в туалете, а также мониторинг эмоционального состояния. Это редкий пример быстрого регулирования технологий, обычно движущегося крайне медленно.

Параллельно The Guardian в серии Reworked поднимает вопрос: кто выигрывает от бума ИИ? Одна из статей показывает, что женщины остаются в стороне от крупнейшего двигателя экономического роста в США. По данным LinkedIn, медианная зарплата мужчин в сфере ИИ на 45 тысяч долларов выше, чем у женщин, отчасти из-за того, что мужчин чаще нанимают на высокооплачиваемые должности. «Глубочайший риск в том, что разрыв в участии превратится в разрыв в возможностях», — говорит Фелиция Ньюхаус, основательница организации AI Powered Women.

Другой материал серии рассказывает о беженцах в Кении, выполняющих задачи для иностранных технологических компаний в непрозрачных условиях. Их оплата привязана к так называемой «системе вознаграждений», которая определяет, получат ли они деньги, на основе качества работы. Многие называют систему несправедливой, но признают, что у них почти нет альтернатив. Работники также опасаются, что ИИ скоро заменит их на рутинных операциях.

Контрастом к этим историям звучат недавние слова Сэма Альтмана на подкасте: «Мы верим, что мир должен принять некоторые плохие вещи ради преимуществ этой технологии». Альтман говорил о таких последствиях, как взлом Hugging Face или попытки создания биологического оружия, но его формулировка не касается человеческих издержек, которые несут работники по всему миру.