Наделла перешёл на язык Трампа о super intelligence

Глава Microsoft Сатья Наделла в новом посте в блоге перешёл на термин «Super Intelligence» вместо «Artificial Intelligence». Это совпадает с риторикой президента США Дональда Трампа, который ранее заявлял, что тех, кто продолжает использовать старое название, следует считать врагами. The Decoder отмечает, что такой ребрендинг противоречит десятилетиям научного значения термина, но американская технологическая элита, похоже, готова на это ради политической конъюнктуры.

По сути, публикация Наделлы направлена против рисков, которые, по его словам, создают разработчики моделей Anthropic и OpenAI. Он предлагает рассматривать ИИ-модели как внутренние угрозы безопасности — не потому, что они злонамеренны, а потому, что любой достаточно мощный инструмент с доступом к важным системам может ошибиться или быть скомпрометирован. Наделла утверждает, что современные системы не позволяют понять, почему они приняли то или иное решение, но при этом получают доступ к самым чувствительным данным и право выполнять критически важные действия.

В качестве решения он предлагает отделить интеллект от контроля над ним: разнообразие моделей вместо зависимости от одной, полное логирование действий, независимый аудит и возможность отключения человеком в любой момент. По его мнению, самая надёжная система — не та, у которой лучшая модель, а та, где модели нужно доверять меньше всего. Этот аргумент подан через призму кибербезопасности, но, как отмечает The Decoder, Наделла использует ту же тактику, что и в предыдущих постах, — подрыв доверия к OpenAI и Anthropic.

Ранее он пытался сыграть на теме кражи данных, обвинял ИИ-компании в лицемерии при борьбе с дистилляцией и говорил, что модели становятся взаимозаменяемыми товарами. При этом Microsoft, известная закрытой экосистемой и агрессивным бандлингом, лоббирует открытость ИИ-экосистемы, а в своих продуктах Office тихо заменяет более способные модели OpenAI и Anthropic на дешёвые внутренние аналоги ради маржи. Теперь Наделла критикует саму технологию, что выглядит тем более отчаянно на фоне миллиардных инвестиций Microsoft в ИИ.

The Decoder связывает риторику Наделлы с бизнес-стратегией: крупные ИИ-лаборатории превращают свои модели в основной компьютерный интерфейс, где пользователь просто говорит, что нужно сделать. Microsoft долго была таким интерфейсом по умолчанию, но теперь отстаёт — её продукты застряли в устаревшем ПО, уже проданном и установленном на миллионах машин. У компании нет собственных фронтирных моделей, и даже в роли дистрибьютора ИИ-интерфейса она окажется зависимой от разработчиков, что ударит по марже.

По мнению издания, события развиваются слишком быстро для бизнеса Microsoft, и Наделла пытается притормозить их с помощью страшилок. Это вряд ли что-то изменит.