Майкл Джордан раскритиковал риторику о гибели от ИИ

Майкл И. Джордан, которого журнал Science в 2016 году назвал «самым влиятельным специалистом по информатике», считает предупреждения об экзистенциальных угрозах ИИ чистой научной фантастикой. В интервью Libération 70-летний профессор-эмерит UC Berkeley, ныне работающий в парижском Inria, где он возглавляет кафедру «рынки и обучение», раскритиковал риторику «думеров», основателей компаний и наивных молодых исследователей. По его словам, дискурс об ИИ летом вызывал у него «полное разочарование».

Джордан напомнил, что предупреждал о безрассудном злоупотреблении термином «ИИ» ещё в 2019 году. «Я был не единственным, кто это говорил. Было очевидно, что это создаст ту истерию, которую мы наблюдаем сейчас», — заявил он. По его мнению, «ИИ оказалось недостаточно, поэтому заговорили об AGI, а теперь — о „сверхинтеллекте“». Требования ИИ-компаний о регулировании Джордан называет «театром» — способом сказать «смотрите, мы хорошие ребята», сохраняя при этом полный контроль над тем, как их будут регулировать.

Уход молодого исследователя Anthropic Джейкоба Коксона, вызвавший в начале сентября волну коллективной истерии о «ИИ-апокалипсисе», Джордан считает показательным примером. Многие молодые сотрудники таких компаний, по его словам, «не настоящие инженеры»: они приходят из гуманитарных, философских и других дисциплин, им 25 лет, они наивны, не занимаются инженерией и никогда не работали в крупных компаниях, где создаются реальные продукты для реальных людей. Они собираются, «немного как в парижских кафе 1920-х», чтобы обсуждать грандиозные научно-фантастические идеи.

Когда такие сотрудники увольняются, они знают, что привлекут внимание, говорит Джордан. «Это позволяет им чувствовать себя добродетельными и выглядеть очень важными фигурами. Они заявляют, что отказываются от денег, но на самом деле у них уже есть опционы». Всё это он характеризует как «грандиозное морализаторское представление, которое не служит заявленной цели. Здесь много наивности, которая идёт рука об руку с определённым цинизмом».

Особенно резко Джордан высказывается о нобелевском лауреате Джеффри Хинтоне. «Джеффри Хинтон никогда не создавал компанию, предлагающую реальные услуги для реальных людей», — говорит он. Хинтон, по мнению Джордана, верит, что мы поняли, как работает мозг, и можем воспроизвести его в кремнии, копировать сколько угодно раз и за счёт объединения знаний всех копий получить экспоненциальный рост, то есть сверхинтеллект. «Ни один из шагов этого рассуждения не является убедительным. Здесь мы находимся в стране научной фантастики». К Йошуа Бенжио он чуть более снисходителен: тот «немного другой, он действует и делает вещи, напрямую связанные с безопасностью».

Взлом Hugging Face агентами OpenAI Джордан объясняет плохой инженерией. «В химической инженерии мы бы никогда не допустили взрывов только для того, чтобы посмотреть, насколько всё может пойти не так». OpenAI, по его словам, «проводила довольно глупые эксперименты, позволяя агентам делать что угодно и поощряя такое поведение». Затем «думеры» с радостью превратили это в страшилку: «Боже мой, эти агенты обладают самосознанием и пытаются уничтожить людей». Это, по мнению Джордана, тоже научная фантастика.

Массивные инвестиции в дата-центры Джордан считает «огромной ставкой, но мы совершенно не знаем, окупится ли она». Большие языковые модели уже достаточно хороши для задач на естественном языке, и триллионы, потраченные на дата-центры, не обязательно дадут много больше. «Вместо этого нам часто захочется добавить немного специализированных знаний в конкретной области на основе локального знания. Но для этого не нужен гигантский дата-центр, особенно если использовать открытые модели, интегрированные в компанию».