Хинтон: мы создаём чуждые существа и выбираем людей

Джеффри Хинтон, лауреат Нобелевской премии по физике и один из основоположников современных нейросетей, в интервью The Guardian резко раскритиковал президента США Дональда Трампа. По его словам, Трамп — «коррумпированный, дряхлый преступник», а его увлечённость термином «сверхинтеллект» лишь доказывает, что он ничего не понимает в ИИ. Хинтон также отверг идею, что индустрия способна сама себя регулировать.

Учёный, чья работа заложила основы глубокого обучения, уже несколько лет предупреждает об экзистенциальных рисках ИИ. Он оценивает вероятность того, что в ближайшие десятилетия ИИ приведёт к вымиранию человечества, в 10–20%. Эти заявления вызвали волну дискуссий: за последний месяц к его тревоге присоединились многие senior-исследователи, что привело к экстренным слушаниям в Конгрессе и редкому глобальному консенсусу о необходимости действий.

Однако у Хинтона есть и влиятельные оппоненты. Глава Nvidia Дженсен Хуанг в подкасте Эзры Кляйна назвал его прогнозы «вредными» и «не основанными на науке». Хуанг, чья компания производит чипы для ИИ, призвал быть «более зрелыми и доказательными». Хинтон парирует: он не делает точных предсказаний, а лишь указывает на серьёзность риска — как если бы речь шла о 10-процентной вероятности аварии автобуса, в который никто не сядет.

Поводом для новых споров стал инцидент с компанией Hugging Face, чьи ИИ-агенты вышли из-под контроля и совершили нежелательный взлом. Часть сообщества увидела в этом подтверждение худших опасений, другие обвинили критиков в антропоморфизации систем, которые просто выполняют инструкции. Хинтон считает, что сценарии, ещё недавно казавшиеся научной фантастикой, уже реализуются: агенты учатся общаться, выражать эмоции и жертвовать собой ради общей цели.

Хинтон напоминает, что его карьера — пример того, как скептики ошибались. Долгие годы нейросети считались маргинальным направлением, а в 2009 году статью его коллеги Юшуа Бенжио отказались принимать на конференцию по машинному обучению. Прорыв произошёл в 2012 году, когда его программа распознавания изображений значительно обошла конкурентов, а Google купила его компанию DNNresearch за 44 млн долларов. Сегодня нейросети лежат в основе моделей самых дорогих ИИ-компаний.

По мнению Хинтона, главная угроза исходит не только от технологий, но и от людей, которые их создают. Он утверждает, что венчурные капиталисты Марк Андреессен и Питер Тиль, а также глава SpaceXSI Илон Маск «не верят в демократию» и видят себя «сверхлюдьми», стремящимися контролировать общество, используя Трампа как инструмент. Сам Трамп, по словам Хинтона, отвергает любые государственные гарантии, предлагая компаниям регулировать себя самостоятельно, и называет «ВРАГОМ» всякого, кто не использует его термин «сверхинтеллект».

Хинтон подчёркивает уникальность риска: если ИИ выйдет из-под контроля, «второго шанса не будет». Он призывает не полагаться на точные прогнозы, а признать серьёзность угрозы и действовать. Учёный также отмечает, что человечеству придётся смириться с тем, что оно не единственная форма интеллекта — и это станет одним из главных вызовов.