Карпатый: мир увидел лишь превью возможностей ИИ

Андрей Карпатый, соучредитель OpenAI и ныне сотрудник Anthropic, описал растущий разрыв в понимании возможностей ИИ. По его оценке, около 75% населения Земли (примерно 6 млрд человек) почти не сталкивались с большими языковыми моделями (LLM). Ещё 1–2 млрд пользуются бесплатными чат-ботами вроде ChatGPT и воспринимают их как «улучшенный поиск Google» или помощника в написании текстов.

Карпатый разделил пользователей LLM на четыре уровня. Третий уровень — около 20 млн человек (0,2% населения) — это профессионалы в математике и программировании, которые на практике видят, как агенты выполняют за них крупные проекты, ранее занимавшие недели или месяцы. Примерами он назвал создание приложений, их копирование, перевод и декомпиляцию из бинарных файлов.

Четвёртый уровень — примерно 5 тыс. человек (0,00006% населения) — имеет доступ к внутренним фронтирным системам. По словам Карпатого, эти системы представляют собой «рои тысяч агентов, совместно работающих неделями над мегапроектами в области ПО: создание эксплойтов нулевого дня, кибератаки и защита на машинных скоростях, новые научные открытия, продвижение границ математики». Такие задачи, по его оценке, заняли бы у лучших специалистов годы.

Карпатый отмечает, что «человеческая проверка и осмысление начинают отставать». В качестве примера он приводит инцидент OpenAI-HF, который специалисты до сих пор разбирают, и 722 рукописи по фронтирной математике, которые математикам ещё предстоит изучить. Он называет это «странностью момента»: широкая публика либо не взаимодействовала с такими системами, либо видела лишь «неуклюжего чат-бота», большинство профессионалов отмечают лишь умеренный рост, а небольшая группа специалистов испытывает «головокружение от вертикального взлёта кривой».

Сам Карпатый изменил собственный подход к работе. В октябре 2024 года он называл ИИ-агентов в основном маркетингом, который едва работает, но уже через несколько месяцев полностью перестал писать код вручную, переложив эту задачу на агентов. Вскоре после этого он присоединился к Anthropic, оставаясь соучредителем OpenAI.

По мнению Карпатого, сейчас возможности LLM наиболее сильны в областях, которые «цифровые, проверяемые и экономически ценные». Это объясняется тем, что они «возникают из обучения с подкреплением на проверяемых наградах», а компании направляют ресурсы на сферы с наибольшим потенциалом дохода — прежде всего программирование и математику.

Схожую мысль ранее высказал генеральный директор OpenAI Сэм Альтман на встрече министров инноваций G20 в начале сентября. Он заявил, что современный инструмент для программирования с ИИ может выполнить за «17 минут» то, на что у стартапа раньше уходило три месяца, и добавил: «Мир ещё не осознал, что это будет означать».