Последнее интервью Маска: "Optimus 3" скоро выйдет, самостоятельное улучшение AI уже произошло, после сингулярности AI "деньги больше не будут иметь значения"

Местное время, 11 марта, в ходе открытого диалога на технологическом саммите «Abundance Summit» основатель Tesla и xAI Илон Маск обсудил прогресс ИИ, темпы серийного производства Optimus 3 и экономическую модель после наступления «сингулярности».

В этом интервью он дал несколько чётких оценок: ИИ уже вошёл в стадию самосовершенствования, а гуманоидные роботы вот-вот выйдут на масштабное производство. Экономика после «сингулярности» трудно прогнозируема, но он ставит на дефляцию и «безразличие к деньгам».

Когда его спросили о графике строительства дата-центров, связанных со SpaceX, Маск ответил, что SpaceX находится в периоде тишины и не стал раскрывать подробности.

Optimus 3 готовится к выпуску: масштабное производство уже в sopедующем году

Что касается гуманоидных роботов, Маск сообщил, что Tesla Optimus 3 практически завершён в разработке.

Он сказал: «Мы завершаем последнюю стадию Optimus 3 — вероятно, это самый продвинутый робот в мире на данный момент, другие продукты пока даже не приблизились к этому уровню».

По его словам, планы Tesla таковы:

• Начать производство этим летом

• Начальный объём будет невысоким

• В следующем году возможен переход в фазу крупносерийного выпуска

Маск подчеркнул, что производство роботов также следует классической S-образной кривой» роста: на старте медленно, а затем бурный рост.

Он отметил: «В производстве объёмы обычно растут по S-кривой: вначале медленно, затем ускоряются».

В то же время Tesla проектирует новый завод для выпуска роботов. Он добавил, что его дизайн сильно отличается от традиционных фабрик, а в будущем планируется частое обновление версий: «возможно, новые модели роботов будут выпускаться ежегодно».

ИИ уже в sculptуре «рекурсивного самосовершенствования»: ИИ тренирует ИИ, роль человека уменьшается

Что касается темпов развития ИИ, суждения Маска ещё более радикальны.

На вопрос, вступил ли ИИ в фазу «рекурсивного самосовершенствования» (recursive self-improvement), он ответил: «На самом деле, это происходит уже какое-то время».

Он объяснил, что сейчас разработка больших моделей строится по циклу:

• Новые модели обучаются с extending предыдущими поколениями ИИ

• Человеческий надзор всё ещё сохраняется

• Но человеческое участие постепенно снижается

Он сказал: «Влияние человека в fueling цепочке уменьшается с каждым поколением. Каждая новая модель помогает строить next поколение».

Он ожидает, что этот процесс в ближайшее время станет полностью автоматизированным: «полноценно автоматическое самосовершенствование, возможно, появится к концу этого года, позднее — не позже att следующего»

По его мнению, ИИ-поsтупление ускоряется: «Сейчас ситуация такова: вечером перед сном узнаю об одном massive breakthrough, а утром просыпаюсь — уже появился следующий».

После сингулярности ИИ: прогнозировать сложно, но он ставит на дефляцию, всеобщий доход и то, что деньги станут неважны

Говоря о том, смогут ли институции угнаться за шоком от ИИ и роботов, Маск привёл сравнение с сингулярностью: «Сингулярность так и называется, потому что предсказать, что случится, практически невозможно»

Он упомянул, что символ Grok — «ореол вокруг чёрной дыры», и добавил: «Что происходит внутри сингулярности — узнать почти невозможно, но это будет невероятно интересно».

Оценивая макроэкономику, Маск обозначил довольно оптимистичный и очерченный сценарий: по его мнению, впереди «ряд возможных исходов, и не все они хороши», но «скорее всего, будет хорошо», вероятность «может достигать 80% и выше».

Без экстраординарных внешних шоков, он говорит, что «очень спокоен» от progноза экономического роста: «Если не начнётся Третья мировая война... думаю, рост экономики в drсять раз за десятилетие — довольно реалистичная оценка».

Он напрямую связывает инфляцию/дефляцию с взрывным ростом предложения: «У нас будет универсальный доход (Universal Income), по сути, людям просто будут давать деньги». Причина в том, что «выпуск товаров и услуг значительно превысит предложение денег», формируя дефляцию: «Дефляция — это соотношение выпуска и денежного предложения... Если товары и услуги растут быстрее денежной массы — возникает дефляция».

В долгосрочной перспективе, по его мнению, важность денег упадёт: «Деньги в какой-то момент станут незначимы».

Он даже предложил способ учёта для «нечеловеческой экономики»: «Думаю, в будущем ИИ будет использовать не человеческие деньги, его будет интересовать только энергия и масса — мощность и тоннаж (wattage and tonnage)»

Рынок труда и «роботы создают роботов»: сокращений не будет, наоборот, найм вырастет, а производительность на человека — «запредельно высокая»

На уточняющий вопрос, «когда роботы смогут масштабно участвовать в производстве и заменять людей», Маск подчеркнул — людей всё ещё очень много: всего в Tesla работает около 150 тысяч, из них «примерно две трети в какой-либо форме задействованы в фабриках»; в цепочке поставок задействованы «от миллиона до двух миллионов» человек.

Но он считает, что эффективность резко вырастет: «Мы не собираемся увольнять людей или сокращать численность. Наоборот, их число увеличится». Главное изменение произойдёт в производительности: «На каждого сотрудника Tesla выпуск будет становиться запредельно (nutty high) большим».

Это соответствует его моделированию технологического прогресса: как в ИИ, так и в производстве «как правило, всё идёт по S-кривой или по серии наложенных S-кривых: сначала медленно, потом экспоненциально, далее — плато, а затем новый прорыв запускает следующую кривую».

Полный перевод интервью:

Ведущий Питер Х. Диамандис: Дамы и господа, как видите, я всё ещё пытаюсь монетизировать «надежду».

Маск: Ты выглядишь отлично.

Диамандис: Я хорошо себя чувствую.

Маск: Использовал что-нибудь вроде эликсира против старения?

Диамандис: Это наш «экспресс к долголетию», мы уверенно двигаемся к этой цели. Ты тоже идёшь по этому пути. Кажется, в нашей прошлой беседе ты начал принимать идею продления жизни.

Маск: В определённом смысле да. Не уверен, что нам нужно, чтобы все жили вечно, но продление «здоровой жизни», а не болезненное старение в течение долгих лет — звучит как отличная идея. Этого и хочется избежать.

Диамандис: Поздравляю с сотрудничеством между SpaceX и xAI. Это потрясающий шаг — даст энергию для opерth Dyson Sphere. Интересно, какой график запуска этих дата-центров? Какой пропускной способности ждёте в первый год? Расскажи, насколько быстро вы реализуете проект.

Маск: Сейчас SpaceX находится в тишине, не могу делиться сведениями, которые могут вызвать вопросы.

Диамандис: Хорошо, тогда не будем об этом. Я понимаю, но с нетерпением жду темпов развития.

В понедельник мы здесь общались с Эриком Шмидтом и одним из руководителей гипермасштабной (облачной) компании. Не буду называть имён. Мне любопытно, как ты считаешь, на какой стадии мы в «рекурсивном самосовершенствовании» ИИ? Мы уже там? Делает ли Grok это сам сейчас? Как это устроено? Какой, по твоему мнению, таймлайн до AGI и ASI? Расскажи нам основное.

Маск: Думаю, стадия рекурсивного self-improvement наступила уже какое-то время назад. Но если ты имеешь в виду полностью автоматическое самосовершенствование без участия человека — ты об этом спрашиваешь?

Диамандис: Да, речь о suprogrСоздании ИИ программным способом.

Маск: В процессе рекурсивного self-improvement роли человека с каждым поколением меньше. Новое поколение моделей в большой мере строится с помощью предыдущих. Это уже идёт, но полного auto ещё нет. Может быть, появится к концу года, в крайнем случае — в следующем.

Диамандис: Считаешь, это приведёт к «жёсткому взлёту» интеллекта?

Маск: Мы уже в середине такого взлёта.

Диамандис: Понятно.

Маск: Это происходит прямо сейчас.

Диамандис: Верно.

Маск: Сейчас, если я ложусь спать, а накануне видел огромный прогресс в Tok, то утром уже появляется следующий прорыв.

Диамандис: Действительно.

Маск: Честно говоря, трудно за этим угнаться. Голова идет кругом от темпов.

Диамандис: Думаю, многие ошеломляющие прорывы совершаешь именно ты.

Маск: Сейчас Grok демонстрирует отличные результаты. По ряду UEан показателей это лучший продукт. Например, по качеству прогнозов Grok лидирует — а это, пожалуй, лучший показатель интеллекта. Новые версии Grok великолепны.

В программировании мы пока отстаём. Я опоздал, потому что был на общефирменном собрании по вопросам кодирования, где разбирали backlogs, чтобы догнать и обогнать конкурентов — уверен, к середине года мы это сделаем.

Ещё я считаю, что люди не до конца осознают, насколько масштабен будет искусственный интеллект в будущем или насколько он превзойдёт человеческий разум — так что нам будет сложно это понять полностью.

Представь ситуацию: если мы сможем использовать энергии в миллион раз больше, чем сейчас вся Земля, это всё равно только миллионная доля мощности Солнца. Даже если умножить всю американскую экономику в миллион раз, энергия будет лишь крохотной частью солнечной мощности. Если считать по солнцу, даже миллионное увеличение экономики и потребления — это лишь миллионная часть солнечной энергии.

Но как будет выглядеть экономика или интеллект, использующий больше энергии, чем сейчас всё человечество? Что они будут делать, о чём думать? Это будет действительно грандиозно. Нам будет трудно даже приблизительно это осознать. Ясно одно: он решит все проблемы, которые мы только сможем себе вообразить.

Диамандис: Согласен, это как долгое путешествие. Может показаться немного наивным, но твой нескончаемый оптимизм восхищает.

Маск: Я вижу, как ты «монетизируешь надежду». Это прямо твой девиз, очень смешно.

Диамандис: Это советы Grok. Это маркетинговый совет Grok, когда ты меня критиковал.

Маск: Точно. Ты стараешься монетизировать надежду. Но раньше ты ещё и на боли зарабатывал.

Диамандис: Точно так.

Маск: Когда искусственный интеллект и роботы увеличат выпуск продукции на порядки, мы даже не сможем этого вообразить.

Диамандис: Мы вероятнее всего вскоре станем меньшинством разума на планете, а затем — ничтожно малым меньшинством.

Маск: Да. И не только на Земле, но и во всей Солнечной системе, ведь если развитие ограничить Землёй, максимум — миллиардная доля солнечной энергии. Это предел.

Диамандис: Вся энергия, которую мы можем поймать, так?

Маск: Именно. Земля получает лишь малую часть солнечной энергии — это основная доступная нам энергия.

Диамандис: Илон, можно вопрос? Как далеко ты можешь заглянуть в будущее? На сколько лет можешь делать обоснованные прогнозы?

Маск: Трудно точно предсказать путь развития. Обычно события идут по S-кривой или их последовательности: сперва медленно, потом экспонента, потом линейно, в конце замедление.

Примерно так я вижу и прорывы в ИИ. Каждый скачок тянет свою S-кривую, кажется, что рост бесконечен, но затем замедляется — пока следующий прорыв не приведёт к новому ускорению. Прогресс в ИИ — это наложение этих кривых.

Диамандис: Раньше можно было хорошо предсказать лет на 10–20, а сейчас?

Маск: Можно показаться сумасшедшим.

Диамандис: Всё в порядке. Ты аудитория для смелых прогнозов.

Маск: Я считаю, что за 10 лет экономика вырастет в 10 раз и более.

Диамандис: Ты действительно говорил, что через 5–10 лет ВВП возрастёт в разы. Но если рассматривать способность предсказывать…

Маск: Я считаю, прогноз 10-кратного роста за 10 лет даже слишком консервативен. Если не начнётся Третья мировая война и если сохранятся текущие тенденции, экономика вырастет как минимум в десять раз.

Диамандис: Отлично. Можешь привести примеры?

Маск: Люди построят базу на Луне.

Диамандис: Согласен, и будут…

Маск: Осваивать Марс.

Диамандис: На Луне будет запущена масса-пушка.

Маск: Думаю, да. За 10 лет у нас будет пушка на Луне.

Диамандис: Великолепно. Видение Космоса Джерарда К. О’Нила реализуется.

В этом году на саммите «Abundance» вышло сразу 4 робота. Я жду Optimus. Когда ждать Optimus 3? Когда смогу купить? Или будет аренда?

Маск: Сейчас завершается третье поколение Optimus. Это самый продвинутый робот в мире — ни один другой не близко. Если кто-то и сделал нечто подобное — держит в секрете, я не видел. Надеюсь, всё это можно говорить публично.

Диамандис: Диалог в real time транслируется на X.

Маск: Окей, значит точно очень публично.

Диамандис: Да.

Маск: Полагаю, в этом году летом запустим производство Optimus 3, но на старте объёмы низкие. Классическая S-кривая: дальше — серийное производство примерно в следующем году. В дальнейшем будем ускорять итерации, с 4 поколения — вероятно, новое поколение каждом году с ежегодным улучшением.

Диамандис: Я с Дэйвом Бонди посещал гигафабрику — уникально. Площадь цеха у Tesla — 1,15 млн кв. футов. Будет добавлено отдельное производство Optimus, ещё 950 тысяч — это невероятно.

Маск: Примерно такие размеры.

Диамандис: Иначе и не может быть.

Маск: Это совершенно новый промышленный дизайн — не похож на обычный завод.

Диамандис: Как далеко мы от «роботов, делающих роботов»? Гигафабрика уже почти целиком автоматизирована — роль человека мала. Будут ли роботы заменять людей в производстве?

Маск: У нас до сих пор большая часть сотрудников занята на производстве. Те, кто работают на Tesla, — тысячи на конвейере или в «управлении производством». На фабриках порядка 100 тысяч. В Tesla в целом — порядка 150 тысяч, около двух третей в производствах. В цепочках поставок — от миллиона до двух миллионов людей.

То есть вовлечены чрезвычайно много людей. Мы ожидаем запредельного роста производительности на человека. Сокращений не ожидается — найм будет расти. Но производительность на человека будет расти до небывалых высот.

Диамандис: До невероятных значений.

На твоём подкасте мы говорили о концепции «устойчивого изобилия». Ты тогда особо выделил — наступает эра не UBI, а UHI — «универсальный высокий доход». Как мы к этому придём? Какие у тебя мысли?

Ранее ты говорил о фазе социальной турбулентности на 2–5 лет, пока мы не достигнем «отказа от денег» и дефляции, и лишь потом — эры UHI. Возможно, понадобится много разовых выплат, как во время ковида. Есть ли ещё соображения? Людям нужна эта надежда и видение.

Маск: Надо понимать, нет оснований для самоуспокоения. Мы должны быть осторожны — будущее не обязательно будет только хорошим, исходов много. Однако, согласен: есть 80% шанс, возможно, даже больше, что всё кончится хорошо.

Я действительно ожидаю всеобщий доход. Просто людям будут сразу выдавать деньги, потому что производство значительно превысит рост денежной базы — настанет дефляция. Дефляция — это соотношение производства и денежной массы. Если производство опережает деньги (а я считаю, так и будет), дефляция неизбежна.

Диамандис: Верно. Бизнесы будут возникать, конкуренция снижать цены, ускоряя дефляцию.

Маск: По сути, ИИ и роботы будут производить так много товаров и оказывать столько услуг, что человеку не останется задач — все желания будут удовлетворены.

Вернёмся к примеру: если экономика будет в миллион раз больше, чем сейчас США, любые желания человека будут перекрыты. Даже если масштаб будет в тысячу раз больше нынешнего — хватит на всё.

Диамандис: Значит, ценность денег резко упадёт? Мы войдём в посткапитализм?

Маск: Да, я считаю, что деньги в какой-то момент утратят смысл.

Диамандис: В то время как ты…

Маск: Будущее, возможно, будет похоже на вселенную из романов Иэна Бэнкса — «Культура». ИИ будущего не будет использовать наши деньги. Его будут интересовать только энергия и масса — мощность и тоннаж.

Диамандис: Забавно: вот-вот станешь мультитриллионером — и деньги теряют смысл.

Маск: Примерно так. Всё моё богатство — эквивалент долей в созданных мной компаниях. Эти деньги не лежат на счетах. Я просто владею частью компаний, а они создают ценности — отсюда и условное состояние, формально большое.

Диамандис: У меня брали интервью, интересовались твоей мотивацией. Я ответил: Илона двигает решение проблем — он берётся за главные вызовы, чтобы сделать мир лучше. Если бы кто-то другой решал — он бы не вмешивался. Но вопрос в том, что кроме него этим никто не занимается. Спасибо тебе за это.

Маск: Спасибо.

Диамандис: Думаешь, демократия и нынешние институты смогут не отстать от грядущего «сверхзвукового цунами»? Или они будут снесены? Что делать?

Маск: Сингулярность так называется неслучайно — невозможно предсказать, что будет внутри. Символ Grok — это сингулярность.

Диамандис: Кстати, твой логотип очень красиво смотрится.

Маск: Спасибо. Это ореол — масса и свет вокруг чёрной дыры, всё затягивается внутрь. Неизвестно, что внутри сингулярности, но это будет крайне интересно. Я убеждён, жизнь в будущем будет захватывающей. Искусственный интеллект и роботы — единственный путь решить проблему бюджетных дефицитов и избежать кризиса. Под твоим влиянием я теперь больше оптимист. Мы действительно должны быть более оптимистичны.

Диамандис: Спасибо, друг.

Маск: Я раньше не был оптимистом, слишком часто уходил в негатив.

Диамандис: Всегда полезно сочетать оптимизм и реализм.

Маск: Абсолютно так. Нельзя быть самодовольным или просто надеяться на лучшее. Надо работать, чтобы всё получилось. В любом случае, будущее сулит нечто потрясающее. Если появится высокоразвитый и умный биомеханический робот, то каждый человек получит медицинское обслуживание лучше, чем сегодня у самых богатых. К слову, все меня называют самым богатым, но монархи куда богаче.

Например, я уже трижды делал операцию на шее, первые две прошли неудачно. Сейчас часто болит спина. Мне интересно — сможет ли ИИ решить вопрос со спинными болями? Если да — это будет победа! Думаю, справится. Спина сильно доставляет неудобств, страдает качество сна и настроение.

Диамандис: Сегодня утром на сцене был Дэвид Синклер, он проводит клинические испытания эпигенетической перепрограммировки. Недавняя статья показала — можно лечить суставы. Может быть, спину это тоже вылечит.

Маск: Было бы прекрасно. Даже если только проблему спины решить — уровень счастья вырастет массово. Ведь спина болит у всех рано или поздно — строение человеческого тела неидеально.

Диамандис: Постоянно зову тебя в наш медицинский центр Fountain Life в Далласе. Мы поможем — приезжай как будет время.

Маск: А что у вас за оборудование? Я слышал про МРТ, КТ, но что делаете с результатами?

Диамандис: Я с удовольствием отправлю тебе список услуг в личку. Ты очень щедр. А со мной на следующей сессии поднимется ещё один выдающийся предприниматель — Бен Лэмм. Его компания Colossal работает над воскрешением вымерших видов — мамонты и ещё 15. Говорят, ты хочешь мини-мамонта, правда?

Маск: Да, завести мини-мамонта — потрясающее домашнее животное, было бы здорово. Маленькие мохнатые ребята, шумят и бегают — одна эта картина радует.

Диамандис: Передам Бену твои пожелания. Фантастика!

Маск: Если кто-то реально создаст в жизни «Парк Юрского периода» — даже с риском смерти, я обязательно пойду, это невероятно!

Диамандис: Думаю, если кто и сможет — так это Бен Лэмм с Colossal. Он создает жизнь инженерными средствами. Недавно его спросили, может ли он сделать покемона, — ответ был положительный.

Маск: Да, «Мир Юрского периода» — это было бы круто.

Диамандис: Я обязательно спрошу. Илон, большое спасибо, что присоединился. Спасибо тебе, друг. Давайте поприветствуем Илона Маска! (Звучит музыка: «Ничто нас не остановит»)