Формальная макромодель, когда автоматизация-исследований порождает взрывной рост
Anthropic показали свои данные, которые говорят о самосовершенствовании, также есть работа Google, и Recursive показал свои результаты
В экономической модели 2 петли взаимодополняемые:
Технологическая - улучшения в софте ускоряют прогресс в железе, железо ускоряет AML, и всё по кругу
Например, AlphaChip от Google DeepMind уже используется при проектировании каждого нового поколения TPU Google
Экономическая - больше продукции = больше денег на исследования = ещё быстрее прогресс
Автоматизация заменяет труд капиталом
Капитал масштабируется с ростом ВВП
Труд - нет
Это создаёт петлю там, где её раньше не существовало
Самый чувствительный момент в аппаратном обеспечении
Затухающая отдача в разработке чипов (β = 0.2) в 5 раз меньше, чем в разработке ПО, и в 15 раз меньше, чем в общей экономике
20 % автоматизации разработки чипов достаточно, чтобы пересечь порог взрыва в одиночку
Полная автоматизация разработки ПО на грани, ещё 5 % в остальных секторах, в итоге сингулярность через ~6 лет по базовой симуляции
Симуляция чувствительна к начальным условиям
Важна логика: система с такой архитектурой петель не движется линейно
Она движется скачками и скачок может произойти раньше, чем консенсус успеет его осознать
Anthropic показали свои данные, которые говорят о самосовершенствовании, также есть работа Google, и Recursive показал свои результаты
В экономической модели 2 петли взаимодополняемые:
Технологическая - улучшения в софте ускоряют прогресс в железе, железо ускоряет AML, и всё по кругу
Например, AlphaChip от Google DeepMind уже используется при проектировании каждого нового поколения TPU Google
Экономическая - больше продукции = больше денег на исследования = ещё быстрее прогресс
Автоматизация заменяет труд капиталом
Капитал масштабируется с ростом ВВП
Труд - нет
Это создаёт петлю там, где её раньше не существовало
Самый чувствительный момент в аппаратном обеспечении
Затухающая отдача в разработке чипов (β = 0.2) в 5 раз меньше, чем в разработке ПО, и в 15 раз меньше, чем в общей экономике
20 % автоматизации разработки чипов достаточно, чтобы пересечь порог взрыва в одиночку
Полная автоматизация разработки ПО на грани, ещё 5 % в остальных секторах, в итоге сингулярность через ~6 лет по базовой симуляции
Симуляция чувствительна к начальным условиям
Важна логика: система с такой архитектурой петель не движется линейно
Она движется скачками и скачок может произойти раньше, чем консенсус успеет его осознать