Сэм Альтман о создании OpenAI и ставке на невозможное😺 В 2015 году, когда только начинался проект OpenAI, большинство экспертов и инвесторов считали создание сильного ИИ если не невозможным, то как минимум делом отдалённого будущего. Альтмана и его единомышленников критиковали, называли наивными и даже безумцами.
😬 Эта реакция лишь подстёгивала Альтмана. С детства он реагировал на слова «ты не сможешь» сопротивлением: чем сложнее казалась задача, тем больше она его привлекала. Он убеждён, что по-настоящему стоящие цели всегда выглядят амбициозно и почти недостижимо.
С развитием сверхинтеллекта он выделяет
два ключевых риска:
1⃣
Потеря контроля – когда ИИ становится настолько мощным, что люди перестают понимать его логику и не могут гарантированно управлять им.
2⃣
Чрезмерная централизация власти – если все ключевые решения (или сам ИИ) окажутся в руках одной компании, одного государства или даже одного человека.
😱 Альтман подчёркивает, что с каждым новым поколением моделей ситуация будет обостряться, потому что ИИ становится не просто быстрее, а качественно умнее и совершеннее.
➡️ Он проводит параллель с промышленной революцией: тогда тоже менялись уклады, профессии, баланс сил. Однако у общества есть «инерция» – люди и институты медленно адаптируются к экспоненциальным изменениям.
➡️ В качестве одного из «положительных механизмов» адаптации Альтман упоминает безусловный базовый доход (UBI), но не как панацею, а как инструмент смягчения переходного периода.
🧑🌾 Альтман ("пытаясь пошутить") описывает, как обычно в обществе преподносится развитие ИИ (он называет это —
"карикатурным изображением"):
"Знаете, дорогие крестьяне мы подарим вам лекарства от рака и материальные блага, и кое-что еще, и знаете отличные развлечения, и вы перестанете жаловаться. А мы будем принимать все решения о будущем, а вы будете нам доверять. Знаете, мы будем великодушными диктаторами..."⚠️ Альтман признаёт: с высокой вероятностью власть над ИИ действительно сконцентрируется у немногих. Но он заявляет, что верит не в личную мудрость диктатора, а в систему, которая позволит этому процессу оставаться подотчётным и управляемым: «Я не верю ни во что, кроме как в систему, которая будет позволять этому происходить».
😱
«Я хотел бы, чтобы ИИ знал гораздо больше обо мне».Он поясняет: никто из людей не способен за секунды переработать десятки тысяч страниц контекста (например, всю его переписку, дневники, проекты), а ИИ – может. Для него это не столько вопрос приватности, сколько возможность получать советы и инсайты, недоступные даже самым близким советникам.
👴 Альтман открыто говорит, что в сложных жизненных и стратегических вопросах он
часто обращается к двум людям:
🟢 Полу Грэму – основателю Y Combinator, своему наставнику,
🟢
Питеру Тилю – инвестору и предпринимателю (компании Palantir и Anduril), один из первых сторонников OpenAI.
😎 Альтман говорит, о том что опыт приобретенный в Y Combinator был настолько важен для него, что без этого опыта компания OpenAI вообще врядли была бы возможна. Сэм рассказывает о первом неуспешном опыте основателя компании
"У меня не очень хорошо получилось, это как Анна Каренина (Л.Н.Толстого): "все несчастливые семьи похожи друг на друга", Альтман ошибается в оригинальной формулировке и ведущий поправляет его:
"Все счастливые семьи похожи друг на друга, каждая несчастливая семья несчастлива по-своему".
📈 Сэм Альтман делится нестандартным выводом из своего опыта в Y Combinator:
🟠 Он считает, что уроки из успехов оказались для него гораздо полезнее, чем уроки из провалов.
🟠 Неудачи давали общие, уже известные истины («не делай так, не делай эдак»), тогда как успешные кейсы показывали конкретные, повторяемые паттерны, которые он мог применять в новых проектах (включая OpenAI).
Это противоречит популярному мифу «учись только на ошибках» – Альтман настаивает на важности анализа побед.
🚘 В ходе обсуждения приводится пример невероятного успеха компании Honda, где пришли к выводу, что подразделения занимающиеся исследованиями (R&D) и разработкой должны быть разделены. Буквально в отдельные независимые подразделения или самостоятельные компании.
👌 Сэм Альтман — трагический персонаж, который идеально видит все риски авторитарного техно-феодализма (потеря контроля, централизация, диктатура). Он строит мир, где ИИ знает все, а человечество получает безусловный базовый доход и развлечения, потому что
глубоко внутри он не верит, что люди способны на большее, чем инерция.🙌
Горизонт событий
