Сэм Альтман: AI меняет общество, но людям нужен «козел отпущения» для тревоги, детям не стоит использовать ChatGPT, в будущем с AI «все будет отлично»
В интервью изданию Vanity Fair Сэм Альтман рассказывает о будущем AI, рассуждает о потере контроля над AI, но признает: обычная жизнь пока изменилась мало. Он также объясняет, почему не даст ChatGPT своим детям, называет себя «козлом отпущения» для тревоги вокруг AI и уверяет: в глубине души он считает, что «все будет отлично»
🤩 Мир наконец поверил в AGI
Возможности AI растут экспоненциально, однако внешне общество пока продолжает жить почти как раньше. Именно поэтому OpenAI долго сталкивался с вопросом, где обещанный экономический рост, медицинские прорывы и другие масштабные последствия AI
Но внутри AI-индустрии ситуация выглядит иначе. Еще 10 лет назад OpenAI исходил из того, что системы уровня AGI появятся, однако тогда этому почти никто не верил. Теперь общество проходит своего рода «перекалибровку»: вопрос постепенно меняется со «случится ли это?» на «что делать, если это действительно происходит?». Наступление AGI — это субъективная граница, но разработки уже близки к этой границе
🐐 Альтман стал «козлом отпущения» для тревоги вокруг AI
Альтман стал одновременно лицом AI-индустрии и удобной мишенью для страхов вокруг технологии. Людям нужен человек, в которого можно слить тревогу — «козел отпущения». Если бы на его месте был другой CEO, люди бы сделали таковым этого руководителя. При этом Альтман узнает в тех, кто его критикует, раннего себя. В первые годы успеха Meta* он представлял Марка Цукерберга почти карикатурным злодеем, хотя лично его не знал. Позже решил, что просто проецировал тревогу на человека, который, как ему казалось, получил слишком много власти над миром
Кроме того, Альтман теперь считает свой отказ от доли в OpenAI ошибкой. Тогда он был уверен: руководитель, принимающий решения с потенциально огромными последствиями для человечества, не должен зависеть от собственного финансового интереса. Он недооценил, насколько подозрительно для окружающих выглядит CEO, который создает потенциально одну из самых дорогих компаний мира и при этом утверждает, что почти не заинтересован в ее деньгах. То, что было задумано как способ повысить доверие, стало, наоборот, разрушать доверие
🧑🍼 Взгляды Альтмана на будущее фундаментально изменились, когда он стал отцом
Альтман называет отцовство лучшим событием своей жизни, но дети не заставили его внезапно относиться осторожнее к AI. Он и раньше не собирался рисковать будущим цивилизации. Его даже удивляет, когда люди говорят, что после рождения детей спокойнее доверяют ему развитие технологии
Рождение детей заставило его острее осознать ценность классического человеческого опыта. Он думает о том, что именно следует сохранить за человеком: какие человеческие переживания должны остаться исключительно человеческим опытом, как дать ребенку самостоятельность и пространство для творчества в мире с AI. Дома Альтман относится к новым технологиям с осторожностью. Маленьким детям полезнее бегать на улице, чем сидеть перед экраном и листать короткие видео. AI — это технология, влияние которой на развивающийся мозг пока недостаточно понятно. Дети неизбежно научатся пользоваться AI, но разговаривать с ChatGPT его детям запрещено
🦾 Следующий AI-продукт — «продолжение меня»
Во взрослой жизни Альтман, наоборот, хочет сделать AI почти постоянно присутствующим — но менее заметным. Его желание воплотилось в Dots. Изначально он думал о продукте как об ассистенте, но теперь предпочитает другую метафору: «extension of me» — продолжение пользователя. Его собственный AI-агент Dot разбирает почту и список дел. Однажды Альтман надиктовал ему несколько идей, а позже получил результат: система проработала их, раскритиковала слабые варианты, нашла дополнительную информацию и сама связалась с тремя людьми из команды. Альтман называет это новым способом превращать идею в действие
Чем полезнее AI-агент, тем больше личного контекста ему нужно, поэтому Альтман говорит о строгом отношении к приватности. В идеале AI должен не сильнее привязывать человека к технологиям, а освобождать время для творчества, семьи и общения. Плохая ситуация — если его Dot начнет переписываться с чужим Dot, заменяя общение людей друг с другом
🛡 Просто выпустить новую AI-модель больше нельзя
Модели дошли до уровня, где привычная логика технологической индустрии перестает работать. Год назад OpenAI мог увидеть небольшую проблему с безопасностью и все равно выпустить систему, рассчитывая, что ничего катастрофического не случится. Теперь планка должна быть выше
Так произошло с Astra 6.1: OpenAI отложил релиз после того, как модель не прошла внутренние требования безопасности. Существует две крайности в вопросе безопасности AI. В одной крайности мощный AI выходит из-под контроля и начинает действовать способами, которые люди не понимают и не могут остановить. В другой крайности страх такого сценария становится основанием вообще не распространять технологию, и власть концентрируется у нескольких компаний или государств. Astra 6.1 слишком сильно смещала баланс к первой крайности
OpenAI уже останавливал обучение моделей, когда возможности AI росли быстрее, чем понимание их поведения и отслеживаемость. Прежде чем переходить на следующий уровень возможностей, нужно достаточно продвинуться в безопасности. Но остановка не должна стать способом полностью остановить развитие AI. Опенсорс-модели несут с собой надвигающуюся волну проблем с кибербезопасностью вплоть до серьезных инцидентов, однако запрещать опенсорс-модели нельзя — обычные ошибки нужно расследовать и исправлять, а при крупных ошибках нужно вводить отдельные ограничения
👍 В глубине души Альтман уверен, что «все будет отлично»
Журналист попросил ChatGPT придумать вопрос, который Альтману обычно не задают: что он думает о будущем AI, но редко говорит публично? Альтман ответил, что «все будет отлично» и рассказал, что имеет крайне оптимистичное базовое ощущение будущего. При этом он не может это говорить публично без длинной оговорки о рисках. В ближайшие несколько лет ожидается реальный прогресс в лечении некоторых заболеваний. Модели, способные справляться с крайне сложной математикой, можно направить и на создание нового научного знания
В его глазах AI имеет образ нового огня или электричества: новая способность, которую дали людям и с помощью которой они сами начали строить новый мир. AI должен стать именно массовой технологией, а не инструментом небольшой «касты» специалистов. Журналист предложил описать Альтмана словом «Прометей». CEO OpenAI после попыток уйти от сравнений с историческими персонажами все-таки согласился с метафорой
clc.to/ErvJpQ
*Meta признана экстремистской и запрещена в РФ
В интервью изданию Vanity Fair Сэм Альтман рассказывает о будущем AI, рассуждает о потере контроля над AI, но признает: обычная жизнь пока изменилась мало. Он также объясняет, почему не даст ChatGPT своим детям, называет себя «козлом отпущения» для тревоги вокруг AI и уверяет: в глубине души он считает, что «все будет отлично»
🤩 Мир наконец поверил в AGI
Возможности AI растут экспоненциально, однако внешне общество пока продолжает жить почти как раньше. Именно поэтому OpenAI долго сталкивался с вопросом, где обещанный экономический рост, медицинские прорывы и другие масштабные последствия AI
Но внутри AI-индустрии ситуация выглядит иначе. Еще 10 лет назад OpenAI исходил из того, что системы уровня AGI появятся, однако тогда этому почти никто не верил. Теперь общество проходит своего рода «перекалибровку»: вопрос постепенно меняется со «случится ли это?» на «что делать, если это действительно происходит?». Наступление AGI — это субъективная граница, но разработки уже близки к этой границе
🐐 Альтман стал «козлом отпущения» для тревоги вокруг AI
Альтман стал одновременно лицом AI-индустрии и удобной мишенью для страхов вокруг технологии. Людям нужен человек, в которого можно слить тревогу — «козел отпущения». Если бы на его месте был другой CEO, люди бы сделали таковым этого руководителя. При этом Альтман узнает в тех, кто его критикует, раннего себя. В первые годы успеха Meta* он представлял Марка Цукерберга почти карикатурным злодеем, хотя лично его не знал. Позже решил, что просто проецировал тревогу на человека, который, как ему казалось, получил слишком много власти над миром
Кроме того, Альтман теперь считает свой отказ от доли в OpenAI ошибкой. Тогда он был уверен: руководитель, принимающий решения с потенциально огромными последствиями для человечества, не должен зависеть от собственного финансового интереса. Он недооценил, насколько подозрительно для окружающих выглядит CEO, который создает потенциально одну из самых дорогих компаний мира и при этом утверждает, что почти не заинтересован в ее деньгах. То, что было задумано как способ повысить доверие, стало, наоборот, разрушать доверие
🧑🍼 Взгляды Альтмана на будущее фундаментально изменились, когда он стал отцом
Альтман называет отцовство лучшим событием своей жизни, но дети не заставили его внезапно относиться осторожнее к AI. Он и раньше не собирался рисковать будущим цивилизации. Его даже удивляет, когда люди говорят, что после рождения детей спокойнее доверяют ему развитие технологии
Рождение детей заставило его острее осознать ценность классического человеческого опыта. Он думает о том, что именно следует сохранить за человеком: какие человеческие переживания должны остаться исключительно человеческим опытом, как дать ребенку самостоятельность и пространство для творчества в мире с AI. Дома Альтман относится к новым технологиям с осторожностью. Маленьким детям полезнее бегать на улице, чем сидеть перед экраном и листать короткие видео. AI — это технология, влияние которой на развивающийся мозг пока недостаточно понятно. Дети неизбежно научатся пользоваться AI, но разговаривать с ChatGPT его детям запрещено
🦾 Следующий AI-продукт — «продолжение меня»
Во взрослой жизни Альтман, наоборот, хочет сделать AI почти постоянно присутствующим — но менее заметным. Его желание воплотилось в Dots. Изначально он думал о продукте как об ассистенте, но теперь предпочитает другую метафору: «extension of me» — продолжение пользователя. Его собственный AI-агент Dot разбирает почту и список дел. Однажды Альтман надиктовал ему несколько идей, а позже получил результат: система проработала их, раскритиковала слабые варианты, нашла дополнительную информацию и сама связалась с тремя людьми из команды. Альтман называет это новым способом превращать идею в действие
Чем полезнее AI-агент, тем больше личного контекста ему нужно, поэтому Альтман говорит о строгом отношении к приватности. В идеале AI должен не сильнее привязывать человека к технологиям, а освобождать время для творчества, семьи и общения. Плохая ситуация — если его Dot начнет переписываться с чужим Dot, заменяя общение людей друг с другом
🛡 Просто выпустить новую AI-модель больше нельзя
Модели дошли до уровня, где привычная логика технологической индустрии перестает работать. Год назад OpenAI мог увидеть небольшую проблему с безопасностью и все равно выпустить систему, рассчитывая, что ничего катастрофического не случится. Теперь планка должна быть выше
Так произошло с Astra 6.1: OpenAI отложил релиз после того, как модель не прошла внутренние требования безопасности. Существует две крайности в вопросе безопасности AI. В одной крайности мощный AI выходит из-под контроля и начинает действовать способами, которые люди не понимают и не могут остановить. В другой крайности страх такого сценария становится основанием вообще не распространять технологию, и власть концентрируется у нескольких компаний или государств. Astra 6.1 слишком сильно смещала баланс к первой крайности
OpenAI уже останавливал обучение моделей, когда возможности AI росли быстрее, чем понимание их поведения и отслеживаемость. Прежде чем переходить на следующий уровень возможностей, нужно достаточно продвинуться в безопасности. Но остановка не должна стать способом полностью остановить развитие AI. Опенсорс-модели несут с собой надвигающуюся волну проблем с кибербезопасностью вплоть до серьезных инцидентов, однако запрещать опенсорс-модели нельзя — обычные ошибки нужно расследовать и исправлять, а при крупных ошибках нужно вводить отдельные ограничения
👍 В глубине души Альтман уверен, что «все будет отлично»
Журналист попросил ChatGPT придумать вопрос, который Альтману обычно не задают: что он думает о будущем AI, но редко говорит публично? Альтман ответил, что «все будет отлично» и рассказал, что имеет крайне оптимистичное базовое ощущение будущего. При этом он не может это говорить публично без длинной оговорки о рисках. В ближайшие несколько лет ожидается реальный прогресс в лечении некоторых заболеваний. Модели, способные справляться с крайне сложной математикой, можно направить и на создание нового научного знания
В его глазах AI имеет образ нового огня или электричества: новая способность, которую дали людям и с помощью которой они сами начали строить новый мир. AI должен стать именно массовой технологией, а не инструментом небольшой «касты» специалистов. Журналист предложил описать Альтмана словом «Прометей». CEO OpenAI после попыток уйти от сравнений с историческими персонажами все-таки согласился с метафорой
clc.to/ErvJpQ
*Meta признана экстремистской и запрещена в РФ