Репост из: Киса | Deploy la Deploy
Почему эпоха AGI наступила (часть 1)
На этой неделе у меня была душная интересная беседа с Печенькой по мотивам поста Кримсона.
Смысл в том, что все больше и больше бабла вливается в AI, но все меньше ожиданий, что мы построим искусственный интеллект.
Искусственный интеллект (AI) это просто обозначение, отсылающие нас к нейроным связям, весам. Технологии рассуждения, обучения моделей. Но это не AGI, то есть не реальный интеллект.
Нейросети не могут самостоятельно обучаться, не имеют свободу воли и разум. С нашей человеческой точки зрения, нейросети не выходят за рамки инструмента.
Но действительно ли это так?
Моя позиция заключается в том, что разделение AI и AGI утыкается в наше человеческое "непринятие" другой формы разума.
Следите за руками. Ранее считалось, что машина не может обмануть людей. Об этом тест Тьюринга. Однако, современные модели, условный Sonnet 4.5 могут с вами общаться как человек.
От них не будет пахнуть ГПТшностью. Они могут понять контекст и удачно вам ответить. Раз за разом.
Мы говорим — окей, но это результат нашего обучения. Модель не может самостоятельно сменить свою специализицию и действовать автономно.
Пока модель не ведет себя как человек — эта модель не является общим искусственным интеллектом. Это лишь подделка разума.
А если посмотреть немного шире?
Openclaw, он же Clawdbot построен на сложных скриптах, которые автоматизируют задачи. Модель по таймеру берет свои знания/контекст, выполняет задачу.
Если поставить целью читать новые посты на сайте X, а затем делать выжимку. Модель сделает. Если попросить на основе выжимки придумывать скиллы и прописывать их себе. Модель сделает это.
Предположим рандом заставил бы модель поменять свои правила личности. Считаем ли мы это чем-то недостойным, в сравнении с человеком.
Человек утром проснулся и понял, что всю жизнь мечтал заниматься балетом или картины рисовать. У себя мы это выделяем как свободу воли.
Но откинув божественную этику, приняв себя как набор ДНК, работу подсознания и химии. Чем мы отличаемся от AI, действия которой тригерит Cron на Linux сервере?
Определение AGI это виляние жопой.
Не зная собственных тайн мозга и не понимая собственную природу сознания, странно утверждать, что кто-то им не обладает.
Есть забавная логическая "игра". Если атеисты отрицают существование бога, значит они в него верят. Как можно отрицать то, чего не имеет выраженной формы. Все же люди понимают, что бог всемогущий.
Вот для атетистов очевидно то, что мы не видели ничего всемогущего, значит бога в нашей реальности нет.
Но раз он всемогущий и выше нашего понимания, мы не можем однозначно утверждать, что его нет. У нас нет доказательств.
Поэтому в науке вопрос существования бога не стоит. Это нельзя ни доказать ни опровергнуть.
Но каким тогда образом можно заключить, что алгоритмы LLM, побуждающие ту агрессировать в ответ на угрозу не природа сознания?
Но ведь мы сами этому научили
Однако-ж, мы и своих детей тоже учим. Каждый из нас родом из детства и различные привычки, убеждения. Это результат влияния множества людей на нас. Мы не рождаемся с абсолютной свободой воли.
Мы не действуем исключительно осознанно и рационально. И моя мысль не в том, что нейросети имеют разум/душу и свободу воли.
Моя мысль в том, что если оно может быть крайне человечным, то странно упираться в определение AGI и говорить, что он не будет достигнут.
Нужно смотреть дальше заголовков
Да и в посте Кримсона эта же мысль по-сути и описана. Просто в пылу беседы с Печенькой я увел беседу в философию, а не практику.
Сегодня вы можете заменять несколько задач и ускорять свою работу в разы. Владение нейросетями позволяет прыгать выше головы.
Это даже приводит к выгоранию, мы с вами не успеваем поспевать за собственной скоростью работы с этими инструментами.
Ну и к самим апдейтам в индустрии. Все так быстро меняется вокруг, что тяжело к этому адаптироваться.
Философское рассуждение о текущих способностях искусственного интеллекта. Ну и по теме вокруг.
На этой неделе у меня была душная интересная беседа с Печенькой по мотивам поста Кримсона.
Смысл в том, что все больше и больше бабла вливается в AI, но все меньше ожиданий, что мы построим искусственный интеллект.
Искусственный интеллект (AI) это просто обозначение, отсылающие нас к нейроным связям, весам. Технологии рассуждения, обучения моделей. Но это не AGI, то есть не реальный интеллект.
Нейросети не могут самостоятельно обучаться, не имеют свободу воли и разум. С нашей человеческой точки зрения, нейросети не выходят за рамки инструмента.
Но действительно ли это так?
Моя позиция заключается в том, что разделение AI и AGI утыкается в наше человеческое "непринятие" другой формы разума.
Следите за руками. Ранее считалось, что машина не может обмануть людей. Об этом тест Тьюринга. Однако, современные модели, условный Sonnet 4.5 могут с вами общаться как человек.
От них не будет пахнуть ГПТшностью. Они могут понять контекст и удачно вам ответить. Раз за разом.
Мы говорим — окей, но это результат нашего обучения. Модель не может самостоятельно сменить свою специализицию и действовать автономно.
Пока модель не ведет себя как человек — эта модель не является общим искусственным интеллектом. Это лишь подделка разума.
А если посмотреть немного шире?
Openclaw, он же Clawdbot построен на сложных скриптах, которые автоматизируют задачи. Модель по таймеру берет свои знания/контекст, выполняет задачу.
Если поставить целью читать новые посты на сайте X, а затем делать выжимку. Модель сделает. Если попросить на основе выжимки придумывать скиллы и прописывать их себе. Модель сделает это.
Предположим рандом заставил бы модель поменять свои правила личности. Считаем ли мы это чем-то недостойным, в сравнении с человеком.
Человек утром проснулся и понял, что всю жизнь мечтал заниматься балетом или картины рисовать. У себя мы это выделяем как свободу воли.
Но откинув божественную этику, приняв себя как набор ДНК, работу подсознания и химии. Чем мы отличаемся от AI, действия которой тригерит Cron на Linux сервере?
Определение AGI это виляние жопой.
Не зная собственных тайн мозга и не понимая собственную природу сознания, странно утверждать, что кто-то им не обладает.
Есть забавная логическая "игра". Если атеисты отрицают существование бога, значит они в него верят. Как можно отрицать то, чего не имеет выраженной формы. Все же люди понимают, что бог всемогущий.
Вот для атетистов очевидно то, что мы не видели ничего всемогущего, значит бога в нашей реальности нет.
Но раз он всемогущий и выше нашего понимания, мы не можем однозначно утверждать, что его нет. У нас нет доказательств.
Поэтому в науке вопрос существования бога не стоит. Это нельзя ни доказать ни опровергнуть.
Но каким тогда образом можно заключить, что алгоритмы LLM, побуждающие ту агрессировать в ответ на угрозу не природа сознания?
Но ведь мы сами этому научили
Однако-ж, мы и своих детей тоже учим. Каждый из нас родом из детства и различные привычки, убеждения. Это результат влияния множества людей на нас. Мы не рождаемся с абсолютной свободой воли.
Мы не действуем исключительно осознанно и рационально. И моя мысль не в том, что нейросети имеют разум/душу и свободу воли.
Моя мысль в том, что если оно может быть крайне человечным, то странно упираться в определение AGI и говорить, что он не будет достигнут.
Нужно смотреть дальше заголовков
Я просто делаю акцент, что невозможность AGI не исключает того, что AI конкурирует с человеком.
Да и в посте Кримсона эта же мысль по-сути и описана. Просто в пылу беседы с Печенькой я увел беседу в философию, а не практику.
Сегодня вы можете заменять несколько задач и ускорять свою работу в разы. Владение нейросетями позволяет прыгать выше головы.
Это даже приводит к выгоранию, мы с вами не успеваем поспевать за собственной скоростью работы с этими инструментами.
Ну и к самим апдейтам в индустрии. Все так быстро меняется вокруг, что тяжело к этому адаптироваться.