Баттл с Колей: AGI — ждет ли нас супер-интеллект и что нам с собой делать в эпоху наступления машин
Понедельничные
дебаты с Николаем Писаренко ❤️.
Из-за чего, на мои глаза, весь кипеш:
👉 мы уже почти научились измерять интеллект,
👉 можем оценивать рассуждение,
👉 разум и сознание — все еще зона гипотез и интерпретаций.
🔹Интеллект - способность решать задачи. Применяем тесты IQ и видим, что машина тащит.
🔹 Мышление - построение
рассуждения. Проверяем законами формальной логики, видим результаты решения сложных для большинства людей задач. Делаем вывод, что машина рассуждает.
🔹Разум -
принятие решений с учетом контекста и последствий. Нам свойственно ретроспективно объяснять, было ли решение разумным. Если не сработало — объясним почему решение было неразумным. Если сработало — убедительно расскажем, как «рационально» к нему пришли. Машина это тоже умеет, и нам кажется, что она проявляет разум.
🔹Сознание - уникальный фильтр, через который ты воспринимаешь сигналы мира, обрабатываешь мышлением, принимаешь разумные решения. Наличие сознания мы определяем субъективно. Психиатры вот тоже не всегда сходятся в диагнозах.
В чем проблема?Мы приписываем ИИ разум и сознание, когда наблюдаем признаки рассуждения. Примерно как в песенке
"Прости, Виталик, прости, я выйду замуж за ChatGPT"▪️язык дает ощущение «человеческого собеседника», ведь больше никто говорить не умеет
▪️логика и адаптация под пользователя дает ощущение «понимания»
▪️эмпатичные по форме ответы дают ощущение «отношения»
👉 мозг достраивает субъекта там, где его может не быть
В будущем ИИ будет: быстрее и убедительнее в рассуждениях. Но это не значит, что у него будет сознание и разум.
Мне близка
позиция Мустафы Сулеймана (CEO Microsoft AI): сейчас и далее мы имеем дело с
seemingly conscious AI
(штука, которая кажется сознательной),
он "хакает" человека через эмпатию.
❗️К
ак в этом жить: мнение L&DИИ усиливает интеллект и мышление, но не дает разум и сознание. Не надо с ним тягаться, надо понять, что
ценность человека не снижается, а смещается.
Вот что я думаю правильно делать:
1️⃣
Взаимодействовать с ИИ и искать зоны своего роста
У каждого условно "свой ИИ", который зависит от его уровня экспертности и задач: кому-то белковые структуры расшифровать, кому-то оценить качество саженца с гугл-линзой.
▪️
Компетенции и крутое бесплатное обучалово2️⃣ Учиться
быть руководителем, т.к. исполнительские роли в интеллектуальных сферах будут планомерно сокращаться и надо будет управлять цифровыми агентами/сотрудниками/скиллами и т.п.
▪️
Целеполагание. Не "как" решить, а что вообще надо решить и зачем.
▪️
Архитектура задач. Декомпозиция, workflow
▪️
Распределение ролей, делегирование, контроль.
▪️Конструктивная и развивающая
обратная связь для дообучения системы.
3️⃣
Развивать человеческую эмпатиюПрорывные инновации и просто хорошие решения зависят от "химии" белковых организмов. Важно уметь быстро вливаться и усиливать собой потенциал групп людей.
▪️Берите техники из импровизационных искусств, командного спорта и т.п., которые научают
синхронизировать команду и настраивать взаимный обмен.
4️⃣
Развивать творческое мышлениеИИ работает с тем, что уже есть в данных. Инсайты часто приходят из того, где массива данных нет.
▪️Разрешайте себе создавать то, что не имеет прагматического смысла, но хочется в этом проявиться, поймать и выразить какой-то смысл
5️⃣
Собирать портфельную карьеруКогда ИИ так развивается, ценность белкового сотрудника - не его прошлые достижения, а его потенциал. Стоит думать и рассказывать о своем опыте именно как о доказательстве потенциала и 👆пп. 1-4
▪️Вступайте в трудовые отношения с фокусом: чему я взрывно научусь, что положу в портфель как пруф, об кого я буду думать, с кем я останусь на связи после выхода.
А что по поводу выживания в эпоху могущественного супер-ИИ думает
Коля Писаренко - читайте в его канале.Ставьте ❤️ чей пост вам больше зашел.
🧙♀️
Канал Ани Бабиной Телеграм |
Макс |
Сетка