ии – с чего началось и до чего мы дошли сейчас

по ощущениям – все в основном понимают ИИ как сверхразумную машину, но впервые этот термин появился где-то в 1956 году на Дартмутском семинаре как определение области компьютерных наук по изучению методов и ПО для создания интеллектуальных систем, способных выполнять задачи, которые традиционно считаются человеческими

развитие ии происходило следующим образом:

• с 1956 до 2022:

1956. рождение. дартмутский семинар, Маккарти вводит термин. десять человек собрались на лето – думали, за пару месяцев решат восприятие, язык и мышление. не решили до сих пор

1956-1974. золотой век. перцептрон, general problem solver, обещания: через 20 лет машина сможет всё. darpa заливает деньгами

1974-1980. первая зима. Минский доказывает, что перцептрон не умеет даже xor. отчёт Лайтхилла разносит ии в британии. деньги обрезают, нейросети объявлены тупиком

1980-1987. экспертные системы. возрождение через правила и логику. mycin диагностирует, xcon экономит digital миллионы. япония запускает национальный проект пятого поколения

1987-1993. вторая зима. правила не масштабируются, знания невозможно поддерживать. японский проект тихо закрывают. слово ИИ становится токсичным – исследователи переименовывают работы в машинное обучение, лишь бы дали грант

1990-е - 2000-е. статистический поворот. ставка на данные вместо правил. байес, svm, случайные леса. deep blue обыгрывает каспарова (1997) – перебором, не интеллектом. о нейросетях почти никто не помнит

2012. alexnet. свёрточная сеть выносит imagenet. эра deep learning. gpu + данные + старые идеи 80-х = прорыв

2016. alphago обыгрывает ли Седоля в го. задача, которую считали недоступной ещё лет на десять

2017. трансформер. статья attention is all you need. архитектура, на которой стоит вообще всё, что есть сейчас. в момент публикации почти никто не заметил

2018-2022. эра масштабирования. никаких принципиально новых архитектур, только масштаб и пара трюков с обучением

• сейчас:

ноябрь 2022. chatgpt. не научный прорыв, а продуктовый. чат-интерфейс к llm. сто миллионов юзеров за два месяца

2023-2026. сейчас. мультимодальность, агенты, контексты на миллион токенов. рядом надувается классический хайп-пузырь – agi, инвестиционный угар, крики про AI убил все профессии

что есть нейросети и что у нас сейчас по факту есть:

нейросеть – это многослойная функция. нейрон – три строки арифметики: умножить вход на веса, сложить, прогнать через нелинейность. собрать в слои, повторить. обучение – подбор весов: показываем пример, модель ошибается, корректируем. повторяем на протяжении миллиардов итераций. в конце веса выучили закономерности из данных

из этого мы получили LLM (Large Language Models) – подвид нейросетей. трансформер, обученный предсказывать следующий токен. текст режется на токены -> каждый становится вектором -> attention позволяет токенам смотреть друг на друга -> на выходе распределение вероятностей следующего токена. сэмплируем, дописываем, повторяем.

теперь вы понимаете, почему я называю нейронки – текстогенераторами ;)

но здесь важно подчеркнуть: нейронки – это не только чат с текстогенератором, через них можно делать распознавание лиц, диагностику по медицинским снимкам (в Москве уже работает в поликлиниках), распознавание / синтез речи и т.д.

теперь возвращаясь к ИИ. объективно говоря, традиционно человеческие задачи из 1956 года (игры в шахматы / другие интеллектуальные игры, понимание естественного языка, восприятие, планирование, творчество, etc) – текущие нейронки в принципе способны выполнять.

разумеется, все не может быть так просто, поэтому появился эффект ИИ: каждая ступень, до которой дошел ИИ – обесценивается и более не признается, как настоящий интеллект

задачи, которые считаются человеческими сейчас:

• долгосрочное планирование с пересмотром целей
• понимание неявного контекста (социальные/моральные нормы, неявные мотивы)
• переживание опыта

и многое другое, но список становится меньше

ставьте реакции, пишите комментарии, и ждите следующих постов про ии

👍 чат канала | 👀 сохранить котят на канале