Вы спросили ChatGPT, как приготовить пирог. Что произошло "под капотом"?Представим простой запрос: "Как приготовить яблочный пирог?", который был адресовали ChatGPT.
Через несколько секунд ChatGPT выдаёт список продуктов, температуру духовки и последовательность действий. Возникает естественное впечатление: нейросеть знает рецепт, вспомнила его и обдумала, как лучше приготовить пирог. Но это иллюзия, механизм работает иначе.
Во время обучения модель обрабатывала большое количество текстов. Среди них встречались рецепты, описания продуктов, способы приготовления и обычные тексты о еде. Алгоритм постепенно изменял внутренние числовые коэффициенты модели -
веса. Благодаря этому в них закрепились закономерности языка и связи между понятиями.
Например, модель усвоила, что рецепты обычно содержат ингредиенты и последовательность действий, яблочный пирог связан с яблоками, мукой и сахаром, а после подготовки теста часто следует выпекание. Но внутри модели нет отдельной карточки: "Рецепт яблочного пирога № 154". Знания представлены распределенно: они содержатся в значениях множества весов и проявляются во время генерации ответа. Поэтому точнее говорить, что модель усвоила закономерности, связанные с рецептами, а не хранит кулинарную книгу.
Что происходит после отправки запроса?
1. Текст делится на
токены - слова или части слов, с которыми работает модель.
2. Модель анализирует получившийся контекст и вычисляет, какой токен вероятнее всего должен идти следующим.
3. Выбранный токен добавляется к ответу.
4. Модель снова выполняет вычисления уже с учётом написанного фрагмента.
5. Процесс повторяется, пока ответ не будет завершён.
Так последовательно появляются фразы: "Для приготовления вам понадобятся…", затем список ингредиентов, описание замешивания теста и этап выпекания.
Модель не достаёт готовый ответ целиком и не составляет рецепт заранее так, как это сделал бы человек. Она генерирует его шаг за шагом, опираясь на запрос, уже написанную часть ответа и закономерности, усвоенные во время обучения. При этом модель не "думает о пироге" в человеческом смысле. У неё нет вкусового опыта, представления о запахе или консистенции теста или практического опыта работы с духовкой. Она работает с числовыми представлениями и связями, обнаруженными в данных.
Именно поэтому ответ может выглядеть убедительно, но содержать неверные пропорции, пропущенный этап или неподходящую температуру. Связность текста ещё не означает, что рецепт был проверен на практике.
На этом примере можно увидеть главный принцип работы языковой модели: она не ищет готовую запись в памяти и не рассуждает как человек, а
строит продолжение текста на основе усвоенных закономерностей.
Если вы хотите понимать, как устроены и работают ChatGPT и Claude Code, я собрал материал, в котором подробно разбирается, что такое нейронная сеть, LLM, веса, токены и контекст, как проходит запрос внутри ChatGPT, где работает сама модель и какие действия выполняют остальные компоненты продукта.
>
ссылка на разборСтруктурный разбор доступен подписчикам уровня Junior и выше:#ии #нейросети #анонс
—
💼 Мои
услуги и проекты |📺 Канал на
YouTube |📝 Канал с
отзывами |☕️ Поддержать автора на
Boosty |🏋️♂️
Тренажеры для практики тестирования |🧑💻
Практикум для начинающих по тестированию API