Stars Full of Foxes | Белый лис


Kanal geosi va tili: Rossiya, Ruscha
Toifa: Bloglar


Канал женщины с мужем, сыном и двумя котами. Книги, писательство, фотография, девопс, ИИ
Второй канал про родительство - https://t.me/fox_homelander
Связь со мной - @NaumenkoT

Bog‘liq kanallar  |  O‘xshash kanallar

Kanal geosi va tili
Rossiya, Ruscha
Toifa
Bloglar
Statistika
Postlar filtri


Люблю эти фото потому, что тут Снежка не такая, как обычно. Немного стервозная, немного провокационная.


У меня очень мало обрядов или традиций. То же Колесо Года я не изучила от совершенно искренней лени. Но то, что у меня их немного, не значит, что их нет совсем.

Осенью обязательно пеку шарлотку и штрудель. Ещё несколько дней после дом пахнет выпечкой. Притаскиваю домой красивые листочки и жёлуди, поскольку нора должна иметь осенний лоск.

И перечитываю "Ночь в тоскливом октябре". Люблю Желязны, то, как он создаёт свои миры, их притяжение и слепую веру меня-читателя во всё, что написано.

Ещё "Тоскливка" хорошо ложится на наш октябрь. Уже дождливый, уже холодный, но ещё не столь оголившийся, как ноябрь.

А если говорить о том, к кому бы я себя причислила, то каждый год ответ у меня разный (как и у героев книги😁).

В общем, с первым днём октября. Давайте читать вместе.


Так вот как выглядит лесрук


Хоспади, какую осень из Пинтереста сделали в Project X. Я не знаю, чего хочу больше, сняться там сама или поснимать кого-то.

109 0 0 26 16

Дала мне Снежка 2 платья на съёмку. Второе, что на фото, настолько клёвое, что я не удержалась, и взяла себе такое же. Но то ли березки и сосёнки создают определенную атмосферу, то ли мордашка у меня русопята, но платье гречанки "переобулось" в славянскую рубашку. Что не делает его хуже.


Отдала дорогой Снежке фотографии, и теперь несу их сюда. Сказочная красота получилась, не могу.


LLM, База знаний и «Зерно»

Аббревиатура LLM за последние пару лет набила оскомину каждому, кто проходил рядом с нейронками. Несмотря на то, что слова все знакомые, суть термина понятна далеко не всем. Large Language Model она же Большая Языковая Модель – огромный логический словарь с начинкой из математических предсказаний. Представьте себе Безумного Шляпника, который прочитал все-все книги в этом мире. Он знает их от корки до корки, не умеет пользоваться этой информацией, но преуспел в расстановке слов в таком порядке, что его рассуждения кажутся логичными.

Конечно, нейронка - не дура. Но на одной LLM далеко не уедешь. Чтобы слова имели вес в глазах читателя, они должны быть чем-то подкреплены. И тогда иишечка обращается к базе знаний – данным по предметной области, по которым составляется наиболее точный ответ (о технологиях поиска я уже писала вот в этом посте).

А ещё ИИ-шки иногда называют псевдо-детерминированными системами. У моделек есть настройка «Температура» или «Креативность», и если её сдвинуть до нуля, то ответы будут повторяться. Кстати, за креатив отвечает число с изумительным названием – «зерно случайности» или “Seed”. Оно генерируется во время каждого запроса. Пару лет назад его использовали при создании изображений, чтобы картинки были похожи одна на другую.

Сценарии ИИ

Кристофер Букер считал, что существует всего 7 сюжетов, которыми мы рассказываем истории. А исследователи ИИ насчитали 9 сценариев, по которым работает нейронка. Из очевидных «вопрос-ответ», «рекомендации», «анализ входящих данных», «генерация контента», чуть мене очевидные, которые не используются рядовым пользователем:

🤩Co-pilot, который следит за действиями пользователя, даёт советы и предупреждает об опасности.
🤩Планинг, который активно используется разработчиками: выстраивание четкого плана, чтобы получить качественный результат.
🤩Re-Act, когда нейронка выполняет цепочку недетерминированных действий по запросу пользователя.
🤩Pro-Act, тоже самое, но не по указке пользователя, а по какому-то триггеру.
🤩Обучение. Нейронка способна выстроить план обучения и провести по нему пользователя.

Жирное НО: у каждой иишки есть свои сильные и слабые стороны. Какая-то хорошо анализирует сложные данные, но ужасно работает с изображениями, другая умеет составлять рабочие планы разработки, но генерит такой код, что лучше б не генерила…

А вот где посмотреть проверенные данные, в чем и какая нейронка хороша, я расскажу в следующий раз. Когда дойдут руки =)

#об_иишки


Увидела у дорогих подруг развлечение с нейронкой: сгенерить картинку по диалогам. У меня прчти всё в дипсике, так что я побродила по чатам и попросила их выжимку, на основе которой был составлен запрос. Решила его не редачить, а скормить "как есть" gpt.

Какие выводы могу сделать: моя жизнь состоит из уборки, попыток поправить здоровье, работы и ребёнка.
Иногда тонкой струйкой просачивается писанина.

34 через пару месяцев, чо


Хотела написать о том, как сложно вспоминать то, чем не занимался год.

Потом, как сложно в реалиях Р2026 поставить нужный софт.

Затем о муже, который помог сделать сложную связку системник - рдп - ноут, поскольку на последнем экран ок, но мозгов для Adobe ему не хватает.

А затем решила, что всё это мишура, и надо просто смотреть на красивую Снежку в вайбах её готовящейся книжки.😈


В выходные у меня были выходные, поэтому какие-то полезные штуки про его великолепие Иишество выложу на неделе. Есть, что рассказать, есть, что показать.

А пока ещё одна карточка с фотосета от Артёма🥹

Как ваш понедельник начинается?


Вторая рабочая неделя меня так захватила, что никак не доходили руки показать фотографии с выходных.

Я грязно ругалась на бесконечную стройку, которая теперь развернулась в районе Бауманской, ругалась на внезапные перекрытия на односторонней улице, по которой ты доезжаешь до конца, а там столбики... ругалась на людей, которые видят, что ты сдаешь назад, сигналят и подгоняют вперёд. Уступаешь им дорогу, они на газе летят вперёд и резко тормозят перед теми же столбиками. И так несколько раз.

Поворчала на студию "Мох". Конечно, мы приехали в последний день жизни декораций, ребята съезжают, здание сносят🙈моё недовольство не связано со "свежестью" антуража, но об этом напишу попозже.

А пока - легкость и нежность от Артёма (@artarutyunov)


Мультиагентная система – мощный инструмент, которым надо уметь воспользоваться. Как стеклянный фаллос в руках идиота, так и мультиагентные системы бесполезны, а то и вредны, если не уметь ими пользоваться. В прошлом посте я уже немного говорила о глобальной архитектуре ИИ-агентов, а теперь углубимся в «правила» их работы.

Во-первых, есть 5 "колёс", на которых катится ИИ по дорожке познания:
🤩Специализация, на какой тип задач натаскан агент: креативщик, критик, редактор, математик, эрист и т.п.
🤩Коммуникация: как построено общение между агентами.
🤩Координация: в зависимости от типа «строя» в обществе агентов координация между ними будет лучше или хуже.
🤩Обратная связь: агенты корректируют свои действия на основе обратной связи от друг друга.
🤩 Агрегация результатов: финализирование проделанной работы в чёткий ответ.

Благодаря этим «колёсам» можно разобрать проблему с разных сторон, агенты проверяют друг друга, могут находить нестандартные решения, быстро подстраиваются под изменяющиеся обстоятельства. Ещё один плюс, который я считаю спорным – уменьшение ошибок благодаря взаимным проверкам. Спорный он потому, что, если первый агент неверно понял задачу, то остальные неверно её выполнят, а поймать ошибку в середине их работы очень сложно. Также есть такая вещь, как «эффект эхо-камеры», когда модельки обучались на одинаковых данных, и они будут соглашаться друг с другом, даже если вывод неверен. Так что человеку, или как его зовут ИИ human-in-the-loop, надо быть внимательным и не отдавать все бразды правления агентам.

Как строятся отношения между агентами

🤩Дебаты. агенты спорят до «хрипоты», пока не найдут наиболее подходящее решение. Им обязательно нужен арбитр, иначе спорить будут до последней единицы памяти на серваке. Подходит для факт-чекинга, разбора юридических и научных случаев.

🤩Коллаборация. «Живой» конвеер. Продукт деятельности одного агента становится основой для работы следующего. Лучше всего подходит для написания кода, часто используется для генерации изображений (один сделал архитектуру приложения, второй написал код, третий тесты)

🤩Конкуренция. Агенты работают отдельно друг от друга, в конце выбирается лучшее решение. Так можно строить оптимальные маршруты, придумывать кричащие заголовки.

Агентский строй aka архитектурные подходы

Централизованный подход
Есть ГлавАгент, ему все подчиняются. Скорость работы высокая, но система плохо масштабируется и легко выходит из строя: достаточно «снять» ГлавАгента. Так что подходит только для простых конвейерных задач.

Иерархическая
Как в большой компании: начальство принимает какие-то решения, спускает указания управляющим менеджерам, те раскидывают задачки по исполнителям. Скорость работы чуть-чуть медленнее централизованной, отказоустойчивость напрямую зависит от того, как создали «начальство». Если оно теряется при выпадении одного и агентов, то следом посыпется всё остальное. Масштабируемость получше. Подобная иерархия используется для повторяющихся задач.

Децентрализованный подход
Демократия среди агентов, все равны, главного нет, итоговое решение принимается через дебаты, от чего страдает скорость исполнения задач. Но отказоустойчивость высокая и неплохая масштабируемость. Подходит для креатива, задач с неопределенным результатом («Хочу картинку, чтобы красиво было»).

Доска объявлений
Вешается «объявление» с задачей, подходящий агент его берёт в работу. В эту же «доску» пишут агенты, когда им что-то нужно от собратьев. Скорость средняя, поскольку задачи выполняются асинхронно. Отказоустойчивость высокая, поскольку доска хранит данные, и ей нет дела, что там с агентами. Подойдет для сложных проектов на долгий срок.

Что в итоге

Мир ИИ-шечек крайне любопытен и очень похож на человечий. Есть некоторые правила, есть системный строй, который появляется для решение каких-то определенных задач, и распадается, когда задача становится непосильна. Наблюдать за происходящим крайне любопытно.

#об_иишки


Video oldindan ko‘rish uchun mavjud emas
Telegram'da ko‘rish
По мотивам одного разговора появился такой шутливый ролик. Заодно попробовала себя в генерации видосиков. Шла по самому простому пути "сгенерить промт в одной нейронке" -> "скормить промт другой нейронке". Вышло смешно.

#об_иишки


Можно ли считать лишним пост о мультимодальности? Конечно, нет.

Раньше ИИ-шки были тупенькие, очень редко им доверялась работа над чем-то серьезным. Тем паче, что одна модель могла работать только с одним типом данных: текст, документ, картинка.

В 2020-2021 году кого-то явно достало, что все смеются над ИИ. Эти люди объединились, закупились туалеткой, гречкой и вискарём, засели за компуктеры и принялись строчить километры кода, чтобы улучшить существующие модельки. И ребята преуспели. Немало моделек к 2026 году могут и документ прочитать, и картинку проанализировать, а в конце выдать вменяемый результат по запросу.

Достигли этого, отладив два архитектурных подхода:

🔸End-to-end или монолит. Это большая-большая ИИ-шка, которая может всё и сразу. Этакий и чтец, и жнец, и на дуде игрец. Из очевидных минусов: монолит дорогой, жирный и неповоротливый. Требует много вливаний, трудно интегрировать новые, отличные от старых, навыки. Монолиты – это GPT-4o или последние версии Gemini.

🔸Технология адаптеров. Создаётся ряд узкопрофильных модулей, которые тренируются в своей области. Затем к ним обращаются или вовсе интегрируют в модель. Получается эдакий Робот из Пауэр Рейнджеров. У Сбера так делает ГигаЧад, когда дело доходит до картинок: шлёт запрос в Кандинского. Работая с адаптерами, используют несколько вариантов коммуникации между модельками:
🔺Оркестрация навыков. Специальный механизм-прослойка, координирующий работу моделей. Нередко результат работы одной может стать входными данными для другой.
🔺 MoE оно же Mixture of Experts. Внутри одной большой модели выделяются десятки или сотни «экспертов» — подсетей, каждая из которых хороша в своей узкой области (например, один эксперт знает математику, другой — историю, третий — код). Файтер, клирик, маг и вор от мира ИИ-агентов. Во время ответа активируются только те эксперты, которые нужны для данного запроса, что экономит ресурсы. Примеры — Grok от xAI, Gemini 1.5 или некоторые версии GPT-4.

На деле используют то, что могут себе позволить по деньгам, ресурсам и специалистам. Увы, но прачка, прочитавшая Маркса, не становится экономистом, а бюджет размером с сушку не предполагает крутые ИИ-шки.

#об_иишки


Чтоб разобраться, что творится в голове у ИИ-агента, надо сходить к ии-шному психологу понять, как он работает с информацией. Процессы под капотом ИИ-шки во многом похожи на процессы в человеческой голове: несколько способов познания и анализа происходят одновременно, информация комбинируется в членораздельный ответ. Разве что ИИ-шке для продуктивности нужны серваки побольше, а человеку – кофе, 10-часовой сон и хорошая зарплата.

«А если бы у рыб был мех, то там жили блохи…»

Если бы процессы шли один за другим, то сперва ИИ-агент преобразовал слова в векторную карту ассоциаций, а потом при помощи контекстного понимания собрал необходимые «смыслы» в членораздельный ответ. Векторная карта – числовой набор координат, на котором ИИ-шечка расставляет слова по смысловому значению. Например, слова «кот» и «кошка» будут достаточно близко друг к другу, «собака» рядом, но не вплотную, а «сыр» - далеко. В общем, агент делает классическое «разложить по полочкам».

В контекстном исследовании врубаются сразу несколько мощных процессов:
🔸 RAG (Retrieval-Augmented Generation), по-простому – «подглядывание фактов» во время генерации ответа, чтобы снизить количество галлюцинаций.
🔸 Разбиение задач на подзадачи. В простых запросах это не нужно, но в контексте разработки очень важно. Например, я хочу написать одностраничный сайт и пишу об этом ИИ-агенту. Он предложит план действия, следуя которому мы будем получать промежуточные файлы. Эти файлы станут контекстом, «кормом», для будущих зопросов. В целом, похоже на обычную разработку, но делает её один человек и одна машина.
🔸 Механизм внимания. В универе такое называли «сканировать текст» или «читать по диагонали»: просматриваешь абзац или страницу текста, запоминаешь суть и важные детали.
🔸 Скользящее окно, о котором я уже писала, ведь ИИ-шка не может держать во внимании большой текст со всеми подробностями, у неё в доступе факты и конец большого документа.
🔸 Сжатие информации. Если пользователь считает ИИ-шечку секретаршей Людочкой, которой можно закинуть парочку папок с дополнительными данными, то врубается этот механизм. ИИ-агент откидывает в сторону всё, не относящееся к заданному вопросу, оставляя только самое важное. Человек бы оставлял закладки и пометки карандашом.

Пережив оба процесса - построение векторной карты и контекстное исследование – ИИ собирает ответ на вопрос пользователя. Самый распространенный пример: скормить ей большую инструкцию от сложной машины и задавать вопросы о её настройке и работе.

ИИ-шки идут на переговоры. Пока. Поэтому я всегда или почти всегда прошу дать ответ максимально понятным/простым языком или в юморном ключе. Объяснение мыслительного процесса «по-пацански» - отдельный вид искусства, остро рекомендую.

#об_иишки


Говорят, если каждый день узнавать что-то новое, то мозг не стареет.

На работе прохожу обучалку, посвященную ИИ-шечкам, ведь «никуда-никуда от них не деться». С интересом прочитала про метод «скользящего окна». Применяется он в тот момент, когда ИИ-агенту скармливают большой файл. Скажем, книгу. ИИ-шечка действует, как девятилетка, читающий с фонариком третьего Гарри Поттера: водит по странице лучом, стараясь запомнить побольше. Ладно, ИИ-шка действует структурнее, но принцип похож. Она определяет объём токенов для прочтения, скажем, 2000 слов, и когда объём истекает, то «открывает» новое окно с перекрытием старого на 10%-50%, и делает так до тех пор, пока не прочтёт весь файл.

Очевидный минус: если документ дюже длинный, и ответ на изначальный вопрос находится где-то в конце, то ИИ-шка его не найдет, поскольку забудет, «что там писал автор» в начале своего произведения.
Метод «скользящего окна» используется для анализа договоров, научных статей и книжек, в компьютерном зрении, когда на большой картинке ищутся разные объекты, при распознавании речи или мониторинге показателей с датчиков.

Конечно, ИИ-агенты не польщуются одним методом, их целый список. Но мне понравился этот.

#об_иишки


Перешла к главе про Женька. Придумала мотивацию для персонажа. И она напрямую связана с картинкой. Есть идеи, о чём будет глава?


Сохраню здесь дачный август.

С 24 числа на работу. И хочется, и страшно, и не ясно, как всё совмещать. Страшно в теле взрослого, когда ты шальной подросток.


Ожидание: У меня есть свободный час, напишу пару абзацев
Реальность: срусь с производителем холодидьников, чтобы сдать новый неработающий холодос...

19 ta oxirgi post ko‘rsatilgan.