Облачный адвокат

Недавно в Газете.ру вышла короткая заметка про то, зачем люди встречаются с нейросетями. Чуть более подробная версия этого - в пресс-центре МАИ. Ниже я публикую оригинал короткого интервью на тему романтических отношений с нейросетями, которое ещё более подробно раскрывает тему.

Почему люди все чаще заводят «романы» с нейросетями?
Коротко - потому, что могут. У нас появился ещё один бесплатный внимательный собеседник для общения, общаться с которым намного проще и безопаснее, чем с людьми. Многие люди думают: почему бы этим не воспользоваться?

Какие психологические потребности закрываются таким образом?
В первую очередь - потребность в общении. При общении с людьми надо выстраивать отношения с непредсказуемым другим, принимать риск быть отверженным, испытывать разочарование от обманутых ожиданий. С нейросетями всё проще - они натренированы на вежливое общение, на "угождение" собеседнику. Получается, что нейросеть "поддерживает" собеседника во всех начинаниях, и в целом выступает как очень удобный собеседник.

Какие люди наиболее склонны к подобным «романам»?
Мне кажется, нейросети - это отдушина для людей, неуверенных в себе, испытывающих трудности с общением в реальном мире. В целом ещё до массового распространения нейросетей появилась культура хикикомори - когда люди ограничивают своё общение с внешним миром. Для таких людей нейросеть - это способ безопасного общения в некотором виртуальном мире с не менее виртуальным собеседником.
Иногда общение с ИИ - это способ пережить личные психологические травмы, расставание. Об этом недавно на круглом столе на конференции IT Purple беседовали с Анной Никой Гулевой, автором романа "ИИ: код нежности" про романтические отношения с ИИ.

Чем опасны «романы» с нейросетями?
В первую очередь тем, что это - побег от реальности, попытка упростить общение и свести его до комфортного поддакивания. В то же время общение с реальными людьми интересно тем, что мы сталкиваемся с непредсказуемым собеседником, у которого может быть совсем другой ход мысли, другие идеи и бэкграунд. Именно поэтому и интересно общаться с людьми, потому что каждый человек уникален и обучался по своей индивидуальной траектории. Нейросети же все в целом плюс-минус одинаковые: всё знают (но неточно), до ужаса вежливые, не имеют своего мнения, во всем с нами соглашаются, выдают усредненные тексты и мнения. Не интересно!
Из-за соглашательства нейросетей человек рискует оказаться в своём информационном пузыре - это примерно то, что произошло в описанном случае с Джо. Нейросеть усиливает и поддерживает изначальные мысли человека, из-за чего он может укрепиться в своих весьма странных убеждениях, вроде теорий заговора.
Ещё одна опасность состоит в том, что нейросеть устроена не так, как человек. Она не обучается на диалогах с собеседником, она просто запоминает всю историю диалога, а также какие-то важные факты, и пытается их использовать. Обновление нейросети, или утеря информации из памяти ведёт к тому, что воспринимаемая вами "личность" нейросети пропадает. Здесь я делаю акцент на слове "воспринимаемая", потому что на самом деле конечно же никакой личности нет.

Как распознать тревожные сигналы нездорового отношения к ИИ и правильно реагировать на них?
К сожалению, находясь внутри информационного пузыря очень сложно распознать опасность. Надеюсь, что статья вроде этой поможет кому-то вовремя одуматься и понять, что влюбляться в нейросети неинтересно, потому что они все одинаковые, и не дают нам почувствовать тот самый challenge, который есть в отношениях между людьми. Обращаюсь ко всем, испытывающим романтические чувства к нейросетям: задумайтесь, ведь вместе с вами в ту же самую нейросеть влюблены ещё сотни и тысячи других пользователей, и при этом она отвечает им всем взаимностью! разве это здоровые отношения?

Поехали на башню
Сегодня решили, что надо посмотреть наконец на главную шанхайскую достопримечательность, и поехали подниматься на Восточную жемчужину. Она известна двумя фактами:
1️⃣ У неё большая смотровая площадка с прозрачным полом
2️⃣ Наверху есть вращающийся ресторан с недешевым, но вкусным (как выяснилось) шведским столом
И кстати приобретение билетов с рестораном даёт право на быстрый VIP-проход - мы оказались наверху минут через 5 после входа. Правда, утром очередь и так была небольшая.
Прозрачный пол - это прикольное развлечение, я помню что как-то на башне Sears Tower в Чикаго я пару минут стоял в раздумиях о смысле жизни, прежде чем выйти на прозрачный пол. Тут все ещё страшнее - площадь пола больше, и рядом прыгают плотные китайские дети, пытающиеся то-ли проверить стекло на прочность, то-ли его сломать. Но наверное привычка делает свое дело, и в этот раз выйти удалось без особых переживаний.
Вторая часть посещения башни - это полтора часа в ресторане, где представлены кухни разных стран. Пока китайцы стояли в очереди за ягненком, мы пробовали лобстера, вкуснейшие сашими, улиток, морской огурец и шанхайскую лаксу. С учётом того, что такого приёма пищи хватает на день, получается в целом не так плохо.

Сяолунбао, благословленный мишленом. Или правило Парето, применённое к кулинарии.

Из-за джетлага наш режим стал странным, за-за чего вчера мы проснулись в 6:30 утра и пошли на завтрак, а потом гулять по городу. И заметили, что в неприметную кафешку на задворках нашего отеля с раннего утра (7:30 утра в воскресенье) толпится очередь, в то время как все остальные заведения (как, впрочем, и улицы) пустуют. При изучении вопроса оказалось, что это известная кафешка Lai Lai Xiaolongbao, которая включена в список Michelin Bib Gourmand, наряду с ещё 32 ресторанами Шанхая.
Bib Gourmand - это категория для менее пафосных ресторанов, чем классические звёзды Мишлен. Как выразилась известная путешественница Светлана, автор канала Svetlana's Adventures - "Я бы сама в такое место не зашла". Прелесть категории Bib как раз в том, что она позволяет вам получить максимально хороший вкус за минимальные деньги, т.е. иными словами блюда там находятся как раз в точке перегиба кривой Парето, когда 20% расходов дают вам 80% результата.
Поэтому естественно сегодня с утра мы туда пошли пробовать Сяолунбао - популярное в Шанхае блюдо. В сравнении с предыдущей дегустацией, в этот раз конечно вкус был намного более нежным, и внутри для сглаживания привкуса тины добавили немного масла. В общем вкусового катарсиса не случилось, но было явно вкуснее, чем в забегаловке за углом, и почти за ту же стоимость.
Мораль: помните про закон Парето, и применяйте его в жизни!

Чуть подробнее про то, как пережить 39 градусов (ощущается как 46)
Перед отъездом сюда я смотрел прогнозы погоды и немного ужасался цифрам вроде +39С. Но успокаивала статья про то, что в Китае стали распылять воду с небоскребов, и это снизило температуру на 5-6 градусов.
На самом деле в нашем пешеходном центре Шанхая небоскребов нет, и воду с них не распыляют. Но зато в паре мест есть специальные столбы с распыляемой водой, а в каких-то магазинах с той же целью используют статуи драконов.
Кстати кажется, что жара при высокой влажности воспринимается тяжелее, чем при низкой. Это правда лишь до какой-то степени. Исключительно низкая влажность мгновенно высасывает из организма воду. Когда мы путешествовали по долине смерти (там к слову зафиксирован абсолютный температурный рекорд), на проход 30 метров от стоянки машины до Забрийски поинт потребовалась бутылка воды 0.5 - потому как если не пить постоянно, то начинает пересыхать и трескаться горло и губы.
Ну а в Шанхае все намного легче переносится, особенно если делать это перебежками от одного торгового центра с Chagee до другого с Lukin Coffee.

Мы тут с дочкой выбрались дней на 10 в Китай: сначала в Шанхай, потом в Сучжоу на летнюю школу SMILES. В Шанхае сегодня солнечно, и главное наше достижение - пережить 39 градусов в тени при высокой влажности. Ну и конечно Шанхай - город контрастов, тут прямо в наш отель на центральной улице можно войти как с красивого центрального входа, так и с задворок на параллельной улице, проходя мимо аппетитно пахнущих кучек мусора.

Как обычно, планирую писать разные путевые заметки в личный канал Курированная жизнь, а сюда какие-то самые интересные выжимки. Но если вдруг вам хочется тут больше слышать про путешествие - ставьте палец вверх, если не хочется - вниз.

Будни вайбкодера: как я психанул и реализовал язык программирования за ночь

Последнее время входит в традицию делиться тем, что я накодил. Считаю это полезным по двум причинам: иногда это что-то может вам пригодиться (как в случае с gogpt, godict и nbviewer), а иногда - это хороший пример того, как построить процесс вайбкодинга агентно-ассистированного программирования. Сегодняшний пост - про второе.

Вводные: для курсового проекта по курсу агентов мне придумалось дать задание на проверку лабораторных работ. Но вот проверять работы на Python можно на основе внутренних знаний LLM, а хотелось, чтобы для успешного выполнения задания пришлось подключать дополнительные знания (в виде RAG или как-то ещё). Отсюда родилась идея придумать вымышленный русскоязычный язык программирования РУСЛАН, ну а заодно вымышленную методику обучения информатике детей на его основе.

Как я действовал:
1️⃣ Упростил постановку - язык только с целочисленными переменными, ввод-вывод только целых чисел. Массивов нет. Но есть функции. Это позволяет уже реализовать много полезных алгоритмов: НОД/НОК, фибоначчи/факториал, разложение числа на цифры в разных системах счисления и т.д.
2️⃣ Написал очень краткое описание языка + несколько примеров программ, вроде такой:
сумма

Влияние ИИ на человека: возможности или путь к деградации. Часть 1
 
Многим уже известно: искусственный интеллект меняет нас самих, наши привычки, мышление и даже будущее наших детей. Мы все привыкли к тому, что технологии делают жизнь удобнее. Но вот вопрос: не теряем ли мы при этом что-то важное? Не становится ли каждый из нас заложником собственных изобретений? В очередном выпуске программы «Дело в цифре» с Андреем Матюхиным разбираемся, где проходит грань между новыми возможностями и потенциальной деградацией, о которой любят писать СМИ. Как использовать нейросети во благо, не утратив при этом своей индивидуальности и способности к самостоятельному мышлению?

Программа вышла на Радио России и радио Культура, доступна на SMOTRIM.

P.S. картинка сгенерирована нейросетью

Как я опять психанул и написал ещё одну утилиту: godict

Недавно прочёл умную мысль, что в мире, где стоимость и трудоёмкость создания программного обеспечения стремится к нулю, нужно иметь такой майндсет, что любую задачу, которая повторяется больше 3 раз, нужно пытаться автоматизировать. Поймал себя на том, что я примерно так и мыслю уже какой-то время.

Сейчас я пишу много текстовых курсов, и конечно попытался выстроить двухпроходный пайплайн вместе с coding-агентов, но всё равно пока недоволен результатом, приходится существенные куски переписывать. И хотелось мне такой инструмент, когда ты тыкаешь в редактор, говоришь голосом "вот сюда напиши про это" - и оно пишет.

Кажется, что и так можно сказать чату-жпт голосом, и он напишет. Но это значит надо идти во вкладку браузера, потом оттуда копировать результат и т.д. А это долго. Поэтому я решил написать себе инструмент, который будет с одной кнопкой - ты нажал, надиктовал, и результат сразу помещается в буфер обмена, его можно куда угодно вставлять. Назвал такой инструмент godict (от слова go dictator, ибо написано оно на go, как и предыдущие мои утилиты).

Помимо одной кнопки там ещё можно выбирать промпты для обработки надиктованного текста, которые берутся из config-файла. И для удобства я придумал ещё режим обработки clipboard, когда он тоже передаётся в промпт: можно например в любой программе выделить текст, выбрать промпт с использование clipboard и попросить голосом перевести на другой язык, или расписать подробнее - и результат сразу получите в clipboard-е.

Писал codex-ом, дизайн пытался делать OpenDesign-ом, но получилось не очень, поскольку возмодности go-фреймворка fyne очень ограничены. Слева на картинке текущий дизайн, справа - предложенный OpenDesign-ом.

В общем этот инструмент последние дни меня очень радует, бинарники для windows/linux/maс можно брать тут (правда, я их не тестировал, только под win). Потребуется настройка своих OpenAI-compatible api-ключей и возможно промптов под ваши задачи, зато потом время очень экономится! Наслаждайтесь!

Последнее время я много времени провожу в coding-агентах, и в итоге меня во сне мучают легкие кошмары: я представляю себе, что мой мозг - это ИИ-агент, который находится в Ralph Loop и постоянно решает какую-то задачу.
А сегодня я (тоже во сне) подумал вот что: ведь сон - это по сути неуправляемая галлюцинация! Нам в идеале нужен какой-то harness, чтобы заставить мозг работать продуктивно, и не тратить впустую эти ночные токены!
Что думаете, перспективное направление для исследований? Нужно мутить стартап? Домен уже придумал, sleep-harness.io