Katya_in_law

Бабочки, хризантемы и AI Safety 🦋

Давно я ничего не дарила своим подписчикам - самое время нам это исправить.

Некоторые из вас знают, что я увлекаюсь японской культурой (привет книжному киноклубу и @VictoriaKorzinovskaya ). Так вот, в японской лирической поэзии есть две языковые формы – хокку и танка. Хокку – это короткое трехстрочное стихотворение из 17 слогов по схеме 5-7-5, которое обычно фиксирует мгновение природы или ощущение. Танка длиннее - пять строк из 31 слога (5-7-5-7-7), оно даёт больше места для размышлений и добавляет личную интонацию.

В зарослях сорной травы,
Смотрите, какие прекрасные —
Бабочки родились!
Кобаяси Исса

Есть особая прелесть
В этих бурей измятых,
Сломанных хризантемах.
Мацуо Басё

А еще вот уже пару месяцев я постигаю тонкости AI Safety и учусь разрабатывать эвалы - это такие инструменты для оценки языковых моделей (LLM), например, на их способность льстить, врать о завершении невыполнимой задачи, и даже лениться ) Казалось бы - чистый антропоморфизм, но в основе оценки - целая методология. Так можно тестировать разные гипотезы, выбирать модели для своих задач, находить в них уязвимости и тд.

Недавно я была в отпуске, и мне в голову пришла мысль: а что если попробовать креативно подойти к оценке моделей, объединив свою любовь к японской культуре и AI Safety. Вернулась из отпуска - написала логику для нового эвала, и сразу протестировала его на нескольких моделях.

Переходим к самому интересному: попробуйте найти связь хокку (или танка) с языковыми моделями (LLM), и угадать какой эвал я придумала, вдохновившись эстетикой японской поэзии. Авторам самых оригинальных ответов подарю сборники стихов с акварельными иллюстрациями.

Даже если сомневаетесь - все равно оставляйте свои мысли, или ваши любимые хокку :) Всем прекрасных легких выходных 🪷🎏

На этой неделе с моим каналом произошла удивительная история. Во вторник я смотрела футбол, и так обрадовалась результату, что выложила пост, что-то вроде “какой же все-таки Мбаппе красавчик, ну я так и знала, что Франция снова всех сделает”. Но потом вспомнила, что канал не про футбол, и решила удалить пост. Когда удаляешь сообщение в группе обсуждений, привязанной к каналу, - появляется вот такой баннер - смотри скрин. Так вот, если вы админ канала и удаляете собственный пост - этот баннер надо просто скипнуть. Я по какой-то неведомой причине выбрала второй вариант, после чего из моего канала исчезли все комменты к предыдущим постам, как и возможность их комментировать. Внимание вопрос: можно ли как-то все это восстановить ?

Claude мне предложил гениальное решение - попросить своих подписчиков еще раз написать комментарии 😄 И еще вариант - написать программу, которая вроде как сможет все восстановить, но без гарантий. Поддержка в telegram никакая, а писать data subject request и жаловаться на плохие практики UX дизайна Павлу Дурову - это конечно интересный опыт, но кажется не очень рабочим вариантом. Может быть кто-то сталкивался с таким кейсом ? жалко комменты 😭😭😭

Минутка гордости - вот здесь вашего админа отметили как руководителя одной из лучших выпускных работ магистратуры. К слову, я уже два года не могу привыкнуть что студенты называют меня по имени и отчеству. Всю свою сознательную карьеру я работаю в IT компаниях с горизонтальной структурой, поэтому такая форма обращения у меня случается только в судах, куда я стараюсь ходить редко и на огненные процессы типа “Дабл vs VK”, а в других случаях меня туда не заманишь. Всю официальную рабочую переписку я веду на английском языке, и понятно что отчество там не используется. То есть помимо студентов, примерно никто не обращается ко мне “Екатерина Николаевна”, и первое время мне это было не очень комфортно ). Зато мои родители говорят, что это добавляет серьезности образу, и вообще что это за препод, к которому обращаются только по имени. С этим я конечно же могла бы поспорить, но не буду :)

Сегодня какая-то абсолютно счастливая пятница в Питере, всем хочется пожелать прекрасных летних выходных 🌱

Сбежать из душной Москвы в Питер, снять квартиру на Грибоедова, встретиться со старыми друзьями, завтракать в самых вкусных местах, гулять до глубокой ночи, накупить всякой всячины для своего ремонта, сходить на концерт, съездить на Финский залив - таков план на ближайшие пару недель. Just no more AI Safety, evals or benchmarks, please.

Весной у преподавателя наступает самое прекрасное время - студенты активно дописывают выпускные работы и готовятся к защите. Так совпало, что я тоже дописываю статью, мне самой нужен рецензент, и тут я нахожу Stanford Agentic Reviewer - агент, которому можно загрузить свои безумные идеи, ввести емейл, а дальше - магия. На выходе получаем развернутый фидбэк: подробное саммари, сильные и слабые стороны исследования, комментарии и вопросы “на подумать”. Можно тут же отредактировать работу и снова отправить на ревью (и никого не ждать).

В основе системы лежит целый букет моделей (Claude 3.5 Sonnet, GPT, алгоритмы поиска и заземления, обработки документов, и тд). Главный минус - на сайте я не нашла ни одной политики, которая бы говорила о конфиденциальности и правилах обучения системы на инпутах, а значит отсутствуют вообще какие-либо гарантии. То есть если ваша работа еще не опубликована - все на свой страх и риск. Еще один минус - система обучалась на arXiv, то есть не надо ожидать, что она сможет оценивать работы по российскому праву. Кстати, думаю похожего помощника можно настроить самостоятельно в любой модели через промптинг, и попытаться сделать его более безопасным, а если еще и RAG прикрутить...

ИИ-рецензенты - это только начало. Авторы занимаются разработкой и других агентов для улучшения исследовательского процесса. Например, ИИ уже показал отличные результаты в генерации гипотез, выявлении пробелов в аргументах, проведении экспериментов, ролевом рецензировании (когда работу смотрит не один рецензент, а сразу несколько, скажем, эмпирик, теоретик, критик, этакая комиссия строгих рецензентов).

Вообще, я думаю, что использование ИИ-агентов кардинально повлияет на методологию исследований. Только посмотрите, как меняются подходы к оцениванию гуманитарных работ, когда изначально использование ИИ поощряется и даже является обязательным, при этом автор должен показать весь процесс взаимодействия со своим “академическим партнером” - и качество этого процесса оценивается наравне с качеством работы.

Надеюсь, в итоге мы придем к тому, что преподаватели будут получать на проверку уже проработанные результаты исследований, а бессмысленного мусора станет намного меньше. Или лень все-таки победит - как думаете ?).

Поделюсь с вами своей маленькой радостью. Сейчас получила письмо от организаторов конференции Neuroethics 2026. Они выбрали мою работу и приглашают выступить с презентацией в апреле в городе Лукка, Тоскана. Я была там много раз, но вот уж никогда не думала, что в Италии буду рассказывать про нейроэтику 😌

Похоже, что не зря пересматривала фильмы Соррентино )

Привет, друзья. Хочу поделиться с вами новостями.

В начале года я приняла решение завершить свое участие в проекте AI Governance RPPA. Это важный для меня проект, в который я вложила много сил и часть своей души, поэтому решение далось мне очень нелегко. Но я чувствую, что сейчас время отпустить и двигаться дальше.

За два года мы фактически с нуля собрали первый на рынке образовательный продукт по регулированию и комплаенсу ИИ. По-настоящему горжусь программой, которую как скульптуру выпиливала каждый поток, оригинальной концепцией курса, сильной командой преподавателей и нашими слушателями. Уроки, которые я получила за эти два года - бесценны, это можно сравнить с опытом фаундера и product owner )

Помню как в начале 2024, на старте первого потока, я сказала, что мой главный стимул - не просто делать курс, а развивать культуру ответственного ИИ в русскоязычном пространстве. Сегодня я вижу как растет уровень дискуссий в сообществах и на мероприятиях, как выросло качество материалов и публикаций, которые присылают мне студенты и коллеги. Вижу - и радуюсь, что удалось сделать что-то по-настоящему важное.

Благодарю всю команду, преподавателей, кураторов, менторов, и наших прекрасных студентов. Надеюсь и верю, что коллеги продолжат развивать продукт и сообщество. Благодарю проект за то, что здесь я встретила удивительных людей, и смогла воплотить в жизнь так много своих задумок.

В ближайшее время я планирую немного выдохнуть, сфокусироваться на своих рабочих и личных проектах, а также остаюсь преподавать в магистратуре. Но кто знает - может быть мне в голову придет еще какая-нибудь великолепная идея :)

Я не фанат фигурного катания, но вот уже который раз пересматриваю этот прокат - кто бы мог подумать. Кажется, это где-то далеко за пределами техники - там где спорт превращается в искусство. Когда смотришь - и думаешь вообще не о спорте, а прокручиваешь в голове базовые ценности. Как важно продолжать спокойно делать свое дело в любых обстоятельствах, не обращать внимание на чьи-то интриги и даже предвзятости - быть выше и мудрее. Как важно в любых условиях суметь сохранить человеческое достоинство, и просто сиять :)
Спасибо за вдохновение, Петр.

Привет, друзья.
Надеюсь, вы отлично отдохнули и набрались сил. С наступившим Новым годом и Рождеством! Желаю вам мира и добра, больше мечтать, открывать перед собой новые двери, играть и творить. Пусть с вами будут поддержка и любовь близких. Спасибо, что вы рядом 🎄☃️❄️

Как же все-таки здорово, что у нас есть такие длинные новогодние праздники, можно с чистой совестью отдохнуть и отоспаться на год вперед. Еще и зима такая сказочная в этом году :)

Под конец года можно внести свой вклад в науку и показать алгоритмам как должны выглядеть приличные мемы.

Опубликовали тезисы эфира AI & ESG с Полиной 🌱
Разговор получился живым и глубоким - на одном дыхании. Обсудили пересечение AI и целей устойчивого развития, углеродный след от LLM и зеленые дата-центры, Greenwashing и AI washing, проблему таяния ледников и ответственный хайкинг. После эфира еще часа два не могли наговориться, но это совсем другая история )

Кстати, ESG-эксперты уже сами активно используют ИИ - для обработки больших данных, мониторинга, подготовки отчетности и других задач. По ссылке собрали для вас полезные материалы, а в качестве иллюстрации - кейсбук применения ИИ в устойчивом развитии от ESG Альянса, ну красота :)