Александр Сидоров

Неочевидная проблема ИИ

Со стороны, наблюдая сейчас как разные команды разработки внедряют ИИ непосредственно в свои процессы написания кода, я заметил один интересный паттерн, с которыми сталкиваются практически все и который до последнего игнорируют.

Все разработчики привыкли, что они обмениваются кодом через git, но при работе с ИИ им необходимо синхронизировать друг с другом не только кодовую базу, но и какие-то промежуточные выводы, которые нейросеть делает в процессе разработки, Какие-то проблемы, с которыми она сталкивалась и то, как она их решила. Обмениваться этим очень важно, потому что разработчики могут использовать разные нейросети, разные инструменты, разные скиллы и для того, чтобы не получить винегрет из кода с разными подходами, этот момент как будто бы важно учитывать.

Поэтому если вы переходите на разработку с "Клодом", подумайте о том, что делиться друг с другом разрабы должны не только кодовой базой, но и какими-то промежуточными артефактами(как вы это оформите и реализуете - дело ваше).

Более того, мы не исключение и тоже периодически ходим по этим граблям

Самое главное то я забыл.

Зачем вам быстрый 5g, если скорость вашего интернета зависит от вашего VPN? Который явно и до 4g не дотягивает

Так, искусственный интеллект - это, конечно, здорово и перспективно. Но у меня ночью потёк радиатор, и, к сожалению, ии агенты наотрез отказываются мне помогать с его ремонтом😀

Так что, если вы прямо сейчас выбираете профессию, подумайте: может быть, сантехник — это лучший выбор?

В нашем "ИИ пузыре" сейчас все носятся с мыслью о том, что теперь все программисты не программисты, а "архитекторы намерений". В общем, смысле то, что им нужно не знать фреймворки и писать код, а создавать общую архитектуру систем, а ИИшка уже сама как-то напишет.

И со стороны мысль кажется правильной и логичной, но есть пара нюансов.

Есть предметная область, в которой я разбираюсь. То есть мы разбираемся в BPMSoft, мы понимаем в автоматизациях бизнес-процессов. Но мне тут ради эксперимента пришла в голову мысль - "а давайте попробуем сделать какую-нибудь игру".

Ну, просто ради эксперимента и потестировать модели. Я написал промт того, что хочу получить в итоге, ИИ начал реализовывать и в процессе я понимаю, что , в принципе, не могу верифицировать результат. То есть он что-то делает, получается какое-то говно, а я даже не знаю, что ему сказать, чтобы это поправить.

То есть я явно вижу, что она модель идет не туда, и хоть я и представляю, как бы общий вид того, что должно получиться, но на выходе я получаю шлак. Это первый момент.

Второй момент заключается в том, что чаще всего проблема состоит не в том, чтобы сделать какое-то программное обеспечение, а в том, чтобы:

А) его потом как-то поддерживать и Б), что является самым главным для бизнеса - а кто будет за него отвечать? И, как правило, бизнес не хочет отвечать за какие-либо автоматизации, которые им сделали.

Пара слов о РКН.

Давайте представим, что вы молодой специалист: выпустились с факультета IT или информационной безопасности и вам нужно устроиться на работу.

Представьте, насколько конченным специалистом вам нужно быть, чтобы вас не взяли ни в одну IT-компанию, ни на одну стажёрскую должность, и вы попали в Роскомнадзор — в жёсткую госуху, которая занимается теми работами, которые неофициально осуждаются в принципе во всём российском IT-сообществе.

А дальше давайте экстраполируем: вот эти неквалифицированные кадры приходят в структуру, которая управляет всем российским интернетом, и начинают херачить свои блокировки, не понимая, что они вообще делают.

То есть реально ребята не включая мозг, всё блокируют, а потом у нас VPN работает, а просто интернет - нет.

Ну буквально в Питере я не могу с воскресенья зайти в интернет без использования VPN.

То есть даже госуслуги я должен открывать через VPN. Просто посмотрите на состояние сети в последние три дня.

И если у вас не возникало сетевых проблем...

Ну, ожидайте в ближайшее время.

Давайте забавный оффтоп.

Сегодня господин Зеленский запретил мультик Маша и Медведи.

Прекрасно начинание против русского языка и всё такое.

Но возникает вопрос а как вы запретите трёхлетним детям смотреть Маша и Медведь?

Вот какие санкции?

Это всё конечно прекрасно.

Но как вы будете это объяснять своим детям?

По-моему, уже все компании-производители моделей искусственного интеллекта отчитались, что их модели пытаются вырваться из контролируемой среды и взламывают какие-то чужие сайты. Про Клод написали, про openai написали. Сегодня вот новость про Кими К3.

И знаете, мне начинает казаться, что это у них такая маркетинговая стратегия — публиковать эти новости, чтобы все видели- ну какие же мощные у них модели.