Апдейты про ИИ
В нашей лаборатории активизировались обсуждения Искусственного интеллекта. На этот раз обсуждали не образование, а научную работу и хотели прийти к каким-то собственным правилам по использованию ИИ в работе. В итоге ни к чему не пришли. Слишком быстро всё меняется, слишком разные взгляды на это в лабе. В итоге решаем в частном порядке.
Но в ходе обсуждения вылезло несколько тем, которыми хотел поделиться.
Alignment
Во-первых, проблема алайнмента стала видна повсюду. Но не в том смысле, в котором мы ожидали (хотя в том - тоже). Изначально, alignment – как я понимал эту проблему – это соответствие работы ИИ нашим этическим нормам. Типа нужно уже сейчас работать над тем, чтобы ИИ решал задачи безопасным для людей способом – даже если он ещё довольно слаб.
Проблема в её нынешнем виде, выглядит так: ИИ делает то, что нужно, но по ходу делает ещё кучу вещей, которые мы его не просили. Нужны всё более сложные промпты, чтобы получить желаемый результат желаемым способом. И это наблюдается в работе многих людей, я страдаю от этого ежедневно. Иногда даже прямые инструкции “не делай то-то и то-то” почему-то обходятся.
Reduce your expectations
Дальше идут мои гипотезы/домыслы про современный ИИ.
У меня ощущение, что я намного чаще слышу жалобы на ИИ сейчас, чем, скажем, 2 года назад. После релиза чатгпт все были в экстазе. Сегодня все жалуются. И у меня родилась такая гипотеза: рост ожиданий от ИИ опережает рост его продуктивности.
Все говорят об экспоненциальном росте возможностей ИИ, но мне кажется, что ожидания от него растут так же, а то и быстрее (математики, это возможно, вообще? 😆). Поэтому фрустрация от использования ИИ со временем больше.
Encapsulation
Ну и закончу двумя совсем уж конспирологическими теориями, которые я придумал.
Первая теория гласит, что современные модели выполняют задачи таким образом, что их трудно потом править вручную. Пример из моей работы. Когда я прошу Клод написать код для какой-то задачи, он пишет его так сложно, что я ничегошеньки там не могу понять и изменить. Возможно, так и должен выглядеть код хорошего программиста, но у меня всё время ощущение, что это специально - чтобы я в дальнейшем мог работать с этим кодом только через Клод, а не самостоятельно.
Особенно это бесит, когда ты просишь поменять какую-то маленькую деталь, и он не может это сделать, а вручную тебе тоже уже не справиться (недавно пытался корректировать изображение, комбинирующее шесть графиков для статьи…). Давным-давно я писал, что ИИ хорош в создании общего ощущения нужного результата, но не в деталях. Сейчас мои примеры (генерация изображений) уже нерелевантны, но общий принцип сохраняется: ИИ может легко сгенеририть целый продукт, но добиться очень конкретных изменений деталей готового результата – это боль.
Annoy and conquer
Вторая конспирология состоит в том, что ИИ очень много спрашивает разрешений, чтобы получить доступ к каким-то сайтам, папкам, действиям. И идея-то хорошая, но часто происходит следующее: юзеру надоедает постоянно давать отдельные разрешения, и он просто разрешает доступ ко всему. То доступ к папке, в которой этот проект и так находится, то реюз кода, который мы 25 раз использовали, то доступ к сайту (алё, ты же блин как умный гугл должен быть – весь интернет твой!), то что-то вообще нечеловекочитабельное. Такое ощущение, что эти запросы СПЕЦИАЛЬНО такие дурацкие и частые, чтобы пользователи по умолчанию давали доступ ко всему.
Такие наблюдения на сентябрь 2026 года.
В нашей лаборатории активизировались обсуждения Искусственного интеллекта. На этот раз обсуждали не образование, а научную работу и хотели прийти к каким-то собственным правилам по использованию ИИ в работе. В итоге ни к чему не пришли. Слишком быстро всё меняется, слишком разные взгляды на это в лабе. В итоге решаем в частном порядке.
Но в ходе обсуждения вылезло несколько тем, которыми хотел поделиться.
Alignment
Во-первых, проблема алайнмента стала видна повсюду. Но не в том смысле, в котором мы ожидали (хотя в том - тоже). Изначально, alignment – как я понимал эту проблему – это соответствие работы ИИ нашим этическим нормам. Типа нужно уже сейчас работать над тем, чтобы ИИ решал задачи безопасным для людей способом – даже если он ещё довольно слаб.
Проблема в её нынешнем виде, выглядит так: ИИ делает то, что нужно, но по ходу делает ещё кучу вещей, которые мы его не просили. Нужны всё более сложные промпты, чтобы получить желаемый результат желаемым способом. И это наблюдается в работе многих людей, я страдаю от этого ежедневно. Иногда даже прямые инструкции “не делай то-то и то-то” почему-то обходятся.
Reduce your expectations
Дальше идут мои гипотезы/домыслы про современный ИИ.
У меня ощущение, что я намного чаще слышу жалобы на ИИ сейчас, чем, скажем, 2 года назад. После релиза чатгпт все были в экстазе. Сегодня все жалуются. И у меня родилась такая гипотеза: рост ожиданий от ИИ опережает рост его продуктивности.
Все говорят об экспоненциальном росте возможностей ИИ, но мне кажется, что ожидания от него растут так же, а то и быстрее (математики, это возможно, вообще? 😆). Поэтому фрустрация от использования ИИ со временем больше.
Encapsulation
Ну и закончу двумя совсем уж конспирологическими теориями, которые я придумал.
Первая теория гласит, что современные модели выполняют задачи таким образом, что их трудно потом править вручную. Пример из моей работы. Когда я прошу Клод написать код для какой-то задачи, он пишет его так сложно, что я ничегошеньки там не могу понять и изменить. Возможно, так и должен выглядеть код хорошего программиста, но у меня всё время ощущение, что это специально - чтобы я в дальнейшем мог работать с этим кодом только через Клод, а не самостоятельно.
Особенно это бесит, когда ты просишь поменять какую-то маленькую деталь, и он не может это сделать, а вручную тебе тоже уже не справиться (недавно пытался корректировать изображение, комбинирующее шесть графиков для статьи…). Давным-давно я писал, что ИИ хорош в создании общего ощущения нужного результата, но не в деталях. Сейчас мои примеры (генерация изображений) уже нерелевантны, но общий принцип сохраняется: ИИ может легко сгенеририть целый продукт, но добиться очень конкретных изменений деталей готового результата – это боль.
Annoy and conquer
Вторая конспирология состоит в том, что ИИ очень много спрашивает разрешений, чтобы получить доступ к каким-то сайтам, папкам, действиям. И идея-то хорошая, но часто происходит следующее: юзеру надоедает постоянно давать отдельные разрешения, и он просто разрешает доступ ко всему. То доступ к папке, в которой этот проект и так находится, то реюз кода, который мы 25 раз использовали, то доступ к сайту (алё, ты же блин как умный гугл должен быть – весь интернет твой!), то что-то вообще нечеловекочитабельное. Такое ощущение, что эти запросы СПЕЦИАЛЬНО такие дурацкие и частые, чтобы пользователи по умолчанию давали доступ ко всему.
Такие наблюдения на сентябрь 2026 года.