Попался тред от кофаундера Electric Capital по поводу того, что ИИ (а по факту - LLM, это далеко от ИИ) облегчает работу во многих профессиях и необходимость в кодерах падает:
https://x.com/avichal/status/1888723144837648619
Немного мыслей по поводу этого на собственном опыте со стороны ресерчера, почему ИИ в текущем виде из-за неправильного восприятия как какой-то могущественной штуки, которая способна на все - это огромная ошибка и зло.
Проблема возникает из-за того, что зачастую "эффективные менеджеры", которые не работают "на земле", начинают думать, что это сильно сокращает время, затрачиваемое на работу. Отчасти это так - действительно, для некоторых задачи вроде написания небольшого куска кода на основе уже существующих решений или упаковки данных в таблицу - вполне возможно. Или переделать дашборд на дюне, или написать какой-нибудь ончейн трекер.
Результаты, которые выдает ИИ, требуют проверки, потому что он ошибается в задачах, которые для людей являются довольно простыми. Например, даже простой перевод текста в обе стороны подвергается некоторым модификациям, и для сохранения стиля письма текст приходится править, из-з чего иногда уходит больше времени.
Или поиск информации: даже специализированные под криту ИИ (или точнее МЛ-модели) сильно уступают по качеству поиска человеку, который сфокусирован в теме. Да, они могут выдать какие-то новые источники. Но мало. Основной поиск информации - все старый добрый гуглеж + просматривание статей авторов в блогах под нужную тематику.
ИИ не может составить свое исследование из технических документов без логических искажений, он даже не может рассчитать некоторые относительно простые вещи.
Потому что он не имеет объективности, и если например в питче или документации изолированного протокола мимоходом написано, что продукт может косвенно повлиять на DeFi-пространство - все модели радостно пишут, что это революция, которая кардинально изменит DeFi! К тому же, все модели ИИ даже в последних версиях имеют галлюцинации, просто они небольшие и практически незаметные, но сильно искажают достоверность информации.
Например, торговые боты на основе ИИ не могут строить самостоятельные стратегии и хеджирование. Все параметры прописывает человек, который понимает эту область. Или простейшая задача с поиском релевантных цен на аренду облачных GPU: если web3 проект вроде Aethir пишет, что он дает самые дешевые цены - ИИ будет отталкиваться от этого, несмотря на то что у них реальные цены в 5-10 раз выше конкурентов.
ИИ не обладает абстрактным и критическим мышлением, чтобы генерировать новые стратегии, искать дополнительную информацию в других источниках, сравнивать ее или подстраиваться под нарративы. Или например, исправление ощибок в коде из-за использования каких-то старых библиотек или использования устаревших типов, операторов: чтобы их исправить, человек, делающий запрос, должен разбираться в этом, чтобы понять в чем конкретно ошибка или почему что-то не работает. ИИ может предложить способы исправления на основе беглого поиска, что чаще все приводит к большему накоплению ошибок.
Также ИИ даже после множества обновлений моделей не может написать авторский текст - он начинает вставлять чушь и построение текста выдает его использование.
Также печально видеть, что некоторые из VC и DAO используют это для написания исследований - это видно по скудности данных и логическим противоречиям или заблуждениям по тексту. Ценность таких исследований околонулевая, но при этом они вводят людей, которые погружены не так глубоко, в заблуждения!
Только после того, как произойдет серия серьезных финансовых потерь и катастроф, люди поймут, что ИИ не способен заменить людей. ИИ может быть помощником, но даже тогда это требует перепроверки. Но никак не заменой сотрудниками.
Это очень жестокая сказка и заблуждение. И из-за постоянного стремления менеджеров уменьшить операционные расходы это превращается в сюр.
https://x.com/avichal/status/1888723144837648619
Немного мыслей по поводу этого на собственном опыте со стороны ресерчера, почему ИИ в текущем виде из-за неправильного восприятия как какой-то могущественной штуки, которая способна на все - это огромная ошибка и зло.
Проблема возникает из-за того, что зачастую "эффективные менеджеры", которые не работают "на земле", начинают думать, что это сильно сокращает время, затрачиваемое на работу. Отчасти это так - действительно, для некоторых задачи вроде написания небольшого куска кода на основе уже существующих решений или упаковки данных в таблицу - вполне возможно. Или переделать дашборд на дюне, или написать какой-нибудь ончейн трекер.
Результаты, которые выдает ИИ, требуют проверки, потому что он ошибается в задачах, которые для людей являются довольно простыми. Например, даже простой перевод текста в обе стороны подвергается некоторым модификациям, и для сохранения стиля письма текст приходится править, из-з чего иногда уходит больше времени.
Или поиск информации: даже специализированные под криту ИИ (или точнее МЛ-модели) сильно уступают по качеству поиска человеку, который сфокусирован в теме. Да, они могут выдать какие-то новые источники. Но мало. Основной поиск информации - все старый добрый гуглеж + просматривание статей авторов в блогах под нужную тематику.
ИИ не может составить свое исследование из технических документов без логических искажений, он даже не может рассчитать некоторые относительно простые вещи.
Потому что он не имеет объективности, и если например в питче или документации изолированного протокола мимоходом написано, что продукт может косвенно повлиять на DeFi-пространство - все модели радостно пишут, что это революция, которая кардинально изменит DeFi! К тому же, все модели ИИ даже в последних версиях имеют галлюцинации, просто они небольшие и практически незаметные, но сильно искажают достоверность информации.
Например, торговые боты на основе ИИ не могут строить самостоятельные стратегии и хеджирование. Все параметры прописывает человек, который понимает эту область. Или простейшая задача с поиском релевантных цен на аренду облачных GPU: если web3 проект вроде Aethir пишет, что он дает самые дешевые цены - ИИ будет отталкиваться от этого, несмотря на то что у них реальные цены в 5-10 раз выше конкурентов.
ИИ не обладает абстрактным и критическим мышлением, чтобы генерировать новые стратегии, искать дополнительную информацию в других источниках, сравнивать ее или подстраиваться под нарративы. Или например, исправление ощибок в коде из-за использования каких-то старых библиотек или использования устаревших типов, операторов: чтобы их исправить, человек, делающий запрос, должен разбираться в этом, чтобы понять в чем конкретно ошибка или почему что-то не работает. ИИ может предложить способы исправления на основе беглого поиска, что чаще все приводит к большему накоплению ошибок.
Также ИИ даже после множества обновлений моделей не может написать авторский текст - он начинает вставлять чушь и построение текста выдает его использование.
Также печально видеть, что некоторые из VC и DAO используют это для написания исследований - это видно по скудности данных и логическим противоречиям или заблуждениям по тексту. Ценность таких исследований околонулевая, но при этом они вводят людей, которые погружены не так глубоко, в заблуждения!
Только после того, как произойдет серия серьезных финансовых потерь и катастроф, люди поймут, что ИИ не способен заменить людей. ИИ может быть помощником, но даже тогда это требует перепроверки. Но никак не заменой сотрудниками.
Это очень жестокая сказка и заблуждение. И из-за постоянного стремления менеджеров уменьшить операционные расходы это превращается в сюр.