Дарио Амодей в интервью FT говорит о 2 главных и тонких моментах, приоритетах на 2025 год, один из которых - механистическая интерпретируемость
Самое интересное - тон интервью. Дарио говорит о революционных вещах в бизнес издании очень спокойно и буднично, что характерно для людей, которые уже работают с чем-то гораздо более продвинутым, чем публично обсуждается.
Он описывает механистическую интерпретируемость как заглядывание во внутрь ИИ-моделей, чтобы открыть черный ящик и понять, что у них внутри.
Амодей считает это самой захватывающей сферой в исследовании ИИ прямо сейчас,
возможно, наиболее важной для общества.
Для непосвященных это звучит как обычное исследование, но фактически речь идет о том, что Anthropic близки к пониманию принципов работы ИИ на фундаментальном уровне. Это может стать огромным прорывом.
Следующее важное заявление Дарио звучит так: "As we run out of natural data, we start to increase the amount of synthetic data" - это фактически признание, что они уже исчерпали доступные человеческие данные для обучения и перешли на данные, генерируемые самими ИИ системами. Это огромный технологический шаг, о котором он говорит как бы между делом.
Причем он упомянул о методах саморефлексии для обучения моделей - способность модели думать о своем мышлении.
Следующий интересный момент из этого интервью- про "entente strategy" (стратегию согласия) - фактически он говорит о формировании альянса демократических стран вокруг AI технологий, что может указывать на то, что технология уже достигла такого уровня, что требует геополитического регулирования.
Вторым приоритетом Дарио называет применение ИИ в биологии.
Сейчас они работают с фармкомпаниями на базовом уровне, но в 2025 планируют глубокие исследования, амбициозные проекты,
долгосрочные исследовательские программы.
Амодей также анонсировал появление агентных систем в 2025.
Самое интересное - тон интервью. Дарио говорит о революционных вещах в бизнес издании очень спокойно и буднично, что характерно для людей, которые уже работают с чем-то гораздо более продвинутым, чем публично обсуждается.
Он описывает механистическую интерпретируемость как заглядывание во внутрь ИИ-моделей, чтобы открыть черный ящик и понять, что у них внутри.
Амодей считает это самой захватывающей сферой в исследовании ИИ прямо сейчас,
возможно, наиболее важной для общества.
Для непосвященных это звучит как обычное исследование, но фактически речь идет о том, что Anthropic близки к пониманию принципов работы ИИ на фундаментальном уровне. Это может стать огромным прорывом.
Следующее важное заявление Дарио звучит так: "As we run out of natural data, we start to increase the amount of synthetic data" - это фактически признание, что они уже исчерпали доступные человеческие данные для обучения и перешли на данные, генерируемые самими ИИ системами. Это огромный технологический шаг, о котором он говорит как бы между делом.
Причем он упомянул о методах саморефлексии для обучения моделей - способность модели думать о своем мышлении.
Следующий интересный момент из этого интервью- про "entente strategy" (стратегию согласия) - фактически он говорит о формировании альянса демократических стран вокруг AI технологий, что может указывать на то, что технология уже достигла такого уровня, что требует геополитического регулирования.
Вторым приоритетом Дарио называет применение ИИ в биологии.
Сейчас они работают с фармкомпаниями на базовом уровне, но в 2025 планируют глубокие исследования, амбициозные проекты,
долгосрочные исследовательские программы.
Амодей также анонсировал появление агентных систем в 2025.