1 платформа и решение 2-х разных задач: выявление биомаркеров Альцгеймера и исправление галлюцинаций в LLM
Стартап Goodfire, в который инвесторовали Anthropic, создал платформу Silico, которая позволяет заглянуть внутрь любой нейросети и изменить то, что там происходит. Не только в языковых моделях, но в любых.
Внутри платформы ИИ-агент, который сам планирует и запускает параллельные эксперименты.
Почему это важно за пределами LLM?
Пока индустрия сосредоточена на том, что модели делают, Goodfire изучает, как они это делают. И оказывается, что одна и та же логика работает в медицине, робототехнике и языковых моделях одинаково.
До сих пор механистическая интерпретируемость была привилегией Anthropic, OpenAI, Google DeepMind.
Silico переносит эти техники на следующий уровень: компании, которые работают с открытыми моделями или строят свои, но не могут позволить себе отдельную исследовательскую команду.
Стартап Goodfire, в который инвесторовали Anthropic, создал платформу Silico, которая позволяет заглянуть внутрь любой нейросети и изменить то, что там происходит. Не только в языковых моделях, но в любых.
Внутри платформы ИИ-агент, который сам планирует и запускает параллельные эксперименты.
Почему это важно за пределами LLM?
Пока индустрия сосредоточена на том, что модели делают, Goodfire изучает, как они это делают. И оказывается, что одна и та же логика работает в медицине, робототехнике и языковых моделях одинаково.
До сих пор механистическая интерпретируемость была привилегией Anthropic, OpenAI, Google DeepMind.
Silico переносит эти техники на следующий уровень: компании, которые работают с открытыми моделями или строят свои, но не могут позволить себе отдельную исследовательскую команду.