Репост из: Адель и МЛь
Один из самых интересных моментов в релизе Claude Fable/Mythos 5 - не кодинг и даже не Pokémon.
Самое любопытное для меня - биология.
Anthropic пишет, что Mythos-class модели смогли предсказывать, как генетические изменения влияют на сборку оболочки AAV-вируса - крошечного, безопасного для человека ДНК-вируса, не вызывающего заболеваний. AAV это важный курьер для генной терапии: его используют, чтобы доставлять генетический материал в клетки.
И вот тут занятное.
Если я правильно их понимаю, то это не просто “модель запустила AlphaFold” или “выбрала правильный bio-tool”. Оно звучит сильнее - модель якобы использовала собственное биологическое рассуждение и обошла специализированные protein language модели.
То есть речь уже не только об agentic workflow, где LLM оркестрирует инструменты. Речь о том, что general-purpose LLM начинает иметь что-то похожее на биологическую интуицию.
Но, к сожалению - или к счастью - Anthropic сделали ограничение: публичная версия Fable 5 откатывается на более безопасный Opus 4.8 (устарел, да) для большинства biology/chemistry запросов.
Потому что граница стала размытой.
Запрос вроде:
“Как улучшить стабильность вирусного вектора?”
для исследователя может быть нормальной задачей.
А для злодея бондианы - частью плана по уничтожению мира.
В общем, раньше safety можно было строить вокруг явных запросов про биооружие. Теперь этого, похоже, недостаточно. Если модель реально умеет помогать с биологическим дизайном на таком уровне, то “обычные” научные вопросы тоже могут быть dual-use.
Ждем пост от Юдковского с новым призывом бомбить датацентры.
Самое любопытное для меня - биология.
Anthropic пишет, что Mythos-class модели смогли предсказывать, как генетические изменения влияют на сборку оболочки AAV-вируса - крошечного, безопасного для человека ДНК-вируса, не вызывающего заболеваний. AAV это важный курьер для генной терапии: его используют, чтобы доставлять генетический материал в клетки.
И вот тут занятное.
Если я правильно их понимаю, то это не просто “модель запустила AlphaFold” или “выбрала правильный bio-tool”. Оно звучит сильнее - модель якобы использовала собственное биологическое рассуждение и обошла специализированные protein language модели.
То есть речь уже не только об agentic workflow, где LLM оркестрирует инструменты. Речь о том, что general-purpose LLM начинает иметь что-то похожее на биологическую интуицию.
Но, к сожалению - или к счастью - Anthropic сделали ограничение: публичная версия Fable 5 откатывается на более безопасный Opus 4.8 (устарел, да) для большинства biology/chemistry запросов.
Потому что граница стала размытой.
Запрос вроде:
“Как улучшить стабильность вирусного вектора?”
для исследователя может быть нормальной задачей.
А для злодея бондианы - частью плана по уничтожению мира.
В общем, раньше safety можно было строить вокруг явных запросов про биооружие. Теперь этого, похоже, недостаточно. Если модель реально умеет помогать с биологическим дизайном на таком уровне, то “обычные” научные вопросы тоже могут быть dual-use.
Ждем пост от Юдковского с новым призывом бомбить датацентры.