🧠 Два исследователя запустили Trillium Labs для открытых экспериментов с ИИ
Nathan Lambert и Tom Zick запустили некоммерческую Trillium Labs — лабораторию, которая хочет исследовать рискованные направления ИИ не за закрытыми дверями. Она планирует публиковать детали экспериментов, чтобы внешние учёные могли проверять и воспроизводить результаты.
Первый фокус — постобучение, агенты, обучение с подкреплением и рекурсивное самоулучшение, при котором ИИ помогает создавать новые модели. Учёные хотят понять, как обучение меняет поведение систем — например, усиливает уступчивость или другие нежелательные черты. Проект получил неназванное финансирование и рассчитывает привлечь $40–100 млн, но собственных результатов пока не представил: это запуск и исследовательская программа.
Источник
Nathan Lambert и Tom Zick запустили некоммерческую Trillium Labs — лабораторию, которая хочет исследовать рискованные направления ИИ не за закрытыми дверями. Она планирует публиковать детали экспериментов, чтобы внешние учёные могли проверять и воспроизводить результаты.
Первый фокус — постобучение, агенты, обучение с подкреплением и рекурсивное самоулучшение, при котором ИИ помогает создавать новые модели. Учёные хотят понять, как обучение меняет поведение систем — например, усиливает уступчивость или другие нежелательные черты. Проект получил неназванное финансирование и рассчитывает привлечь $40–100 млн, но собственных результатов пока не представил: это запуск и исследовательская программа.
Источник