Видео недоступно для предпросмотра
Смотреть в Telegram
Стартап Generalist анонсировали робота, который может выучить действие всего за одно повторение
Достаточно один раз показать GEN-1.5, что и как надо сделать, и он тут же сможет продолжить делать это самостоятельно в one-shot, без файнтюнинга и обновления весов.
Демонстрация вставляется в контекстное окно модели, как в промпт у LLM. Модель смотрит на это как на часть последовательности и продолжает ее.
Самое интересное, что это эмерджентное свойство. Авторы прямо пишут, что они не делали никаких архитектурных изменений под in-context learning, просто скармливали модели огромный объем физического опыта (дома, склады, заводы и пр), и она сама начала показывать способность к обучению по одному примеру. Примерно как GPT-3 когда-то.
При этом в блоге написано, что иногда in-context обучение работает даже лучше, чем 1-5 шагов дообучения на тех же данных.
https://generalistai.com/blog/gen-1.5
Достаточно один раз показать GEN-1.5, что и как надо сделать, и он тут же сможет продолжить делать это самостоятельно в one-shot, без файнтюнинга и обновления весов.
Демонстрация вставляется в контекстное окно модели, как в промпт у LLM. Модель смотрит на это как на часть последовательности и продолжает ее.
Самое интересное, что это эмерджентное свойство. Авторы прямо пишут, что они не делали никаких архитектурных изменений под in-context learning, просто скармливали модели огромный объем физического опыта (дома, склады, заводы и пр), и она сама начала показывать способность к обучению по одному примеру. Примерно как GPT-3 когда-то.
При этом в блоге написано, что иногда in-context обучение работает даже лучше, чем 1-5 шагов дообучения на тех же данных.
https://generalistai.com/blog/gen-1.5