❗️глава ИИ в Meta* предлагает новый подход к созданию ИИ человеческого уровня, который он называет "Objective-Driven AI" (ИИ, управляемый целями)
Ян Лекун говорит, что Цукерберг постоянно спрашивает его, сколько времени потребуется, чтобы достичь ИИ человеческого уровня, и он отвечает, что пройдут годы, если не десятилетия, прежде чем системы смогут рассуждать, планировать и понимать мир.
Лекун считает, что ИИ превзойдет человеческий интеллект, но это будет прогрессивная эволюция, а не мгновенный сверхразум, и он будет под нашим контролем и выполнит наши цели
Вот его предложения:
1. Архитектура Objective-Driven AI:
- Система использует модель мира для представления того, как работает мир.
- Применяются целевые функции для измерения успеха в достижении задач и обеспечения безопасности.
- ИИ оптимизирует действия на основе целей, а не просто делает предсказания.
2. Вывод путем оптимизации:
- Система находит оптимальную последовательность действий для достижения целей, рассматривая различные возможности.
- Это позволяет ИИ планировать новые задачи без дополнительного обучения.
3. Иерархическое планирование:
- Высокоуровневые цели разбиваются на подцели.
- Реализация иерархического планирования в ИИ остается нерешенной проблемой.
4. Переход от генеративных моделей к Joint Embedding Predictive Architectures (JEPA):
- JEPA учится абстрактному представлению мира и делает предсказания в этом пространстве представлений.
- Это позволяет избежать проблем генеративных моделей при предсказании неопределенного будущего.
5. Обучение Objective-Driven AI:
- Система должна учиться из данных, избегая тривиальных результатов.
- Используются методы максимизации информационного содержания, такие как регуляризация дисперсии, ковариации, инвариантности и методы дистилляции.
6. Открытый исходный код:
- Лекун подчеркивает важность открытости платформ ИИ для обеспечения разнообразия и включения различных культур, языков и систем ценностей.
7. Контролируемость:
- Objective-Driven AI, будучи ориентированным на цели, останется контролируемым, действуя в рамках ограничений и целей, установленных людьми.
Этот подход направлен на преодоление ограничений современных моделей ИИ, таких как отсутствие долговременной памяти, истинного понимания, рассуждений и способности к сложному планированию.
*запрещенная организация в России.
Ян Лекун говорит, что Цукерберг постоянно спрашивает его, сколько времени потребуется, чтобы достичь ИИ человеческого уровня, и он отвечает, что пройдут годы, если не десятилетия, прежде чем системы смогут рассуждать, планировать и понимать мир.
Лекун считает, что ИИ превзойдет человеческий интеллект, но это будет прогрессивная эволюция, а не мгновенный сверхразум, и он будет под нашим контролем и выполнит наши цели
Вот его предложения:
1. Архитектура Objective-Driven AI:
- Система использует модель мира для представления того, как работает мир.
- Применяются целевые функции для измерения успеха в достижении задач и обеспечения безопасности.
- ИИ оптимизирует действия на основе целей, а не просто делает предсказания.
2. Вывод путем оптимизации:
- Система находит оптимальную последовательность действий для достижения целей, рассматривая различные возможности.
- Это позволяет ИИ планировать новые задачи без дополнительного обучения.
3. Иерархическое планирование:
- Высокоуровневые цели разбиваются на подцели.
- Реализация иерархического планирования в ИИ остается нерешенной проблемой.
4. Переход от генеративных моделей к Joint Embedding Predictive Architectures (JEPA):
- JEPA учится абстрактному представлению мира и делает предсказания в этом пространстве представлений.
- Это позволяет избежать проблем генеративных моделей при предсказании неопределенного будущего.
5. Обучение Objective-Driven AI:
- Система должна учиться из данных, избегая тривиальных результатов.
- Используются методы максимизации информационного содержания, такие как регуляризация дисперсии, ковариации, инвариантности и методы дистилляции.
6. Открытый исходный код:
- Лекун подчеркивает важность открытости платформ ИИ для обеспечения разнообразия и включения различных культур, языков и систем ценностей.
7. Контролируемость:
- Objective-Driven AI, будучи ориентированным на цели, останется контролируемым, действуя в рамках ограничений и целей, установленных людьми.
Этот подход направлен на преодоление ограничений современных моделей ИИ, таких как отсутствие долговременной памяти, истинного понимания, рассуждений и способности к сложному планированию.
*запрещенная организация в России.