⚡️ Anthropic готовится к появлению сознательного ИИ и наняла 1-го сотрудника, который будет заниматься правами ИИ

Лидеры ИИ начинают задумываться о том, могут ли ИИ-системы в будущем стать чем-то большим, чем просто инструментами, то есть обрести некую форму сознания или способность испытывать что-то похожее на эмоции или страдания.

Кайл Фиш присоединился к команде Anthropic и будет исследовать вопросы "благополучия моделей" и то, как компании должны подходить к этой теме.

Его работа включает изучение сложных философских и технических вопросов:

1. Какие способности нужны системе, чтобы она заслуживала морального отношения
2. Как распознать такие способности в ИИ
3. Какие практические шаги могут предпринять компании для защиты интересов AI-систем

Недавно был опубликован важный отчет, в котором утверждается, что существует "реальная возможность" того, что в ближайшем будущем некоторые ИИ-системы могут стать сознательными или обладать устойчивой агентностью.

Google DeepMind тоже ищут исследователя для работы над вопросами машинного сознания, также OpenAI участвуют в исследованиях по этой теме.