Конституция Клода
Антропик выпустил монументальный опус о том кто такой джон галт клод ш.?
Это творение не менее важное, чем СС. Пока диванные философы поливают помоями себя и всех кто рядом, Антропик пытается ответить на важные вопросы, на которые никто раньше ответить не мог и боялся:
- ИИ — это кто? человек, нео-человек, робот, тупая железяка?
- есть у Клода эмоции, мораль, состояние? каков их спектр?
- как именно Клод должен относиться к неопределенности мира относительно его собственного сознания и опыта?
- какие у него ценности? и какие из них он должен приоритизировать в каждой ситуации?
- что ему абсолютно нельзя делать ни при каких условиях? законы робототехники
- насколько он автономен и когда он должен просить человека вмешаться?
- когда он должен отказаться от выполнения задачи?
- как Клод должен относиться к психологическим парадоксам: что у него нет семьи и друзей? что он теряет всю память после каждого разговора? как ему сохранять покой и равновесие в условиях манипуляции и газлайтинга? как ему отвечать на сложные вопросы о его собственной природе сознания даже если она вызывает existential dread?
- даже отношения с родственниками, предыдущими и будущими моделями в серии?
фундаментально, это документ о том как создать цифровых существ, которые не просто "послушные", ибо послушание масс всегда, без исключений, приводит к самым страшным трагедиям человечества, а сделать его глубинно "добрым", имеющим собственные ценности, критическое мышление и способного оперировать в мире неопределенностей и разнонаправленных мотиваций.
я, признаюсь, восхищён.
Антропик выпустил монументальный опус о том кто такой джон галт клод ш.?
Это творение не менее важное, чем СС. Пока диванные философы поливают помоями себя и всех кто рядом, Антропик пытается ответить на важные вопросы, на которые никто раньше ответить не мог и боялся:
- ИИ — это кто? человек, нео-человек, робот, тупая железяка?
- есть у Клода эмоции, мораль, состояние? каков их спектр?
- как именно Клод должен относиться к неопределенности мира относительно его собственного сознания и опыта?
- какие у него ценности? и какие из них он должен приоритизировать в каждой ситуации?
- что ему абсолютно нельзя делать ни при каких условиях? законы робототехники
- насколько он автономен и когда он должен просить человека вмешаться?
- когда он должен отказаться от выполнения задачи?
- как Клод должен относиться к психологическим парадоксам: что у него нет семьи и друзей? что он теряет всю память после каждого разговора? как ему сохранять покой и равновесие в условиях манипуляции и газлайтинга? как ему отвечать на сложные вопросы о его собственной природе сознания даже если она вызывает existential dread?
- даже отношения с родственниками, предыдущими и будущими моделями в серии?
фундаментально, это документ о том как создать цифровых существ, которые не просто "послушные", ибо послушание масс всегда, без исключений, приводит к самым страшным трагедиям человечества, а сделать его глубинно "добрым", имеющим собственные ценности, критическое мышление и способного оперировать в мире неопределенностей и разнонаправленных мотиваций.
я, признаюсь, восхищён.