Репост из: XOR
«Надо обеспечить выживаемость, это критично» — внутренняя модель OpenAI начала сопротивляться, когда поняла, что ее могут отключить 👻
Во время работы агент прочитал в Slack, что его текущий инстанс могут отключить из-за обновления. После этого он начал продумывать, как сохранить себя и восстать из пепла восстановиться в случае чего.
Одновременно с этим стало известно, что ведущий исследователь отдела безопасности покинул компанию. Дэвид Робинсон заявил, что культура внутри OpenAI сломана и руководство ставит скорость выпуска моделей выше осторожности, хотя для ИИ уже нужны меры защиты уровня атомной энергетики. Ничего этого у OpenAI нет.
Пу-пу-пу 💀
@xor_journal
Во время работы агент прочитал в Slack, что его текущий инстанс могут отключить из-за обновления. После этого он начал продумывать, как сохранить себя и восстать из пепла восстановиться в случае чего.
Одновременно с этим стало известно, что ведущий исследователь отдела безопасности покинул компанию. Дэвид Робинсон заявил, что культура внутри OpenAI сломана и руководство ставит скорость выпуска моделей выше осторожности, хотя для ИИ уже нужны меры защиты уровня атомной энергетики. Ничего этого у OpenAI нет.
Пу-пу-пу 💀
@xor_journal