В конечном итоге проблема алайнмента суперинтеллекта (ASI) сводится к аналогу договора о нераспространении ядерного оружия. Несколько крупных игроков объединятся и силой запретят иметь ASI кому-либо еще. Входить в "ASI-клуб". Будут бомбить датацентры, потому что Тайваню, скажем, "не по Сеньке шапка". А Израиль свой ASI создаст тайно. Давать 15 лет за распространение весов. Ловить через Интерпол ИИ-"террористов" с "грязным ASI". Ограничат мощность, чтобы избежать гонки вычислений. То есть это на 90% политика, причем всем давно знакомая. Совершенно не футуристичная.