Nvidia выпустила cutile-rs и статью Fearless concurrency on GPU - dsl для написания кастомных куда ядер на rust с сохранением абстракций безопасного параллелизма из rust без потери производительности.
В целом, в топ компаниях курс на замещение C++ rust-ом продолжается, в том числе в AI-inference домене, думаю, песпективы языка - по прежнему неплохие.