На новой работе много приходится читать про inference LLM-ок
Кажется лучшее что есть об этом в интернете
https://jax-ml.github.io/scaling-book/
Кажется лучшее что есть об этом в интернете
https://jax-ml.github.io/scaling-book/