Привет, друзья!

Я очень часто и очень много слышу про SHAP, как про традиционный метод. С традиционностью спорить нельзя — это правда так — безумно сама его люблю.

Однако классическая постановка (вот была коалиция, были и есть игроки-признаки) касается только табличного примера и очень плохо показывает, как и почему SHAP переносится на другие модальности и задачи — и какие ограничения это несёт.

Что сделала:
Вооружившись «загашником» (разговорное: место, куда откладывают что-либо про запас), я свела многое в Хабр-статью: улучшения SHAP от "было" до "стало", со ссылками на все либы и интуицией "что там навешано".

В статье и напоминание: классическая формула и SHAP как задача взвешенного МНК, и три вопроса, которые-всех-волнуют и развивают метод. Из вопросов описаны 15 расширений, для каждого — зачем оно возникло, что поменяли и есть ли кодовая реализация.

Можно сохранить как шпору и утащить себе список библиотек с SHAP:

1. shap — основная библиотека
2. kernelshap — KernelSHAP для R
3. GPUTreeShap — TreeSHAP на CUDA
4. Fast TreeSHAP — TreeSHAP быстрее на CPU
5. shapley-regression — несмещённый KernelSHAP
6. fastshap — реализация под PyTorch, TensorFlow
7. leverageshap — KernelSHAP с гарантией точности решения
8. sage-importance — глобальная важность
9. shapiq — взаимодействия высших порядков
10. shapr — условные значения Шепли
11. GenAISHAP — Token / Pixel / Video / AgentSHAP
12. mllm-shap — SGPA для аудио

Статья на Хабре: https://habr.com/ru/articles/1067656/

Приятного чтения!