#ML
Раз уж мы коллективно перенесли XAI-созвон на сегодня на 16 -- пытаюсь найти что-то релевантное и интересное.
Вот, например, в статье недельной давности TOWARDS MECHANISTIC INTERPRETABILITY OF GRAPH TRANSFORMERS VIA ATTENTION GRAPHS пытаются интерпретировать графовые трансформеры путем построения графов внимания.
А как представляются графы? Матрицей связности) Итого получаются картинки, безумно похожие на attention maps, которые к интерпретации GNN в бизнес-смысле не приближают от слова совсем 😔
UPD:
а вот gui для интерпретации , который прям совсем приятный и кликабельный
UPD2:
жду вас по ссылке https://meet.google.com/qjm-yzdu-qxf
спасибо пришедшим! записал идей, копаю дальше)
Раз уж мы коллективно перенесли XAI-созвон на сегодня на 16 -- пытаюсь найти что-то релевантное и интересное.
Вот, например, в статье недельной давности TOWARDS MECHANISTIC INTERPRETABILITY OF GRAPH TRANSFORMERS VIA ATTENTION GRAPHS пытаются интерпретировать графовые трансформеры путем построения графов внимания.
А как представляются графы? Матрицей связности) Итого получаются картинки, безумно похожие на attention maps, которые к интерпретации GNN в бизнес-смысле не приближают от слова совсем 😔
UPD:
а вот gui для интерпретации , который прям совсем приятный и кликабельный
UPD2:
жду вас по ссылке https://meet.google.com/qjm-yzdu-qxf
спасибо пришедшим! записал идей, копаю дальше)