Представлен ProToMEx — метод объяснения решений ИИ, работающий до 40 раз быстрее аналогов

Исследователи представили ProToMEx — новый фреймворк для интерпретации решений моделей машинного обучения. Согласно препринту на arXiv, предложенный метод использует вероятностные тематические модели (PTM) для поиска скрытых «тем», отражающих высокоуровневые причины классификации, выходя за рамки простой оценки важности отдельных признаков.

Существующие методы, такие как SHAP и LIME, испытывают трудности с выявлением сложных комбинаторных паттернов и требуют значительных вычислительных мощностей. ProToMEx решает эту проблему, формируя как глобальные объяснения общей логики модели, так и локальные интерпретации конкретных прогнозов с разделением нескольких действующих факторов.

Эксперименты на стандартизированных табличных и синтетических наборах данных показали, что ProToMEx обеспечивает сопоставимую с SHAP и LIME точность объяснений. При этом скорость генерации локальных интерпретаций оказалась примерно в 30–40 раз выше, что делает инструмент пригодным для использования в системах реального времени.