XAI

XAI

Anchors - High Precision Model-Agnostic Explanations

* Anchor는 쉽게 생각하면 Blackbox 모델의 특정 Instance에 대한 설명을 If-Then 형태의 Rule 형태로 설명한다고 보면 된다. * Anchors는 기존 Blackbox Model을 최대한 적게 호출하기 위해서, graph search algorithm와 Reinforcement learning techniques (MAB)를 적절히 활용한다. * Rule이라는 것이 하단의 그림처럼 Feature에 기반해서 범위 형태로 설명하기 때문에 현재 가지고 있지 않은 데이터에 대해서도

Data

[풀잎스쿨]LIME(Local Interpretable Model-agnostic Explanations)

풀잎스쿨 - LIME 발표자료(설명가능한 인공지능 기획!) from Bong-Ho Lee

XAI

[풀잎스쿨]CounterFactual Explanations

CounterFactual Explanations.pdf from Bong-Ho Lee

Data

Interpretable Machine Learning – A Brief History, State-of-the-Art and Challenges ?

Abstract 원문 We present a brief history of the field of interpretable machine learning (IML), give an overview of state-of-the-art interpretation methods and discuss challenges. Research in IML has boomed in recent years. As young as the field is, it has over 200 years old roots in regression modeling and

Data

Permutation Importance & Partial Dependence Plot 정리

Permutation Importance과 Pertial Dependence Plot은 Machine Learning Model에서 Input과 Output간의 관계를 이해하기 위한 가장 쉬운 방법론 중 하나이다. Model을 평가하는 여러 방식이 있지만 그 중에 우리는 Output에 대해서 어떠한 Feature가 가장 영향을 많이 주었는지를 보고 싶을 때가 있는데 이러한 Concept을 Feature Importance라고 말한다. 오늘 정리하는 Permutation Importance와 Partial Dependence Plot은