ATE 대비 CATE는 특정 하위그룹의 인과추론에 집중한다.

ATE 대비 CATE는 특정 하위그룹의 인과추론에 집중한다.
Photo by Ian Schneider / Unsplash

Average Treatment Effect (ATE)

  • $ATE=E[Y(1)]−E[Y(0)]$
  • 전체 인구에서 처치의 평균 효과를 측정하는 지표입니다.
  • ATE는 처치를 받은 경우와 받지 않은 경우의 결과 차이를 평균적으로 나타냅니다.
  • 장점
    1. 단순하고 직관적: 전체 인구에 대한 처치의 평균 효과를 쉽게 이해할 수 있습니다.
    2. 정책 결정에 유용: 전체 인구에 대한 정책 효과를 평가하는 데 유용합니다.
  1. 단점
    1. 세부 정보 부족: 특정 하위 그룹에 대한 정보를 제공하지 못합니다.
    2. 내생성 문제: 처치와 결과 간의 상관관계를 정확히 측정하기 어려울 수 있습니다.

Conditional Average Treatment Effect (CATE)

  • 특정 하위 그룹에서 처치의 평균 효과를 측정하는 지표입니다.
  • CATE는 주어진 조건에서 처치를 받은 경우와 받지 않은 경우의 결과 차이를 평균적으로 나타냅니다.
  • $CATE(X)=E[Y(1)∣X]−E[Y(0)∣X]$
    • 여기서 $X$는 조건 또는 특성을 나타냅니다.
  • 장점
    1. 세부 정보 제공: 특정 하위 그룹에 대한 처치 효과를 분석할 수 있습니다.
    2. 개별화된 정책 결정: 특정 그룹에 맞춘 정책 결정을 지원합니다.
  • 단점
    1. 복잡성 증가: 조건에 따른 처치 효과를 측정하기 위해 더 많은 데이터와 복잡한 모델이 필요합니다.
    2. 해석 어려움: 여러 조건에 따른 효과를 해석하는 것이 어려울 수 있습니다.

Alternatives

  • Instrumental Variables (IV): 도구 변수를 사용하여 내생성을 해결하는 방법입니다.
  • Propensity Score Matching (PSM): 유사한 특성을 가진 처치 그룹과 통제 그룹을 매칭하여 처치 효과를 추정합니다.

Sample Code

import numpy as np  
import pandas as pd  
from sklearn.linear_model import LinearRegression  
from sklearn.model_selection import KFold  
import matplotlib.pyplot as plt  
  
# 데이터 생성  
np.random.seed(42)  
n = 1000  
X = np.random.normal(size=(n, 5))  
T = np.random.binomial(1, 0.5, size=n)  
Y = 2 * T + X[:, 0] + np.random.normal(size=n)  
  
# 교차 검증을 통한 ATE 추정  
kf = KFold(n_splits=5)  
ATEs = []  
  
for train_index, test_index in kf.split(X):  
    X_train, X_test = X[train_index], X[test_index]  
    T_train, T_test = T[train_index], T[test_index]  
    Y_train, Y_test = Y[train_index], Y[test_index]  
      
    model = LinearRegression().fit(T_train.reshape(-1, 1), Y_train)  
    ATEs.append(model.coef_[0])  
  
ATE = np.mean(ATEs)  
print(f"Cross-validated ATE: {ATE}")  
  
# 교차 검증을 통한 CATE 추정  
def cate_cv(X, T, Y, kf):  
    CATEs = []  
      
    for train_index, test_index in kf.split(X):  
        X_train, X_test = X[train_index], X[test_index]  
        T_train, T_test = T[train_index], T[test_index]  
        Y_train, Y_test = Y[train_index], Y[test_index]  
          
        model_treated = LinearRegression().fit(X_train[T_train == 1], Y_train[T_train == 1])  
        model_control = LinearRegression().fit(X_train[T_train == 0], Y_train[T_train == 0])  
          
        CATEs.append(model_treated.predict(X_test) - model_control.predict(X_test))  
      
    return np.concatenate(CATEs)  
  
CATE_values = cate_cv(X, T, Y, kf)  
print(f"Cross-validated CATE (first 10 values): {CATE_values[:10]}")  
  
# 시각화  
plt.figure(figsize=(12, 6))  
  
# ATE 시각화  
plt.subplot(1, 2, 1)  
plt.hist(ATEs, bins=10, edgecolor='black')  
plt.title('ATE Distribution')  
plt.xlabel('ATE')  
plt.ylabel('Frequency')  
  
# CATE 시각화  
plt.subplot(1, 2, 2)  
plt.hist(CATE_values, bins=30, edgecolor='black')  
plt.title('CATE Distribution')  
plt.xlabel('CATE')  
plt.ylabel('Frequency')  
  
plt.tight_layout()  
plt.show()

Read more

ML 코드 작성시 유의사항

ML 코드 작성시 유의사항

유의사항 * 코드의 작성방식: 다른사람이 코드를 읽고 이해할 수 있는가? * 코드의 성능: 의도치 않은 부작용이 발생하는가? * 코드의 복잡성: 유스케이스에 비해 설계가 과도하고 부족한가 * 개선의 용이성: ML코드가 지속적으로 리팩토링 되는가? 코드 작성방식에 따른 개발자(+데이터과학자)의 유형 분류 출처 * 머신러닝 엔지니어링 인 액션

ELPD는 모델이 새로운 데이터를 얼마나 잘 예측하는지를 보여주는 지표입니다.

ELPD는 모델이 새로운 데이터를 얼마나 잘 예측하는지를 보여주는 지표입니다.

기본 개념 * ELPD(Expected Log Predictive Density)는 모델이 새로운 데이터를 얼마나 잘 예측하는지를 나타내는 지표로, 주어진 데이터 포인트에 대해 모델이 예측한 확률의 로그 값(로그확률)을 합산한 것입니다. $$\text{ELPD} = \sum_{i=1}^{n} \log p(y_i \mid \text{data})$$ * $n$: 데이터 포인트의 수 * $y_i$ : 실제 관측된

잭나이프 샘플링은 표본의 변동성 추정 방법중 하나입니다.

잭나이프 샘플링은 표본의 변동성 추정 방법중 하나입니다.

잭나이프 샘플링이란? * 잭나이프 샘플링은 표본 데이터에서 하나의 관측치를 제거한 여러 하위 샘플을 만들어, 이들 샘플에 대해 통계량을 계산한 후 그 결과를 바탕으로 전체 표본의 변동성을 추정하는 방법입니다. 잭 * 나이프는 주로 표본의 분산을 추정하거나 통계량의 편향을 줄이기 위해 사용됩니다. 예시 * 주어진 표본이 [x1, x2, x3, x4]라면, 잭나이프 샘플링은 다음과 같은

정확한 단위로 대화를 하는 것이 중요합니다.

정확한 단위로 대화를 하는 것이 중요합니다.

자전거를 타고 약속장소로 이동하는 중이었습니다. 근처 과일 가게에 이런 문구가 적혀있었습니다. "한 상자에 X,000원" 과일을 직접 사먹지는 않는 편이기 때문에 가격은 모르지만 꽤 매력적인 가격대였습니다. 그래서 잠시 "살까?" 망설였습니다. 하지만 이내 자전거를 타고 다시 가던 길을 갔습니다. 한 상자 안에 몇개가 들어가 있을지를 몰랐기 때문입니다.