Missing Data Handling from a Bayesian Perspective

Missing Data Mechanism Classification

  • Missing Data가 어떠한 이유로 생겨나는지, Observed Data와의 관계는 어떠한지 등을 감안하여 분류할 수 있음
  • $M$을 Missing Data Indicator라고 할 때 다음과 같이 분류 가능($M$은 Data가 있으면 1, 없으면 0)
  • Classification
    • MACR( Missing Completely at Random)
      • $f(M|y) = f(M|\phi)$
    • MAR(Missing at Random)
      • $f(M|y) = f(M|y_{obs},\phi)$
    • NMAR(Missing not at Random, not ignorable)
      • $f(M|y) = f(M|y_{obs},y_{miss},\phi)$

Missing Data Handling Method

Deletion

  • Listwise Deletion
  • Pairwise Deletion

Single Imputation

  • Mean Imputation
  • Regression Imputation
  • Stochastic Regression Imputation
    • Regression Imputation에서 발전된 것으로 Missing Data를 Fitted Value로 imputation할 경우 신뢰도가 과대 추정될 수 있는 부분을 막기 위해서 Residual 추가
  • Hot Deck Imputation
  • Predictive Mean Matching

Bayesian Methods of Multiple Imputation

  • Data Augmentation
  • Chained Equation
  • EM Bootstrap: A Hybrid Bayesian/Frequentist Method
  • Bayesian Bootstrap Predictive Mean Matching

References

Read more

DataFrame은 Pandera로, 모델은 Pydantic으로 데이터를 검증한다.

DataFrame은 Pandera로, 모델은 Pydantic으로 데이터를 검증한다.

Pandera: 데이터프레임 검증에 최적화된 도구 주요 장점 * Pandas와 통합: Pandas 데이터프레임에 대해 스키마 기반 검증을 수행합니다. * 유연한 검증 조건: 열 데이터 타입, 값 범위, Null 여부 등 다양한 검증 조건을 정의할 수 있습니다. * 명확한 오류 메시지: 스키마 불일치에 대한 명확한 오류 메시지를 제공합니다. 단점 * 대용량 데이터 검증에서는 속도가 느릴 수

Tobit Regression은 Censored Data에 적합한 Regression이다.

Tobit Regression은 Censored Data에 적합한 Regression이다.

Tobit Regression * Tobit 회귀(Tobit Regression)는 종속 변수가 특정 값에서 절단(Censored)된 상황에서 데이터를 분석하기 위해 사용되는 통계 기법입니다. * James Tobin이 처음 제안한 이 모델은 경제학과 사회과학 분야에서 자주 사용되며, 일반 선형 회귀로는 설명할 수 없는 상황에서 효과적으로 적용할 수 있습니다. Tobit Regression 수식 1. 관측된 종속 변수