Data

Marginal Effect 정리

Bongho, Lee

2022년 2월 25일 — 2 min read

Marginal Effect는 Independent Variable에 변화가 발생했을 때 Dependent Variable이 어떻게 변하는를 보여준다. 이 때 다른 Independent Variable은 모두 상수로 고정이 되어 있어야 한다는 것이다. 좀 더 간결한 정의는 다음과 같다.

Marginal effects are partial derivatives of the regression equation with respect to each variable in the model for each unit in the data.

쉽게 이야기 하면 회귀분석을 했을 때 계수를 상상하면 된다. 특정 Independent Variable의 계수는 해당 변수가 1단위(unit) 증가하거나, 감소했을 때 Dependent Variable에 미치는 영향을 설명해준다.

물론 Independent Variable가 Continuous Variable인 경우에는 Marginal Effect는 미분계수와 비슷한 의미로 변화율로 해석할 수 있지만, Discrete Variable은 1/0 형태의 이산 형태로 해석할 수가 있다.

대표적인 Marginal Effect는 1) Average Marginal Effect(AME), 2) Marginal Effect at the Mean (MEM), 3)Marginal effects at representative values (MER)가 있다. 그 외에도 Conditional Marginal Effects, Counterfactual Marginal Effects 등등이 있다.

AME는 이름이 의미하는 것처럼 관측치의 각 Independent Variable 별로 Marginal Effect를 계산한 이후에, 평균을 취하는 것이고,

MEM은 AEM에서 측정하고자 하는 Independent Variable 외에 다른 Independent Variable에 대해서 관측치 대신에, Independent Variable의 Mean이나 Mod값을 취하고 Marginal Effect를 계산한다.

마지막으로 MER은 MEM처럼 Mean이나 Mod값을 취하는 대신, 관심있는 값을 직접 선택한 이후 Marginal Effect를 계산한다.

예제는 다음과 같다.

import statsmodels.api as sm
import pandas as pd
import numpy as np
from sklearn.datasets import fetch_openml

X, y = fetch_openml("titanic", version=1, as_frame=True, return_X_y=True)

df = pd.concat([X.loc[:,['age','parch' ,'fare']],y],axis=1)
df = df.apply(pd.to_numeric)
print(df.shape)
df.head()

formula = "survived ~ age + parch + fare"
model = logit(formula, data = df).fit()

#https://www.statsmodels.org/dev/generated/statsmodels.discrete.discrete_model.DiscreteResults.get_margeff.html
AME = model.get_margeff(at = "overall", method = "dydx")
print(AME.summary())

Copy

References

[책] 생각하는 기계 - ‘황의 분노’와 OIALO, 한 엔지니어의 눈으로 본 리더의 두 얼굴

처음 “생각하는 기계“라는 제목을 보았을 때, 젠슨황을 일컫는 말인 줄알았다. 보통은 유명할지라도 자서전을 읽는 것 자체를 그리 좋아하지는 않는 편이다. 그런데 누군가 이 책에 대해 평하길 “AI의 역사를 지근거리에서 볼 수 있다”라고 한 것을 보았다. 그래서 읽게 되었다. AI의 거대한 흐름을 기술의 관점으로는 지속해서 보고 있지만 구체적으로 왜

[책]Reshuffle: Who wins when AI restacks the knowledge economy

원래는 Amazon에 가서 Personal Knowledge Managment에 관한 책을 사려고 했다. Sketch Your Mind라는 책이었는데, 그 때 이 책 “Reshuffle”을 발견하였다. AI가 어떻게 Knowledge Economy를 흔들 것가? 라는 부제를 훑어보면서 저자가 쓴 다른 책을 보게 되었는데 거기에 내가 좋아했던 책을쓴 저자라는 것을 알게 되었다. 그래서 크게 고민하지 않고 구매를 하고

[책]올라운드투자, 누군가의 투자일기

“올라운드 투자”라는 제목을 보았을 때는, “올라운드 플레이어”가 생각이 났다. “올라운드”라는 표현을 오랜만에 들어본 까닭이었다. 그럼에도 불구하고 이 책을 고른 것은 저자가 그간 보여준 컨텐츠에 대한 신뢰가 있던 까닭이었다. 컨텐츠를 다양하게 보는 편이지만 깊이가 아주 있지는 않았다. 여기서 깊이라 함은 기존 전문적인 정량적 분석의 내용의 수준을 말하는 것이다.

내가 놓치고 있던 미래, 먼저 온 미래를 읽고

장강명 작가의 책은, 유학시절 읽고 처음이었다. 유학시절 "한국이 싫어서"라는 책은 동기부여가 상당히 되는 책이었다. 한국을 떠나 새로운 정채성을 학생으로서 Build up 해나가고 있던 상황에서 이 책은 제목부터 꽤 솔깃하였다. 물론 결말이 기억날 정도로 인상깊은 책은 아니었지만 말이다. 그렇게 시간이 흘러 장강명 작가의 책은 더 이상 읽지 않던

References

Read more

[책] 생각하는 기계 - ‘황의 분노’와 OIALO, 한 엔지니어의 눈으로 본 리더의 두 얼굴

[책]Reshuffle: Who wins when AI restacks the knowledge economy

[책]올라운드투자, 누군가의 투자일기

내가 놓치고 있던 미래, 먼저 온 미래를 읽고