This is RE-CONSIERDED, a brand new site by Bongho Lee that's just getting started. Things will be up and running here shortly, but you can subscribe in the meantime if you'd like to stay up to date and receive emails when new content is published!
Pandera: 데이터프레임 검증에 최적화된 도구 주요 장점 * Pandas와 통합: Pandas 데이터프레임에 대해 스키마 기반 검증을 수행합니다. * 유연한 검증 조건: 열 데이터 타입, 값 범위, Null 여부 등 다양한 검증 조건을 정의할 수 있습니다. * 명확한 오류 메시지: 스키마 불일치에 대한 명확한 오류 메시지를 제공합니다. 단점 * 대용량 데이터 검증에서는 속도가 느릴 수
Docker 재시작 스크립트 #!/bin/bash CONTAINERS=("container1_name" "container2_name") # 감시할 컨테이너 이름 입력 CHECK_INTERVAL=600 # 체크 주기 (초 단위) while true; do for CONTAINER_NAME in "${CONTAINERS[@]}"; do # 컨테이너 상태 확인 CONTAINER_STATUS=$(docker inspect -f '{{.State.Status}}' "$CONTAINER_
Tobit Regression * Tobit 회귀(Tobit Regression)는 종속 변수가 특정 값에서 절단(Censored)된 상황에서 데이터를 분석하기 위해 사용되는 통계 기법입니다. * James Tobin이 처음 제안한 이 모델은 경제학과 사회과학 분야에서 자주 사용되며, 일반 선형 회귀로는 설명할 수 없는 상황에서 효과적으로 적용할 수 있습니다. Tobit Regression 수식 1. 관측된 종속 변수
* +1: when the feature increases, the prediction must be greater or equal; * 0: no monotonic constraint (default); * -1: when the feature increases, the prediction must be smaller or equal. * Python Code 예 decision_tree_with_constraints = DecisionTreeRegressor( max_depth=3, min_samples_leaf=10, monotonic_cst=[1,1] # this line
CQR is * **Conformalized Quantile Regression(CQR)**은 예측 불확실성을 정량화하기 위해 개발된 방법으로, 회귀 문제에서 신뢰 가능한 예측 구간을 생성하는 데 사용됩니다. * 전통적인 **Quantile Regression(분위수 회귀)**과 **Conformal Prediction(적합 예측)**을 결합한 기법으로, 데이터의 분포 가정 없이 사후적 예측 구간을 제공합니다. Motivation * 기존의 예측 방법은 보통 점 예측(
대체로 리더로 커리어를 전환하게 되면, 실무에 대해서 집중하기 어려워지게 된다. 실무에 집중하기 보다는 회사와 사람에 대해서 보다 집중해야 하기 때문이다. 즉, 탁월한 리더는 회사와 사람에 대해서 확실한 족적을 남겨야 한다. 반대로 말하면, 탁월하지 않은 리더는 회사와 사람에 대해서 성과보다는 상처만 남기는 경우를 종종 볼 수 있다. 회사생활을 하다 보면 탁월한
Signaling Theory (신호 이론) * **Signaling Theory(신호 이론)**는 의사소통 과정에서 한쪽 당사자가 정보를 신호를 통해 다른 쪽 당사자에게 전달하는 과정을 설명하는 이론입니다. * 이 이론은 경제학, 생물학, 경영학, 심리학 등 다양한 분야에서 활용되며, 정보의 비대칭성이 존재하는 상황에서 등장한 개념입니다. 이 이론이 등장한 이유 * **정보 비대칭성(Information Asymmetry)**은 시장에서 두
학교를 다닐 때 밑줄을 많이 친 것은 열심히 공부한 흔적이라고 생각한 적이 있었다. 그래서 항상 열심히 그었다. 공부를 한 것을 티내고 싶었기 때문이다. 물론 줄을 그은 만큼 나는 성적이 어느 정도는 잘 나오는 것같았다. 물론 두어번 그을 때나 성적이 올랐지, 세번 네번 그을 때는 공부를 한다기 보다는 줄 긋는 것에만
글을 잘 쓰고 싶었다. 글 중에도 여러 형태의 글이 있겠지만 스토리가 잘 살아 있는 글을 쓰고 싶었다.흐름 측면에서 어느정도는 상상이 잘 되는 그런 글을 쓰고 싶었다. 흐름이 좋은 글은 읽기에도 막힘이 없는 글이라고 생각하였다. 그리고 막힘이 없는 글을 잘 써보기 위해서는 매일 글을 쓰는 것만큼 좋은 훈련이 없다고 생각하였다.
Motivation * **Zero-Inflated Negative Binomial Model(ZINB)**은 데이터셋에서 0 값이 과도하게 나타나는 경우에 이를 효과적으로 다루기 위해 개발된 모델입니다. 이 모델은 두 가지 과정을 결합하여 0 값이 생성되는 메커니즘과 실제 데이터 분포(음이항 분포)를 동시에 설명합니다 * 일반적인 음수 이항 분포(Negative Binomial)는 과도한 분산(overdispersion)을 다루는 데
작년부터 시작해서 정말 많은 책을 읽었던 것같다. 연단위 100권 이상을 읽었으니 아마 대한민국 연평균 독서량의 100명분을 혼자 한 것이나 다름없었다. 그런데 이렇게 책을 읽다보면, 어느 시점부터인가 모든 책이 다 비슷한 내용을 언급하는 것같아 흥미는 떨어지고 스킵하며 읽는 속도는 점차 빨라지기 시작한다. 언틋 보면 속독같이 보여서 대단해보일 때도 있지만, 책에서 활자
주의력 관련 유명한 실험으로 고릴라실험이 있다. 심리학자 다니엘 사이먼스(Daniel Simons)와 크리스토퍼 차브리스(Christopher Chabris)가 설계한 실험으로 피실험자는 사람들이 농구를 하는 장면을 관찰하면서 패스 횟수를 세야 하는 미션을 부여 받는다. 이 때 중간에 고릴라 복장을 한 사람이 지나간다. 실험이 종료된 이후, 피실험자에게 고릴라를 보았는지 물어본다. 이 때 절반의
가난한 찰리의 연감이라는 책을 읽기 시작하고 있다. 이 책을 읽게 된 계기는 시기적인 부분과 맞물렸다. 얼떨결에 들어간 독서모임의 첫 책이었기 때문이다. 그렇게 시간적 여유와 상관없이 읽어야 했던 책이었다. 그리고 독서 모임에서 나는 무엇인가 말을 해야 했다. 독서모임을 시작하기 5분 전, 급히 책을 훑어보던 나에게 보이는 문구가 있었다. 기분이나 인식을 바꾸기
Holdout Group은 실험에서 완전히 제외된 그룹으로, 주로 장기적인 영향을 평가하거나, 베이스라인을 측정하기 위해서 사용되는 경우가 많다. 언틋 보면 Holdout Group은 Control Group과 큰 차이가 없어보이기도 하다. 실제로 시험을 셋팅할 때 가장 많이 듣는 질문 중의 하나가 바로 왜 Control Group과 Holdout Group을 별도로 셋팅하는가이다. Holdout Group과 Control Group의 차이는 실험에
과거의 나도 중요하지만, 과거의 모든 삶을 오롯이 현재와 연결시킬 필요는 없다. 두가지 이유가 있다. 첫번째로는 크게 생각하기 위해서는 과거의 이야기에 너무 묶여서는 안된다. 사실 자기암시 자체가 어떻게 보면 일반화하기에는 무리가 있다고 생각한다. 하지만 철학자 비트겐슈타인이 언급한 바와 같이 사람의 사고는 결국 본인이 만든 세계 안에 언어로 표현되어 제약되는 것을 감안하다면,
Career
루틴을 만들기 위해서는, 목적 아래 정말 기계적으로 해야 하는 것같다. 아침 일찍 일어나야지 마음을 먹은지 오래 되었지만, 어느 순간 삐끗한 이후부터는 더 이상 일어나려고 하지 않는다. 아니 눈을 떠지는 순간, 나는 내 그럴 줄 알았다 하면서 다시금 잠을 청하고 만다. 마치 누군가 내 귀에 패배의식을 속삭이듯 말이다. 이런 느낌은, 긍정확언을
Father
결국 죽고나면, 우리도 저렇게 쓰레기같이 악취만 나는 존재가 되어 버릴텐데. 음식쓰레기를 버리면서 코를 찌르는 악취를 맡게 되었다. 자연스레 숨을 참고 나는 빠르게 쓰레기를 버리는데 집중하였다. 그 떄 이 생각이 불연듯 머리를 스쳐나갔다. 2인 가족에서 3인가족으로 가족의 구조가 재편되어가는지 어느덧 2년이 되어가고 있다. 무라카미 하루키처럼 때로는 자신의 삶을 완벽하게 디자인하면서 살아보겠다고
A/B Test
비모수 통계검정 * 비모수 통계검정(Non-parametric test)은 데이터가 특정한 분포(정규분포 등)를 따르지 않아도 적용할 수 있는 통계적 방법입니다. * 즉, 데이터의 분포를 가정하지 않고 실험 결과를 비교할 수 있어 작은 샘플 크기나 분포가 불확실한 상황에서 유용하게 사용됩니다. * 비모수 검정은 데이터를 순위로 변환하여 분석하거나, 데이터 자체의 분포에 대해 통계적 결론을
A/B Test
SRM(Sampling Ratio Mismatch)란? * SRM(Sampling Ratio Mismatch)은 A/B 테스트에서 두 개 이상의 그룹에 할당된 샘플 수가 의도한 비율과 일치하지 않는 현상을 말합니다. * 예를 들어, A/B 테스트를 진행할 때 A와 B 그룹에 각각 50%씩 트래픽을 할당하는 것이 일반적입니다. 하지만 예상과 다르게, A 그룹에 70%, B
A/B Test
톰슨 샘플링이란? * 톰슨 샘플링(Thompson Sampling)은 멀티 암드 밴딧 문제(Multi-Armed Bandit Problem)에서 사용되는 확률론적 알고리즘으로, 다양한 선택지(예: 광고, 제품 추천) 중에서 가장 효율적인 선택지를 반복적으로 탐색하는 방법입니다 * 이는 탐험(Exploration)과 활용(Exploitation)의 균형을 잘 맞추기 위한 기법으로, 각 선택지의 성공 확률을 베이지안 방법론을 통해
Thought
나는 대체불가능한 사람인가? 아침에 아이를 돌보면서 문득 들었던 생각이다. 사내에서 하나의 사원번호로 관리되다가 퇴직하기 쉬운 세상에서 대체불가능한 사람이 되려면 어떻게 되어야 하는 것일까? 그 순간 떠오르는 대체불가능한 사람은 다음 두가지 유형에 속하는 사람이었다. 첫째, 말그대로 유니크(Unique)해서 대체불가능한 사람이었다. 대다수의 사람과 달리 구별되는 특징을 갖고 있으면 대체되기 어렵다고 생각하였다.
Data
SeedFinder * 편향을 최소화하기 위해 "SeedFinder" 방식에서 가장 적은 편향을 가진 SaltKey를 찾는 프로세스 * 기본적인 아이디어는 여러 SaltKey를 사용해 무작위화된 그룹을 생성하고, A/A 테스트에서 이 그룹들의 성과 지표(예: 전환율 등)가 균등한지 평가하여 편향이 적은 SaltKey를 선택하는 것입니다. 전체 프로세스 1. 여러 SaltKey를 생성 2. 각 SaltKey에
Data
Chi-Square Test가 A/B/C Test에서 사용되는 구체적인 경우 * 범주형 데이터 분석: 각 그룹에서 클릭하거나 전환된 사람의 수를 비교할 때, 이 데이터를 범주형 변수로 간주하고 Chi-Square Test를 적용할 수 있습니다. * 다중 그룹 비교: A/B/C 테스트에서 세 개 이상의 그룹을 비교해야 할 때, Chi-Square Test는 모든 그룹 간의 독립성을
OLS
배경 * 아래 글을 DANBI에서 보다가 더 알아보게 되었습니다. OLS를 떠받치는 몇 개의 기둥이 있는데 그중 실용적으로 가장 중요한 것이 일치성(consistency)다. 쉽게 말해서 OLS를 통해 도출된 추정량이 있을 때 샘플사이즈가 커지면서 이 값이 참 값으로 접근한다는 것이다. 일치성이 충족되면 우리는 적당하게 큰 표본에 대해서 추정치가 좋은 속성을 지니고 있다고
AI
사람들이 AI가 필요하다고 생각하는 시점 저 판사를 얼른 AI로 교체해야 한다. 유튜브에서 뉴스를 보다 보면 정말 많이 보이는 덧글입니다. 이러한 내용의 덧글이 달릴 때마다, 정말 많은 사람들이 공감을 표하곤 합니다. 왜 이렇게 사람들은 이러한 주장에 공감을 표하는 것일까? AI는 시킨대로 하기 때문에 공정하다는 인식 여러 이유가 있겠지만, 사람들은 아마 AI가
Data
1. BG/NBD 모델이란? * BG/NBD(Beta-Geometric/Negative Binomial Distribution) 모델은 **고객의 생애 가치(Customer Lifetime Value, CLV)**를 추정하는 데 사용되는 확률적 모델입니다. * 특히 고객이 반복 구매를 할지, 아니면 더 이상 활동하지 않을지를 추정하는 데 유용합니다. 이 모델은 고객의 구매 행태를 두 가지 중요한 개념으로 나눕니다: * 고객은 활성(active)
Data
다중공선성(Multi Collinearity) * **Multi-Collinearity(다중공선성)**는 독립 변수들 간의 강한 상관관계가 존재할 때 발생합니다. 즉, 한 독립 변수가 다른 독립 변수에 의해 설명될 수 있을 정도로 상관관계가 높은 상황을 의미합니다. * 이 문제는 주로 회귀 분석에서 나타나며, 변수들 간의 관계를 해석하는 데 있어 큰 장애물이 될 수 있습니다. * 일반적인 회귀식을 $Y=
Data
Bayesian P- Value * Bayesian P-Value는 **모델의 적합도(goodness-of-fit)**를 평가하는 데 사용됩니다. * 사후 분포(posterior distribution)를 이용하여 실제 데이터와 모델이 생성한 예상 데이터를 비교함으로써, 관측된 데이터가 모델에 의해 얼마나 잘 설명되는지를 평가합니다. * 빈도주의 p-값은 "관찰된 데이터보다 극단적인 데이터가 나올 확률"을 계산하지만, Bayesian P-Value는 "모델이 실제
Data
Non Identifiability * Non-Identifiability는 주어진 데이터와 모델에 대해 특정 파라미터를 고유하게 식별할 수 없는 상황을 의미합니다. 즉, 여러 파라미터 값들이 동일한 데이터를 생성할 수 있으며, 이로 인해 특정 파라미터 값을 확정적으로 추정하기 어렵게 됩니다. * 베이지안 추론에서 Non-Identifiability는 사후 분포가 특정 파라미터 값에 대해 명확하게 수렴하지 않고, 여러 값들에 대해 비슷한 확률을
Data
Rootgram * 히스토그램의 변형으로 데이터가 비정규적이거나 큰 분산을 가지는 경우, 정확한 분포를 파악하기 위해 사용됩니다. * 일반적으로 히스토그램은 데이터의 빈도를 직접적으로 나타내기 때문에, 큰 값이 빈번하게 발생하는 경우 상대적으로 작은 값을 잘 드러내지 못하는 경향이 있습니다. 반면, Rootgram은 빈도를 제곱근 형태로 변환하여, 데이터 분포의 차이를 더 잘 시각화할 수 있도록 돕습니다 * 여기서
Data
유의사항 * 코드의 작성방식: 다른사람이 코드를 읽고 이해할 수 있는가? * 코드의 성능: 의도치 않은 부작용이 발생하는가? * 코드의 복잡성: 유스케이스에 비해 설계가 과도하고 부족한가 * 개선의 용이성: ML코드가 지속적으로 리팩토링 되는가? 코드 작성방식에 따른 개발자(+데이터과학자)의 유형 분류 출처 * 머신러닝 엔지니어링 인 액션