살아낸 자의 솔직한 소회 - 세이노의 가르침
솔직해서 너무 좋았다. 뭐랄까, 삶에 대해서 전체적으로 조망하지 않고, 흐리멍텅한 말투로 "현재의 나"가 계속 지속될 것처럼 말하는 사람이나 말투가 너무 싫었다. 그런 측면에서 저자인 세이노님은 정치적인 부분은 차치하고 나서라도 마음에 와닿는 부분이 참 많았다. 오히려 내가 부끄러운 부분이 너무 많았다.
부자가 되려면 미래 방정식에 지금의 처지를 대입하면 절대, 절대,
Latest
[책] 투자철학의 스케일을 보여준다. 소로스 투자특강
"소로스"는 워런버핏과 더불어 성공한 한 시대의 투자가로서 아흔을 넘어 여전히 정력적으로 활동하고 있다. 하지만 그에 대해서 우리가 아는 것은 거의 없다. 나 역시도 "영국과 싸워 이긴 헤지펀드 투자가" 정도로만 기억하고 있을 뿐이다.
그런 그가 생전 듣지도 못했던 대학 "중부유럽대학"에서 특강을 했다는 이야기를 들었고, 몇 번 사보려고 하다가, (중요성과
Target Encoding에 대한 간략한 요약
Target Encoding은 해당 Category에 나타난 Target Variable의 평균을 이용해서 Categorical Values를 대체하는 방식이다. 구성원의 코드를 리뷰하던 도중, Label Encoder를 쓴 부분들을 보다가 Label Encoder를 쓰는게 맞는가에 대한 생각이 들어 대안을 생각해보던 중 Target Encoder가 떠올랐다.
평균이라는 하나의 Value로 Categorical Value를 대체하기 때문에 간편하기도 하고, Label Encoder로 했을 경우 대치된 수치간의
[책]퀀트의정석, 퀀트에 관한 큰 그림을 보여준다.
Covid-19이 창궐할 즈음, 올웨더 포트폴리오를 시작으로, 정량투자, 시스템 트레이딩에 대해서 관심을 가지기 시작하였던 것같다. 그 이후 꾸준히 정량적인 투자를 하고 있지만, 뭐랄까 전체적인 그림 없이, 코끼리의 몸만 매번 만져가는 식의 투자는 개인적으로 맞지 않아 흥미가 많이 빠졌던 중에 퀀트대디님의 책, "퀀트의 정석"이 출간되었다고 하여 책을 읽어보게 되었다.
저자는 퀀트
Entropy, Cross-Entropy, KL Divergence
Entropy는 Cross Entropy Loss라는 이름으로 Deep Learning에서 분류 모델을 하는 이에게는 꽤나 익숙한 함수이다. 식으로는 다음과 같이 쓴다.
$$-{1 \over n}\sum\limits^n_{i=1}\sum\limits^c_{c=1}L_{ic}log(P_{ic})$$
* $n$ = 데이터 갯수
* $C$ = 범주 갯수
* $L$ = 실제 값 (주로 0 또는 1)
Transformer 요약 정리
* 강점
* Attention을 활용, 반복을 최소화하고, Positional Encoding을 활용해서 parallelization 지원
* Attention을 활용하여 Input Sequence에서 다른 Sequence의 어떠한 부분이 중요한지 결정
* 구조
* $X$개의 Encoder와 $X$의 Decoder로 구성되어 있음
* Encoder와 Decoder의 수는 동일하며, Encoder는 모두 동일한 구조, but Weight Matrix를 공유하지 않음
* Encoder는 Self-Attention과 Feed-Forward로 구성되어 있음
* Self Attention에서는 $K,
Long Tail Event에서 예측시 정확도 높이기 (Doordash Case)
Long Tail Event
* Long Tail Event는 Right Skewed Distribution 에서 발생하는 특징 중 하나로, Outlier와도 비슷해보이지만, Outlier대비 상당히 길게 꼬리형태로 길게 이어지는 Data Point들이 보이고, 이들의 빈도가 상대적으로 높은 편이다. 이러한 형태는 이커머스나 배달앱 등 여러 곳에서 자주 보이는 형태이다. 전체 회원을 RFM 관점으로 나눠서 봐도 Long Tail Event를 찾아