[책]퀀트의정석, 퀀트에 관한 큰 그림을 보여준다.
Covid-19이 창궐할 즈음, 올웨더 포트폴리오를 시작으로, 정량투자, 시스템 트레이딩에 대해서 관심을 가지기 시작하였던 것같다. 그 이후 꾸준히 정량적인 투자를 하고 있지만, 뭐랄까 전체적인 그림 없이, 코끼리의 몸만 매번 만져가는 식의 투자는 개인적으로 맞지 않아 흥미가 많이 빠졌던 중에 퀀트대디님의 책, "퀀트의 정석"이 출간되었다고 하여 책을 읽어보게 되었다.
저자는 퀀트
Latest
Entropy, Cross-Entropy, KL Divergence
Entropy는 Cross Entropy Loss라는 이름으로 Deep Learning에서 분류 모델을 하는 이에게는 꽤나 익숙한 함수이다. 식으로는 다음과 같이 쓴다.
$$-{1 \over n}\sum\limits^n_{i=1}\sum\limits^c_{c=1}L_{ic}log(P_{ic})$$
* $n$ = 데이터 갯수
* $C$ = 범주 갯수
* $L$ = 실제 값 (주로 0 또는 1)
Transformer 요약 정리
* 강점
* Attention을 활용, 반복을 최소화하고, Positional Encoding을 활용해서 parallelization 지원
* Attention을 활용하여 Input Sequence에서 다른 Sequence의 어떠한 부분이 중요한지 결정
* 구조
* $X$개의 Encoder와 $X$의 Decoder로 구성되어 있음
* Encoder와 Decoder의 수는 동일하며, Encoder는 모두 동일한 구조, but Weight Matrix를 공유하지 않음
* Encoder는 Self-Attention과 Feed-Forward로 구성되어 있음
* Self Attention에서는 $K,
Long Tail Event에서 예측시 정확도 높이기 (Doordash Case)
Long Tail Event
* Long Tail Event는 Right Skewed Distribution 에서 발생하는 특징 중 하나로, Outlier와도 비슷해보이지만, Outlier대비 상당히 길게 꼬리형태로 길게 이어지는 Data Point들이 보이고, 이들의 빈도가 상대적으로 높은 편이다. 이러한 형태는 이커머스나 배달앱 등 여러 곳에서 자주 보이는 형태이다. 전체 회원을 RFM 관점으로 나눠서 봐도 Long Tail Event를 찾아
관조, 주관을 떠나 고요한 마음으로 사물을 관찰하는 힘
최근에 직장인과 문과생을 위한 수학교실 (이하 직문수)를 가볍게나마 들을 기회가 있었다. 수학이라는 거대한 학문내 주제들이 어떻게 연결되는지를 거시적인 관점에서 다루는 강의였는데, 개인적으로는 꽤 큰 소득이 많았던 강의였다. 무엇보다 "수학"이라는 것이 어떤 절대적인 진리라기보다는 탄탄한 근거를 통해 설명하는 학문이라는 것을 정확하게 알게 되었다.
개인적으로 데이터 과학 업에서 일하면서 가장
모든 일에 "Why"로 시작하라
아버지와 함께 오후 일정을 소화 후 집에 오니 오후 6시였다. 해야할 것들은 많다고 느껴지는데, 무엇을 해야 할지 모르겠다라는 생각이 머리를 맴돌았다. 그래서 오전에 읽을까 하여 Read it Later로 북마크해놓은 ‘챗GPT의 아버지’ 샘 알트만은 어떤 사람인가 글을 읽기 시작하였다.
이 글을 대략 빠르게 훑어서 마지막에 갈 때 쯤, 그 생각이 들었다.
린든 존슨 대통령이 보여준 비전의 리더십
혼돈의 시대, 리더의 탄생 마지막 부분을 읽고 있다. 현재 "3부 리더의 탄생 - 그들은 어떻게 세상을 이끌어가는가?"를 읽고 있고 오늘 드디어 마지막 대통령인 린든 존슨대통령 부분을 읽고 있다.
교사를 하다가 아버지를 따라 정치에 입문해서 케네디 대통령의 암살로 대통령에 오르면서 빠르게 재선까지 준비해야 했던 그는 정치 생활에서 비전을 제시하면서 동시에