Transformer 요약 정리
* 강점 * Attention을 활용, 반복을 최소화하고, Positional Encoding을 활용해서 parallelization 지원 * Attention을 활용하여 Input Sequence에서 다른 Sequence의 어떠한 부분이 중요한지 결정 * 구조 * $X$개의 Encoder와
Author
Bongho Lee
Long Tail Event에서 예측시 정확도 높이기 (Doordash Case)
Long Tail Event * Long Tail Event는 Right Skewed Distribution 에서 발생하는 특징 중 하나로, Outlier와도 비슷해보이지만, Outlier대비 상당히 길게 꼬리형태로 길게 이어지는 Data Point들이
관조, 주관을 떠나 고요한 마음으로 사물을 관찰하는 힘
최근에 직장인과 문과생을 위한 수학교실 (이하 직문수)를 가볍게나마 들을 기회가 있었다. 수학이라는 거대한 학문내 주제들이 어떻게 연결되는지를 거시적인 관점에서 다루는 강의였는데, 개인적으로는 꽤
모든 일에 "Why"로 시작하라
아버지와 함께 오후 일정을 소화 후 집에 오니 오후 6시였다. 해야할 것들은 많다고 느껴지는데, 무엇을 해야 할지 모르겠다라는 생각이 머리를 맴돌았다. 그래서 오전에 읽을까
린든 존슨 대통령이 보여준 비전의 리더십
혼돈의 시대, 리더의 탄생 마지막 부분을 읽고 있다. 현재 "3부 리더의 탄생 - 그들은 어떻게 세상을 이끌어가는가?"를 읽고 있고 오늘 드디어 마지막
Bento ML Quick Example
Tutorial Model Training Model 생성 * Iris Dataset 과 SVM을 이용해서 모델을 만들어주고 저장한다. 이 때 저장 파일은 환경변수 BENTOML_HOME에 지정된 곳을 루트 디렉토리
신뢰가 지속되는 팀을 위해 필요한 요소: 투명성
혼돈의 시대, 리더의 탄생 의 거의 막바지에 이르고 있다. 현재는 프랭클린 D. 루즈벨트 대통령(이하 FDR) 편을 읽고 있다. 그는 미국 유일의 4선 대통령으로
Doordash의 Image Selection Model
요약 배경 * 이미지는 고객에게 어필하기 위한 가장 좋은 데이터 소스 * 초기에는 적은 이미지로 간단한 로직을 가지고 Feasibility Test 시작 * 현재 가게를 꾸미는 이미지는 사장님이
Log Normal Distribution(로그 정규 분포)
Log Normal Distribution은 Log를 취하면 Normal Distribution을 따르는 Random Variable에 대한 Distribution이다. PDF(Probability Density Function)는 다음과 같다. $$f(x)=\frac{1}{x\
미래를 위하여 기록을 남겨라
어제에 이어 혼돈의 시대, 리더의 탄생을 읽고 있다. 링컨에 이어서 지금 읽고 있는 것은 시어도어 루스벨트 편이다. 종종 뉴딜을 집행해서 대공황을 타개한 FDR(프랭클린
거래적 리더십과 변혁적 리더십, 리더십에 이분법은 없다.
얼마전부터 혼돈의 시대, 리더의 탄생 을 조금씩 읽고 있다. 최근 들어 이 책 외에도 많은 책들을 읽고 있는데, 잊지 않기 위해서 열심히 글을 써서
중요한 것은 꺾인 신뢰, 500원 그 이상의 여파
아내가 갑자기 매운 것이 먹고 싶다고 했다. 그렇다고 아주 매운 것은 못 먹기 때문에, 그간 먹었던 것 중 아내가 매웠다고 한 음식을 제안하며 골라보라고