학습시 "존재"하는 고유범주값을 고유정수값으로 치환하는 Label Encoder

학습시 "존재"하는 고유범주값을 고유정수값으로 치환하는 Label Encoder
Photo by Jorge Ramirez / Unsplash

Background

  • 가게별로 예측치를 제공할 때 가게에 대한 식별자를 어떻게 전달할 것인가에 대해서 고민한 적이 있고, Label Encoder를 사용했던 적이 있다.

Label Encoder is.

  • Label Encoder는 범주형 데이터를 수치형으로 변환하는 Encoder

Motivation

  • Categorical Data를 ML이 이해할 수 있는 형태인 Numeric으로 변경

Pros & Cons

Pros

  • 매우 구현이 간편하다.
  • 데이터셋이 크더라도 빠르게 변환할 수 있다.
  • 동일한 범주형 데이터에 대해서는 일관되게 동일한 정수값을 부여한다.

Cons

  • Numeric은 크기에 따른 순서가 있으나 Categorical Data와 동일한 형태의 순서를 보장하지 않기 때문에 순서 정보가 손실될 수 있다.
  • 모델의 출력이 정수값으로 표현되기 때문에, 다시 원래 범주형 값으로 해석해야 하는 추가적인 작업이 필요하다.
  • 다중 클래스 문제에서 각 클래스에 숫자를 할당하므로, 이러한 숫자가 모델에 잘못된 중요도를 부여할 수 있습니다. 모델은 숫자에 우리가 생각하지 않은 의미를 부여할 수 있다.
  • 학습당시와 다른 Categorical Data가 들어올 경우 Encoded Value가 잘못 매칭되어서 전체적으로 데이터가 흐트러질 수 있다. Cold Start에 대한 별도의 대응이 필요할 수 있다.

Alternatives

  • One Hot Encoding: 이진 벡터 형태로 변환하여 각 열에 따라 구분함
  • Ordinal Encoding: Categorical Data에 순서가 있는 경우 순서에 맞춰 정렬 후 수치형으로 변환
  • Target Encoding: Target Variable과의 관계를 고려하여 Encoding

Sample

from sklearn.preprocessing import LabelEncoder  
  
# 데이터 생성  
fruits = ['사과', '바나나', '체리', '바나나', '체리', '사과']  
  
# LabelEncoder 인스턴스 생성  
label_encoder = LabelEncoder()  
  
# 데이터 변환  
encoded_fruits = label_encoder.fit_transform(fruits)  
  
# 결과 출력  
print("원본 데이터:", fruits)  
print("변환된 데이터:", encoded_fruits)

Read more

내가 놓치고 있던 미래, 먼저 온 미래를 읽고

내가 놓치고 있던 미래, 먼저 온 미래를 읽고

장강명 작가의 책은, 유학시절 읽고 처음이었다. 유학시절 "한국이 싫어서"라는 책은 동기부여가 상당히 되는 책이었다. 한국을 떠나 새로운 정채성을 학생으로서 Build up 해나가고 있던 상황에서 이 책은 제목부터 꽤 솔깃하였다. 물론 결말이 기억날 정도로 인상깊은 책은 아니었지만 말이다. 그렇게 시간이 흘러 장강명 작가의 책은 더 이상 읽지 않던

By Bongho, Lee
고객 경험이란 무엇일까?

고객 경험이란 무엇일까?

고객경험이란 무엇일까? 1. 과거 어느 대형 프로젝트에서 있던 일이다. 신사업을 위해서 예측 모델 값을 제공해야 하는 상황이었다. 데이터도 없고,어느정도의 정확도를 제공해야 하는지 답이 없었다. 점추정을 할 것인가? 구간 추정을 할 것인가를 가지고 논의중이었다. Product Manager 줄기차게 고객경험을 내세우며 점추정으로 해야 한다고 주장하였다. 근거는 오롯이 "고객 경험"이었다.

By Bongho, Lee
수요예측, 수정구슬이 아닌 목표를 향한 냉정한 나침반

수요예측, 수정구슬이 아닌 목표를 향한 냉정한 나침반

수요예측의 정의와 비즈니스에서의 중요성 기업의 성장과 운영 효율화를 위해 **수요예측(Demand Forecasting)**은 선택이 아닌 필수 요소로 자리 잡았다. 많은 경영진들이 수요예측을 미래 판매량을 정확히 맞히는 '예언'으로 기대하지만, 이는 수요예측의 본질을 오해하는 것이다. 수요예측의 진짜 의미: 미래를 점치는 수정구슬이 아니라, 우리가 도달해야 할 '목표'를

By Bongho, Lee