Gensim 기본 LDA 대신, Mallet LDA 사용시 몇가지 이슈 대처법

1.pyLDAvis 사용하려고 할 때 Inference 에러 발생시

다음과 작성했는데,  다음과 같은 에러가 발생할 경우가 있다.

pyLDAvis.enable_notebook()
vis = pyLDAvis.gensim.prepare(mallet_model, corpus, id2word)
vis
'LdaMallet' object has no attribute 'inference'

Mallet Model은 gensim 기본 모델로  변환해서 사용하면 정상적으로 사용할 수 있다.

import gensim    
model = gensim.models.wrappers.ldamallet.malletmodel2ldamodel(mallet_model)

2.get_document_topics()을 Mallet Model에서 사용하고 싶을 때

다음과 같이 작성해서 만들 수 있다.

tm_results = lda_model[corpus]

document_topic_matrix = pd.DataFrame.from_records([{v: k for v, k in row} for row in tm_results])
document_topic_matrix.columns = ['Topic ' + str(i) for i in range(0,n_topics)]
print(document_topic_matrix.shape)
document_topic_matrix.head()

Read more

DataFrame은 Pandera로, 모델은 Pydantic으로 데이터를 검증한다.

DataFrame은 Pandera로, 모델은 Pydantic으로 데이터를 검증한다.

Pandera: 데이터프레임 검증에 최적화된 도구 주요 장점 * Pandas와 통합: Pandas 데이터프레임에 대해 스키마 기반 검증을 수행합니다. * 유연한 검증 조건: 열 데이터 타입, 값 범위, Null 여부 등 다양한 검증 조건을 정의할 수 있습니다. * 명확한 오류 메시지: 스키마 불일치에 대한 명확한 오류 메시지를 제공합니다. 단점 * 대용량 데이터 검증에서는 속도가 느릴 수

Tobit Regression은 Censored Data에 적합한 Regression이다.

Tobit Regression은 Censored Data에 적합한 Regression이다.

Tobit Regression * Tobit 회귀(Tobit Regression)는 종속 변수가 특정 값에서 절단(Censored)된 상황에서 데이터를 분석하기 위해 사용되는 통계 기법입니다. * James Tobin이 처음 제안한 이 모델은 경제학과 사회과학 분야에서 자주 사용되며, 일반 선형 회귀로는 설명할 수 없는 상황에서 효과적으로 적용할 수 있습니다. Tobit Regression 수식 1. 관측된 종속 변수