Tech Trail

영화 리뷰 데이터를 로드하고, 전처리 및 시각화하는 과정을 보여드리겠습니다. 목표TensorFlow, Pandas, Matplotlib 등의 라이브러리를 사용하여 데이터를 처리IMDb 데이터셋을 사용하여 긍정 및 부정 리뷰를 분석하고, 데이터의 분포와 특성을 파악 1. 데이터 로드먼저, 필요한 라이브러리를 임포트합니다.import osimport reimport pandas as pdimport tensorflow as tffrom tensorflow.keras import utils os: 디렉토리 작업re: 정규 표현식pandas: 데이터 조작tensorflow와 tensorflow.keras.utils: 데이터 다운로드 및 로드 IMDb 영화 리뷰 데이터셋을 다운로드하고 압축을 해제합니다.data_..

검색 엔진을 위한 TF-IDF와 Similarity 연산검색 엔진의 핵심은 사용자가 입력한 문장과 유사한 문서를 찾아내는 것입니다. 이를 위해 TF-IDF와 Similarity 연산을 조합하여 활용합니다. TF-IDF란?TF-IDF(Term Frequency-Inverse Document Frequency)는 문서 내 단어의 중요도를 나타내는 통계적 수치입니다.Term Frequency(TF): 특정 단어가 문서 내에 얼마나 자주 등장하는지 측정합니다.Inverse Document Frequency(IDF): 단어가 전체 문서에서 얼마나 흔하지 않은지를 측정합니다.TF-IDF를 사용한 키워드 추출예를 들어, 1000개의 문서에서 각 문서당 10개의 키워드를 TF-IDF로 추출한다고 가정해봅시다. 새로운 ..