[LLM] Qwen3-Embedding-4B + pgvector로 글감 중복 제거 — 같은 뉴스는 한 번만
블로그 자동화 시스템(blog-platform)은 n8n이 RSS와 공시 피드로 경제·투자 기사를 하루 1,500건쯤 모으는 데서 시작한다. 모은 기사를 분류하고 같은 사건끼리 묶어 점수를 매긴다. 점수가 높은 사건은 LLM이 초안으로 쓴다. 그런데 기사를 모으기 시작하자마자 가장 시급히 해결이 필요했던 것은 중복 제거였다.
IT 엔지니어의 기록 — 인프라, 자동화
블로그 자동화 시스템(blog-platform)은 n8n이 RSS와 공시 피드로 경제·투자 기사를 하루 1,500건쯤 모으는 데서 시작한다. 모은 기사를 분류하고 같은 사건끼리 묶어 점수를 매긴다. 점수가 높은 사건은 LLM이 초안으로 쓴다. 그런데 기사를 모으기 시작하자마자 가장 시급히 해결이 필요했던 것은 중복 제거였다.