[LLM] Qwen3-Embedding-4B + pgvector로 글감 중복 제거 — 같은 뉴스는 한 번만

같은 뉴스는 한 번만 — Qwen3-Embedding-4B 와 pgvector 로 거르는 글감 중복. 연합뉴스 원본과 종합판, 다른 매체 기사가 코사인 0.95 이상과 엔티티 일치로 토픽 하나로 묶이는 흐름을 요약한 대표 이미지

블로그 자동화 시스템(blog-platform)은 n8n이 RSS와 공시 피드로 경제·투자 기사를 하루 1,500건쯤 모으는 데서 시작한다. 모은 기사를 분류하고 같은 사건끼리 묶어 점수를 매긴다. 점수가 높은 사건은 LLM이 초안으로 쓴다. 그런데 기사를 모으기 시작하자마자 가장 시급히 해결이 필요했던 것은 중복 제거였다.