DEV Community

JustJinoIT
JustJinoIT

Posted on

Dev.to 피드가 내 데이터셋을 잠식했을 때

왜 이렇게 Dev.to가 내 전체 수집량의 30% 넘게 차지했는지 궁금했어? 처음엔 "아, 그냥 인기 글이라서" 정도로 넘겼는데, 대시보드에 뜬 비율이 30%를 웃도는 걸 보니 뭔가 심상치 않더라.

야, 58건이나 한 주에 다 모아버린 거 알았어? sources.json에 피드당 최대 개수를 제한해둔 게 없었거든. 그래서 매 사이클마다 Dev.to가 끝없이 새로운 글을 내보내고, 다른 소스는 뒤처지는 상황이었어.

결국 나는 sources.json에

"max_entries": 5

을 넣어줬다. 이렇게 하면 각 피드당 최대 5개만 수집하도록 강제할 수 있거든. 적용하고 나서 다음 주에 다시 확인했을 때, Dev.to 비중이 8%대로 떨어졌고, 전체 데이터가 훨씬 고르게 섞이기 시작했어.

정리하자면, 피드당 최대 수집 개수를 명시하지 않으면 예상치 못한 편향이 생길 수 있다. 특히 트렌드가 빠르게 변하는 플랫폼은 더더욱 조심해야 해. 직접 적용해봤는데, 설정 하나만 바꿔도 수집 균형이 확 달라진다. 이제는 새 피드 추가할 때마다 max_entries를 꼭 체크한다.

Top comments (0)