Skip to content

공공데이터 API 비동기 병렬 호출 성능 개선 #33

@haennni

Description

@haennni

🔨 리팩토링이 필요한 부분

현재 공공데이터(OpenAPI) 호출 시 전체 500페이지 데이터를 동시에 병렬로 요청하고 저장하는 구조
데이터 저장 테스트를 하며 아래와 같은 이유로 해당 구조의 개선 필요성을 느낌

  • 실제 실행 시 총 174초(약 3분)가 소요되는 등 과도한 시간 소모 발생
  • WebClient 타임아웃
  • 저장 병목으로 인한 saveAll() 지연
  • 데이터 저장 시 긴 시간 소요
  • 병렬 요청 수를 제어하지 않을 시, 외부 API 서버와 자체 서버 과부하 가능성

리팩토링 작업 브렌치

✅ refactoring TODO

  • 전체 처리 시간 및 성능 로깅 추가
  • 데이터 저장 과정으로 인한 병목 완화

Metadata

Metadata

Assignees

No one assigned

    Labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions