"일꾼이 일을 잘하려면 먼저 도구를 갈고 닦아야 한다." - 공자, 『논어』.
첫 장 > 프로그램 작성 > 병렬 처리 #eg39로 대용량 csv 파일 처리

병렬 처리 #eg39로 대용량 csv 파일 처리

2024-11-02에 게시됨
검색:802

CSV 파일에는 대량 주문 데이터가 저장됩니다.

Process a large csv file with parallel processing #eg39

Java를 사용하여 이 파일을 처리합니다. 금액이 3,000~5,000 사이인 주문을 찾아 고객별로 그룹화하고 주문 금액을 합산하고 주문을 계산합니다.

Process a large csv file with parallel processing #eg39
다음 SPL 문을 작성합니다.

=file("d:/OrdersBig.csv").cursor@mtc(;8).select(Amount>=3000 && Amount

cursor() 함수는 메모리에 맞지 않는 대용량 파일을 구문 분석합니다. 기본적으로 직렬 계산을 수행합니다. @m 옵션을 사용하면 다중 스레드 데이터 검색이 가능합니다. 8은 병렬 스레드의 수입니다. @t 옵션을 사용하면 첫 번째 줄을 열 제목으로 가져올 수 있습니다. @c 옵션을 사용하면 쉼표를 구분 기호로 사용할 수 있습니다.

SPL을 Java 애플리케이션에 통합하는 방법을 알아보려면 Java에서 SPL 스크립트를 호출하는 방법을 읽어보세요.

이것은 StackOverflow의 문제 중 하나입니다. 클릭하면 기존 솔루션이 상당히 복잡하다는 것을 알 수 있지만 SPL 접근 방식은 정말 간단하고 효율적입니다.

SPL 오픈 소스 주소

릴리스 선언문 이 기사는 https://dev.to/esproc_spl/process-a-large-csv-file-with-parallel-processing-eg38-40mo?1에서 복제됩니다.1 침해가 있는 경우, [email protected]으로 문의해 주십시오. 그것을 삭제하려면
최신 튜토리얼 더>

부인 성명: 제공된 모든 리소스는 부분적으로 인터넷에서 가져온 것입니다. 귀하의 저작권이나 기타 권리 및 이익이 침해된 경우 자세한 이유를 설명하고 저작권 또는 권리 및 이익에 대한 증거를 제공한 후 이메일([email protected])로 보내주십시오. 최대한 빨리 처리해 드리겠습니다.

Copyright© 2022 湘ICP备2022001581号-3