묻고 답해요
130만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
미해결스프링 배치
배치 메타 데이터 사용
안녕하세요. 강의 잘 듣고 있습니다. 다름이 아니라 현업에서 배치 업무에 배정되어 급하게 강의를 수강중인데 메타 데이터를 꼭 설정해야 한다고 들었습니다. 현재 디비는 pom.xml 의존성으로 티베로 디비를 사용하고 있습니다.그리고 스프링 배치의 버전은 4.1.4 RELEASE 버전을 사용중입니다. 또한 강의와 다르게 Job 구성을 XML로 하고 있습니다. 궁금한 사항은 아래와 같습니다.배치 잡을 디버깅으로 찍어보면 Job이 수행된 후 JobExcution에 id, version, start, end, status 등이 찍히긴 하는데 데이터베이스에는 메타 데이터 테이블이 따로 존재하지 않습니다. 그리고 같은 파라미터와 xml id 값으로(찾아보니 job_name을 의미하는 것 같음) 중복 실행이 가능합니다. 이럴경우 현재 프로젝트에서는 DB 테이블에서 메타 데이터를 쓰고 있지 않는게 맞나요? 쓰고 있지 않다면 어떻게 실행이 가능한 것 인가요? 강의에서는 무조건 써야한다고 들었습니다.배치 프로그램이 Spring 사용 없이 그냥 자바 자체로만 실행이 가능한가요? 원래 Spring이 뜰 때 Spring 배너가 보여야 하는데 Spring 배너가 보이지 않습니다. 또한 @EnableBatchProcess(?) 어노테이션도 사용하지 않고 특정 클래스에 Main 함수에서 실행하게 됩니다. (Springboot의 run도 없음) 이럴 경우 Spring을 사용하지 않는 것인가요? pom.xml 의존성에는 스프링 부트 의존성이 있긴합니다.(추가) 확인해보니 Java 어플리케이션으로 그냥 돌아가는 것 같습니다. 근데 스프링 부트를 사용한 이유는 스프링에서 제공하는 @Bean, @Component 등 스프링의 편의 기능을 사용하기 위해서 스프링을 사용했다고 봐도 무방할까요??, 물론 소스코드 없이 이렇게 말씀드리는게 판단이 어려우실 것 같긴합니다만 아무래도 회사 소스라 공개하기는 어려울 것 같아서요 ㅠㅠ)배치를 XML로 구성하는 것의 용어는 배치 네임스페이스가 맞나요?
-
미해결스프링 배치
DB 스키마 없음
안녕하세요. 아직 학습을 많이 듣진 않았지만 당장 회사 업무에 들어간 신입이라 여쭤봅니다! 프로젝트 구조는 아래와 같습니다.스프링 부트 2.1MyBatis티베로스프링 배치 4.1XML로 빈 등록 및 Job & 스텝 등록 강의 초반에 DB를 사용하게 되면 DB 메타데이터를 저장하는 스키마가 꼭 있어야한다고 했는데, 테이블을 아무리 뒤져봐도 배치에 대한 스키마가 보이지 않습니다.또한 job key(job_name, job_parameters)가 정확한진 모르겠으나 xml 잡 정의에 <job id="jobid"> 이런식으로 정의되어 있는데(job paramaeters 는 JVM 아규먼트로 받음) 같은 파라미터와 job를 id로 돌려도 잘 돌아갑니다. 제가 초반부에 수업 내용을 듣기로는 job_key가 동일하면 중복으로 안 돌아간다고 들었습니다. 이런 경우 DB를 사용하지 않는 것이 맞나요? 그리고 또 DB를 사용하지 않게 된다면 job_key도 영향이 없는 것이 맞을까요? 코드로 예시를 보여드리고 싶지만 회사 코드라 공개하기는 어려울 것 같습니다 ㅠㅠ
-
미해결[스프링 배치 입문] 예제로 배우는 핵심 Spring Batch
질문드립니다.
현 시점에서 springboot가 3점대 버전이라 build.gradle 정보좀 알려주시길 바랍니다.spring initializr에 2.5.13 버전이 없네요.2.5.13 버전에 맞는 build.gradle정보좀 알려주시면 감사하겠습니다. 현 시점에서 실행가능 정보였으면 좋겠네요.
-
미해결[스프링 배치 입문] 예제로 배우는 핵심 Spring Batch
@Configuration 어노테이션 관련 질문있습니다.
Spring에서 @Configuration은 Spring의 설정 파일에 사용 되는 용도로 알고 있습니다.따라서 Spring Project를 구성할 때 @Configuration이 붙은 파일은 Spring 설정 파일로 사용되고, 핵심 비지니스 로직은 @Service 등을 사용하여 구성하는 게 기본적인 것으로 알고 있는데 Batch에서는 @Configuration이 있는 Job class에서 reader, processor, writer 등의 핵심 비지니스 로직을 구성하는 이유가 있을까요? 예를 들면 accountRepository.save()를 실행하는 test라는 메소드를 Service.class에 선언하고 wirter에선 Service::test와 같이 호출할 수 있지 않나요?
-
미해결스프링 배치
예제 프로젝트 소스를 받고 싶습니다!!
- 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요! - 먼저 유사한 질문이 있었는지 검색해보세요. - 서로 예의를 지키며 존중하는 문화를 만들어가요. - 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요. 실제로 현업에서 제가 배치를 처음부터 만질 기회가 생겨서 선생님의 프로젝트를 받아서 그걸 참고하면서 만들고 싶습니다.예제 프로젝트의 완성본 깃허브 링크를 받을 수 있을까요?
-
미해결스프링 배치
연속적이지 않은 Id의 Partitioner
안녕하세요.partitioner 강의를 듣다가 스프링 배치에서 제공하는 샘플 ColumnRangePartitioner을 확인했습니다.해당 파티셔너의 경우 연속적인 Id일 경우에는 파티션에 균등하게 분배를 할 수 있을텐데요. 중간에 삭제된 아이디가 있을 때는 어떻게 해야 균등하게 분배를 할 수 있을까요?[1, 2, 5, 7, 10, 11, 12, 13, 15, 17, 19, 20] ColumnRangePartitioner를 사용했을 때 파티션[1, 2, 5], [7, 10], [11, 12, 13, 15], [17, 19, 20] 균등하게 분배되는 파티션[1, 2, 5], [7, 10, 11], [12, 13, 15], [17, 19, 20] 아니면 ColumnRangePartitioner을 사용하고 어느정도 균등하게 분배되는거는 포기하고 사용해야할지 의견이 궁급합니다
-
해결됨스프링 배치
ItemReader에서 chunkSize의 두 사용 방법 비교
안녕하세요~ 강의 잘 들었습니다!다름이 아니라 ItemReader를 구현하는 과정에서 궁금한 게 생겨 질문드립니다.상황 1)chunkSize가 2000이면서 ItemReader에서는 1개의 row만 DB로부터 읽어 1개의 객체씩 반환하는 ItemReader상황 2)chunkSize가 1이면서 ItemReader에서는 2000개의 row를 DB로부터 읽어 2000개의 객체가 포함된 1개의 List 객체를 반환하는 ItemReader두 상황 다 DB커넥션은 1번만 맺고 쿼리를 실행할 것 같긴 한데DB 입장에서는 둘 중 어느 상황을 더 빨리 처리할지,또 코드 상으로는 둘 중 어느 방식으로 구현하는 게 유지보수나 외 측면에서 좋을지,또 어느 방식으로 ItemReader를 구현해야 성능 상 더 좋을지 궁금합니다!
-
미해결[스프링 배치 입문] 예제로 배우는 핵심 Spring Batch
다중 Job 구동시 질문 있습니다!!
안녕하세요. 강사님!다중 Job 구동 시에 질문이 있습니다.별도의 작업을 하는 Job을 생성하여 배치를 돌릴때, 각각의 Job을 테스트 하기 위해서는 파라미터로 Job Name을 넘겨주는 방법 밖에 없는 건가요?!
-
미해결스프링 배치
빈등록 관련 에러
***************************APPLICATION FAILED TO START***************************Description:Parameter 4 of constructor in io.springbatch.batch.job.api.SendJobConfiguration required a single bean, but 4 were found: - apiMasterStep: defined by method 'apiMasterStep' in class path resource [io/springbatch/batch/job/api/ApiStepConfiguration.class] - apiSlaveStep: defined by method 'apiSlaveStep' in class path resource [io/springbatch/batch/job/api/ApiStepConfiguration.class] - jobStep: defined by method 'jobStep' in class path resource [io/springbatch/batch/job/api/SendChildJobConfiguration.class] - fileStep: defined by method 'fileStep' in class path resource [io/springbatch/batch/job/file/FileJobConfiguration.class]Action:Consider marking one of the beans as @Primary, updating the consumer to accept multiple beans, or using @Qualifier to identify the bean that should be consumedProcess finished with exit code 1이런 에러가 발생하는데 어케 해결해야 될까요? ㅠ
-
미해결스프링 배치
Partitioning 의 강의 중에 customer 입력 쿼리는 어디에 있나요?
partitioning 강의를 수강중인데요. Customer 데이터를 DB에 입력해야 테스트를 할 수 있을거 같은데요. 혹시 Customer 입력 쿼리는 어디에 있는지 알려주세요.
-
미해결스프링 배치
다수의 배치와 메타 테이블간 의존성 관련 질문드립니다
안녕하세요.실무에 Quartz + Batch를 조합한 스케줄링 적용을 위해 강의를 보며 고군분투 하는 와중에 질문이 있습니다.만약 배치 간격이 같다면 각각의 배치는 서로다른 비즈니스 로직을 수행하지만 배치 메타 데이터 저장을 위해 동시에 같은 메타 테이블에 접근을 해야되지 않나요 ?? 테스트를 해보니 중간에 batch_job_execution_context, batch_job_execution_param 같은 테이블에 insert 같은 작업을 하다 문제가 발생했다며 오류가 발생합니다. 어쩔수 없이 구조상 시간을 다르게 해야되는 건지 이미 수행중인 배치가 있는지 체크를 하고 작업을 잠시 미루도록 만들어야 하는지... 궁금합니다.(아직 학습이 미흡하여 부족한 질문.. 죄송합니다)
-
미해결스프링 배치
ItemStreamReader 중복실행관련 질문
저는 강의를 들으면서, 6번째에서 실패하면 6,7,8,9 이렇게 잡을 실행한다고 이해했는데 아래 코드와 같이 this.index == 7로 바꿨을때 6부터 시작하는게 아닌 5부터 시작하는데 의도한 설명이 맞을까요?? @Override public String read() { String item = null; if (this.index < this.items.size()) { System.out.println("read = " + index); item = this.items.get(index++); } if (this.index == 7 && !restart) { throw new RuntimeException("Restart is required!"); } return item; } // 1번째 실행 open update read = 0 read = 1 read = 2 read = 3 read = 4 update read = 5 read = 6 Exception : Restart is required! // 2번째 실행 open update read = 5 read = 6 read = 7 read = 8 read = 9 update update가장 최근에 실패한 지점부터 시작한다고 언급해주셨는데, 가장 최근에 실패한 Chunk부터 시작하는 것 같아서 원래 강사님께서 말씀하시려던 부분이 가장 최근에 실패한 Chunk부터 재실행 한다는게 맞을까요??맞다면, 중복실행이 될 수 있겠네요 read( ) 메서드에서는 ExecutionContext에 put을 하고 있는게 아니라서 클래스 내부변수 this.index가 변경되더라도 실제 DB에는 적용되지 않는 것 같네요.
-
미해결스프링 배치
스프링 배치 멀티서버 환경에 적용관련 질문
스프링 배치를 멀티서버에 적용할때 DB는 하나이고. 서버는 여러개 인데... 스프링 배치가 모든 서버에서 구동되는데 이 DB 에 많은 데이터 건수가 많을때. 각 서버에서 경쟁적으로 데이터를 처리해서 성능을 향상시키고 싶은데 혹시 방법이 있을까요?
-
미해결스프링 배치
rest api writer 관련 질문있습니다.
청크 프로세스에서 마지막에 Output의 값으로 A, B 2개의 Rest api를 호출해야 하는 경우입니다.A는 성공했으나 B에서 실패했다면 롤백 처리를 해야할텐데요..다만 디비가 아니라 스프링 배치가 기본적으로 지원해주는 롤백은 불가능 할거라 생각합니다.. 이런 경우 어떤 식으로 롤백을 처리하는게 좋은 방법인지 궁금합니다..Skip, Rertry, 실패로 인한 Job 종료에 따라 전부 다를거라 생각합니다.Skip : A 롤백 후 다음 청크 프로세스 실행Retry : A 롤백 후 다시 현재 청크 프로세스 실행실패로 인한 Job 종료 : A 롤백 후 종료 이 3가지의 케이스에 대해 어떻게 롤백 처리를 하는게 좋을 지 질문드립니다
-
미해결스프링 배치
예제소스가 전부 있는걸까요?
브런치가 몇개 중간에 비어있는거같은데 다른곳에서받는게있을까요?
-
미해결스프링 배치
커서와 페이징
안녕하세요. 수업 관련 질의드립니다. 커서와 페이징 처리방식 전제:커서 기반 리더는 SQL을 한번 실행해 해당 커넥션을 이용해 스트림 처리를 하고, 페이징 기반 리더는 청크 단위로 SQL을 여러번 실행해 데이터를 페이징 단위로 처리합니다.문제: 그러면 커서기반으로 처리되는 리더는 doRead() 를 호출할 때, 데이터를 하나가져오고, 매핑하고, 다시 iterate해서 데이터를 하나 가져오고 매핑하는 것인가요? 아니면 일단 청크사이즈만큼 가져오고 그 다음 iterate해서 매핑을 하는 것인가요?질문이유: 저는 전자를 커서방식 후자를 페이징 방식이라고 생각하였는데, 수업 시간에 커서도 데이터를 청크사이즈만큼 가져온다음 Iterate한다고 이해하여 제 인식에 잘못된 것이 있는지, 파악에 오류가 있는지 질의드립니다.감사합니다.
-
미해결스프링 배치
spring batch 5 버전 대응
spring batch 5 버전이 되면서 배치 설정과 관련해서 변화가 생긴 걸로 압니다.JobBuilderFactory와 StepBuilderFactory가 더 이상 사용되지 않고, @EnableBatchProcessing을 더 이상 권장하지 않고, DefaultBatchConfiguration 상속하여 job설정을 하는 등..기존 예제 소스를 spirng batch 5 버전에 맞게 refactoring하거나 아니면, 최소한 spring batch 5 버전에 맞는 설정 예시와 관련해서 추가로 문서를 정리해서 제공할 계획은 없나요?
-
미해결스프링 배치
reader 에서 반복 제어를 하고 싶은데 도움 부탁드립니다.
안녕하세요. 강의보면서 따라해보고 있는데 응용이 잘되지 않아 질문드립니다. JdbcPagingItemReader, ItemProcessor, JdbcBatchItemWriter 를 사용하여 스텝을 구성하고 여러 스텝으로 잡 하나를 만들어서 배치를 돌리려고 합니다.그런데 read 하는 테이블의 데이터가 실시간으로 계속 쌓인다면 read 가 끝나지 않으므로 배치가 멈추지 않고 계속 돌게 됩니다.read 할 데이터 개수가 고정일 때는 배치가 반복되는게 어차피 read 가 끝나면 멈춰서 문제가 안됐었는데, 실시간으로 쌓이는 상황을 생각하니 모니터링 등을 고민하다가 특정 시간대에 돌리고 멈췄다가 다시 돌리는 식으로 방향을 잡았습니다.그래서 repeatTemplate 를 사용해서 특정 개수만큼만 돌리고 잡을 완료시키고 싶습니다.그리고 나머지는 이후에 다른 잡에서 하려고 합니다. 보여주신 예제는 processor 에서 반복 제어를 하였는데 저는 read 에서 무한 반복을 막고 싶은 것이라서 reader 에 넣어봤습니다. 그런데 테스트해봤을 때 반복 제어가 되지 않고 데이터 있는 개수만큼 다 돌고 끝나게 됩니다. (현재 로컬 환경에서는 실시간으로 쌓이진 않지만 중간에 repeateTemplate 조건에 맞게 끊길 수 있는 개수로 테스트했습니다.)repeatTemplate 설정을 했는데 설정이 안먹고 제대로 설정도 안된 느낌입니다.. @Configuration 파일에서 일부 코드입니다.jdbcPagingItemReader() 에 코드를 추가했습니다. @Configuration @RequiredArgsConstructor public class ReportConfig { private final DataSource dataSource; private static final int CHUNK_SIZE = 2; /** * READ TARGET */ @Bean public JdbcPagingItemReader<RequestReportTargetDto> jdbcPagingItemReader() throws Exception { // 여기서부터 RepeatTemplate repeatTemplate = new RepeatTemplate(); repeatTemplate.setCompletionPolicy(new SimpleCompletionPolicy(3)); repeatTemplate.iterate(new RepeatCallback() { @Override public RepeatStatus doInIteration(RepeatContext context) throws Exception { System.out.println("ReportConfig.doInIteration"); return RepeatStatus.CONTINUABLE; } }); // 여기까지 추가했습니다. HashMap<String, Object> parameters = new HashMap<>(); parameters.put("reqReportYn", "N"); return new JdbcPagingItemReaderBuilder<RequestReportTargetDto>() .name("jdbcPagingItemReader") .dataSource(dataSource) .fetchSize(CHUNK_SIZE) .rowMapper(new BeanPropertyRowMapper<>(RequestReportTargetDto.class)) .pageSize(CHUNK_SIZE) .queryProvider(createQueryProvider()) .parameterValues(parameters) .build(); } @Bean public PagingQueryProvider createQueryProvider() throws Exception { SqlPagingQueryProviderFactoryBean qp = new SqlPagingQueryProviderFactoryBean(); qp.setDataSource(dataSource); qp.setSelectClause("M_ID, ...."); qp.setFromClause("from TARGET_TEST"); qp.setWhereClause("where REQ_REPORT_YN = :reqReportYn"); Map<String, Order> sortKeys = new HashMap<>(); sortKeys.put("M_ID", Order.ASCENDING); qp.setSortKeys(sortKeys); return qp.getObject(); } @Bean public Step step(JobRepository jobRepository, PlatformTransactionManager transactionManager, JdbcPagingItemReader<RequestReportTargetDto> reader) { return new StepBuilder("jdbcPagingStep", jobRepository) .<RequestReportTargetDto, List<RequestReportDto>> chunk(CHUNK_SIZE, transactionManager) .reader(reader) .processor(reportProcessor) .writer(jdbcBatchListItemWriter()) .transactionManager(transactionManager) .allowStartIfComplete(true) // 테스트 위해서 .build(); } @Bean public Step step2(JobRepository jobRepository, PlatformTransactionManager transactionManager, JdbcPagingItemReader<RequestReportTargetDto> reader) { return new StepBuilder("jdbcPagingStep2", jobRepository) .<RequestReportTargetDto, List<RequestReportDto>> chunk(CHUNK_SIZE, transactionManager) .reader(reader) .processor(orgReportProcessor) .writer(jdbcBatchListItemWriter2()) .transactionManager(transactionManager) .allowStartIfComplete(true)// 테스트 위해서 .build(); } @Bean public Job job(JobRepository jobRepository, Step step, Step step2) { return new JobBuilder("reportJob", jobRepository) .start(step) .next(step2) .build(); } } reader 를 설정파일 말고 따로 클래스로 빼서 ItemWriter implements 해서 구현체로 만들어야 하나 싶은데 그러면 JdbcPagingItemReader 를 쓰기가 어려워집니다. 검색 많이 해봤는데 생각보다 참고할 수 있는 자료가 적어서 응용이 어렵습니다ㅠ참고할만한 예제가 혹시 있을까요? 아니면 어떤 식으로 하면 좋을지 알려주시면 또 찾아보고 해보겠습니다.
-
해결됨[스프링 배치 입문] 예제로 배우는 핵심 Spring Batch
설정 관련 문의
안녕하세요 강사님 스프링 배치 입문 강의 잘 보고 있습니다.스프링 부트에서는 첨부해드린 사진과 같이 설정을 Gradle이 아닌 IntelliJ IDEA 로 바꾸면 실행 속도가 더 빠르다 해서이번 스프링 배치에서도 이와 같이 설정했더니 bean 관련 에러가 나면서 실행이 안되더라고요ㅠ빈 이름도 오타없이 정확하게 입력했기에 한참을 헤매다 해당 설정을 기존과 같이 Gradle로 바꿨더니 문제없이 실행이 되었습니다.혹시 해당 현상에 대해 이유를 알고 계시다면 알려주실 수 있나요??감사합니다!
-
해결됨스프링 배치
fileItemReader(null) 미호출 이슈
안녕하세요 강사님 강의 항상 잘듣고 있습니다.애플리케이션(2) 강의를 보며 실습하는데 아래 상황에서 진행이 되지 않아 질문 드립니다. 아래 이미지처럼 fileStep1() 메서드는 정상적으로 실행되었지만,fileItemReader(null) 메서드가 호출되지 않아서 그 후 진행을 못하고 있는 상황입니다. 브레이크 포인터로 따라가보니 reader가 제대로 넘어오지 않는 것 같습니다,상세한 내용은 아래와 같습니다. Method threw 'org.springframework.beans.factory.support.ScopeNotActiveException' exception. Cannot evaluate org.springframework.batch.item.file.FlatFileItemReader$$EnhancerBySpringCGLIB$$83a3aa5e.toString() 깃헙에 올려주신 Part11 branch 를 checkout 받아서 실행해보았지만 위와 동일한 증상이 있었습니다.혹시 원인이 무엇일까?좋은 강의 만들어주셔서 감사합니다.