spring batch入门实例

spring batch入门实例

为什么要进行批处理,哪些场合适合进行批处理?

企业领域的许多应用需要在严格的任务环境下,进行大量的商业计算。这些商业计算包括在大数据集中进行自动而又复杂的计算,而且这些计算不需要人工的干预。这些任务中经典的就是基于时间驱动的事件的复杂商业规则的周期性的应用,在大数据集上的重复计算,或者从内部、外部系统接收到的信息的集成,这些信息需要格式化、校验、像一个事务一样处理。批处理能为公司每天处理10亿计的数据。

Spring batch官方的文档中是这样介绍自己的:

Spring batch是一个轻量级的,易理解的批处理框架,它被设计成用于健壮的批处理应用,特别是企业系统的日常操作。Spring batch构建于产业化的、基于POJO的开发探索,能轻松地使用Spring框架的扩展能力,必要的时候,开发者也能很轻松地进行扩展。Spring batch不是一个任务框架。有很多的商业化的或者开源的任务框架,比如:Quartz,Tivoli,Control-M,等等。Spring batch是用来和这些协同工作,而不是取代它们。
Spring Batch提供了一些处理大容量数据的必要的可重用的函数。包括日志、事物管理,任务进度统计,任务重启,跳过,资源管理。它也提供了一些更加高级的技术服务和特性,允许处理高容量,高性能批处理任务,来应对过程优化和分布式计算。简单也很复杂,高容量的批处理任务能够以一种高度可伸缩的方式提升框架处理大量信息的能力。
当开源软件项目和相关的软件组织把他们的注意力放在基于web的和SOA消息驱动的结构框架上,基于java的可重用的批处理框架就显得那样的少,尽管企业的IT环境的需求却一直在增长。一个标准的可重用的批处理框架的缺乏导致了许多一次性的,家庭的解决方案出现在客户的IT函数中。
SpringSource和Accenture合作来改变这样情况,Accenture在自己产业上的批处理经验加上SpringSource在技术经验上的深度,和Spring已经证明的技术模型。产生了一个自然的,强大的团队,创建了个一高质量的,市场化的软件,增补了企业JAVA在批处理上的缺失。两个公司都在致力于帮一些客户解决一些相同的问题,开发基于Spring的批处理结构解决方案。这提供了一些有用的附加细节和实际的原则,帮助我们处理现实中客户提出的实际问题。因为这些和其它的一些原因,SpringSource和Acceture组建了一个团队合作开发Spring Batch。
Acceture贡献了前面所说的批处理的结构框架,基于在前几代系统构建批处理的经验,包括Spring Batch中的资源列表,扩展,和蓝图。
Acceture和Spring Batch这间的合作就是为了促进企业开发者在开发批处理应用时,能在软件处理过程中的探索、框架、工具中进行拓展。公司和政府机构,想在他们的企业IT环境中分发标准的,已经被证明的解决方案时,就会从Spring Batch中受益。

Spring Batch的使用场景:

一个经典的批处理程序是这样的:从数据库、文件、或者队列中读取大量的记录,以一种模式时行处理,然后以一种修改后的形式写回。Spring Batch自动化了这个批处理叠代,提供了以一个数据集的方式处理相似事物的能力,典型的就是没有用户交互的离线环境。批处理任务是大多数IT项目的一部分,而且Spring Batch是唯一的一个提供开源的、健壮的、企业级可伸缩性的框架。
业务场景:
1、阶段性的批处理提交
2、同时处理:并行的任务处理
3、分步的、企业级的任务处理
4、大量的并行批处理任务
5、失败之后的手动或都计划性重启
6、独立步骤的连续处理
7、部分处理:跳过错误项
8、完全的批处理事务

技术目标:
1、批处理开发者使用Spring技术模型,专注于业务逻辑,让框架来处理底层的细节;
2、概念和底层的清晰分离,批处理的执行环境和批处理应用;
3、以接口的方式提供一个一般化的、核心的运行服务,所有的项目都能实现它;
4、提供核心接口的默认简单的实现,让开发者很容易上手;
5、很简单的配置、个性化、扩展服务,通过在Spring的各个层进行扩展;
6、提供一个简单的部署模型,JAR包和应用分离,使用maven进行构建。

Spring Batch的结构

Spring Batch在设计的时候考虑到了扩展性和各种最终开发的用户的多样性。下面的图展示了分层框架的骨架,支持扩展和开发者的易用性。

分层结构展示了分层结构的三个主要部件:应用层,核心层,和基础结构层。一个应用包含了所有的批处理任务和开发者用Spring Batch写的代码。Core层包含了一些核心的运行时类,用来运行来管理一个批处理任务。它包括了像JobLauncher和Job,还有Step这样的实现。应用层和核心层都是构建在基础结构层之上。基础结构层包括了readers和writers,还有services,比如RetryTemplate,这些被应用开发者和核心框架共用。


这是一篇spring batch的入门实例,如果你对spring的一些基本概念还不是很了解,可能会有难度,本文也假设你已经对maven有一些了解。
首先新建一个maven项目,注意是jar项目,pom.xml如下:
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
	<modelVersion>4.0.0</modelVersion>
	<groupId>com.test.springbatch</groupId>
	<artifactId>spring-batch</artifactId>
	<version>0.0.1-SNAPSHOT</version>
	<name>spring-batch</name>
	<description>spring-batch</description>
	<properties>
		<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
		<org.springframework.version>3.0.7.RELEASE</org.springframework.version>
	</properties>
	<dependencies>
		<!-- 测试用 start -->
		<dependency>
			<groupId>junit</groupId>
			<artifactId>junit</artifactId>
			<version>4.11</version>
			<scope>test</scope>
		</dependency>
		<dependency>
			<groupId>org.slf4j</groupId>
			<artifactId>slf4j-api</artifactId>
			<version>1.6.1</version>
		</dependency>
		<dependency>
			<groupId>org.slf4j</groupId>
			<artifactId>slf4j-log4j12</artifactId>
			<version>1.6.1</version>
		</dependency>
		<dependency>
			<groupId>log4j</groupId>
			<artifactId>log4j</artifactId>
			<version>1.2.16</version>
		</dependency>
		<dependency>
			<groupId>org.springframework</groupId>
			<artifactId>spring-core</artifactId>
			<version>${org.springframework.version}</version>
		</dependency>
		<dependency>
			<groupId>org.springframework.batch</groupId>
			<artifactId>spring-batch-core</artifactId>
			<version>2.1.9.RELEASE</version>
		</dependency>
	</dependencies>
</project>

spring-batch的配置文件(applicationContext-batch-myfirstbatch.xml)如下:
<beans:beans xmlns="http://www.springframework.org/schema/batch"
	xmlns:beans="http://www.springframework.org/schema/beans" xmlns:bean="http://www.springframework.org/schema/beans"
	xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://www.springframework.org/schema/beans 
	http://www.springframework.org/schema/beans/spring-beans.xsd
	http://www.springframework.org/schema/batch
	http://www.springframework.org/schema/batch/spring-batch-2.1.xsd">
	<bean:bean id="jobRepository"
		class="org.springframework.batch.core.repository.support.MapJobRepositoryFactoryBean">
		<bean:property name="transactionManager" ref="transactionManager" />
	</bean:bean>
	<bean:bean id="transactionManager"
		class="org.springframework.batch.support.transaction.ResourcelessTransactionManager">
	</bean:bean>
	<bean:bean id="jobLauncher"
		class="org.springframework.batch.core.launch.support.SimpleJobLauncher">
		<bean:property name="jobRepository" ref="jobRepository" />
	</bean:bean>
	<job id="ioSampleJob">
		<step id="step1">
			<tasklet ref="begin"></tasklet>
		</step>
	</job>
	<bean:bean id="begin" class="com.test.tasklet.MyFirstTasklet" scope="step">
	</bean:bean>
</beans:beans>
这个文件放在src/main/resources文件夹下。

com.test.tasklet.MyFirstTasklet
的代码如下:
/**
 * 
 */
package com.test.tasklet;

import org.springframework.batch.core.StepContribution;
import org.springframework.batch.core.scope.context.ChunkContext;
import org.springframework.batch.core.step.tasklet.Tasklet;
import org.springframework.batch.repeat.RepeatStatus;

/**
 * @author hadoop
 *
 */
public class MyFirstTasklet implements Tasklet {

	/* (non-Javadoc)
	 * @see org.springframework.batch.core.step.tasklet.Tasklet#execute(org.springframework.batch.core.StepContribution, org.springframework.batch.core.scope.context.ChunkContext)
	 */
	public RepeatStatus execute(StepContribution arg0, ChunkContext arg1)
			throws Exception {
		
		for(int i = 0; i < 10; i++)
		{
			System.out.println(i);
		}
		
		return RepeatStatus.FINISHED;
	}

}

main函数:
/**
 * 
 */
package com.test.springbatch;

import org.springframework.batch.core.ExitStatus;
import org.springframework.batch.core.Job;
import org.springframework.batch.core.JobExecution;
import org.springframework.batch.core.JobParametersBuilder;
import org.springframework.batch.core.JobParametersInvalidException;
import org.springframework.batch.core.launch.JobLauncher;
import org.springframework.batch.core.repository.JobExecutionAlreadyRunningException;
import org.springframework.batch.core.repository.JobInstanceAlreadyCompleteException;
import org.springframework.batch.core.repository.JobRestartException;
import org.springframework.context.ApplicationContext;
import org.springframework.context.support.FileSystemXmlApplicationContext;

/**
 * @author hadoop
 *
 */
public class AppMain {

	/**
	 * @param args
	 */
	public static void main(String[] args) {
		ApplicationContext context;
		JobParametersBuilder jobPara = new JobParametersBuilder();  //设置文件路径参数
		context = new FileSystemXmlApplicationContext(new String[]{"classpath:applicationContext-batch-myfirstbatch.xml"});
	    String jobName = "ioSampleJob";
		Job job = (Job)context.getBean(jobName);
	    JobLauncher launcher = (JobLauncher)context.getBean("jobLauncher");
	    JobExecution result = null;
	    try {
	      result = launcher.run(job, jobPara.toJobParameters());
	    } catch (JobExecutionAlreadyRunningException e) {
	    	e.printStackTrace();
	    } catch (JobRestartException e) {
	    	e.printStackTrace();
	    } catch (JobInstanceAlreadyCompleteException e) {
	    	e.printStackTrace();
	    } catch (JobParametersInvalidException e) {
	    	e.printStackTrace();
	    }
	    ExitStatus es = result.getExitStatus();
	    if(es.getExitCode().equals(ExitStatus.COMPLETED.getExitCode())) //任务正常完成
	    {
	    	System.out.println("任务正常完成");
	    }
	    else
	    {
	    	System.out.println("任务失败");
	    }
	}

}
一个spring batch的入门实例的代码就这么多。
但用到的概念却不多,下面将一一说明。
Job,一个Job就是一个任务;


发布了55 篇原创文章 · 获赞 6 · 访问量 12万+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章