阳光男孩

Never give up!

Entries Tagged ‘线程池’

Java编程中线程池的最大风险规避

2顶一下虽然线程池能大大提高服务器的并发性能,但使用它也会存在一定风险。与所有多线程应用程序一样,用线程池构建的应用程序容易产生各种并发问题,如对共享资源的竞争和死锁。此外,如果线程池本身的实现不健壮,或者没有合理地使用线程池,还容易导致与线程池有关的死锁、系统资源不足和线程泄漏等问题。 1.死锁   任何多线程应用程序都有死锁风险。造成死锁的最简单的情形是,线程A持有对...[阅读全文]

2
顶一下

虽然线程池能大大提高服务器的并发性能,但使用它也会存在一定风险。与所有多线程应用程序一样,用线程池构建的应用程序容易产生各种并发问题,如对共享资源的竞争和死锁。此外,如果线程池本身的实现不健壮,或者没有合理地使用线程池,还容易导致与线程池有关的死锁、系统资源不足和线程泄漏等问题。

1.死锁
  任何多线程应用程序都有死锁风险。造成死锁的最简单的情形是,线程A持有对象X的锁,并且在等待对象Y的锁,而线程B持有对象Y的锁,并且在等待对象X的锁。线程A与线程B都不释放自己持有的锁,并且等待对方的锁,这就导致两个线程永远等待下去,死锁就这样产生了。
虽然任何多线程程序都有死锁的风险,但线程池还会导致另外一种死锁。在这种情形下,假定线程池中的所有工作线程都在执行各自任务时被阻塞,它们都在等待某个任务A的执行结果。而任务A依然在工作队列中,由于没有空闲线程,使得任务A一直不能被执行。这使得线程池中的所有工作线程都永远阻塞下去,死锁就这样产生了。

2.系统资源不足
  如果线程池中的线程数目非常多,这些线程会消耗包括内存和其他系统资源在内的大量资源,从而严重影响系统性能。

3.并发错误
  线程池的工作队列依靠wait()和notify()方法来使工作线程及时取得任务,但这两个方法都难于使用。如果编码不正确,可能会丢失通知,导致工作线程一直保持空闲状态,无视工作队列中需要处理的任务。因此使用这些方法时,必须格外小心,即便是专家也可能在这方面出错。最好使用现有的、比较成熟的线程池。例如,直接使用java.util.concurrent包中的线程池类。

4.线程泄漏
  使用线程池的一个严重风险是线程泄漏。对于工作线程数目固定的线程池,如果工作线程在执行任务时抛出 RuntimeException 或Error,并且这些异常或错误没有被捕获,那么这个工作线程就会异常终止,使得线程池永久失去了一个工作线程。如果所有的工作线程都异常终止,线程池就最终变为空,没有任何可用的工作线程来处理任务。
导致线程泄漏的另一种情形是,工作线程在执行一个任务时被阻塞,如等待用户的输入数据,但是由于用户一直不输入数据(可能是因为用户走开了),导致这个工作线程一直被阻塞。这样的工作线程名存实亡,它实际上不执行任何任务了。假如线程池中所有的工作线程都处于这样的阻塞状态,那么线程池就无法处理新加入的任务了。

5.任务过载
  当工作队列中有大量排队等候执行的任务时,这些任务本身可能会消耗太多的系统资源而引起系统资源缺乏。
综上所述,线程池可能会带来种种风险,为了尽可能避免它们,使用线程池时需要遵循以下原则。
(1)如果任务A在执行过程中需要同步等待任务B的执行结果,那么任务A不适合加入到线程池的工作队列中。如果把像任务A一样的需要等待其他任务执行结果的任务加入到工作队列中,可能会导致线程池的死锁。
(2)如果执行某个任务时可能会阻塞,并且是长时间的阻塞,则应该设定超时时间,避免工作线程永久的阻塞下去而导致线程泄漏。在服务器程序中,当线程等待客户连接,或者等待客户发送的数据时,都可能会阻塞。可以通过以下方式设定超时时间:
调用ServerSocket的setSoTimeout(int timeout)方法,设定等待客户连接的超时时间;
对于每个与客户连接的Socket,调用该Socket的setSoTimeout(int timeout)方法,设定等待客户发送数据的超时时间。
(3)了解任务的特点,分析任务是执行经常会阻塞的I/O操作,还是执行一直不会阻塞的运算操作。前者时断时续地占用CPU,而后者对CPU具有更高的利用率。预计完成任务大概需要多长时间?是短时间任务还是长时间任务?
根据任务的特点,对任务进行分类,然后把不同类型的任务分别加入到不同线程池的工作队列中,这样可以根据任务的特点,分别调整每个线程池。
(4)调整线程池的大小。线程池的最佳大小主要取决于系统的可用CPU的数目,以及工作队列中任务的特点。假如在一个具有N个CPU的系统上只有一个工作队列,并且其中全部是运算性质(不会阻塞)的任务,那么当线程池具有 N 或 N+1 个工作线程时,一般会获得最大的 CPU 利用率。
如果工作队列中包含会执行I/O操作并常常阻塞的任务,则要让线程池的大小超过可用CPU的数目,因为并不是所有工作线程都一直在工作。选择一个典型的任务,然后估计在执行这个任务的过程中,等待时间(WT)与实际占用CPU进行运算的时间(ST)之间的比例WT/ST。对于一个具有N个CPU的系统,需要设置大约N×(1+WT/ST)个线程来保证CPU得到充分利用。
当然,CPU利用率不是调整线程池大小过程中唯一要考虑的事项。随着线程池中工作线程数目的增长,还会碰到内存或者其他系统资源的限制,如套接字、打开的文件句柄或数据库连接数目等。要保证多线程消耗的系统资源在系统的承载范围之内。
(5)避免任务过载。服务器应根据系统的承载能力,限制客户并发连接的数目。当客户并发连接的数目超过了限制值,服务器可以拒绝连接请求,并友好地告知客户:服务器正忙,请稍后再试。

Leave a Comment

使用java.util.concurrent实现的线程池、消息队列功能

1顶一下ThreadPoolManager类:负责管理线程池,调用轮询的线程来访问字符串缓冲区的内容,维护缓冲区,当线程池溢出时抛出的 Runnable任务被加入到字符缓冲区。 public class ThreadPoolManager { private static ThreadPoolManager tpm = new ThreadPoolManager(); // 线程池维护线程的最少数量 private final static int CORE_POOL_SIZE = 4; // 线程池维护线程的最大数量 private final stati...[阅读全文]

1
顶一下

ThreadPoolManager类:负责管理线程池,调用轮询的线程来访问字符串缓冲区的内容,维护缓冲区,当线程池溢出时抛出的 Runnable任务被加入到字符缓冲区。

public class ThreadPoolManager

{

private static ThreadPoolManager tpm = new ThreadPoolManager();

// 线程池维护线程的最少数量

private final static int CORE_POOL_SIZE = 4;

// 线程池维护线程的最大数量

private final static int MAX_POOL_SIZE = 10;

// 线程池维护线程所允许的空闲时间

private final static int KEEP_ALIVE_TIME = 0;

// 线程池所使用的缓冲队列大小

private final static int WORK_QUEUE_SIZE = 10;

// 消息缓冲队列

Queue msgQueue = new LinkedList();

// 访问消息缓存的调度线程

final Runnable accessBufferThread = new Runnable()

{

public void run()

{

// 查看是否有待定请求,如果有,则创建一个新的AccessDBThread,并添加到线程池中

if( hasMoreAcquire() )

{

String msg = ( String ) msgQueue.poll();

Runnable task = new AccessDBThread( msg );

threadPool.execute( task );

}

}

};

final RejectedExecutionHandler handler = new RejectedExecutionHandler()

{

public void rejectedExecution( Runnable r, ThreadPoolExecutor executor )

{

System.out.println(((AccessDBThread )r).getMsg()+”消息放入队列中重新等待执行”);

msgQueue.offer((( AccessDBThread ) r ).getMsg() );

}

};

// 管理数据库访问的线程池

final ThreadPoolExecutor threadPool = new ThreadPoolExecutor(

CORE_POOL_SIZE, MAX_POOL_SIZE, KEEP_ALIVE_TIME, TimeUnit.SECONDS,

new ArrayBlockingQueue( WORK_QUEUE_SIZE ), this.handler );

// 调度线程池

final ScheduledExecutorService scheduler = Executors

.newScheduledThreadPool( 1 );

final ScheduledFuture taskHandler = scheduler.scheduleAtFixedRate(

accessBufferThread, 0, 1, TimeUnit.SECONDS );

public static ThreadPoolManager newInstance()

{

return tpm;

}

private ThreadPoolManager(){}

private boolean hasMoreAcquire()

{

return !msgQueue.isEmpty();

}

public void addLogMsg( String msg )

{

Runnable task = new AccessDBThread( msg );

threadPool.execute( task );

}

}

public class AccessDBThread implements Runnable

{

private String msg;

public String getMsg()

{

return msg;

}

public void setMsg( String msg )

{

this.msg = msg;

}

public AccessDBThread(){

super();

}

public AccessDBThread(String msg){

this.msg = msg;

}

public void run()

{

// 向数据库中添加Msg变量值

System.out.println(“Added the message: “+msg+” into the Database”);

}

}

public class TestDriver

{

ThreadPoolManager tpm = ThreadPoolManager.newInstance();

public void sendMsg( String msg )

{

tpm.addLogMsg( msg + “记录一条日志 ” );

}

public static void main( String[] args )

{

for( int i = 0; i < 100; i++ )

{

new TestDriver().sendMsg( Integer.toString( i ) );

}

}

}

Comments (60)

Java线程池如何体现自己的用途

1顶一下Java线程池就像数据库连接池一样,是一个对象池。我们在使用的时候需要不断的学习,这样才能不断的适应相关语言技术的变化。所有的对象池都有一个共 同的目的,那就是为了提高对象的使用率,从而达到提高程序效率的目的。 比如对于Servlet,它被设计为多线程的(如果它是单线程的,你就可以想象,当1000个人同时请求一个网页时,在第一个人获得请求结果之 前,其它999个人都在郁闷地等待)...[阅读全文]

1
顶一下

Java线程池就像数据库连接池一样,是一个对象池。我们在使用的时候需要不断的学习,这样才能不断的适应相关语言技术的变化。所有的对象池都有一个共 同的目的,那就是为了提高对象的使用率,从而达到提高程序效率的目的。

比如对于Servlet,它被设计为多线程的(如果它是单线程的,你就可以想象,当1000个人同时请求一个网页时,在第一个人获得请求结果之 前,其它999个人都在郁闷地等待),如果为每个用户的每一次请求都创建一个新的线程对象来运行的话,系统就会在创建线程和销毁线程上耗费很大的开销,大 大降低系统的效率。因此,Servlet多线程机制背后有一个Java线程池在支持,线程池在初始化初期就创建了一定数量的线程对象,通过提高对这些对象 的利用率,避免高频率地创建对象,从而达到提高程序的效率的目的。

下面实现一个最简单的Java线程池,从中理解它的实现原理。为此我们定义了四个类,它们的用途及具体实现如下:

Task(任务):这是个代表任务的抽象类,其中定义了一个deal()方法,继承Task抽象类的子类需要实现这个方法,并把这个任务需要完 成的具体工作在deal()方法编码实现。Java线程池中的线程之所以被创建,就是为了执行各种各样数量繁多的任务的,为了方便线程对任务的处理,我们 需要用Task抽象类来保证任务的具体工作统一放在deal()方法里来完成,这样也使代码更加规范。

Task的定义如下:

Java代码

1.public abstract class Task {

2.public enum State {

3./* 新建 */NEW, /* 执行中 */RUNNING, /* 已完成 */FINISHED

4.}

5.// 任务状态

6.private State state = State.NEW;

7.public void setState(State state) {

8.this.state = state;

9.}

10.public State getState() {

11.return state;

12.}

13.public abstract void deal();

14.}

15.public abstract class Task {

16.public enum State {

17./* 新建 */NEW, /* 执行中 */RUNNING, /* 已完成 */FINISHED

18.}

19.// 任务状态

20.private State state = State.NEW;

21.public void setState(State state) {

22.this.state = state;

23.}

24.public State getState() {

25.return state;

26.}

27.public abstract void deal();

28.}

以上就是对Java线程池的相关代码介绍。

Comments (228)

JAVA 线程池使用

1顶一下package com.tender.nmem.eris.drawexpert.service.impl; import java.util.List; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import org.apache.commons.collections.map.ListOrderedMap; /** * 类:线程池类,控制程序线程实例个数,并实例线程 * @author yangtb * 时间:2009/09/14 * */ publ...[阅读全文]

1
顶一下

package com.tender.nmem.eris.drawexpert.service.impl;

import java.util.List;

import java.util.concurrent.ExecutorService;

import java.util.concurrent.Executors;

import org.apache.commons.collections.map.ListOrderedMap;

/**

* 类:线程池类,控制程序线程实例个数,并实例线程

* @author yangtb

* 时间:2009/09/14

*

*/

public class ThreadPool {

private ExecutorService exe=null;//线程池

public ThreadPool(int pool_size)

{

exe=Executors.newFixedThreadPool(pool_size);//创建线程池

System.out.println(“the server is ready”);

}

/**

* 运行循环实例线程,根据要实例的线程个数,传入条件ID

* @param worknum

*/

public void server(int worknum,String id)

{

int i=0;

while(i

Comments (266)