JMS与WebService负载均衡

转载自IT168

一、JMS与负载均衡

众所周知,当多个消息消费者(MessageConsumer)同时监听同一个消息队列(Queue)的时候,JMS提供者会在它们之间提供一种负载均衡机制,从而达到可以同时处理多个消息的目的。图一是一个简单的示意图,当消息生产者发送多个消息时,JMS提供者会把这些消息均匀的分发到不同的消息消费者。

JMS与WebService负载均衡

图一 JMS负载均衡示意图

二、WebService负载均衡

要在原来的WebService上应用负载均衡,首先应该明确一个前提,就是客户端和服务端应尽可能的不做修改。另外还需要确保可以方便的添加和删除一个Service节点,而不会影响整个应用的运行。庆幸的是WebService调用通常都是无状态的,类似于无状态会话Bean(Stateless Session Bean)的远程调用,服务端和客户端不需要维持一个会话,也就是说同一个客户端调用多次WebService请求,每个请求可以由不同的Service为它服务,这样就可以避免Session复制的问题,如果一个Service崩溃了,另一个Service可以继续为客户端服务。

三、将JMS负载均衡应用到WebService中

接下来就把JMS的负载均衡机制应用到WebService当中去,图二是一个整体的框架图,Proxy作为一个WebService的代理来和客户端交互, 而Listener会去掉用具体的WebService,来完成一次WebService方法的调用。

JMS与WebService负载均衡

图二 整体框架图

与客户端直接交互的是Proxy,它是一个简单的Servlet,它的作用就是拦截客户端发送过来的请求,提取请求中的SOAP包的内容,然后把它封装成一个消息发送到指定的Queue中去,同时它会等待消息的回复,因为回复的消息中包含着WebService调用返回的结果,后面会详细讲到。当Proxy收到回复消息之后,读取其中的内容并把它返回给客户端,从而完成一个WebService的调用。另外需要注意的是,在这里Proxy需要区分出客户端发出的是GET请求,还是POST请求。如果是GET请求,就有可能是客户端正在获取WebService的WSDL。如果是POST请求,那么通常就是客户端在调用一个WebService方法了。下面是一个简单的Proxy实现:

  1   public class ServiceProxy extends HttpServlet {
  2 
  3   private ConnectionFactory factory;
  4 
  5   private Connection connection;
  6 
  7   private Queue queue;
  8 
  9   public void init() throws ServletException {
10 
11   super.init();
12 
13   try {
14 
15   //在这里为了简单起见,采用了ActiveMQ。在实际的J2EE应用中应通过JNDI查找相应的ConnectionFactory和Queue。
16 
17   factory = new ActiveMQConnectionFactory("vm://localhost");
18 
19   connection = factory.createConnection();
20 
21   connection.start();
22 
23   queue = new ActiveMQQueue("testQueue");
24 
25   } catch (JMSException e) {
26 
27   e.printStackTrace();
28 
29   }
30 
31   }
32 
33   protected void doGet(HttpServletRequest req, HttpServletResponse resp) {
34 
35   if (req.getQueryString().endsWith("wsdl") || req.getQueryString().endsWith("WSDL")) {
36 
37   try {
38 
39   Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
40 
41   Message message = session.createMessage();
42 
43   //这个属性用来标示请求是否是WSDL请求,后面的Listener会根据它来调用具体的WebService。
44 
45   message.setBooleanProperty("isWsdl", true);
46 
47   message.setJMSReplyTo(session.createTemporaryQueue());
48 
49   session.createProducer(queue).send(message);
50 
51   //等待回复消息,它里面包含Service返回的WSDL,这里使用了一个选择器。
52 
53   String selector = String.format("JMSCorrelationID='%s'", message.getJMSMessageID());
54 
55   MessageConsumer consumer = session.createConsumer(message.getJMSReplyTo(), selector);
56 
57   TextMessage replyMessage = (TextMessage) consumer.receive();
58 
59   //将WSDL返回给客户端。
60 
61   resp.getWriter().write(replyMessage.getText());
62 
63   } catch (Exception e) {
64 
65   e.printStackTrace();
66 
67   }
68 
69   }
70 
71   }
72 
73   protected void doPost(HttpServletRequest req, HttpServletResponse resp) {
74 
75   try {
76 
77   //首先从客户端请求中得到SOAP请求部分。
78 
79   StringBuffer payLoad = new StringBuffer();
80 
81   BufferedReader reader = req.getReader();
82 
83   String temp;
84 
85   while ((temp = reader.readLine()) != null) {
86 
87   payLoad.append(temp);
88 
89   }
90 
91   //将SOAP请求封装成一个消息,发送到Queue。
92 
93   Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
94 
95   Message message = session.createTextMessage(payLoad.toString());
96 
97   message.setBooleanProperty("isWsdl", false);
98 
99   message.setJMSReplyTo(session.createTemporaryQueue());
100 
101   session.createProducer(queue).send(message);
102 
103   //等待回复,回复的消息中包含着服务端返回的SOAP响应。
104 
105   String selector = String.format("JMSCorrelationID='%s'", message.getJMSMessageID());
106 
107   MessageConsumer consumer = session.createConsumer(message.getJMSReplyTo(), selector);
108 
109   TextMessage replyMessage = (TextMessage) consumer.receive();
110 
111   //将SOAP响应返回给客户端。
112 
113   resp.getWriter().write(replyMessage.getText());
114 
115   } catch (Exception e) {
116 
117   e.printStackTrace();
118 
119   }
120 
121   }
122 
123   }

接下来需要看一下Listener了。对于每一个Service都有一个Listener与之相对应,当一个Listener从Queue中取得一个消息之后,首先应该判断是否是WSDL请求。如果是WSDL请求,则向WebService发送一个GET请求,并将请求的结果,也就是WSDL封装成一个Message回复给Proxy。如果是SOAP请求,则从中取出SOAP请求部分并通过POST方法发送给Service,所得到的返回结果即为Service的SOAP响应,把它回复给Proxy,进而回复给客户端。

下面是Listener的一个简单实现,在这里我们使用了HttpClient来发送GET和POST请求。

1   public class Listener {

3   private ConnectionFactory factory;

5   private Connection connection;

7   private Queue queue;

9   private Session session;
10 
11   public Listener() throws Exception {
12 
13   //为了简单,还是采用了ActiveMQ。
14 
15   factory = new ActiveMQConnectionFactory("vm://localhost");
16 
17   connection = factory.createConnection();
18 
19   connection.start();
20 
21   queue = new ActiveMQQueue("testQueue");
22 
23   session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
24 
25   }
26 
27   public void startUp() throws Exception {
28 
29   MessageConsumer consumer = session.createConsumer(queue);
30 
31   consumer.setMessageListener(new MessageListener() {
32 
33   public void onMessage(Message message) {
34 
35   try {
36 
37   String response;
38 
39   //通过判断isWSDL这个属性来判断是否是WSDL请求。
40 
41   if (message.getBooleanProperty("isWsdl")) {
42 
43   //如果是WSDL请求,则向服务器发送一个GET请求,并等待WSDL响应结果。
44 
45   HttpClient client = new HttpClient();
46 
47   //具体Service的地址,可以使用properties文件等。
48 
49   GetMethod m = new GetMethod("http://localhost:8081/hello?wsdl");
50 
51   client.executeMethod(m);
52 
53   response = m.getResponseBodyAsString();
54 
55   } else {
56 
57   //如果是SOAP请求,则将SOAP包发送给服务器,并等待SOAP响应。
58 
59   HttpClient client = new HttpClient();
60 
61   PostMethod m = new PostMethod("http://localhost:8081/hello");
62 
63   m.setRequestBody(((TextMessage) message).getText());
64 
65   client.executeMethod(m);
66 
67   response = m.getResponseBodyAsString();
68 
69   }
70 
71   //将WSDL响应或SOAP响应封装成一个消息,回复给Proxy。
72 
73   MessageProducer producer = session.createProducer(message.getJMSReplyTo());
74 
75   TextMessage replyMessage = session.createTextMessage(response);
76 
77   //设置JMSCorrelationID,Proxy通过它来得到该回复消息。
78 
79   replyMessage.setJMSCorrelationID(message.getJMSCorrelationID());
80 
81   producer.send(replyMessage);
82 
83   } catch (Exception ex) {
84 
85   ex.printStackTrace();
86 
87   }
88 
89   }
90 
91   });
92 
93   }
94 
95   }

四、还需要考虑的

1,如果其中一个Service崩溃,我们需要停止相应的Listener,这一点可以在Listener中做到,例如当Listener访问Service时出错,它可以等待一段时间以后再去监听Queue,同时把已经取得的消息重新发回到Queue中去,以便让其他的Listener处理。当然也可以将Listener放置到Service端,这样Service崩溃,Listener也就跟着不可用了。

2,如果某一时刻,所有的Service都不可用,Proxy也不应该无限等待下去,而应该设置一个等待回复消息的超时期限,如果这个期限内没有收到回复消息,则表明Service都不可用,同时通知客户端。

3,过期消息的处理,如同上一点,当Service不可用时,Proxy通知客户端出错,但是此时Proxy已经向Queue中发送了一条消息,当Service恢复时,这条消息会被重新处理。我们应该避免这种情况发生,因为这条消息已经过期了。可以设置消息的过期期限小于Proxy等待回复消息的期限,以确保它不会被重新处理。

4,最糟糕的情况就是,Proxy或者Queue崩溃,这样就算Service正常,客户端也会调用失败。

5,效率,既然我们选择了WebService和负载均衡,那就表示我们应该接受它效率相对低下的弱点,在这里需要说明的是JMS并不是效率的瓶颈,因为Listener只负责拿到消息并发送给Service,这时Service还是运行在多线程下的。

相关推荐