如何使用Dubbo 2.7.0和Spring boot实现FAT测试(…
2019-04-25 06:51:23来源:博客园 阅读 ()
在一个调用链非常长的功能中,如果想修改其中的一个特性,并进行测试,而又不影响该环境的其他用户使用现有功能、特性,例如:
1. A、B、C、D之间通过Dubbo实现远程调用
2. 这些模块可能有一个或者多个实例
3. 此环境由多个人员(包括开发、测试)同时使用
此时若想修改B中的某个功能,增加一个特性(称为FAT1),并且也注册到此环境中,则会发生如下问题:
当其他的用户从使用此功能时,从A发起的调用可能会由于Dubbo带的负载均衡算法等原因,在带有FAT1和不带有FAT1的实例间来回切换,最后的表现可能就是某一个功能使用两次,产生的结果竟然不一样!
解决这个问题最简单的方法就是给每个功能特性(FAT)独立设置一个测试环境,例如这一期有20个功能特性上线,就部署20个环境好了。。。。等等,是不是哪里不对?部署20个环境?你是否感觉到你BOSS站在你座位后面,随时准备把你扔出办公室?
仔细分析这个问题,要解决的重点有两个:
1. 将不同人员进行开发/测试的特性隔离开
2. 不修改的部分尽量共享,以节省资源
综上,最好的解决方案应该是如下图所示:
1. 建立一个Baseline环境,该环境包含了应用程序所需的所有组件、数据集等
2. 对于不同的功能特性,为该特性修改的组件独立发布一个实例,称之为一个Feature,对应的测试场称之为FAT+编号,例如Feature 1的测试环境称为FAT1
3. 开发和测试某个功能特性(例如Feature 1)时,利用路由功能让上游模块自动选择正确的下游模块,便于开发人员调试以及测试人员查看效果
通过对Dubbo文档的探索(http://dubbo.apache.org/zh-cn/docs/user/demos/routing-rule.html),发现实现此功能的方案有如下几种:
1. 使用条件路由规则
2. 使用动态标签功能
3. 使用静态标签功能
经过对上述三种方法的分析,发现各自的优缺点如下:
1. 如果使用条件路由:
优点是需求明晰,如果我想设计一个FAT测试场,其中A、B是待测试组件,可以使用路由规则host != A => host !=B和host = A => host = B
缺点是:
A. 需要使用Dubbo控制台修改路由规则,对于一般的开发/测试来说,权限太大了
B. 如果组件A、B、D同时修改了,当请求从A->B->C传递时,C不一定知道这个请求是否应该传到D,使用条件路由无法实现
2. 如果使用动态标签,1中的问题B能够得到解决,因为标签在整个调用链路中都会以Attachment的形式被传递,但是A问题依然无法解决
综上,要实现此功能,最好是使用3. 静态标签功能,根据官方文档,Dubbo的标签路由功能是2.7.0开始才可用的(坑巨多,下面会一一说明),所以我们需要使用这个版本。
为了简化(偷)步骤(懒),我们把问题变为A->B->C这种三模块调用过程,本质上设计的调用路由问题还是一样的。
先建立三个spring boot工程:组件svcA、svcB和svcC
两个模块间调用使用的facade工程,以及他们所共享的父工程,总共六个工程如下图:
他们之间的关系如下:
其中callfromsvcA2svcB是A调用B使用的facade,而callfromsvcB2svcC是从B调用C时的facade,取名方式略暴力,品位低,敬请理解
下面进入踩坑之旅:
1. 导入Dubbo 2.7.0
因为Dubbo 2.7.0才支持tag路由功能,所以我们必须先导入它到工程,但是当你实践时,你会发现。。。。。。网上的教程(包括官方文档):都!是!骗!人!的!
官方的说明是:http://dubbo.apache.org/zh-cn/docs/user/versions/version-270.html
<properties> <dubbo.version>2.7.0</dubbo.version> </properties> <dependencyManagement> <dependencies> <dependency> <groupId>org.apache.dubbo</groupId> <artifactId>dubbo-dependencies-bom</artifactId> <version>${dubbo.version}</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement> <dependencies> <dependency> <groupId>org.apache.dubbo</groupId> <artifactId>dubbo</artifactId> <version>${dubbo.version}</version> </dependency> <dependency> <groupId>io.netty</groupId> <artifactId>netty-all</artifactId> </dependency> </dependencies>
这个bom和spring boot(2.1.4.RELEASE)是冲突的,启动时会报错:
Exception in thread "main" java.lang.AbstractMethodError: org.springframework.boot.context.config.ConfigFileApplicationListener.supportsSourceType(Ljava/lang/Class;)Z
(天哪,鬼知道这是啥错)
当然,如果不使用spring boot,可能会没有问题,不过现在建工程貌似都是用spring boot为主流
所以只能手动引用Dubbo。
经过反复尝试(内心:mmp),得到如下能够正常工作的pom清单:
<dependency> <groupId>org.apache.dubbo</groupId> <artifactId>dubbo</artifactId> <version>2.7.0</version> </dependency> <dependency> <groupId>org.apache.curator</groupId> <artifactId>curator-framework</artifactId> <version>4.2.0</version> <exclusions> <exclusion> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> </exclusion> <exclusion> <groupId>log4j</groupId> <artifactId>log4j</artifactId> </exclusion> </exclusions> </dependency> <!-- https://mvnrepository.com/artifact/org.apache.curator/curator-recipes --> <dependency> <groupId>org.apache.curator</groupId> <artifactId>curator-recipes</artifactId> <version>4.2.0</version> </dependency>
注意:
1. 从2.7.0开始,Dubbo已经从alibaba的项目转为了apache的了,所以命名空间会发生改变,小心不要踩坑。
2. 引用com.alibaba.xxx下面的对象会因为这些对象都是Deprecated导致这些对象有删除线,解决办法就是把对应的import删掉,重新引用,你会发现有两个一摸一样的,一个在alibaba的名称空间下面,另外一个在apache里面,引用apache的那个即可。
3. 切记,千万不要在一个工程里面既引用alibaba空间下面的注解,又引用apache下面的注解,这会直接导致注解失效。
下面开始处理最困难的部分:给服务打上标签:
首先我们在svcA中建立两个properties文件,用于模拟普通测试和FAT测试,代码如下:
application.properties:
spring.application.name=svcB
dubbo.application.name=svcB
dubbo.registry.protocol=zookeeper
dubbo.registry.address=127.0.0.1:2181
dubbo.protocol.name=dubbo
dubbo.monitor.protocol=registry
dubbo.protocol.port=20881
server.port=55557
application-fat1.properties(请注意标红的属性):
#fat1
spring.application.name=svcB
dubbo.application.name=svcB
dubbo.registry.protocol=zookeeper
dubbo.registry.address=127.0.0.1:2181
dubbo.protocol.name=dubbo
dubbo.monitor.protocol=registry
dubbo.protocol.port=20882
server.port=55558
featuretest=fat1
我们假设svcA是前端,从用户处得到请求调用后续的服务的,在这个服务中,我们嵌入一个WebFilter,实现将FAT的TAG打到Dubbo调用中,代码如下:
package com.dubbotest.svcA.filters; import java.io.IOException; import javax.servlet.Filter; import javax.servlet.FilterChain; import javax.servlet.ServletException; import javax.servlet.ServletRequest; import javax.servlet.ServletResponse; import javax.servlet.annotation.WebFilter; import org.apache.dubbo.common.Constants; import org.apache.dubbo.rpc.RpcContext; import org.springframework.beans.factory.annotation.Value; @WebFilter public class FatTagFilter implements Filter { @Value("${featuretest:#{null}}") private String feature; @Override public void doFilter(ServletRequest req, ServletResponse resp, FilterChain chain) throws ServletException, IOException { if (feature != null) { RpcContext.getContext().setAttachment(Constants.TAG_KEY, feature); } chain.doFilter(req, resp); } }
这段代码的作用就是从环境中查找名为featuretest的变量,如果找到了,就放到Dubbo中名为TAG的attachment中。
顺便吐槽一下,Dubbo官网上的文档(http://dubbo.apache.org/zh-cn/docs/user/demos/routing-rule.html)中的范例代码:
RpcContext.getContext().setAttachment(Constants.REQUEST_TAG_KEY,"tag1");
是有问题的,2.7.0中,Constants里面已经没有名为REQUEST_TAG_KEY的常量了,只有TAG_KEY,其次,静态打标:
java -jar xxx-provider.jar -Ddubbo.provider.tag={the tag you want, may come from OS ENV}
是不起作用的,我看了下Dubbo源码,没有相关的内容
有了上述代码后,前端就实现了当设定了featuretest变量时,这个变量会被当成TAG存放到RPC调用的Attachment中,而根据阿里的文档,这个Attachment是能够存续在整个RPC调用过程的,但是,但是!事实证明这又是坑爹的!
还是拿前面的例子:
A->B->C
当前端传递Attachment到B时,B能够看到数据,但是不知为何,B却没能将这个数据传送到C,导致这个数据在后面调用全部失效
所以只好自己写一个过滤器放在服务B中,将这个变量传递下去:
1. 先在resources\META-INF\dubbo目录添加com.alibaba.dubbo.rpc.Filter,内容如下:
passFatTag=com.dubbotest.svcB.filters.PassFatTagFilter
然后再在服务B的application.properties中添加:
dubbo.provider.filter=passFatTag
最后,添加下述Java代码:
package com.dubbotest.svcB.filters; import org.apache.dubbo.common.Constants; import org.apache.dubbo.rpc.Filter; import org.apache.dubbo.rpc.Invocation; import org.apache.dubbo.rpc.Invoker; import org.apache.dubbo.rpc.Result; import org.apache.dubbo.rpc.RpcContext; import org.apache.dubbo.rpc.RpcException; public class PassFatTagFilter implements Filter { @Override public Result invoke(Invoker<?> invoker, Invocation invocation) throws RpcException { String fatTag = invocation.getAttachment(Constants.TAG_KEY); if (fatTag != null) { RpcContext.getContext().setAttachment(Constants.TAG_KEY, fatTag); } Result result = invoker.invoke(invocation); return result; } }
请注意,这些代码在所有的下游服务器都要添加,例如本例中的B、C。如果后面还有更多的服务,也要添加,目的是让Attachment传递下去。
上面这些工作只是对前端到服务的调用进行了打标,下一步将进行对服务提供者进行打标:
对于application.properties的处理大同小异,无非是增加了一个FAT测试标签的变量,但是如何把这个标签弄到服务提供者上,恭喜你,遇到了史前巨坑:
前面已经说过了,下述方法对服务提供者打标是无效的:
java -jar xxx-provider.jar -Ddubbo.provider.tag={the tag you want, may come from OS ENV}
所以要想办法,只能在Service上面想办法,例如svcB提供的服务,代码可以这么写:
package com.dubbotest.svcB.impl; import java.util.logging.Level; import java.util.logging.Logger; import org.apache.dubbo.config.annotation.Reference; import org.apache.dubbo.config.annotation.Service; import com.facade.callfromsvcA2svcB.callfromA2B; import com.facade.callfromsvcB2svcC.callfromB2C; @Service(tag="fat1") public class ServiceBimpl implements callfromA2B { Logger logger = Logger.getLogger(ServiceBimpl.class.getName()); @Reference private callfromB2C svcC; @Override public String getNamefromSvcB(String source) { logger.log(Level.INFO, "Source:"+ source); if (source == null) { return "no name, since source is empty"; } String name = source+source.length(); return name + " hash:"+svcC.getIDfromName(name); } }
转眼你就会发现这个做法的坑爹之处:
1. FAT测试特性的代码侵入了业务逻辑
2. 无法随时修改特性测试的名称(fat1)
3. 我提供了100个服务,是不是100个服务都要添加打标的代码?如果我要修改呢?(996程序员的内心:mmp)
似乎问题到此陷入了僵局,不过不妨先看下打标的功能是怎么实现的:
我们先通过tag作为关键词直接搜索dubbo的jar:
我的搜索方法是这样的:用Java Search,查找All occurrences,Search for中每一个都试一遍(哪位大神如果有更好的方法,麻烦推荐)
最后找到有价值的东西:
猜想如下:Spring在加载ServiceBean的时候,通过注解拿到属性,并且调用setTag配置好,最后服务调用的时候就会使用这个tag,我们先在Service注解中放一个tag,并且对setTag打一个断点,最后启动服务,发现调用栈如下:
不出所料,果然断在了setTag上,这是调用getBean实例化对象时,对Bean对象属性填充时设定的(请看populateBean和applyPropertyValues这两个栈帧)。
这给我们了一个启发,我们可以使用一个BeanPostProcessor后处理器,在Bean实例化后对它进行设定,将tag直接设置上去,代码如下:
package com.dubbotest.svcB.postprocessors; import org.apache.dubbo.config.spring.ServiceBean; import org.springframework.beans.BeansException; import org.springframework.beans.factory.annotation.Value; import org.springframework.beans.factory.config.BeanPostProcessor; import org.springframework.stereotype.Component; @Component public class FeatureTestPostProcessor implements BeanPostProcessor { @Value("${featuretest:#{null}}") private String featuretest; @Override public Object postProcessAfterInitialization(Object bean, String beanName) throws BeansException { if (featuretest != null) { if (bean instanceof ServiceBean) { ServiceBean thebean = (ServiceBean) bean; thebean.setTag(featuretest); } } return bean; } }
因为Dubbo导出服务时,先会在Spring容器中注册一个ServiceBean,所以我们可以在此ServiceBean初始化完毕后,将我们想要的属性注入。
为何不使用postProcessBeforeInitialization?如果使用Before,可能Bean本身初始化属性时又会将我们设定的属性覆盖。
逻辑很简单,无非就是当设定了featuretest时,将这个属性注入到ServiceBean的tag中。
这个代码也会造成一点问题:
如果以后Dubbo升级,可能Bean的类型会改变,属性也会改变
考虑到我们的代码并没有和业务代码耦合,如果以后发生改变,我们修改下后处理器就可以了,这不会是什么问题
因为B、和C都是服务提供者,所以C也应该添加上述后处理器以及用于传递消息的Dubbo过滤器
测试效果:
我们搭建一个基础服务器组和一个FAT测试场,命名为fat1:
其中基础服务器组入口是:127.0.0.1:8088
fat1入口是:127.0.0.1:8089
先启动基础服务组和FAT1的前端入口:
可以发现,基础服务和FAT1组使用的都是默认feature:
此时我们如果启动fat1中的某个服务,例如C:
服务启动情况如图:
运行结果:
可见,实现了对不同特性进行隔离的功能,fat1的使用者可以独立于Baseline环境进行开发测试。
如果此时有另外一个开发组想要开发客户提出的新需求fat2,只需要将application.properties中的featuretest改为fat2然后在本机或者服务器上发布进行测试即可,不同环境完全隔离,互不影响。
上述工程的git路径:https://github.com/TTTTTAAAAAKKKKEEEENNNN/FATtestDemo
对于工程需要改进的地方,有如下几点思考:
1. 实现FAT使用的过滤器、后处理器需要在每个工程中独立添加,还是不够方便,如果能封装成一个jar在其他工程中引入,将会更加方便
2. 工程中引入Dubbo服务是直接使用的Dubbo注解@Service,如果能在中间嵌入一层,让工程通过Spring间接引用Dubbo,将来因为某种原因要换远程调用框架时,会变得轻松一些
原文链接:https://www.cnblogs.com/nullifier/p/10742957.html
如有疑问请与原作者联系
标签:
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有
- Flink 如何分流数据 2020-06-11
- 老板让你抗住千万级流量,如何做架构设计? 2020-06-11
- 如何干掉 if else 策略+工厂 2020-06-11
- 类的继承,方法重新中修饰符如何定义 2020-06-10
- Dubbo+Zookeeper集群案例 2020-06-09
IDC资讯: 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营: 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程: Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术: Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧: 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作: FrontPages Dreamweaver Javascript css photoshop fireworks Flash