新用户注册入口 老用户登录入口

[转载]RPC调用超时中断机制的实现

文章作者:转载 更新时间:2023-10-05 16:28:16 阅读数量:82
文章标签:微服务RPC框架超时中断机制服务调用高并发远程过程调用
本文摘要:本文探讨了微服务架构中实现远程过程调用(RPC)时的超时中断机制,尤其是在高并发系统场景下,该机制对保障服务可用性的重要性。作者通过使用开源框架如thrift、dubbo和grpc等作为背景,重点分析了一个基于ReentrantLock与Condition实现的Java客户端超时控制方案,详细展示了在调用第三方服务过程中如何利用RequestTask类进行超时等待及中断处理,并结合RequestFactory管理请求响应对应关系,确保了在复杂微服务环境下,即使单个服务响应缓慢也不会拖垮整个系统的调用流程。
转载文章

本篇文章为转载内容。原文链接:https://blog.csdn.net/CSDNzhangtao5/article/details/103075755。

该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。

作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。

如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。

在如今互联网的架构趋势下,微服务已经成为一个不可或缺的服务架构了。将一个大的服务拆分若干子服务,然后远程调用,已应对大流量、高并发的系统场景,如今开源的优秀RPC框架很多,例如 thrift、dubbo 、grpc等

本人公司也有两套自主研发的RPC框架,通读之后受益匪浅,下面分享一下,远程调用第三方服务超时中断机制的实现。在调用第三方服务时,如果服务提供方处理过于缓慢,会拖垮调用方,使调用方夯住,所以调用超时中断机制很有必要,是保证服务的可用性的重要手段

典型的微服务项目,一次用户请求,可能在后台的调用流程会历经多个服务,每个服务的可靠性是整个调用流程的前提

 

客户端调用服务端流程:

 

 

本文不再过多的讲解RPC调用流程,直接讲解客户端调用超时中断的代码实现。

原理也不复杂,利用ReentrantLock的Condition进行等待阻塞,等待相应的超时时间后,发现依然没有收到服务端的响应结果后,判断为超时!

代码实现:

首先定义一个netty客户端,用于请求服务端,获取返回结果

public class InvokerClient {private static Channel channel;public void init() throws Exception {Bootstrap bootstrap = new Bootstrap();bootstrap.group(new NioEventLoopGroup()).channel(NioSocketChannel.class).option(ChannelOption.SO_KEEPALIVE, true).handler(new ChannelInitializer<SocketChannel>() {@Overrideprotected void initChannel(SocketChannel socketChannel) throws Exception {// 处理来自服务端的返回结果socketChannel.pipeline().addLast(new ReceiveHandle());} });ChannelFuture cf = bootstrap.connect("127.0.0.1", 3344).sync();channel = cf.channel();}//请求服务端public Object call(Request request) {//此类是保证调用超时中断的核心类RequestTask requestTask = new RequestTask();//将请求放入请求工厂,使用请求唯一标识seq,用于辨识服务端返回的对应的响应结果RequestFactory.put(request.getSeq(), requestTask);channel.writeAndFlush("hello");//此步是返回response,超时即中断return requestTask.getResponse(request.getTimeOut());}
}

 

其中Request是请求参数,里面有timeout超时时间,以及向服务端请求的参数
public class Request {private static final UUID uuid = UUID.randomUUID();private String seq = uuid.toString();private Object object;private long timeOut;public Object getObject() {return object;}public Request setObject(Object object) {this.object = object;return this;}public String getSeq() {return seq;}public long getTimeOut() {return timeOut;}public Request setTimeOut(long timeOut) {this.timeOut = timeOut;return this;}
}

核心的RequestTask类,用于接受服务端的返回结果,超时中断

public class RequestTask {private boolean isDone = Boolean.FALSE;private ReentrantLock lock = new ReentrantLock();private Condition condition = lock.newCondition();Object response;//客户端请求服务端后,立即调用此方法获取返回结果,timeout为超时时间public Object getResponse(long timeOut) {if (!isDone) {try {lock.lock();//此步等待timeout时间,阻塞,时间达到后,自动执行,此步是超时中断的关键步骤if (condition.await(timeOut, TimeUnit.MILLISECONDS)) {if (!isDone) {return new TimeoutException();}return response;} } catch (InterruptedException e) {e.printStackTrace();} finally {lock.unlock();} }return response;}public RequestTask setResponse(Object response) {lock.lock();try{//此步是客户端收到服务端的响应结果后,写入responsethis.response = response;//并唤起上面方法的阻塞状态,此时阻塞结束,结果正常返回condition.signal();isDone = true;}finally{lock.unlock();}return this;}public boolean isDone() {return isDone;}public RequestTask setDone(boolean done) {isDone = done;return this;} }
ReceiveHandle客户端接收到服务端的响应结果处理handle
public class ReceiveHandle extends SimpleChannelInboundHandler {protected void channelRead0(ChannelHandlerContext channelHandlerContext, Object o) throws Exception {Response response = (Response) o;//通过seq从请求工厂找到请求的RequestTaskRequestTask requestTask = RequestFactory.get(response.getSeq());//将响应结果写入RequestTaskrequestTask.setResponse(response);}
}

RequestFactory请求工厂

public class RequestFactory {private static final Map<String, RequestTask> map = new ConcurrentHashMap<String, RequestTask>();public static void put(String uuid, RequestTask requestTask) {map.put(uuid, requestTask);}public static RequestTask get(String uuid) {return map.get(uuid);}
}

 

注: 本人利用业余时间手写了一套轻量级的rpc框架,里面有用到
https://github.com/zhangta0/bigxiang

 

本篇文章为转载内容。原文链接:https://blog.csdn.net/CSDNzhangtao5/article/details/103075755。

该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。

作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。

如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。

相关阅读
文章标题:[转载][洛谷P1082]同余方程

更新时间:2023-02-18
[转载][洛谷P1082]同余方程
文章标题:[转载]webpack优化之HappyPack实战

更新时间:2023-08-07
[转载]webpack优化之HappyPack实战
文章标题:[转载]oracle 同时更新多表,在Oracle数据库中同时更新两张表的简单方法

更新时间:2023-09-10
[转载]oracle 同时更新多表,在Oracle数据库中同时更新两张表的简单方法
文章标题:[转载][Unity] 包括场景互动与射击要素的俯视角闯关游戏Demo

更新时间:2024-03-11
[转载][Unity] 包括场景互动与射击要素的俯视角闯关游戏Demo
文章标题:[转载]程序员也分三六九等?等级差异,一个看不起一个!

更新时间:2024-05-10
[转载]程序员也分三六九等?等级差异,一个看不起一个!
文章标题:[转载]海贼王 动漫 全集目录 分章节 精彩打斗剧集

更新时间:2024-01-12
[转载]海贼王 动漫 全集目录 分章节 精彩打斗剧集
名词解释
作为当前文章的名词解释,仅对当前文章有效。
微服务微服务是一种软件架构风格,它将单一应用程序划分为一组小型、独立的服务,每个服务运行在其自己的进程中,服务之间通过API(通常是HTTP RESTful API)进行通信。在本文的上下文中,微服务架构允许开发者将复杂的系统拆分成一系列可独立部署和扩展的小型服务,每个服务专注于完成一项业务功能,通过远程过程调用(RPC)实现服务间的协同工作。
RPC框架Remote Procedure Call(远程过程调用)框架是一种分布式计算技术,使得开发人员能够像调用本地函数一样调用位于不同地址空间或机器上的服务。在文章中提到的thrift、dubbo和grpc等都是开源的RPC框架实例,它们提供了一套机制来简化服务间的网络通信,包括序列化、反序列化、网络传输及错误处理等功能,以实现跨进程、跨主机甚至跨网络的服务调用。
超时中断机制在计算机编程特别是网络编程中,超时中断机制是指在执行某个操作(如发送请求到第三方服务并等待响应)时设定一个时间限制,若在这个时间内未收到预期的响应,则认为该操作超时,并触发中断逻辑,以防止客户端因长时间等待而陷入停滞状态。在微服务架构下,当调用方发起对服务端的请求时,采用超时中断机制可以有效避免由于服务端响应缓慢或故障导致的调用方资源浪费和系统可用性降低问题。本文中利用ReentrantLock和Condition实现了客户端调用服务端时的超时控制,确保在预设的时间内未能得到服务端响应时,能够及时中断此次调用。
延伸阅读
作为当前文章的延伸阅读,仅对当前文章有效。
在深入了解微服务架构中RPC调用超时中断机制的实现后,我们可以进一步探索当前行业对此类问题的研究进展与实践案例。近期,随着云原生技术的发展和Kubernetes等容器编排平台的广泛应用,服务网格(Service Mesh)的概念逐渐成为解决服务间通信、流量控制及熔断限流等问题的新热点。
例如,Istio作为一款开源的服务网格解决方案,内置了丰富的流量管理特性,其中包括对服务间调用的超时设置和重试策略的支持,能够更精细地控制微服务间的交互行为,增强了系统的稳定性和容错性。另外,Envoy代理作为Istio数据平面的核心组件,其通过异步非阻塞模型以及智能的超时与重试机制,在保障性能的同时,有效避免了因第三方服务响应慢而导致的系统级雪崩效应。
此外,阿里巴巴集团在其内部大规模微服务实践中,也深入研究并优化了RPC框架Dubbo的超时控制机制,并结合Hystrix等开源库实现了服务降级和熔断功能,为高并发场景下的服务稳定性提供了有力保障。这些最新的技术动态和实践经验都为我们理解和优化微服务架构中的超时中断机制提供了宝贵的参考依据。
同时,对于分布式系统设计原则的探究也不能忽视,例如《微服务设计模式》一书中提出的“Circuit Breaker”(断路器模式),就详细阐述了如何利用超时中断等手段在系统出现故障时快速隔离问题服务,防止故障蔓延,确保整体系统的可用性。此类理论研究与实操经验相结合,有助于我们不断优化和完善微服务架构中的各类关键组件,以适应日趋复杂的业务需求和技术挑战。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
date "+%Y-%m-%d %H:%M:%S" - 获取当前日期和时间,并按照指定格式打印。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
响应式抖音课程培训学院类企业前端模板下载 01-21 jQuery点击显示隐藏更多文字内容插件 01-15 黑色设计师简历响应式网页模板下载 01-14 [转载]Tomcat启动时卡在“ Deploying web application directory ”很久的解决方法 12-19 Saiku LDAP集成登录失效问题:排查配置错误、身份验证及解决方案实操 12-01 Spring Cloud微服务架构中注册中心的必要性与服务间通信实践:服务发现、API契约与高可用性考量 11-23 MahoutIllegalArgumentException在Apache Mahout中的应用场景:矩阵维度不匹配与向量索引异常解析及参数有效性的API调用实践 10-16 [转载]Docker 相关配置文件路径 09-08 蓝色精品美容整形机构网站模板 08-29 本次刷新还10个文章未展示,点击 更多查看。
Gradle在持续集成中的关键作用:自动化构建、依赖管理与多项目构建实践及CI服务器集成 07-06 化妆品购物商城通用网站模板下载 06-27 响应式建筑装饰设计类企业前端CMS模板下载 04-14 微服务架构下用户认证鉴权:网关层统一处理与服务内部处理的比较及选择考量 04-09 响应式会议活动主题着陆页网站模板 03-24 Tomcat内存泄漏问题在Web应用程序中的解决方案:Servlet上下文管理、全局变量引用与弱引用实践及监控工具应用 03-15 Kafka消费者消费偏移量设置:auto.offset.reset策略与手动控制方法详解 02-10 [转载]JavaScript中的时间与日期、正则表达式和Function类型 01-24 大气简洁手机电子产品展示柜台前端模板 01-22 项目案例展示设计公司企业网站模板 01-18 Bootstrap博客后台管理系统网站模板 01-08
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"