RPC框架和简易RPC实现

项目背景

中途加入一个团队,团队实现一个私有化的分布式服务,因为是私有化,不用大规模集群,服务已经有个简易RPC,
实现思路大致是:
1 暴露一个服务需要自己定义一个服务handler
2 消费者通过http发送输入输出函数名称到服务提供者
3 http获取结果反序列化获得服务输出

概括来说就是http强行rpc,而且复杂的输入输出配置还不如直接用http来实现。“重构”是看到这个实现的第一反应。

重构之前准备

1 了解一下为什么之前rpc协议写成这个样子,大概得到几个观点:
* 之前是demo期,快速实现需求
* 商户不希望开多个端口,所有尽量复用http服务的端口
* 在运行中注入提供方的url,进行多个不同服务的直连
* 私有化小规模部署,不想用复杂的注册中心
* 私有化小规模部署,简化安装依赖
2 团队情况
* Springboot,java和python语言
* 熟练Dubbo,了解grpc

主流RPC框架

  • thrift
  • ZeroC Ice
  • gRPC
  • Dubbo

thrift

参考:https://blog.csdn.net/lupengfei1009/article/details/100934794

Facebook研发的轻量级RPC,可以配合服务器一起运行。
支持多语言
二进制格式传输数据,比XML和JSON体积小,适合高并发,大数据量,多语言的环境。
C/S结构

不选择的原因:
1 需要额外的rpc端口
2 c / s结构,明确的服务端和客户端,但是实际上,rpc更多时候,一个服务既是客户端又是服务端。
3 springboot集成有一个依赖包,mac下开发可能需要安装thrift才能使用代码生成器(这个点不是核心考虑点)
4 团队不太熟悉,但是学习成本很低,也不是核心考虑点

Dubbo

Dubbo的强大行业内已经众所周知了,其原理图如下:


image.png

但是:
1 直连模式(无注册中心)在注解中配置(单个url),无法在运行中动态指定多个不同节点。
2 直连模式调试Reference的时候遇到一些bug(中途有一些特殊的空指针异常),提了issue建议升级版本,没有提供者的时候,注入Reference为空,启动服务提供者之后,Reference不会重新注入(不知道新版是否解决)。
3 也需要开放特定的Dubbo端口

简易RPC框架实现

为了迎合项目特定的需求,考虑简化实现一个RPC,几乎没有多余的第三方依赖,使用方式类似Dubbo,实现方式如下:
1 通过 @RPCService 注入 服务提供者,直接利用Springboot的IOC注入
2 通过 @RPCReference 注入 服务消费者,服务通过动态代理,调用远程服务
3 通过setNode在运行中配置直连节点信息,比如节点端口,ip,httpPath,host等。(因为http直接通信,复用了应用容器的http端口,不需要新的端口)

代码结构

├── core
│ ├── config
│ │ ├── ConsumerConfig.java 消费者配置
│ │ ├── ProviderConfig.java 提供者配置
│ │ └── annotation
│ │ ├── RPCReference.java 消费者注解
│ │ └── RPCService.java 提供者注解
│ ├── context
│ │ ├── ConsumerContext.java 消费者上下文
│ │ └── ProviderContext.java 提供者上下文
│ ├── domain
│ │ ├── Node.java 节点信息,用于配置特定的ip,端口 ,token等
│ │ ├── RPCRequest.java 消费者发送的数据结构
│ │ ├── RPCResponse.java 消费者从提供者那得到的返回结果
│ │ ├── RPCSerializer.java 序列化协议实现
│ │ └── interfaces
│ │ ├── Formater.java
│ │ └── Parser.java
│ ├── exception
│ │ └── RPCException.java 自定义异常
│ └── proxy
│ ├── ConsumerProxyFactory.java (rpc核心逻辑)消费者调用放的动态代理,是实际执行的方法
│ └── ProviderProxyFactory.java (rpc核心逻辑)注入提供者服务,以及服务通过反射实际执行
├── spring
│ └── factory
│ ├── RPCClassPathBeanDefinitionScanner.java 利用IOC注入服务
│ ├── RPCReferenceAnnotationBeanPostProcessor.java 利用IOC注入服务并通过反射替换Reference的实际方法
│ └── RPCServiceAnnotationBeanPostProcessor.java 利用IOC注入服务
└── utils
├── HttpClientUtil.java 通信用的Http工具类
└── HttpUtil.java

核心代码 @RPCServide服务的注入

@Component
@Slf4j
public class RPCServiceAnnotationBeanPostProcessor implements BeanFactoryPostProcessor, ApplicationContextAware {


    private final Logger logger = LoggerFactory.getLogger(getClass());

    private ApplicationContext applicationContext;

    public void postProcessBeanFactory(ConfigurableListableBeanFactory beanFactory) throws BeansException {
        BeanDefinitionRegistry registry = (BeanDefinitionRegistry) beanFactory;
        RPCClassPathBeanDefinitionScanner scanner = new RPCClassPathBeanDefinitionScanner(registry);

        scanner.setResourceLoader(this.applicationContext);

        BeanNameGenerator beanNameGenerator = resolveBeanNameGenerator(registry);
        scanner.setBeanNameGenerator(beanNameGenerator);

        scanner.addIncludeFilter(new AnnotationTypeFilter(RPCService.class));

        scanner.scan("");
    }


    /**
     * It'd better to use BeanNameGenerator instance that should reference
     * {@link ConfigurationClassPostProcessor},
     * thus it maybe a potential problem on bean name generation.
     *
     * @param registry {@link BeanDefinitionRegistry}
     * @return {@link BeanNameGenerator} instance
     * @see SingletonBeanRegistry
     * @see AnnotationConfigUtils#CONFIGURATION_BEAN_NAME_GENERATOR
     * @see ConfigurationClassPostProcessor#processConfigBeanDefinitions
     * @since 2.5.8
     */
    private BeanNameGenerator resolveBeanNameGenerator(BeanDefinitionRegistry registry) {

        BeanNameGenerator beanNameGenerator = null;

        if (registry instanceof SingletonBeanRegistry) {
            SingletonBeanRegistry singletonBeanRegistry = SingletonBeanRegistry.class.cast(registry);
            beanNameGenerator = (BeanNameGenerator) singletonBeanRegistry.getSingleton(CONFIGURATION_BEAN_NAME_GENERATOR);
        }

        if (beanNameGenerator == null) {

            if (logger.isInfoEnabled()) {

                logger.info("BeanNameGenerator bean can't be found in BeanFactory with name ["
                        + CONFIGURATION_BEAN_NAME_GENERATOR + "]");
                logger.info("BeanNameGenerator will be a instance of " +
                        AnnotationBeanNameGenerator.class.getName() +
                        " , it maybe a potential problem on bean name generation.");
            }
            beanNameGenerator = new AnnotationBeanNameGenerator();

        }

        return beanNameGenerator;
    }


    @Override
    public void setApplicationContext(ApplicationContext applicationContext) throws BeansException {
        this.applicationContext = applicationContext;
    }
}

核心代码 @RPCReferenceServide服务的注入

注入过程类似,不过增加了一个注解下方法的判断
如果被RPCReferenceService注解,动态代理到新的方法上
核心代码如下:

private void setField(Object bean, Field field) {
        if (!field.isAccessible()) {
            field.setAccessible(true);
        }
        try {
            // field.set(bean, applicationContext.getBean(field.getType()));
            if (field.getType().isInterface()) {
                field.set(bean, applicationContext.getBean(ConsumerProxyFactory.class).create(field.getType()));
            } else {
                field.set(bean, applicationContext.getBean(ConsumerProxyFactory.class).create(field.getType().getInterfaces()[0]));
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
        log.info("set field :", field.getName());
    }

这里既然用到了动态代理,补充一下,动态代理主要有两种方式:

  • JDK动态代理,jre提供给我们的类库,代理接口
  • cglib动态代理,通过“继承”可以继承父类所有的公开方法,然后可以重写这些方法,在重写时对这些方法增强,这就是cglib的思想。

此处用的是JDK动态代理,不依赖第三方安装包,但是如果要追求灵活性的话,cglib其实是更好的选择。其中动态代理的核心逻辑如下:

@Slf4j
public class ConsumerProxyFactory implements InvocationHandler {

    private ConcurrentHashMap<String, ConsumerConfig> consumerConfigConcurrentHashMap = new ConcurrentHashMap<>();

    /* create()创建工厂bean speakInterface Class<?> interfaceClass = Class.forName(clazz); */
    public Object create(Class<?> interfaceClass) {
        return Proxy.newProxyInstance(interfaceClass.getClassLoader(), new Class[]{interfaceClass}, this);
    }

    /**
     * 实现InvocationHandler的接口<br>
     * 遇到的问题,Spring容器可能访问被代理类的的实例的toString()方法
     */
    @Override
    public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {
     // 这里通过反射的方式写实际的方法执行逻辑
     // 发送实际的HTTP请求,发送:类名,方法名,参数名,参数
    }
}

提供方http获取string反序列化之后,获取容器中注入的方法

    public Object getBeanByClass(Class<?> clazz) throws RPCException {
        Object bean = providers.get(clazz);
        if (bean != null) {
            return bean;
        }
        throw new RPCException("xxx", clazz);
    }

然后通过反射执行返回结果http返回给消费者。

消费方定义一个controller来接收请求,作为通信桥梁

@Autowired
  private ProviderProxyFactory providerProxyFactory;

  @RequestMapping(value = "/rpc", method = RequestMethod.POST)
  public String rpc(String resquestString) {
    String result = providerProxyFactory.handleHttpContent(resquestString);
    return result;
  }

使用方式举例:

1 接口IUser
2 通过RPCService注入服务UserService作为提供者

@RPCService
public class UserService implements IUser{
  public String getName(String id) {
    return "name:" + id;
  }
 }
}

3 注入ip和port,调用本地服务和远程服务

@RequestMapping("/rpc")
@RestController
public class UserController {

  @Autowired
  private UserService userService; // Springboot的注入方式,本地服务

  @RPCReference
  private IUser userService2; // 注入远程服务

  @RequestMapping(value = "/getUserName", method = RequestMethod.POST)
  public JSONObject add(@RequestBody User user) {
    String a = userService.getName("1");  // 输出“name:1”

    Node node = new Node();
    node.setIp("172.16.105.142");
    node.setPort("8088");
    userService2.setNode(node);
    String b = userService2.getName("2");  // 远程服务返回"name:2"

    JSONObject result = new JSONObject();
    result.put("local", a);
    result.put("remote", b);
    return result;
  }
}

改进

1 有的项目结构是

  • root_path
    • package1
    • package2
      • WebApplication.java
        在WebApplication中引用package1中内容,通常Springboot通过@ComponentScan(root_path)来指定扫描跟路径。

所以在rpc注入provider的时候,也提供一个扫描根路径的注解配置(也是仿的Dubbo)

在注解中使用import

@Target(ElementType.TYPE)
@Retention(RetentionPolicy.RUNTIME)
@Documented
@Import(SimpleRPCComponentScanRegistrar.class) // 这里
public @interface SimpleRPCComponentScan {

    String[] value() default {};

    String[] basePackages() default {};
}

import的SimpleRPCComponentScanRegistrar继承ImportBeanDefinitionRegistrar,并覆写registerBeanDefinitions方法

public class SimpleRPCComponentScanRegistrar implements ImportBeanDefinitionRegistrar {

    @Override
    public void registerBeanDefinitions(AnnotationMetadata importingClassMetadata, BeanDefinitionRegistry registry) {
        Set<String> packagesToScan = getPackagesToScan(importingClassMetadata);

        registerServiceAnnotationBeanPostProcessor(packagesToScan, registry);
    }
}

使用方式

@SpringBootApplication
@SimpleRPCComponentScan("xxx") // 这里
public class DemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(DemoApplication.class, args);
    }

}

2 在注入提供者的时候注入的类可能被代理过,导致获取的接口名字不准确,解决方式,使用AopUtils.getTargetClass(obj) 获取真正的类

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,386评论 6 479
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,939评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,851评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,953评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,971评论 5 369
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,784评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,126评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,765评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,148评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,744评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,858评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,479评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,080评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,053评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,278评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,245评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,590评论 2 343

推荐阅读更多精彩内容