简体字、冯|java11出来了,java8里边最好用的并发框架 fork-join怎么玩,会了吗?


title: 2018-8-3 聊聊 fork-join框架
tags: java,并发,线程池
grammar_cjkRuby: true


what?

Fork/Join框架是Java7提供了的一个用于并行执行任务的框架, 是一个把大任务分割成若干个小任务,最终汇总每个小任务结果后得到大任务结果的框架。

why?

同样是线程池,为什么我们要用Fork/Join不用别的。

工作窃取算法(work-stealing):

先执行完当前线程的任务,直接去从其他为执行完任务的线程中窃取任务执行;

图:

任务窃取

如图线程1先执行完自己的4个任务,线程2还有没执行的任务,线程1接着从线程2中获取未执行的任务。实现是基于 双向队列

How?

RecursiveAction

执行没有返回结果的任务

  • 新建TestRecursiveAction 对任务进行分割的主线程类
package com.fengxg.test.recursive.action;

import java.util.concurrent.RecursiveAction;

/**
 * @Desccription 用于没有返回结果的任务,对任务进行分割的主线程
 * @auther Fengxg
 * @create 2018/7/25
 */
public class TestRecursiveAction extends RecursiveAction {

    private static final int ONE_TASK_DEAL_NUMBER = 10;

    /**
     * 计数器,计算器执行完,表示最后一个任务也跑完
     */

    String[] data = {};

    public TestRecursiveAction(String[] data) {
        super();
        this.data = data;
    }

    @Override
    protected void compute() {
        //需要拆分成多少个任务单数
        int needSplitCount = 1;
        //剩余多少任务单
        int leftCount = data.length % ONE_TASK_DEAL_NUMBER;
        needSplitCount = (leftCount == 0?data.length/ONE_TASK_DEAL_NUMBER:data.length/ONE_TASK_DEAL_NUMBER+1);
        //初始化计数器
//        countDownLatch = new CountDownLatch(needSplitCount);

        //拆分任务单
        for(int i=0; i<needSplitCount; i++)
        {
            ActionWorkTask workTask = null;
            if(i == needSplitCount-1 && leftCount!=0)
            {
                workTask = new ActionWorkTask(i*ONE_TASK_DEAL_NUMBER, i*ONE_TASK_DEAL_NUMBER+leftCount, data,i);
            }else {
                workTask = new ActionWorkTask(i*ONE_TASK_DEAL_NUMBER, (i+1)*ONE_TASK_DEAL_NUMBER, data,i);
            }
            //提交到线程池队列中
            workTask.fork();
        }
    }

    public String[] getData() {
        return data;
    }

    public void setData(String[] data) {
        this.data = data;
    }
}

  • 新建ActionWorkTask 分片后执行具体业务任务的类
package com.fengxg.test.recursive.action;

import java.util.concurrent.RecursiveAction;

/**
 * @Desccription 分片后执行业务任务的具体类
 * @auther Fengxg
 * @create 2018/7/25
 */
public class ActionWorkTask  extends RecursiveAction{

    public ActionWorkTask(int startIndex, int endIndex, String[] datas,int workNum) {
        super();
        this.startIndex = startIndex;
        this.endIndex = endIndex;
        this.datas = datas;
        this.workNum = workNum;
    }

    private int workNum;
    private int startIndex;
    private int endIndex;
//    private CountDownLatch countDownLatch;
    private String[] datas;

    @Override
    protected void compute() {
        Thread t = Thread.currentThread();
        for (int i = startIndex; i < endIndex; i++) {
            try {
                Thread.sleep(100L);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            System.out.println("workNum" + workNum  +",第" + datas[i] + "任务," + "执行线程:" + t.getName());
        }
//        countDownLatch.countDown();
    }

    public int getStartIndex() {
        return startIndex;
    }

    public void setStartIndex(int startIndex) {
        this.startIndex = startIndex;
    }

    public int getEndIndex() {
        return endIndex;
    }

    public void setEndIndex(int endIndex) {
        this.endIndex = endIndex;
    }

    public String[] getDatas() {
        return datas;
    }

    public void setDatas(String[] datas) {
        this.datas = datas;
    }
}

RecursiveTask

执行没有返回结果的任务

  • 新建 TestRecursiveTask 对任务进行分割的主线程类

    package com.fengxg.test.recursive.task;
      import com.fengxg.test.recursive.dto.TaskResultDTO;
    
      import java.util.ArrayList;
      import java.util.List;
      import java.util.concurrent.CountDownLatch;
      import java.util.concurrent.RecursiveTask;
    
      /**
       * @Desccription 返回有结果任务
       * @auther Fengxg
       * @create 2018/7/25
       */
      public class TestRecursiveTask extends RecursiveTask<TaskResultDTO> {
    
    
      private static final int ONE_TASK_DEAL_NUMBER = 10;
      private List<TaskWorkTask> taskWorkTasks = new ArrayList<TaskWorkTask>();
      /**
       * 计数器,计算器执行完,表示最后一个任务也跑完
       */
      private CountDownLatch countDownLatch = null;
      /**
       * 计数器,计算器执行完,表示最后一个任务也跑完
       */
    
      String[] data = {};
    
      public TestRecursiveTask(String[] data) {
          super();
          this.data = data;
      }
    
      @Override
      protected TaskResultDTO compute() {
          //需要拆分成多少个任务单数
          int needSplitCount = 1;
          //剩余多少任务单
          int leftCount = data.length % ONE_TASK_DEAL_NUMBER;
          needSplitCount = (leftCount == 0?data.length/ONE_TASK_DEAL_NUMBER:data.length/ONE_TASK_DEAL_NUMBER+1);
          //初始化计数器
          countDownLatch = new CountDownLatch(needSplitCount);
    
          //拆分任务单
          for(int i=0; i<needSplitCount; i++)
          {
              TaskWorkTask workTask = null;
              if(i == needSplitCount-1 && leftCount!=0)
              {
                  workTask = new TaskWorkTask(i*ONE_TASK_DEAL_NUMBER, i*ONE_TASK_DEAL_NUMBER+leftCount,countDownLatch, data,i);
              }else {
                  workTask = new TaskWorkTask(i*ONE_TASK_DEAL_NUMBER, (i+1)*ONE_TASK_DEAL_NUMBER,countDownLatch, data,i);
              }
    
              taskWorkTasks.add(workTask);
              //提交到线程池队列中
              workTask.fork();
          }
    
          //整个任务直接结果
          TaskResultDTO taskResultDTO = new TaskResultDTO();
    
          for(TaskWorkTask taskWorkTask: taskWorkTasks){
              //遍历子任务返回的结果集,统计总结果
              TaskResultDTO taskWorkTaskResultDTO    = taskWorkTask.join();
              taskResultDTO.setErrorCount(taskResultDTO.getErrorCount() + taskWorkTaskResultDTO.getErrorCount());
              taskResultDTO.setSuccessCount(taskResultDTO.getSuccessCount() + taskWorkTaskResultDTO.getSuccessCount());
              taskResultDTO.setTotalCount(taskResultDTO.getTotalCount() + taskWorkTaskResultDTO.getTotalCount());
          }
          
          return taskResultDTO;
      }
    
    
      public String[] getData() {
          return data;
      }
    
      public void setData(String[] data) {
          this.data = data;
      }
      }
    
  • 新建 TaskWorkTask 分片后执行具体业务任务的类

package com.fengxg.test.recursive.task;

import com.fengxg.test.recursive.dto.TaskResultDTO;

import java.util.concurrent.CountDownLatch;
import java.util.concurrent.RecursiveTask;

/**
* @Desccription 分片后执行业务任务的具体类
* @auther Fengxg
* @create 2018/7/25
*/
public class TaskWorkTask extends RecursiveTask<TaskResultDTO>{

  public TaskWorkTask(int startIndex, int endIndex, CountDownLatch countDownLatch, String[] datas, int workNum) {
      super();
      this.startIndex = startIndex;
      this.endIndex = endIndex;
      this.datas = datas;
      this.workNum = workNum;
      this.countDownLatch = countDownLatch;
  }

  private int workNum;
  private int startIndex;
  private int endIndex;
  private CountDownLatch countDownLatch;
  private String[] datas;

  @Override
  protected TaskResultDTO compute() {
      TaskResultDTO taskResultDTO = new TaskResultDTO();
      Long errorCount = 0L;
      Long successCount = 0L;
      Long totalCount = 0L;
      taskResultDTO.setErrorCount(errorCount);
      taskResultDTO.setSuccessCount(successCount);
      taskResultDTO.setTotalCount(totalCount);
      Thread t = Thread.currentThread();
      for (int i = startIndex; i < endIndex; i++) {
          try {
              Thread.sleep(100L);
          } catch (InterruptedException e) {
              e.printStackTrace();
          }
          System.out.println("workNum" + workNum  +",第" + datas[i] + "任务," + "执行线程:" + t.getName());
          
          if (0 == i%3) {
              taskResultDTO.setErrorCount(taskResultDTO.getErrorCount() + 1);
          } else {
              taskResultDTO.setSuccessCount(taskResultDTO.getSuccessCount() + 1);
          }

          taskResultDTO.setTotalCount(taskResultDTO.getTotalCount() + 1);
      }
      countDownLatch.countDown();
      return taskResultDTO;
  }

  public int getStartIndex() {
      return startIndex;
  }

  public void setStartIndex(int startIndex) {
      this.startIndex = startIndex;
  }

  public int getEndIndex() {
      return endIndex;
  }

  public void setEndIndex(int endIndex) {
      this.endIndex = endIndex;
  }

  public String[] getDatas() {
      return datas;
  }

  public void setDatas(String[] datas) {
      this.datas = datas;
  }
}

调用 ,测试类

package com.fengxg.test;

import com.fengxg.test.recursive.action.TestRecursiveAction;
import com.fengxg.test.recursive.dto.TaskResultDTO;
import com.fengxg.test.recursive.task.TestRecursiveTask;

import java.util.concurrent.ExecutionException;
import java.util.concurrent.ForkJoinPool;
import java.util.concurrent.Future;

/**
 * @Desccription
 * @auther Fengxg
 * @create 2018/7/25
 */
public class TestForkJoinMain {
    public static void main(String[] args) throws InterruptedException {
        int count = 50;
        String[] datas= new String[count];
        for (int i = 0; i < count; i++) {
            datas[i] = String.valueOf(i);
        }

        Long start = System.currentTimeMillis();
        /**
         * 有返回值
         */
//        testRecursiveTask(datas);
        /**
         * 无返回值
         */
        testRecursiveAction(datas);
        System.out.println(System.currentTimeMillis() - start);
        Thread.sleep(10000L);
    }

    public static void testRecursiveTask(String[] datas){
        TestRecursiveTask action = new TestRecursiveTask(datas);
        ForkJoinPool fork = new ForkJoinPool();
        Future<TaskResultDTO> future = fork.submit(action);
        try {
           TaskResultDTO taskResultDTO =  future.get();
            System.out.println(taskResultDTO.toString());
        } catch (InterruptedException e) {
            e.printStackTrace();
        } catch (ExecutionException e) {
            e.printStackTrace();
        }
    }


    /**
     * @author fengxg
     * @description  测试没有返回结果的任务
     * @params []
     * @return void
     * @data 10:15 2018/7/25
     */
    public static void testRecursiveAction(String[] datas){
        TestRecursiveAction action = new TestRecursiveAction(datas);
        ForkJoinPool fork = new ForkJoinPool();
        Future future = fork.submit(action);
        try {
            future.get();
        } catch (InterruptedException e) {
            e.printStackTrace();
        } catch (ExecutionException e) {
            e.printStackTrace();
        }
    }

}

So?

    本示例只做fork-join应用展示,后续会有专门文章对其原理进行探讨。
    对于<font color="red">批量</font>操作<font color="red">独立任务</font>的需求,fork/join 架构有着明显优势,尤其是在任务量大的时候。 但需要注意的是,多线程能发挥优势的环境是<font color="red">多核CPU(运行环境)</font>。除此以外,需要使用者 针对需求自行调试出最佳分片(影响因素主要有CPU核数,任务量规模)。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,711评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,079评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,194评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,089评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,197评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,306评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,338评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,119评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,541评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,846评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,014评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,694评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,322评论 3 318
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,026评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,257评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,863评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,895评论 2 351

推荐阅读更多精彩内容