java8 in action:第七章学习:并行数据处理与性能

并行流:把一个内容分成多个数据块,并用不同的线程分别处理每个数据块的流。

先做一个简单的测试,测试传统for循环,与顺序流,并行流的速度。

/**
 * 并行测试 最慢
 * @param n
 * @return
 */
public static long parallelSum(long n){
    return Stream.iterate(1L, i -> i+1)
                 .limit(n)
                 .parallel()
                 .reduce(0L, Long::sum);
}

/**
 * 顺序测试 比并行快
 * @param n
 * @return
 */
public static long sequentialSum(long n){
    return Stream.iterate(1L, i -> i+1)
                 .limit(n)
                 .reduce(0L, Long::sum);
}

/**
 * 传统for 更底层 最快
 * @param n
 * @return
 */
public static long iteativeSum(long n){
    long result=0;
    for (int i = 0; i < n; i++) {
        result+=i;
    }
    return result;
}

引入LongStream修改算法:

    /**
 * 比传统for 还快
 * @param n
 * @return
 */
public static long rangedSum(long n){
    return LongStream.rangeClosed(1, n)
                     .reduce(0L, Long::sum);
}

System.out.println("并行测试:"+measureSumPerf(Test7::parallelSum, 10000000));
    System.out.println("顺序测试:"+measureSumPerf(Test7::sequentialSum, 10000000));
    System.out.println("传统for:"+measureSumPerf(Test7::iteativeSum, 10000000));
    System.out.println("LongStream:"+measureSumPerf(Test7::rangedSum, 10000000));

并行测试:404
顺序测试:143
传统for:7
LongStream:4

理论上,并行流比顺序流要更快,事实上并不是这样的。传统for循环更接近底层,表现也不差。

几点改善并行流的方法:

1.顺序流转换成并行流并不一定快。
2.避免装箱,使用IntStream,LongStream,DoubleStream。
3.注意limit,findFirst依赖元素顺序的流,在顺序流上的性能本身就不错。
4.流的总成本。
5.数据量小的时候并行流并不一定有好的效果。
6.考虑分拆效率,ArrayList比LinkedList效率更高。range工产方法创建的原始流类型也可快速分解。
7.考虑处理流时筛选等丢弃元素等情况。
8.考虑合并步骤的代价再决定。

//流的数据源与可分解性对比
    //ArrayList  优
    //LinkedList 差
    //IntStream.range 优
    //Stream.iterate 差
    //HashSet        好
    //TreeSet        好

使用RecursiveTask分支框架

public class ForkJoinSumCalculator extends RecursiveTask<Long> {

private final long [] numbers;
private final int start;
private final int end;

//不再将任务分解为子任务的数组大小
public static final long THRESHOLD=10000;




public ForkJoinSumCalculator(long[] numbers, int start, int end) {
    this.numbers = numbers;
    this.start = start;
    this.end = end;
}



public ForkJoinSumCalculator(long [] numbers) {
    this(numbers,0,numbers.length);
}

@Override
protected Long compute() {
    int length=end-start;
    if (length<=THRESHOLD) {
        return computeSequentially();
    }
    ForkJoinSumCalculator leftTask=new ForkJoinSumCalculator(numbers,start,start+length/2);
    leftTask.fork();
    ForkJoinSumCalculator rightTask=new ForkJoinSumCalculator(numbers,start,start+length/2);
    Long rightResult=rightTask.compute();//同步执行
    Long leftResult=leftTask.join();//读取第一个线程的结果,未完成就等待
    return leftResult+rightResult;//两个任务结果组合
}



private Long computeSequentially() {
    long sum=0;
    for (int i = start; i < end; i++) {
        sum+=numbers[i];
    }
    return sum;
}

/**
 * 测试方法
 * @param n
 * @return
 */
public static long forkJoinSum(long n){
    long [] numbers=LongStream.rangeClosed(1, n).toArray();
    ForkJoinTask<Long> task=new ForkJoinSumCalculator(numbers);
    return new ForkJoinPool().invoke(task);
}

}

计算一串字符串中字符的个数,不含空格

public class WordCounter {
private static final String STR = "I am a Android engineer ! You can you up !";
private final int counter;
private final boolean lastSpace;
public WordCounter(int counter, boolean lastSpace) {
    this.counter = counter;
    this.lastSpace = lastSpace;
}

public WordCounter accumulate(Character c){
    if (Character.isWhitespace(c)) {
        return lastSpace ? this : new WordCounter(counter, true);
    }else{
        return lastSpace ? new WordCounter(counter+1, false):this;
    }
}

public WordCounter combine(WordCounter wordCounter){
    return new WordCounter(counter+wordCounter.counter, wordCounter.lastSpace);
}

public int getCounter(){
    return counter;
}

public static int countWords(Stream<Character> stream){
    WordCounter wordCounter=stream.reduce(new WordCounter(0, true),
            WordCounter::accumulate,WordCounter::combine);
    return wordCounter.getCounter();
}

public static void main(String[] args) {
    Stream<Character> stream=IntStream.range(0, STR.length()).mapToObj(STR::charAt);
    System.out.println(countWords(stream));
                            
}
}

//改成并行流测试,出现异常。

System.out.println(countWords(stream.parallel()));

Spliterator实现上面demo

public class WordCounterSpliterator implements Spliterator<Character> {

private final String str;
private int currentChar=0;



public WordCounterSpliterator(String str) {
    this.str = str;
}

/**
 * 把当前位置Character传递给Consumer
 */
@Override
public boolean tryAdvance(Consumer<? super Character> action) {
    action.accept(str.charAt(currentChar++));//处理当前字符串
    return currentChar <str.length();//true 表示还要要处理
}


@Override
public Spliterator<Character> trySplit() {
    int currentSize=str.length()-currentChar;
    if (currentSize<10) {
        return null; // 解析数小于10时执行顺序处理
    }
    for (int splitPos = currentSize/2+currentChar; splitPos < str.length(); splitPos++) {
        if (Character.isWhitespace(str.charAt(splitPos))) {
            Spliterator<Character> spliterator=new WordCounterSpliterator(str.substring(currentChar, splitPos));
            currentChar=splitPos;//将起始位置设为裁缝位置
            return spliterator;
        }
    }
    return null;
}

/**
 * 总长度与当前位置的差
 */
@Override
public long estimateSize() {
    return str.length()-currentChar;
}

/**
 * ORDERED 顺序
 * SIZED   estimateSize返回值精确
 * SUBSIZED  trySplit创建的其他Spliterator 大小确切
 * NONNULL   不为null
 * IMMUTABLE 不可变(String本身不可变)
 */
@Override
public int characteristics() {
    return ORDERED+SIZED+SUBSIZED+NONNULL+IMMUTABLE;
}

public static int countWords(Stream<Character> stream){
    WordCounter wordCounter=stream.reduce(new WordCounter(0, true),
            WordCounter::accumulate,WordCounter::combine);
    return wordCounter.getCounter();
}

public static void main(String[] args) {
    String str="Characteristic value signifying that an encounter order is defined for elements.";
    Spliterator<Character> spliterator=new WordCounterSpliterator(str);
    Stream<Character> stream=StreamSupport.stream(spliterator, true);
    
    System.out.println(countWords(stream));
    
}
}

好了,就到这里了。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,014评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,796评论 3 386
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,484评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,830评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,946评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,114评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,182评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,927评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,369评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,678评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,832评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,533评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,166评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,885评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,128评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,659评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,738评论 2 351

推荐阅读更多精彩内容