Java8 Lambda（二）-Stream原理

Java8 Lambda（二）-Stream原理

  • 2017-05-20

推荐一篇博文,很好的介绍了Stream的原理.本文对其进行一些补充更加详细的讲解.

作者: 李豪
地址: https://github.com/CarpenterLee/JavaLambdaInternals/blob/master/6-Stream%20Pipelines.md

需求:

从"张三","李四","王二","张四五"中选出以张开头的名字,然后从再从中选出名字最长的一个,输出其长度.

1.一种直白的实现

缺点:

  1. 迭代次数过多
  2. 频繁产生中间结果,性能无法接受

实际想要的效果:
平常的写法:

1
2
3
4
5
6
7
8
int longest = 0;
for(String str : strings){
    if(str.startsWith("张")){// 1. filter(), 保留以张开头的字符串
        int len = str.length();// 2. mapToInt(), 转换成长度
        longest = Math.max(len, longest);// 3. max(), 保留最长的长度
    }
}
System.out.println(longest);

Stream的做法:

1
2
3
4
5
Stream.of("张三","李四","王二","张四五")
      .filter(x -> x.startsWith("张"))
      .mapToInt(String::length)
      .max()
      .ifPresent(System.out::println);

2.Stream是怎么做到的?

Stream的操作分类:

中间操作:返回一个新的Stream
- 有状态 sorted(),必须等上一步操作完拿到全部元素后才可操作
- 无状态 filter(),该操作的元素不受上一步操作的影响

1
2
list.stream().filter(x -> x.startWith("张").map(x -> x.length())
list.stream().filter(x -> x.startWith("张").sorted().map(x -> x.length())

终端操作:返回结果
- 短路操作findFirst(),找到一个则返回,也就是break当前的循环
- 非短路操作forEach(),遍历全部元素

以上操作决定了Stream一定是先构建完毕再执行的特点,也就是延迟执行,当需要结果(终端操作时)开始执行流水线.
Stream做到的是对于多次调用合并到一次迭代中处理完所有的调用方式.换句话说就是解决了上述的两个缺点.大概思路是记录下每一步的操作,然后终端操作时对其迭代依次执行每一步的操作,最后再一次循环中处理.

问题:

  1. 操作是如何记录下来的?
  2. 操作是如何叠加的?
  3. 叠加完如何执行的?
  4. 执行完如何收集结果的?

Stream结构示意图:

示例代码:

1
2
3
4
5
6
7
8
9
10
11
12
List<String> data = new ArrayList<>();
data.add("张三");
data.add("李四");
data.add("王三");
data.add("马六");

data.stream()
    .filter(x -> x.length() == 2)
    .map(x -> x.replace("三","五"))
    .sorted()
    .filter(x -> x.contains("五"))
    .forEach(System.out::println);

1. 操作是如何记录下来的?

  1. Head记录Stream起始操作
  2. StatelessOp记录中间操作
  3. StatefulOp记录有状态的中间操作
    这三个操作实例化会指向其父类AbstractPipeline,也就是在AbstractPipeline中建立了双向链表

对于Head

1
2
3
4
5
6
7
8
9
10
AbstractPipeline(Spliterator<?> source,
                 int sourceFlags, boolean parallel) {
    this.previousStage = null; //首操作上一步为null    
    this.sourceSpliterator = source; //数据
    this.sourceStage = this; //Head操作
    this.sourceOrOpFlags = sourceFlags & StreamOpFlag.STREAM_MASK;
    this.combinedFlags = (~(sourceOrOpFlags << 1)) & StreamOpFlag.INITIAL_OPS_VALUE;
    this.depth = 0;
    this.parallel = parallel;
}

对于其他Stage:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
AbstractPipeline(AbstractPipeline<?, E_IN, ?> previousStage, int opFlags) {
    if (previousStage.linkedOrConsumed)
        throw new IllegalStateException(MSG_STREAM_LINKED);
    previousStage.linkedOrConsumed = true;
    //双向链表的建立
    previousStage.nextStage = this;
    this.previousStage = previousStage;
    this.sourceStage = previousStage.sourceStage;        
    this.depth = previousStage.depth + 1;        
    
    this.sourceOrOpFlags = opFlags & StreamOpFlag.OP_MASK;
    this.combinedFlags = StreamOpFlag.combineOpFlags(opFlags, previousStage.combinedFlags);
    if (opIsStateful())
        sourceStage.sourceAnyStateful = true;
}
调用过程如此用双向链表串联起来,每一步都得知其上一步与下一步的操作. data.stream() .filter(x -> x.length() == 2) .map(x -> x.replace("三","五")) .sorted() .filter(x -> x.contains("五")) .forEach(System.out::println);

2.操作是如何叠加的?

Sink<T>接口:

  1. void begin(long size),循环开始前调用,通知每个Stage做好准备
  2. void end(),循环结束时调用,依次调用每个Stage的end方法,处理结果
  3. boolean cancellationRequested(),判断是否可以提前结束循环
  4. void accept(T value),每一步的处理

其子类之一ChainedReference:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
static abstract class ChainedReference<T, E_OUT> implements Sink<T> {
    protected final Sink<? super E_OUT> downstream;

    public ChainedReference(Sink<? super E_OUT> downstream) {
        this.downstream = Objects.requireNonNull(downstream);
    }
    @Override
    public void begin(long size) {
        downstream.begin(size);
    }
    @Override
    public void end() {
        downstream.end();
    }
    @Override
    public boolean cancellationRequested() {
        return downstream.cancellationRequested();
    }
}

例Filter:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
@Override
public final Stream<P_OUT> filter(Predicate<? super P_OUT> predicate) {
    Objects.requireNonNull(predicate);
    return new StatelessOp<P_OUT, P_OUT>(this, StreamShape.REFERENCE,
                                 StreamOpFlag.NOT_SIZED) {
        @Override
        Sink<P_OUT> opWrapSink(int flags, Sink<P_OUT> sink) {
            return new Sink.ChainedReference<P_OUT, P_OUT>(sink) {
                @Override
                public void begin(long size) {
                    downstream.begin(-1);
                }

                @Override
                public void accept(P_OUT u) {
                    //条件成立则传递给下一个操作,也因为如此所以有状态的操作必须放到
                    //end方法里面
                    if (predicate.test(u))
                        downstream.accept(u);
                }
            };
        }
    };
}

再例如sorted():

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
@Override
public void begin(long size) {
    if (size >= Nodes.MAX_ARRAY_SIZE)
        throw new IllegalArgumentException(Nodes.BAD_SIZE);
    list = (size >= 0) ? new ArrayList<T>((int) size) : new ArrayList<T>();
}
@Override
public void end() {
    list.sort(comparator);
    downstream.begin(list.size());
    if (!cancellationWasRequested) {
        list.forEach(downstream::accept);
    }
    else {
        for (T t : list) {
            if (downstream.cancellationRequested()) break;
            downstream.accept(t);
        }
    }
    downstream.end();
    list = null;
}
@Override
public void accept(T t) {
    list.add(t);
}

叠加后如何执行?

执行操作是由终端操作来触发的,例如foreach操作

1
2
3
4
5
@Override
public void forEach(Consumer<? super P_OUT> action) {
    //evaluate就是开关,一旦调用就立即执行整个Stream    
    evaluate(ForEachOps.makeRef(action, false));
}

执行前会对操作从末尾到起始反向包裹起来,得到调用链

1
Sink opWrapSink(int flags, Sink<P_OUT> sink) ;
1
2
3
4
5
6
7
8
9
//这个Sink是终端操作所对应的Sink
final <P_IN> Sink<P_IN> wrapSink(Sink<E_OUT> sink) {
    Objects.requireNonNull(sink);

    for ( AbstractPipeline p=AbstractPipeline.this; p.depth > 0; p=p.previousStage) {
        sink = p.opWrapSink(p.previousStage.combinedFlags, sink);
    }
    return (Sink<P_IN>) sink;
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
@Override
final <P_IN> void copyInto(Sink<P_IN> wrappedSink, Spliterator<P_IN> spliterator) {
    Objects.requireNonNull(wrappedSink);

    if (!StreamOpFlag.SHORT_CIRCUIT.isKnown(getStreamAndOpFlags())) {
        //依次执行调用链
        wrappedSink.begin(spliterator.getExactSizeIfKnown());
        spliterator.forEachRemaining(wrappedSink);
        wrappedSink.end();
    }
    else {
        copyIntoWithCancel(wrappedSink, spliterator);
    }
}

有状态的中间操作何时执行?

例如sorted()操作,其依赖上一次操作的结果集,按照调用链来说结果集必须在accept()调用完才会产生.那也就说明sorted操作需要在end中,然后再重新开启调用链.

sorted的end方法:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
@Override
 public void end() {
     list.sort(comparator);
     downstream.begin(list.size());
     if (!cancellationWasRequested) {
         list.forEach(downstream::accept);
     }
     else {
         for (T t : list) {
             if (downstream.cancellationRequested()) break;
             downstream.accept(t);
         }
     }
     downstream.end();
     list = null;
 }

那么就相当于sorted给原有操作断路了一次,然后又重新接上,再次遍历.

如何收集到结果?

foreach是不需要收集到结果的,但是对于collect这样的操作是需要拿到最终end产生的结果.end产生的结果在最后一个Sink中,这样的操作最终都会提供一个取出数据的get方法.

1
2
3
4
5
@Override
 public <P_IN> R evaluateSequential(PipelineHelper<T> helper,
                                    Spliterator<P_IN> spliterator) {
     return helper.wrapAndCopyInto(makeSink(), spliterator).get();
 }

如此拿到数据返回

个人博客 mrdear.cn ,欢迎交流

Java8 Lambda（一）-函数式接口
Dubbo -- 关于老项目替换dubbo的一点经验