其他
基于Flink快速开发实时TopN
By 大数据技术与架构
TopN 是统计报表和大屏非常常见的功能，主要用来实时计算排行榜。流式的TopN可以使业务方在内存中按照某个统计指标（如出现次数）计算排名并快速出发出更新后的排行榜。
StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
env.setStreamTimeCharacteristic(TimeCharacteristic.ProcessingTime); //以processtime作为时间语义
DataStream<String> text = env.socketTextStream(hostName, port); //监听指定socket端口作为输入与离线wordcount类似，程序首先需要把输入的整句文字按照分隔符split成一个一个单词，然后按照单词为key实现累加。DataStream<Tuple2<String, Integer>> ds = text .flatMap(new LineSplitter()); //将输入语句split成一个一个单词并初始化count值为1的Tuple2<String, Integer>类型
private static final class LineSplitter implements FlatMapFunction<String, Tuple2<String, Integer>> {
@Override public void flatMap(String value, Collector<Tuple2<String, Integer>> out) { // normalize and split the line String[] tokens = value.toLowerCase().split("\\W+");
// emit the pairs for (String token : tokens) { if (token.length() > 0) { out.collect(new Tuple2<String, Integer>(token, 1)); } } } }DataStream<Tuple2<String, Integer>> wcount = ds .keyBy(0) //按照Tuple2<String, Integer>的第一个元素为key，也就是单词 .window(SlidingProcessingTimeWindows.of(Time.seconds(600),Time.seconds(20))) //key之后的元素进入一个总时间长度为600s,每20s向后滑动一次的滑动窗口 .sum(1);// 将相同的key的元素第二个count值相加全局TopN数据流经过前面的处理后会每20s计算一次各个单词的count值并发送到下游窗口 DataStream<Tuple2<String, Integer>> ret = wcount .windowAll(TumblingProcessingTimeWindows.of(Time.seconds(20))) //所有key元素进入一个20s长的窗口（选20秒是因为上游窗口每20s计算一轮数据，topN窗口一次计算只统计一个窗口时间内的变化） .process(new TopNAllFunction(5));//计算该窗口TopNwindowAll是一个全局并发为1的特殊操作，也就是所有元素都会进入到一个窗口内进行计算。private static class TopNAllFunction extends ProcessAllWindowFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, TimeWindow> {
private int topSize = 10;
public TopNAllFunction(int topSize) { // TODO Auto-generated constructor stub
this.topSize = topSize; }
@Override public void process( ProcessAllWindowFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, TimeWindow>.Context arg0, Iterable<Tuple2<String, Integer>> input, Collector<Tuple2<String, Integer>> out) throws Exception { // TODO Auto-generated method stub
TreeMap<Integer, Tuple2<String, Integer>> treemap = new TreeMap<Integer, Tuple2<String, Integer>>( new Comparator<Integer>() {
@Override public int compare(Integer y, Integer x) { // TODO Auto-generated method stub return (x < y) ? -1 : 1; }
}); //treemap按照key降序排列，相同count值不覆盖
for (Tuple2<String, Integer> element : input) { treemap.put(element.f1, element); if (treemap.size() > topSize) { //只保留前面TopN个元素 treemap.pollLastEntry(); } }
for (Entry<Integer, Tuple2<String, Integer>> entry : treemap .entrySet()) { out.collect(entry.getValue()); }
}
}分组TopNwcount.keyBy(new TupleKeySelectorByStart()) // 按照首字母分组 .window(TumblingProcessingTimeWindows.of(Time.seconds(20))) //20s窗口统计上游数据 .process(new TopNFunction(5)) //分组TopN统计 private static class TupleKeySelectorByStart implements KeySelector<Tuple2<String, Integer>, String> {
@Override public String getKey(Tuple2<String, Integer> value) throws Exception { // TODO Auto-generated method stub return value.f0.substring(0, 1); //取首字母做key }
}/** * *针对keyby window的TopN函数，继承自ProcessWindowFunction * */ private static class TopNFunction extends ProcessWindowFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, String, TimeWindow> {
private int topSize = 10;
public TopNFunction(int topSize) { // TODO Auto-generated constructor stub this.topSize = topSize; }
@Override public void process( String arg0, ProcessWindowFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, String, TimeWindow>.Context arg1, Iterable<Tuple2<String, Integer>> input, Collector<Tuple2<String, Integer>> out) throws Exception { // TODO Auto-generated method stub
TreeMap<Integer, Tuple2<String, Integer>> treemap = new TreeMap<Integer, Tuple2<String, Integer>>( new Comparator<Integer>() {
@Override public int compare(Integer y, Integer x) { // TODO Auto-generated method stub return (x < y) ? -1 : 1; }
});
for (Tuple2<String, Integer> element : input) { treemap.put(element.f1, element); if (treemap.size() > topSize) { treemap.pollLastEntry(); } }
for (Entry<Integer, Tuple2<String, Integer>> entry : treemap .entrySet()) { out.collect(entry.getValue()); }
}
}上面的代码实现了按照首字母分组，取每组元素count最高的TopN方法。 嵌套TopN全局topN的缺陷是，由于windowall是一个全局并发为1的操作，所有的数据只能汇集到一个节点进行 TopN 的计算，那么计算能力就会受限于单台机器，容易产生数据热点问题。解决思路就是使用嵌套 TopN，或者说两层 TopN。在原先的 TopN 前面，再加一层 TopN，用于分散热点。例如可以先加一层分组 TopN，第一层会计算出每一组的 TopN，而后在第二层中进行合并汇总，得到最终的全网TopN。第二层虽然仍是单点，但是大量的计算量由第一层分担了，而第一层是可以水平扩展的。 欢迎点赞+收藏+转发朋友圈素质三连文章不错？点个【在看】吧！ 👇