麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 編程 > Ruby > 正文

ruby和pig處理流式文件實例

2020-10-29 19:43:16
字體:
來源:轉載
供稿:網友

大數據操作中涉及到數據清洗步奏還是用腳本處理比較方便,下邊介紹一下pig加載hdfs文件后調用ruby腳本處理數據,再返回數據流至pig中處理的一個簡單案例。

注意:ruby的流式處理用到wukong這個gem包,相關下載:
https://github.com/mrflip/wukong

pig中加載分布式文件調用ruby流式處理:

復制代碼 代碼如下:

log = load '$INFILE' using PigStorage('/t');

define tracking_parser `/usr/ruby parse_click.rb --map` SHIP('parse_click.rb', 'click_tracking.rb');

strmo = stream log through tra_parser;

store strmo into '$OUTFILE' using PigStorage('/t');

復制代碼 代碼如下:

require 'wukong'
require 'json'
require './click_tra.rb'

module ParseClick
  class Mapper < Wukong::Streamer::RecordStreamer
    def before_stream
      @bad_count = 0
    end

    def after_stream
      raise RuntimeError, "Exceeded bad records : #{@bad_count}" if @bad_count > 10
    end

    def process *records
      yield ClickTra.new(JSON.parse(records[2])).to_a
    rescue => e
      @bad_count += 1
      warn "Bad record #{e}: #{records[2]}"
    end
  end
end

Wukong.run ParseClick::Mapper, nil

復制代碼 代碼如下:

require 'date'
require './models.rb'

class ClickTra
 
  output :ip
  output :c_date
  #output your other atrributes

  def c_date
    click_date.strftime("%Y%m%d").to_i
  end 

  def ip
    browser_ip.to_i
  end

end

其中

strmo = stream log through tra_parser;調用定義的外部程序tra_parser處理log對象。
Wukong.run ParseClick::Mapper, nil執行完后,將ruby執行結果回調pig接收。
store strmo into '$OUTFILE' using PigStorage('/t');做結果存儲持久化。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: www.精品在线| 精精国产xxxx视频在线野外 | 伦理三区 | 成人精品免费在线观看 | 国产超碰人人做人人爱ⅴa 国产精品久久久久久久hd | 毛片在线免费视频 | 日韩做爰视频免费 | 久久99在线| 久久久成人精品视频 | 亚洲国产网址 | 91精品国产综合久久婷婷香蕉 | 欧美黄一区 | 国产精品久久国产精麻豆96堂 | 亚洲成人福利在线 | 欧美人的天堂一区二区三区 | 日韩精品免费看 | 国产91在线高潮白浆在线观看 | 中文字幕精品久久 | 精品成人在线观看 | 成人在线视频免费播放 | 欧美一页 | 一边吃奶一边摸下娇喘 | 日日摸夜夜骑 | 亚洲码无人客一区二区三区 | 男女生羞羞视频网站在线观看 | a级黄色片视频 | 欧美精品18 | vidz 98hd | 香蕉在线播放 | 一级免费观看 | 天天碰天天操 | 成人在线视频免费 | 欧美精品色精品一区二区三区 | 日日操夜 | av国产片| 影视免费观看 | 欧美一级毛片美99毛片 | av在线免费观看国产 | 激情综合婷婷久久 | 黄色大片网站在线观看 | 国产精品色综合 |