课程表

Apache Pig 基础

Apache Pig 诊断运算符

Apache Pig 分组和连接

Apache Pig 合并和拆分

Apache Pig 过滤

Apache Pig 排序

Pig Latin 内置函数

Apache Pig 其他执行模式

工具箱
速查手册

Cogroup运算符

当前位置:免费教程 » 大数据/云 » Apache Pig

COGROUP 运算符的运作方式与 GROUP 运算符相同。两个运算符之间的唯一区别是 group 运算符通常用于一个关系,而 cogroup 运算符用于涉及两个或多个关系的语句。

使用Cogroup分组两个关系

假设在HDFS目录 /pig_data/ 中有两个文件,即 student_details.txt employee_details.txt ,如下所示。

student_details.txt

  1. 001,Rajiv,Reddy,21,9848022337,Hyderabad
  2. 002,siddarth,Battacharya,22,9848022338,Kolkata
  3. 003,Rajesh,Khanna,22,9848022339,Delhi
  4. 004,Preethi,Agarwal,21,9848022330,Pune
  5. 005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
  6. 006,Archana,Mishra,23,9848022335,Chennai
  7. 007,Komal,Nayak,24,9848022334,trivendram
  8. 008,Bharathi,Nambiayar,24,9848022333,Chennai

employee_details.txt

  1. 001,Robin,22,newyork
  2. 002,BOB,23,Kolkata
  3. 003,Maya,23,Tokyo
  4. 004,Sara,25,London
  5. 005,David,23,Bhuwaneshwar
  6. 006,Maggy,22,Chennai

将这些文件分别加载到Pig中,关系名称分别为 student_details employee_details ,如下所示。

  1. grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
  2. as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);
  3. grunt> employee_details = LOAD 'hdfs://localhost:9000/pig_data/employee_details.txt' USING PigStorage(',')
  4. as (id:int, name:chararray, age:int, city:chararray);

现在,将 student_details employee_details 关系的记录/元组按关键字age进行分组,如下所示。

  1. grunt> cogroup_data = COGROUP student_details by age, employee_details by age;

验证

使用 DUMP 运算符验证关系 cogroup_data ,如下所示。

  1. grunt> Dump cogroup_data;

输出

它将产生以下输出,显示名为 cogroup_data 的关系的内容,如下所示。

  1. (21,{(4,Preethi,Agarwal,21,9848022330,Pune), (1,Rajiv,Reddy,21,9848022337,Hyderabad)},
  2. { })
  3. (22,{ (3,Rajesh,Khanna,22,9848022339,Delhi), (2,siddarth,Battacharya,22,9848022338,Kolkata) },
  4. { (6,Maggy,22,Chennai),(1,Robin,22,newyork) })
  5. (23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)},
  6. {(5,David,23,Bhuwaneshwar),(3,Maya,23,Tokyo),(2,BOB,23,Kolkata)})
  7. (24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)},
  8. { })
  9. (25,{ },
  10. {(4,Sara,25,London)})

cogroup 运算符根据年龄对来自每个关系的元组进行分组,其中每个组描述特定的年龄值。

例如,如果我们考虑结果的第一个元组,它按照年龄21分组,那它包含两个包

  • 第一个包保存了具有21岁的第一关系(在这种情况下是 student_details )的所有元组;

  • 第二个包具有第二关系(在这种情况下为 employee_details )的所有元组,其年龄为21岁。

如果关系不具有年龄值为21的元组,则返回一个空包。

转载本站内容时,请务必注明来自W3xue,违者必究。
 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号