Apache Pig SUBTRACT()函數(shù)

2018-01-03 07:09 更新

Pig Latin的 SUBTRACT() 函數(shù)用于兩個(gè)包相減,它需要兩個(gè)包作為輸入,并返回包含第一個(gè)包中不在第二個(gè)包中的元組的包。

語(yǔ)法

下面給出了 SUBTRACT() 函數(shù)的語(yǔ)法。

grunt> SUBTRACT(expression, expression)

假設(shè)在HDFS目錄 /pig_data/ 中有兩個(gè)文件,即 emp_sales.txt emp_bonus.txt ,如下所示。 emp_sales.txt 包含銷售部門員工的詳細(xì)信息, emp_bonus.txt 包含獲得獎(jiǎng)金的員工詳細(xì)信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales 
6,Omar,30,30000,admin

分別使用關(guān)系 emp_sales  emp_bonus ,將這些文件加載到Pig中,如下所示。

grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);	

現(xiàn)在,讓我們使用COGROUP運(yùn)算符將關(guān)系 emp_sales emp_bonus 的記錄/元組與鍵 sno 分組,如下所示。

grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;

使用 DUMP 運(yùn)算符驗(yàn)證關(guān)系 cogroup_data ,如下所示。

grunt> Dump cogroup_data; 

(1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
(2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,30000,admin)}) 
(3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
(4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
(5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
(6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})

從一個(gè)關(guān)系中減去另一個(gè)關(guān)系

現(xiàn)在讓我們從 emp_sales 關(guān)系中減去 emp_bonus 關(guān)系的元組。生成的關(guān)系保存 emp_sales 中不在 emp_bonus 中的元組。

grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_sales, emp_bonus);

驗(yàn)證

使用DUMP運(yùn)算符驗(yàn)證關(guān)系 sub_data ,如下所示。 emp_sales 關(guān)系保存了 emp_bonus 關(guān)系中不存在的元組。

grunt> Dump sub_data;
   
({})
({(2,BOB,23,30000,sales)})
({})
({(4,Sara,25,40000,sales)})
({})
({(6,Maggy,22,35000,sales)})

以同樣的方式,讓我們從 emp_bonus 關(guān)系中減去 emp_sales 關(guān)系,如下所示。

grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_bonus, emp_sales);

使用Dump運(yùn)算符驗(yàn)證 sub_data 關(guān)系的內(nèi)容,如下所示。

grunt> Dump sub_data;

({}) 
({(2,Jaya,23,20000,admin)})
({})
({(4,Alia,25,50000,admin)})
({})
({(6,Omar,30,30000,admin)})


以上內(nèi)容是否對(duì)您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號(hào)
微信公眾號(hào)

編程獅公眾號(hào)