Apache Pig 存儲(chǔ)數(shù)據(jù)

在上一章中，我們學(xué)習(xí)了如何將數(shù)據(jù)加載到Apache Pig中。你可以使用 store 運(yùn)算符將加載的數(shù)據(jù)存儲(chǔ)在文件系統(tǒng)中，本章介紹如何使用 Store 運(yùn)算符在Apache Pig中存儲(chǔ)數(shù)據(jù)。

語(yǔ)法

下面給出了Store語(yǔ)句的語(yǔ)法。

STORE Relation_name INTO ' required_directory_path ' [USING function];

例

假設(shè)我們?cè)贖DFS中有一個(gè)包含以下內(nèi)容的文件 student_data.txt 。

001,Rajiv,Reddy,9848022337,Hyderabad
002,siddarth,Battacharya,9848022338,Kolkata
003,Rajesh,Khanna,9848022339,Delhi
004,Preethi,Agarwal,9848022330,Pune
005,Trupthi,Mohanthy,9848022336,Bhuwaneshwar
006,Archana,Mishra,9848022335,Chennai.

使用LOAD運(yùn)算符將它讀入關(guān)系 student ，如下所示。

grunt> student = LOAD 'hdfs://localhost:9000/pig_data/student_data.txt' 
   USING PigStorage(',')
   as ( id:int, firstname:chararray, lastname:chararray, phone:chararray, 
   city:chararray );

現(xiàn)在，讓我們將關(guān)系存儲(chǔ)在HDFS目錄“/pig_Output/"中，如下所示。

grunt> STORE student INTO ' hdfs://localhost:9000/pig_Output/ ' USING PigStorage (',');

輸出

執(zhí)行 store 語(yǔ)句后，將獲得以下輸出。使用指定的名稱(chēng)創(chuàng)建目錄，并將數(shù)據(jù)存儲(chǔ)在其中。

2015-10-05 13:05:05,429 [main] INFO  org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.
MapReduceLau ncher - 100% complete
2015-10-05 13:05:05,429 [main] INFO  org.apache.pig.tools.pigstats.mapreduce.SimplePigStats - 
Script Statistics:
   
HadoopVersion    PigVersion    UserId    StartedAt             FinishedAt             Features 
2.6.0            0.15.0        Hadoop    2015-10-0 13:03:03    2015-10-05 13:05:05    UNKNOWN  
Success!  
Job Stats (time in seconds): 
JobId          Maps    Reduces    MaxMapTime    MinMapTime    AvgMapTime    MedianMapTime    
job_14459_06    1        0           n/a           n/a           n/a           n/a
MaxReduceTime    MinReduceTime    AvgReduceTime    MedianReducetime    Alias    Feature   
     0                 0                0                0             student  MAP_ONLY 
OutPut folder
hdfs://localhost:9000/pig_Output/ 
 
Input(s): Successfully read 0 records from: "hdfs://localhost:9000/pig_data/student_data.txt"  
Output(s): Successfully stored 0 records in: "hdfs://localhost:9000/pig_Output"  
Counters:
Total records written : 0
Total bytes written : 0
Spillable Memory Manager spill count : 0 
Total bags proactively spilled: 0
Total records proactively spilled: 0
  
Job DAG: job_1443519499159_0006
  
2015-10-05 13:06:06,192 [main] INFO  org.apache.pig.backend.hadoop.executionengine
.mapReduceLayer.MapReduceLau ncher - Success!

驗(yàn)證

你可以如下所示驗(yàn)證存儲(chǔ)的數(shù)據(jù)。

步驟1

首先，使用 ls 命令列出名為 pig_output 的目錄中的文件，如下所示。

hdfs dfs -ls 'hdfs://localhost:9000/pig_Output/'
Found 2 items
rw-r--r-   1 Hadoop supergroup          0 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/_SUCCESS
rw-r--r-   1 Hadoop supergroup        224 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/part-m-00000

可以觀察到在執(zhí)行 store 語(yǔ)句后創(chuàng)建了兩個(gè)文件。

步驟2

使用 cat 命令，列出名為 part-m-00000 的文件的內(nèi)容，如下所示。

$ hdfs dfs -cat 'hdfs://localhost:9000/pig_Output/part-m-00000' 
1,Rajiv,Reddy,9848022337,Hyderabad
2,siddarth,Battacharya,9848022338,Kolkata
3,Rajesh,Khanna,9848022339,Delhi
4,Preethi,Agarwal,9848022330,Pune
5,Trupthi,Mohanthy,9848022336,Bhuwaneshwar
6,Archana,Mishra,9848022335,Chennai