Hadoop Pig の使用用途を教えてください 質問と回答(Q&A)  

こんにちは ゲスト さん | ログイン | ヘルプ | okyuu.com Feed Feed

総合トップ / 質問 / サーバ/ストレージ 質問 / サーバマシン 質問 / Hadoop Pig の使用用途を教えてください
okyuu.comは、2010年9月21日正午をもってサービス終了とさせていただきます。また、2010年6月21日正午以降の投稿およびコメント、回答ができなくなりますのでご注意ください。

0

0人
の評価
Hadoopと云えばHDFSやMapReduceが浮かびますが、その他の Pig というプロダクトについて、どういった場合に使えるものかわかりません。

 Hadoop Pig http://oss.infoscience.co.jp/hadoop/pig/index.html

上記ページには「大規模なデータセットを分析するためのプラットフォーム」という記述がありますが、もう少し分かりやすい説明はありませんか?そもそもデータセットという単語に馴染みがないlose-heart
詳細な機能は抜きにして、平凡なITエンジニアでも、お~そういう用途で使われるんだ、という程度の理解ができればいいのですが・・。

  • 回答数 (1)
  • クリップ数 (0)
  • アクセス数 (931)

  • 回答

0

0人
の評価
(自己レスします)

Hadoop HDFS上に保管されたテキスト形式のデータに対して、目的の集計処理(例えばある単語のカウント)をするために、Map/Reduceと呼ばれる仕組みでプログラムを作成します。
このプログラムは通常Java言語で記述する必要があります。

しかし、エンジニア全員がJavaで記述できるわけではありません。そこで、他の言語でもMap/Reduceプログラムを作成できるように、付加ソフトウェアが登場しました。
そのひとつがHadoop Pigです。
こういった目的のソフトウェアをいくつか挙げておきます。

Hadoop Streaming ・・・ PerlやPHP言語でMap/Reduceプログラムを作成
Hadoop Hive ・・・ SQL風言語でMap/Reduceプログラムを作成
Hadoop Pig ・・・ MapプログムラはPerl言語など、ReduceプログラムはPig Latinという独自言語で作成〔*1〕

〔*1〕Pig Latin言語で記述したスクリプトの中で、Perlスクリプトファイルを実行するイメージです。

1
4
回答
guest_photo
  

カテゴリ

特集

[重要]okyuu.comサービス終了のお知らせ [重要]okyuu.comサービス終了のお知らせ
okyuu.comは、2010年9月21日正午をもってサービス終了とさせていただきます。また、2010年6月21日正午以降の投稿およびコメント、回答ができなくなりますのでご注意ください。
フリーターからGoogle API Expertへ 松尾貴史さん フリーターからGoogle API Expertへ 松尾貴史さん
音楽で独立することを目指していた松尾貴史さん。いまではGoogle App Engine API Expertとして活躍するエンジニアだ。
ソフトウェアを公開するのが楽しい 岡野真也さん ソフトウェアを公開するのが楽しい 岡野真也さん
ソフトウェアを公開するのが面白くてたまらない。作っては公開というのが彼のやり方だが、若きエンジニアにとってはそれくらいがちょうどいいのかもしれない。
コンピュータは世界を広げる実験道具 西尾泰和さん コンピュータは世界を広げる実験道具 西尾泰和さん
プログラミング、サイエンス、デザイン マルチな彼にとって、コンピュータは未知の世界を広げるための道具であることに変わりはない。今後の展開が楽しみだ。
理想のOS開発に人生を賭ける 川合秀実さん 理想のOS開発に人生を賭ける 川合秀実さん
OSASK計画代表の川合さんは、人生の1秒を惜しみながら独自OSの開発にいそしむ。
「楽しむ」それが豊かなエンジニアになるコツ 坂井恵さん 「楽しむ」それが豊かなエンジニアになるコツ 坂井恵さん
日本MySQLユーザ会の副代表を務める坂井恵さん。技術の現場で会社運営に興味を持ち、独立起業の道を選んだエンジニアだ。
夢はエンジニアに強い影響を与える本を書くこと 松信嘉範さん 夢はエンジニアに強い影響を与える本を書くこと 松信嘉範さん
ソニーの情報シスから日本を代表するMySQLのコンサルタントに。彼が魅せられたオープンソースの世界とは?
お友達紹介機能をつかってポイントGET! お友達紹介機能をつかってポイントGET!
お友達を招待してみんなでokyuuポイントをGETしよう!
オープンソースの活動「すごく、いい」 前坂徹さん オープンソースの活動「すごく、いい」 前坂徹さん
オープンソースプロジェクトで活躍する若き新鋭。コミュニティ活動の感想を尋ねると「すごく、いい」と満面の笑み。
コンピュータは創造力を刺激する 奥一穂さん コンピュータは創造力を刺激する 奥一穂さん
天才エンジニアとしての国際的な評価も高い奥一穂さん。世間からのスマートだとの評価には「自分は広く浅くだから」とさらり。
25歳からプログラミング「泣きながら覚えた」 庄司嘉織さん 25歳からプログラミング「泣きながら覚えた」 庄司嘉織さん
25歳でプログラマーに転向した。いまやjava-jaを立ち上げるなど精力的なエンジニアだ。
Rails勉強会@東京は“キャスト”の気持ちで 諸橋恭介さん Rails勉強会@東京は“キャスト”の気持ちで 諸橋恭介さん
大学時代、偶然手にしたMacが諸橋さんにITエンジニアの道を開いた。
"シャイモード"機能を活用しよう! "シャイモード"機能を活用しよう!
こんな質問してもいいのかな?そんなときは"シャイモード"で投稿!
RX-7とサーバ運用の意外な共通点 並河祐貴さん RX-7とサーバ運用の意外な共通点 並河祐貴さん
Amazon EC2を巧みに使いこなすTIS/SonicGardenの並河さん。「腕一本で食べていきたい」とITエンジニアを目指した。
「ブラックボックスは不安でしょ」 ひろせまさあきさん 「ブラックボックスは不安でしょ」 ひろせまさあきさん
エンジニアが楽しくて仕方がない。オープンソースを組み合わせてシステムを作り上げるのが彼の矜持のようだ。
Perlの地位向上を胸に 牧大輔さん Perlの地位向上を胸に 牧大輔さん
endeworksの牧大輔さんは社団法人JPAを立ち上げ、Perlの企業利用を促進したいという。
偶然からCTOへ ライブドアCTO池邉智洋さん 偶然からCTOへ ライブドアCTO池邉智洋さん
池邉智洋さんはライブドアCTOの技術メンバーを先頭で率いる。「まずはやって見せることも大事」と語る。