The Dark Side of the chatGPT(chatGPTの裏側にケニア人)

 賢くて善良に見えるchatGPTですが、その裏側には壮絶な人海戦術による作業がありました。タイトルは、Pink Floydの名盤、発売から50周年の「The Dark Side of the Moon」(邦題:狂気)からのオマージュです。

AI研究団体のOpenAIが、対話型AIの「ChatGPT」をより安全に使用できるようにするため、ケニアの労働者を時給2ドル(約260円)以下で雇い、データセットに使われる膨大な量のテキストから有害なコンテンツを、フィルタリングさせる作業を行わせていたと報じられています。ただしケニアでの時給2ドルは月給320ドル(約4万1000円)で、平均賃金より高いとのことです。


AIの中の深層学習(Deep Learning)はかっこいい響きがありますが、実態は教師付きデータと呼ばれる膨大なデータを、人間が振り分ける作業を地道に行う必要があります。この作業はアノテーション、若しくは、ラベリングと呼ばれています。

ChatGPTが人種差別的あるいは性差別的なテキストを生成しないようにしていますが、逆を言うと、問題のあるテキストを膨大に人が読んで、NGと判断する必要があります。これは大変だな。

これが、テキストだからまだ良いけど、画像生成系のAIの深層学習で、人種差別的あるいは性差別的な画像を生成させないためには、同じように問題のある画像を大量に見る必要があります。一部マニアの人にとっては、素敵な仕事かもしれませんが、、、AIの裏側は闇ですね。

コメント

このブログの人気の投稿

追悼 アートディレクター 信藤三雄 日本のHipgnosis

アポロと万博とラジオ Back to 1969-70

ブライアン・イーノ旧作をリビルド Dolby Atmosへの挑戦 

日本縮小#2 なぜ日本でイノベーションが起きないか? 農耕VS狩猟

ジングルの話 「Rock TikiTiki」映像作成のベストプラクティス

村上春樹ライブラリー 作家の本棚(頭の中)を見る

マイクトソフト VS グーグル Webの覇権争い

「うたかたの日々」 岡崎京子を再評価する

J-POPのフォーマットをはみ出す3人 常田大希、椎名林檎、宇多田ヒカル 

ロシアとトランプ 策略国家ロシア#3