The Dark Side of the chatGPT（chatGPTの裏側にケニア人）

 賢くて善良に見えるchatGPTですが、その裏側には壮絶な人海戦術による作業がありました。タイトルは、Pink Floydの名盤、発売から50周年の「The Dark Side of the Moon」（邦題：狂気）からのオマージュです。

AI研究団体のOpenAIが、対話型AIの「ChatGPT」をより安全に使用できるようにするため、ケニアの労働者を時給2ドル(約260円)以下で雇い、データセットに使われる膨大な量のテキストから有害なコンテンツを、フィルタリングさせる作業を行わせていたと報じられています。ただしケニアでの時給2ドルは月給320ドル(約4万1000円)で、平均賃金より高いとのことです。

AIの中の深層学習（Deep Learning）はかっこいい響きがありますが、実態は教師付きデータと呼ばれる膨大なデータを、人間が振り分ける作業を地道に行う必要があります。この作業はアノテーション、若しくは、ラベリングと呼ばれています。

ChatGPTが人種差別的あるいは性差別的なテキストを生成しないようにしていますが、逆を言うと、問題のあるテキストを膨大に人が読んで、NGと判断する必要があります。これは大変だな。

これが、テキストだからまだ良いけど、画像生成系のAIの深層学習で、人種差別的あるいは性差別的な画像を生成させないためには、同じように問題のある画像を大量に見る必要があります。一部マニアの人にとっては、素敵な仕事かもしれませんが、、、AIの裏側は闇ですね。