ATD Japan Summit

2020.06.02

eラーニングのアルゴリズム的バイアスを緩和する

Written by

以前に、AIのアルゴリズムやデータに含まれるバイアスによる悪影響に関する記事を紹介しましたが、これはその続きです。今回の記事では、そのようなバイアスが入り込むことを防ぐ方法が提案されています。

 

マシンラーニングのアルゴリズムはブラックボックス

以前のコンピューターアルゴリズムは、明確なルールやインストラクションに従っていました。しかしマシンラーニングでは、データから学ぶプロセスをアルゴリズム自体が記述し、自らの判断やアクションを絶えず洗練させます。そのため、なぜそのアルゴリズムが特定の結果を生成するのかが理解できなくなります。複雑なアルゴリズムは、調査・検討・理解することのできないブラックボックスなのです。

 

アルゴリズムやデータによるバイアスを検出・緩和することに加え、このような制約に対処する方法に関して、研究者、倫理学者、エンジニアなどが、さまざまな方法を推奨しています。

 

近似モデル(approximation model)

これは、ブラックボックスアルゴリズムを「教師」とし、それと類似の結果を生成でき、より透過的な「生徒」アルゴリズムをモデルとして作ることによる方法です。この透過的な「生徒」アルゴリズムの入力を操作することにより、結果を比較したり、ブラックボックスアルゴリズム(教師)の生成する結果を予測します。

 

自分自身を説明するティーチングマシン

これは、自分自身を説明する方法をアルゴリズムに教える、つまり自分が何をやっているかをアルゴリズムに説明させる方法です。

 

監査方法をアルゴリズム用に調整する研究

多くのアルゴリズムでは、インタラクションを行うユーザーが異なれば、異なる結果が生成されるので、単にコードを監査・理解するだけではバイアスがないかどうかを十分に調べることができません。

そのため、相手によってバイアスが生じないかを調べる方法などが研究されています(たとえば、一方は一般的な白人男性の名前を使い、他方は一般的な女性名やアフリカ系アメリカ人の名前を使ったときにどうなるか)。

 

 

元の記事:

https://www.learningsolutionsmag.com/articles/mitigate-algorithmic-bias-in-elearning-with-audits-tools

 

関連記事:

AIのアルゴリズムやデータに含まれるバイアスがeラーニングに与える影響

LMSの衰退、キュレーションやAIを活用した学習

人材開発の世界にAIが忍び寄る

感情に訴えかける学習(アフェクティブラーニング)とAI(合理的思考にも感情が必要)

AIではなくIA(知能増幅、intelligence augmentation)について考えよう

AIと学習に関する記事

※このサイトに掲載されている一連の記事は、オリジナルの記事の全体または一部の概要を紹介するものです。正確なところはオリジナルの記事をご参照ください。