香月 リサ 先生
今日のテーマはバイアスと公平性。
AIが特定のグループに不利益を与えてしまう問題ね。
深見 つむぎ
具体的な事例はありますか?
香月 リサ 先生
有名なのは Amazon の採用AI事件。
2018年頃に、男性技術者が多い過去10年分の応募データで学習した結果、女性の履歴書の評価を下げる傾向が発覚して、運用停止になったの。
雪村 ましろ
ふぇぇ、それ実際にあったニュースなのぉ!? 怖いよぉ…
戸倉 ジャスミン
AIって『機械だから公平』って思われがちだけど、学習データが偏ってたら結果も偏るんだね。
香月 リサ 先生
その通り。
データに含まれる歴史的な偏見を、AIは忠実に再現してしまう。
これをデータバイアス、結果として生じる不公平を公平性の問題と呼ぶのよ。
深見 つむぎ
つまり、技術中立のはずの機械が、社会の偏見を強化してしまう『バイアス増幅装置』になりうるわけですね。
香月 リサ 先生
怖い表現だけど、その認識で合っているわ。
このリスクは2023年に施行されたEU AI Actでも明確に規制対象になっているの。
深見 つむぎ
先生、EU AI Act の成立は2023年『可決』で、施行は2024年以降の段階的適用でしたよね。
香月 リサ 先生
あら、そうだったわね。
正確には2024年8月に発効し、条項ごとに段階的適用開始よ。
教えてくれてありがとう。
戸倉 ジャスミン
先生でも勘違いするんだね、なんかちょっと安心しちゃった(笑)
雪村 ましろ
ましろも、間違えたら直せばいいんだって思えたよぉ!
香月 リサ 先生
正確性は命だから、お互い遠慮なく指摘し合っていきましょう。
深見 つむぎ
公平性には複数の定義 (Demographic Parity / Equal Opportunity 等) があり、それらが数学的に同時に成立しないことも知られていますね。
香月 リサ 先生
そう、これが公平性問題の難しさなの。
『どの公平を取るか』自体が価値判断になるのよ。
戸倉 ジャスミン
つまり、技術だけじゃなくて『何が公平か』は人間が決めなきゃいけないってことか〜!
深見 つむぎ
補足すると、バイアスの計測にはDemographic Parity、Equal Opportunity、Equalized Oddsなど複数の指標があり、場面で使い分ける必要があります。
戸倉 ジャスミン
数学的にちゃんと定義されてるんだ…公平って言葉の重みが違って見えるなぁ。
雪村 ましろ
学校のクラス替えも、ちょっとバランス考えて決めてもらってる気がするぅ。
AIも『バランスを考える』ことが大事なんだねぇ。
香月 リサ 先生
ましろちゃんの直感、本当に的確ね。
人間社会で当たり前にある『バランスの配慮』を、AIにも実装する必要があるの。
戸倉 ジャスミン
あたし、試験対策としても実生活としても、バイアスの話は絶対忘れないようにするね。
バドミントンでもフォーメーションの偏りで負けることあるし、『偏り=リスク』って感覚は部活にも通じる。
深見 つむぎ
スポーツの戦術分析も、データバイアスの影響を受ける領域ですね。
プロチームのスカウティングAI でも、特定国リーグ偏重の事例が報告されています。
香月 リサ 先生
EU AI Act では採用・信用評価・教育評価など、個人の権利に影響する分野を高リスクAIに分類し、バイアス評価の実施を義務化しているの。
世界的に法制化が進んでいる分野よ。
雪村 ましろ
ルールで守ってもらえるって、安心感あるねぇ。
確認クイズ
AIバイアスに関する記述として最も適切なものは?
- AIは計算だから必ず公平な判断を下す
- 学習データの偏りがAIの判断に反映される
- バイアスはプログラムのバグでのみ発生する
- バイアスは高性能GPUを使えば完全に解消する
こたえを見る
正解: 2. 学習データの偏りがAIの判断に反映される
AIはデータから学ぶため、データの偏りがそのまま判断に現れます。バイアスはバグでもハードウェア問題でもなく、データと設計に起因する構造的問題です。