香月 リサ 先生
AI倫理の最上位理念——人間の尊厳について考えるわ。
AI原則の中でも『他の全てを貫く柱』とされるの。
深見 つむぎ
カントの哲学で言うところの『人を手段としてのみ扱わない』という原則ですね。
AIの文脈でも深く根付いています。
戸倉 ジャスミン
哲学が出てくると一気に難しくなるね…具体例で言うとどんな問題?
香月 リサ 先生
大きく3つ。
①監視社会、②ソーシャルスコアリング、③自律性の喪失ね。
雪村 ましろ
監視って、防犯カメラみたいなやつ?
香月 リサ 先生
単なる防犯カメラを超えて、AIが顔認証＋歩容認証＋行動予測まで行う社会全体の監視網をイメージしてみて。
中国の一部都市で実装が進み、人権団体から強い懸念が出ているわ。
深見 つむぎ
EU AI Act では、公共空間でのリアルタイム遠隔生体認証を原則禁止としました (一部例外あり)。
戸倉 ジャスミン
街を歩くだけで行動履歴が残るのは気持ち悪いね…
香月 リサ 先生
ソーシャルスコアリングは、市民の信用度を AI で点数化し、スコアで交通機関の利用可否・就職・融資などを差別的に扱う仕組み。
EU AI Act では『禁止AI』に分類されるレベル。
雪村 ましろ
点数で人を決めるのは……なんか、切ないね。
みんな数字じゃないのに。
香月 リサ 先生
ましろちゃんの感性、大事な判断基準を言い当ててくれたわね。
『人間を数値に還元しない』——これが尊厳の核なの。
深見 つむぎ
自律性の喪失は、レコメンドAIによるフィルターバブルやアルゴリズム依存による意思決定力の低下も含みます。
戸倉 ジャスミン
AIに何でも決めてもらってたら、自分で考えなくなっちゃうってこと〜?
それ怖いね!
香月 リサ 先生
だからAIは『人間の能力を代替するもの』ではなく『補助・拡張するもの』と位置づけることが重要なの。
香月 リサ 先生
試験では『EU AI Act で禁止AIに分類されるものは?』という形で出題されることが多いわ。
ソーシャルスコアリング・リアルタイム生体認証が代表例よ。
深見 つむぎ
人間中心のAI社会原則の基本理念『人間の尊厳』とも直結する論点ですね。
戸倉 ジャスミン
便利さとのトレードオフかもしれないけど、何を守るかは意識して使いたいね!
香月 リサ 先生
人権の観点では、国連人権理事会も2021年にAIと人権に関する決議を採択し、AIが人権に与える影響のアセスメント義務を各国に勧告しているのよ。
深見 つむぎ
HRIAと呼ばれ、欧州では既に実装が進んでいます。
雪村 ましろ
『人間を数値に還元しない』、この言葉ノートに書いておくね。
どんなに便利な技術ができても、これは忘れちゃいけない気がする。
香月 リサ 先生
ましろちゃんの姿勢、Phase 7 全体の心の拠り所になりそうね。
深見 つむぎ
技術者として論理だけで考えていると見落としがちな視点です。
ましろちゃんのような感性も、AI 倫理の議論には不可欠だと改めて感じます。
戸倉 ジャスミン
理系も文系も、論理も感性も、どっちも大事ってことか〜!
チームで考える意味、わかった気がする!
確認クイズ
AI と人間の尊厳について最も適切な記述はどれ?
- AI が人間の全判断を代行することが望ましい
- 顔認証AIによる公共空間の常時監視は人権上問題ない
- AI は人間の能力を補助・拡張するものであり、人間の尊厳を損なうべきではない
- AI 時代には人間の尊厳という概念は不要になる
こたえを見る
正解: 3. AI は人間の能力を補助・拡張するものであり、人間の尊厳を損なうべきではない
AI倫理の国際的共通理解として『AI は人間の尊厳と自律性を補助・拡張する存在であるべき』という原則があります。EU AI Act で禁止AIに分類されるソーシャルスコアリングは、この原則に反する代表例です。