香月 リサ 先生
クリエイティブの最後は、音楽と動画制作でのAI活用ね。
雪村 ましろ
AIが曲を作れるんですか!?
香月 リサ 先生
音楽生成AIはメロディ、コード進行、歌詞、さらには歌声まで作れるようになったわ。
SunoやUdioといったサービスが代表格ね。
戸倉 ジャスミン
動画も?
香月 リサ 先生
動画生成AIも急速に進化中よ。
OpenAIのSoraやGoogleのVeoなどは、テキストから数十秒の動画を生成できるの。
マルチモーダル化が進んでいる例ね。
深見 つむぎ
短編映像くらいなら、AI一本で作れる時代になったんですね。
雪村 ましろ
えへへ、SNS用の動画がひとりで作れちゃいますね。
香月 リサ 先生
そうね。
でも便利な裏に、深刻な倫理問題があるの。
それが今日の大事なテーマね。
深見 つむぎ
音声クローンは怖い技術ですね…。
香月 リサ 先生
そうなの。
本人の同意なしに音声クローンを作るのは、AI倫理的に大きな問題よ。
詐欺の電話で家族の声を真似される事件も既に起きているの。
戸倉 ジャスミン
うそっ!?
…それはマジで怖いんだけど。
香月 リサ 先生
選挙の候補者の発言を捏造するディープフェイク動画もあったわ。
社会の信頼そのものが揺らぐ問題なの。
雪村 ましろ
ふぇぇ…便利な裏でこんな悪用があるなんて…。
深見 つむぎ
対策としては何がありますか?
香月 リサ 先生
透かしを埋め込む、AI生成物であることを明示する、法規制を整備する、の3本柱が進行中よ。
EU AI ActやNIST AI RMFといった枠組みでも、生成物の表示義務が議論されているわ。
戸倉 ジャスミン
つまりあたしたちも、見たもの全部鵜呑みにしちゃダメってことか〜!
香月 リサ 先生
そう、メディアリテラシーが今まで以上に大切になっているの。
試験でもディープフェイク対策は頻出ね。
深見 つむぎ
補足すると、音楽の分野では学習データとなった楽曲の著作権や、アーティストの声を無断学習することも大きな論点になっていますよね。
香月 リサ 先生
そう、クリエイターが生活基盤を失うリスクもあるから、AI倫理と著作権の両輪で社会合意を作っていく段階なの。
雪村 ましろ
ましろ、技術に喜ぶだけじゃなくて、使う側の責任も考えます。
戸倉 ジャスミン
あたしたちの世代って、AIで作られたものと人が作ったもの、どう区別して付き合うかが課題なんだね。
香月 リサ 先生
まさに。
「出処を疑う習慣」と「人間が作ったものの価値を再認識する視点」、この両方が必要よ。
雪村 ましろ
ましろも、SNSで見た動画を信じちゃう前に一呼吸置くようにしますね。
香月 リサ 先生
その一呼吸が、情報社会を生き抜く力になるの。
深見 つむぎ
生成AI時代のメディアリテラシーは、「見た・聞いた」から「信じる」までの距離を意識することですね。
香月 リサ 先生
うまい表現ね。
情報が本当かどうか、出処はどこか、意図はあるか、を一呼吸挟んで考える習慣が、これからの必須スキルよ。
戸倉 ジャスミン
「クリックする前に一呼吸」…よし、覚えとこ!
香月 リサ 先生
音楽・動画分野では、生成AIが合意形成のルールを作りながら進化している途中なの。
試験的には「同意なき音声クローン=倫理違反」「生成物の表示義務=対策の柱」を覚えておいて。
深見 つむぎ
補足すると、コンテンツの信頼性を保証する透かし技術も、国際標準化が進んでいますね。
雪村 ましろ
うぅ〜ん…技術の進化と倫理の議論が、同時に進んでるんですねぇ…。
確認クイズ
音楽・動画制作AIの利用で最も重大な倫理的問題は?
- BGMを自動生成すること
- 動画の自動字幕を付けること
- 本人の同意なき音声クローンやディープフェイクの作成
- 効果音をAIで作ること
こたえを見る
正解: 3. 本人の同意なき音声クローンやディープフェイクの作成
本人の同意なき音声クローンやディープフェイクは、詐欺や名誉毀損、選挙不正など社会的被害を生む重大な問題です。透かしの埋め込みや生成物の表示義務といった対策が世界で議論されています。