雪村 ましろ
昨日ね、スマホの写真アプリで顔認識とか自動修正が、ネットにつながってなくてもサクサク動いてて、びっくりしちゃったの。
香月 リサ 先生
ましろちゃん、いい観察!
それが今日のテーマエッジAIよ。
ネットワークの末端、つまりスマホ・PC・カメラ・ロボットなどの端末(エッジデバイス)を指すの。
通常の生成 AI はクラウド上の巨大サーバで動くけど、エッジAI は端末上で直接動くわ。
戸倉 ジャスミン
エッジって何の端っこかと思ったら、デバイスの端末のことか!
深見 つむぎ
メリットを整理すると、①低遅延(サーバとの通信不要で高速)、②プライバシー保護(データが端末から出ない)、③オフライン動作(ネット不要)、④コスト削減(クラウド利用料・通信料不要)——の4点ですね。
戸倉 ジャスミン
全部便利じゃん!
なんで今までやってなかったの?
香月 リサ 先生
端末の計算能力が LLM レベルを動かせるほど発達してきたのが、ここ数年の話だから。
そして前回扱った量子化や蒸留で小型軽量化したモデルを使うのが鍵よ。
雪村 ましろ
スマホの中に AI がすっぽり収まってるイメージなのぉ?
香月 リサ 先生
その通り。
代表的なものに Apple のオンデバイスAI(Apple Intelligence)、Google のGemini Nano、Microsoft のPhi シリーズ、さらにオープンソースの Llama 3.2 1B/3B などがあるわ。
Microsoft の Phi-3.5 や Google の Gemma 2 2B など、数十億パラメータ級で GPT-3.5 相当の能力を持つSLM(Small Language Model)が、スマホでも現実的に動くようになっているの。
戸倉 ジャスミン
えっ、スマホで大規模モデルが動くの?
深見 つむぎ
つまり、もうそこまで来ているという理解で合っていますか?
雪村 ましろ
うぅ〜ん、知らなかったぁ…ましろも今度試してみたい…
香月 リサ 先生
あらあら、みんな同時に驚いてる。
ふふ、そう、もうそこまで来ているの。
そして興味深いのが、クラウドとエッジのハイブリッド運用。
簡単な処理はエッジで即応答、複雑な処理はクラウドに投げる——みたいな使い分けが増えているわ。
戸倉 ジャスミン
要は、全部クラウドだとコストもプライバシーも心配だから、用途で使い分ける時代になるってこと?
深見 つむぎ
補足ですが、エッジ AI のためのハードウェア側進化も見逃せません。
Apple の Neural Engine、Google の Tensor プロセッサ、Qualcomm の NPU など、スマホ向け AI 専用チップが標準装備になってきています。
MLX(Apple)や Core ML、ONNX Runtime などエッジ向け推論ランタイムも成熟して、アプリ開発者が AI 機能を組み込むハードルが下がっています。
香月 リサ 先生
ジャスミンちゃんの理解で完璧。
試験では「エッジAI=端末で動く AI」「4つのメリット(低遅延・プライバシー・オフライン・コスト)」「量子化・SLM で実現」の3点を押さえておきましょう。
雪村 ましろ
将来は冷蔵庫や炊飯器にも AI が入ってそうだね。
えへへ、楽しみ!
確認クイズ
エッジAIのメリットに該当しないものはどれか。
- 低遅延で高速に動作する
- データが端末から出ないためプライバシーが守られる
- クラウドより大きなモデルを動かせる
- オフラインでも利用できる
こたえを見る
正解: 3. クラウドより大きなモデルを動かせる
エッジAIは端末のリソースで動くため、クラウドより小さなモデルしか動かせません。低遅延・プライバシー保護・オフライン動作がメリットです。