【社内雑談】新しいSiriが出るの？（実はオンデバイスAIの話）その4

はじめに

Appleが、今年現地時間6月8日に開発者会議「WWDC26」を開催し、iOS27（シリーズ）を発表しました。今回のOSの目玉は、新しいApple Intelligence、そしてSiri AIです。WWDCの基調講演のうちの3分の2近くをこのAI関連の紹介に使っていました。

いよいよ、AppleをもってしてもAI化の波に抗うことはできず、iOS27の中心機能もAIになりつつあるようです。そして、最初のApple IntelligenceはOpen AIのGPTベースでの実装でしたが、今回はGoogle Geminiをベースとした実装になると紹介されています。ただ、Geminiは既にAndroidでバリバリ使われているAIでもあるので、iPhoneとAndroidの差別化が難しいのでは、と言われています。

今回の社内雑談では、スマートフォンにおいても中心になりつつあるAIについて、Apple Intelligenceの話題を中心に、通信技術者の目線で話し合っていきたいと思います。

毎度おなじみではありますが、このブログはエンジニア個人が好き勝手に発信するものであり、所属組織（株式会社三技協）の公式の見解ではありませんので、あらかじめご承知置きください。

今回は全4回のうちの最終回です。前回はオンデバイスAIがAppleシリコン製品でどう動くのかの話をしました。最終回の今回はオンデバイスAIにおけるAppleのアドバンテージの話になるようです。

【社内雑談】新しいSiriが出るの？（実はオンデバイスAIの話） その1 その2 その3 その4

Apple製品とオンデバイスAI

B： ここで、Apple IntelligenceのA3CAという機能を思い出してほしい。

A： えーと、「使えるメモリに応じてサイズを変える」でしたよね。あれ、あっ！そうか。

B： そう。Windowsにおいては、ゲームなどを動かしていない限り、VRAMはほぼ空いている。そうなると、ハードウエアとしてのVRAMの容量が、すなわち動かせるAIのサイズになる。でも、ユニファイドメモリにはメインメモリとしての仕事もあるので、OSが載っていたり、別のアプリが動いていたりして、必ずしも空いている容量が一定ではない。

だから、A3CAでは空き容量に応じたAIを動かすという機能が付けられた。これ、一般的なアプリであれば、メモリが足りなければOSが裏でメモリスワップして「遅いな～」で済むんだよ。だけど、AIは全部をメモリに載せなければまともに動かないから、空いている分だけメモリに載せるA3CAみたいな機能が必要なんだよ。

A： なるほど、メモリスワップが効かないからA3CAなんですね。でも、なんか出来過ぎなぐらい考えられていますね。ユニファイドメモリを採用したのは偶然なのでしょうけど、時代の流れはAppleに来ているとさえ思いますね。

B： ただね、いくらユニファイドメモリだからといって、万能って訳じゃない。100万円するMac Studioなら（最大）96GBのユニファイドメモリがあるけど、iPhone 16eには8GBしかメモリがない^※7。やはり、両者は一緒ではない。96GBもあれば、あまり考えなくても大概のオンデバイスAIが動く。でも、8GBだと最小単位のAIが限界だ。だから、8GBの端末はA3CAには非対応なんだよね。そういうことで、現在はA3CAに対応するiPhoneは12GB以上のメモリを積んだ機種のみとされていて、条件を満たす対応機種は今のところiPhone17 Pro/Pro Max、そしてiPhone Airの3機種のみ。iPhone無印は一機種も対応していない。となると、これまでiPhoneはAndroidに比べるとメモリを増やさない端末と言われてきたが、今後iPhoneもAI向けにメモリ量を増やしていくのではないかと噂されている。そうしないと、対応機種が増えないからね。

A： Apple Intelligenceに対応する機種すら少ないのに、更にA3CAとなると一部の上位機種のみになるんですね。

B： さすがに12GBとなると、Androidでも積んでいる端末は少ないよ。まあ、Pixel 10 Pro XLとかミリ波対応のGalaxy S27 Ultraとかの最新ハイエンド機は、16GBのメモリを積んでいたりするけどね。それぐらいあると、スマホとはいえPC向けの普通のオンデバイスAIが動いちゃうだろうけど。

A： いろいろ聞いていくと、いくつか疑問が湧いてきます。例えば、先ほど話に出た96GBものメモリがあるMac StudioとかでもApple Intelligenceって動くんですか？　そして、その96GBのメモリを使って、それ以外の普通のオンデバイスAIというか、WindowsやLinuxで動くAIはAppleで動くんですか？じゃないと、折角の96GBが活用できない気がします。

B： まずApple Intelligenceだけど、当然動くし、何ならA3CAまで完全に動く。メモリを気にする必要ないから常に最大サイズ（20B）で動くらしいよ。もちろん普通のAIも動くからね。先ほど紹介したLM StudioだってMacに対応しているし、Mac Studioでも問題なく動く。純粋なVRAMで96GBなんて話になると、うん百万円するNVIDIAの業務用サーバーになってしまうから、本体価格100万のMac Studioは、むしろ一般に買えるものでは限界に近いサイズのオンデバイスAIが動かせる貴重なコンピュータとすら言われている。

A： Apple凄いですね。でも、もう一つ気になっている点が。確か、AIって基本的にNVIDIAのGPUでないと動かないって話でしたよね。だから、NVIDIA株が高騰していて、革ジャン^※8がウハウハなわけで。

B： 一般に、AIを動かすときはCUDAというNVIDIAのライブラリが必要とされている。もちろん、オンデバイスAIについても例外ではない。例外ではないのだけど・・・

A： だけど何ですか？

B： 先ほどもちらっと触れたんだけど、琴欧洲、現鳴戸親方でおなじみのブルガリアに、ジョージ・ゲルガノフという名前の男がいてね。

A： ブルガリアってAIと関係なさそうですが・・・

B： 彼が、オンデバイスAIが高価なNVIDIAのGPUでないと動かないというのはおかしいと言い出してね。

A： はあ・・・

B： 彼が、Metaが作ったLLaMaというオンデバイスAIを、高速なC言語で書き直して高速で動くようにしたんだ。

A： そうなんですか。Metaは旧Facebookですよね。

B： で、その時作られたライブラリは、llama.cppと名前が付けられて、あらゆるオンデバイスAIがあらゆるデバイスで高速に動くように進化していった。

A： は？個人製作のライブラリが、あらゆるデバイスで、ですか？

B： そうだよ。NVIDIAのGPU向けのCUDAはもちろんのこと、CPU向けのAVX、AVX-2、AVX-512にも対応している。CPU内蔵のGPUにも対応しているし、AMDのGPU Radeonにも対応している。なんなら、Androidにも、Raspberry Piにも対応だ。

A： 恐ろしいぐらい何でも対応していますね。

B： 例えば、会社支給のノートPCはAMD CPUなんだけど、llama.cppはそのCPU内蔵GPU（iGPU）もフルで使ってAIを動かしてくれる。こんな感じで。

これは内部でllama.cppを使っているLM Studioというアプリを使って、AIへ質問をしている画面だ。右にタスクマネージャーも表示しているけど、iGPUがほぼフルで使われているのが分かると思う。もちろん、iGPUは遅いし、そもそも普通のメモリで動かしているからとっても遅いんだけど、普通の人が使うアプリの中でこれほどまでにiGPUを酷使するのは、他には3DCGのBlender^※9ぐらいだろう。

まあ、llama.cppもLM Studioも、そしてオンデバイスAIのモデルもフリー（無料）で動くというのは恐ろしいけどね。

A： llama.cppって、フリーなんですか！

B： おかげで、オンデバイスAI界隈ではllama.cppはデファクトスタンダードとなっている。ちなみにオンデバイスAIの各モデルは、現在そのほとんどが「GGUF」という形式のファイルで公開されている。これは、Google Gemmaのようなアメリカ製モデルでも、Alibaba Qwenのような中国製モデルでも仲良く同じフォーマットで公開されている。そして、このGGUFのGGはジョージ・ゲルガノフ（Georgi Gerganov）の頭文字だ。

A： 個人名が付いたフォーマットが世界のスタンダードとは！

B： ここで、唐突にAppleの話に戻るんだけど・・・

A： 忘れていました。Appleの話でしたよね。

B： llama.cppを作ったジョージ・ゲルガノフが何でも動くライブラリを作るきっかけとなったのは、実は彼が「自分のAppleシリコン MacbookでオンデバイスAIが動かないのはおかしい、ふざけるな！！」となって作り始めたのが最初なんだ。だから、llama.cppの元祖はAppleシリコン向けに作られたものだし、今もバッチリAppleシリコンに最適化されている。というか、むしろ他のデバイスよりも力を入れてAppleに最適化されている。

A： まさか、そんなことが！

B： というわけで、Appleシリコンとllama.cppは相性バッチリなので、Mac StudioでもMacbookでも、ユニファイドメモリを最大限活かして（Apple Intelligence以外の）オンデバイスAIを動かすことができる。

A： ということは、オンデバイスAIするならMacなんですね。

B： 最大出力、最大性能を出したいならNVIDIAのGPUを積んだLinuxサーバーなんだろうけど、例えばNVIDIA H200 141GBなんて、GPUだけで500万円超だからね。最高性能だが、とても素人が買える価格ではない。そう考えると、最もコスパ良く、サイズの大きなオンデバイスAIを動かそうと思ったら、おそらくMacが一番コスパが良いと思われる。

A： へー、Apple製品でコスパが良いと言われる世界があるんですね・・・

B： 競合がNVIDIAなら、さすがのAppleも価格競争力がある。でも、当然他社も黙っていなくて、先日AMDがWindows/Linux対応のユニファイドメモリ搭載PC「Ryzen AI Halo」を発表している。こいつは、メモリが128GBもあるからMac Studioよりも大きなAIが動かせるし、価格も4000ドルだから、100万円のMac Studioよりずっと安価。でも、メモリバス幅とかは、Appleシリコンに分があるとも言われていて、もしかしたら計算性能はAppleの方が上かもね、という感じだ。

A： なんにしても、競争してくれないとApple製品の価格は上がる一方になってしまうので、AMDの動きは大歓迎ですね。

Siriはどうなるのか？

B： 最後に、Siriの話題を。

A： Siri(笑)

B： そう、Siriと言っただけで(笑)が付くぐらい、正直Appleのサービスとは思えないほど、出来が悪かった。でも、実はこれ「OK、Google」でも「Hey!アレクサ」でも似たようなものだったんだよね。私はGoogleフル課金勢のため、家でもGoogleスピーカー^※10がいくつもあって使っていたんだけど、ほんとバカでね。

A： バカって言っちゃダメですよ！

B： だって、なに質問しても7、8割は「すいません、上手く理解できませんでした」という返事だからね。何なら理解するんだよ！ってぐらいにね。正直、曲（Youtube Musicやradiko）をかけるか、タイマーにするかぐらいしか使えなかった。

A： そうだったんですね。私は使ったことないので知りませんでした。

B： けどね、今年の4月にうちのGoogleスピーカーがGemini for Homeに対応^※11するようになってね。今までとはものの次元の違う話になった。中身が、クラウドAIのGeminiになったから、大概の質問には答えてくれる、くだらないものでもね。

昨日も「シシャモをマヨネーズで食べるなら、オスメスどちらがおすすめ？」と質問したら、「私は脂ののったオスがお勧めです。卵の付いたメスはそのまま食べた方が味わい深いですよ。」と回答してくれたよ。こういった質問が、食事中でも簡単にできるというのは、何か「世界が変わった感」があるんだよね。知らないことをその場で何でも教えてくれる人が常にそばにいるって感じで。

A： 確かにそうですよね。Webで検索すれば同じ事はできるけど、スマホを開いたり操作したりするまでは考えたくない。その場でサクッと質問できるとなると、ちょっと使い方とか、考え方が変わってきます。

B： 多分、アレクサでもGoogleでも同じだと思うけど、みんなが最初にイメージしていて実現してほしかったスマートスピーカーってこのレベルだったと思うんだよね。でも、実際のスマートスピーカーは、レベルの多少の高低はあるものの、結局ただのお馬鹿な音声認識で、ちょっと複雑な文章での質問には対応できないし、ちょっと質問の日本語が悪いだけで、全く答えてくれなくなっていた。

でも、Gemini for Homeになって、長い質問でも答えられるし、ちょっと日本語が変でも文脈を理解して答えてくれる。結果的に、質問認識率がダントツで上がるから、昔みたいに何度も質問したり、言葉を換えて質問する必要は無くなった。

A： へー、凄いですね。そんな事になっているんですか。確かに、スマートスピーカーがGeminiレベルで答えてくれるのは便利かも。

B： そこで、Siriなんだけど、今回のApple Intelligenceへの吸収が意味するのは、SiriがついにクラウドAIレベルの知能を手に入れたということなんだろうと思う。これまでのSiriは、数多のスマートスピーカーと同レベルだった。それが、一般のクラウドAIレベルに成長するんだ。ついに思っていたことを実行出来るSiriになる、それがSiri AIなんだと。

A： おー！そうすると、便利に使いこなす人が出てきそうですね。確かに、ちょっと楽しみですね。

B： 確実に便利になるだろうね。ただし、それを日常的に使う人が多いかというと、個人的にはちょっと疑問。だって、AndoridはとっくにGeminiアプリが標準になっていて、Androidスマホであれば先ほどのGemini for Homeと同レベルの機能が実現できているんだよ。けど、スマホに話しかける人は、少なくとも日本ではあまり多くはない。やっぱり、常に同じ場所にあり、音声も聞き取りやすいスマートスピーカーだからこそ、音声で操作しようと思うんだと思う。

A： たしかに、私もこれまでSiriなんて積極的に使ったことないです。どちらかというと、音声より文字打った方が早いというか、正確に伝えられるというか。

B： まあ、そういうことなのでSiri AIを活用する人は限られるだろうけど、それでも今まで馬鹿にしていたSiriはいなくなる、それで十分な気もするよ。

まとめ

A： 今日はこの社内雑談史上最長じゃないかと思うほど長くなりました。そろそろまとめをお願いします。

B： 今どきのオンデバイスAI界隈の話題を、Apple Intelligenceとかけて取り上げたんだけど、どうだっただろうか。やれClaudeだ、やれChatGPTだとクラウドAIの話は沢山あるんだけど、オンデバイスAIに関しての記事ってあまり多くないんだよね。でも、Apple Intelligenceを筆頭に、時代は徐々にオンデバイスAIの方にも風が来ている。

A： 乗らないわけにはいかないですね、このビッグウェーブに。

B： 波に乗るか乗らないかは自由だけど、これをここまで読んでいただいたのなら、是非皆さんにはLM Studioはダウンロードして遊んでほしいと思うよ。皆さんが使っているような会社支給のノートPCでも、小さいモデルのAIなら動きますので。例えば、Google Gemma4 E2Bなんかはスマホでも動くことを想定しているモデルだから、PCなら十分に動くと思う。重いのは重いけど、面白いから。

A： 私も後で是非やってみたいと思います。

B： さて、今回はオンデバイスAIのネタだったし、最後ぐらいはAIに書いて貰おうかな・・・

A： ダメですよ。このブログは手書きがモットーですから。

B： あれ、そんなモットーあったっけ？でもそうすると、今後こういった記事にも「100%手書きです」とかわざわざ付ける時代が来るのかな。刺身みたいに「天然」とか「生」とかが偉いのと同じで「100%手書きです」が貴重になる時代。

A： 今は冗談で言っていますけど、オンデバイスAIが当たり前になると来るかもしれませんね、そんな時代。

B： じゃあ、「100%手書きです」を商標登録しておくか。それで「100%手書き保証」みたいな保証団体を作って、手書きを名乗ろうとする人から金を巻き上げるんだ。金を払わないと手書きとは認めないってね。

A： そういうどっかの悪い団体の真似をしようとしないで下さい！！

【社内雑談】新しいSiriが出るの？（実はオンデバイスAIの話） その1 その2 その3 その4

---