【NEWS】メタ、モバイルデバイス向けの小型AI「Llama3.2」へ大幅アップグレード

2024/09/27 17:15 (2025/02/07 15:57 更新)
Iolite 編集部
SHARE
  • sns-x-icon
  • sns-facebook-icon
  • sns-line-icon
【NEWS】メタ、モバイルデバイス向けの小型AI「Llama3.2」へ大幅アップグレード

多言語テキスト生成や画像認識などをサポート

メタは年次開発者会議Meta Connect2024でエッジおよびモバイルデバイス向けの小規模、中規模の大規模言語モデルAI「Llama3.2」を発表した。

7月にLlama3.1をリリースしたばかりだが、Llama3.2では初のマルチモーダルモデルの追加などが加わり、大幅なアップデートが行われた。

Llama3.2には、11B(110億)と90B(900億)の2つのモデルがあり、それぞれ画像認識機能をサポートしている。

この新機能により、表やグラフなどの理解、画像キャプションの生成、画像内のオブジェクトに自然言語で指示する視覚的なグラウンディングなどの画像推論ユースケースが可能となった。

マーク・ザッカーバーグ(Mark Zuckerberg)氏は自らイベントであたらしいAI機能を披露した。

Llama3.2を搭載したレイバンのスマートグラスが画面に映っている材料を分析しレシピのアドバイスをしたり、店頭のラックに並んでいる服について意見をする動画が会場に流されると拍手喝采が沸き起こった。

多言語対応し動画を作成

また、ザッカーバーグ氏はメタが取り組んでいる実験的なAI機能についての説明をした。たとえばスペイン語と英語のライブ翻訳や、動画を各国言語に自動で翻訳するアプリ、そのほかファンの質問にクリエイターに代わって答えるアバターを紹介した。

ボイスモードはChatGPTの音声モードに対抗する形で導入された。写真の編集は、ChatGPTの画像解析を凌ぐ機能となる。オブジェクトの削除、帽子の追加、背景の変更も可能だ。音声翻訳機能を使えば、海外向けの動画を簡単につくれるようになる。

軽量の1B、3Bモデルは多言語テキスト生成とツール呼び出しに優れている。クローズな状態で動作し、開発者はデータがデバイスから出ることなく、プライバシーを強力に保護する。個別に最適化されたデバイス上で動作するアプリケーションを構築することが可能になり、処理はローカルで行われるため、プロンプトに瞬時に応答するような速度を得ることができる。

アプリはどのクエリをデバイス上に残し、どのクエリをクラウド内のより大きなモデルで処理するかを明確に制御できるようになる。

これらのモデルはQualcomm、MediaTekハードウェアで使用できるように最適化されている。

Llama Stack APIは、Llamaモデルをカスタマイズしてエージェントアプリケーションを構築するためのツールチェーンコンポーネントを標準化するインターフェースとなっている。APIを使いやすくするため、推論、ツールの使用、RAG用APIのリファレンス実装を構築した。さらに複数のAPIをパッケージ化して開発者に単一のエンドポイントを提供する方法として、Llama Stackディストリビューションを作りあげた。同機能は現時点でオンプレミス、クラウド、単一ノード、デバイス上の複数の環境でLlamaモデルを捜査できるようになっている。

Llama3.2はllama.comとHugging Faceからダウンロード可能だ。

参考:META発表
画像:Shutterstock

関連記事:

NFTの普及に向け大きな期待が集まっていたMetaの撤退

OpenAI、推論するAI「OpenAi o1」を発表

SHARE
  • sns-x-icon
  • sns-facebook-icon
  • sns-line-icon
Side Banner
Side Banner
MAGAZINE
Iolite(アイオライト)Vol.14

Iolite(アイオライト)Vol.14

2025年7月号2025年05月30日発売

Interview Iolite FACE vol.14 カルダノ(Cardano)/ Input Output Global創業者兼CEO チャールズ・ホスキンソン PHOTO & INTERVIEW 馬渕磨理子 特集「日米暗号資産関連の政策に関する考察」「日本発ブロックチェーン図鑑」「Hyperliquidで巨額のポジション清算が発生! 想定できなかったあらたな分散型金融の危機」「大注目の日本発、生成AIスタートアップ「Sakana AI」」「リセッションに備えよ─ 金融とアノマリーの相関性─」 Crypto Journey 「“論破王”からみたWeb3.0」 ひろゆき Interview 特別連載 仮想NISHI 「暗号資産の相場動向と読み解くポイント」 連載 Tech and Future 佐々木俊尚…等

MAGAZINE

Iolite(アイオライト)Vol.14

2025年7月号2025年05月30日発売
Interview Iolite FACE vol.14 カルダノ(Cardano)/ Input Output Global創業者兼CEO チャールズ・ホスキンソン PHOTO & INTERVIEW 馬渕磨理子 特集「日米暗号資産関連の政策に関する考察」「日本発ブロックチェーン図鑑」「Hyperliquidで巨額のポジション清算が発生! 想定できなかったあらたな分散型金融の危機」「大注目の日本発、生成AIスタートアップ「Sakana AI」」「リセッションに備えよ─ 金融とアノマリーの相関性─」 Crypto Journey 「“論破王”からみたWeb3.0」 ひろゆき Interview 特別連載 仮想NISHI 「暗号資産の相場動向と読み解くポイント」 連載 Tech and Future 佐々木俊尚…等