SoftBank株式会社およびそのグループでは、AIトランスフォーメーション時代のインフラ構築のために多大な計算機投資を実施している。同時に、それらの計算機を活用して独自性の高い国産の基盤モデルの構築も目指しており、その目的のためにSB Intuitions株式会社を設立した。そこに、グループ内から早期より大規模言語モデル開発を手掛けてきたチームを集めつつ、開発力を強化してきている。加えて、言語のみならず、音声・画像と言語をつなぐマルチモーダル基盤モデルの開発も進め、多様な顧客ニーズに応える技術体系を独自の計算基盤上に構築中である。本講演では、これらを取り巻く技術動向を振り返るとともに、SB Intuitionsにおける基盤モデル開発について紹介する。

NEC では cotomi と呼ばれる生成AIブランドの元でLLMを複数、開発してきた。最新のモデルシリーズである cotomi core はグローバルのトップモデルに比肩する高い性能を持ちつつも非常に高速に動作し、既にさまざまな企業でご活用を頂いている。こうした LLM を開発する上で一貫しているのは「事業で使えるモデルを作る」ことと「モデルは生き物であり、プロダクトである」という考え方である。作って終わり、公開して終わり、ベンチマークで１位をとっておわり、とならないよう、開発をすすめている。本講演では cotomi core に関して概要をご紹介し、「事業で使えるLLM」をどのような考えでどうデザインし開発しているのか、についてお話しする。

2022年から現在に至るまでの基盤モデルに基づく生成AIの進歩は、人間の生産性を大きく改善する可能性を秘めている。一方で、社会は強力だが不透明なAIによるリスクに晒されることとなった。これまでのIT技術の目覚ましい発展は、オープンコラボレーションやオープンリサーチによって支えられてきた。The AI Allianceは、AI技術も同様にオープンに技術開発することによって、その恩恵を全ての人に開かれたものにすべきであるという理念のもと、IBMとMetaが主導して設立した団体である。発足して半年ほどが経つこのAllianceの活動とこれまでの成果を紹介する。

PFNグループは、マルチモーダル基盤モデルの開発および提供を進めている。特に経済産業省が主導して国産の生成AI開発を強化するプロジェクト「GENIAC」を通じてパラメータ数が1000億からなるテキスト、画像、音声を扱えるマルチモーダル基盤モデルと、1兆からなる大規模言語モデルの開発に取り組んでいる。
これらの基盤モデルの開発と並行して、実際の業務やサービスで活用するためのソリューション開発を進めている。
こうした開発や提供には様々な課題が存在する。学習や評価に使うデータをどのように収集、選択し、整備するのか、モデルのアーキテクチャや学習手法、推論手法をどのように設計し、採用するのかなどである。
本講演ではこれらの開発過程で得られた知見や直面した課題について解説する。また開発中のモデル状況についても共有する。

生成AIの産業応用検討が盛んになっています。講演者は社内でのソフトウェア開発における生成AIの研究開発をリードしており、そこではソースコードやテストコードの生成だけでなく、ソリューションの提案やシステム設計、品質保証など、幅広いタスクへの生成AIの適用が検討しいます。また、ソフトウェアに限らず、ハードウェア設計やシステム運用など、エンジニアリング領域での生成AIの可能性が広がっています。生成AIには人を代替する作業の省力化だけでなく、人とAIの関わり方を変え、新たな価値を生み出すことが期待されています。本講演では、企業におけるエンジニアリングに焦点を当て、現在検討が進められているユースケースや、生成AIの活用における技術的な工夫点、そして生成AIが普及した世界での可能性について議論します。