NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM
https://pc.watch.impress.co.jp/docs/news/1514343.html

『AIによる要約

NECは、日本の性能を持つ大規模言語モデル（LLM）を開発し、わずか130億パラメータで世界トップクラスの性能を実現したと発表した。このLLMは、1枚のGPUを搭載した標準的なサーバーで動作可能であり、高い日本語性能とカスタマイズ対応を提供するもので、業務アプリケーションのレスポンスも良く、消費電力やコストも抑えられる。また、開発には国内企業で最大のAI研究用スパコンが活用され、2023年3月から稼働する予定とのこと。NECは、LLMのライセンス提供だけでなく、専用ハードウェアやソフトウェア、コンサルティングサービスなども提供する計画であり、今後の3年間で約500億円の売上を目指すとしている。

この要約はChatGPTによって自動生成されたものであり、原文の完全性や正確性を保証するものではありません。この機能はベータ運用中です。』

『 劉 尭
2023年7月6日 14:42

NECのLLMにおける質問応答出力例

　NECは、わずか130億パラメータで世界トップクラスの日本語性能を有するという大規模言語モデル(LLM)を開発したと発表した。標準的なGPU 1枚を装備したサーバー動作可能と謳っている。

　ChatGPTにより生成AIの1つであるLLMは注目を集めつつあるが、既存のLLMのほとんどは英語を中心に学習されているため、高い日本語性能を有しつつ、各業種の業務で活用できるカスタマイズ対応のLLMはほぼない状況だった。今回NECは、LLM性能はパラメータサイズだけでなく、学習に使われた高品質なデータの量や学習時間にも左右されることに着目。多量のデータと膨大な計算時間をかけることで高い性能を実現した。

　具体的には、開発にあたって国内企業で最大のAI研究用スパコンを独自構築し、2023年3月より全面稼働。これを活用することで約1カ月という短期間で高性能LLMの構築を実現したという。

　ほかのLLMでは多数のGPUを必要とするのに対し、NECのLLMはパラメータ数を130億に抑えており、GPUを1枚搭載した標準的なサーバーで動作可能としており、業務アプリケーションがレスポンスよく動作し、消費電力やサーバーのコストを抑えられる。さらに、短期間で容易に構築可能で、オンプレミス環境でも動作できるため秘匿性の高い業務でも安心としている。

　性能面では、自然言語処理分野で標準的なベンチマークである日本語言語理解ベンチマーク「JGLUE」を用いて評価したところ、現時点での知識量に相当する質問応答で81.1%、推論能力に相当する文書読解において84.3%と、世界トップレベルの性能を達成したとしている。

　NECでは5月より社内で生成AIの業務利用を開始しており、資料作成時間が50%削減され、議事録作成時間を約平均30分から5分に短縮したという。また、システム開発におけるソースコード作成業務の効率化で、工数80%削減といった成果が出ているという。

　同社はこのLLMのライセンス提供に加え、日本市場のニーズに合わせた専用ハードウェア/ソフトウェア/コンサルティングサービスを提供する「NEC Generative AI Service」を順次開始する。また、LLM活用のためのソフトウェア整備/組織立ち上げなどを包括的に支援するプログラム「NEC Generative AI Advanced Customer Program」を約10の企業/大学とともに立ち上げ。生成AI関連事業において、今後3年間で約500億円の売上げを目指す。 』