NEC、世界トップレベル性能の高速な大規模言語モデル (LLM) cotomi Pro / cotomi Light を開発

NECは、LLM(Large Language Model：大規模言語モデル)「cotomi(注1)」のラインアップ拡充のため、学習データやアーキテクチャを刷新した「cotomi Pro」「cotomi Light」を開発しました。 昨今の生成AIの急速な発展に伴い、様々な企業や公共機関が、LLMを活用した業務変革の検討・検証を進めています。具体的な活用シーンが見えてくる中で、導入・運用に際してレスポンスタイム、業務データ連携や情報漏洩・脆弱性等のセキュリティ面など、お客様ニーズにあったモデル・形態での提供が求められています。 NECは、高速性と高性能の両立がお客様の課題解決に必須と考え、LLMのラインアップを拡充しました。今回開発した「cotomi Pro」「cotomi Light」は、グローバルのLLMと同等の高い性能を、十数倍の速度で実現する高速・高性能なモデルです。一般的に、LL

[tu_no_tu]

日本語能力だと、Claude3 opus>> gpt4 turbo > gpt4 >>> GPT3.5 turboで、結果は一部を除いてcotomi ProはGPT3.5 turbo程度の性能に見える。 世界トップレベルとは到底言えないような結果なのに、強気なリリースだなあ。今後の改善に期待

[misshiki]

“NECは、LLM(Large Language Model：大規模言語モデル)「cotomi(注1)」のラインアップ拡充のため、学習データやアーキテクチャを刷新した「cotomi Pro」「cotomi Light」を開発しました。”

[Sigma]

これ、体感的にも発表に記載されてるグラフ通りで、レスポンス速度がGPT4より異様に早い。日本語能力は、GPT4 Turboでも人手介入必須なので、所詮はアシスタントAI、高速であればあるだけ、使い道はあるだろう

[lyiase]

これ年末にリリースする予定だったPRだったのかな？比較対象が古く、OpenAIの日本語最適化モデルとの比較が出てないのは現在のモデルと比較して大きな優位性がないから見える。

[sgo2]

NECはベクトル型スパコン最大手https://ja.wikipedia.org/wiki/NEC_SX

[shinobue679fbea]

どこに計算資源隠し持ってたの？全部借りた？

[kazuph1986]

良い存在、NEC。