“今回開発したLLMの最大の特徴であるRetNetとは「Retentive Network」の略称で、米Microsoft Researchが開発した技術。現在、LLMのアーキテクチャは「Transformer」が主流だが、Microsoftは「RetNetはこの後継として期待される」と説明。”

misshikimisshiki のブックマーク 2024/03/29 14:26

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

「Transformer」後継と期待される「RetNet」活用 PKSHAが日英対応の独自LLMを開発 日本MSも協力

    AIベンチャー・PKSHA Technology(東京都文京区)は3月28日、「RetNet技術を活用した日英大規模言語モデル(LLM)を開発したと発表した。RetNetを使用した日英モデルは世界初で、日マイクロソフトの技術支援...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう