OpenAIの埋め込みよりも高性能？多言語E5を日本語で評価してみる - Ahogrammer

多言語のテキスト埋め込み用のモデルであるMultilingual-E5-largeの性能を日本語のデータセットで評価してみました。 E5とは E5とはEmbEddings from bidirEctional Encoder rEpresentationsの略で、テキストの埋め込み用のモデルです[1]。Web上から収集した大規模なテキストペアのデータセット（CCPairs）で対照学習したあと、NLIやMS Marcoなどの高品質なデータセットで学習しています。情報検索のベンチマークであるBEIR[2]や埋め込みのベンチマークであるMTEB[3]で評価されており、MTEBではOpenAIのtext-embedding-ada-002を上回る性能が報告されています。 MTEBの結果。平均的な性能で`text-embedding-ada-002`を上回っている。 CCPairsはWeb上から収集

[misshiki]

“多言語のテキスト埋め込み用のモデルであるMultilingual-E5-largeの性能を日本語のデータセットで評価してみました。E5とはEmbEddings from bidirEctional Encoder rEpresentationsの略”

[secondlife]

最大トークン長さが512だけど、似ている文ベクトルを作る用途ではこのパフォーマンスなら十分そうな!

[gengohouse]

“OpenAIの埋め込みよりも高性能？多言語E5を日本語で評価してみる”

[takaya030]

自然言語処理

[kazuph1986]

これ、すばらしいのでは。