GPTなどの大規模言語モデルは脳科学・記号論・言語学の観点で驚くほど良くできている｜梶谷健人 / 新著「生成AI時代を勝ち抜く事業・組織のつくり方」
大規模言語モデルの優秀さの秘訣ChatGPTなどに代表されるサービスで採用されている大規模言語モデル（LLM）によって、AIは今までとは比べ物にならないくらい自然な対話ができるようになった。 なぜLLMでは自然な対話ができるかというとその秘訣の1つは、LLMは大量のテキストを学習する際に、文章内の単語を「ベクトル（向きと長さを持つ数学的な量）」に変換して処理しているからだ。 GPTでは各単語は数万という次元でベクトル化されており、単語ベクトルは意味が近いほどベクトル同士の距離が近くなる。 https://openai.com/blog/introducing-text-and-code-embeddingsこれこそが大規模言語モデルがここまで高い言語能力を獲得したポイントであるが、たまたま最近読んだ脳科学、言語学、文字学の本の中で、このLLMにおけるベクトル化の仕組みは非常に理にかなってい
外国小説や映画に出てくる奇妙な名前の日本人
外国人にとってはまだまだ日本は未知の国、外国の小説や漫画、映画などに出てくる日本人の姓名が時としてかなりヘンテコなものになっていることがある。ずっとコレクションしているのだが、ここに一端を御蔵出しする。 ※小文に限っては、簡便のため姓名の「名字（ファミリーネーム）」と「名前（個人名＝ファーストネーム）」を常時区別し、単に「名前」とした場合でも、それはファーストネームの方を意味することとする。 まずは良い例から 無論、ヘンテコなものばかりではない、割に穏当なものも多いのだ。たとえば御大、エラリークイーン『ニッポン樫鳥の謎』（創元版）＝『日本庭園殺人事件』（角川版）に出てくる寡黙な日本人老女中、その名は： キヌメ カタカナで書かれるとぎょっとするが、これは「絹女」とでも書くのだろうか、彼女は琉球の出身で、琉球はアイヌとも血統が近いと言われているが、戦前のものにしては割に正しい認識と言ってよかろ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
258億語の日本語コーパスをウェブで公開～国立国語研究所 言語研究や自然言語処理技術開発での基礎資料
dfltweb1.onamae.com – このドメインはお名前.comで取得されています。
