自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか？
OpenAIが開発する「GPT-3」は、ほとんど違和感のないブログ記事を生成できてしまうほど高い精度を誇る言語モデルです。そのGPT-3がテキストを生成する仕組みについて、オンライン学習プラットフォーム「Udacity」でAIや機械学習関連の講座を持つJay Alammar氏が解説しています。 How GPT3 Works - Visualizations and Animations – Jay Alammar – Visualizing machine learning one concept at a time. https://jalammar.github.io/how-gpt3-works-visualizations-animations/ The Illustrated GPT-2 (Visualizing Transformer Language Models) – Ja
あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」公開
人間が書いたものと見分けが付かないぐらいに精度の高い文章を生成できる言語モデル「GPT-2」の後継である「GPT-3」が、人工知能を研究する組織・OpenAIにより公開されました。 GitHub - openai/gpt-3: GPT-3: Language Models are Few-Shot Learners https://github.com/openai/gpt-3 [2005.14165] Language Models are Few-Shot Learners https://arxiv.org/abs/2005.14165 OpenAI debuts gigantic GPT-3 language model with 175 billion parameters https://venturebeat.com/2020/05/29/openai-debuts-giga
AIに関わる膨大な調査データを網羅した「AI Index」2019年版が公開 | Ledge.ai
スタンフォード大の研究者らが、AI関連の研究開発や経済、教育、各国の動向など多様なデータをまとめた「AI Index」の2019年版を発表している。 The AI Index 2019 annual report（外部サイト） AI Indexとは？AI Indexは毎年発行されている、以下9つのチャプターからなるレポートだ。 研究開発ジャーナル、会議、特許の出版物の量や世界地域による引用の影響など、計量書誌学のデータ。主要なAIソフトウェアライブラリに付けられたGithubのスター数や、arXiv上のAI研究者の性別の多様性についても紹介している。 カンファレンスAI関連のカンファレンスに関するさまざまなソースからデータの概要を示す。具体的には、イベントへの参加、会議のトピックの概要、および達成されたポリシーマイルストーンについて説明されている。 技術的パフォーマンス計算能力の向上による
SHRDLU - Wikipedia
SHRDLUとは、人工知能研究初期の研究開発プロジェクトである。1968年から1970年にかけて、テリー・ウィノグラードによって実施された。 コンピューターの中に仮想的に「積み木の世界」を構成し、そこに存在するいくつかの物体――ブロック、円錐、球など――を英語で指示を与えることで積み上げたり下ろしたり動かすことができる。自然言語により仮想世界の操作を行う事ができる。 実装はソフトウエア面ではプログラミング言語LispとPlannerを用いて記述され、ハードウエア面ではDEC社のコンピュータ・PDP-6および同社のグラフィック端末上で動作した。後にユタ大学のコンピュータグラフィックス研究所によって改良され、SHRDLUの「世界」はフル3Dで描画されるようになった。 SHRDLUの名称はetaoin shrdluに由来している。 機能[編集] コンピューターの内部に仮想的に積み木の積み上げ、積
村上研究室 AI (人工知能)
『AI』とは『人工知能』という意味の『Artifical Intelligence』の頭文字をとったものです。 人工知能の研究の目的は、人間のような知能の働き(の一部)をコンピュータ上で実現することです。 人工知能の代表的な応用分野として、ゲームやパズルへの応用があげられます。これらは、チェスや囲碁、将棋などのゲームで行います。これがもっとも身近な人工知能ではないでしょうか。 ゲームやパズルの問題を解くためには、非常にたくさんある選択肢の中から、もっとも有効な答えを素早く探し出さなければいけません。つまり、答えの探索が主な手段となります。 また人工知能の他の分野として、定理の証明があります。これは、数学の定理をコンピュータによって自動的に証明させる分野です。つまり、与えられた公理を使って推論を行い目当ての定理を導きだそうというものです。 ここまで述べてきた人工知能の他には、エキスパートシス
人工知能に小説を書かせると、こんな作品が生まれる（1/4ページ）
人工知能に小説を書かせるコンテストが盛り上がりを見せている。Wikipediaの記事とツイートを集めて並び替えたものや、文字によるビジュアルアートを目指したものなど多種多様だが、こうしたなか強力なツールが登場した。数十億の単語を使って訓練された機械学習モデルだ。 TEXT BY GREGORY BARBER TRANSLATION BY CHIHIRO OKA WIRED(US) オレゴン州ポートランドに住むアーティストのダリウス・カゼミは数年前の11月、Twitterに絶え間なく流れてくる小説家志望者たちのつぶやきを眺めていた。11月は「全国小説執筆月間（National Novel Writing Month、通称「NaNoWriMo」）」で、多くの人が1カ月で50%2C000ワードを超える作品を書き上げることに挑戦する。 Twitterの自動ツイートボットを主な表現手段にしているカゼ
計算言語学 - Wikipedia
計算言語学（けいさんげんごがく、英: computational linguistics）または計算論的言語学とは、形式性を重視する言語学の一分野である[1]。自然言語処理と共に「理科系言語学」と称される[2]。 類似名称の言語学分野に計量言語学があるが、計量言語学は統計的な手法により自然言語を研究する分野であり計算言語学の関連分野ないし下位分野である。 概要[編集] 計算言語学の定義[編集] 本稿冒頭で述べたように計算言語学は形式性を重視する言語学の一分野であるが、計算言語学と隣接分野、特に自然言語処理、の境界線は曖昧である。計算言語学と自然言語処理の差異については、専門家から次のような指摘がなされている。 言語に関する情報科学的な研究の目的は,人間の言語処理過程の科学的な究明や,ワープロや機械翻訳などの工学的な応用を含み,きわめて多岐にわたる。 …中略…「自然言語処理」はどちらかという
プログラミング言語「日本語」
■ はじめに 日本語は約1万年前、古代縄文人によって考案された世界的にも最も古い部類のプログラミング言語の一つである。(※) 日本語の起源は、古代の北方系言語と南方系言語であり、それぞれの特徴、即ち、強力なマクロ機能と柔軟な音節構造を共に持ち合わせているかなり珍しい言 語である。 更に、日本語はその後、約1万年の間にわたって仕様の変更や拡張が幾度も行われ現在の形に至っている。その過程で日本独特の固有な機能を有するように なった。 これらの特徴は日本語の利点であると同時に、習得する上での障害ともなっている。 本書はプログラミング言語としての日本語を習得する上で、比較的良く使われる構文を主に取り上げ解説したものであり、これから日本語プログラミングを始 める人を対象として書かれている。 ※念のために書いておくと、本書は日本語をプログラミング言語のように解説することによって、普段意識 しないで使っ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
