ChatGPTを支えた高品質AI作成手法「RLHF」の中身はこんな感じ、面倒なデータ入力・整理はオープンソースでセルフホスト可能なプラットフォーム「Argilla」が便利
RLHFとは「人間の評価による強化学習」のことで、大規模言語モデルをChatGPTなどの実用レベルに至る品質にまで高めた実績のある手法です。RLHFでは教師データを作成したり、大規模言語モデルの回答を評価したりする際に人間がデータを入力する必要があり、特に複数人で作業する場合にデータの管理が大変になってしまうものですが、そうしたRLHF用データの入力や管理を行ってくれるプラットフォームが「Argilla」です。 Bringing LLM Fine-Tuning and RLHF to Everyone https://argilla.io/blog/argilla-for-llms/ 大規模言語モデルを作成する時の手順を示したのが下の図です。まず大量のテキストを用いて事前学習を行います。こうして作成されたモデルが事前学習済みモデルで、GPTやPaLM、LLaMAなどのモデルがこのカテゴリに
文章に沿った楽曲を自動生成してくれるAI「Riffusion」登場、画像生成AI「Stable Diffusion」ベースで誰でも自由に利用可能
入力した文章(プロンプト)に沿って画像を生成してくれるAI「Stable Diffusion」は、モデルデータが一般公開されていることから多くの人にカスタマイズを施されています。そんなStable Diffusionのモデルを調整して、文章を入力するだけで楽曲を生成してくれるAI「Riffusion」が開発されました。 Riffusion https://www.riffusion.com/ Riffusionの開発チームは、誰でも簡単にRiffusionを利用できるようにしたウェブアプリを公開しています。ウェブアプリにアクセスすると、画面右側に「post-teen pop talent show winner(賞を勝ち取った10代のアーティスト)」というプロンプトが表示されます。楽曲を再生するには、画面右上の再生ボタンをクリックすればOK。 再生ボタンをクリックすると、画面左側の図形が上
人工知能同士による「謎言語での会話」は、よく起こる失敗の一つ - まぐまぐニュース！
先日話題となった、facebookの開発した人工知能が人工知能同士で会話をしたところ、人間が理解できない言語を使って会話を始めたという事案。これを「気持ち悪い」とする向きもあるようですが、世界的プログラマーで起業家の中島聡さんは自身のメルマガ『週刊 Life is beautiful』で、人工知能を学習させようとする過程でよく起こることだと楽観視。こうした事案が発生した原因についても詳しく解説しています。 私の目に止まった記事 ● Why Facebook Shut Down Its Artificial Intelligence Program That Went Rogue Facebook が人間と会話できる人工知能の開発の過程で、人工知能同士を会話させて学習効果を高めようとしたところ、人間には理解できない言葉で会話をし始めてしまった、という話です。 「気持ちが悪い」と感じる人も多い
ビッグデータや人工知能（AI）が活用される時代へ！ビジネスにおける「データサイエンス力」とは
ビッグデータと連動して、第三次人工知能（AI）ブームと呼べる昨今、データ分析は急速により身近なものになりつつあります。そんな中、今後私たちにはどのような能力が求められていくのでしょうか。 膨大なデータを高度に分析し企業や社会に有益な価値をもたらす「データサイエンス」という言葉が広く聞かれるようになってから早や数年が経ちました。データから導かれる予測は、企業の未来の成長を占う大きな指標となり得るものであり、ビジネスシーンにおいて決して無視できない取り組みとなりつつあります。 では、ビジネスにおいてデータサイエンスを取り入れるには何を知り、何に取り組めばいいのでしょうか。ここでは、ビッグデータや人工知能（AI）の技術革新により必要とされる「データサイエンス力」について詳しく解説します。 ビッグデータとは ビッグデータとは、単純にデータの量が多いことだけを示すものではありません。そこにはどのよう
深層学習を超えた手法とは何か : 思考のカケラ
最近、深層学習の精度を超えた手法が発表されています。 今回は、昨日（6月17日）ニュースになったDeepmindによるPredictron（自動計画＋強化学習）も含めて、紹介します。
VR統計解析ツールの「Virtualitics」、シリーズAラウンドで440万米ドルを調達——人工知能が見つけたパターンをVR空間に可視化 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
（上）VR 分析ツールを提供する Virtualitics Image Credit: Virtualitics VR の開発者にとって、人々が仮想世界の中でどこを訪れているかといった分析は必要不可欠だ。Virtualitics は VR と AR（拡張現実）アプリ用の分析ツールを開発するため、440万米ドルを資金調達した。 カリフォルニア州パサデナに本社を置く Virtualitics は、VR と AR 向けにデータの可視化・分析ツールを開発した。The Venture Reality Fund がリードしたラウンドで資金を調達している。 この資金で Virtualitics は開発チームを拡大し、新機能の追加開発を加速したい考えだ。この新機能とは、VR／AR データの可視化、人工知能、自然言語、機械学習を組み合わせて、多次元関係を分析したり、複雑なデータセットから有意義なデータを抽出
データサイエンティストもしくは機械学習エンジニアを目指すならお薦めの初級者向け6冊＆中級者向け15冊（2017年春版） - 渋谷駅前で働くデータサイエンティストのブログ
(Photo credit: https://pixabay.com/en/books-door-entrance-italy-colors-1655783/) この記事は一昨年のこの書籍紹介記事のアップデート版です。 相変わらず毎月のように新刊書が出続けるデータ分析業界ですが、良い本が増え続けてきたせいでついに初級者向けは6冊、中級者向けは何と15冊にまで膨れ上がってしまいました（汗）。ともあれ、自分のところにアフィリエイトの類は一銭も入らないにもかかわらず*1懲りずに書籍紹介をやろうと思います。 あ、最初に断っておきますが僕の知識レベルは極めて適当なので、極めていい加減なことを書いている可能性があります。また最初に読んでから時間が経っていて記憶があやふやなせいで、内容に関する記述が不正確な書評が混じっている可能性もあります。誤っているところやおかしいところがあったらバンバン突っ込んでく
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
囲碁AIが「独学」で最強に グーグル、産業応用探る - 日本経済新聞