基盤モデルを使ったTuringの完全自動運転戦略
基盤モデルが自動運転車を操ってる筆者のイメージ created by DALL-E Turingで機械学習チームでエンジニアをしている井ノ上です。(Twitter: いのいち) Turingは2030年までにあらゆる場所で自動走行が可能で、ハンドルが必要ない完全自動運転システム（Level 5自動運転）の開発を目指して様々な技術の調査や検証を行っています。このテックブログではTuringがどのようにしてLevel 5完全自動運転にアプローチしていくのか、近年の基盤モデルやGoogleのロボティクス研究から考えていきたいと思います。 TuringのLevel 5への仮説 Level 5の自動運転をどのようにして作るのか。これは多くの人が気になるところだと思います。TuringではLevel 5自動運転の実現の鍵は「知能」にあると考えています。従来の自動運転の開発によって、LiDARやレーダー
AI イノベーションを加速させるオープンソース コラボレーションと主要なパートナーシップ | Google Cloud 公式ブログ
※この投稿は米国時間 2022 年 10 月 12 日に、Google Cloud blog に投稿されたものの抄訳です。 エコシステムが閉鎖的で排他的なものであると、人工知能（AI）や機械学習（ML）のイノベーションを阻む障壁となり、テクノロジー間の非互換性が生じ、ML モデルの迅速かつ簡単な改良が困難になってしまいます。 Google は、柔軟性のない戦略による課題を克服するには、オープンソース ソフトウェア（OSS）が不可欠であると考えています。Cloud Native Computing Foundation（CNCF）の主要な貢献者として、Google は、20 年以上にわたりコミュニティと協力し、OSS プロジェクトをアクセスしやすく透明性のある技術的進歩の促進剤に変える取り組みを行ってきました。Google はあらゆる種類のオープン エコシステムの実現に取り組んでいますが、A
Googleらが共同開発、AI／機械学習を支援するオープンソース技術「OpenXLA」とは
Googleは2023年3月8日（米国時間）、AI（人工知能）／ML（機械学習）業界の多くの主要企業が共同開発を進めているオープンソースMLコンパイラエコシステム「OpenXLA」（XLA：Accelerated Linear Algebra）の利用と貢献を可能にしたと発表した。 OpenXLAの開発にはAlibaba、Amazon Web Services（AWS）、AMD、Apple、Arm、Cerebras、Google、Graphcore、Hugging Face、Intel、Meta、NVIDIAなどが参加している。 利用するフレームワーク増加に伴うサイロ化が課題に 現在のML開発、導入では「TensorFlow」「PyTorch」「JAX」といったMLフレームワークや、多種多様なハードウェアの利用により、インフラが断片化、サイロ化していることが問題となっている。問題の背景には、
Foundation Model and Robotics | 基盤モデルとロボティクス
東京大学松尾豊研究室のメンバー中心に、講義を行っている深層強化学習 スプリングセミナー2023の第6回目の前半の講義である「基盤モデルとロボティクス」の講義資料を改変した資料です。（講義は2023/3/3に実施） 本講義では、最近話題の『ChatGPT』等にも使用されている『基盤モデルやTransformer』についてお話し、基盤モデルをロボティクスへの活用事例や今後の展開についてもお話ししました。 演習（ハンズオン）ではGPT2,CLIP,Whisperを取り扱っています。 本講義資料は、深層強化学習 スプリングセミナー2023の第6回目の前半60分の講義資料がベースになっています. https://deeplearning.jp/drl-course-2023sp/ 本講義の到達目標： ・基盤モデルやTransformerの概要を理解する ・基盤モデルとロボティクスの研究事例を把握し、
「Azure AI」のオープンソース技術を活用したアプリ構築は何がすごい？ データサイエンスタスクをより簡単に構築
「Azure AI」のオープンソース技術を活用したアプリ構築は何がすごい？ データサイエンスタスクをより簡単に構築：より迅速かつ柔軟にインテリジェントアプリを構築 Microsoftはデジタルイベント「Azure Open Source Day」で、Microsoft AzureのAIサービスポートフォリオ「Azure AI」で提供される最新のオープンソース技術を使用して、より迅速かつ柔軟にインテリジェントアプリを構築する方法を紹介した。 Microsoftは2023年3月7日（米国時間）、デジタルイベント「Azure Open Source Day」を開催し、Microsoft AzureのAIサービスポートフォリオ「Azure AI」で提供される最新のオープンソース技術を使用して、より迅速かつ柔軟にインテリジェントアプリを構築する方法を紹介した。 Azure AIは、「Azure Ap
中学生から分かるAI入門講座 [AI実装検定®B級]公式テキスト
◆第1講:モデルの設計と活用までの流れ（約9分） -- 学習モデルの設定とパラメータ -- 学習と推論 ◆第2講:データの入出力とタスク（約7分） --テーブルデータの特徴量とターゲット,分類と回帰 ◆第3講:評価指標（約9分） -- 汎化性能,機械学習コンペ, パラメータの更新 ◆第4講:非構造化データの扱い（...
![中学生から分かるAI入門講座 [AI実装検定®B級]公式テキスト](https://cdn-ak-scissors.b.st-hatena.com/image/square/437ccf74107445d96b1de138a01c4a9b300cd9af/height=288;version=1;width=512/https%3A%2F%2Fi.ytimg.com%2Fvi%2FKqP9XoRDtvU%2Fhqdefault.jpg%3Fsqp%3D-oaymwEWCMQBEG5IWvKriqkDCQgBFQAAiEIYAQ%3D%3D%26rs%3DAOn4CLDgIRpMwWGpZi1yHoDt2F3n5Wfjgg%26days_since_epoch%3D19824)
ChatGPT の基礎技術！GPT-3 と Few-shot learning
ChatGPT ChatGPT は OpenAI が作成したチャットボットです。何か話しかけると、次の例のように雑談相手になってくれます。 ChatGPTと雑談 ChatGPT が注目されているのは、その守備範囲の広さゆえです。問いかけの仕方次第で、翻訳・プログラミング・文書校正など広範なタスクをこなすことができます。個人的には、自分の書いているプログラムがうまく動かない時によく助けてもらっています。 CharGPTでデバッグ また、文脈を考慮した推論（ざっくり言えば「空気を読む」こと）は自然言語処理システムにとって難易度が高い分野とされています。試しに次のように尋ねてみました。ChatGPT からの返答はとても自然なものに思えます。 ChatGPTで文脈理解 ここでの例に限らず、ChatGPT は極めて多様に活用できるでしょう。また、ChatGPT の API が公開されたことで、
JDLA緊急企画！「生成AIの衝撃」～ ChatGPTで世界はどう変わるのか？ ～
JDLA緊急企画！「生成AIの衝撃」～ ChatGPTで世界はどう変わるのか？ ～ 2020年のGPT-3の衝撃以来、生成AIの進展は従来のディープラーニング技術の進展とは一線を画す、破壊的な変化となっています。 2022年11月末に発表されたChatGPTでは日本語が極めて自然な形で使えるようになり、 日本でも急激に関心が高まっています。 本イベントでは、「生成AIの衝撃」セミナーでは大注目のChatGPTを中心に、「何がすごいのか」、「どうやって出来ているのか」、「いま世界で何が起きているのか」、「日本は大丈夫なのか」、「何が変わるのか」、等々、様々な観点から有識者にお話しを伺います。 連日報道されるニュースなどを見て、下記の様に感じていた方は必見です！ 「今の動向をどう見たら良いのか、分からない」 「ChatGPTに代表される、生成AIの仕組みなどについて知りたい」 「今、話
AutoML チュートリアル（HPOとNAS）
AutoMLに関するチュートリアル資料です。主に，ハイパーパラメータ最適化（HPO）とニューラル構造探索（NAS）に関する説明をしています。
【記事更新】私のブックマーク「第一言語獲得から考える人工知能」 – 人工知能学会 (The Japanese Society for Artificial Intelligence)
折田 奈甫（早稲田大学理工学術院） 1．はじめに 深層学習の発展は素晴らしいが，第一言語獲得を研究する言語学者としては「ちょっと待った！」と言いたくなる瞬間がある．例えば，以下のような発言や記述を研究発表や論文などで見聞きすることが増えた． 深層学習のように人間も大量のデータから統計的に学習しているのではないか．刺激の貧困は存在せず，生得的知識など必要ない．子供は白紙の状態から，あるいは最小限の非言語的知識・能力を使って，言葉を大量に聞いて覚えて話せるようになる． 脳についてはわかっていないことが多いので，深層学習を使ったリバースエンジニアリング的な認知科学の研究があってもいいのでは． ニューラルネットワークは神経科学的に妥当なモデルである．そのうえ，人間が行うような情報処理タスクにおいて高い汎用性と学習能力を示している．ニューラルネットワークは人間の認知メカニズムとして妥当な仮説なのでは
自社OCRエンジン「NineOCR」の学習効率化のため SageMaker Training を導入した話 - Sansan Tech Blog
はじめに NineOCR とは NineOCR が抱える課題 Amazon SageMaker Training とは SageMaker Training の始め方 事前準備 AWS が提供しているコンテナイメージを拡張する方法 独自のコンテナイメージに SageMaker Training Toolkit をインストールする方法 スクラッチでコンテナイメージを作成する方法 まとめ 学習ジョブの実行 学習結果の確認 終わりに はじめに こんにちは、研究開発部の石井です。 本エントリーでは、弊社の OCR エンジン「NineOCR」の開発フローに SageMaker Training を導入した話を紹介します。 NineOCR とは NineOCR は Sansan が独自に開発した名刺特化の OCR エンジンです。 名刺をデータ化するフローの中で実際に活用されており、タスクの高速化・高精
OpenAI API で提供されている モデル まとめ｜npaka
1. OpenAI APIのモデル「OpenAI API」は、用途に応じて「GPT-3.5」をはじめとする様々なモデル を提供しています。 ・GPT-3.5 : 自然言語とコードを理解および生成する最新モデル。 ・DALL-E : 自然言語から画像を生成・編集するモデル ・Whisper : 音声をテキストに変換するモデル ・Embeddings : 埋め込み (ベクトル表現) を生成するモデル ・Codex : コードを理解および生成するモデル ・Moderation : センシティブおよび 安全でない文章を検出するモデル ・GPT-3 : 自然言語を理解および生成する旧モデル 2. GPT-3.5「GPT-3.5」は、自然言語とコードを理解および生成する最新モデルです。最も高性能で費用対効果の高いモデルは、チャット用に最適化されていますが、既存タスクにも適している「gpt-3.5-tu
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://twitter.com/PINTO03091/status/1636052130820927493
GitHub - alibaba/TinyNeuralNetwork: TinyNeuralNetwork is an efficient and easy-to-use deep learning model compression framework.
https://twitter.com/hillbig/status/1635601971024662528
GitHub - openxla/xla: A machine learning compiler for GPUs, CPUs, and ML accelerators
OpenXLA
DAIR.AI on Twitter: "Top ML Papers of the Week (Mar 6 - Mar 12): - Visual ChatGPT - PaLM-E - A History of Generative AI - MathPrompter… https://t.co/MkX4L3k2tS"
Find Pre-trained Models | Kaggle
[Product Launch] Introducing Kaggle Models | Kaggle