Googleらが共同開発、AI／機械学習を支援するオープンソース技術「OpenXLA」とは
Googleは2023年3月8日（米国時間）、AI（人工知能）／ML（機械学習）業界の多くの主要企業が共同開発を進めているオープンソースMLコンパイラエコシステム「OpenXLA」（XLA：Accelerated Linear Algebra）の利用と貢献を可能にしたと発表した。 OpenXLAの開発にはAlibaba、Amazon Web Services（AWS）、AMD、Apple、Arm、Cerebras、Google、Graphcore、Hugging Face、Intel、Meta、NVIDIAなどが参加している。 利用するフレームワーク増加に伴うサイロ化が課題に 現在のML開発、導入では「TensorFlow」「PyTorch」「JAX」といったMLフレームワークや、多種多様なハードウェアの利用により、インフラが断片化、サイロ化していることが問題となっている。問題の背景には、
統計学の講義資料(2022年度) | Logics of Blue
帝京大学経済学部で用いた講義資料です。 2022年度の統計学I及び統計学IIの講義スライドを編集したうえでUPしています。 目次 本資料について 統計学の講義資料 1．本資料について 帝京大学経済学部で用いた講義資料です。 2022年度の統計学I及び統計学IIの講義スライドを編集したうえでUPしています。 もとの講義資料とは異なる点もあるのでご注意ください。 万が一何か問題があれば、当ブログにコメントをいただけますと幸いです。 スライドにも記載の通り、以下の利用を想定しています。 想定①：講義の受講者が復習に利用する 想定②：未受講者が統計学入門資料として利用する 基本的には想定①ですが、文系の学生をメインターゲットとした統計学の本格的入門資料は少ない印象です。 未受講者の方にも役に立つかもしれないと思いWeb上で公開することにしました。 本資料は1年間にわたる講義資料となっています。数回
30分で完全理解するTransformerの世界
はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま
タンパク質設計問題を解決する数学公式を名古屋大学が発見、圧倒的な高速化を実現
タンパク質設計問題を解決する数学公式を名古屋大学が発見、圧倒的な高速化を実現 大学ジャーナルオンライン編集部 名古屋大学大学院の高橋智栄博士後期課程学生らの研究グループは、シミュレーションや実験をせずにタンパク質設計をするための数学公式を世界で初めて導出することに成功した。この数学公式により、膨大な計算量のシミュレーションの必要がなくなり、圧倒的に高速な設計が可能になった。 研究グループは昨年、タンパク質進化に関する新しい仮説と機械学習の手法を組み合わせることで、従来手法に比べて圧倒的に高速なタンパク質設計を実現することに成功していた。今回さらに、複雑系物理学・情報統計力学の理論を適用することにより、シミュレーションが不要なアミノ酸配列の推定のための数学公式を導出することに成功した。 これにより、タンパク質設計にかかる時間を昨年発表した効率的な設計手法を用いた場合より、さらに10分の1 程
【2022年最新AI論文】画像異常検知AIの世界最先端手法「PatchCore」の論文を解説【CVPR 2022】 - Qiita
本日(2022/6/19)からアメリカのニューオーリンズで開催されているCVPR2022（2022/6/19-24）で、世界最先端の異常検知手法「PatchCore」が発表されました！ CVPRはコンピュータビジョン分野のトップカンファレンスで、画像系AI研究の最難関の国際会議の一つです。ちなみに、昨年（CVPR2021）の採択率は23％。 PatchCoreは、外観検査（画像の異常検知）タスクで有名なデータセット「MVTecAD」でSOTA（State-of-the-Art）を達成しています。 この記事では、世界最先端の画像異常検知AIがどのような手法なのか、できるかぎり簡単にわかりやすく論文を解説したいと思います。 論文解説 タイトル/著者 Towards Total Recall in Industrial Anomaly Detection Karsten Roth, Latha
機械学習でなんとかしようと安易に考えるな - Qiita
世の中にはよい機械学習の結果が存在する。高い精度で推論（分類・検出）できるものがある。 だから、データの特性が、元々の想定から変わった時にも「機械学習だから、学習させればなんとかなるよね」と期待する人がいるかもしれない。 この文章は、そのような安易な考え方に立つことを戒めるために書く。 (もちろん、機械学習は今までになかった価値をいろんな分野にもたらす可能性が極めて高い。) (主張したいことは、 ビジネスとして見返りが期待できる内容の機械学習をすること。 100%の精度が期待できる機械学習は、そんなに多くない。それでも見返りが期待できる使い方をしてほしい。 1人のエンジニアに支援なしに丸投げするのではなく、チームとしての支援が有効であること。 最初の問題設定を疑ってかかること。手書き文字認識の強化で宅配便の伝票をなんとかするよりは、手書きを必要としない方がいい。 ) garbage in
画像の機械学習が劣化する理由 - Qiita
前書き 注意：ここに書いていることは2020年代としては、古すぎる見解になっている。 近年の自己教師あり学習の大幅な進展で、ここで述べているようなアプローチは大幅に古めかしいものになっている。 ・自己教師あり学習の進展は、画像認識タスクに対する共通のbackbone を作り出しており、後段で個々の画像認識タスクに対するfine-tuningをするアプローチに変わってきている。 ・そのため、ラベル付きの限られたデータで特徴量の抽出をしていたのが、自己教師あり学習に基づく特徴量の抽出になっている。 ・各人、自己教師あり学習について調べることをお勧めする。 主旨 単純に学習データを追加するだけでは学習が改善しないことがある。そのような場合へのヒントを著者の限られた経験の中から記述する。 はじめに 画像認識の機械学習を改善するためにはデータを追加すればよい。 そう思っている人が大半だろう。 ただ、
Colab Pro／Pro+／Pay As You Goとは？ 無料版との違い、比較表
2023年9月27日の最新情報に合わせて改訂しました（最初の公開は2020年3月17日）。主にGPUが選択可能になった点とColab Enterpriseの情報を追記し、全ての利用パターンで再検証して全面的に最新の内容にアップデートしました。 機械学習／データサイエンス分野で特に人気の（Pythonなどの）実行環境であるGoogle Colaboratory（以下、Colab）は無償で使えるものの、無制限ではない。実行時間やメモリ容量などに制限がある。こういった制限を低減する有償プロ版「Colab Pro」が2020年3月に発表され、米国とカナダのみで申し込みできる状況だったが、それから1年後の2021年3月19日以降、日本でも申し込み可能になった（図1）。さらに、より強力な有償プロプラス版「Colab Pro+」が2021年8月に発表され、同日から日本でも申し込み可能になり、その約1年後
M1 Maxより速いディープラーニングに最適なノートPC｢Tensorbook｣
M1 Maxより速いディープラーニングに最適なノートPC｢Tensorbook｣2022.04.16 22:0045,208 大野恭希 AWSのlambdaにPythonのlambdaにLambda Labsに...世の中Lambda（ラムダ）だらけですね。 LambdaがRazerと共同開発したディープラーニング向けノートPC｢Tensorbook（テンサーブック）｣が発表されています。価格は3499ドル（約44万円）から。 構成は、駆け出しPythonエンジニア初学者でも分かる｢これなら大丈夫だろうGPU｣GeForce RTX 3080（VRAM16GB）と、Core i7 11800、メモリは64GB。GPU性能はアップルのM1 Maxより最大4倍近く速く、Google Colabを用いた学習モデルの構築と近くすれば最大10倍の差が出ているといいます。ま、RTX3080なんだからそ
会議中にスマホを触る政治家を機械学習と画像認識で検出
会議の最中であるにもかかわらず、政治家が集中せずに手遊びしていたり居眠りしていたりする様子が中継に映り込むことがあります。これを、中継映像から機械学習と画像認識を用いて自動的に検出し、TwitterとInstagramのアカウントで映像付きで報告する仕組みが運用されています。 The Flemish Scrollers, 2021-2022 – Dries Depoorter https://driesdepoorter.be/theflemishscrollers/ Machine Learning Detects Distracted Politicians | Hackaday https://hackaday.com/2022/01/17/machine-learning-detects-distracted-politicians/ ベルギー人アーティストのドリス・ディポーター氏
メルカリレンズβ WebAssembly × AIのプロダクト開発 | メルカリエンジニアリング
この記事は、Mercari Advent Calendar 2021 の22日目の記事です。 こんにちは、メルカリ EdgeAIチームの@tkatoです。私たちのチームでは、クライアントサイドでの機械学習応用について、アルゴリズム開発からプロダクション開発までを担当しています。 12月16日に、メルカリレンズβという新しいプロダクトが公開されました。この記事では、メルカリレンズβを開発するにあたり、Webブラウザ向けに機械学習を用いたUIを開発した経験から得た知見を紹介したいと思います。 メルカリレンズβは、スマホのカメラで商品をかざすだけでメルカリでの取引相場や類似商品などの情報を表示するWebアプリです。いくらで買えるか知りたいときや、出品する値段で迷ったときに、メルカリを使ったことのないお客様でも気軽に使えるアプリを目指しています。 技術的には、機械学習を利用した直感的なUIをクライ
Spotifyはプレイリストにどう機械学習を活用しているのか？｜みゃふのPythonプログラミング～応用編～
音楽配信サービス最大手のSpotify。2019年6月末時点での月間アクティブユーザー数は有料/無料を合わせ全世界で2億3千万人余り、有料ユーザーだけでも1億人超と他を大きく引き離す勢いです。複数のポッドキャスト企業、過去には競合の音楽配信サービスの買収も試みるなど、『音楽のストリーミング』に関わるあらゆるリソースを確保し続ける巨人でもあります。 さて先日記事を公開したNetflix同様、こうしたコンテンツ配信サービスにおいて開発元が日々改善に改善を重ねているのが『おすすめ機能（パーソナライズ）のアルゴリズム』です。どちらも数億人規模のユーザーそれぞれに最適な形で届ける必要があるために機械学習やディープラーニングを活用しています。 Spotifyの場合プレイリストがその対象ですね。 不思議なことに全く見たことも聴いたこともないアーティストや楽曲が突然おすすめされるSpotify。一体どんな
源氏物語が好きすぎてAIくずし字認識に挑戦でグーグル入社 タイ出身女性が語る「前人未到の人生」 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
Googleが「ガビガビの低解像度画像を高解像度画像に変換するAIモデル」の性能を改善、人間が判別できないレベルに
GoogleのAI研究チームであるGoogle AIが、低解像度画像にあえてノイズを追加して「純粋なノイズ」になるまで加工し、そこから高解像度画像を生成する「diffusion model(拡散モデル)」という手法を改善する新たなアプローチを発表しました。「画質の悪い低解像度画像から高解像度画像を生成する技術」には、古い写真の復元から医療用画像の改善まで幅広い用途が想定され、機械学習の活躍が期待されているタスクの1つです。 Google AI Blog: High Fidelity Image Generation Using Diffusion Models https://ai.googleblog.com/2021/07/high-fidelity-image-generation-using.html Enhance! Google researchers detail new m
Papers with Code - The latest in Machine Learning
X-LoRA: Mixture of Low-Rank Adapter Experts, a Flexible Framework for Large Language Models with Applications in Protein Mechanics and Molecular Design ericlbuehler/mistral.rs • 11 Feb 2024 Starting with a set of pre-trained LoRA adapters, our gating strategy uses the hidden states to dynamically mix adapted layers, allowing the resulting X-LoRA model to draw upon different capabilities and create
機械学習の論文を探す場所まとめ
論文を読んでみる 趣味9割、仕事1割くらいの割合で論文を読んでいます。 学生のときは「論文なんて、何の役に立つんだろ？」とか思っていたダメ学生でしたが、最近は「論文は最先端の研究にキャッチアップするための最高の知のアーカイブの一つ」と少しだけ思えるようになりました。 機械学習・ディープラーニング(AI)の分野では、無料で読める論文がたくさんありますし、コードが公開されているものも多く、（比較的）手元で再現実験しやすいのも良いですね。 いつもTwitterに流れている論文を適当に拾うことが多いのですが、それ以外の情報源をメモがてら個人的にまとめてみます。ガチ研究者ではないので、そういう方は近くの優秀な人に聞いてくださいね（そして、コメントとかで教えてください）。 arXiv 機械学習系では、最も有名かつ最大の論文アーカイブサイトです。機械学習系の論文を探すと、大体はここに行き着きます。 ar
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
アップルが突如発表、カラオケ機能「Apple Music Sing」に迫る
年末年始に振り返る 2021年の人工知能10大トレンドと必読論文
GitHub - arXivTimes/arXivTimes: repository to research & share the machine learning articles
Google、Androidデバイス用機械学習プラットフォームを発表
