タグ

機械学習に関するrryuのブックマーク (21)

  • おわりに - なぜ機械学習はうさん臭く感じられるのか? / 真面目なプログラマのためのディープラーニング入門

    講座では計8回にわたり、ディープニューラルネットワークの原理と実装について 説明してきた。ニューラルネットワークの原理は基的には 勾配降下法であり、その基盤となっているのが関数の微分可能性である。 ニューラルネットワークにはさまざまな形態が存在するが、 画像処理・画像認識の場合は畳み込みニューラルネットワークが非常に 有効であることがわかっている。また、ニューラルネットワークの 出力形式や損失関数を変えることにより、ニューラルネットワークが 物体検出や奥行き推定など、さまざまなタスクに利用可能であることを紹介した。 さて、講座は「真面目なプログラマのための」ディープラーニング入門、 と銘打っている。真面目なプログラマとは何か? 諸説いろいろあるだろうが、 多くのプログラマは、ソフトウェア開発において 仕様の明確さや、 システムの効率・堅牢性、そして 保守のしやすさといったものを 追求

    rryu
    rryu 2022/03/22
    胡散臭いというか、機械学習専門の人は機械学習の特性から仕様も何もないスパゲティなプログラムを置いていなくなってしまう可能性が高いので、後に残された方としてはちょっとみたいな感じだと思う。
  • 輸送問題を近似的に行列計算で解く(機械学習への応用つき) - 私と理論

    輸送問題と呼ばれる問題があります. この問題は,普通は線形計画法やフローのアルゴリズムを使って解かれます. この記事では,この輸送問題を近似的に行列計算で解くアルゴリズム(エントロピー正則化 + Sinkhorn-Knopp アルゴリズム)を紹介します. 輸送問題とは アルゴリズム 得られる解の例 なぜこれで解けるのか? 競プロの問題を解いてみる 機械学習界隈における流行 まとめ 輸送問題とは 輸送問題とは以下のような問題です. 件の工場と 件の店舗からなる,ある商品の流通圏があるとする. 各工場には 個の在庫がある.. 各店舗では 個の需要がある. 在庫の総和と需要の総和は等しいとする (すなわち ). 工場 から店舗 に商品を一つ運ぶためには の輸送コストがかかる. 各工場 から各店舗 への輸送量 を適切に決めて,各店舗の需要を満たしつつ輸送コストの総和を最小化せよ. 輸送問題は最適化

    rryu
    rryu 2021/05/10
    「確率分布間の距離」を「確率分布aから確率分布bに確率を輸送する際の最小コスト」ということにすれば輸送問題の近似値算出のアルゴリズムが使えるという話。
  • スプラトゥーン2のプレイ動画から、やられたシーンだけをディープラーニングで自動抽出する - Qiita

    手っ取り早く、やられたシーンを抽出したい人向け OBSと連携するWebアプリを作成しました 詳細はこちらの記事をご参照ください。 スプラトゥーン3で、やられたシーンをOBSのリプレイバッファで自動保存する 以前のWebアプリ スプラトゥーン2 やられたシーン自動頭出しツール「iKut」 Dockerイメージ こちらでDockerイメージを配布しています。 はじめに スプラトゥーン2を発売日からやりこんで3年になります。2年かけて全ルールがウデマエXに到達しましたが、そこからXパワーが上がらずウデマエX最底辺で停滞しています。最近は自分のプレイ動画を見て対策を立てるのですが、すべての動画を見るのは大変です。そこで敵にやられたシーンは特に修正すべき自分の弱点があると考え、そこだけを自動で抽出するシステムを作ってみました。 ↑このシーンを切り出します。 画像の引用 この記事では任天堂株式会社のゲ

    スプラトゥーン2のプレイ動画から、やられたシーンだけをディープラーニングで自動抽出する - Qiita
    rryu
    rryu 2020/09/15
    学習データの作成方法からすると「やられた」のシーンしか学習させてないはずだが「ひかれた」の揺れに対応できているのがおもしろい。当方はようやくウデマエBに到達…
  • 超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium

    この記事についてこの記事ではGPT-3[1]の解説をします。内容のサマリは以下の通りです。 GPT-3の前身であるGPT-2では、巨大なデータセット+巨大なネットワークで言語モデルを構築し、各タスクで学習させなくても良い結果が得られた。GPT-3では、さらに巨大なデータセット+さらに巨大なネットワークで言語モデルを構築し、数十のサンプルを見せると凄く良い結果が得られた一方、様々なタスクに言語モデルのスケールアップのみで対応することへの限界が見えてきた。人種、性別、宗教などへの偏見の問題や、悪用に対する課題もある。この記事の流れは以下の通りです。 Transformer, GPT-2の説明GPT-3のコンセプトと技術的な解説GPT-3ので上手くいくタスクGPT-3で上手くいかないタスク偏見や悪用への見解 Transformerまず、GPT-3の前身となったGPT-2に入る前に、その中に使われ

    超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium
  • 人工知能でラーメンをより美しく ニュースイッチ by 日刊工業新聞社

    料理人にとって1枚の皿は1枚のキャンバスである。彩りで材のバランス、高低差でボリュームを表現するなど高いアート性が求められる。インターネット交流サイト(SNS)に投稿された写真は飲店の売り上げを左右するため、一皿のアート性は崩さないでほしいところだ。 これは高級料理に限った話ではない。日の国民ラーメンも同様だ。そこで写真からレンゲを取り除く人工知能(AI)技術が開発された。 電気通信大学3年生の堀田大地さんは「レンゲを消すAIと加工画像であるか見破る鑑定AIを対立させ、鑑定AIが見破れなくなるまで学習させた」と説明する。 1万2000枚のデータを学習させ、一目ではレンゲが消えていると気が付かないラーメン画像を生成できた。データ加工や学習に2日、論文執筆に1日かけて国際学会に採択された。電通大の柳井啓司教授は「アイデア次第で国際学会に認められる時代になった」と振り返る。 AIはフェイ

    人工知能でラーメンをより美しく ニュースイッチ by 日刊工業新聞社
    rryu
    rryu 2018/12/30
    まあ不連続な箇所のない修正ができるという感じなのだと思うが、器の模様は繋げられていないのでバレバレという。
  • 論文紹介 Understanding Batch Normalization - じんべえざめのノート

    今回は、NIPS2018に投稿されたUnderstanding Batch Normalizationという論文を読んだので、紹介していきたいと思います。この論文は、なぜバッチ正規化(Batch Normalization)が学習に効果的なのかを実証的なアプローチで検証した論文です。 この記事は、ニューラルネットワークの基礎(全結合層や畳み込み層)を理解している方を対象にしています。また、可能な限りバッチ正規化を知らない方でも理解できるようにしています。この記事を読み終わるころには、「なぜバッチ正規化が学習に効果的なのか」が分かるようになっています。 ニューラルネットの基礎は以下の記事で紹介しています。 ニューラルネットワーク入門 KelpNetCNN この記事は論文を要約したものに説明を加えたものとなっています。記事内で1人称で語られている文章については、多くが論文の主張となっています

    論文紹介 Understanding Batch Normalization - じんべえざめのノート
  • FizzBuzz Zero ―― 人類の知識なしでFizzBuzzをマスターする

    for i in range(1, 101): if i % 15 == 0: print("FizzBuzz") elif i % 3 == 0: print("Fizz") elif i % 5 == 0: print("Buzz") else: print(i) プログラム問題としてあまりにも有名になってしまったので、今ではあらゆる言語のFizzBuzzがそろっています。面白いですね。 深層学習 で FizzBuzz この記事の読まれている大半の方は、FizzBuzzを書くのにあまり苦労しないでしょう。 しかし、あなたが何かの拍子でプログラムの書き方を忘れてしまったらどうでしょう? 心配する必要はありません。そういうときこそAIの出番です。 最近は空前の人工知能ブームで、も杓子もDeep Learningです。 実際、Deep LearningによるFizzBuzzは、いくつも先例

    FizzBuzz Zero ―― 人類の知識なしでFizzBuzzをマスターする
    rryu
    rryu 2018/05/11
    相手を失敗させて100まで到達するというのが最高評価ならば戦略が生まれそうな気がする。
  • 知能とは画像である|山本一成🚗TURING

    Deep Learningは現在様々な領域・分野で使われようとしている。しかし、もっとも安定的かつ強力に使える領域は、2018年2月現在、画像処理に関することと言ってもいいだろう。 静止画像から何が写っているかを当てる一般物体認識問題では、既存手法の性能を大きく超えるどころか、人間の認識能力すらも超えている。通常の画像に限らず、将棋や囲碁といった問題、果てには言語処理といった来は画像処理ではないと考えられていた問題ですら、現在は画像認識の問題に変換して Deep Leaningで解決し始めている。 突然なのだが、大学の授業や日々の業務でグラフを作成する人は多いだろう。我々が常日頃見ている画像、つまり眼に映る通常の映像、の縦軸と横軸は当然「距離」だ。ところがグラフを作る時の縦軸や横軸は金額や時間だったりと、もはや距離となんの関係もない。すでに完全に情報は揃っているのになぜ我々はグラフを作る

    知能とは画像である|山本一成🚗TURING
    rryu
    rryu 2018/02/18
    データを2次元の画像に落としてパターンマッチするのは、AIを使う側の人間の認識能力の限界ぽくて微妙な感じ。
  • 画像からHTMLを生成する深層学習とは?AIがwebサイト自動コーディング。 | Ledge.ai

    サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。

    画像からHTMLを生成する深層学習とは?AIがwebサイト自動コーディング。 | Ledge.ai
    rryu
    rryu 2018/01/19
    画像系は解像度が高いとリソースを食い過ぎてつらいのでかなり縮小されてから処理されるのだがどのくらいの精度なのだろう。
  • ソースコードの不備をAIで見つける富士通、新しい診断ツールの中身

    人工知能AI)などを活用し、システム開発プロジェクトのプロセス改革に取り組む富士通。この改革のために、2017年11月から格活用するツールの1つが「ソース診断」だ。このツールでは、英数字や記号といった文字列の固まりであるソースコードを、テキストデータとしてではなく、画像として分析するという。 どのような仕組みでソースコードの不備を見つけるのか。ツール活用により、開発プロセスをどう改善するのか。ツールの開発責任者である富士通アプリケーションズの森崎雅稔取締役兼ソフトウェアエンジニアリングセンター長に聞いた。 保守性の低いコードを見逃しやすい ソース診断は、ソースコードのレビュー作業の効率化と精緻化を支援するツール。画像化されたソースコードを基に、AIが主に可読性を診断する。ツールで可読性が低い箇所に当たりを付け、該当箇所を集中的にレビューすることによって、レビュアーは作業の効率化と精緻化

    ソースコードの不備をAIで見つける富士通、新しい診断ツールの中身
    rryu
    rryu 2017/12/26
    「あらかじめ約1万件の教師用データで学習させておいたモデルと照合」半分としても5000件くらいの残念なコードが集まったのか…
  • GPUコンピューティング脱落者から見たNVIDIA GPUの利用規約騒動|暗黙の型宣言

    一週間ほど前から,NVIDIAがGeForceのデータセンタ利用を制限した話がネットを賑わしはじめた.おもしろいことになってるなと感じたので,私の経験と,それに照らし合わせて今回の騒動に感じた事を語りたくなった.記憶も記録も曖昧であるため,年寄りの昔話程度に読んでもらいたい. ここでいうおもしろいとは,滑稽という意味ではなく,興味深いという意味合いである.この件で色々な対応を迫られている方々を蔑む意図は微塵もないことはご理解いただきたい. 今回の騒動に抱いた感想俗っぽい言い方をすると「恋人がこちらをフって乗り換えた相手が意外に曲者で,元恋人が困っているのを眺める気持ち」だろうか.そのような経験をしたことはないし,恋人というほどNVIDIA社に固執しているわけでもないが. 事の発端NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ これが最

    GPUコンピューティング脱落者から見たNVIDIA GPUの利用規約騒動|暗黙の型宣言
    rryu
    rryu 2017/12/26
    ディープラーニング用途だと安いGeForceの方が速いのか。
  • 機械学習案件は本運用乗せきってからが本当の勝負、みたいなところあるので気をつけて - Qiita

    機械学習案件を納品するのは、そんなに簡単な話じゃないから気をつけて』を読みました。 つまづきから得られた知見の共有は貴重だと思います 実際、機械学習とか最適化とか自律的なシステムの開発は、罠が多いです。 研究や試作では成功していても、様々な事情により実用化できず消えていくものを沢山見てきました。 そのため、運用に乗せてユーザの受け入れも上々というところまで辿りつければ、それはそれは当に喜ばしいことなのですが、そこから始まる試練も色々とあったりします ということで、運用後に体験したり見聞きしたことをいくつか、私も共有してみたいと思います。 ちなみに私の開発経験は、研究用シミュレータの受託とWebバックエンドの内製です いつの間にか、精度が落ちてるみたいなんですけど? 入力に無効値や不正値が紛れこんでいた。 データは生き物です。クレンジングやバリデーションを作りこんでも、いずれ予期せぬこ

    機械学習案件は本運用乗せきってからが本当の勝負、みたいなところあるので気をつけて - Qiita
    rryu
    rryu 2017/11/24
    学習状況の監視みたいなのが無いと厳しい感じ。
  • 機械学習案件を納品するのは、そんなに簡単な話じゃないから気をつけて - Qiita

    はじめに 昨日のTwitterで書いたこちらが非常に反響を呼びました。 半年間かけたデータ解析の仕事が全くうまくいかなかった 今回の失敗は契約書に納品物を明記していなかったこと 機械学習の依頼は学習済みモデルのファイルを納品しただけでは、先方は検収できず、結果支払いを受けられない この教訓をひとりでも多くの人に知ってもらいたい — キカガク代表 吉崎亮介 (@yoshizaki_kkgk) 2017年11月20日 そうなんですよね。 全く先方が悪いわけでもなく、私自身が「機械学習のお仕事=解析」だと思いこんでいたことが失敗の始まり。 結局のところ、機械学習系のプロダクトを依頼されて、学習済みモデルを作成して即納品とはいかず、検証結果を示されないと検収できないよとなってしまうので、結局アプリケーション側まで組み込まないと納得感はないんですよね。 この検証とは、訓練データと検証データを分けた時

    機械学習案件を納品するのは、そんなに簡単な話じゃないから気をつけて - Qiita
    rryu
    rryu 2017/11/22
    「PoCを回す」のレベル感をちゃんと定義しておかないと実データで自動で検証する仕組みを作るところまでレベルアップしてしまうということなのか。
  • If文から機械学習への道

    機械学習とif文が地続きであることを解説しました。 ver.2 質問への回答を追加し、顧客価値の小問に図を追加してわかりやすくかみ砕きました。Read less

    If文から機械学習への道
    rryu
    rryu 2017/09/29
    えっそんなところに道が? と思ったら本当に道があった。
  • 「2年前からプロ棋士はもう勝てないとわかっていた」Ponanza開発者・山本氏が語るAIの未来 (1/3)

    第2期電王戦第2局姫路城での対局シーン。将棋界の最高峰である名人位の佐藤天彦九段が負けたことで、タイトル保持者でもコンピューター将棋ソフトには敵わないという認識となった。 5月20日、兵庫県・姫路城で行なわれた第2期電王戦第2局で佐藤天彦名人に完全勝利したことで、日将棋連盟もコンピューター将棋ソフトがプロ棋士のレベルを超えていると認めざるを得なくなった。電王戦は2012年に第1回が開催されたが、2015年には一度「FINAL」と銘打ったものの、同年に「叡王戦」という新棋戦を発足し、叡王戦の優勝者はコンピューター将棋の頂点を決める電王トーナメントの優勝者と電王戦として対局することになった。 結局、2016年以降は1度もプロ棋士がコンピューター将棋ソフトに勝つことはできず、今後も勝てる見込みも低くなったということで、「役割は終えた」と主催するドワンゴの川上会長が終了宣言をした。ただ、叡王戦は

    「2年前からプロ棋士はもう勝てないとわかっていた」Ponanza開発者・山本氏が語るAIの未来 (1/3)
    rryu
    rryu 2017/07/22
    プロの棋譜500万程度では学習データとしては全然足らないとかすごい世界になってきたな……
  • あなたの会社は本当に機械学習を導入すべきなのか? - bohemia日記

    こんにちは。ぼへみあです。 こんな記事を読みました。 japan.zdnet.com よくあることだと思いますが、上から降ってきた機械学習プロジェクトは99%失敗し、導入したとしても技術的負債という形でエンジニアを苦しめることになるので、やらないほうがいいと思います。 僕は普段から、ディープラーニング面白しれー、機械学習サイコーと世に広めてしまっているのですが、 こちらの講演を聞き、機械学習をシステムに組み込んで運用する際に、普通のシステム以上に技術的負債が発生しやすく、どの企業でも気軽に導入を進めるべきでないと思いましたので、今の考えをまとめてみました。 ディープラーニング、実サービスへの導入の実際 〜niconicoにおけるレコメンド、コメント解析、画像解析〜 | Peatix 機械学習技術的負債の高利子クレジットカード 近年高い成果を上げ、ブームになっている機械学習を導入したいと考

    あなたの会社は本当に機械学習を導入すべきなのか? - bohemia日記
    rryu
    rryu 2017/04/04
    機械学習システムの引継ぎドキュメントを本気で書いたら論文になりそうだから最低でも一子相伝のシステムみたいな感じになりそう。
  • はてなグループの終了日を2020年1月31日(金)に決定しました - はてなの告知

    はてなグループの終了日を2020年1月31日(金)に決定しました 以下のエントリの通り、今年末を目処にはてなグループを終了予定である旨をお知らせしておりました。 2019年末を目処に、はてなグループの提供を終了する予定です - はてなグループ日記 このたび、正式に終了日を決定いたしましたので、以下の通りご確認ください。 終了日: 2020年1月31日(金) エクスポート希望申請期限:2020年1月31日(金) 終了日以降は、はてなグループの閲覧および投稿は行えません。日記のエクスポートが必要な方は以下の記事にしたがって手続きをしてください。 はてなグループに投稿された日記データのエクスポートについて - はてなグループ日記 ご利用のみなさまにはご迷惑をおかけいたしますが、どうぞよろしくお願いいたします。 2020-06-25 追記 はてなグループ日記のエクスポートデータは2020年2月28

    はてなグループの終了日を2020年1月31日(金)に決定しました - はてなの告知
    rryu
    rryu 2016/10/18
    原文と翻訳中の文を元に何だか分らない仕組みで想起された単語を追加していくというのが意訳しない時の人間の翻訳のモデルなのかもしれない。
  • 噂の「TensorFlowでキュウリの仕分けを行うマシン」がMFT2016に展示されていたので実物を見てきた - データの境界

    個人的には最近聞いた話の中でひさびさにワクワクした話。 「医療」「教育」「農業」のようなIT未開の分野に黙々と取り組んでいる人達はヒーローに見える Google Cloud Platform Japan 公式ブログ: キュウリ農家とディープラーニングをつなぐ TensorFlow 約三行要約 エンジニア職だった方が実家のキュウリ農場でtensorflowを使った自動の「キュウリの品質仕分け機」を自作している 家族(仕分け担当はお母さん)が9段階に仕分けしたキュウリを撮影し学習用画像データ(80×80px)としている。画像7000枚分。 収穫のピーク時には一日 8 時間ずっと仕分け作業に追われる。それを自動化したい。 Web カメラによる画像撮影は Raspberry Pi 3 で制御し、そこで TensorFlow による小規模なニューラルネットによってキュウリのあり・なしを判断 学習と計

    噂の「TensorFlowでキュウリの仕分けを行うマシン」がMFT2016に展示されていたので実物を見てきた - データの境界
    rryu
    rryu 2016/08/10
    興味深いけど、キュウリを連続的に装置に送り込む仕組みを作らないと1日中装置にキュウリをセットする仕事に変わるだけになってしまう気も……
  • 人工知能は Deep Learning によって成されるのか? - Sideswipe

    最近は人工知能分野の話題に事欠かないので、IT系に詳しくない人でも、Deep Learning がどうとか、人工知能がどうとかという話題を耳にすることが多いと思います。 も杓子も Deep Learning な世の中ですが、そもそも人工知能とか Deep Learning ってなんなんだっけ? という疑問に答えられる人は多くないはずです。 今回は、広く浅く、人工知能と Deep Learning について書きます (この記事をご覧になればわかるように、人工知能 = Deep Learning では決して無いのですが、両者はよく並んで紹介されるので、ここでも同列に書いています)。 最初に結論 Deep Learning は(真の)人工知能ではない。なんでもかんでも人工知能って呼ばない。 「Deep Learning」、「人工知能」ともにバズワード*1になりつつあるので気をつけよう。 コンピ

    人工知能は Deep Learning によって成されるのか? - Sideswipe
    rryu
    rryu 2015/10/09
    Deep Learningって何がdeepなんだろうと思っていたが、ニューラルネットワークの層が深いということだったのか。
  • 捗るリコメンドシステムの裏事情(ハッカドール)

    [DL輪読会]PointNet++: Deep Hierarchical Feature Learning on Point Sets in a Metr...Deep Learning JP

    捗るリコメンドシステムの裏事情(ハッカドール)
    rryu
    rryu 2014/10/13
    『いつのまにか”続きを読む”が大好きなユーザーになっていた』