rl-for-llms.md Reinforcement Learning for Language Models Yoav Goldberg, April 2023. Why RL? With the release of the ChatGPT model and followup large language models (LLMs), there was a lot of discussion of the importance of "RLHF training", that is, "reinforcement learning from human feedback". I was puzzled for a while as to why RL (Reinforcement Learning) is better than learning from demonstrat
CS229: Machine Learning
Syllabus and Course Schedule Time and Location: Monday, Wednesday 4:30-5:50pm, Bishop Auditorium Class Videos: Current quarter's class videos are available here for SCPD students and here for non-SCPD students.
2021-09-16, 第13回最先端NLP勉強会 https://sites.google.com/view/snlp-jp/home/2021 Menon et al., Long-tail learning via logit adjustment (ICLR 2021) の論文紹介です https://openreview.net/forum?id=37nvvqkCo5
Try out the interactive version: This Anime Does Not Exist (link). A custom variant StyleGAN2 model (512px resolution) trained on Danbooru2019. Notable changes include disabling stylemixing during training, forgoing path length regularization, using 2x feature maps, noconst (from the start), top-k (at convergence), and data augmentation using PALM (hands and figures augmentations), among other twe
MyHeritage Deep Nostalgia™, deep learning technology to animate the faces in still family photos - MyHeritage
Deep Nostalgia™へようこそ。インターネットで旋風を巻き起こしているセンセーショナルな機能！ さらに増え続ける112百万以上のアニメーション！ 家族写真のアニメ化Animate the faces in your family photos with amazing technology. Experience your family history like never before!
GitHub - miguelmota/golang-for-nodejs-developers: Examples of Golang compared to Node.js for learning 🤓
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Why we do machine learning engineering with YAML, not notebooks
Source: PexelsMost data scientists spend the majority of their working hours in a notebook. As a result, most production machine learning platforms prioritize notebook support. If you try out a new production ML platform, chances are its onboarding tutorial will begin with a .ipynb file. When we built Cortex, our production machine learning platform, we spent a lot of time considering the correct
機械学習を「社会実装」するということ 2023年7月版 / Social Implementation of Machine Learning July 2023 Version
機械学習を「社会実装」する際に待ち受けている罠と、その解決方法の考察 (2023年7月版) です。今回は、LLM等の生成AIの進化が加速し実用化フェーズを迎えた激動の時代において、機械学習プロジェクトに取り組む私たちに何ができるか？といった内容を盛り込みました。 ※この資料は、東京大学メタバース工学部リスキリング講座プログラム グローバル消費インテリジェンス寄付講座 (GCI) 2023 Summerの講義で使用したものです。 https://gci2.t.u-tokyo.ac.jp/archives/course/gci-2023-summer ※過去に同テーマで講義した際に使用した資料はこちら。 https://speakerdeck.com/moepy_stats/social-implementation-of-machine-learning-2023 https://speak
置換不変ニューラルネットワークによる集合データマッチング / Deep Set-to-Set Matching and Learning
論文: https://arxiv.org/abs/1910.09972 v.2
Learning Synths
Your browser does not support this site. Please try using a recent version of Chrome, Firefox, Safari, Edge, or Opera.
GPU Benchmark Methodology To measure the relative effectiveness of GPUs when it comes to training neural networks we’ve chosen training throughput as the measuring stick. Training throughput measures the number of samples (e.g. tokens, images, etc...) processed per second by the GPU. Using throughput instead of Floating Point Operations per Second (FLOPS) brings GPU performance into the realm of t
GitHub - DamRsn/NeuralNote: Audio Plugin for Audio to MIDI transcription using deep learning.
Download the latest release for your platform here (Windows and macOS ( Universal) supported)! Currently, only the raw .vst3, .component (Audio Unit), .app and .exe (Standalone) files are provided. Installers will be created soon. In the meantime, you can manually copy the plugin/app file in the appropriate directory. The code is signed on macOS, but not on Windows, so you might have to perform fe
GitHub - NVIDIAGameWorks/kaolin: A PyTorch Library for Accelerating 3D Deep Learning Research
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
ラベルなしデータを用いた Dense Tracking の研究事例 / Learning Dense Tracking from Unlabeled Videos
社内勉強会での発表資料です。 ラベルなし動画を用いて画素レベルでのトラッキング（dense tracking）を学習する研究事例を紹介します。 近年では、応用先である Video Object Segmentation において教師あり手法に匹敵する性能を持った教師なし手法が提案されつつあります。 紹介論文： - Tracking Emerges by Colorizing Videos, ECCV'18 https://arxiv.org/abs/1806.09594 - Learning Correspondence from the Cycle-consistency of Time, CVPR’19 https://arxiv.org/abs/1903.07593 - Unsupervised deep tracking, CVPR’19 https://arxiv.org/abs
Deep Learning (DL) algorithms are the central focus of modern machine learning systems. As data volumes keep growing, it has become customary to train large neural networks with hundreds of millions of parameters to maintain enough capacity to memorize these volumes and obtain state-of-the-art accuracy. To get around the costly computations associated with large models and data, the community is i
C++で作ったゲームを Unity Gaming Service でホストする方法 | Unity Learning Materials
アーキテクチャとインフラストラクチャーはオンラインゲームの中心的な要素です。本講演では、ホスト・クライアントとサーバー・クライアントの違い、長所と短所、それぞれのワークフローの仕組みについて説明し、UGSとC++を使用した実装方法を紹介させていただきます。 受講スキル オンラインゲームを作りたい方 ホスティングインフラについてお困りの方 得られる知見 オンラインゲームホスティングの仕組み、C++などの言語によるUGSの使用方法。
KDD 2019 | 150 successful Machine Learning models: 6 lessons learned at Booking.com
150 successful Machine Learning models: 6 lessons learned at Booking.com Booking.com is the world’s largest online travel agent where millions of guests find their accommodation and millions of accommodation providers list their properties including hotels, apartments, bed and breakfasts, guest houses, and more. During the last years we have applied Machine Learning to improve the experience of ou
GitHub - mozilla/TTS: :robot: Deep learning for Text to Speech (Discussion forum: https://discourse.mozilla.org/c/tts)
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Confident Learning -そのラベルは正しいか？- - 学習する天然ニューラルネット
これは何？ ICML2020に投稿された Confident Learning: Estimating Uncertainty in Dataset Labels という論文が非常に面白かったので、その論文まとめを公開する。 論文 [1911.00068] Confident Learning: Estimating Uncertainty in Dataset Labels 超概要 データセットにラベルが間違ったものがある(noisy label)。そういうサンプルを検出したい Confident Learningという方法を提案。現実的な状況下でSOTAを達成 PyPIに実装を公開済みですぐに使用可能(pip install cleanlab) GitHub - cgnorthcutt/cleanlab: Find label errors in datasets, weak supe
The Winding Road to Better Machine Learning Infrastructure Through Tensorflow Extended and Kubeflow - Spotify Engineering
The Winding Road to Better Machine Learning Infrastructure Through Tensorflow Extended and Kubeflow When Spotify launched in 2008 in Sweden, and in 2011 in the United States, people were amazed that they could access almost the world’s entire music catalog instantaneously. The experience felt like magic and as a result, music aficionados dug in and organized that content into millions of unique pl
政府は「GIGAスクール構想」を中心に、関係省庁を挙げて学校現場のデジタル環境を整備しています。 経済産業省では新しい学習指導要領のもとで、１人１台端末と様々なEdTech（エドテック）を活用した新しい学び方を実証する 「未来の教室」実証事業を、2018年度から全国の学校などと進めてきました。 このポータルサイトでは、｢未来の教室｣ 事業の取組状況・成果や、 EdTechやSTEAM等、学びの最新動向についての情報を提供しています。 学びを「ワクワク」させるヒントがたくさん掲載されています。 ぜひご活用ください！
1.2 なぜDeep Metric Learningにしたか 改善前のモデルでも特徴量を頑張って作れば解決できないことはないとは思います。「地名、ジャンル等に引っ張られて、拠点名指定を無視してしまう」パターンでは、クエリを解釈するロジックを入れ、地名だということを理解して地名部分のみを拠点の住所とマッチングさせて、それ以外を拠点名にマッチングさせて、という具合で特徴量を作れば正解できる可能性があると思います。しかし、これは一例で全体的に精度を上げるにはさまざまなケースを人が考慮して特徴量を作っていく必要があるので大変です。 そこで、学習データ（クエリと正解拠点のペア）が大量にあることを生かして、DNN（Deep Neural Network）がよしなに学習してくれるのに期待しました。また、プロダクト化することを考えると遅くとも数百ミリ秒以内で応答する必要があるので、クエリと拠点側をそれぞれ
Azure Machine LearningのリソースをVS Codeから手軽に管理できる拡張機能を使ってみる #VSCodejp #VSCode #AzureMachineLearning | DevelopersIO
Azure Machine LearningのリソースをVS Codeから手軽に管理できる拡張機能を使ってみる #VSCodejp #VSCode #AzureMachineLearning こんにちは、Mr.Moです。 先日、Azure Machine Learning 用の VS Code 拡張機能でアップデートがあり、下記のアップデートに関する記事も拝見しておりました。せっかくですので本エントリで使っているところをまとめたいと思います。 https://devblogs.microsoft.com/python/enhance-your-azure-machine-learning-experience-with-the-vs-code-extension/ Azure Machine Learning 用の VS Code拡張機能とは Azure Machine Learning
Transformer is a deep neural network that employs a self-attention mechanism to comprehend the contextual relationships within sequential data. Unlike conventional neural networks or updated versions of Recurrent Neural Networks (RNNs) such as Long Short-Term Memory (LSTM), transformer models excel in handling long dependencies between input sequence elements and enable parallel processing. As a r
「創薬を再考する」をミッションとしたAI創薬企業の株式会社Elix（代表取締役： 結城 伸哉 （ゆうき しんや）/ 本社：東京都千代田区、以下「Elix」）は、京都大学大学院 医学研究科 小島 諒介講師、奥野 恭史教授との継続的な議論を元に、連合学習（Federated learning）機能を有したAI創薬向け機械学習ライブラリkMoLを2021年10月20日オープンソースとしてリリース致しました。 kMoLは、創薬・ライフサイエンス分野における分子を対象とした機械学習モデル構築のためのライブラリです。本ライブラリは、京都大学大学院 医学研究科 小島 諒介講師、奥野 恭史教授らがオープンソースとして開発してきた創薬・ライフサイエンス向けAIライブラリkGCNで得られた知見をもとに改良を加えたものであり、化合物データの分子構造やパスウェイなどライフサイエンスで広く有用とされるグラフ構造を扱
Discovering faster matrix multiplication algorithms with reinforcement learning - Nature
Thank you for visiting nature.com. You are using a browser version with limited support for CSS. To obtain the best experience, we recommend you use a more up to date browser (or turn off compatibility mode in Internet Explorer). In the meantime, to ensure continued support, we are displaying the site without styles and JavaScript.
Deep Metric Learning (深層距離学習)の動向と実は大して発展していなかった話 - ほろ酔い開発日誌
はじめに 今回は、近年のDeep Metric Learning (深層距離学習)の発展を再評価して、論文で論じられている程のパフォーマンス向上が実際にはなかったことを実験的に示した論文を紹介しつつ、Deep Metric Learningについて紹介しようと思います。 [2003.08505] A Metric Learning Reality Check この論文は2020/03/18にarXiv上に上がった論文で、この記事執筆段階では採録情報は確認できていません(ただし、フォーマットはECCV的雰囲気)。 実験は、著者のベンチマークツールを使って行っているとのこと。 github.com Deep Metric Learningとは 概要 Deep Metric Learningとは、意味の近い入力画像同士の距離が近く、逆に、意味の遠い入力画像同士の距離が遠くになるような空間に埋め込
ECサイト運営の業務効率化のために、商品説明を読んで掲載カテゴリーを提案してくれる人工知能を作成した。ディープラーニング実践の参考事例として、筆者の会社がどう取り組んでいったのかを紹介する。 連載目次 はじめに 人工知能という言葉に話題性があることと、企業には大量の文書が蓄積されていることから、手元にある文書をとりあえず人工知能に与えれば何か知見が得られるだろうと相談されることがある。しかし残念ながら、人工知能や、その要素技術の機械学習やディープラーニングは、ただ文書を与えただけでは期待した結果をもたらしてくれないことの方が多い。 成果が出ない理由の一つとして、データの質が挙げられる。ディープラーニングの登場によって、量の拡大が質を補うといわれることもあるが、それを実現するためには想像以上のデータ量が必要となる。 データが足りないとなると、結局はデータの質を上げる必要が出てくるので、辞書の
はじめに 今回は、協調フィルタリング(Collaborative Filtering)とMetric Learningを組み合わせたCollaborative Metric Learning (CML)とそこから発展したいくつかの論文を読んだので、まとめていきたいと思います。 割と新しめな研究だからか、あまり日本語の記事がヒットしないなと感じました。 オンラインでの計算量が大きくて大変なところを近似的に解くことで高速化できるのは魅力的だと思うので、この記事を通して興味を持ってもらえたらと思います。 Metric Learningについてはほぼ初心者なので、何かありましたらコメントいただけると嬉しいです。 よろしくお願いします。 Metric Learningについてはこの辺りを参考にさせていただきました。 Deep Metric Learning の定番⁈ Triplet Lossを徹底解
GitHub - pandax381/microps: An implementation of a small TCP/IP protocol stack for learning.
Abstraction Layer Physical device abstraction Define structure for physical device abstraction (struct net_device) Support multiple link protocols and physical devices Logical interface abstraction Define structure for logical interface abstraction (struct net_iface) Support multiple address family and logical interfaces Devices Null Loopback Ethernet TUN/TAP (Linux) PF_PACKET (Linux) Protocols Et
ANNOUNCING OPENFLAMINGO: AN OPEN-SOURCE FRAMEWORK FOR TRAINING VISION-LANGUAGE MODELS WITH IN-CONTEXT LEARNINGby: Anas Awadalla and Irena Gao, 28 Mar, 2023 Overview. We are thrilled to announce the release of OpenFlamingo, an open-source reproduction of DeepMind's Flamingo model. At its core, OpenFlamingo is a framework that enables training and evaluation of large multimodal models (LMMs). Check
Introduction The deployment of machine learning models is the process for making your models available in production environments, where they can provide predictions to other software systems. It is only once models are deployed to production that they start adding value, making deployment a crucial step. However, there is complexity in the deployment of machine learning models. This post aims to
GitHub - lucidrains/PaLM-rlhf-pytorch: Implementation of RLHF (Reinforcement Learning with Human Feedback) on top of the PaLM architecture. Basically ChatGPT but with PaLM
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Practitioners Guide to Machine Learning Operations (MLOps)
Practitioners Guide to Machine Learning Operations (MLOps)Gain an overview of the machine learning operations (MLOps) life cycle, processes, and capabilities. Understand concrete details about running a continuous training pipeline, deploying a model, and monitoring predictive performance of ML models. The MLOps life cycle and important processes and capabilities for successful ML-based systemsOrc
たのしさの作り方 イントロダクション 「ゲームを作ってみたけれど、思い描いていたほど面白くならなかった」という経験は誰にでもあることではないでしょうか？ 本シリーズでは、ユニティ・テクノロジーズ・ジャパンの安原広和が人間の持つ「本能」から読み解いていく、プレイヤーが「楽しい！」と思えるゲームを作るための思考法を解説します。 こちらの導入編では、本シリーズ（全四回）でどんなことが語られていくのかをご紹介します。
※本講演はUnite Seoul 2020での講演を日本語吹替したものとなります 「原神」のレンダリングパイプラインと、コンソールでのクロスプラットフォーム開発について、miHoYoのテクニカルディレクターであるZhenzhong Yiがお話しします。 こんな人におすすめ Game Developers 得られる知見 「原神」でのコンソールプラットフォーム開発でのノウハウ Unityを使用したレンダリングパイプラインのTips
Machine Learning Interviews: Lessons from Both Sides - FSDL
Machine Learning Interviews Chip Huyen (@chipro) chip@huyenchip.com
GitHub - probml/pyprobml: Python code for "Probabilistic Machine learning" book by Kevin Murphy
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
コアメンバー3人で作り上げた『レッツプレイ！オインクゲームズ』から学ぶゲーム開発効率化術！ | Unity Learning Materials
『レッツプレイ！オインクゲームズ』は、コアメンバー3人、開発期間も1年弱と、近ごろのオンラインプレイ対応タイトルとしては規模の小さなプロジェクトでした。 この限られた人的リソースの中で、いかに作業を効率化し発売にこぎつけたかを「ゲーム開発効率化術」と名付けて紹介します。 効率化にあたり最も難しいのは、いつも当たり前に行っている作業/時間が「非効率/無駄だと気づくこと」です。 本講演では、実例を挙げて「なぜこの作業が非効率だと気づけたのか」「どのようにして解決したのか」をお話しします。 ゲームの仕様検討の方法など、エンジニアリング以外の部分については触れません。 こんな人におすすめ: ・効率的なゲーム開発に興味があるプログラマー ・ゲームの本質的な実装に集中できるよう、開発環境を改善したいと考えているプログラマー ・少人数チームでゲーム開発を行なっている方 受講者が得られる知見: ・非効率な
GitHub - labmlai/annotated_deep_learning_paper_implementations: 🧑🏫 60 Implementations/tutorials of deep learning papers with side-by-side notes 📝; including transformers (original, xl, switch, feedback, vit, ...), optimizers (adam, adabelief, sophia,
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Reinforcement Learning for Language Models
Long-tail learning via logit adjustment
Aydao.AI | Art + Machine Learning
GPU Benchmarks for Deep Learning | Lambda
SLIDE : In Defense of Smart Algorithms over Hardware Acceleration for Large-Scale Deep Learning Systems
未来の教室 ～learning innovation～
Deep Metric Learningによる、ホテルや飲食店などの拠点検索改善
A Comprehensive Survey on Applications of Transformers for Deep Learning Tasks
連合学習（Federated learning）機能を有したAI創薬向け機械学習ライブラリkMoLをリリース
Deep LearningがECサイトの商品分類でどう活用されたのか
Collaborative Metric Learningの関連研究まとめ - Qiita
Announcing OpenFlamingo: An open-source framework for training vision-language models with in-context learning | LAION
How to Deploy Machine Learning Models
あそびのデザイン講座 特別編「たのしさの作り方」 | Unity Learning Materials
「原神」におけるコンソールプラットフォーム開発 | Unity Learning Materials