はじめに 機械学習の世界ではベイズ最適化を活用した効率的なハイパーパラメータチューニングが当たり前のように使われております。例えば、2015年には東京大学の佐藤先生がベイズ最適化を上手くを活用した実践的な研究成果をご発表されております この発表で解説されている通り、ハイパーパラメータの選定作業すら機械に任せてしまうことができるため、これ以降もベイズ最適化が昨今の機械学習ブームのさらなる飛躍に貢献していきました。ベイズ最適化が機械学習のハイパーパラメータ選定に使われる理由は大まかに下記の点であるといわれています。 1.ブラックボックス関数(コスト関数)の最大化・最小化を実現できる。 2.グリッドサーチよりもパラメータ調整のための試行回数を大幅に削減できる。 3.確率モデルに基づく方法のため、推定結果の不確かさもモデリングできる。 特に、1番と2番の利点は複雑なコスト関数・対象に対して，なるべ
分子設計・材料設計・プロセス設計・プロセス管理において、分子記述子・実験条件・合成条件・製造条件・評価条件・プロセス条件・プロセス変数などの特徴量 x と分子・材料の物性・活性・特性や製品の品質などの目的変数 y との間で数理モデル y = f(x) を構築し、構築したモデルに x の値を入力して y の値を予測したり、y が目標値となる x の値を設計したりします。 データ解析・機械学習でモデルを構築し始める際のサンプル数の目安について、もちろんモデルを構築する時には、可能な限り多くのサンプルを用いることが望ましいです。多くのサンプルを用いることで、サンプルの変化に強い (例えばサンプルが一つ追加されたり一つ削除されたりしても結果の変わりにくい) 頑健なモデルを構築できる可能性が高まります。頑健なモデルにより、より妥当な x の設計やモデルの解釈が可能になります。 ただし、サンプルを集め
概要 最近の記事を見ると、Zero-Shotで時系列予測ができるTimesFMと呼ばれるものが公開されていました。 Githubのリポジトリはこちら： 時系列予測というとベイズなどを用いて泥臭いことをやったりしないとですが、こちらはtransformerのデコーダ部分のみを用いてGoogle TrendsやWikipedia Pageviewなどの膨大なデータ(100 billion time point)で学習を実施したものを公開されています。パラメータも200Mで、GPT-3やLLama-2などと比較すると軽量なモデルであり、チューニングすることなく高度な予測をすることが可能であると書かれています。 時系列予測と言われるとベイズなどが浮かんできますが、面倒臭いのでサクッと予測できるのは比較対象としても悪くない気もしています。今回は、国内企業物価指数] 総平均（前年比）の2000年から2
昨今、AIをはじめとしてデータ分析に関する話題をニュースで見かけることが増えました。それによって、データ分析について学習したいと考えている方も多いのではないでしょうか。 データ分析の基礎となるのが統計学であり、統計に関する知識や活用力を評価する試験として「統計検定」があります。 統計検定に合格すれば統計に関する確かな能力を有していることの証明となり、就職や大学院への入学などでもアピールすることもできます。 この記事では、80,000 名以上の受講生に AI・データサイエンスの教育を行ってきたキカガクが、統計検定について詳しくお伝えします。 検定の詳細や取得のメリット、学習方法について解説していきます。ぜひ最後までご確認ください！ 目次 統計検定とは？ 統計検定の概要 統計検定取得のメリット 統計検定の試験概要と学習方法 統計検定 4 級 統計検定 3 級 統計検定 2 級 統計検定準 1
無事に就職先も決まったので、データサイエンティスト業務用のリハビリとして4月に読んだ書籍の感想を書く。 統計的因果推論の理論と実装 RとStanではじめる ベイズ統計モデリングによるデータ分析入門 StanとRでベイズ統計モデリング 仕組みと使い方がわかる Docker＆Kubernetesのきほんのきほん 10年戦えるデータ分析入門 SQLを武器にデータ活用時代を生き抜く ビッグデータ分析・活用のためのSQLレシピ 確率思考の戦略論 ロジカル・プレゼンテーション 統計的因果推論の理論と実装 統計的因果推論の理論と実装 Wonderful R 作者:高橋将宜,石田基広,市川太祐,高橋康介,高柳慎一,福島真太朗,松浦健太郎 共立出版 Amazon 以前にも一度読んだが再読した。一旦12章まで。 二周目だし余計なことを考えながら読む余裕があったのだが、余計なことというのはつまり統計的因果推論に
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Pythonによるベイズ最適化を使った効率的な制御系設計 - Qiita
データ解析・機械学習を始める際のサンプル数の目安(あくまで目安！)
Google ColabでTimesFMを動かして予測してみた - Qiita
統計検定とは？1級取得者が難易度とメリットを徹底解説！
24/5/8 データサイエンティスト業務用リハビリ書籍感想 - LWのサイゼリヤ