多重共線性のシミュレーション - 井出草平の研究ノート
下記エントリーの続き。 ides.hatenablog.com こちらの教科書から多重共線性について Statistical Rethinking: A Bayesian Course with Examples in R and STAN (Chapman & Hall/CRC Texts in Statistical Science) 作者:McElreath, RichardChapman and Hall/CRCAmazon Richard McElreath - Statistical Rethinking_ A Bayesian Course with Examples in R and STAN 6.1. 多重共線性 一般に、回帰モデルに追加する潜在的な予測変数が多くあることは事実である。たとえば、霊長類のミルク・データの場合、我々が結果として選ぶどの列も予測するために利用可
【論文紹介】ベイズ分析のワークフローにおける視覚化について - Qiita
こんにちは，株式会社Nospareリサーチャー・千葉大学の小林です． 今回はJournal of Royal Statistical Society Series Aにも掲載されたGabry et al. (2017)（arXiv版）の紹介をします．この論文では次の挙げられるベイズ分析のワークフロー 探索的データ分析 分析前のモデルチェック アルゴリズムの動作チェック モデル推定後のモデルチェック において視覚化をどのように使っていくかについて書かれており，実証分析や実務においてベイズ分析を行うにあたってとても有用な内容になっています．本記事で掲載する図などは著者がgithubにポストしてあるコードを使って作成しました． データ分析例の設定 この論文では終始PM2.5に関するデータ分析例を取り扱っており，この例では以下の設定があります． PM2.5は人体に対して影響があると考えられ，本当は
計算機統計学・ベイズ統計学周辺でのお勧めの教科書10冊 - Qiita
はじめに 千葉大学/Nospareの米倉です．今回は僕が専門にしている計算機統計学・ベイズ統計学周辺で僕が勝手にお勧めだと思う教科書を10冊簡単なコメント付きで紹介したいと思います．初学者向けといより，修士・博士課程位のレベルのが多いので，ややプロ向けです． お勧めのプログラミング言語 僕は普段Julia言語を用いています．特徴は非常に高速なのと，可読性の高さでしょうか．個人的にはPythonやRより優れていると感じていて，僕の周りの専門家でも使っている人が多いです． Robert and Casella "Monte Carlo Statistical Methods" この分野のバイブルと言えばバイブルみたいな感じですが，そう呼ぶにはちょっと頼りない感じもします．けどモンテカルロ法に興味がある人はマストバイです．色々な種類のモンテカルロ法が網羅的に紹介されています． Efron and
回帰分析における「調整変数」の選び方：実践編 - Unboundedly
回帰分析を用いて「●●の効果を推定する」ことに取り組んだことがある人は多いのでは無いかと思います。 回帰モデルには「調整変数」として、年齢・性別・教育歴・（医学研究の場合は）既往歴などなど様々な要因を投入して、その影響を"補正"しますよね。 今回は、これらの「調整変数」をそもそもどのように選べばいいのか、その実践的な考え方についてまとめます。 ステップワイズつかって選べばいいんでしょう？ アウトカム/曝露因子と有意に関連しているものを選べばいいんでしょう？ とにかくたくさん調整すればするほど良いのでしょう？ 調整して推定値が大きく変わるものを使えばいいのでしょう？ はいはいドメイン知識、DAGを書くんでしょう？ と思った人は参考になるかもしれません。 なお、本記事は以下の論文の内容をもとに構成されています。 そもそも「調整」するとはなにか？ 教科書的な正解はDAGを書くこと 調整変数選択の
若き統計学者の英国: いかにしてマクロ経済学はオワコンになったか
マクロ経済学という分野は、残念ながらもう所謂オワコンになってしまった。正しく言うと、実を言うとDSGEはもうだめです。突然こんなこと言ってごめんね。でも本当です。こんな感じだろう。 結論から言うと、データを見るふりをして実は全くデータを見ておらず、はっきりいってモデル化に失敗したからだ。とくに予測能力が兎角ないのが致命的だったと思う。予測能力がない結果、モデル・理論を通して将来の政策談義を結局は出来ないので、政策提言すらまともにできず、役立たずの烙印を押された。政策評価・提案等の役目は統計的手法を上手く用いている、応用ミクロの研究者が主に担うことになった。 そもそもの始まりは、合理的期待形成仮説というバカげた仮定に基づいて、数学音痴がmathinessにまみれたリアルビジネスサイクル(RBC)理論などという、さらにバカげた理論を推し進めた点であろう。それに呼応してニューケインジアンモデルが
[R] [stan] bayesplot を使ったモンテカルロ法の実践ガイド - ill-identified diary
図1: Monte-Carlo, from Neugebauer (2018) イントロダクション モンテカルロ法とは どこを見て収束を確認するか トレースプロット GR統計量 を確認する. 多重連鎖はいくつ必要か 自己相関関数 (ACF, コレログラム) 有効サンプルサイズ 事後診断ツール bayesplot こういう時どうすればいい? GR統計量の値が大きい アルゴリズムを変える 有効サンプルサイズ の値が小さい 低速混合 間引き そもそもプログラムが間違っている場合 まとめ 参考文献 イントロダクションこの投稿は, 第78回R勉強会@東京（#TokyoR） - connpass での LT の内容を加筆修正したものである. 以下は当時のスライドである. bayesplot を使ったモンテカルロ法の実践ガイド from 智志 片桐 以前, Tokyo.R かどこかの懇親会で, マルコフ
![[R] [stan] bayesplot を使ったモンテカルロ法の実践ガイド - ill-identified diary](https://cdn-ak-scissors.b.st-hatena.com/image/square/2cc30662fe4559806b1689e8ea8d5e1b5c720b95/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fi%2Fill-identified%2F20190613%2F20190613000506.jpg)
『「数理科学を使えば統計の”主義”を争う必要ない」という主張について検討する』
・はじめに 統計学の歴史では、頻度主義とベイズ主義という異なる立場の方法が存在し、違いに論争を繰り広げてきました。しかし、近年の統計学者の中には「現代の統計学は数理的な方法に基づいているから、主義の争いは解決した」と考える人もいるようです（この立場のことを、この記事では便宜的に「統計数理による主義不要論」と呼ぶことにします）。この記事では、「統計数理による主義不要論」に対して私なりの反論を考えてみることにします。論点は、以下の3つです。 1. 「“数理的な方法”を使っても、主義の争いが解決しない」ということを示唆する事実が存在する 2. 頻度主義とベイズ主義の論争を「どちらの方法が正しいか」という争いとして捉えると論争の全体像を見誤る 3. WAICに代表される現代ベイズ法の意義は、「数理によって主義の争いを解決した」のではなく「仮にあなたが頻度主義的な価値観を重視
欠損値の発生過程の類別
先日、欠損値の発生過程の例を図示してTweetしたところ、思ったより反響がよかったので、図をブラシュアップの上、記事に残すことにした。 俄仕込みなので、間違いがあったらTwitterで指摘して下さい。 欠損値の発生過程を理解したと思われる。xが欠損値を含みうる時、 完全: 欠損なし MCAR (Missing Completely At Random): xの欠損は完全にランダム MAR (Missing At Random): xの欠損はx以外の値(yの値)に依存 MNAR (Missing Not At Random): xの欠損はxの値に依存 MNARはxの分布を歪めるため厄介。 pic.twitter.com/8VF7ogJLTE — Atsushi (Atusy) (@Atsushi776) August 24, 2018 欠損値の発生過程は大きく3種あるとされる。 MCAR;
多重比較補正のはなし - 渋谷駅前で働くデータサイエンティストのブログ
最近になって、データ分析界隈で多重比較補正が話題に上ることが増えていると聞きまして。一方で、僕自身も何を隠そう研究者時代の専門分野が長年多重比較補正の問題に悩まされてきた分野だったこともあって、かなり若い頃から多重比較補正については色々勉強したり実践したり検討したりしてきたものでした。 ちなみに下記のリンクはその分野で広く使われている多重比較補正の方法論に重大な瑕疵があるのではないかと指摘した2年前の論文で、曰く「理論上は偽陽性(false positives)5%で済むはずのものが実際には偽陽性が最大70%に達する可能性がある」とのこと*1。 事によっては15年間に渡る40000件の研究が実は偽陽性まみれだったという可能性もあるという話で、多重比較補正って怖いんだなぁとつくづく思う次第です。 閑話休題。このように多重比較補正というのは「偽陽性」という統計データ分析においては厄介な問題と密
カイカムリのスポンジ選択で学ぶ階層ベイズモデリング - katsumushiのはてなブログ
このプレプリントで、カイカムリにサイズの異なる三つのスポンジを与えて、どのサイズを気に入るかテストしています。その解析部分をここで解説してみます。それぞれの選択肢を選ぶ確率が身体の大きさと脚の欠損度合いとどのような関係にあるか、統計モデルをつくって推定してみようと思います。また、この選択行動に個体差があると考えてそれがどれくらいか推定してみます。個性を考慮しないモデルも適用しWAICをつかったモデルの評価もしていますが、ここでは省略します。興味のあるかたは論文とコードを参照してください。 コードはこちら：https://gist.github.com/kagaya/3188dd0a4571b068e501aeef9863e255 松浦氏のStanとRでベイズ統計モデリング、階層ベイズモデルとWAICに多くを負っています。 データ CSV file for Harada and Kagaya
Simulating animal movements and habitat use
Hi there! I was training some ways to simulate animal (or other organisms) movements having into account habitat suitability. To do this, I used my previous eWalk model as the underlying process to simulate random or directional walks. This model is based on Brownian / Ornstein–Uhlenbeck process. You can find more about eWalk model here! Today, I will add one more element to this movement simulati
階層ベイズと自由エネルギー | Sunny side up!
先日、広島ベイズ塾の春合宿がありました。 そこで発表した、「階層ベイズと自由エネルギー」の資料をアップしました。 自由エネルギーというのは、負の対数周辺尤度のことで、ベイズファクターの計算で使う周辺尤度を対数とって‐１をかけたものです。 スライド内容を要約すると、 １．モデル評価には２種類ある。AICとBICは見てるところが違うよ。 ２．階層ベイズではWAICはどういう予測をするかで値が変わるが、自由エネルギーは変わらないよ。 ３．心理学では自由エネルギーのほうが知りたい値かもしれないね。 の３点です。 ２年ぐらい前に、HijiyamaRで階層ベイズとWAICについて発表したものがありますが、それの続きになります。 ただ、内容的には松浦健太郎さんのブログ記事、「階層ベイズモデルとWAIC」のほうが断然わかりやすいので、こちらを先に見てもらったほうがいいかもしれません。一応、上のスライドだけ
読書日記: 読了：Jing & De Oliveira (2015) RのgeoCountパッケージ
« GLM空間モデルのバリオグラムとはなんぞや | メイン | 読了：Bivand, Gomez-Rubio, Rue (2015) R-INLAパッケージで楽しい楽しい空間統計モデリング » 2017年10月26日 (木) Jing, L., De Oliveira, V. (2015) geoCount: An R package for the analysis of geostatistical count data. Journal of Statistical Software. 63(11). カウントデータに特化した空間モデリングパッケージ geoCountについての紹介。実戦投入前の儀式として読んだ。 カウントデータの空間モデリングにはふつう一般化線形空間モデル(GLSM)が使われるが、実際にはいろいろ大変である。(1)なにより計算が大変。メモリが足らん。(2)MCMCが
読書日記: 読了：Bivand, Gomez-Rubio, Rue (2015) R-INLAパッケージで楽しい楽しい空間統計モデリング
« 読了：Jing & De Oliveira (2015) RのgeoCountパッケージ | メイン | 覚え書き：スタイン推定量とはなんぞや » 2017年10月27日 (金) Bivand, R.S., Gomez-Rubio, V., Rue, H. (2015) Spatial data analysis with R-INLA with some extensions. Journal of Statistical Software, 63(20). MCMCではない謎の方法(integrated nested Laplace approximation; 積分段階的ラプラス近似)で空間統計モデルを推定しちゃう謎のRパッケージ R-INLA の解説書。できればそういう難しい話とは関わり合いを持ちたくなかったんだけど。人生とはままならないものだ。 モデル。 観察$\mathbf
読書日記: GLM空間モデルのバリオグラムとはなんぞや
« 読了：Finley, Banerjee, Gelfand (2015) RのspBayesパッケージ | メイン | 読了：Jing & De Oliveira (2015) RのgeoCountパッケージ » 2017年10月26日 (木) 空間データのモデリングではバリオグラムというのを描くけれど、たいてい従属変数は量で、誤差に正規性が仮定されている。もし従属変数が二値とかカウントとかだったら、モデルはGLMとして組めるにしても、バリオグラムはいったいどうなるのか。 これ、ここんところの疑問の一つだったのだが、このたびやっと説明を見つけたのでメモしておく。すいません、純粋に自分のための覚え書きです。 $S(x)$を平均0, 分散$\sigma^2$の定常ガウス過程とする。観察$Y_i$は互いに独立で平均$\mu_i=g(\alpha+S(x_i))$, 分散$v_i = v(\mu
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OSF
BDA FREE (Bayesian Data Analysis now available online as pdf) | Statistical Modeling, Causal Inference, and Social Science
The Stan Core Roadmap | Statistical Modeling, Causal Inference, and Social Science
WAIC and cross-validation in Stan∗ Aki Vehtari† Andrew Gelman‡ 31 May 2014 Abstract The Watanabe-Akaike information criterion (WAIC) and cross-validation are methods for estimating pointwise out-of-sample prediction accuracy from a fitted Bayesian
いまさら聞けないグラフィカルモデル入門
