『グラフニューラルネットワーク』を上梓しました - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
グラフニューラルネットワーク (機械学習プロフェッショナルシリーズ) 作者:佐藤 竜馬講談社Amazon 講談社より『グラフニューラルネットワーク（機械学習プロフェッショナルシリーズ）』を上梓しました。 グラフニューラルネットワークはグラフデータのためのニューラルネットワークです。化合物やソーシャルネットワークのようなグラフデータの解析に使うことができます。また後で述べるように、テキストも画像もグラフなのでテキストや画像の分析にも使えますし、それらを組み合わせたマルチモーダルなデータにも適用できます。要は何にでも使うことができます。この汎用性がグラフニューラルネットワークの大きな強みです。 本稿ではグラフニューラルネットワークを学ぶモチベーションと、本書でこだわったポイントをご紹介します。 グラフニューラルネットワークは何にでも使える 付加情報をグラフとして表現できる グラフニューラルネッ
機械学習で抑えておくべき損失関数（分類編） - HELLO CYBERNETICS
はじめに ニューラルネットワーク 損失関数を考えるモチベーション 分類の損失関数 ０−１損失関数 分類における損失関数の基本 0-1損失の問題点と代理損失 色々な損失関数 分類の損失を考える上で重要な「正解と出力の積」 ロジスティック損失 指数損失 ヒンジ損失 平滑化ヒンジ損失 損失関数の図示 0-1損失で図の見方を確認 ロジスティック損失 指数損失 ヒンジ損失 平滑化ヒンジ損失 比較 最後に モデルの方の話 実際に使う場合の話 学習の評価は「正解・不正解」だけでない 回帰における損失関数 はじめに 機械学習における教師あり学習では、入力に対してパラメータを用いて関数を構築し、正解データに対して損失を定義し、これを最小化する手続きを取ります。 損失を、色々なとの組に対して計算し、その総和が最小化されるようにを決めることを学習と呼びます。これにより未知のデータを入力した時に、それに対する正解
8/6因果フェスのプレビュー：「系列Aと系列Bの関係は？」という問いに対する4つの素敵な解法について - Take a Risk：林岳彦の研究メモ
こんにちは。林岳彦です。エ・レ・ファ・ン・ト・カ・シ・マ・シ（←滝川クリステル風に声に出して読みたい日本語）。 さて。 今回は8月6日に迫った日本生態学会関東地区会シンポジウム（a.k.a 因果フェス）についてのプレビューを書いてみたいと思います。 今回のシンポにおける問いを一言で言うと：「系列Aと系列Bはいかなる関係か？（＊但し共変量および背景に関する情報は無いものとする＊）」 統計的因果推論というと「介入効果／措置効果の推定」のことを思い浮かべる方も多いのかもしれませんが、そのテーマは昨年に扱いました。 で、今年については本質的には以下の問いが中心になると言えるのかなと思います： 「系列Aと系列Bはいかなる関係かについて答えよ（＊但し共変量および背景に関する情報は無いものとする＊）」 はい。 これはシンプルではありますが非常に奥の深い問いです。 今回のシンポでは、この問いに対する4つの
ベイズ事後分布の相転移と数学・物理学 - 東京工業大学
ベイズ事後分布の 相転移について 渡辺澄夫 東京工業大学 相転移とは何ですか 学生のみなさまから「学習理論における相転移とは具体的に何か」という質問を いただきましたので、具体的な例について紹介します。 相転移とは データの数 n やハイパーパラメータ α を変化させたとき、ある値を境界として その前後で事後分布が急激に形を変えることにより、ベイズ自由エネルギーや 汎化損失の値がそれらのなめらかな関数でなくなることがあります。そのような 変化を相転移と呼びます。 具体例として、ここでは次の問題を考えます。 (1) データの数 n が小さいうちは真の分布の構造を詳しく知ることはできないが データの数が増えるにつれて真の分布の構造が見えてくる(構造の発見)。 (2) 事前分布を決めているハイパーパラメータを変えると事後分布が急激に 変化する点がある (「事前分布は何でもよい」ではないのです）。
挿入ソートと選択ソートは双対 - Qiita
先日 Gotanda.hs #1 @HERP というイベントがあって、そこでRecursion Schemesで考える並べ替えアルゴリズムというタイトルでA Duality of Sortsという論文の話をLTしたんですが、この記事ではそこで話せなかった論文の後半で解説されている挿入ソートと選択ソートの双対性について書いていきたいと思っています。 ソートアルゴリズムの復習 まずは主役の二人である挿入ソートと選択ソートについて見ていきましょう。 挿入ソートは与えられたリストの先頭から要素を取り出し、これまでに構築したソート済みのリストに挿入していくという処理を繰り返すことでソートを実現するアルゴリズムです。 出典: Insertion sort - Wikipedia これをHaskellで実装すると以下のようになります。 insertSort :: [Int] -> [Int] inser
チェビシェフの不等式のかんたん理解 - 小人さんの妄想
どのような標本・確率分布でも・・・平均から 2標準偏差以上離れた値は全体の 1/4 を超えることはなく、 一般にn標準偏差以上離れた値は全体の を超えることはない。 >> wikipedia:チェビシェフの不等式 より. 式で表すと、 P() は、カッコの中が成り立つ確率、という意味。 μは平均。|x-μ| は、個々のデータの値と平均との偏差のこと。 σ は標準偏差。 a には任意の数を当てはめることができる。 * そんなの常識、あたりまえでない大数の法則 >> http://miku.motion.ne.jp/stories/08_LargeNum.html このように書くと何だかとても難しいことのように思えますが、実はアタリマエのことを言っているに過ぎません。 ● 最も単純な標準偏差１の分布 最も単純な標準偏差１の分布は、データが +1と -1の、２個だけというものでしょう。 標準偏差
疎結合の正体見たり - 超ウィザード級ハッカーのたのしみ
モジュールが疎結合になっているとか密結合になっているとか、業界にいますとよく聞きます。モジュール間の結合度の定義を発見したのでメモしておきます。 モジュール の モジュール に対する結合度 は以下の式で定義できます。 ここで、 は が に対して持つ仮定の集合、 は仮定 が成立しなくなる確率です。 要するに、これは情報エントロピーを用いて結合度を定義しようとしていまして、 は0以上の値を取り、結合度の値が大きいほどモジュール間の結合が密となります。 そもそも、モジュール間の結合度というものが定義されていなかったので、その定義を発見したことに意味があります。 さらに、この定義が便利なのは有名な設計原則を説明できてしまうことです。以下のようなものを聞いたことがあると思います。 デルメル原則 リスコフの置換原則 ハリウッド原則 驚き最小の原則 これらはだいたい同じことを言っています。依存する側が持
トーチweb 児玉まりあ文学集成 【4.疑問形の歴史】
/////第3巻絶賛発売中！///// 相変わらずだった児玉さんと笛田くんの関係は、終わりを意識したことで新たな局面へ…。 「今すぐ読んで」の声多数。 心ときめく新展開の第3集。
二点しかない離散空間に長さ1の線分を描けるか？ - 檜山正幸のキマイラ飼育記 (はてなBlog)
a, bを実数の定数として、f(x) = ax + b は中学校で習った1次関数です。xの変域を単位閉区間 [0, 1] = {x∈R | 0 ≦ x ≦1} に制限します。ax + b = b(1 - x) + (a + b)x であることに注意して、s := b （sはstart点のs）, t := a + b （tはtarget点のt）と置けば、f(x) を次のように書き換えられます。 f(x) = s(1 - x) + tx xを時刻とみなせば、時刻0でスタート点s（出発地）にいて、時刻1でターゲット点t（目的地）に到着する等速直線運動（速度はa）の記述と解釈できます。0と1の中間の時刻（例えば x = 1/2）でも、必ず対応する位置 f(x) が存在します。 さて、いま二点だけの集合 {2, 3} を考えます。ホントに二点だけですよ！ 中間の位置はありません。関数 f:[0, 1
conv00.dvi
½ � Ê � � � Ê �� � � ��� ��� � ��� � � ������ � ����� �� � � � � � � � � �� � � ��� ��� � ��� � � ������ � ����� �� � � � � � �� � � ��� ��� � ��� � � ������ � ����� �� � � � � � � � � �� � � ��� ��� � ��� � � ������ � ����� �� � � � � � � Ê ���� � ��� � � � � �� � �� � �� � �� � � � � � � ��� �� � � � ��� � � � �� ��� � � � ����� � � �� � � � �� � � ��� � � � � � � � � � � � � � �� � �� � �� � ��
マトロイド - Wikipedia
マトロイド（英: matroid）は、ある公理を満たす集合とそのべき集合の部分集合の組である。歴史的には、行列の一次独立・従属を一般化した概念であるが、多くの組合せ最適化問題をマトロイドあるいはより緩い独立性システムとコスト関数で定式化でき、特徴付けを行える等応用範囲は広い。特に組合せ最適化において、マトロイド上の最適化問題には単純な貪欲法によって多項式時間のアルゴリズムとは限らないものの最適解が得られることは非常に重要である。 定義[編集] E = {1, 2, 3} におけるそれぞれの例。左は(A1),(A2),(A3)を満たすからマトロイド。中央は(A1),(A2)を満たすから独立性システム。右は(A1),(A3)を満たすからグリードイド。 有限集合 E とその部分集合族 の組 (E, F) が[注 1] (A1) (A2) (A3) を満たすとき、マトロイドと呼ばれ、(A1) およ
ユークリッド空間って何なんだろう？ - 檜山正幸のキマイラ飼育記 (はてなBlog)
「ユークリッド空間」という言葉はよく使われますが、色々な意味を持つ多義語です。その多義性について考えてみます。 内容： 距離空間としてのユークリッド空間とデカルト空間 具象圏における標準ユークリッド対象 ユークリッド対象 ユークリッド空間とは 追記があります。→「奇妙なユークリッド空間とデカルト構造」 距離空間としてのユークリッド空間とデカルト空間 nLabの"Euclidean space"のエントリーを見ると、ユークリッド空間は次のように定義されています。 In the strict sense of the word, Euclidean space En of dimension n is, up to isometry, the metric space whose underlying set is the Cartesian space Rn and whose distan
justinhsu＠多忙
ペンネームの読み方は「ジャスティン・シュー」です。 よければニコニコもどうぞよろしく http://www.nicovideo.jp/user/600884
)
生成 (数学) - Wikipedia
この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。出典を追加して記事の信頼性向上にご協力ください。（このテンプレートの使い方） 出典検索?: "生成" 数学 – ニュース · 書籍 · スカラー · CiNii · J-STAGE · NDL · dlib.jp · ジャパンサーチ · TWL（2015年11月） 数学における生成（せいせい、generate）とは、与えられた対象と条件に対して、その条件を満たしかつ与えられた対象を全て含むような最小の構成物を求めることである。このとき与えられた対象の集まりを生成系（生成集合）(generating set) といい、生成集合の各元を生成元 (generator) という。また、「最小の構成物」は生成系から生成されるという。生成系が1つの対象からなるような場合には、生成系と生成元は同一視できる。 例[編集] 生成された群
群作用 - Wikipedia
正三角形が与えられたとき、三角形の重心を中心とする反時計回りの 120° 回転は、三角形の各頂点を別な頂点に移す写像として三角形の頂点集合の上に作用する。 数学における群作用（ぐんさよう、英: group action）は、群を用いて対象の対称性を記述する方法である。 導入[編集] 物体の本質的な要素を集合によって表し、物体の対称性をその集合上の対称性の群（英語版）（その集合の全単射な変換からなる群）によって記述するとき、この群は（特に集合が有限集合であるとき）置換群 (permutation group) あるいは（特に集合がベクトル空間で、群作用が線型変換などであるとき）変換群 (transformation group) と呼ばれる。 群作用は、群の各元がある集合上の全単射な変換（対称変換）の如く「作用」するけれども、それがそのような変換と同一視される必要は無いという点において、対称
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
サイエンス社 on Twitter: "【新刊】数理科学2021年3月号「カイラリティとは何か」は明日の2月20日発売です！ 本特集では、カイラリティの概念が数理科学や物質の研究においてどのようにあらわれ、相互に影響を与えているのかについて様々な切り口から迫っていきます… https://t.co/HxAXKbweiK"
圏論とプログラミング / Category Theory and Programming
結び目理論における圏論とコンピュータ計算
https://www.maths.ed.ac.uk/~tl/sapporo/sapporo_talk.pdf)
Chirality (mathematics) - Wikipedia