最強の囲碁AI「KataGo」相手に99％勝つことができるAI学習手法が考案される、特殊すぎてAI相手にしか効果なし

最先端囲碁AI「KataGo」は記事作成時点で世界最強の囲碁AIとして知られており、データやソースが公開されていることから、誰でも自由にこのAIを学習させることができます。このAIを特殊な手法で学習させたアメリカ・コーネル大学のTony Tong Wang氏らが、最強クラスに学習させたKataGo相手に高い確率で勝利することができると発表しました。 [2211.00241] Adversarial Policies Beat Professional-Level Go AIs https://doi.org/10.48550/arXiv.2211.00241 Adversarial Policies in Go - Game Viewer https://goattack.alignmentfund.org/ 用魔法打败魔法！一个叫板顶级人类棋手的围棋AI输给了它的同类_博弈_研究_Kat

[kuzumimizuku]

将棋AIでも「2八角打たせ」（最善手を指すはずのAIが角をタダ同然で渡す手を指すように誘導する手順）があったし、こういうことがあるからAIは面白いんよなあと思う。今回はAIもすぐ学習してしまうみたいだけども。

[Knoa]

将棋に応用可能だとしたら、稲庭将棋以来の台風の目やな！

[urtz]

学習漏れを攻撃するってことかな。穴を塞げるならレーティングも上がる？

[mr_mayama]

被害者て

[smallman]

強力なプレイヤーの打ち筋から学習するせいで初心者しか打たないようなムーブへの対応ができないという問題。

[July1st2017]

コンパイラいじめの人を思い出した。https://m.youtube.com/watch?v=rC-YSvtRrHw

[kyoto117]

播磨灘AIと同じようなオチか、ちょっと違うか。https://togetter.com/li/1929613

[augsUK]

相手もNNであることを組み入れて強化学習する、なにかミニマックス的発想に思える

[xorzx]

”囲碁AIにおけるこのような発見は面白いですが、自動金融取引や自動運転車のような安全が重要視されるシステムで同様の脆弱性を突かれれば、悲惨な結果になりかねません。”　脆弱性は回避しようがないのかね？

[kako-jun]

環境のメタデッキと考えれば、囲碁の遊戯王化……。相手の打ち手を見るたびに、FF13のようにオプティマチェンジするのが最強か……

[ajakan]

数年前に話題になったAIは「アルファGO」だったんだけど、囲碁AIは「GO」つける決まりなの？

[odakaho]

被害者て victim の和訳だと思うけど「犠牲者」や「生け贄」と訳すのが普通やね

[finefinethankyou]

「自分の手番では自分のニューラルネットワーク、相手の手番では相手のニューラルネットワークを相互に分析する」実際に自分が打つときには自分のNN使うなら、相手のNNは打ち手にどう活きるんだ？

[misshiki]

“最先端囲碁AI「KataGo」は記事作成時点で世界最強の囲碁AIとして知られており、データやソースが公開されていることから、誰でも自由にこのAIを学習させることができます。”

[Eiichiro]

ハメ手への対策を学んだＡＩはそのせいで弱くなったりしないのか気になるところ。 初心者碁との目隠し対局でくずれた塔矢くんを思い出した。

[princo_matsuri]

ハリポタだったかチェスで自己犠牲による行動が理解できずに敗北する敵を思い出した

[san57]

これは阿久津awake戦を思い出すよね

[avictors]

自分自身のクローンを倒せるかという課題をAIに与えたら、人間ではどうやっても勝てないほど強くなったAIにも未熟な部分がちゃんと残されてて、AIはその穴を発見することができた。で、倒された側もすぐに学習した。

[synonymous]

“高い能力を持つAIであっても深刻な脆弱(ぜいじゃく)性を抱え込む可能性があることを示唆しています。”

[kei_1010]

そんな事より、ぷよ碁で勝ちたい

[taria_nne]

ほんと白がパスして投了してる盤面、人間には意味不明すぎる

[houyhnhm]

変なバランスに落ち着いてしまうパターンなのかもなあ。／金融で言うと、そもそも流動性の罠とかあり、そこを超えるようなAIはおそらくはまだない筈。

[Lhankor_Mhy]

オープンソースであれば、このような手段でAIの弱点を簡単に割り出せるということでいいのかな？

[unfallen_castle]

ファミコンの「早打ちスーパー囲碁」とかだと結構こういう盤面になったような記憶がある

[BigHopeClasic]

結局、内藤九段将棋秘伝の15手クリアみたいなのはまだまだあるのよね

[aya_momo]

棋譜でもあれば少しは分かるんだろうか。

[napsucks]

将棋AIでは相手モデルが開発される前に十分すぎるほど強くなってしまって開発が下火になってしまった感。

[ssids]

普通のデッキに勝てない環境メタとか思い出した

[Shinwiki]

saiに見てもらわんと何言ってるか全然わからん

[h5dhn9k]

明確なルールの有る囲碁でさえ、この様な事が起きるのだから。現実の自動運転とか金融取引に使う時には重大なリスクは認識しておかないといけないわな……。

[Hiro0138]

節子それ囲碁やない○×ゲームや

[t_trad]

やはり有限時間内に計算してるAIである限り「まさかこんなアホな手は打ってこないだろう」と真っ先に枝刈りするような手を打たれるとパニックを起こすということがあるのか

[n_231]

白が投了する理由何も分からん図でワロタ

[convenientman]

3すくみだ！