Redditで話題になっていたポストを訳してみた。 僕は自分が思っていたほどは頭がよくなかったという高校生の独白にたいしてつけられたこのちょっと長めの返信がとても的確で示唆に富んでおり、多くの人のこころをつかんでいました。私自身、勇気づけられるというか身につまされるところがあり、忘れないために翻訳をしてみました。 まずは高校生の独白から。 僕は自分が思っていたほどは頭がよくなかった 僕はいま高校の最終学年で、次の６月に卒業する予定です。高校の成績は、いままでずっとAを取りつづけていましたが、去年始めてBをとってしまいました。もしそのBがなければ、卒業生総代に選ばれていたでしょう。 総代にふさわしいのは自分だ、つまりクラスで本当に一番頭がいいのは自分だと思いたいです。でもこの一年で、僕にそれほどの知性はないし、僕より頭のいい人はたくさんいるんだということを思い知らされました。 また僕は、自分

── 2020年以降は、どのような動きがあったのでしょうか？ 2020年にアラブ首長国連邦（UAE）とイスラエルが国交を正常化しました。これ以後、湾岸諸国やアラブ諸国の間でイスラエルとの関係を見直し、正常化に向かう動きが進みました。これをユダヤ教、キリスト教、イスラーム教に共通する預言者アブラハムにちなんでアブラハム合意と呼びます。アメリカのバイデン政権は、サウジアラビアとイスラエルの国交正常化に向けた交渉を仲介し、サウジアラビアがイスラエルとの国交を正常化すれば、アメリカはサウジアラビアの安全を保障すると確約していました。 サウジアラビアのサルマーン国王周辺は、1967年の戦争以前の国境での二国家共存によってパレスチナ問題を解決し、アラブ諸国がイスラエルを承認して国交正常化する、という2002年アラブ平和イニシアチブの原則に変わりがないことを一貫して明言しています。しかし、ムハンマド皇太

関連記事 AWS、オンラインゲームを遊んでソリューション構築を学ぶ「AWS Cloud Quest」公開　実際にプレイしてみた 米Amazon Web Servicesが、AWSでのソリューション構築を学べるオンラインRPG「AWS Cloud Quest: Cloud Practitioner」を無料公開」。Webブラウザでプレイできる。 「Azureのこの機能、AWSで例えると何？」を簡潔に知る方法　実は公式サイトに…… 「Azureのこの機能、AWSで例えると何？」──その疑問、実は答えがまとまってます。 AWS専業SIerのサーバーワークス、Google Cloud事業へ参入　韓国Bespin Globalとの合弁で AWS専業のクラウドSIer、サーバーワークスが、韓国のBespin Globalとの合弁でGoogle Cloud専業のSIer企業「G-gen」を設立し、Goog

はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま

はじめに とても前になるが、コグニカル というサイトが盛り上がっていた。 これは知識を体系的に記述されていて、分からない概念があればその概念の理解に必要な概念を逆引けるサイトだ。コンピュータ以外にも数学や理工学全般を学べる。 コメントを見ると、インターネットを使った学習で、自分の分からなかったことを辿れる学習や体系だっていることに対して価値を感じているようだ。「誰が何のためにどうやって作ったのか情報がぜんぜんなくて怖い」というコメントがあるが、同感だ。怖い。そして教育工学を専攻していた身としては地に足ついたアウトプットが人の役に立っていて羨ましくも思うし、尊敬する。 実はこのような教授手法は古くから研究されている。それは知識をネットワークで表現するだけでなく、個々人の学習履歴や成績を元に次に学ぶものを提案する方法も提案されている。コグニカルを知った時にその技術についてのブログを書こうと思っ

「最適化法」第15回(ゲストトーク), 2023年1月20日, 同志社大学.

第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。

こんな話を聞いた。 ビジネスマンが、男に尋ねる。 「本は読むかい？」 「まぁ、多少は」男が答える。 「どういうのを読む？」 「小説ですかね、主にSFとか」 ビジネスマンは自分の仕事に誇りを持っている。 今、世界の経済に自分は最先端の場所で関わっていることを。 それこそがビジネスマンのアイデンティティであり、全てであった。 「小説って、それを読んで何になるの？」 「何になるって、どういう意味？」男は訊ねる。 「いや、だって小説って作り話でしょ？　この世にない架空の話でしょ？　それって今の世の中を動かすものではないよね？」 ビジネスマンは悪意をもって質問しているわけではなさそうで、真顔でそう言った。 男が返答に困っていると、ビジネスマンはこう続けた。 「俺は自己啓発系か、ビジネス書しか読まないよ。それが今生きている者には一番必要だから」 男は少し考えてこう返した。 「作り話（フィクション）が何