【Day 3】東大松尾研のLLM講座資料が公開されたから、詳しく読んでいくよ【備忘録】 - Qiita
Transformer 深層学習モデル以前の言語モデルの課題 言語モデルでやりたいことは、「今まで生成した単語列を元に、次の単語を予測する」ことで、その単語は今まで生成した単語列を条件とし、次にある単語がくる条件付き確率を求め、その確率が最大のものを選ぶということだった。（LLM資料p.8参照） ただ、これだと単語列が長くなったときや、類義語の処理に課題が生じてしまっていた。 ニューラル言語モデル しかし、計算したい条件付き確率をNNで推定することにより、対処できた。 Encoder-Decoder型のRNN（Recurrent Neural Network)が最も基本的なモデルにはなるが、これでは長文に対応できなかった。（勾配消失＆単語間の長距離依存性の把握が困難） RNNが勾配消失するのは、活性化関数のtanhが1未満の値を取るため、BPTT時に掛け算されるとだんだん値が小さくなってし
任天堂が1980年代に発売した光線銃ゲーム「ダックハント」のブラウン管画面をスローモーション撮影してわかる驚きの仕組みとは？
任天堂が1984年に発売したファミコン用ゲーム「ダックハント」は、海外では「ZAPPER」とも呼ばれる光線銃を使用して、テレビ画面の中で飛ぶカモを撃つというゲームです。そんなダックハントを当時使われていたブラウン管でプレイし、スローモーションで撮影するとどう見えるのかをYouTubeチャンネルのThe Slow Mo Guysが解説しています。 How the Nintendo Zapper worked in Slow Motion - The Slow Mo Guys - YouTube The Slow Mo Guysのメンバーであるギャブ氏が登場。背後にあるブラウン管テレビには「ダックハント」のホーム画面が映っており、右手には光線銃を持っています。 日本などで発売されたオリジナルの光線銃は灰色でしたが、海外向けに発売されたニンテンドー・エンターテインメント・システム(NES)用の光
ノルウェーの企業 砂漠の砂をわずか7時間で肥沃な土壌に変える方法を編み出す
https://cdn1.img.sputniknews.jp/img/07e6/07/08/11883836_0:0:1920:1080_1920x0_80_0_0_3ecdaaa33498712a51dba8587e67f5e2.jpg ナノクレイは2000年代初頭にノルウェーの研究者クリスティアン・オレセン氏によって開発されたが、砂漠を花咲く谷に変えるという方法は、同社のみが考え出した方法だという。その方法によると、ナノクレイは、わずか7時間で砂の粒子と活発に結合し、保湿性の高い土壌を形成する。同メディアによると、この方法では1平方メートルの砂漠をナノクレイを使って保湿性の高い土壌に変えるのに2〜5ドル（約298〜745円）がかかり、広大な砂漠を農業向きの土壌に変えていくことを考えると、かなり高額になるという。そこで同社では、肥沃な土壌をつくるプロセスをできるだけ安価にするための工夫
ドリンクのフタについてるポッチをドローンの翼につけてみた。米大の研究
ドリンクのフタについてるポッチをドローンの翼につけてみた。米大の研究2022.10.31 14:00102,409 岡本玄介 コーヒー買ったら思い付いたのかな？ ファストフード店でシェイクやコーヒーなどを頼むと、必ずといって良いほどプラスチックのフタが付いてきますよね。星型や半円状のポッチを凹ませて、中身が視覚的にわかるような仕組みになっています。 インディアナ州にあるパデュー大学とテネシー大学ノックスビル校では、そのポッチにヒントを得て、ドローンが飛行中に危険を察知するセンサーを開発しています。 Unlike humans, drones lack ways to filter out info they don’t need, which slows down their response time to changes in their environment. Learn how
「MIRAISE TREND 2022」 フルバージョン
MIRAISEはソフトウェアエンジニアが起業した会社へ投資する日本で唯一のベンチャーキャピタルです。日本、US、エストニアなどに拠点を置く、ソフトウェアスタートアップ36社に出資を行っています。(2021年12月時点) 普段より国内外のソフトウェアスタートアップを調査し、テック企業の方と交流し情報交換を行っています。 MIRAISEからスタートアップに関わる方へ向け今年2022年のトレンドを発表したいと思います。是非お役立てください。 また、今年は各コンテンツの音声コンテンツも順次配信しますので、お楽しみください。 目次クリエイティブ制作のクラウドへのシフトが加速 Webの3D技術がついに日の目を浴びる オープンソースのマネタイズ手法が多様化 ユニコーン企業のプラットフォーム化が進む パーソナルサーバー2.0 VRアプリが急増 クラウドサービスの多層化 1. クリエイティブ制作のクラウドへ
Google DeepMindの新発表はバイオ領域のロゼッタストーンになる | Coral Capital
先日、バイオや医療の世界に革命を起こすであろう大成果をDeepMindが発表しました。同社はタンパク質の立体構造をDNA情報から高精度で予測できるAIを完成させ、それを活用することでヒトのプロテオーム（ヒトを構成する全てのタンパク質）を最も完全かつ正確に網羅したデータベースを完成させたのです。言うなれば、バイオ界の長年の謎を紐解く「ロゼッタストーン」を作り出したようなもので、ヒトゲノムの完全解析に成功して以来の飛躍的な進展です。 タンパク質はアミノ酸から作られていて、筋肉などの組織や酵素、抗体など、生物にとって重要な様々な部分を構成しますが、その設計図となるのがDNAです。個々のタンパク質の機能を理解するためには、その構造の解明が欠かせません。しかし、DNA情報からどのような形のタンパク質が作られるのかを理解し、予測するのは非常に難しく、科学者たちにとって長年の課題となっていました。従来の
ガートナー、2020年の先進技術に関する5つ動向を発表
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 米Gartnerは、先進的な技術の最新動向をまとめた「先進テクノロジのハイプ・サイクル：2020年」を発表した。注目すべき30の先進テクノロジーを取り上げ、この中には「コンポーザブルエンタープライズを実現するもの」「テクノロジーに対する社会の信頼回復を目指すもの」「人間の脳の状態を変化させるもの」が含まれている ハイプ・サイクルは、同社がテクノロジーやアプリケーションなどについて、時間の経過とともに進化している状況を視覚的に説明しているもの。テーマによりさまざまなハイプ・サイクルがあるが、「先進テクノロジのハイプ・サイクル」は1700以上の技術を分析し、「本質的に破壊的なもので、競争力はまだよく知られていないか、市場で証明されていない。
エスパーになれる……この｢EMGリストバンド｣があれば！
エスパーになれる……この｢EMGリストバンド｣があれば！2021.03.20 15:1514,602 西谷茂リチャード 脳に埋め込まずとも意図を汲み取ってくれるガジェットあるんだね。 スマホの次はコレ！と名高いのが空間コンピューティングです。スマートグラス/ARグラス/MRゴーグルなど色々な形の提案がありますが……要はメガネ/ヘッドセット型のガジェットを装着することで現実世界の上にデジタル表示を重ねて視認し、両世界をよどみなく行き来しようぜという近未来像。これが実現すると、生活がひじょーーーに楽になります。 説明がちょっと難しいですが、たとえるならあらゆるボタンが押したい時にスッと現れては消えていくような感じです。 いま家にいて、テレビ前のソファーに座ったとしましょう。すると、｢テレビを点けますか？｣などといった表示が視界にスッと現れるわけです。ここで｢はい｣のバーチャルボタンを選択すれば
写真の人物にAIで命を吹き込む｢Deep Nostalgia｣、誰でも無料でお試し可能
写真の人物にAIで命を吹き込む｢Deep Nostalgia｣、誰でも無料でお試し可能2021.03.06 21:0034,926 Andrew Liszewski - Gizmodo US ［原文］ （ mayumine ） ディープラーニングで、故人の顔の表情を蘇らせます。 祖先検索やオンライン家系図を作成サービスを提供するイスラエルの企業｢MyHeritage｣は、先祖などの古い写真の顔を、ディープラーニングの技術で動かすことができるサービス｢Deep Nostalgia｣をリリースしました。まるで、写真を撮られる前のポーズの準備をしているような感じで、AIとはわかっていても、まるで故人がそこで生きているように感じます。 カメラのシャッターを切った前後の1.5 秒ずつの動画が記録される、iOSやiPadOSのLive Photosっぽくもありますね。Live Photosは、シャッタ
『全固体電池』が電気自動車普及の切り札？〜基礎知識から最新情報まで整理してみた - EVsmartブログ
電気自動車（EV）の課題を解決する可能性が高いとして『全固体電池』への注目が高まっています。全固体電池とは何か。それによってEVがどう変わるのかなど、基礎知識から最新情報まで、わかりやすく整理してみることにしました。 今後、全固体電池についてのニュースなどをチェックしながら、よりわかりやすく役立つ記事となるよう、追記や改訂を重ねていきたいと思います。 全固体電池とはどんな電池？ 『全固体電池』とは「電解液を使わず電極間を固体で繋ぐ電池」のことです。電解液というのは、正極と負極（電極）間で電気をやりとりするための電気を通す液のこと。自動車の12Vバッテリーなど鉛蓄電池には希硫酸液が使われているのは、長く自動車に乗っている方ならご存じですよね。現在の電気自動車のほとんどで動力用蓄電池として使われているリチウムイオン二次電池の多くに「有機溶媒（非水）系電解液」と呼ばれる電解液が使われています。
日本では5Gが「過度な期待のピーク期」の頂点に--ガートナー ジャパンが発表
ガートナー ジャパンは、さまざまな新興技術に対する関心の高さや普及度合いなどをまとめたグラフの日本向けバージョン「日本における未来志向型インフラ・テクノロジのハイプ・サイクル：2020年」を公開した。 ハイプサイクルは、何らかの技術が登場して期待が高まり、次第に普及していく過程を（1）黎明期（Innovation Trigger）、（2）過度な期待のピーク期（Peak of Inflated Expectations）、（3）幻滅期（Trough of Disillusionment）、（4）啓蒙活動期（Slope of Enlightenment）、（5）生産性の安定期（Plateau of Productivity）という5つのフェーズに分類するもの。特定の技術が成熟するまでのどの段階にあるかを見極める助けになる。Gartnerは、企業経営者や投資家、マーケター、研究開発チームなどが技
AIのさらに先へ。世界が注目するブレインテック市場は2020年以降どう動くのか | AMP[アンプ] - ビジネスインスピレーションメディア
多くの日本人にとって、ブレインテックはまだ耳慣れない言葉かもしれない。読んで字のごとく、脳（Brain）とテクノロジー（Technology）を組み合わせた言葉だが、その意味するところは、「脳神経科学とITを融合させることによって、脳波や脳の血流などから脳の状態を解析し、脳の働きの物理的なメカニズムを明らかにすること」である。 加えて、科学的に判明したメカニズムを、さまざまなアプリケーションやサービスに生かしていく活動・ビジネス領域のことを指す。ブレインテックは、2024年には5兆円規模の市場を成すという予測もある。今回は、その研究・開発を行う株式会社メディアシークの平井祐希氏に、世界のブレインテックの動向と将来展望を伺った。 平井祐希氏。コンシューマー事業部でブレインテックチームを率いる。 メディアシークでは2018年より、イスラエルのブレインテック企業Myndlift社と提携し、脳の集
ムーンショット目標１ 2050年までに、人が身体、脳、空間、時間の制約から解放された社会を実現- 科学技術・イノベーション - 内閣府
ターゲット 誰もが多様な社会活動に参画できるサイバネティック・アバター 基盤 2050年までに、複数の人が遠隔操作する多数のアバターとロボットを組み合わせることによって、大規模で複雑なタスクを実行するための技術を開発し、その運用等に必要な基盤を構築する。 2030年までに、1つのタスクに対して、1人で10体以上のアバターを、アバター1体の場合と同等の速度、精度で操作できる技術を開発し、その運用等に必要な基盤を構築する。 注：サイバネティック・アバターは、身代わりとしてのロボットや3D映像等を示すアバターに加えて、人の身体的能力、認知能力及び知覚能力を拡張するICT技術やロボット技術を含む概念。Society 5.0時代のサイバー・フィジカル空間で自由自在に活躍するものを目指している。 サイバネティック・アバター生活 2050年までに、望む人は誰でも身体的能力、認知能力及び知覚能力をトップレ
ＮＥＣが世界１位！顔認証1200万人分、エラー率0.5％ ニュースイッチ by 日刊工業新聞社
ＮＥＣは３日、米国標準研究所（ＮＩＳＴ）が実施した最新の顔認証技術のベンチマークテスト「ＦＲＶＴ２０１８」で、第１位の性能評価を獲得したと発表した。１２００万人分の静止画を使った顔認証でエラー率０・５％を達成し、１７年の動画の顔認証ベンチマークに続き、５回目の世界１位を獲得した。 ＦＲＶＴはＮＩＳＴのベンチマークでも最難関で、今回は前回の３倍となる４８社・１研究機関が世界中から参加し、２０３のアルゴリズムを提出した。 ＮＥＣは多段階照合を用いることで、１秒間に２億３０００万件の検索速度を実現した。さらに独自の深層学習を利用して、認証エラー率を飛躍的に低減し、１０年以上の加齢による経年変化のエラー率でも、第２位に比べて最大４倍以上の大差をつけた。 顔認証技術は、生体認証の中でも特に全世界で利用者が増加。決済や銀行口座開設、パスポートとの照合などの際の本人確認といった高度な信用が必要な用途では
シリコンバレーで働いて気付いた「技術力向上」だけに固執するエンジニアのダメさ【Sansan CTO 藤倉成太】 - エンジニアtype | 転職＠type
この連載では、注目企業のCTOが考える「この先、エンジニアに求められるもの」を紹介。エンジニアが未来を生き抜くヒントをお届けします！ 法人向けクラウド名刺管理サービス『Sansan』や個人向け名刺アプリ『Eight』を手掛けるSansanが、2018年６月にCTOの役職を新設した。初代CTOは、創業間もない頃からSansanの事業を率いてきた藤倉成太さんだ。 もともとコードを書くことが大好きで、自身の技術力を上げることが大事だと思っていたという藤倉さん。しかし今では、「エンジニアこそ事業にコミットすることが大切」だと確信するようになった。それはなぜなのか。 徹底的にエンジニアリングに向き合ってきた藤倉さんだからこそ分かる、エンジニアが事業に関わる重要性とは？ Sansan株式会社 CTO 藤倉成太さん(@sigemoto) 赴任先の米国・シリコンバレーで現地ベンチャー企業との共同開発事業に
普通のやつらの上を行け ---Beating the Averages---Beating the Averages
普通のやつらの上を行け ---Beating the Averages--- 著者：Paul Graham Copyright 2001 by Paul Graham これは、Paul Graham: Beating the Averages を、原著者の許可を得て翻訳・公開するものです。 プロジェクト杉田玄白正式参加テキスト。 <版権表示> 本和訳テキストの複製、変更、再配布は、この版権表示を残す限り、自由に行って結構です。 (「この版権表示」には上の文も含まれます。すなわち、再配布を禁止してはいけません)。 Copyright 2001 by Paul Graham 原文: http://www.paulgraham.com/avg.html 日本語訳：Shiro Kawai (shiro ＠ acm.org) <版権表示終り> 文中、Eric Raymondの "How to bec
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「10年後に使われていないテクノロジー」の予想記事、10年後の答え合わせが面白いと評判【やじうまWatch】
GAFAはなぜ邪悪に堕ちたのか（JBpress） - Yahoo!ニュース
《日経Robotics》グーグル出身者が創業のドローンベンチャー、ディープラーニングで3次元地図、GPSなくても自在に飛ぶ
いまテクノロジーには哲学とSFからの問いが必要だ：雑誌『WIRED』日本版リブート記念イヴェントレポート