Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ

GPTはじめ大規模言語モデルの登場により、MLシステム開発にもパラダイムシフトが起こっています。流れが速すぎてやや混沌としてきたので、プロンプトエンジニアリングの考え方をはじめとした新しい概念について有用な引用と共に交通整理をしてみました。 今から始めたい人はまずこれを読むと、どんな点に配慮すべきかがざっくり分かるかと思います。

総務 @So_Mu3 そーいえば昔趣味でネトゲ作って運営したけど、システムやルールから最適解を探して多少のリスクを許容しながら勝利を目指すプレイヤーは全体の5%にも満たず、ゼロリスクで長時間同じ作業を繰り返すファーミングプレイヤーが殆どだったの思い出した。 サイトで記事書く人は全体の0.1%くらいだったかな 2020-06-23 17:59:59

","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"

インド地質調査所（GSI）は、隣国パキスタンとの係争地を含むカシミール地方で推定590万トン規模のリチウム鉱床を発見したと発表した。リチウムはスマートフォンや電気自動車（EV）向け電池の主要材料だ。インドでは資源開発に期待が高まる一方、地政学上あるいは技術面での課題も指摘される。インドは2020年から21年にかけ、リチウムの7割を中国などからの輸入に頼る。リチウムイオン電池の輸入量も多い。米地

京都市の立命館大３年、浜野日菜子さん（２１）が劇薬のタリウム摂取により殺害された事件で、殺人容疑で逮捕された知人の不動産賃貸業、宮本一希容疑者（３７）＝京都市左京区＝の叔母（６１）が約３年前から植物状態となっており、タリウムを摂取したとみられる症状があったことが２４日、捜査関係者への取材で分かった。大阪府警が宮本容疑者との関連を慎重に調べている。 捜査関係者らによると、叔母は令和２年７月中旬、京都市左京区の自宅で倒れて救急搬送された。現在は入院中だが、意識不明の植物状態だという。浜野さんの事件後、府警が当時の状況を詳しく調べたところ、頭痛や倦怠（けんたい）感などタリウムを摂取したような症状があったという。 知人らによると、叔母は京都市内で茶道裏千家の講師として活動するかたわら、不動産会社を運営していた。倒れた後、会社は宮本容疑者が引き継いだといい、府警が経緯を調べる。 一方、大阪地検は同日

色ブラック 適合C301dn 適合機種メーカー沖データ(OKI) 種別純正品 印字可能枚数(枚)(A4/5%印刷時)1500

いくらAIが便利だからって、子どもの教育データをGPTに流し込んで表を作らせようとする馬鹿教師は滅亡して欲しい 確かにAIは便利なんですが、どこかの会社とのオンライン会議などのログをそのまま文字起こしにして出力し、それをGPTに食わせて要約してSLACKに流している馬鹿もいました。まあどこまでOpenAIを信頼するか（あるいは他のサービスと比べてマシと考えるか）にもよるのでしょうが、某ベンチャー企業で当方との打ち合わせのログをそのままGPT3.5に食わせて出力した議事録のサマリを送ってきたので、さっそく「何考えてんだおまえ」という話になりました。 なんでこんなことに気を使うのかというと、もちろん第一義的には私どものクライアントは潜在的にOpenAIの競合でもあるからなのですが、ただ、仮にAppleの仕事をしていた人がGoogleのAndroidOSでPixelが提供している文字起こしツール

東京大学大学院薬学系研究科教授の池谷裕二さん 人工知能による対話型の自動応答ソフト「ChatGPT」が登場し、大きな反響を呼んでいる。海外では学生たちがAIを使用し試験対策をする動きもある。日本の教育界では、AIの活用をどのように受け止めているのか。AERA 2023年3月20日号の特集「ChatGPTの衝撃」から、ここではすでにGPTを導入している現場を紹介する。 【「将来なくなる仕事」をChatGPTに聞いてみた結果はこうなった！】 ＊　　＊　　＊ GPTによって激変する業界の一つが、教育現場だ。 脳研究者で東京大学大学院薬学系研究科教授の池谷（いけがや）裕二さんのもとに、この冬、一通のメールが届いた。 「例年と出題傾向が違いますが」 差出人は池谷さんの授業を受けている学生。今年1月に期末テストが終わった後のことだ。 東大に限らず、大学生の多くは過去問をもとに試験対策をしている。だから

ちょっと前に以下のようなことを放言したら、思いの外反響が多くてちょっとびっくりしたのでした。それだけ、現代のLLM chatbot / generative AIの台頭に期待と不安を抱いている人が多いということの裏返しなのでしょう。 既に色々コメントが出ているけど、我々人類が「知的労働」だと思っていることの大半が実は「過去実績をなぞって適当にその場に合わせて組み立てているだけ」なんじゃないかと訝っているので、そういう「自称知的労働」は多分LLMで代替されると思う。新奇なものを生み出す仕事は相変わらず残る https://t.co/GGK41vSDcn— TJO (@TJO_datasci) 2023年3月15日 昨年の年末振り返り記事でも話題にしたChatGPT（そして後続の各種LLM chatbot）ですが、今年に入ってからの話題の広がり方には想像を超えるものがあり、ついに朝の情報番組な

日本マイクロソフトは3月22日、米Microsoftが2月にプレビュー版の提供を始めた「新しいBing」について、利用動向を公開した。プレビュー版の登録者数は全世界で100万人を超え、うち10万人以上が日本人という。1人当たりの検索数は日本がトップだった。 新しいBingは、既存の検索エンジン「Bing」に、大規模言語モデル「GPT-4」ベースのチャットAIを搭載したもの。ChatGPTなどと似たイメージで、チャットで質問しながら知りたい内容が検索できる。日本マイクロソフトによれば、プレビュー版の提供開始以来、日本からは200万件以上チャットでの質問が送られたという。 Microsoftが提供する他のAIサービスについても、日本での利用動向を公開した。例えばクラウドサービス「Microsoft Azure」から、米OpenAIの大規模言語モデル「GPT-3.5」などのAPIにアクセスできる

AKRacingのコラボチェア「Pro-X V2 ジャイアンツ コラボレーションチェア」もあるぞ！ ファン必見！ 東京ドームホテルの読売ジャイアンツコラボルームが思い出に浸れてスゴイ 強固なパスワードを手軽に管理できる！ AIでパスワードが突破される前に導入しておきたい「Password Manager」 6GHz帯＋5GHz帯＋2.4GHz帯＝クアッドバンドの能力を存分に引き出す独自のアンテナ設計とは 広い家のすみずみまでWiFiを届けるOrbi 9の強みは「見えないアンテナ」 中小オフィスやカフェ、店舗のネットワークをシンプルに構築、「進化する」ネットワーク機器 ゲストWi-Fiも簡単設置、「HPE Aruba Instant On」なら無料でここまでできる！ パソコンショップSEVENの「ZEFT Z32PBA」についてインタビューを実施、ASUS市川氏も登場 デザインと機能性が融合

","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><div class=\"naka6-banner\" style=\"margin:0 0 15px;\">\n<p style=\"display:block;margin:0 auto;\"><a href=\"https://www.asahi.com/special/bucha/?iref=kiji_bottom_banner\" style=\"display:block;\"><img src=\"https://www.asahicom.jp/special/bucha/images/banner/bucha-tokusyubanner_660x100.jpg\" alt=\"ウクライナ侵攻

米国では何年も前から、「次に流行るアルコールは日本酒だ」と言われてはきたものの、実際に人気が出たのは他の酒ばかりだった。だがここに来て、ついに「飛躍の兆し」が見えはじめたという──米紙「ニューヨーク・タイムズ」が、現地の状況を取材した。 自宅で日本酒を造ってみたら 加藤忍は若い頃、東京で初めて日本酒を飲んだ。雑味があり刺激が強くて、とても好きにはなれなかった。しかし、年上の同僚から「それは質の悪い安酒を飲んだからだよ」と言われ、上質な日本酒を知っていくうちに、彼はだんだんとそれが好きになっていった。 2004年、メリーランド大学でビジネスを学ぶために渡米した加藤は、自身が初めて口にしたような質の悪い酒しか買う余裕がなかった。そこで彼は、いっそ自分で醸造してみようと思い立った。自宅のキッチンで米を蒸し、それを発酵させた。驚いたことに出来栄えは上々で、友人たちにも好評だった。 その後、日産自動

前回「学校教育における全体アーキテクチャを描いてみた」がそれなりに好反応だったので、次はその中身の解説の予定でしたが、、、 行き当たりバッタリのnoteなので、今回は（も？）横道にそれちゃいます（でも必ず近いうちに書きます）。 ※タイトル読んで来て「早く学習指導要領何でも回答Bot触らせろや」という方はこちらに行っちゃってくださいー（でも戻ってきてねー） 学習指導要領を理解しなくちゃ前回の「学校教育における全体アーキテクチャを描いてみた」では20以上の国の文書等を読み込んで描いてみた、と書きました。 でも「学校教育」を考えるのであれば、前提となる「学習指導要領」を理解する必要もあるのでは？と。 でも、学習指導要領って総則解説ぐらいしか通しで見たことがなく、何かのタイミングでごくたまに「小4理科ってどんな力が求められているのだっけ？」みたいに見る程度。 学習指導要領って小学校編だけでも337

備蓄食品製造のワンテーブル（宮城県多賀城市）が各地で進めている官民連携事業を巡り、島田昌幸社長が事業の狙いを「自治体の行政機能をぶん取る」などと社外の関係者に説明していたことが、河北新報社が入手した録音データで分かった。人口減少や産業衰退などの課題を抱える小規模自治体を懐柔し、自社の利益につなげよ…

子供にマインクラフト使ったPythonプログラミングを教えようとしたらChatGPT使ったプログラミング不要な世界を体験させちゃった こんにちは、会社ではCX事業本部モダンオフショア推進担当、家庭では3児の父親の藤村です。 IT業界で働く親として、子供には幼い頃からプログラミングに親しんでもらいたいと思い、時々Scratchを使った簡単なプログラミングなどを教えていたのですが、ちょっとすると「友達とゲームする時間だから止めるね！」といって、友達とのNintendo Switch使ったオンラインゲーム(FortniteやMinecraftなど)をやり始めてしまい、親としては少し残念な気持ちになっていました。 そんな時に、『マインクラフトでわくわく学ぶ！Pythonプログラミング入門』という書籍が最近発売されたことを知りました。 マインクラフトでPythonを学ぶ！これは息子にドンピシャの内容

この記事は何 Techカテゴリに含まれてこそいるものの、この記事はあくまで理論の側面でアプローチについて語るメモのようなものです。このアプローチに沿ったプロンプトやプログラムを書いてはいるものの、まだ期待通りの挙動をするとは言い難いです。 なぜ公開したかというと、自分より賢くて素早い誰かが理屈だけを見て代わりにやってくれたりしないか、という期待からです。 ChatGPT Plus(GPT-4 APIではない)とPythonを使います。 今回作ったプロンプト そういう前提を踏まえ、まだ完成していないプロンプトを掲載します。 プロンプト(コードブロック記法の関係で```が``に置換されている) # イントロダクション あなたはCLIを使用中の凄腕エンジニアとして振る舞ってください。 今からゲームをしましょう。 あなたの目の前にとあるtxtファイルがあります。 このtxtファイルに書かれている内