タグ

あとで読むに関するT-norfのブックマーク (22)

  • RAGを複雑な質問に強くする手法「CoA」について

    記事では、「Chain-of-Abstraction (CoA) Reasoning」についてざっくり理解します。軽めの記事です。 株式会社ナレッジセンスでは普段の業務で、生成AIやRAGシステムを活用したサービスを開発しています。 この記事は何 この記事は、最近聞くようになった「Chain-of-Abstraction (CoA) Reasoning」の論文[1]について、日語で簡単にまとめたものです。 今回も「そもそもRAGとは?」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 題 ざっくりサマリー LLMが外部ツールを使って回答を生成するときの、回答精度を高める手法についての論文です。Metaの研究者らによって2024年1月に提案されました。「Chain-of-Abstraction (CoA)」という手法を使うメリットは、RAGに応用することで

    RAGを複雑な質問に強くする手法「CoA」について
    T-norf
    T-norf 2024/04/18
    RAGの性能を上げる手法は、LLM活用のキモになるパターンが多そうで、網羅したいなぁ。なかなかじっくり読む時間が取れない
  • アップル「Vision Pro」とMeta「Quest 3」を返品してXRグラスを買った理由

    これまで、いくつもの仮想現実(VR)デバイスを試してきた。例えばGoogleの「Daydream」や、スマートフォンを利用するサムスンのVR製品などだ。しかし、VRが自分の目的にかなうと確信できたことは一度もない。その後、Appleの「Vision Pro」が登場し、実際に使った人たちのレビューを読んでいるうちに、仕事と遊びの環境を最適化するために、拡張現実(AR)やVR、クロスリアリティー(XR)の可能性をもっと探究してみようと思うようになった。そして3種類の製品を試し、何度かソフトウェアアップデートを経た結果、ついに仕事の生産性を高めつつ、休憩時間には気晴らしにも活用できる製品は存在すると確信できた。 筆者は電車で通勤している。片道45分近く電車に乗っているが、車内では仕事をしたくても使えるスペースは少ない。毎月発生する出張では、ノートPCが主な仕事道具になる。しかし自宅やオフィスでは

    アップル「Vision Pro」とMeta「Quest 3」を返品してXRグラスを買った理由
    T-norf
    T-norf 2024/04/03
    これぐらいなら会社で買ってもいいかな。今はMac使ってないのでWindowsでどうか人柱さがしてみよう
  • ソフトバンクG孫正義氏「日本はAIに最大限取り組むべき」 - 日本経済新聞

    ソフトバンクグループ(SBG)の孫正義会長兼社長は4日、東京大学の安田講堂(東京・文京)で開いた「生成AI人工知能)」がテーマのシンポジウムに登壇し「AIは平均的な人間の100万倍、1兆倍と圧倒的に賢くなる」と述べた。「日は今こそAIに、真正面から最大限に取り組むべきだ」と強調した。孫氏はパネル討議で「10年後に(人間の知能を超える)『汎用人工知能(AGI)』の時代がきたら、AGIは水晶玉

    ソフトバンクG孫正義氏「日本はAIに最大限取り組むべき」 - 日本経済新聞
    T-norf
    T-norf 2023/07/04
    このメンバー(孫さん、松尾教授、シェイン・グウ)でのパネルディスカッションは是非みたいなと思ったけど上がってなかった。マスク、ゲイツに続いて、孫さんもAGI近未来実現派ね。https://www.t.u-tokyo.ac.jp/ev2023-07-04
  • ChatGPT創業者が慶大生に明かした「ブレイクスルーの起こし方」

    今や世界中で、その対処の仕方が議論されているChatGPT。開発企業の米OpenAI社のサム・アルトマンCEOが6月12日に来日し、東京都港区の慶應義塾大学三田キャンパスで学生の質問に答えた。 質問には、AIの今後や社会がそれによってどう変わっていくのかに加えて、組織論や経営哲学などビジネスに関するものも多く寄せられた。 回答から、いま世界に革命をもたらしているアルトマンCEOであっても、かつては昼まで寝て、あとはビデオゲームにいそしむ生活をしていた時期もあったという。一方、そこから得た気付きが、ビジネスをする上での原動力にもなっていると話した。 ChatGPTの創業者が仕事をする上で最も大切にしている考え方は何か。ブレイクスルーの起こし方とは。学生に語った。1回目「生成AIで人類はよりクリエイティブになる」 ChatGPTアルトマンCEOが断言する理由に続いてお届けする。 関連記事 和製

    ChatGPT創業者が慶大生に明かした「ブレイクスルーの起こし方」
  • 第1回 LLM 勉強会

    2023年5月15日(月)に国立情報学研究所にて初回となる LLM 勉強会を開催しました。 プログラム 勉強会の趣旨、国の動向など [資料] 黒橋禎夫(国立情報学研究所) 現状の LLM のサーベイ [資料] 河原大輔(早稲田大学) 菅原朔(国立情報学研究所) 栗田修平(理化学研究所) 各機関での試みの紹介 河原大輔(早稲田大学)[資料] 坂口慶祐(東北大学) 佐藤敏紀(LINE) 高村大也(産業技術総合研究所) 参加者 乾健太郎(東北大学・オンライン参加) 鈴木潤(東北大学・オンライン参加) 坂口慶祐(東北大学) 高村大也(産業技術総合研究所) 石垣達也(産業技術総合研究所・オンライン参加) 栗田修平(理化学研究所) 吉野幸一郎(理化学研究所・オンライン参加) 鶴岡慶雅(東京大学)(資料提供のみ) 宮尾祐介(東京大学) 谷中瞳(東京大学・オンライン参加) 吉永直樹(東京大学・オンライン参

  • GPUメモリが小さくてもパラメーター数が大きい言語モデルをトレーニング可能になる手法「QLoRA」が登場、一体どんな手法なのか?

    GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニングに必要なデータの数やトレーニング中に使用するメモリの量も増加し、トレーニングのコストが大きく増加してしまいます。そんな中、メモリの消費量を激減させつつ少ないデータでトレーニングできる手法「QLoRA」が登場しました。 [2305.14314] QLoRA: Efficient Finetuning of Quantized LLMs https://arxiv.org/abs/2305.14314 artidoro/qlora: QLoRA: Efficient Finetuning of Quantized LLMs https://github.com/art

    GPUメモリが小さくてもパラメーター数が大きい言語モデルをトレーニング可能になる手法「QLoRA」が登場、一体どんな手法なのか?
    T-norf
    T-norf 2023/06/03
    GPT-3.5クラスの性能が、48GのGPUメモリでファインチューニングできそうで、これは論文全文ちゃんと読まないと。と、日本語でがっつりファインチューニングしたベースモデルが欲しい。
  • ChatGPTプラグイン「Notable」だけでデータ分析コンペに挑戦してみた話 - Qiita

    ChatGPTプラグインの「Notable」を使って、データ分析コンペに挑戦してみたところ、想像以上の結果を出してくれたので共有します。 今回は人間は簡単な指示を出すだけで、ほとんど全てをChatGPTに任せる方針で行なっています。 こちらの記事のように上位6.5%に入りました!という華やかな結果にはなりませんでしたが、予想以上の結果にはなったのでぜひ最後まで読んでみてください!! データサイエンティストがChatGPTを活用するための記事をまとめているので、こちらもぜひ参考にしてみてください。 ChatGPTプラグインとは ChatGPTプラグインは、ChatGPTをサードパーティのアプリケーションと連携させるツールです。 これは、GoogleスプレッドシートのアドオンやGoogle Chrome拡張機能と同様に、公式だけでなく第三者の開発者が作成した機能をChatGPTに追加すること

    ChatGPTプラグイン「Notable」だけでデータ分析コンペに挑戦してみた話 - Qiita
    T-norf
    T-norf 2023/05/26
    “まだデータサイエンティストの仕事が奪われるとは思いませんが”は同感だけど、個別の技法やツール使いこなせないけど、多少の素養があるって人間が、ある程度のところまでできてしまいそうね。試してみたい
  • The Full Stack - LLM Bootcamp - Spring 2023

    What are the pre-requisites for this bootcamp? Our goal is to get you 100% caught up to state-of-the-art and ready to build and deploy LLM apps, no matter what your level of experience with machine learning is. Please enjoy, and email us, tweet us, or post in our Discord if you have any questions or feedback! Learn to Spell: Prompt Engineering High-level intuitions for prompting Tips and tricks fo

    The Full Stack - LLM Bootcamp - Spring 2023
    T-norf
    T-norf 2023/05/13
    まだまだ知らないことがあるなぁ。システム開発投資を進めるかどうかの判断の局面が近そうだし、頑張って見るべか。
  • 神戸市、ChatGPTを庁内で利用可能に。6月目処に条例改正など実施

    神戸市、ChatGPTを庁内で利用可能に。6月目処に条例改正など実施
  • 伊藤忠商事、全社員にChatGPT 生活サービスを創出 【イブニングスクープ】 - 日本経済新聞

    伊藤忠商事は6月をメドに社内業務で生成人工知能AI)「ChatGPT(チャットGPT)」を導入する。専門組織を立ち上げ、情報漏洩の防止や正答率を高めるための知見を蓄積。最適な商品のお薦め機能やサービス内容の自動照会など消費者向け事業への活用を検討する。生成AIの活用が広がるなか、いち早くビジネスに落とし込み需要を取り込む。資・業務提携しているデータ分析大手、ブレインパッドと共同で伊藤忠の社

    伊藤忠商事、全社員にChatGPT 生活サービスを創出 【イブニングスクープ】 - 日本経済新聞
  • 自分のScrapboxをChatGPTにつないだ - 西尾泰和のScrapbox

    Kozanebaは、デジタル文房具で、考えをまとめるためのツール。テストユーザ向けにはリリースされているが、まだ広くアナウンスされていない。開発者は、多くの人に使われることに価値を感じている。

    自分のScrapboxをChatGPTにつないだ - 西尾泰和のScrapbox
    T-norf
    T-norf 2023/03/11
    ベクトル検索、ちゃんと理解しないとだ
  • 職務経歴まとめ、メール自動作成……「ChatGPT」APIの活用に動く日本のスタートアップたち

    From DIAMOND SIGNAL スタートアップやDX(デジタルトランスフォーメーション)を進める大企業など、テクノロジーを武器に新たな産業を生み出さんとする「挑戦者」。彼ら・彼女にフォーカスして情報を届ける媒体「DIAMOND SIGNAL」から、オススメの記事を転載します。※DIAMOND SIGNALは2024年1月をもって、ダイヤモンド・オンラインと統合いたしました。すべての記事は連載からお読みいただけます。 バックナンバー一覧 米AI開発のOpenAIは米国時間3月1日、チャットボットAIChatGPT」のAPIを公開した。これにより、外部の企業・開発者がAPIを利用してサービスやプロダクトを開発することが可能となり、ますます日常的なユースケースでのAI利用が浸透していくものと見込まれる。 OpenAIによるAPI提供の発表前にも、2022年11月に公開されて以降のCh

    職務経歴まとめ、メール自動作成……「ChatGPT」APIの活用に動く日本のスタートアップたち
    T-norf
    T-norf 2023/03/08
    早いねぇ。文章の加工なら人間より上手いし、下書きだけでも生産性上がるもんね。
  • 「いつかはクラウン」から、カーシェアで十分な時代へ 多くを望まない顧客に向けた「破壊的イノベーション」とは

    一般社団法人ウェブ解析士協会のスピンアウトの研究会「Flashセミナー研究会」。マーケティングを中心に、ビジネスパーソンや経営者に今必要なスキルを紹介する同会のセミナーに、『日のイノベーションのジレンマ』の著者で、関西学院大学教授の玉田俊平太氏が登壇。記事では、顧客にとって「いらない性能」や、「破壊的イノベーション」が伸びる理由などが語られました。 イノベーションの2つのタイプ 玉田俊平太氏(以下、玉田):経営の優劣によって勝負が決まっていないとなるとこれまでの、「経営が優れていれば勝つ」という法則が、ここでは破れているんです。既存の物理法則とかいろんな理論の法則が破れていたら、求められるのは「新しい理論」です。 そこでクリステンセン先生が「破壊的イノベーションの理論」を提唱するわけです。それはどんなものか。はたして破壊的イノベーションとは、そんな言葉どおりの恐ろしいやつなのかどうかを

    「いつかはクラウン」から、カーシェアで十分な時代へ 多くを望まない顧客に向けた「破壊的イノベーション」とは
  • AIに描いてもらった『新しい時代の到来を祝福するメチャクチャ太った猫の神聖で素晴らしい油絵』語彙と知識で美しい絵画が誕生

    深津 貴之 / THE GUILD @fladdict 補足説明すると。「DALL-E2という、言葉でリクエストすると画像を返してくれるAI」というのがあって、それにリクエストをして生成された画像です。 AIに命令してるのは人間、アップしてるのも人間。変な画像がでてきたら人間の責任。 openai.com/dall-e-2/ 2022-07-03 22:47:14 リンク OpenAI DALL·E 2 DALL·E 2 is a new AI system that can create realistic images and art from a description in natural language. 44 users 4092

    AIに描いてもらった『新しい時代の到来を祝福するメチャクチャ太った猫の神聖で素晴らしい油絵』語彙と知識で美しい絵画が誕生
    T-norf
    T-norf 2022/07/05
    出来上がる画像のクオリティとバリエーションにインパクトある。何をどうやってるか、ちゃんと調べておかないと。
  • https://twitter.com/k3k0ma/status/1539047426396667904

    https://twitter.com/k3k0ma/status/1539047426396667904
  • 手書きアプリ 浮川和宣さん「私の履歴書」まとめ読み MetaMoJi社長 - 日本経済新聞

    コンピューターソフト会社、MetaMoJi(メタモジ)社長の浮川和宣さんは、大ヒットしたワープロソフト「一太郎」を生んだジャストシステムの創業者です。29歳で脱サラして夫婦2人、徳島でスタートし、日を代表するIT企業に上り詰めました。その後、ジャストシステムを離れましたが、60歳で再出発。開発したタブレット用の手書き入力ソフトは学校や建設現

    手書きアプリ 浮川和宣さん「私の履歴書」まとめ読み MetaMoJi社長 - 日本経済新聞
  • 村井純教授の1月16日最終講義全文書き起こし

    概要 「日のインターネットの父」と呼ばれる慶応大環境情報学部教授の村井純さん(64)が定年を迎え、16日、最終講義があった。村井さんは「インターネットに国境はない。国や政府が分断したり規制しようとしたりする試みは続くだろうが、若い人たちで守ってほしい」と呼びかけた。 https://www.asahi.com/ 村井先生の最終講義。16年ぶりに村井先生の講義を聞いて懐かしくなりました。せっかく良いことをたくさんおっしゃっていたので人力で書き起こしをしました。(Amazonウィッシュリスト) 共同授業担当 佐藤特任准教授(以下教員): そろそろ始めましょうか。 村井: はい。それでは皆さん、こんにちは。インターネットの、2019年秋学期の最終回ということで集まっていただきましてありがとうございました。学生は、履修者があふれるはずだけど来てない。ハハハ。その代わり、なんか変な普段見慣れない人

    村井純教授の1月16日最終講義全文書き起こし
  • 2018年の段階で私が知らないこと

    Originally written in: English • Русский (авторский перевод) Translated by readers into: Deutsch • Español • Français • Português do Brasil • Svenska • Tiếng Việt • తెలుగు • 日語 • 简体中文 • 繁體中文 • 한국어 Read the original • Improve this translation • View all translated posts 多くの人は、私が実際に持っている知識量より遥かに多くのことを知っていると思い込んでいる。それは悪い事ではないので文句を言っているわけではない。(世の少数派の人達は、努力して資格を得ているにもかかわらず、逆の偏見に苦しめられている。それはイケてない。) この記

  • NHKスペシャルの「縮小ニッポン」の衝撃の内容に、絶望の声が相次ぐ

    NHKは9月25日、「縮小ニッポンの衝撃」と題したNHKスペシャルを放映。100年近い歴史を持つ国勢調査によって、初めて人口が減少した日の各地で今、実際に起こっている事態に迫った。 番組内では、人口の一極集中が進む東京が歩むであろう未来や、財政破綻に伴うインフラサービス縮小に悩む自治体の姿などを紹介。その陰惨たる現実を突きつけられた視聴者は放映後、インターネット上に絶望にも似たコメントなどを多数投稿していた。 豊島区が抱える問題 2016年2月に発表された2015年の国勢調査によると、1920年の同調査開始以来、日の総人口が初めて減少に転じたことが明らかになった。2010年の調査時より減った数は94万7,000人で、全国の8割以上の自治体で減少が認められたという。 日の人口は、1920年に約5,600万人だった。そこからベビーブームや、地方から都市部への集団就職、高度経済成長などを経

    NHKスペシャルの「縮小ニッポン」の衝撃の内容に、絶望の声が相次ぐ
  • 工数見積もりやスケジュール管理で参考になる記事10選

    プロジェクトを遂行するためには、工数の見積もりやスケジュール管理が必要になります。正確な見積もりは難しく納期に間に合わなかったり、残業や休日出勤で埋め合わせたりした経験はありませんか? 今回は、より正確に工数の見積もるための手法や、差し込み作業を考慮したスケジュール手法などについて解説されている記事をまとめました。 マネージャー、エンジニア、デザイナーなどすべての方に参考なる内容だと思います。 開発の見積もりとスケジュール管理 クックパッド株式会社の方が実践している見積もりとスケジュール管理方法について紹介されています。工数を見積もるステップや、スケジュールを立てるときの注意点、スケジュール管理の方法について学びたい方におすすめの記事です。 開発の見積もりとスケジュール管理 不安とストレスから解放される見積りとスケジュール方法 開発をしているとき、納期に間に合わなかったらどうしようと不安に

    工数見積もりやスケジュール管理で参考になる記事10選