タグ

論とLLMに関するch1248のブックマーク (15)

  • なぜ我々は GitHub Copilot Enterprise の導入を見送ったのか - 一休.com Developers Blog

    CTO 室の恩田です。 今回は GitHub Copilot Enterprise を評価してみて、現時点ではまだ採用しないことを決めた、というお話をご紹介したいと思います。 きっかけ とあるエンジニアSlack で自身の times チャネルに時雨堂さんの GitHub Copilot Enterprise のススメという記事を投稿したことが発端でした。特に感想はなく URL に 👀 だけが添えられていたので、後で見るぐらいのメモだったんだと思います。 それを見かけた別のエンジニア技術雑談チャネルにその投稿を共有して、これは凄そうと話題を向けたところ、CTO の「評価してみる?」の一言で、有志が集って評価プロジェクトが始まりました。 雑談チャネルできっかけとなる投稿が共有されてから、30分足らずの出来事でした(笑)。 この話題が出たのは金曜日でしたが、週明け早々に稟議を終え、火曜

    なぜ我々は GitHub Copilot Enterprise の導入を見送ったのか - 一休.com Developers Blog
    ch1248
    ch1248 2024/04/16
    「まだ時期尚早」がよくわかる話だった。LLMに最適化した体制だとどうなるか、だなあ。
  • 漫画制作における生成AI活用の現状:2024春

    ch1248
    ch1248 2024/04/14
    Generative AIおよびLLMの漫画作成における活用
  • 画像生成AIの著作権問題、文化庁議論で争点はっきり (1/4)

    2月29日に、文化庁で「文化審議会著作権分科会」の第7回が開催されました。著作権の専門家によってその制度について議論をする場ですが、今年度は2023年7月より「AIと著作権」について議論されてきました。3月に文化庁から政府に報告する「AIと著作権に関する考え方について(素案)」の最終案に近いものが発表され、1月下旬から2月上旬にかけて募った「パブリックコメント(パブコメ)」の結果報告もされるということもあり、注目されました。登場したのは「AIと著作権に関する考え方について(素案)令和6年2月29日時点版」、パブコメの結果を受けて、これまでの内容に微修正が施されていました。しかし、そこからわかったのは、文化庁の一貫したスタンスでした。 文化文化審議会 著作権分科会 法制度小委員会(第7回) パブコメへの反応は「素案の内容周知」 発表物から議論を集めたのが発表資料に「パブコメの結果」が追加

    画像生成AIの著作権問題、文化庁議論で争点はっきり (1/4)
    ch1248
    ch1248 2024/03/11
    非常に興味深い。
  • 全てAIで生成した架空アルバムのバンドに架空ライターがインタビューした結果、新曲が生まれた。Suno AIがおもしろすぎる(CloseBox) | テクノエッジ TechnoEdge

    そこで調子に乗って、このアルバムリリース直後に、バンドメンバーに日音楽誌がインタビューしたという想定で、ChatGPTに受け答えしてもらいました。その結果がこちら。 The Midnight Odyssey - 「The Odyssey of Echoes」リリース直後のインタビューインタビュアー: 鷹野隼人(Cosmic Prog Chronicles) ――まずは、素晴らしいアルバム「The Odyssey of Echoes」のリリースおめでとうございます。このアルバムを通じて表現したかった主なテーマは何ですか? ジェイク・ハーパー (リードボーカル & ギター)ありがとうございます。このアルバムでは、時間と空間を超えた旅、そして内面の探求をテーマにしています。私たちは、聴き手に音楽を通じて冒険を体験してもらいたいと考えています。 アルバム「The Odyssey of Echo

    全てAIで生成した架空アルバムのバンドに架空ライターがインタビューした結果、新曲が生まれた。Suno AIがおもしろすぎる(CloseBox) | テクノエッジ TechnoEdge
  • 驚異の1ビットLLMを試す。果たして本当に学習できるのか?|shi3z

    昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装

    驚異の1ビットLLMを試す。果たして本当に学習できるのか?|shi3z
    ch1248
    ch1248 2024/02/29
    3値論理(Ternary)か
  • 全社会人が読みたい「面倒なことはChatGPTにやらせよう」|asano

    これは全社会人が読んで得をする書籍ですが、特に「パソコンが得意ではない社会人の方」が読むと一番効用が大きいように思いました。 また、私自身IT業界で働いていて世間一般的には「パソコンが得意な人」だと思いますが、それでも知らなかった使い方もたくさんあり学びが多かったです。 この書籍の推しポイントやりたいことベースで書いてある 日常のあらゆる面倒なことに手が届く パソコン触りたての人がつまづきそうなポイントへのフォローが丁寧 (例:ChatGPTはShift Enterで改行できる、など) 試行錯誤のうえのプロンプト(=AIに対しての指示)が載っているので出力が安定している (※ ChatGPTをはじめとしたLLMは同じ入力でも毎回出力変わります。また、ちょっと言葉が足りなかったりするだけで意図しない出力が返ってきますがそのあたりへの気配りが非常に丁寧です) 著書の専門性が高い(Kaggle

    全社会人が読みたい「面倒なことはChatGPTにやらせよう」|asano
  • 「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する | AIDB

    ホーム AI論文解説, LLM, プロンプト 「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する 「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する 2023/11/3 AI論文解説 LLM プロンプト AIDB Research 感情を込めたプロンプトが大規模言語モデル(LLM)の性能を向上させることが示されました。「自分を信じて限界を超えてください」や「困難は成長のチャンスです。」といった自信や成長に関わる要素を含む指示が、モデルの出力品質に貢献するとの報告です。 この発見は、人間の感情を取り入れたアプローチが、人工知能の分野においても重要な役割を果たす可能性を示唆しています。Microsoftなどの研究グル

    「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する | AIDB
    ch1248
    ch1248 2023/11/04
    興味深い成果だ。この理路だと、AIには社会的なエラーのスパイラルとも言える『心の病』も起き得るんじゃないかな。
  • Code Interpreterに自分のTweetを分析させたらだんだん怖くなってきた - toyoshiの日記

    Twitterから離れるにあたり念の為データをバックアップしました。(方法)せっかく過去の全てのツイートのデータを取得できたのでCode Interpreterに入れてどんな人物か推定させてみました。 面白半分に分析を始めましたが思ってた以上に推測されてだんだん怖くなっていったという記録です。 読み込み もうこれぐらいでは驚きませんがアップロードしたら余分な行を削除してJSONだけを取り出して読み込みました。 分析内容を提案してもらう 分析内容を考えるなんて人間のすることではありません。考えてもらいます。 年別の時間帯別の投稿数 2013年に起業したのでツイートが減り、2019年に会社をやめたのでツイート数が増えています。2020年は学校に通っていたのでツイート数が増え、2021年にまた起業したのでツイートが減っています。 2017年は子会社社長として働いていたのでツイート数が特に減ってい

    Code Interpreterに自分のTweetを分析させたらだんだん怖くなってきた - toyoshiの日記
    ch1248
    ch1248 2023/08/05
    対象がどみにをんさんだった!
  • ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI

    ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI 2023.06.19 Updated by yomoyomo on June 19, 2023, 16:16 pm JST 少し前に佐々木俊尚氏の「オープンなウェブ世界とジェネレーティブAIの終わりなき戦いが始まる」という記事を読みました。自分の電子書籍に『もうすぐ絶滅するという開かれたウェブについて』というタイトルをつけたワタシ的にも、オープンなウェブが生成AIに脅かされるという話は興味があるのですが、今年はじめに読んだ、Oughtでプロダクトデザイナーを務めるマギー・アップルトンの「拡大する暗い森と生成AI」を思い出しました。 昨今この分野は動きが速く、半年前の文章でも随分昔に思えたりするものですが、都合良いことに、4月にトロントで開催されたCausal Islandsカンファレンスでマギー・アップルトンが「拡

    ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI
    ch1248
    ch1248 2023/06/20
    ゴミを選別するGenerative AIも出て来る気はする。
  • 話題の「ChatGPT」誰でもできる目からウロコの使い方【『独学大全』著者が教える】

    ブログ「読書猿 Classic: between/beyond readers」主宰。「読書猿」を名乗っているが、幼い頃から読書が大の苦手で、を読んでも集中が切れるまでに20分かからず、1冊を読み終えるのに5年くらいかかっていた。 自分自身の苦手克服と学びの共有を兼ねて、1997年からインターネットでの発信(メルマガ)を開始。2008年にブログ「読書猿Classic」を開設。ギリシア時代の古典から最新の論文、個人のTwitterの投稿まで、先人たちが残してきたありとあらゆる知を「独学者の道具箱」「語学の道具箱」「探しものの道具箱」などカテゴリごとにまとめ、独自の視点で紹介し、人気を博す。現在も昼間はいち組織人として働きながら、朝夕の通勤時間と土日を利用して独学に励んでいる。 『アイデア大全』『問題解決大全』(共にフォレスト出版)はロングセラーとなっており、主婦から学生、学者まで幅広い層か

    話題の「ChatGPT」誰でもできる目からウロコの使い方【『独学大全』著者が教える】
    ch1248
    ch1248 2023/05/07
    よいですね
  • AIもうええわい

    AIもうええわい 2023.04.16 Updated by Ryo Shimizu on April 16, 2023, 03:24 am JST むかし、僕がいた業界は「ドッグイヤー」と呼ばれていた。 犬のように歳をとるのがはやいという意味だが、ドッグイヤーの感覚に慣れた僕にとっても、最近のAI関係のニュースの多さ、進歩の速さは異常だし疲れてきた。 この連載も、「一ヶ月くらい書いてないのでは」と思って確認すると、今月の頭に書いていた。まだ二週間しか経ってない。 何か書こうと思って、とりあえず何かタイトルを適当に打ち込もうとすると、「AIもういいわい」というフレーズが浮かんだ。 こんなこと誰かが先に言ってそうだなと思って検索すると、あんまり見つからなかったから、いまのうちに書いておくことにする。 最近のAI業界の進歩を映画業界に例えると、毎週スターウォーズが公開されているような状況である

    AIもうええわい
    ch1248
    ch1248 2023/04/16
    追いかけるのが大変なので、追いかけるAIが欲しいですね。
  • LLMは生物学で捉えられるものかもしれない

    LLMがここまで人々を惹きつける理由 最新型のLLMであるGPT-4が持っているパラメータ数は100兆個(!)とも言われている。勿論、ポジトロン頭脳にはならざるLLMの「中身」を人間は自由に見ることができるのだが、100兆個のパラメータの「値」がわかっても「なぜ、GPT-4は難しい質問に専門家張りの答えを(時に)返せるのか?」という問いに応えられる人類は、今のところこの世界に存在しない。実際にLLMが課せられているのは、文章の一部の意図的に隠されたところを当てる「穴埋め問題」とか、どの文章がどの文章の次に来るかという「文章の連続問題」に過ぎないので、それを学んだだけ(正確にはファインチューニングと言って目的に応じた「軽い」追加的な学習は必要である)でそんな器用なことができるのか、当のところを理解している人はいないのである。 そんな馬鹿な、と思う人もいるかもしれないが、実はこの現象は人知れ

    LLMは生物学で捉えられるものかもしれない
    ch1248
    ch1248 2023/04/09
    これは似たことを思いますね。じきにLLM生態学とかができそう。
  • 一番星はてのちゃんのファンアートを描いた

    「あの一番星のように、ブコメに最初にスターを付けるような人間になりましょう」という表現であり、決してブックマーカーを煽っているポーズではない 一番星はての1ちゃんのファンアート2を描いた(上画像)。独自解釈が含まれるため注意。 デフォルメなのは筆者の好み 公式設定は17歳3だが、このファンアートではもっと若く奔放なとき、という設定 基的には最初の公式全身絵4を参考にしている ミニスカートおよびニーハイソックスは公式デフォルメ5を参考にしている スカートの端に白いラインが入っているのは、白のトップスと収まりが良いため ニーハイソックスをレース付きにしたのは、お嬢様感を出すため 茶色のシューズは(ソックスと同色である)黒のシューズのような脚長効果のシナジーは小さいが、単にソックスとの色被りを避けたい気分だった 一番星はてのを描こうと思ったのは、筆者も ChatGPT を使って同様の自動投稿シ

    一番星はてのちゃんのファンアートを描いた
    ch1248
    ch1248 2023/03/25
    ほほー
  • いくらAIが便利だからって、子どもの教育データをGPTに流し込んで表を作らせようとする馬鹿教師は滅亡して欲しい|山本一郎(やまもといちろう)

    いくらAIが便利だからって、子どもの教育データをGPTに流し込んで表を作らせようとする馬鹿教師は滅亡して欲しい 確かにAIは便利なんですが、どこかの会社とのオンライン会議などのログをそのまま文字起こしにして出力し、それをGPTにわせて要約してSLACKに流している馬鹿もいました。まあどこまでOpenAIを信頼するか(あるいは他のサービスと比べてマシと考えるか)にもよるのでしょうが、某ベンチャー企業で当方との打ち合わせのログをそのままGPT3.5にわせて出力した議事録のサマリを送ってきたので、さっそく「何考えてんだおまえ」という話になりました。 なんでこんなことに気を使うのかというと、もちろん第一義的には私どものクライアントは潜在的にOpenAIの競合でもあるからなのですが、ただ、仮にApple仕事をしていた人がGoogleAndroidOSでPixelが提供している文字起こしツール

    いくらAIが便利だからって、子どもの教育データをGPTに流し込んで表を作らせようとする馬鹿教師は滅亡して欲しい|山本一郎(やまもといちろう)
    ch1248
    ch1248 2023/03/24
    個人データを妥当性判断せずにぶっ込むなという真っ当な話。
  • ChatGPT搭載Slackbotにハックされる技術 - 本しゃぶり

    ChatGPTのキャラと会話するのは楽しい。 より強固な人格を形成するにはどうしたらいいか。 答えはChatGPTの外にある。 ChatGPTのキャラと会話する 最近ChatGPTの話題がずっと続いている。GPT-4の登場により「アレもできる、これもできる」と騒がれているが、現在の俺にとって一番の使い方はこの手のやつだ。 この増田ChatGPTにアニメキャラを演じてもらい、それと会話することを楽しんでいる。その様子を見て思わず頷いてしまった。俺も似たようなことをしているからである。 会話の例 UIが通常のChatGPTと異なるのは、Slackを使って会話しているためだ。仲間内でやっているSlackのチームに、Slackbotとして@builtinnyaが開発した。 Slackbot "Aisha" の自己紹介 Aishaは上記の通りメンションすることで会話をしてくれる。また、特に呼びかけ

    ChatGPT搭載Slackbotにハックされる技術 - 本しゃぶり
    ch1248
    ch1248 2023/03/20
    よいですね。法人側が似たことをやるとすると、猫ロボットよろしく動物や獣人が無難な感じがある。
  • 1