AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。 [2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget https://doi.org/10.48550/
写真をAIに文章で説明してもらう→それをもとにまた画像を作る→外国になる
文章から画像を生成するツールがあるが、画像から文章を生成するツールもある。ある画像から始めて両者の間を往復させ続けるとどうなるだろうか。 画像の伝言ゲームをやってみたい 文章から画像を生成するAIツールが話題になったが、いっぽうで画像から状況を説明する文章を生成するAIツールもある。 文章をもとに画像を生成するツールがある（DALL·E、Stable Diffusion など） いっぽう、画像をもとに文章を生成するツールもある（SceneXplain など） それらを組み合わせて画像→文章→画像→文章→・・と変換していくとどうなるだろうか。 ようは伝言ゲームなので、再現なくどんどん違う画像になっていくことが予想されるが、どこかでうまく収束するかもしれない。 とにかくやってみよう。 ※本記事では文章から画像を生成するために Image Creator from Microsoft Bing
人知を超えた構造のモーターを生んだパナソニックのAI、熟練者を凌駕
（a）は現行の「LAMDASH（ラムダッシュ）」シリーズ。直線運動をするリニアモーターを採用しており、今回、AIで設計したのは「ムーバー」と呼ばれる駆動部分である（出所：パナソニック ホールディングス） 同社によれば、デバイス開発におけるAIの活用は、大学での構造設計の研究やマテリアルインフォマティクスなど材料分野では事例が多いが、モーターなどの部品そのものに適用した事例はほとんどないという。 最近では、人間に近いレベルの受け答えなどができることから、生成系AIの「ChatGPT」〔米OpenAI（オープンAI）〕が世界的に注目を集めているが、パナソニックの開発成果は、実世界の複雑な事象がからむ、ものづくりの分野にもAIの波が押し寄せていることを象徴している。 パナソニックのLAMDASHは製品化から既に20年以上がたっている。現場では小型化・高効率化に向けて地道な改良を続けてきたものの、
画像生成AIを利用して生成したコンテンツを自社サービスで利用する際に注意すべき事項 | STORIA法律事務所
1 画像生成AIを含む生成系AIとビジネス ビジネス領域において、画像生成AIを含む生成系AI技術が利用される場面は大きく分けると2つあるように思います。 1つはユーザー側で利用する場面、つまり「生成系AIを利用して生成したコンテンツを自社プロダクトで用いる場合」、もう1つはベンダ側で提供する場面、つまり「生成系AIのモデルそのものや当該モデルをベースとするアプリケーションを開発・提供する場合」の２つです。 もちろん、企業によっては「自社で生成系AIツールを開発し、当該ツールを用いて生成したコンテンツを自社プロダクトで用いる」ということもあるでしょう。その場合は2つの領域双方にまたがった検討が必要です。 （1） 生成系AIのモデルそのものや当該モデルをベースとするアプリケーションを開発・提供する場合 生成系AIのモデルそのものや、当該モデルをベースとするアプリケーションをベンダ・サービサー
ChatGPT 雑感 - murawaki の雑記
ChatGPT についてポエムを書き散らすのが流行っている。珍しく流行に乗ってみる。機会を逃すとまた状況が激変しそうだし。 研究者の YouTuber 化 ChatGPT は研究者が想定していた成長曲線よりも上に外れたところに現れた。こんなに流暢にテキストを生成するモデルがこんなに早く出現するとは思わなかった。なぜ日本語まで流暢なのかはいまだに謎。 ChatGPT はテレビでも取り上げられるくらい一般に認知されているらしい。複数のテレビ取材に応じたという人がいたのでそうなのだろう。*1 私の観測範囲で起きているは、参入者が大勢いること。これまで自然言語処理をやってこなかったであろう人。従来の技術よりも圧倒的に敷居が低い。そもそもプログラムを書く必要がない。自然言語で指示を出すだけなら誰でもできる。 ChatGPT の上で踊りたいかというと気乗りしない。参入障壁が低いということは、競合が多い
LLM chatbotが人類にもたらすのは、絶望なのか希望なのか - 渋谷駅前で働くデータサイエンティストのブログ
ちょっと前に以下のようなことを放言したら、思いの外反響が多くてちょっとびっくりしたのでした。それだけ、現代のLLM chatbot / generative AIの台頭に期待と不安を抱いている人が多いということの裏返しなのでしょう。 既に色々コメントが出ているけど、我々人類が「知的労働」だと思っていることの大半が実は「過去実績をなぞって適当にその場に合わせて組み立てているだけ」なんじゃないかと訝っているので、そういう「自称知的労働」は多分LLMで代替されると思う。新奇なものを生み出す仕事は相変わらず残る https://t.co/GGK41vSDcn— TJO (@TJO_datasci) 2023年3月15日 昨年の年末振り返り記事でも話題にしたChatGPT（そして後続の各種LLM chatbot）ですが、今年に入ってからの話題の広がり方には想像を超えるものがあり、ついに朝の情報番組な
Sparks of Artificial General Intelligence: Early experiments with GPT-4
Artificial intelligence (AI) researchers have been developing and refining large language models (LLMs) that exhibit remarkable capabilities across a variety of domains and tasks, challenging our understanding of learning and cognition. The latest model developed by OpenAI, GPT-4, was trained using an unprecedented scale of compute and data. In this paper, we report on our investigation of an earl
なぜ人々は、ChatGPTという“トリック"に振り回されるのか？ Google「Bard」参戦、チャットAI戦争の行方
なぜ人々は、ChatGPTという“トリック"に振り回されるのか？ Google「Bard」参戦、チャットAI戦争の行方：清水亮の「世界を変えるAI」（1/8 ページ） OpenAIが2022年に発表した対話型AI「ChatGPT」の衝撃は、米国ビッグテック最強の一角であるGoogleを動揺させた。Googleは急ぎ「Bard」と名付けたAIチャットボットを投入し、巻き返しを図る。 側から見ていると急展開に心が躍る一方、果たしてこの戦いは本当に意味のあるものになっているのか。チャットボットを長年ウォッチしてきた筆者としてはハラハラする気持ちも少なくない。 まずは現状のAIチャットボット関連をまとめ、それからチャットボットの歴史を振り返り、現状、そして未来を予想してみたい。 深層学習チャットボット百花繚乱の2023年 最近になって深層学習をベースとしたチャットボットが注目を集めている。Open
GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
ChatGPT と結城浩の対話（矛盾や反復を含んだ対話によってAIと人間の識別は行えるか）
chat.md 結城浩 こんにちは。今後、GPT-4を使ったアプリケーションやサービスがたくさん登場してくると思います。その中には、たとえばSNSを利用したbotもたくさん出てくるでしょう（現在でもすでにありますけれど）。そこで質問なんですが、SNSでおしゃべりしている相手が、人間なのか、GPT-4などの技術を使ったAIなのかを識別するにはどのような会話をしてみればいいでしょうか。一般的なAIでは難しいかもしれないので、GPT-4に限ってもいいです。あなたの考えを聞かせてください。 ChatGPT Model: GPT-4 GPT-4のような高度なAIと人間を識別するのは、時に難しいことがあります。しかし、いくつかの方法を試してみることで、相手が人間かAIかを見極めることができるかもしれません。 複雑な感情やニュアンスについて尋ねる: AIは感情やニュアンスを理解するのが苦手です。複雑な感
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存のモデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。 GPT-4 Technical Repor (PDFファイル)https://cdn.openai.com/papers/gpt-4.pdf ChatGPT posed as blind person to pass online anti-bot test https://www.telegraph.co.uk/technology/2023/03/15/chatgpt-posed-blind-person-pass-online-anti-bot-test/ GPT-4を手
VSCodeとGASでChatGPT(gpt-3.5-turbo)をより安全快適に使う - Qiita
OpenAI社が2023年3月1日に公開した「ChatGPT API」についての初心者向け記事です。 VisualStudio CodeとGoogle Apps ScriptでChatGPT(gpt-3.5-turbo)をより安全快適に使いましょう。 GASはともかくスプレッドシートでGPTを関数化すると、ものすごい勢いでトークンを失う＆安定に動かない問題を解決しています。 「gpt-3.5-turbo」そもそも何が嬉しいの？ 公式資料 まず何といってもモデルの使用料金がインパクトあります。 ChatGPTモデルファミリー「gpt-3.5-turbo」は、ChatGPT製品で使用しているものと同じモデルであり、既存の「GPT-3.5」よりもGPT-3.5モデルより10倍安く、価格は1,000トークンあたり0.002ドルです。 また、チャット以外の多くのユースケースに最適なモデルです。プロン
画像生成AIから自分のイラストを守る対策ツールが出たと聞いて様々な声「おおーついに!」「これで防げそう?」
KAI-YOU（カイユウ） @KAI_YOU_ed ポップポータルメディア「KAI-YOU.net」｜文学、情報技術、現代美術、VTuber／YouTuber、漫画、ゲーム、ヒップホップ、ネット文化まで、ポップカルチャーの最新情報を発信しています｜気軽にリプライ下さい | KAI-YOU inc.👍 kai-you.co.jp KAI-YOU（カイユウ） @KAI_YOU_ed 「画像生成AIから自分のイラストを守る」対策ツール「Glaze」無償公開へ kai-you.net/article/86102 #kai_you 米大学の研究グループが発表。ほとんど目に見えない微小な処理を画像に加えて、画風や絵柄などが機械学習できないように。 2023-02-22 21:27:48
GPT-3 API を使って AI WAF を作る - まったり技術ブログ
※ネタ記事です はじめに 検証する脆弱性 Tips. GPT-3 とは？ WAFの実装 環境・必要なもの ソースコード 検証 正常リクエスト XSS GETパラメータ POSTデータ POSTデータ & ヘッダ無し SQL インジェクション GETパラメータ GETパラメータ & ヘッダ無し XXE POSTパラメータ① POSTパラメータ② POSTパラメータ & ヘッダ無し パストラバーサル GETパラメータ GETパラメータ & ヘッダ無し OS コマンドインジェクション GETパラメータ & ヘッダー無し GETパラメータ Log4Shell POSTパラメータ POSTパラメータ & ヘッダ無し POSTパラメータ & ヘッダ無し WordPress のユーザ列挙 ShellShock まとめ はじめに 最先端(?)であるGPT-3を使って 次世代WAF を作っていきます。 以下
ChatGPT にコードをレビューして貰う
はじめに 2022年、個人的には「AI 元年」と言って良い程、これまでは精通者しか扱えなかった AI による画像生成や対話などが、われわれ一般ユーザレイヤからも簡単に利用できるまでに AI が浸透してきた年だったと思っています。 特に ChatGPT の登場は革新的で、質問に対する回答の信用度はそれほど高くはないが、そこいらにいるいい加減な回答しか出来ない人達から比べれば、絶対的に有効な回答を自然な日本語で得られる様になりました。 もっと身近に ChatGPT の良さは品質の高さは勿論あるのですが、前提としてリーチするまでの身近さもあると思っています。GitHub からソースコードを clone して、どこかに置いてある英語しかサポートしていない言語モデルをダウンロード、または時間と電気代をふんだんに使って学習させたモデルを使い、さらにはコマンドラインからモデルへのパスを指定して起動、とい
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【ハイブリッド開催】GitHub Copilotで拓く開発生産性 (2023/08/30 19:00〜)
敬語によるChatGPTの驚くべき変化！プロンプトの本質に迫る｜ChatGPT研究所
https://twitter.com/NuCode/status/1636633183235248129
AI 激動の年！2022年の人工知能10大トレンドと必読論文
柿沼 太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。 ＊以下日本法を前提とします。"
