大量の質問をぶつけて最後の最後に問題のある質問をするとAIの倫理観が壊れるという脆弱性を突いた攻撃手法「メニーショット・ジェイルブレイキング」が発見される
「ChatGPT」など広く使われているAIサービスは、通常であればセーフティがかけられていて、「人を殺す方法」「爆弾をつくる方法」といった倫理的に問題のある質問には答えないようになっています。ところが、あまりにも多い質問を一度にぶつけてしまうことによりセーフティが外れ、AIが問題のある回答を行ってしまう可能性があることがわかりました。 Many-shot jailbreaking \ Anthropic https://www.anthropic.com/research/many-shot-jailbreaking 大規模言語モデル(LLM)は、モデルの刷新と共にコンテキストウィンドウ(扱える情報量)も増加しており、記事作成時点では長編小説数冊分(100万トークン以上)を取り扱えるモデルも存在します。 大量の情報を扱えるというのはユーザーにとって利点になりますが、大量の情報を扱うことによ
ChatGPTの記憶能力が強化されて同じことの繰り返し入力が不要に
ChatGPTはチャットを通じてユーザーが入力した情報を一時的に記憶しますが、ユーザーが「新しいチャット」を始めた場合、そのチャットでは以前のチャットの記憶は引き継がれずに新たなやりとりが始まります。2024年2月13日、ChatGPTの記憶機能が強化され、新しいチャットを始めた場合でも以前のチャットの記憶が引き継がれるようになりました。 Memory and new controls for ChatGPT https://openai.com/blog/memory-and-new-controls-for-chatgpt Memory FAQ | OpenAI Help Center https://help.openai.com/en/articles/8590148-memory-faq ChatGPTの記憶(メモリー)機能は設定でオン・オフを切り替えることが可能で、オンにした場
ChatGPTの性能低下はホリデーシーズンに休むことを学習したからだという「冬休み仮説」が浮上
2023年12月頃から「ChatGPTが質問に答えてくれない」という現象が複数報告されており、OpenAIが調査を開始する事態に発展しています。新たに、ChatGPTの性能低下は「冬は休むもの」ということをAIが学習しているからではないかという説が浮上しています。 As ChatGPT gets “lazy,” people test “winter break hypothesis” as the cause | Ars Technica https://arstechnica.com/information-technology/2023/12/is-chatgpt-becoming-lazier-because-its-december-people-run-tests-to-find-out/ ChatGPTの性能が低下しているという報告は2023年12月頃から寄せられるようになり
STM32L010のレジスタを叩いた話 – 東京工業大学 ロボット技術研究会公式ブログ
東京工業大学 ロボット技術研究会公式ブログ 東京工業大学の公認サークル「ロボット技術研究会」のブログです。 当サークルの日々の活動の様子を皆さんにお伝えしていきます。たくさんの人に気軽に読んでもらえると嬉しいです。 こちらはrogy Advent Calendar X日目の記事です． 今回は秋月電子通商で販売されているSTM32L010F4P6を使った際，レジスタを叩く（HALすら使わずに）ことになったので，その時の知見を備忘録がてら残しておこうと思います．誰得…？ どうしてそんなことになってしまったのか もともと工大祭とMaker Fairに向けてライブ振動子（下図）なるものを作っていたんですが，今年は100台の振動子をつくると，見栄を張って宣言しまいました． 2か月前くらいになってようやく手を付け始めて（はよやれ）とりあえず部品選定となりました． 前作ではPIC12F1822を使ってレ
ChatGPTのような高性能言語モデルを生み出した技術はどんな仕組みなのか？をAI企業のエンジニアが多数の図解でゼロから解説
OpenAIが開発したChatGPTをはじめ、さまざまなAIが人間レベルの会話を行ってくれるようになりました。そうしたチャットAIがどのような技術で成り立っているのかをAssemblyAIのエンジニアであるマクロ・ランポニさんが知識ゼロでもわかる丁寧さで解説しています。 The Full Story of Large Language Models and RLHF https://www.assemblyai.com/blog/the-full-story-of-large-language-models-and-rlhf/ ChatGPTがリリースされてから1億人以上に利用されるまでにかかった月数はなんとたったの2カ月。とんでもないスピードで普及していきました。 ChatGPTのヒット以降、さまざまなチャットAIが登場していますが、それらのチャットAIは「言語モデル」という技術によって
ChatGPTなどの大規模言語モデルはどんな理論で成立したのか？重要論文24個まとめ
2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(
ChatGPT
Everything about it is is well done This app is really good for a lot of us OK first off when you’re talking a lot there’s this button not the not on the left bottom but you click the button and you could just talk to it when you’re talking for a while and then and then ChatGPT we’ll talk to you with you. It’s really fun to use in my opinion I think if you were probably using chat if I think a lot
DetectGPT
The fluency and factual knowledge of large language models (LLMs) heightens the need for corresponding systems to detect whether a piece of text is machine-written. For example, students may use LLMs to complete written assignments, leaving instructors unable to accurately assess student learning. In this paper, we first demonstrate that text sampled from an LLM tends to occupy negative curvature
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - lencx/ChatGPT: 🔮 ChatGPT Desktop Application (Mac, Windows and Linux)
GitHub - simonw/llm: Access large language models from the command-line
ChatGPTを恐れる人たちが、米国でAI規制機関を設立しようとしている
GitHub - hunkimForks/chatgpt-arxiv-extension: A browser extension that enhance search engines with ChatGPT