GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
女の子のふとももに「半脱ぎパンツ画像」を自動合成する変態技術がすごい おまわりさんこっちです
今年も夏コミの季節がやってまいりました。コミックマーケットと言えばひそかに注目しているのが、あの人の研究所（3日目/西き16b）の「あの人の研究論文集」。毎回何の役に立つか分からない「才能の無駄遣い」的研究ばかりを集めた論文集で、昨年は画像補完で衣服をスケスケにしちゃう「画像補完技術による衣服の除去」などが話題になりました（紹介記事）。 さて、今年の注目は何と言っても、七海セカイさん（@Sekai_Nanami）による「半脱ぎパンツ画像の自動合成によるはいてない感の付与」。画像合成技術を使うことで、「はいてない画像」の新たな方向性と感動を模索した紳士的研究論文です。 論文では、女の子の画像から太もも部分を検出し、適切な位置に「半脱ぎパンツ画像を合成」することで、まるで女の子がパンツをずらした「半脱ぎ」、すなわち「はいてない」状態であるかのように見せる手法を提案。その有効性は、次の参考画像を
博論は宝の山／テーマが決まったら真っ先に博士論文を読もう
物事の調べ方にはいろいろあるが、新しいトピックだと、なかなか適当な文献が見当たらないことも多い。 先日も書いたが、本に載っているのは「最新」の情報ではない。書いたものが本になるまでには、かなりの時間がかかるのだ。 さて、研究は「早い者勝ち」の世界だから、誰も手をつけてないことか、まだあまり手がつけられていないことをやることになる。そのため取り扱うトピックはよりマイナーになっていく。 どマイナーなトピックなど、書いても売れないから、書店で買える書籍にはならない。では、それはどこにあるか？ 答：博士論文にある。 新しく、いっぱしの研究者になろうとする者が書く博士論文。 新参者が、すでに分厚い先行研究がある（その業界では）メジャーなトピックにチャレンジしようというのは、これまでの蓄積をひっくり返せる何年に一度出るか出ないかという実力者か、単なる勘違い野郎である。 もっと慎ましやかな庶民研究者は、
人生を最大限に楽しむための方法 〜アルゴリズマー的人生最適化〜 - chokudaiのブログ
今までのブログでもう判ってもらえているかと思いますが、僕は「頭を適切に使って論理的に考えると人生が楽しくなるよ！」って主張を強く持っています。その主張が現状少し弱く感じたので、一つ具体例として、「人生をアルゴリズマー的に最大限楽しむ方法」というのを少し紹介してみようと思います。数式を多用していますが、ぶっちゃけ読み飛ばしても読めると思うので、数学アレルギーの人は適度に読み飛ばして読んでくださいな。 目的を明確に定義する さて、「人生を最大限に楽しむための方法」とありますが、そもそも最大限に楽しむって何だろう？って問題が発生します。そこで、問題を明確に定義しましょう。まずは、貴方が、ある瞬間でどれくらい楽しさを感じているか、という関数fを定義します。この関数fは、貴方の行動、または選択の集合Aと、その時の時間tを与えて、f(A,t)とすることが出来ます。よって、これを人生の間で積分して最大化
院生をいじめないでください - 表道具
作った 院生をいじめないでください 院生をいじめないでください！ Stop Academic Harassment! 卒研生の皆さん、進級おめでとうございます！就職活動にレジャーに忙しい時期だと思いますが、是非有意義に最後の大学生活を楽しんでください。ところで、卒研に配属された皆さんは、先生や研究員の他に、研究室やゼミ室に謎の人物を目撃するかもしれません。彼らは、院生と呼ばれており、皆さんとあまり変わらない立場の人間です。 院生とは何者？ 院生は、様々な理由で研究室にいる人間です。彼らは、皆さんの卒業研究より難しいことをやっていることが多く、研究室にも皆さんより長い時間います。皆さんは、院生を見て奇妙な印象を持ったかもしれません。院生は、研究室にいるうちに、特殊な行動やコミュニケーションを身につけてしまった人が多いので、それも一理あります。また、病気にかかってしまった人も多いです。しかし、
自宅でできるやり方で論文をさがす・あつめる・手に入れる 読書猿Classic: between / beyond readers
１００冊読む時間があったら論文を１００本「解剖」した方が良い 読書猿Classic: between / beyond readers の続きというか、補遺。 大学等に所属してる人は、そこの図書館と契約してる有料データベースを駆使されたし（使い方はガイダンスがあったりするし、図書館のレファレンスでも教えてくれるだろう）。っていうか、言うまでもないだろ、そんなことは。 ここではフリー（市井）の人が使える手を考える。手はたくさんあるが、いっぱいあっても混乱するだろうから、少しだけ。必要なら追記していく。 とりあえず３つのケースに分けてみた。 １．読みたい論文が決まっている、タイトルも分かっている ２．読みたい分野、知りたいジャンルくらいは決まってる ３．何からはじめればいいのか、さっぱりわからん 番外．論文なんて本屋で買えるぜ １．読みたい論文が決まっている、タイトルも分かっている Ａ．まずは
１００冊読む時間があったら論文を１００本「解剖」した方が良い
何かインプットしたら、アウトプットすること。 アウトプットを予定して、思い描いて、インプットは行うこと。 メモでも日記でもブログでもレジュメでもレポートでも論文でも著作でも隣の人に話すのでもいいから、吐き出すこと。 ちんぷんかんぷんでも本の内容をレジュメにまとめ、お馬鹿同士トンデモな議論をやり、なんとか書き上げた論文モドキを投稿して無理解極まる査読者とやり取りすること。 でないと、アタマの中にも、手の中にも、何も残っていないことに気付くことになる。 「ああ、そんな本（あるいは、そんな話）、前に読んだな（聞いたな）」でおしまいになるだろう。 アウトプットは、できればインプットと同じ水準のものがいい。 たとえば論文を読むなら、論文を書くつもりで読むこと。 そうなると内容を得るだけでは済まなくなる。 ・どういった構成で書かれているか？ ・どんな決まり文句や、つなぎの言葉が使われているか？ ・主張
ブログによる証明 | 大栗博司のブログ
今日は午前中は来年度のポスト・ドクトラル・フェローの選考会議、午後は物理の議論をして、夕方からは職員会館で台湾の国家科学技術委員会の使節の方々と夕食会がありました。 ところでしばらく前に、数学のプレプリント・アーカイブにD. H. J. Polymathという名前で組み合わせ論の定理の新しい証明が投稿されていました。D. H. J.というのは定理の名前の頭文字（Density Hales-Jewett theorem）、Polymathというのは博識という意味ですが、後で書くように掛詞でもあるので明らかに仮名です。 実はこの証明はブログのコメント欄によるものだそうです。フィールズ賞受賞者のティモシー・ゴウワーさんが、自身のブログで定理の証明のアイデアをコメント欄に書き込むことを呼びかけたところ、高校の数学の先生からフィールズ賞受賞者のテレンス・タオさんまで巻き込んで、３０－４０人がかりで６
asahi.com（朝日新聞社）：博士課程学生に「給与」年１８０万円 文科省概算要求へ - 社会
博士課程の学生がする研究に対して年１８０万円程度の「給与」を支払う制度を創設するため、文部科学省は新年度の概算要求に約６６億円を盛り込むことを決めた。職業意識をもって研究に専念してもらう狙いがあり、２千人程度の枠を見込んでいる。 大学に博士課程の学生を対象にした「特別研究アシスタント」のポストを設け、公募や選抜で選ばれた学生と大学が雇用関係を結び、生活を支えるための実質的な給与を支払う。来年度にポストを設ける大学を募り、まず５年間にわたり支援する。 博士課程の学生は、学費を払って研究を学ぶ一方、指導教官から共同研究者として実験などを任されていることが多い。現状では、博士課程に進み研究を続けたいと思っても、待遇やその後の進路への不安から、あきらめるケースもあり、新制度は優秀な学生を確保する狙いもある。 博士課程の学生への経済支援では、個人を対象にした特別研究員制度があり、約４６００人が
ポスドクへの誤解 - sallasの日記
研究 | 00:58コスモスというジュディー・フォスターが主演した映画があります。これはカール・セーガンの監修で、描かれているのはただひとつ、宇宙の果てが見たい、という彼の焦がれるような想いです。これほどサイエンスへの強いあこがれがストレートに描かれている映画も珍しいんじゃないかというくらい純真な映画です。文科省推薦にしても良いくらい。世の中にはいろんな仕事がありますが、サイエンスを生業とするほど、幸せなことはないとつくづく思います。ただ、その分、世の中の「職業」の基準とはかけ離れたところがあり、わかりにくいところもあるようです。ポスドクに関する理解はその最たるものです。朝日新聞ではポスドクを派遣やフリーターと同列に扱い、非正規雇用なので問題、というスタンスで記事を書いています。先日も、そんなこと書いてた人がいました。うちのラボにきた朝日新聞の記者も、私がモントリオールでポスドクをしてたと
山形浩生 - Keynes "General Theory" Digest ケインズ『雇用と利子とお金の一般理論』要約
ケインズ『雇用と利子とお金の一般理論』要約 by 山形浩生 (with Special TNX to 能登麻実子氏……の2ちゃんねるに巣くうキモヲタファンども諸賢) 能書き これは、John Maynard Keynes The General Theory of Employment, Interst, and Money (1936) の要約版だ。邦題は今まで『雇用、利子および貨幣の一般理論』（東洋経済、岩波文庫）だったものだが、「money」ということばを「貨幣」と訳すのが嫌いなのと、いろんなものを羅列する場合の and の使い方を直訳するのが嫌いなので、この邦題にしてある。テキストとしては 1953 年刊の HBJ 版を使っている。 要約といっても、勝手なつまみ食いじゃない。原書に登場するすべての段落 (ただし6章、14章、19章それぞれのおまけは除く) を、番号をふってまとめてあ
「キー・バリュー型データストア」開発者が大集合した夜
「発表者が自分よりも若い人ばかりだ」。外見が20代にしか見えない東京工業大学の首藤一幸准教授（1973年生）の驚くさまが、少し面白かった。2009年2月20日の夜、多くのWeb企業が注目する「キー・バリュー型データストア」を開発する若手技術者が、東京・六本木のグリー本社に一堂に会した。 キー・バリュー型データストア（またはキー・バリュー型データベース）は、大量のユーザーとデータを抱え、データベースのパフォーマンス問題とコスト高に頭を悩ませるWeb企業が注目する技術である。記者は同日に開催された「Key-Value Store 勉強会」に参加させてもらった。午後7時から11時まで、キー・バリュー型データストアを開発・研究する若手技術者が立て続けに登場し、1人15分の持ち時間で成果を発表し、議論を重ねるという集まりだ。 呼びかけ人であるプリファードインフラストラクチャー（PFI）最高技術責任者
こんな研究をやる意味があるのだろうか
今M1、今度M2になる。 一度、学会発表で外に出て発表するまでは、「研究を認めてくれる人って多少なりいるだろう」と思っていた。 せめて、「こんなことをやっている人もいるんだー」くらいのレベルでもいいから、理解してくれる人っているんだろうと思っていた。 けれど、それは完全な勘違いであることに、外に出てから気づいた。 感想を聞いてみた結果、「そういう研究って嫌いだ」という人が少なくなかった。 当然、そういう研究なものだから、後輩もあんまり続けたくないらしい。 最近は、正直なことをいうと俺だってこの研究を続けて意味のあるものなのかと聞かれると答えられない。 出てきても、「心の中で押し込む」ことによって無理やり心の中に押し込めてきた。 けれど、一度この悩みを外に出してしまうと一気にその感情が出てきちゃうんだろうな。 正直な事を言うと、やっていく自信はない。 だって、やってもやっても評価されないんだ
大規模データ処理のための行列の低ランク近似 -- SVD から用例ベースの行列分解まで -- - 武蔵野日記
id:naoya さんのLatent Semantic Indexing の記事に触発されて、ここ1週間ほどちょくちょく見ている行列の近似計算手法について書いてみる。ここでやりたいのは単語-文書行列(どの単語がどの文書に出てきたかの共起行列)や購入者-アイテム行列(どの人がどの本を買ったかとか、推薦エンジンで使う行列)、ページ-リンク行列(どのページからどのページにリンクが出ているか、もしくはリンクをもらっているか。PageRank などページのランキングの計算に使う)、といったような行列を計算するとき、大規模行列だと計算量・記憶スペースともに膨大なので、事前にある程度計算しておけるのであれば、できるだけ小さくしておきたい(そして可能ならば精度も上げたい)、という手法である。 行列の圧縮には元の行列を A (m行n列)とすると A = USV^T というように3つに分解することが多いが、も
計算機科学系なら卒論は3月中にまとめなおして国際会議に投稿しよう - 発声練習
はてな匿名ダイアリー：卒論を書き上げた後、研究者を志す学生が初めにすべきこと 論文を評価して貰う時には『この論文を学術雑誌に投稿するためには何が足りないか』について意見を聞きましょう。 分野によっては非現実的かもしれませんが、研究者を志す学部4年生には卒論を改善したものを一度投稿してみることをお勧めします。 無料で自分の研究について検討して貰えて、場合によっては大学院における研究方針まで示唆して貰える訳ですから、チャレンジするべきだと思いませんか？ とてもよい提言。大賛成！ 私の属している研究室では、修士進学者であるならば、ほぼ強制的に卒論をまとめなおし査読つき国際会議に投稿させている。理由は、修士の修了要件の一つが、少なくとも1編の論文を査読つきの学術雑誌・国際会議論文集に載せることなため。進歩が急激な分野はだいたい国際会議での発表が評価される可能性が高い。計算機科学、情報工学系は国際会
鷲宮神社への聖地巡礼が学術論文になっているらしい（その１） - ［ 悠 々 日 記 ］／ YUYUKOALAのブログ
9日の日経MJに「らき☆すた」と鷲宮神社について こんな記事がでていました。 （日経MJ 2009年1月9日） 「らき☆すた」神社が聖地になったワケ 地元若手、ファンと交流 （写真）昨年の祭りに登場した「らき☆すた」みこし。初詣で客のため地元商店が展示した(埼玉県鷲宮町) 埼玉県鷲宮町。古い歴史を持つ鷲宮神社は今年の正月も多くの「らき☆すた」ファンでにぎわった。なぜここまでアニメの「聖地」として人気を集めたのか。北海道大学の観光学高等研究センター准教授、山村高淑氏が昨年末、独自取材をもとに詳細に分析した面白い論文を発表した。 「らき☆すた」の原作は埼玉県に住む女子高校生四人組の日常を描いたほのぼの四コマ漫画。二年前にアニメ化され、人気に火が付いた。四人組のうち二人が架空の「鷹宮神社」の神主の娘姉妹で神社内に住んでいる設定だ。アニメ版で実在の鷲宮神社を姉妹の暮らす場として描いたのでファンが集
査読という仕事 - むしのみち
米国では、publish or perish、と言われるほど、研究者の仕事として論文を出版することは重要なことです。日本でももちろん、研究費を使って得たデータに基づき、論文を書き、さらにその成果に基づいて研究費を申請します。よって、研究費獲得とその成果たる論文出版は、研究を進めていく両輪といえる重要な作業です。 一方で、論文は、それぞれの分野の専門誌や科学一般の雑誌に投稿して、審査を受け、価値が高いと判断されると掲載されます。この審査というのは、通常、同分野の研究者による査読（peer review）と呼ばれます。 では、この査読者（reviewer）というのは誰が決めるのかというと、それぞれの雑誌を運営する編集者たちです。通常、編集長（editor-in-chief）のもと、幾人かのsubject editorや、managing editorと呼ばれる編集者たちが行います。編集者を専門
「幻の原稿」編｜教授からのメッセージ｜高等研究院 制がんストラテジー研究室｜国立大学法人 東京医科歯科大学
「幻の原稿」 始 末 この原稿は、もともとY社の「実○医学」に全１０回という長期連載シリーズ『Q&Aで答える 基礎研究のススメ』のために、このHPにある「教授からのメッセージ」を大幅に加筆修正したものです。昨年の夏休みの大部分と、その後のちょっとした時間に少しずつ書きため、ゲラ校正も終わってやっと発刊、というときにボツになった「幻の原稿」です。 ボツになった理由は、「内容が過激だから」です（笑）。実はわれながら、こんな文章を本当に「実○医学」が出す勇気があるのだろうかとずっと疑っていました。また評価も完全に二分されるだろうと思いました。自分では正論と思っていますし、それを読み取って理解して下さる方も多いでしょう。しかし表面上の逆説的表現に神経を逆なでされる方もいるのではないかと私自身が危惧していました。 ３、４回の推敲によって大幅に表現をマイルドにして何とか掲載に漕ぎ着けようとしたのですが
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
IDEA * IDEA
クローリングしてる暇があるなら…論文かいたら? | EDGE Datasets(研究用データセット)
