この記事は、ぼくのやらかした大失敗から得た教訓をまとめたものです。 麻雀では、配牌やツモが悪ければ、まず勝てません。 しかし、何千回も麻雀ゲームを繰り返すと、トータルでは、麻雀が強い人が勝ちます。 試行回数が十分に多いと、運よりも、「運以外の何か」によってトータルの勝敗が決まるのです。 しかし、人生は麻雀と違って、以前にやったゲームの結果が、その後のゲームの勝敗を大きく左右します。 たとえば、人生の初期に大きな成功を収めると、その後の人生は圧倒的に有利になります(金銭・人脈だけでなく、拙著に書いたような認知バイアス系の雪だるま効果が発生するため)。 また、逆にうつ病になって、それが治らなくなってしまったりすると、もう、何をやっても、どうにもならなくなったりします。 しかしながら、実際には、「人生の初期に大きな成功を収めた人」も「うつ病になって、それが治らなくなってしまった人」も、多数派では
ド下手な俺が半日だけ絵を練習してみた｜shi3z
前回、絶望的な画力のなさでAIといえど俺の伝えたいことが伝えられなくて非常に困ったので、もうここは諦めて絵を勉強することにした。人間、何歳になっても勉強できる! 職業柄、「図」はよく描くのだが、「絵」特に、メカではないキャラクターは苦手だった。 学生時代、「漫画アニメーション研究会(まに研)」の幽霊部員だった時も、キャラクターが描けなかったので馴染めなった苦い記憶を持つ。 しかし、時は大AI時代。 AIさんに思い通りの絵を描いてもらうには、俺だって最低限の画力が必要だということを前回痛感したため、このクソ忙しいのに半日だけ絵を練習した、という話。 色々な本をKindleで買ってみたが、良かったのはこれ。 Kindleで買って感動して、DVD付きの書籍をわざわざもう一冊買い直すくらいハマった。 これは、自主制作のアニメ制作から初めて絵を修行し、最終的にはスタジオジブリの入社試験に合格できるほ
ベロシティを高く保つ仕事のすすめ方 / Maintaining a High Velocity as Productivity Hacks
https://findy.connpass.com/event/318375/ での登壇資料です。
大規模言語モデルの開発
2024年度 人工知能学会全国大会（第38回）チュートリアル講演１ 本講演では、大規模言語モデルの開発に必要な基礎および最新動向を概観する。その後、東京工業大学情報理工学院の岡崎研究室と横田研究室、産業技術総合研究所の研究チームで開発された大規模言語モデルSwallowの開発経験を踏まえ、学習データの構築、モデルの学習や評価などを説明し、日本語に強い大規模言語モデルの現状や課題を議論したい。
ちょっと前の話になりますが 東工大と京大が相次いで「女子枠」を作りましたね。 正直なところ、愚策としか思えませんね。 １）面接では「本当の意欲」は測れない ２）「興味関心（好み）」の性差を無視するのは不自然 ３）「新しい視点」って？（笑）だったら「男女ともに」二次試験を廃止しろ ４）女子枠云々以前に、理系職の待遇を、国が変えろ １）面接では「本当の意欲」は測れない 面接で「理科・工学への関心興味」を測る？ バカ言っちゃいけません（笑 たしかに、「面接」は、『ある程度』有効。 実際に切った張ったのビジネスの最前線にいる人間には、ある程度、見抜ける。 それでも、「あんな奴だとは思わなかった」が３割くらい起きるのが「面接」。 短時間なら、人は人を騙せる。 ましてや、さ。 東工大も京大も、その「面接」だれがやるの？（笑 そういう「利益のためなら平気で人を騙せる人間が存在する現場」を経験していない教
プログラマ視点での生成AIとの付き合い方
プログラミングについて、最近考えてることについてのポエム。 基本的に、 GPT-4 と Claude-3-Opus を使った経験を念頭に置いて話をする。機械学習エンジニアではないので、あくまで利用者に徹した視点での話。仕事で生成AIを使ったパイプラインを作ったりはしている。 生成AIの進化速度を予測しておく 今大事なことは、今AIがどの程度の性能かという定点の話ではなく、その進化の速度を認識すること。 コード生成というタスクにおいて、生成AIモデルを人間に当てはめると、こんな感じの人物像を自分は持っている。 GPT-4: プログラミング経験2年目の大学2年生 Claude-3-Opus: プログラミング経験3年目の大学3年生 ここでいうn年目は、業務経験ではなく、プログラミングの単位がある大学での、教育課程としての経験年数。今のひたすら学習量を増やす方式だと、単に1年に1年分ぐらい賢くなっ
生成AIによる「慣用表現の『乗っ取り』」と、その根底にある別の問題と - 渋谷駅前で働くデータサイエンティストのブログ
かなり前から「ChatGPTに学術論文を（英語で）書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 （限界助教先生の記事
「瞬間英作文トレーニングが英会話力アップに効果ないって本当？」 瞬間英作文とは、日本語を英語に置き換える作業＝英作文を「瞬間的に」行う勉強法として認知されています。 頭のなかにあるだけで活用しきれていない英語を、少しでも効率的に口に出せるようにと考えられたメソッドですが、正しいやり方でないと英会話力アップの効果はありません。 そこでこの記事では、瞬間英作文トレーニングの効果的なやり方や、トレーニングの注意点などをお伝えしていきます。 瞬間英作文トレーニングでは効果が期待しにくい領域についても書いていますので、ご自分の学習目標と合致しているかも合わせて確認してみてください。 執筆者：Lin 小4までアメリカの現地校に通い、帰国後は「英語はネイティブ並みでしょう？」という周囲の誤解とプレッシャーゆえに、英語の勉強から遠ざかった過去あり。中途半端な英語力にコンプレックスを感じ、大人になってから再
Docker、Linux、AWSひとつでも勉強しようと思ったら - itstaffing エンジニアスタイル
IT業界にいると「勉強したほうがいい」「エンジニアには必須だ」などと言われることも多い「Docker、Linux、AWS」などのサーバーに関するトピック。 これらは、一つ勉強しようとすると必ず他の技術もついてくる、互いに切っても切り離せない技術です。そのためか、学びはじめのハードルを高く感じてしまうことも。今回はサーバー関連の入門記事をまとめてご紹介します。易しい解説で「サーバーってこんな感じ」と掴むことからはじめてみてください。 こんな方におすすめ □ インフラ系に興味のある方 □ サーバー関連で何から始めていいかわからない方 □ Docker、Linux、AWSのどれかを始めたけれど、苦戦している方 Pickup 1：インフラ系きほんのき、「サーバー」をゆるく解説 この記事でわかること ・サーバーは何をするもの？ ・ウェブサーバー、メールサーバー、データベースサーバー違いは？ 2：サー
生活保護世帯から東大で博士号をとった秀才が、「貧乏でも頑張れば成功するという自己責任論をもっとも嫌悪する」と語る理由 | 集英社オンライン | ニュースを本気で噛み砕け
社会への怒りを表明したワケ無駄のない人だと思った。R.Shimada氏は余分な前置きを排して質問にまっすぐ返してくる。「noteによる発信でもっとも実現したかったことは？」と問いかけたときのことだった。 「貧困という境遇のためにチャレンジする機会さえ奪われている次世代を励ますこと、今なお放置されている格差という問題を指摘すること、が主な目的でした。 ただ、執筆していくうちに、こうした問題の当事者である私が”怒る役割”を担う意味もあることに気がつきました。現代社会において、怒りを表明することはさまざまなリスクが伴います。たとえば会社員であればなにかの拍子に失職するかもしれません。 しかし大学の研究職は、その職務をまっとうする限りにおいては、自らの思想信条を表明することが比較的守られていると考えます。また、数学者である私が政治について考えていることを発言するのも、政治学を専門とする人が言うより
CyberAgent AI事業本部新卒研修「MLOps」の資料を公開します | CyberAgent Developers Blog
はじめに 近年、様々な分野で機械学習の利用が進む中、モデルの品質を担保し、継続的な学習を行うための施策が重要視されています。そのため、機械学習のためのDevOpsであるMLOpsの必要性が高まっており、AI事業本部でも研修内容に取り入れています。 より良いMLOpsを構築するためには、アプリケーションやインフラの知識も必要です。そのため、今年は昨年までと異なり、MLエンジニアだけでなくソフトウェアエンジニアも講義に参加しました。また、新たに実践編が加わり、より業務を意識した講義が追加されました。 Container編 基礎編 応用編 実践編 そこで、今回は研修で行われた各講義の資料を公開したいと思います。 Container編 Container編では、コンテナにまつわる技術に対しインデックスを張ることと、イメージ作成や運用時のTipsを学び実業務に役立てることを目的としています。 そのた
「SPY×FAMILY」アーニャと学ぶプログラミングの学習が熱い。コードを書かせずに論理的思考力の育成に着目した児童向けの本に興味津々の声
浅葱 縹@アロルデシュ戦線 @Alice3zui せやねん…選書リスト作るのに 調べてたらな。今後めちゃめちゃ 実用系のスパイファミリー児童書 出んねん。プログラミングから イラストまで。キメツ学園の 全集中ドリルといい、キッズ 人気を確信した時の集英社は めちゃめちゃフットワーク 軽くてビビるで😳。 学校司書はチェキや！(死語) x.com/96usa_koi/stat… 2024-06-01 21:23:29
2045年頃にシンギュラリティが起きると言われている。技術の進歩が予想以上に速いことから、これが早まる可能性があると考える研究者も多い。 私はシンギュラリティはもう来てるんじゃないかと思っている。今回はその根拠について少し書く。 岡谷貴之さんの『深層学習』(第二版)には「student gradient descent」という言葉が出てくる。ちなみに、この本は第一版から大量にページが追加されて、第一版とは全く別の内容となっているので、第一版を買った人も是非第二版を手にとって欲しい。 さて、このように大学院生がランダムな思いつきを端から試すことで得られた深層学習のアイデアやテクニックやらがたくさんあるのが現在のこの界隈の状況である。 彼らは決してIQ 500のような超知能を持つわけではないが、彼らが試行錯誤することにより技術的な前進が得られているわけである。 つまり、シンギュラリティに必要な
ITエンジニアの給与を国際比較した場合、日本のITエンジニアの平均年収は3万6061ドルで世界72カ国中26位。24位だった中国を下回った――。2024年1月に人材派遣会社のヒューマンリソシアがこんな調査結果を発表した。 日本のITエンジニアの平均年収（前年比）は円ベースで0.4％増と、G7構成国（カナダを除く）の平均となる同2.6％増を下回る。グローバルで見て日本のITエンジニアの給与はなぜ低いのか。様々な立場の識者4人に聞いていく。 「日本の給与水準が低いのではなくて、国際的に見て日本のITエンジニアの価値が上がっていない」と語るのは、グローバルのIT事情に精通した、デジタルビジネス・イノベーションセンター（DBIC）の共同代表である西野弘氏だ。国際的に見た日本のITエンジニアについて処遇の在り方と今後採るべき方策を聞いた。 西野さんは、スイスのIMD（国際経営開発研究所）と共同でリー
はじめに おはようございます。Watanabe Jin(@Sicut_study)です。 今回は「わからない」の種類についてお話していきます。 あなたは「質問をどのタイミングでしよう」と迷ったことありませんか？ 「わからない」を理解することで仕事をうまくこなすことが可能になります。 わからないを考えるきっかけ 私が運営しているプログラミングコーチングJISOUでは、日々駆け出しエンジニアの方々が自分の実力より1つ、２つ難しい課題に取り組んでもらっています。 そのような課題に取り組んでいると、メンバーからわからないことが言語化できないのがものすごく辛いと助けを求める場面に遭遇します。 コーチングは伴走型なので、完全理解するまでとにかく聞いてくださいと話していますがやはり「わからない」状態は辛いものです。 そこで、わからないには種類があると話したところ興味を持って聞いてもらえて、だいぶ本人の心
生成AI（人工知能）の活用においては、大規模言語モデル（LLM）に与えるプロンプト（指示文）の工夫が重要だ。最新の研究で、プロンプトは長く詳細であるほど良好な結果が得られることが分かっており「メガプロンプト（巨大プロンプト）」という言葉すら登場しているほどだ。 LLMに与えるプロンプトというと、米OpenAI（オープンAI）が提供するChatGPTのようなチャットボットの入力画面に打ち込む数行のテキストを想像しがちだ。しかし先進的なAI研究者は最近、紙に印刷すると1～2ページにも及ぶような、とても長いプロンプトの開発に取り組んでいるのだという。 「私たちのチームではそれをメガプロンプトと呼んでいる」。ディープラーニング（深層学習）の著名研究者で、AI教育サービスを手掛ける米DeepLearning.AI（ディープラーニングドットAI）の創業者であるAndrew Ng（アンドリュー・ウン）氏
AIライティングアシストとは？英語学習への効果やデメリット・最新の研究も紹介 - ポリグロットライフ | 言語まなび∞ラボ
はじめに 今回はAIライティングアシストの英語学習への効果やデメリットについて考えていきたいと思います。さらに、最新の研究も紹介していきます。AIライティングアシストを支えているのが自然言語処理であり、それを言語に最適化したツールとしてChatGPTやGrammalyが英語学習のツールとして注目されています。今回はそれらのAIライティングアシストの正しい使い方について考えていきたいと思います。 ↓↓英語学習動画を随時アップしています www.youtube.com 主な参考文献 「言語と身体性」 「はじめての認知言語学 」 「ゼロからわかる人口知能」 AIライティングアシスト AIライティングアシストとは 英語学習者(EFL)とAIライティングアシスト AIと第二言語習得研究 自然言語処理(NLP) 自然言語処理とは 自然言語処理の発展 脳内に入り込んだニューラルネットワーク ディープラー
1／AIモデルの選定 いつものように、漫画のシナリオ、ネームを考えます。今回は「兎と亀」をベースに、GPU購入の話にします。 今風の漫画絵を生成するのに最適な画像AIは、SDXLアニメ系モデル、Novel AI、niji・journey辺りでしょう。第1回で主に使ったDALL・E3は、プロンプトの通りはピカ一ですが微妙に絵柄に古さがあるので、今回のテーマには向きません。 Midjourneyとniji・journeyは構図力も画力も高いので参考資料として使うには最適なのですが、自分は特に商業でこのモデルは使用しない事にしています。何故ならプロンプトに含めなくても版権デザインが紛れ込みやすいためです。 例えば「剣を持った青年」を出してもらうとします。青年はオリジナルのデザインだったとしても、剣だけ版権のデザインがモロに出る、みたいな挙動がMidjourneyやniji・journeyでままあ
「自分が行ってきた勉強法が、科学的にも効果の高い勉強法だった」と語る医師・安川康介氏が、アメリカの医師国家試験をトップ1%で合格した際に実践していた勉強法を明かす。『科学的根拠に基づく最高の勉強法』（KADOKAWA）の、一部を抜粋・再編集して紹介する。【その他の記事はコチラ】 Unsplash / Kelly Sikkema. ※写真はイメージ 医学の知識を覚える時に使った勉強法 僕が医学の膨大な知識を覚えなければならない時に使ってきた、そして今でも使う「ブツブツ呟いて教えるフリをしながら書き出す白紙勉強法」を紹介します。 長ったらしい、大そうな名前を付けてみましたが、至ってシンプルな勉強法です。 用意するものは次の3つだけです。 （用意するもの） ▪ 自分の勉強したい情報：英単語帳、学校の教科書、資格試験の参考書、興味のある分野の本、新聞雑誌など ▪ 白紙：要らないノート、使わないプリ
すでにコラム「コソコソ学ぶ日本人――『学びの秘匿化』とは何か」で議論してきたように、就業者には「学びは新人のもの」「現場での経験だけが重要」といった学びを遠ざける「ラーニング・バイアス」が広く内面化されていることに加え、過半数以上の従業員が、学んだとしてもそれを周りに「秘匿」する習慣も広く存在する。これはつまり、e-learningや任意研修などをいかに拡充したところで、個人の学習意欲を向上させることも、組織内で水平的に「学習伝播（でんぱ）」することも少ないということだ。 この、組織内の同僚という「ヨコの関係」に加えて、上司と部下という「タテの関係」も学びに関わってくる。部下（メンバー）の学びと上司のマネジメント行動を見ると、上司自身の学び行動が、部下の学習意欲・学習時間・学習共有にプラスの関連が見られている。例えば、上司が「仕事に関わる本をよく読んでいる」「いつも新しい知識やスキルを学ん
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
不運に潰されず、幸運をつかむ方法｜ふろむだ@分裂勘違い君劇場
東工大と京大の愚策 - とある講師のホンネ
瞬間英作文って英語力アップに効果的なの！？瞬間英作文の効果的な学習方法とは
シンギュラリティ、もう来てない？ | やねうら王 公式サイト
「IT業界の構造と個人の勉強不足が低賃金エンジニアの原因だ」、DBICの西野氏
プログラミングのわからないの正体 - Qiita
生成AIを賢くするには「メガプロンプト」がお勧め、ファインチューニングは有害？
実録：AIで描く漫画の実際 ～AIで今風の手描きっぽい漫画を作ってみる (2/6)
アメリカの国家試験をトップ1%で合格した日本人医師が実践した「白紙勉強法」とは
なぜ日本の組織は「学び合わない」のか リスキリングを成功させる「コミュニティ・ラーニング」とは？