からあげさんってすごいなあポエム(松尾研LLMコミュニティ初心者セミナー)
はじめに 今回始めて松尾研LLMコミュニティの初心者向け講座"Begginning LLM"の第一回に参加しました！ １～２ヶ月に１回ほど開催される連続講座のようでChatGPTで遊んだことあるけど本格的にLLMのこと知りたい！けど何からはじめていいのか分からないという人にぴったりの講座だと感じました。 この講座内容のすべては以下のYoutubeで公開されています。 今回のセミナーの中では松尾研所属のからあげさんが２つのユニットのセミナーを行っていました。 この記事ではからあげさんから学んだことを思ったままに書いていきます。 からあげさんはここがすごいぞ みなさんからあげさんのセミナーがとても気になって受講された方が多いんじゃないかな？と思いました。 もちろん、わたしも松尾研LLMでのからあげさんのご活躍が見たくて申し込みました！！！ 約100枚の圧倒的スライド数 まず、すごいボリュームの
Winnyの金子さんのED法について | やねうら王 公式サイト
Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。 『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました https://qiita.com/kanekanekaneko/items/901ee2837401750dfdad いまから書くことは私の記憶頼りなので間違ってたらコメント欄で教えて欲しい。 1998年ごろだと思うのだが、私はWinnyの金子勇さんのホームページの熱心な読者だった。(ページも全部保存してたので私のHDDを漁れば出てくると思うが、すぐには出せない。) Winnyのβ版が発表されたのが2002年なのでそれよりはずいぶん前である。 当時、金子さんはNekoFightという3D格闘ゲームを公開されていた。そのゲームには、自動的に対戦から学習するAIが搭載されていた。 当時の金子さんのホームページの
Stable DiffusionのLoRAのつくりかた｜RedRayz
はじめにこの記事は、初めてStable DiffusionのLoRAを作成する方に向けた解説です。わかりづらかったらすみません。 この解説ではSDXLベースのAnimagine-XL-3.1で二次元イラストのキャラクターのLoRAを作成します。 注意すでにWebUIの環境構築と生成ができていて生成に慣れている前提のガイドとなります。 Windows向けのガイドです。 また、NVIDIAのGeForce RTXグラフィックボードが搭載された高性能なパソコンが必要です。 そもそもLoRAってなんぞや？Low-Rank Adaptationが正式名称です。 難しくいうと、ウェイトとデータセットの差分を出力するものです。低ランクの行列に分解してからファインチューンすることで少ないメモリで学習できるようにしたものです。 簡単に言えば、LoRAはキャラ、衣装、シチュエーションや画風などを追加で学習した
テレビ局から「スマホ依存症についてドーパミン神経系から説明してくれないか」という話があったけどそれは無理だという理由がこちら
はげひげ（菊仙人） @96hage 今日、テレビ局から電話があった。依存がらみなのか、スマホ依存についてドーパミン神経系から説明してくれないかという話。 「快感でドーパミンが放出されると癖になって依存する」とかいうアホっぽい説明をしてほしいらしい。 「そりゃ、無理だ」と答えた。 そもそもドーパミン神経系は、報酬に対しても活性化するが、報酬が得られそうなトリガーでも活性化する。その程度は実報酬以上になる。だから、人はドーパミンにハマるといわせたいのだろうが、ドーパミン神経は報酬予測誤差を計算する。機械学習の強化学習はこの仕組みの応用だから今や常識。予測より実報酬が少なければ、ドーパミン神経の活動は止まる。これが繰り返されると「飽きる」。 テレビにそって説明すれば、あおった番組がつまらなければ（実報酬が予測を下回れば）、番組中でも視聴率は落ちるし、次回への報酬予測が小さくなり次回の視聴率は落ち
好きなポッドキャストについてまとめる
そもそもポッドキャストって何？映像のない YouTube のような存在が ポッドキャストです。 つまり、ラジオのようなものです。 YouTube のように、素人も投稿できる音声 メディアです。 どうやって聞けるの？iOSからであれば、Apple Podcast Androidからであれば、Googleポッドキャスト ※Googleポッドキャストは、YouTube musicに統合の話が出ている 他にSpotify、Amazon music、radikoからも聞けるらしい。 おすすめのポッドキャストヤング日経経済系の番組はおじさんがしゃべっていることが多いが、この番組は若い大学生～大学院生の女の子が最近の経済について 話しており、非常に聞きやすく、軽い気持ちで聞けるのが良い。ポッドキャスト的な流し聞きに向いてる。 日経トレンディ ＆ 日経クロストレンド日経トレンディ及び日経クロストレンドとい
『Winny』の金子勇さんの失われたED法を求めて - Qiita
普段は「通知が迷惑かなー」と思ってブックマークしていただいている方に通知せず記事を編集しているのですが、この記事をブクマしていただいている方は続きが気になっている方だと思いますので通知させていただきます。 結論から言うと、この記事を読んだ @pocokhc (ちぃがぅ)さんという方が金子勇さんが書いたED法のサンプルプログラムを見つけてくださいました。 ちぃがぅさんの記事はこちら 自分で解明したかったという気持ちも無いことは無いですが、バズった時点で誰かが実装してくれそうな気はしていました。新卒からIT業界に入って4年目が始まったところですが、業務以外で初めて業界にコントリビュートできた気がして嬉しいです！ 追記ついでに、謝罪します。初回公開時に記事タイトル含め本文中で何か所か「Winney」と書いてしまっていた箇所がありました。失礼いたしました。誤字修正してあります。指摘してくださった何
【速報】ムロタニ・ツネ象氏が逝去。歴史学習漫画がワンアンドオンリーの素晴らしい作品だった。 - INVISIBLE Dojo. ーQUIET & COLORFUL PLACE-
www.mangaz.com 漫画家 ムロタニ・ツネ象先生のご逝去につきまして 2022年01月25日 戦後まもなくの1950年代以来、ギャグマンガ・ホラーマンガ・学習マンガと多彩な活躍をされた漫画家ムロタニ・ツネ象先生が、去る2021年11月22日に87歳で逝去されましたことをお知らせいたします。近年はご自宅で静養しておられ、ご家族に見守られて静かに旅立たれたとのことです。ご遺志により葬儀は行われず、ご献花・ご香典の類も辞退申し上げたいとのご意向をご家族より承っております。 ムロタニ先生の作品は、雑誌連載作品の単行本化が一般的でなかった時代のものが多く、紙の書籍で読むことは困難となっております。そのためマンガ図書館Ｚでは、先生のご許諾を得て、現在11タイトルを公開させていただいております。 お手元には貴重な作品原画が他にも多数遺されており、その整理・保全や、展示・復刻などの利活用について
令和の学習歴史漫画は、絵柄も描写も大幅アップデート…と驚く（KADOKAWA）／入学祝にいかが？ - INVISIBLE Dojo. ーQUIET & COLORFUL PLACE-
毎年、３月から４月にかけて、この記事を紹介してた。中学高校入学の時期、世界史に初めて出会う子も多い、それを準備させたい親や親戚も多いからね。 m-dojo.hatenadiary.com だいたい、このまとめ通りなんだが、そもそも原型となる記事を書いたのが2010年、いまから14年前だ…フェルン、それはさすがにウソだよ。 m-dojo.hatenadiary.com だもんだから、歴史学習漫画も、当時と比べたらアップデートがされている、新版が出ている…ことは知ってたんだけど、じゃあ本当にごく最近のはどんな絵柄や描写だろう？と見てみた。 偶然、見る機会があったのが角川まんが学習シリーズだ。8巻と9巻。 角川まんが学習シリーズ 世界の歴史 全20巻+別巻1冊定番セット KADOKAWAAmazon 角川まんが学習シリーズ 世界の歴史 8 変化するユーラシア諸帝国 一五五〇~一七二〇年 KADO
刀剣店に「刀の手入れ」を依頼したら、瞬間接着剤とグルーガンで部品を固定されるなど酷い有様に…→SOSを受けたプロの研磨師が手入れをやり直す実況が勉強になる
旭川の刀剣研磨師 浦島 @emus_ruyke_ainu 北海道で唯一の刀剣店（大嘘）を謳ってる店に手入れと鐔の交換に出したところ 鐔、切羽、ハバキはボンドと瞬間接着剤とグルーガンでガチガチに固定され 鐔の茎孔は無断で削られ刀身は指紋と錆と耐水ペーパーの目でボロボロになって返されたのでなんとかして欲しい、とのことで預かってきた。 酷すぎる pic.twitter.com/g3cK8ioPDG x.com/emus_ruyke_ain… 2024-03-27 23:04:35 旭川の刀剣研磨師 浦島 @emus_ruyke_ainu 手入れお願いしたら鐔をボンドで固められて茎が錆びて返されたのでどうにかして貰えませんか？」と連絡きて 5年以上前も鐔をボンドで留めてて素人だなぁって思ってたんだけどまさかまだそんな素人仕事してるとは思わなかった。 そのお客さん今からうちに来ることになったのでなん
BitNetでMNISTを学習させて見えてきた性質｜shi3z
かれこれ一ヶ月弱くらいBitNetと格闘している。BitNetは、Microsoftが発明したと主張している1-Bit(1.58ビットとも言われる)量子化ニューラルネットワークのことだ。 僕はその辺に落ちてるコードを使って最初の最初はlossが2くらいまで下がったのだが、そもそもLLMはlossが1を切らないと実用性がない。 それ以降は6とか良くて5とかなのでたまたま最初に試したのがうまく行ったようだ。 しかしいつまで経っても良くならないのでBitNetの性質を根本的に見直す必要があるのでは?と思い、初心に帰って論理回路を学習させようとした。 BitNetのコードベースははちさんのコードと、Microsoftの公式な論文の実装を併用した。 まず試したのはこのようなコード from bitnet import * import torch from torch import optim im
ChatGPT入門 (社内勉強会の資料を公開) - LayerX エンジニアブログ
こんにちは！たかぎわ @shun_tak と申します！バクラク事業で機械学習・データ領域のマネジメントを担当しています！ 先日社内でChatGPT入門の勉強会を実施して、参加者からは好評だったので、資料をこちらで共有させてください！わりと社内資料そのままコピペです。 背景 羅針盤15を体現した例 早速やってみよう！ ChatGPTを触り倒す Step1 : ChatGPTを開く (0min) Step2 : まずは挨拶してみよう！ (5min) Step3 : Google検索の代わりに使ってみよう！ (5min) 他のトピックも聞いてみよう！ Step4 : ペルソナ設定済みのGPTを使ってみよう！ (10min) まずはConsensusというGPTを使ってみましょう！ ChatGPT Teamに加入していると、社内の人が作ったGPTにアクセスできます！ わいまつさんが作った企業リサー
Dockerで構築する機械学習環境【2024年版】
Dockerを使った機械学習環境の構築方法 株式会社松尾研究所で働いているからあげ（@karaage0703）です。松尾研究所では、機械学習（ここでは、予測モデル、画像認識からLLMまで幅広く扱います）を使う多数のプロジェクトが走っています。プロジェクトの特性は多種多様なので、環境構築方法は様々なのですが、松尾研究所では、環境構築方法の1つとしてDockerを推奨していています。今回はDockerを使った機械学習環境の構築方法を紹介します。 松尾研究所の特にインターン生を想定した記事にはなりますが、他の組織、個人の方にも参考になる部分があるかと思いWebに広く公開させていただきます。 なぜDockerで機械学習環境を構築するのか？ 具体的な手法に入る前に、まずはDockerで機械学習環境を構築する理由から説明したいと思います。説明が不要な方はここはスキップしてもOKです。 そのために、Do
商用利用OKの画像生成AI「Emi」公開 クリエイターと対話して開発、無断転載画像不使用
「AIいらすとや」など、権利クリアな画像生成AIを開発してきたAI Picasso社は、アニメ・マンガ風のイラストを生成できる画像生成AI「Emi」（Ethereal master of illustration）を9月25日に無償公開した。 Stable Diffusionベース。追加学習で無断転載画像を学習させておらず、権利がクリアな点が特徴。商用利用も可能だ。 Stable Diffusion XL 1.0と NVIDIAのGPU「H100」に、同社のノウハウを組み合わせて開発。最近の画風になるよう調整した。 追加学習に「Danbooru」などの無断転載サイトを使っていない。クリエイターの意見を聞きながら開発したという。 同社の従来のモデルと異なり商用利用可能にした。画像生成AI普及に伴い、創作業界に悪影響を及ぼさないようマナーを守る人が増えてきたことや、他の画像生成AIが商用可能な
初級者でも「PowerShell」がしっかり学べるオンライン基礎コースはこれだ
関連キーワード Windows | Microsoft（マイクロソフト） | OS MicrosoftのクライアントOS「Windows」が標準搭載するコマンド実行ツール「PowerShell」。システム管理者はこれを使いこなすことで、さまざまな業務の自動化ができる。PowerShellの“プロ”になるには、どうすればいいのか。PowerShellが学べるオンライン学習コースを紹介する。 4．まず基礎から学ぶ「PowerShell 7 Fundamentals」 併せて読みたいお薦め記事 連載：PowerShellを学ぶオンラインコース10選 第1回：「PowerShell」の学習方法とは？ 初級から上級向けのオンラインコース 「PowerShell」を活用するには 「Windows」のキオスクモードを「PowerShell」で設定する方法 PowerShell「while」「do whi
AIイラストが理解る！StableDiffusion超入門【2024年最新版】A1111、Forge対応｜賢木イオ @studiomasakaki
AIイラストが理解る！StableDiffusion超入門【2024年最新版】A1111、Forge対応 こんにちは、2022年10月からAIイラストの技術解説記事を連載してます、賢木イオです。この記事は、これまでFANBOXで検証してきた120本（約70万文字）を超える記事をもとに、2024年春現在、画像生成を今から最短距離で学ぶための必要情報をまとめたメインコンテンツです。 これから画像生成を学びたい初心者の方や、手描きイラストにAI技術を取り入れてみたい方が最初に読む記事として、必要知識が網羅的に備わるよう解説しています。素敵なイラストを思い通りに生成するために覚えるべきことを紹介しつつ、つまずきやすいポイントや参照すべき過去記事、やってはいけないことなどを紹介していますので、最初にこの記事から読んでいただくとスムーズに理解できるはずです。 解説役は更木ミナちゃんです。よろしくお願い
CS50 for Japanese: コンピュータサイエンスの入門 – 当ウェブサイトは、Creative Commons ライセンスに基づいて管理されています。
お知らせ: 2022/9/1 CS50 を活用した非営利／協賛企業による「コロナ学生支援」プロジェクトを実施中 ▼ 学生の方へ：CS50 の学習（履修証明書の取得）を一緒に取り組むプロジェクト CS50日本語版の翻訳コントリビューターである CODEGYM が主催する、非営利／無償のプロジェクト「CODEGYM Academy (外部リンク)」は、昨年に続き2022年度（春/秋）も、キャリア選択を控えた学生に対し、以下の企業の協賛により無償で17週間のプログラミング教育カリキュラムを提供します。 CODEGYM Academy 協賛企業（2022年） https://codegym.jp/academy/ 今年度のエントリーは締め切りました — ようこそ！ このページは、ハーバード大学 CS50 の日本語版翻訳プロジェクトのページです。当サイトのドメインに掲載されているコンテンツは、Cre
WebAssemblyとWebGPUを用い、Webブラウザ上でStable Diffusion Turbo全体を高速実行可能な推論エンジン「ONNX Runtime Web 1.17」マイクロソフトから登場
WebAssemblyとWebGPUを用い、Webブラウザ上でStable Diffusion Turbo全体を高速実行可能な推論エンジン「ONNX Runtime Web 1.17」マイクロソフトから登場 ONNX Runtime WebがWebGPUに対応。Webブラウザ上でさらに高速な推論処理が可能になった。Stable Diffusion Turbo全体をWebブラウザ上で高速に実行可能で、RTX4090を用いた場合1秒以内で結果が出力される。 ONNX Runtime Webの基になっている「ONNX Runtime」はクロスプラットフォーム対応の推論エンジンです。TensorFlow、PyTorch、SciKit Learnなどをはじめとするさまざまな機械学習のモデルに対応し、これらで生成されたモデルによる推論処理をプラットフォームに依存せず実行するランタイムの役割を果たします
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
F# ではじめる関数型プログラミング入門 (中巻)
NVIDIA、1パッケージに2ダイの新型GPU「Blackwell」。AI性能は学習4倍、推論30倍に
東工大Swallowプロジェクトにおける大規模日本語Webコーパスの構築
