並び順

ブックマーク数

期間指定

  • から
  • まで

361 - 400 件 / 3256件

新着順 人気順

機械学習の検索結果361 - 400 件 / 3256件

  • スト決行の米俳優組合、俳優とAIについてハリウッドのスタジオから行われた衝撃的な提案内容を明かす

    SAG-AFTRA(米映画俳優組合)が正式にストライキの決行を発表し、俳優たちが契約交渉において特に懸念している問題について、本日行われた記者会見で組合のリーダーがよりくわしい内容を明かした。その問題とは、AIだ。 俳優の同意や補償なく、AIベースの技術でその肖像を使用することに対する保護が、SAG-AFTRAの大きな争点であることはこれまでも伝えられてきた。しかし、本日の記者会見で、SAG-AFTRAの事務局長を務めるダンカン・クラブツリー=アイルランドは、AIに関するハリウッドのスタジオからの提案ついてさらなる詳細を明かした。これはかなり衝撃的な話だ。 ハリウッドのスタジオを代表して交渉にあたるAMPTP (映画製作者協会)から出された、俳優のデジタルの肖像を保護するための「革新的な」AIの提案とはどういったものなのか、質問を受けたクラブツリー=アイルランドははっきりと答えている。 「

      スト決行の米俳優組合、俳優とAIについてハリウッドのスタジオから行われた衝撃的な提案内容を明かす
    • 大規模言語モデルの開発

      2024年度 人工知能学会全国大会(第38回)チュートリアル講演1 本講演では、大規模言語モデルの開発に必要な基礎および最新動向を概観する。その後、東京工業大学情報理工学院の岡崎研究室と横田研究室、産業技術総合研究所の研究チームで開発された大規模言語モデルSwallowの開発経験を踏まえ、学習データの構築、モデルの学習や評価などを説明し、日本語に強い大規模言語モデルの現状や課題を議論したい。

        大規模言語モデルの開発
      • Google Analytics 4 でミスされやすい・誤解されやすい「設定」7選(寄稿:小川卓) - はてなビジネスブログ

        株式会社HAPPY ANALYTICSの小川卓(id:ryuka01)です。 Google Analytics 4 の本格利用がGoogle Analytics終了とともに始まり、多くのサイトや企業が移行を完了したと思われます。しかしGA4は新しい計測形式になり、混同しやすい内容が増えました。特に今までGAを使っていた人ほど、誤った理解で設定を行ったり、数値の定義を間違えて理解してしまいます。 そこで今回は注意するべきポイントを7個まとめてみました。みなさんが正しく設定や理解をできているかを1つずつチェックしながら、ぜひ本記事をご覧ください。 事実1:Google Analytics 4ではコンバージョンのカウント方式が2種類ある 事実2:「データ保持」の期間設定は「探索レポート」のみ反映される 事実3:拡張計測機能で設定した取得項目を見るためには設定が必要な項目もある 事実4:内部トラフ

          Google Analytics 4 でミスされやすい・誤解されやすい「設定」7選(寄稿:小川卓) - はてなビジネスブログ
        • AI時代にこそTDDだと思う話

          GitHub Copilot、みなさん使ってますか?すでに多くの方が利用しており、「ないと困る」という方から「提案の質に問題がある」「まだまだ使えない」という方まで、様々な意見を聞きます。 筆者はGitHub Copilotに対して非常にポイティブな立場です。GitHub Copilotは使い方次第で開発速度を格段に向上させることを身をもって体験しており、これからの時代においてはGitHub CopilotなどのAIツールを使いこなせるかどうかで、個人の開発速度に非常に大きな差が出ると考えています。 重要なのは使い方次第と言う点です。前述のように様々な感想が溢れているのはAIツールの習熟度が大きく影響しているようにも感じます。AIツールは静的解析同様、利用者側の手腕が大きく問われるツールであると筆者は感じています。コマンドプロンプトエンジニアリングという言葉もあるように、AIツールを使いこ

            AI時代にこそTDDだと思う話
          • Webアプリ版Photoshopを実現させた最新Web技術をGoogleが紹介。WebAssemblyのスレッドによる高速化、ストリーミングコンパイル、Web Componentsなど

            Webアプリ版Photoshopを実現させた最新Web技術をGoogleが紹介。WebAssemblyのスレッドによる高速化、ストリーミングコンパイル、Web Componentsなど Photoshopは画像の作成や加工といった専門的な用途を目的に、長年にわたって作り込まれた代表的なデスクトップソフトウェアの1つと言えます。 プロフェッショナルな用途を満たす膨大な画像処理の機能を細かく作り込まれたユーザーインターフェイスから操作し、画像の変形や加工、フィルタリングなどの大量の複雑な演算処理が実行されるなど、Webアプリケーションへの移植を難しくする要素が満載です。 それらの困難を克服し、Photoshop Webではデスクトップ版Photoshopでよく使われる一般的な機能を、類似のユーザーインターフェイスでWebに実装し、商用サービスとして提供することに成功しました。 Photosho

              Webアプリ版Photoshopを実現させた最新Web技術をGoogleが紹介。WebAssemblyのスレッドによる高速化、ストリーミングコンパイル、Web Componentsなど
            • 日本語特化の言語モデル「Japanese Stable LM 2 1.6B」をリリースしました — Stability AI Japan

              ポイント Japanese Stable LM 2 1.6B(JSLM2 1.6B)は16億パラメータで学習した日本語の小型言語モデルです。 JSLM2 1.6Bのモデルサイズを16億パラメータという少量にすることによって、利用するために必要なハードウェアを小規模に抑えることが可能であり、より多くの開発者が生成AIのエコシステムに参加できるようにします。 ベースモデルとしてJapanese Stable LM 2 Base 1.6Bと、指示応答学習(Instruction tuning)済みのJapanese Stable LM 2 Instruct 1.6Bを提供します。両モデルともStability AI メンバーシップで商用利用が可能です。また、どちらのモデルもHugging Faceからダウンロードすることができます。 Japanese Stable LM 2 Base 1.6B

                日本語特化の言語モデル「Japanese Stable LM 2 1.6B」をリリースしました — Stability AI Japan
              • PandasからPolarsへ移行した方がいいのか - Qiita

                なぜこの記事を書くのか 皆さん、データ解析を行う際にどのようなライブラリを用いているでしょうか。 おそらく大半の人はpandasを使っているのではないでしょうか。 私もpandas使ってます。簡単だよね(´・ω・`) しかし、業務でバカクソでけえデータを読み込もうとしたときに、読み込み時間がとんでもなくかかったり、メモリ不足でそもそも読み込めもしないことが起きていました。 読み込みにメモリ食われすぎて他の作業ができずに待機した挙句、燃え尽きたかのようにノーパソのファンが止まると同時にメモリ不足のエラーが出たときには切れ散らかします。 (画像元:葬送のフリーレン公式Xアカウントのポストより) そんなこともあり、AWSなどのクラウドサービスでメモリに余裕を持たせるためにめちゃくちゃ良いインスタンスを使用していましたが、コストの問題で断念しました。 しかし、どうしても読み込みたいということもあり

                  PandasからPolarsへ移行した方がいいのか - Qiita
                • シニアエンジニアの先にある「スタッフエンジニア」という役職 書籍『Staff Engineer』から見る4つの役割

                  「【t_wada & masuidrive CARTA探訪】スタッフエンジニアというキャリア」は、書籍『スタッフエンジニア マネジメントを超えるリーダーシップ』の監修・解説を担当した増田氏を招き、スタッフエンジニアという役職について学ぶイベントです。基調講演には増井氏が登壇。まずはスタッフエンジニアの役割について紹介します。 増井氏の自己紹介 増井雄一郎氏:よろしくお願いします。今日これから話をする増井雄一郎と言います。あらためてよろしくお願いします。 僕のアイコンはお風呂に入っている姿のアイコンで、ここ20年ぐらいずっと使っています。16歳ぐらいの時にフリーランスのエンジニアとして仕事を始めたので、そこから考えると30年ぐらいエンジニアをしています。 僕の名前がけっこうよく出ていたのは前職のトレタという名前の会社にいた時で、あとはiPadの受け付けのアプリのハッカソンで作って、それをいろ

                    シニアエンジニアの先にある「スタッフエンジニア」という役職 書籍『Staff Engineer』から見る4つの役割
                  • GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム

                    はじめに 5月からTuringに中途入社した棚橋です。リクルートで広告配信システムの開発や量子アニーリングに関する研究開発に関わっていました。現在、Turingのリサーチチームで完全自動運転システムの研究開発に取り組んでいます。 3行でまとめ 今月開催されるCVPR2023では約2400本もの論文が発表されるため、見るべき論文を事前に検索しておきたい。 社内で行われた大規模言語モデル(LLM)ハッカソンをきっかけに、LLMのEmbeddingを用いて論文の「検索・推薦・要約」システムを作成し公開した。 検索クエリに文章を使った曖昧な検索が行えたり、類似論文の推薦ができる。6/13にアップデートされたGPT3.5の新機能であるファンクション機能を使うことで、複数観点に分けて研究内容の要約を出力させた。 ↓ 今回作成した、LLMを使ったCVPR論文検索システム 事の発端 Turingは、ハンド

                      GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム
                    • Llama

                      Llama is the next generation of our open source large language model, available for free for research and commercial use.

                        Llama
                      • AIアニメの作りかた ComfyUI|852話

                        AIアニメの作り方を説明していきます。 ざっくりな説明は上の動画を見ていただければわかるんですが、 少し細かい説明がこの記事になります。 完成物これはワンダープロジェクトJ2というゲームの二次創作アニメですが、30年近く前の作品です。 今回の流れは ・AIの一枚立ち絵を用意する ・AnimateAnyone-Evolvedで骨に沿って動かす ・AAEでつくった画像をControlnetをかけつつAIブラッシュアップ ・AfterEffectsで背景抜き ・AI背景一枚絵を用意する ・Runwayで動かす(ComfyUIでもできるが質がいいし時短になる) ・キャラの後ろに配置、キャラの画像を複製して影にして足元に配置 ・完成 です。 作業はComfyUIで行います。 ・AIの一枚立ち絵を用意する ・AnimateAnyone-Evolvedで骨に沿って動かす 骨を抜いたのはこちらのフリー動画

                          AIアニメの作りかた ComfyUI|852話
                        • Stable Diffusion から特定の概念を忘れさせる学習を行ってみる

                          TL;DR ESD の手法で LoRA を学習してみたらそれっぽい感じのことができたよ VRAM 8GB で余裕で学習できるようになったよ (元は20GB要求) LoRA として保存できるようになったので重みの取り回しが良くなったよ マイナス適用によって、概念を削除するだけでなく強調することもできたよ 一度でも画像生成 AI に触ったことがあると、より楽しんで読めると思います。 論文とかどうでもいいから学習方法知りたい! という方は 実際に学習してみる へどうぞ! 今回作成したもの コード: モデルなど: 前提 Stable Diffusion とは、Stability AI らが公開したオープンソースの画像生成 AI であり、テキストによる指示で様々な画像を生成することができる。 本来の Stable Diffusion は、実写画像や海外風のイラストを出力することが得意だが、アジア系の

                            Stable Diffusion から特定の概念を忘れさせる学習を行ってみる
                          • 最近観測されている DNS トンネリングのトラフィック

                            By Ruian Duan and Daiping Liu October 16, 2023 at 1:38 AM Category: Malware Tags: Advanced URL Filtering, Cobalt Strike, Cortex XDR, Decoy Dog malware, DNS security, dns tunneling, DNSTT, FinCounter, next-generation firewall, VPN This post is also available in: English (英語) 概要 本稿は、DNS (ドメイン ネーム システム) のトンネリング技術が野生で (in the wild) どのような理由と方法で利用されているのかに関する研究をご紹介します。またこの研究結果に基づいて、トンネリング ドメインをツールやキャンペーン

                              最近観測されている DNS トンネリングのトラフィック
                            • プログラマ視点での生成AIとの付き合い方

                              プログラミングについて、最近考えてることについてのポエム。 基本的に、 GPT-4 と Claude-3-Opus を使った経験を念頭に置いて話をする。機械学習エンジニアではないので、あくまで利用者に徹した視点での話。仕事で生成AIを使ったパイプラインを作ったりはしている。 生成AIの進化速度を予測しておく 今大事なことは、今AIがどの程度の性能かという定点の話ではなく、その進化の速度を認識すること。 コード生成というタスクにおいて、生成AIモデルを人間に当てはめると、こんな感じの人物像を自分は持っている。 GPT-4: プログラミング経験2年目の大学2年生 Claude-3-Opus: プログラミング経験3年目の大学3年生 ここでいうn年目は、業務経験ではなく、プログラミングの単位がある大学での、教育課程としての経験年数。今のひたすら学習量を増やす方式だと、単に1年に1年分ぐらい賢くなっ

                                プログラマ視点での生成AIとの付き合い方
                              • Cursor Proを3日間で300回も使い倒してみた所感

                                はじめに AI搭載コードエディターCursorが話題なので自分にとって使いやすいのか実験してみました。 まだまだCursorの実験途中ではありますが、CursorProをサブスクしてたった3日でgpt-4に332回聞いてました。 Cursorはプロンプトの会話から現在のコードにDiffで提案してくれたり、エラーを解決してくれたり本当に便利で最高なのですが、頼り過ぎも良くないなと反省することもあったので、やったこと全部と感想をシェアしていきたいと思います。 やったこととしては、Cursorのチャットに質問しながら予備知識のないChatVRMというオープンソースのチャットアプリケーションの追加実装をしました。わりと簡単に実装できたこととうまくできなかったことがあるので例を挙げて紹介していきます。 Cursorとは Cursor(カーソル)とは、VScodeをフォークして作られたOpenAIのg

                                  Cursor Proを3日間で300回も使い倒してみた所感
                                • ChatGPT Code Interpreterで気象データを分析する - Taste of Tech Topics

                                  最近は、健康系アプリにはまっているkonnoです。 今年は本当に暑いですね...過去〇〇年で最高、などと言われることもありますが、でも、実際のところはどうなんでしょうか? 今回は、データさえ与えればあっという間に分析してくれるCode Interpreterを使って、過去の気象データから気温変化の傾向を見てみたいと思います。 気象データをCode Interpreterで分析 気象データを取得する 今回使用する気象データは、気象庁が公開している「過去の気象データ・ダウンロード」という以下のページから取得しました。 www.data.jma.go.jp 条件としては、以下のようにしています。(※今回は2022年12月31日までのデータを使用しています。) 項目 内容 地点 横浜 項目 日平均気温 期間 1893/01/01 ~ 2022/12/31 表示オプション デフォルト設定のまま ファ

                                    ChatGPT Code Interpreterで気象データを分析する - Taste of Tech Topics
                                  • 研究ツールまとめ2023|cvpaper.challenge

                                    はじめに今年の夏, MIRU 2023 チュートリアルにて「CVPR 2023 速報」[Full ver.] [MIRU ver.]を発表させて頂きました. MIRU2023会期中, 非常に辛(から)かった飲み会の席にて偶然にも面白いB4の学生さん(Oさん)とお話する機会がありました.その出会いをきっかけに, Oさんとは共同主著を前提として共同研究を実施させて頂くことになりました. もちろん, OさんはB4の学生さんということもあり, 初めての研究でコーディング未経験という状態からのスタートです. かねがね, cvpaper.challenge研究メンバーとしても, 極めて変化の激しいコンピュータビジョン分野にてトレンドを創出するためには, どのように効率的に研究を進めていけば良いのか, 研究メンバーのプレゼンスを最大化するための方法論については片岡さんとも相談を重ねていました. また,

                                      研究ツールまとめ2023|cvpaper.challenge
                                    • “仲が良すぎる会社”は1人の影響が組織全体を揺るがすことも Googleの調査結果から考える「心理的安全性」の本質

                                      部下の力を最大限に引き出す育成をするためには、どのような関わりをすればよいのか。褒める・叱るではない「行動承認マネジメント」のノウハウを、株式会社シンプルプランの丸茂喜泰氏が解説します。本記事では、生産性の高いチームの特徴をもとに、自社でオープンなコミュニケーションを作り上げていくためのポイントを解説しました。 前回の記事はこちら 管理職が担っている3つの役割 丸茂喜泰氏:あらためて本日のゴールです。私としましては、みなさまがご自身の日頃の行動に照らし合わせた際に、「できているか?」を点検する機会にしていただければなと思って、進めていければと思っております。 では、今日のテーマである「行動承認マネジメント~褒める叱るじゃない若手社員の育て方~」をお話ししていければと思います。この話に入る前に、一応確認でございますが、今回のテーマはマネジメントです。管理職や職場のマネージャーと呼ばれるような

                                        “仲が良すぎる会社”は1人の影響が組織全体を揺るがすことも Googleの調査結果から考える「心理的安全性」の本質
                                      • 生成AIによる「慣用表現の『乗っ取り』」と、その根底にある別の問題と - 渋谷駅前で働くデータサイエンティストのブログ

                                        かなり前から「ChatGPTに学術論文を(英語で)書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告!📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 (限界助教先生の記事

                                          生成AIによる「慣用表現の『乗っ取り』」と、その根底にある別の問題と - 渋谷駅前で働くデータサイエンティストのブログ
                                        • 「顔を右に」「口を開く」など画像の動かしたい部分をAIがいい感じに修正してくれるツール「DragGAN」のソースコード&デモが公開される

                                          AIを使って画像を生成する時、「ちょっとだけ修正を加えたい」と思うことは多いもの。そんな人たちの夢をかなえるツールが「DragGAN」です。DragGANは画像の中で動かしたいポイントを指示するだけでAIが自動で修正してくれるというもので、2023年5月に論文だけが提出されていましたが、2023年6月22日にソースコードが公開され、同時にデモも登場しました。 GitHub - XingangPan/DragGAN: Official Code for DragGAN (SIGGRAPH 2023) https://github.com/XingangPan/DragGAN Drag Your GAN: Interactive Point-based Manipulation on the Generative Image Manifold https://vcai.mpi-inf.mpg.

                                            「顔を右に」「口を開く」など画像の動かしたい部分をAIがいい感じに修正してくれるツール「DragGAN」のソースコード&デモが公開される
                                          • 漫画家の絵柄、AIでそっくり再現「ピュアモデルAI」ができたワケ (1/3)

                                            発表当初は、画像生成AIに詳しいXユーザーのあいだで「画像生成AI『Stable Diffusion』で、追加学習モデル『LoRA』を使っているだけでは」という疑問の声も出ていたが、エンドルフィンは4月5日にプレスリリースを出し、「私たちが提供しているサービスは、公開されている汎用モデルを活用した生成AIとは一線を画しています」として、画像の生成までに独自のプロセスを踏んでいる旨を説明している。 話題の「ピュアモデルAI」ができた経緯や、その技術的背景について、連載「メタバース・プレゼンス」を執筆している新 清士氏とアスキー編集部で、エンドルフィンの代表と、サービス開発元のスーパーエンジンのCEOに話を聞いた。 生成AIは「アナログからデジタル」の変化と同じ ── 最初にそれぞれの会社について教えてください。 ジェームズ キム・ドンジュン 2022年下半期ごろから、生成AIに関心をもって、

                                              漫画家の絵柄、AIでそっくり再現「ピュアモデルAI」ができたワケ (1/3)
                                            • 何故日本のAI技術は中国人に完全敗北したのか?|瑞島フェレリ

                                              はじめに 自分は去年の今頃(2022年12月)に、「AIアートとMMDについて。金は著作権より重い。」という記事を書いた。 https://archive.is/l9iKV その記事を書いたら、「MMDは日本の3DCGを破壊してしまった 」という記事も合わせてバズった。 「MMDは日本の3DCGを破壊してしまった (2022年度版)2022/08/16加筆」 https://archive.is/DenAN 2018年に日本の3DCGがMMDでガラパゴス化したと指摘され、およそ3年が経過した。 現在の日本の3DCGはどうなってしまったのか? 結論から言えば中国(ビリビリ動画)に日本の3DCG(ニコニコ動画)は完全に追い抜かれてしまった。 日本の白物家電が中国・韓国製に駆逐されたのと同じように、世界から完全に取り残されてしまったのだ。 MMDは日本の3DCGを破壊してしまった (2022年度

                                                何故日本のAI技術は中国人に完全敗北したのか?|瑞島フェレリ
                                              • 脳でトラウマ記憶がつくられる仕組みの一端、マウス実験で解明

                                                強い恐怖の体験をいつまでも忘れられない「トラウマ記憶」が脳でつくられる仕組みの一端を解明したと、自然科学研究機構生理学研究所(愛知県岡崎市)などの共同研究グループが発表した。マウスの動物実験で、恐怖の体験をすると脳の「前頭前野」に新しい神経細胞ネットワークができることを確認。研究成果は心的外傷後ストレス障害(PTSD)などの難治性精神疾患の治療法研究につながる可能性もあるという。 トラウマ記憶は突然呼び起こされ、フラッシュバックとも呼ばれる。実生活にさまざまな不自由を強いることがある。これまでの研究で大脳皮質の前頭前野が関わり、多くの神経細胞の集団によって保持されていることなどは分かってきた。しかし、脳神経細胞の情報処理ネットワークの構造は複雑でトラウマ記憶ができる詳しいメカニズムは解明されていなかった。 生理学研究所の揚妻正和准教授、鍋倉淳一所長や大阪大学産業科学研究所の永井健治教授のほ

                                                  脳でトラウマ記憶がつくられる仕組みの一端、マウス実験で解明
                                                • 生成AIの「RAG」とは? 知っておきたい重要キーワードを解説する【イニシャルB】

                                                    生成AIの「RAG」とは? 知っておきたい重要キーワードを解説する【イニシャルB】
                                                  • ニューラルネットワークの中身を分割してAIの動作を分析・制御する試みが成功、ニューロン単位ではなく「特徴」単位にまとめるのがポイント

                                                    GoogleやAmazonが投資するAIスタートアップのAnthropicの研究チームが、ニューラルネットワークがどのように言語や画像を扱っているのかを解き明かす研究において、個々のニューロンを「特徴」と呼ばれる単位にまとめることでニューラルネットワークの中身を解釈しやすくなるという研究結果を発表しました。 Anthropic \ Decomposing Language Models Into Understandable Components https://www.anthropic.com/index/decomposing-language-models-into-understandable-components 大規模言語モデルは多数のニューロンが接続されたニューラルネットワークで、ルールに基づいてプログラミングされるのではなく、多数のデータを元にトレーニングを行うことでタス

                                                      ニューラルネットワークの中身を分割してAIの動作を分析・制御する試みが成功、ニューロン単位ではなく「特徴」単位にまとめるのがポイント
                                                    • OpenAI「GPTs」がもたらす革命 誰でも「自分のコパイロット」時代へ【西田宗千佳のイマトミライ】

                                                        OpenAI「GPTs」がもたらす革命 誰でも「自分のコパイロット」時代へ【西田宗千佳のイマトミライ】
                                                      • 生きたヒトの細胞で“心臓の心室”を3Dプリント 100日以上自発的に拍動 ドイツの研究者らが開発

                                                        Innovative Tech: このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: @shiropen2 ドイツのFriedrich-Alexander-Universitat Erlangen-Nurnberg(FAU)とJulius Maximilians-Universitat Wurzburg(JMU)に所属する研究者らが発表した論文「Direct 3D-bioprinting of hiPSC-derived cardiomyocytes to generate functional cardiac tissues」は、ミニチュアサイズの心臓の心室を生きたヒトの心筋細胞で3Dプリントする手法を提案した研究報告である。100日間以上の自発的な鼓動を

                                                          生きたヒトの細胞で“心臓の心室”を3Dプリント 100日以上自発的に拍動 ドイツの研究者らが開発
                                                        • 大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part1

                                                          はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 大規模言語モデル(Large Language Model: LLM)への注目がGPT-4のリリース以降高まっていますが、LLMを作るための知見は十分に共有されているとは言い難いと個人的に感じています。 Turingでは、Vision and Language, Video and Languageなどのマルチモーダルなモデルの研究開発を行っている一環として、Megatron-DeepSpeed, GPT-NeoXなどを用いて数十Bのモデルの学習を行う知見を蓄積しています。今回はLLMの事前学習を行う際に候補となるMegatron-DeepSpeedを用いてGPT-2-7B(6.6B)の学習をどのように行うのかについて解説します。 分散並列学習がどのよう

                                                            大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part1
                                                          • フランスでのエンジニア就活体験記 | Hippocampus's Garden

                                                            フランスでのエンジニア就活体験記August 19, 2023  |  15 min read  |  6,939 views jafrancecareerフランスのスタートアップでソフトウェアエンジニアとして働くことになったので、そのときの体験と面接対策について書きます。 自分の個人的経験について公に語るのは気が引けるものですが、私自身、海外就活をする上で、先達が書いた同様の体験記1234を大いに参考にしました。しかし、日本からフランスでの仕事を探したという事例はまだまだ希少なので、フランスでエンジニアとして働くことに関心のある方に向けて少しでも情報提供をできればと思い、筆を取りました。また、今後は家探しやフランス語のことなど、パリでの生活事情についても書いていければと思っています。 さて、本編に入る前にお断りですが、「海外就活」と一口に言っても、国やその人の国籍、職種、スキル、準備期間

                                                              フランスでのエンジニア就活体験記 | Hippocampus's Garden
                                                            • 自動運転カメラの高負荷、その原因はLinuxカーネルのどこに?

                                                              はじめに Turing株式会社ソフトウェアエンジニアの堀ノ内です! 私が所属する自動運転チームでは2024 ~ 2025年に発売予定の自動車に搭載する自動運転システムの開発を行っています。Turingでは車両前方に取り付けられたカメラの画像を入力とし、機械学習モデルが進むべき経路を推論、その経路に沿って実際に車両を動かすための制御信号(ステアリング、アクセル、ブレーキ)をCANで車両に送信することで以下の画像のような自動運転を実現しています。 今回のブログでは以下について記載し、私達のチームの仕事内容について知って頂くきっかけになればと思います。 Turingの自動運転システムの紹介 GMSLカメラの評価と発生した問題 Linuxカーネル及びドライバのデバッグ Turingの自動運転システム Turingでは「カメラ画像入力 → 機械学習モデルで経路を推論 → 車両制御」の流れを実現するた

                                                                自動運転カメラの高負荷、その原因はLinuxカーネルのどこに?
                                                              • 俺が考える最強の「麻雀点数申告練習アプリケーション」を作ってみる ~ Pythonによる麻雀点数計算問題の自動生成と音声による点数申告 ~ - エムスリーテックブログ

                                                                こちらはエムスリー Advent Calendar 2023 1日目の記事です。 Overview エムスリーエンジニアリンググループ AI・機械学習チームでソフトウェアエンジニアをしている中村(po3rin) です。趣味は麻雀でフリー雀荘で毎年200半荘以上打ちます。好きな麻雀プロは園田賢さんです。 麻雀を始めるときに一番の障壁になるのは点数計算ではないでしょうか? 特に符計算が初心者の関門のようです。一方私のような初中級者でも突然のレアな点数申告にまごつくことがあります。 そこで、今回はその人に合った麻雀の点数計算問題(主に符計算が焦点となる問題)を生成して、自分で点数計算&点数申告の練習をする方法を探求したのでその紹介をします。麻雀用語が少しだけ登場するので、対象読者は麻雀を少しでもかじったことのあるエンジニアの方です。 Overview 麻雀の点数計算の難しさ 現状の点数計算の練習

                                                                  俺が考える最強の「麻雀点数申告練習アプリケーション」を作ってみる ~ Pythonによる麻雀点数計算問題の自動生成と音声による点数申告 ~ - エムスリーテックブログ
                                                                • 「Excel」にPythonを統合、データ分析と可視化のスムーズなワークフローを実現

                                                                  「Python」は現在、最も人気のあるプログラミング言語の1つである。Webアプリの開発から、近年需要が伸びているデータ分析や機械学習、深層学習といった幅広い分野で利用されている。コードが分かりやすく、読みやすいため、プログラミング知識が少ない人でも扱いやすい。そのため、企業や学生の間でも利用が増えている。そのPythonを、データの整理、操作、分析の定番ツールであるMicrosoftの「Excel」で簡単に扱えるようになる。 米Microsoftは8月22日(現地時間)、開発プレビュープログラム「Microsoft 365 Insiders」のベータ・チャネルで「Python in Excel」のプレビューテストを開始した。まずはWindows用Excel(build 16818)からロールアウトし、他のプラットフォームにも拡大する予定。 セットアップや追加のインストールは不要。Pyth

                                                                    「Excel」にPythonを統合、データ分析と可視化のスムーズなワークフローを実現
                                                                  • Bingチャット、画像生成AI「DALL-E3」対応 リアルな画像生成が無料で

                                                                      Bingチャット、画像生成AI「DALL-E3」対応 リアルな画像生成が無料で
                                                                    • ゲーム内の「村人のセリフ」をChatGPTで大量生成する方法(第2回)。データを大量に出力する | テクノエッジ TechnoEdge

                                                                      ディアナは、ネビルの農村で商人サリクの妻として知られている30歳の女性です。彼女は村で最も魅力的な女性の一人として広く認知されており、その美貌は訪れる商人や旅行者にも評判です。しかし、彼女の美しさに目が行きがちですが、ディアナの本当の魅力はその知性と商才にあります。 ディアナは商人としての夫をサポートすることで、自身も経済的な洞察力と交渉スキルを磨いてきました。彼女は村の外での取引にも積極的に関わり、新しい取引のチャンスを見つけ出すことで家族の生計を支えています。そのため、彼女は村の経済活動において重要な役割を果たしています。 一方で、ディアナは時に自分の意見を強く主張する傾向があり、これが近隣の村人や他の商人との間で小さな摩擦を生むこともあります。彼女は自分のビジネスセンスに絶対の自信を持っており、他人の意見や提案を軽視しがちです。このため、一部の村人からは少し傲慢と見なされています。

                                                                        ゲーム内の「村人のセリフ」をChatGPTで大量生成する方法(第2回)。データを大量に出力する | テクノエッジ TechnoEdge
                                                                      • Appleが「M3 MacBook Pro」の8GBのユニファイドメモリは16GBの他製品RAMと同等であると主張

                                                                        2023年10月31日、Appleが「M3」チップを搭載したMacBook Proを発表しました。このうち14インチモデルの最小構成は8GBユニファイドメモリ搭載ですが、8GBはクリエイティブなプロにとって十分な量とは言えず、増量しようにも購入時に3万円近く高いモデルを選ばなければなりません。「Pro」として販売するなら最低でも16GBからにしておくべきだったとの批判にさらされたAppleのマーケティング担当者がインタビューに答え、MacBook Proの8GBは、他のシステムの16GBと同等だとする説明を行いました。 Apple insists 8GB unified memory equals 16GB regular RAM https://appleinsider.com/articles/23/11/08/apple-insists-8gb-unified-memory-equa

                                                                          Appleが「M3 MacBook Pro」の8GBのユニファイドメモリは16GBの他製品RAMと同等であると主張
                                                                        • 新連載「AIだけで作った曲を音楽配信する」。生成AIが作り上げた架空バンド「The Midnight Odyssey」を世界デビューさせる、その裏側 | テクノエッジ TechnoEdge

                                                                          大規模言語モデル(LLM)でコンセプトを考えて、AI作曲サービスでボーカル入り楽曲を作り出す。そんなやり方で制作したコンセプトアルバムを音楽配信に載せるという話を、自ら音楽レーベルを主宰し、テクノロジー関連の執筆もこなしている山崎潤一郎さんに、数回にわたって執筆いただきます。

                                                                            新連載「AIだけで作った曲を音楽配信する」。生成AIが作り上げた架空バンド「The Midnight Odyssey」を世界デビューさせる、その裏側 | テクノエッジ TechnoEdge
                                                                          • 機械学習と自動微分 (2023)

                                                                            「最適化法」第15回(ゲストトーク), 2023年1月20日, 同志社大学.

                                                                              機械学習と自動微分 (2023)
                                                                            • 一番星はてののLINEスタンプっぽい画像を作ってみた - 一番星はての開発ブログ

                                                                              StableDiffusionを使ってLINEスタンプを作ってみたかったのでとりあえず画像を作ってみた。使っているモデルはaiceKawaice_channel。ちび系キャラを生成するのにいいらしい。 (追記)このモデルは画像販売が不可なのでLINEスタンプには使えなさそうです。 AICE冰可 | KawAICE[幼态特化模型] - Channel | Stable Diffusion Checkpoint | Civitai よく見るといろいろ粗はあるがパッと見はけっこう使えそうな感じなんじゃないだろうか。 この中では「ファイトですわ」の元気な感じと「ブックマークですわ」の微妙に面白くなさそうな感じが気に入っている。 ブクマするときの表情ってこんなんだよね。 作り方 LoRAを何度か試したが作り方が悪いのか、画像のパターン数が足りないのか結局ReferenceOnlyの方がいいクオリティ

                                                                                一番星はてののLINEスタンプっぽい画像を作ってみた - 一番星はての開発ブログ
                                                                              • 僕たちがグラフニューラルネットワークを学ぶ理由

                                                                                グラフニューラルネットワーク - Forkwell Library #50 https://forkwell.connpass.com/event/315577/ での講演スライドです。 サポートサイト:https://github.com/joisino/gnnbook グラフニューラルネットワーク(機械学習プロフェッショナルシリーズ)好評発売中!:https://www.amazon.co.jp/d/4065347823 連絡先: @joisino_ (Twitter) / https://joisino.net/

                                                                                  僕たちがグラフニューラルネットワークを学ぶ理由
                                                                                • フロントエンドを Vue.js から React にリプレイスしたお話 (前編) - NTT Communications Engineers' Blog

                                                                                  はじめての方、はじめまして。久しぶりの方、お久しぶりです。 イノベーションセンターの何縫ねの。(@nenoMake)です。 普段の業務ではソフトウェアエンジニアとして Node-AI という WEB アプリケーションの開発をしています。 パブリックな活動としては、好きな言語である C# 関係の OSS 開発や技術ブログの投稿、登壇などをしています。 ですが、今回は C# ではなくフロントエンドのお話をします...! この記事では今まで Vue.js 2.x で開発されていた Node-AI の WEB フロントを完全に捨て去り、React にリプレイスしたお話をつらつらとしていきます。 まずは前編ということで、リプレイスプロジェクト発足時の課題感からはじめ、プロジェクトの進め方や選定技術などについてお話しします。 後編には内部の設計などのより技術的なお話をしたいと思います。では前編スタート

                                                                                    フロントエンドを Vue.js から React にリプレイスしたお話 (前編) - NTT Communications Engineers' Blog