はじめに 結論 背景 課題 Fine-tuning とは？ Data の準備 Fine-tuning を実施 結果 おわりに 参考 はじめに こんにちは、DROBE の都筑です。 みなさん LLM 使っていますか。今回は GPT-3.5-turbo の Fine-tuning の事例を紹介します。 結論 GPT-4 を利用して得られたデータを使って GPT-3.5-turbo を Fine-tuning する事で、特定のタスクに関しては GPT-4 相当の性能が出る事が確認できた GPT-4 利用時点で使っていたプロンプトをそのまま使った場合の性能が一番高く、token 節約のためにプロンプトの省略をすると性能が劣化した 背景 LLM を利用したサービスの開発において、OpenAI を利用する場合にはモデルの選択肢がいくつかあります。2023年9月現在では、GPT-4 と GPT-3.5-

システム運用アンチパターン ―エンジニアがDevOpsで解決する組織・自動化・コミュニケーション | Jeffery D. Smith, 田中 裕一 |本 | 通販 | Amazon エンジニアがDevOpsで解決する組織・自動化・コミュニケーション。早速お薦めしたく書いています。読書感想文です。 感想5点 良いぞ。周りに薦めたい 百聞一見。目次だけでも: https://www.oreilly.co.jp/books/9784873119847/#toc 特に自分にとって良かったのは以下 9章　せっかくのインシデントを無駄にする 10章　情報のため込み：ブレントだけが知っている だが、一番スゴイのは11章かもしれない 「文化を変えようと思うのであれば、文化がどのように共有されているかを理解すること」 コロナ以前は 議事録 会議 机横での雑談 飲み会 タバコなどなどあったが コロナ以降、リ

import torch x = torch.tensor([1., -1.]) w = torch.tensor([1.0, 0.5], requires_grad=True) loss = -torch.dot(x, w).sigmoid().log() loss.backward() print(loss.item()) print(w.grad)

どうも、まさとらん（@0310lan）です！ 今回は、JavaScript初心者から中級者までをカバーできる学習コンテンツを厳選してご紹介します。 完全無料で公開されているものばかりを集めており、なおかつ質の高いコンテンツを選んでいますので独学したい方にも最適です。テキスト、動画、本、Webアプリなど、さまざまな種類のコンテンツを楽しみながらぜひ学習に役立ててください！ ■学習を始める前に これからJavaScriptの学習コンテンツについて解説をしていく前に、ひとつだけ以下のサイトをご紹介しておきます。 【 The Modern JavaScript Tutorial 】 これはJavaScriptの基礎構文・DOM操作・非同期処理・サーバ通信など、ほとんどの学習項目を網羅したリファレンスのようなサイトです。海外で作られたサイトですが、うれしいことに日本語化されているので初心者にも扱いや

プログラマによるプログラミングのためのBGMなど、仕事や勉強の邪魔にならない無料で使えそうなBGM集。2021年版 在宅で仕事や勉強をしている時間が増えてくると、ずっと無音だと寂しい気がして、できればあまり気にならないBGMや環境音があるといいなあ、と思ったことはありませんか？ 最近流行しているYouTubeでの24時間365日ライブ配信のLoFiチャンネルにはそうしたニーズに応えてか、プログラマがプログラミングのためのBGMを配信しているものもあります。 YouTubeの再生には動画広告が付き物ですが、ライブ配信では最初に広告が再生されると、あとは広告なしでずっと配信が続くため（少なくとも記事執筆時点では）、BGMとして使うのにぴったりです。 この記事ではそうしたYouTubeの配信を中心に、仕事や勉強のBGMとして使えそうなサービスを紹介していきましょう。 いわゆるLoFiチャンネルと

ソーシャル経済メディア「NewsPicks」の運営・開発を行う株式会社ニューズピックスは、近年、DX（Developer Experience：開発者体験）の向上に注力しています。CPO、CTO、VP of Eと、3名のエンジニアがボードメンバーに名を連ねる同社のDXへのこだわりは徹底しており、「DX向上」は経営における重要項目としても取り扱われています。 背景にあるのは、エンジニア組織をスケールさせる、という強い意思。近年、同社の開発組織は著しく拡大していますが、今後、さらにエンジニアを迎え入れるためには、良質なDXが得られるシステム、組織であることが不可欠だと考えているといいます。では、肝心要のDX向上はどのようにデザインされ、実行されているのでしょうか。 本稿の読者も含め、世のエンジニアの方々に向けて同社のDXをプレゼンテーションし、応募を促進するべく、CTOの高山温さん、そして最前

2020年は新型コロナウイルスの流行、それに伴うリモートワーク（テレワーク）やワーケーション、オンライン授業での学習といった大きな社会的変化がありました。 意図せず起きた変化ではありましたが、働き方や学び方の変化は、自分次第で何かを大きく変えられるチャンスでもあります。内閣府の調査*1によると、在宅勤務などで生じた空き時間を新たな挑戦に充て、オンライン学習でプログラミングなどIT関連の学習に取り組む社会人が増えているとのこと。 めまぐるしく変わる社会へ適応するためには、自分にとって必要な情報を見極めるだけでなく、時代と共に学び続ける姿勢も必要。新しい学びはきっとあなたの強い味方になってくれることでしょう。ちょうどオンライン学習プラットフォーム「Udemy」では、2020年12月30日（水）～2021年1月7日（木）の間、対象の講座を1,200円から受講できる新春セールを開催。講座は買い切り

引っ越すことになった。 仲介業者のお店に行って、いい感じの物件を見つけたので、速攻見積もりをしたのだが、めちゃ高い。 敷金、礼金、仲介手数料、鍵の交換...。賃貸借りるのに色々かかりすぎでは？と思ってた。 ただ、交渉の知識もないしなあ〜〜〜と思っていたら、以下のツイートをたまたま発見。 ワイ「国交省ガイドラインには鍵交換は貸主が負担するのが妥当ってあるよなぁ？」 不動産「見積もりから削除しました！」 ワイ「仲介手数料1か月分になっとるけどはワイの承諾がなければ半月分のはずよな？」 不「半月分に訂正しました！」 ワイ「書類作成代2万とか舐めてんの？」 不「いりません！」— ぴっぴ先生 (@hihihi_sensei) 2018年6月16日 おっ？エビデンスベースで詰めるなら、自分もイケるのでは？と思って調べたことのまとめ メール等でやりとりできると最高にラク まずはじめに、交渉するなら担当者

文 @fumisan810614 今日からWBC⚾︎2次ラウンド開幕‼ 侍JAPAN､オランダに勝つぞー！！！！！！！！！！＼(^o^)／ 宇賀アナ､グラウンドレベル中居くん､古田さん‼ #wbc2017 #侍JAPAN pic.twitter.com/O95FpVa6zU 2017-03-12 18:32:54

小６の息子がめでたく中学受験を終えたところ、通っていた塾から「受験体験記」の執筆依頼が来たのだが、1200字程度で収めないといけないらしく、思いの丈の全ては到底書ききれないので、その下書き代わりにこちらに字数制限なしで書こうと思う。 それに、どれだけうまく1200字に収めようと、自分がこれから書く内容はきっと塾の受験体験記集には採用されないので、せっかく書くのに日の目を見ないのも切ないという事情もある。 公立派 vs. 私立派そもそも自分は中学受験の必要性を何ら感じていなかった。気軽に通える範囲に私立中学などない田舎で育ったし、気合を入れて遠距離の私立中学に通わせようとなどという教育熱心な家庭でもなかった。 通った近所の公立中学は荒れていた。不良な上級生が授業時間中に教室外にたむろして騒ぎを起こし、先生一同でそれに対処するために授業が中止になることや、校内を卒業生がバイクで走り回るなんてこ

記事のタイトル通り、競馬で回収率100%を超える方法を見つけたので、その報告をする。 ちなみに、この記事では核心部分はぼかして書いてあるため、読み進めたとしても「競馬で回収率100%を超える方法」が具体的に何なのかを知ることはできない。（私は本当に有効な手法を何もメリットが無いのに公開するほどお人好しではないので） 本当に有効な手法を見つけたいのであれば、あなた自身がデータと向き合う以外の道は無い。 ただし、大まかな仕組み（あと多少のヒントも）だけは書いておくので、もしあなたが独力でデータ解析を行おうという気概のある人物なのであれば、この記事はあなたの助けとなるだろう。 ちなみに、これは前回の記事の続きなので、読んでない方はこちらからどうぞ。 stockedge.hatenablog.com オッズの歪みを探す さて、前回からの続きである。 前回の記事のブコメで「回収率を上げたいならオッズ

コミュニケーションが生まれるツイートまとめツール

Amazonアソシエイトの稼ぎ方 ※ご指摘頂いたので作成した画像に変更しました 最初は記事中にちょこちょこ貼っていたんですが、クリック数が全くもって伸びませんでした あーこりゃいかん！ ということで、どうすれば伸びるのかクリックされやすのかなどを自分なりに考え、実践したのは下記3点 たったこれだけです は？そんなんやってるわボケって言われたらそこまでなんですが、単純に3つの事をやっているわけじゃありません おすすめベスト10！みたいに紹介する こういう記事は検索から来る方が圧倒的に多いです この商品ほしいけど、同じ物たくさんあるし、どれがいいんだろう？ あっ！ググればいいんだ...！みたいな それでランキング形式になっていたらどうでしょうか？ 10位まであったら、大体1-3位までの商品をチェックすると思うんです ベスト10！とかあっても正直5〜10位あたりはあまり見ないんじゃないかなぁと自

我が家にプラレールがやってきた 我が家にプラレールがやってきたのは数ヶ月前。 私の妊娠期間中、思うように動けない私に代わって主人が子どもと一緒に遊ぶために買ってきてくれました。電車大好きな息子。プラレールも毎日YouTubeで動画をチェックするほどの熱の入りよう。 買ったその日からプラレールに夢中になりました。 保育園がお休みの日に主人とお出かけするのが大好きな息子。お目当ては電車に乗れることと、プラレールを買ってもらえるかもしれないから。 優しい主人は出かけるたびに息子に、たくさんのプラレールを買ってくれました。 電車にレール、情景部品も小さい物から大きな物まで、一つまた一つと増え続け、いつの間にやらリビングに連なる4畳半の和室がプラレール部屋に。 レールはほぼ全種類揃ったようで、ブロック橋脚も大量にあります。 これだけあればプラレール博に匹敵するほど大規模で複雑なレイアウトも作れてしま

こんにちは！ ネット銀行の口座を10種類以上持っている、ノマド的節約術の松本です。 個人的に、銀行口座は徹底的にお得に使いたいと思っています。 そんな考えから、いくつも個人の銀行口座を持っているんですよね。 ネット銀行はどれも同じように思うかもしれませんが、1つ1つの銀行ごとに特徴や違いがあります。 数あるネット銀行の中でも、かなり評判がよいのがソニー銀行(MONEYKit)です。 結論から言うと、ソニー銀行には下記のようなメリット・デメリットがありますよ。 ソニー銀行を使うメリット Sony Bank WALLETを使うことでお得になるおまかせ入金サービスが手数料無料で使える各種手数料が無料になる（条件つき）ソニー銀行を使うデメリット おまかせ入金サービスの入金が遅いつみたてNISAは利用できない公共料金や税金の口座振替ができない

こんにちは、数字大好きで銀行の手数料や利率が気になる、ノマド的節約術の松本です。 銀行にお金を預ける時は「普通預金」になりますよね。 普通預金としてお金を預けていると、預入額に対して利息が付きます。 これは無条件で付くものですが、銀行によって普通預金の金利に思った以上の差があるのをご存知でしょうか？ 普通預金は、流動性の高い資金を預けておくところですけど、ほんの少しでも金利が高いところに預けているに越したことはありません。 このページでは、普通預金の金利が高い銀行をピックアップして、一覧やランキング形式でお金を預けるならどこの銀行がいいかを紹介していきますね。 一般的な銀行の普通預金金利は0.001%…現在、一般的な銀行の普通預金金利は0.001%となっています。 ほとんどの銀行がこの金利ですね。 冗談かと思うぐらい低いのですが、実はこれが現実の数字なのです。世知辛いですよね。 しかし、使

このページでは、定期預金で少しでもお金を殖やしたいと思っている方のためにあります。 1円でも多く利息を受け取るために銀行ごとの期間別の利率と満期時に受け取れる利息を計算できるようにしました。 また、銀行ごとの利率を徹底比較できるようになっていますよ。 そもそも定期預金って何？という方は以下のページから読んでみてくださいね。