タイトルの通りですが、このブログでは長年 Google AdSense を使った広告掲載を行っていましたが、今日から全て止めることにしました。止めるに至った理由はいくつかあるのですが、最近の無茶苦茶な広告の出し方に嫌気が差したのが一番大きいです。 正直これまで自分がブログに AdSense で広告を載せているのだから、広告ブロッカーは使わないようにしていたのですが、最近遭遇したページで以下のような広告を食らったので使用を決意しました。いったい何のサイトを開いたのかもわからないぐらいなので酷いですね。 広告ブロッカーのインストールを決意した瞬間であった… pic.twitter.com/tE39ZMxEd2— Tatsuro Shibamura (@shibayan) 2024年5月1日 元々、このブログでお金を稼ぐことは全く考えておらず「はてなブログ Pro 代が出ればいいなー」ぐらいの考
OpenAIのBatch APIを使ってお得にプロンプトを一括処理してみる - Taste of Tech Topics
はじめに こんにちは。データサイエンスチームYAMALEXのSsk1029Takashiです。 最近はOpenAIに日本支社が出来て、日本語対応が加速するというニュースにわくわくしています。 今回はそんなOpenAIから発表されたBatch APIという機能が便利、かつお得な機能だったのでどのように使えるのか試してみます。 Introducing the Batch API: save costs and get higher rate limits on async tasks (such as summarization, translation, and image classification). Just upload a file of bulk requests, receive results within 24 hours, and get 50% off API pri
こんにちは、commmuneでデータサイエンティストをしているひぐです。 人間が苦手なマルチタスクをLLMに任せたら、効果的に処理してくれるのではないか?というモチベーションのもと、Pythonの非同期処理を使って並列かつストリーミングでChatGPTの回答を出力するアプリを作りました🤖 例えば下記は、ある課題を入力すると、深さ・広さ・構造・時間軸という異なる観点で解像度を上げてくれるアプリケーションです。 アプリに関する登壇資料↓ このアプリ作成にあたってPythonの非同期処理を勉強したところ、最初は多くの専門用語(コルーチン、イベントループ...)や独自の記法により、全体像をつかむのに苦戦しました。一方で、学んでみると予想以上にシンプルな記法で実装できること、そして応用範囲が広くて便利だと理解しました。 この記事では、そんな少し取っつきにくけど便利なPythonの非同期処理にフォー
マイクロソフトは4月23日、生成AI向けの小規模言語モデル（SLM）「Phi-3-mini」を発表した。 Phi-3-miniは、パラメーター数が38億の比較的小型軽量な言語モデル。単純なタスクに適しており、特定のニーズに合わせて容易に微調整できる点を特徴とする。スマートフォンや自動車のコンピューター、リモートカメラといったリソースの少ないデバイスでも利用できるほか、オフライン動作にも対応し、ネット接続が困難な地域でも生成AIの恩恵を受けられるという。 同社が実施したベンチマークテストでは、パラメーター数で勝るメタの「Llama 3-8B-in」（80億）や、グーグルの「Gemma 7B」（70億）に対して、より優れた性能を発揮。特にLlama 3に関しては、4月18日のリリースからわずか5日でPhi-3-miniに追い越される形となった。 ただしPhi-3-miniも万能ではなく、広範な
基本概念から理解するAzure AI Search - Azure OpenAI Serviceとの連携まで - 電通総研 テックブログ
こんにちは。XI 本部AIトランスフォーメーションセンター所属の山田です。 先日、部内の勉強会でAzure AI Searchについて紹介したので、テックブログでもその内容を紹介したいと思います。 Azure AI Searchとは？ Azure AI Searchに保存されるデータに関する用語と概念 Azure AI Searchのスケーラビリティに関する用語と概念 Azure AI Searchでサポートされる検索の仕組み 全文検索について Azure AI Searchのアナライザー ベクトル検索について ベクトルの近傍検索アルゴリズム ハイブリッド検索 検索インデックスのスキーマ設計 検索インデックスにドキュメントを追加する方法 Pushモデル Pushモデルを利用する場合のアーキテクチャの例 Pullモデル Pullモデルを利用する場合のアーキテクチャの例 インデクサーの計算リソ
Azure OpenAI Service の Assistants API でデータ分析 - Taste of Tech Topics
こんにちは、igaです。 最近は気温の上下が大きいので、服装選びが大変ですね。 今回は、Azure OpenAI Servce Assistants APIを使ってみました。 Azure OpenAI Servce Assistants APIに横浜市の人口データを投入して、人口の増減がどう推移しているのか自動で分析させてみました。 Azure OpenAI Servce Assistants API Azure OpenAI Servce Assistants APIとは Azure OpenAI Servce Assistants APIは、2024年4月現在パブリックプレビューとして利用できる機能です。 learn.microsoft.com Azure OpenAI Servce Assistants API（以降、Assistantsと表記します）により、Azure OpenAI
Microsoftは、Microsoft Azureの本番環境で起きるメモリリークの問題にどう対処しているのか
Microsoftは2024年4月8日（米国時間）、Microsoft Azureの本番環境で起きるメモリリークの問題にどう取り組んでいるのか、公式ブログで解説した。 Microsoftは、Azureの本番環境で起きるメモリリークに総合的に対処するメモリリーク検出サービス「RESIN」を開発し、活用している。メモリリークがクラウドインフラに与える影響と、従来の検出手法における課題やRESINを活用して得られた成果を次のように解説している。 メモリリークは何が問題なのか 従来の検出アプローチや大規模環境ならではの課題とは インフラにおけるメモリリークはパフォーマンス、安定性、最終的にはユーザー体験に影響を与える問題だ。メモリリークが起きると、コンポーネントのパフォーマンスが低下し、OSのクラッシュや同じマシンで実行されている他のプロセスの遅延、停止につながることもある。 関連記事 「AIOp
パブリッククラウドサービスのコスト削減が多くの企業にとって課題の1つになっている。Microsoft Azureのような海外クラウドの料金はドル建てで、円安・ドル高が進むほど支払額は増える。Azureでのシステム開発や運用保守の経験が豊富なパーソルプロセス＆テクノロジーのスペシャリストが、Azureコストの削減の要点を伝授する。今回はクラウドの中核ともいえるVM（仮想マシン）とデータベースのコスト削減を取り上げる。 サイズ適正化の実態 Azureに限らずクラウドは従量課金制であることが重要な要素の1つであり、オンプレミス基盤と比較した際のコスト面における大きな特徴であった。オンデマンド＝「必要なものを必要な分だけ」という思想のもと、性能変動に合わせて設定を変更し、コストを最適化した状態で運用するつもりでクラウドを導入した企業は多いだろう。 実際、サイズの適正化にはコスト削減の余地が極めて大
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google AdSense の広告掲載を全て止めることにしました - しばやん雑記
Pythonの非同期処理の基礎とOpenAI APIへ並列リクエストする実践例
マイクロソフト最新SLM「Phi-3」 メタ「Llama 3」あっさり抜く
Azureコストを下げるサイズ適正化、SQL Databaseで半減した例も