最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
自社でのChatGPT活用法を探るフレームワークの実践ガイド 企業がGPTを導入する際に直面する4つの壁
「”100年後の世界を良くする会社”を増やす」をミッションに掲げるコンサルティング会社 リブ・コンサルティングが、「自社プロダクトがキャズムを超えるためのGPT活用方法」をテーマとしたイベントを開催。今回は、同社シニアコンサルタントの島孝行氏が登壇したセッション「GPTがもたらす影響」の模様をお届けします。フレームワークを使ったChatGPTの実用事例の検討法などが紹介されました。 フレームワークを使ったChatGPTの実用事例の検討 島孝行氏（以下、島）：この（ChatGPTと自社サービスの連携を検討する際に使える）フレームワーク上で、御社のサービスにどう落とし込めるかや、当てはめられるかを考えることが、GPTを搭載するかの1つの鍵になります。 少しイメージが湧きづらいかなと思い、私のほうでケースを2つほど用意させていただきました。例えば、御社のサービスをSalesforceみたいなSF
IBM、AIモデル「Granite」をオープンソース化--商用利用も可能に
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 佐藤卓 吉武稔夫 （ガリレオ） 2024-05-14 09:50 大規模言語モデル（LLM）のオープンソース化は、容易なことではない。Open Source Initiative（OSI）に聞いてみればいい。同団体は、人工知能（AI）に対応したオープンソースの定義に2年近く取り組んでいる。また、Meta Platformsなど一部の企業は、自社のLLMをオープンソース化したと主張しているが、実際にはそうではない。だが、IBMはついに、このオープンソース化をやってのけた。 IBMは、GitHubで一般公開されているデータセット（「GitHub Code Clean」「Starcoder」、公開コードリポジトリ、イシューなど）で事前にトレーニングされたデータを利用して、コードLLM「G
Power Apps & GPT-4oを使って超高速で画像解析アプリを作る！ - Qiita
GPT-4o凄すぎる！！ 出たときから騒ぎまくっていましたが、GPT-4oの登場で興奮しっぱなしの私です。 先日こちらのQiitaの記事を拝読し、「Power Appsでやったらどうなるだろう🧐」という思いが抑えられず、作ってみたら超高速で画像解析アプリが作成できました！ あらためて記事を出してくださったことに感謝いたします！ まずは初弾！ということでGPT-4oを使って、 Power Appsで画像解析アプリを作成する方法 を書いていきます！ まずは見た目（Power Apps）から！ まずはPower Appsでサクっと画面を作ります！ PowerPoint感覚で作れることが強みですからね！ 最低限のもので構成しています。 画面 ├─ ScreenContainer - スクリーン全体 ├─ HeaderContainer │ └─ Header - ヘッダーコントロール ├─ Bo
速度・出力量・コスト効率最強の、Gemini 1.5 Flash！
はじめに おれの名前は樋口恭介。とにかく速いものが好きだ。そして今日は最近一番"速さ"を感じたものを紹介したい。そう、"Flash"のことです。 5月15日にGoogleの新しいモデル「Gemini 1.5 Flash」が発表され、ちょうどその日に名古屋イノベーターズガレージというところで生成AIのセミナーをすることになっていたので、その場で触ってみました。 そしたら……なんかプロンプト一発で1万字くらいが数分で出てきてしまい、あまりの衝撃で絶句してしまいました。LLMが出てきてから1年半くらい？ ほぼ毎日触っていますが、こいつらはまだおれを驚かせてくれる……。 以下は急に446行・約1万字が出てきて放心状態のぼくの様子。 まあこういうのは動きを見てもらうのが一番でしょうから、ぜひ見てみてください。以下、あらためて触ってみた様子を動画におさめたものです。 Flashのデモ動画 いやこれマジ
【速報】<del>3668,</del> 3664黒点群がヤバい (2024/5/10) (追記×3あり) - Deep Sky Memories
早朝目が覚めてコンビニに出かけたら空は快晴。前の晩に撮影すればよかったか、などと言っても後の祭りなのですが、そういえばなんかデカい黒点出てたよなと思い、リモートワークなのをいいことに始業前に太陽を撮影しました。それがこれ。 【注意！】 太陽の観察・撮影には専用の機材が必要です。専用の機材があっても些細なミスや不注意が失明や火災などの重大な事故につながる危険性があります。未経験の方は専門家の指導の元で観察・撮影してください。 3668, 3664 黒点群 (2024/5/10 07:38) 高橋 FSQ-85EDP (D85mm f450mm F5.3 屈折), 笠井FMC3枚玉2.5倍ショートバロー(合成F15.1)*1, バーダープラネタリウム アストロソーラーフィルターフィルム, ZWO UV/IR Cut Filter / Vixen SX2 / ZWO ASI290MM (Gain
AIを使った論文の読み方
近年の AI の進歩により、論文の読み方も大きく変化を遂げました。AI を活用することで以前と比べてはるかに簡単かつ早く論文が読めるようになりました。 以前私の個人ブログにて、論文の読み方やまとめ方を紹介しました。その時には要約ツールは用いていませんでしたが、最近はすっかり要約ツールを多用するようになりました。 本稿では、最新の AI を使った論文の読み方を丁寧に紹介します。 基本的な流れ 本稿でおすすめするのは ChatGPT か Claude で要約を生成して論文の概要をつかみ、Readable で精読するという方法です。ChatGPT や Claude では単に全体の要約を生成するだけでなく、肝となる箇所を特定したり理解するためにも用います。具体的な手順については後の項で解説します。 私が特定のテーマについて調査を行う場合には、テーマに関係する論文を被引用数の多いものを中心に 10
今すぐ使える！ ChatGPTで欲しい回答を生み出す「プロンプト」の書き方 その基本パターンを解説
ChatGPTを使ってはみたものの、思うような出力（回答）が得られずに「使い勝手が悪い」と感じていないだろうか。もしかしたら指示や質問の仕方に改善の余地があるかもしれない。本稿では、ChatGPTなどの生成AIをよりうまく扱うための「プロンプティング」の基本について、知識を整理していこう。 生成AIをコントロールするスキルが重要になってきている そもそも、ChatGPTのような生成AIをコントロールして、目的に沿った出力を得るためには、ユーザー側が指示や質問の仕方を工夫する必要がある。 例えば、生成AIに対して「仕事先に送るメールを書いてください」という指示と、「あなたは営業・マーケティングのプロです。先月ラインアップに追加された新商品の認知を広める目的で、現在の顧客に対して、メールマガジンを送ります。その導入文を書いてください」という指示では、出力結果が大きく異なってくる。 このようにA
GPT-4レベルの衝撃 PC内で使えるオープンLLM「Command R+」
カナダのAIスタートアップCohereは4月4日（現地時間）、ビジネス向けに最適化された最新の大規模言語モデル（LLM）「Command R+」を発表した。 高度なRAG技術を採用 Cohereは、AI業界に変革をもたらしたTransformerモデルを提唱した論文「Attention is All You Need」の共同執筆者として知られるトロント大学の研究者Aidan Gomez氏らによって2019年に設立されたカナダのAIスタートアップ。 OpenAIと同様、LLMの開発に特化しており、企業向けにチャットボット、検索エンジンの最適化、要約サービス、自社AIモデルのAPIなどを提供している。 Command R+は、同社が3月に発表した「Command R」の後継となるモデルであり、Cohereが得意とする高い効率性と精度のバランスを重視したRシリーズの一部となる。 128K（12万
生徒の学習を３倍速にした教師のＣｈａｔＧＰＴの使い方：時事ドットコム
４０人学級の生徒一人ひとりに４０人の教師がついて、全生徒の学習をきめ細かくサポートすると聞いて、現実の話だと思う人はいないだろう。ところが、現実にこうした学習環境を実現している教師たちがいる。もちろん、教室に４０人の生身の教師が入るわけではない。生成ＡＩ「ＣｈａｔＧＰＴ」に、独自の知見を組み合わせ、教師の役割を代替させているのだ。 ＣｈａｔＧＰＴを活用した教師たちの最先端の教育とは、いったいどんなものなのか。前例のないＣｈａｔＧＰＴを活用した教育実践が詰まっていると関係者の間で話題沸騰の書籍『教師のためのＣｈａｔＧＰＴ ホントに使えるプロンプト』の監修者であり、現職の教員で文部科学省の学校ＤＸ戦略アドバイザーでもある田中善将氏に、今まさに目の前で実現している「未来の教育」のリアルな姿を語っていただいた。 （写真はイメージです）【Martin of Sweden - stock.adobe.
社内版 ChatGPT を構築し、社内の ChatGPT 利用を促進した話 - メドピア開発者ブログ
SRE の田中 @kenzo0107 です。 社内版 ChatGPT を構築し、社内の ChatGPT 利用を促進した話です。 社内版 ChatGPT が必要だった理由 以下要望を実現する為です。 秘匿情報をクローズドな環境で OpenAI にポストしたい 社員誰もが最新のモデルやバージョンで高精度、且つ、パフォーマンスの高い ChatGPT を利用したい 構成 - Web 版 社内 ChatGPT Web サービスは AWS に配置 ALB を会社毎に分けて Google 認証する *1 ECS から Azure API Management 経由で Azure OpenAI Service に問い合わせ API Management は Azure OpenAI Service の監査ログを取得する為に配置している *2 Azure 側ではネットワークセキュリティグループで AWS N
生成ＡＩとみられる女性の「扇情動画」乱立 再生回数稼ぎ、収益目的も背景か
ユーチューブに公開された生成ＡＩで作成・加工されたとみられる女性の動画。投稿したアカウントは現在停止されている 生成人工知能（ＡＩ）によって作成・加工されたとみられる若い女性の扇情的な動画が、交流サイト（ＳＮＳ）上などで拡散されている。一見しただけでは生身に見えるほど精緻で、再生回数が数百万回に達するものも。より性的に過激な動画へ誘導するものもあり、専門家は「アクセスを稼いで収益をあげる仕組みが確立されていることが背景にある」と指摘する。 「ミス東大」モデルのような容姿の若い女性が、画面を向きながら公園や屋外を１人で歩く数分の動画。ＳＮＳのインスタグラムや動画投稿サイトのユーチューブなどに昨年から登場した、あるアカウントから投稿されたものだ。 「ノーブラ散歩」などの刺激的なタイトルがつけられ、プロフィル欄には東京大学の理系学生をうたい「ミス東大」を目指すなどと記載。他にも、服を着た状態で下
ChatGPT入門 (社内勉強会の資料を公開) - LayerX エンジニアブログ
こんにちは！たかぎわ @shun_tak と申します！バクラク事業で機械学習・データ領域のマネジメントを担当しています！ 先日社内でChatGPT入門の勉強会を実施して、参加者からは好評だったので、資料をこちらで共有させてください！わりと社内資料そのままコピペです。 背景 羅針盤15を体現した例 早速やってみよう！ ChatGPTを触り倒す Step1 : ChatGPTを開く (0min) Step2 : まずは挨拶してみよう！ (5min) Step3 : Google検索の代わりに使ってみよう！ (5min) 他のトピックも聞いてみよう！ Step4 : ペルソナ設定済みのGPTを使ってみよう！ (10min) まずはConsensusというGPTを使ってみましょう！ ChatGPT Teamに加入していると、社内の人が作ったGPTにアクセスできます！ わいまつさんが作った企業リサー
話題のチャットAI「Claude 3」のプロンプト集、公式が公開中 「Excelの数式作って」など64種
AIスタートアップの米Anthropicが、同社のチャットAI「Claude 3」向けに公式プロンプト集を公開している。3月11日までに64種類の使用例を公開中。専用のWebサイト「プロンプトライブラリ」で公開しており、英語と日本語表示に対応している。 例えば、入力した材料や好みに応じた料理レシピを提案する「料理クリエイター」などのプロンプトを公開している。プロンプトは「システム」と「ユーザー」の2つに分かれ、まず前者でAIに指示し、次に後者でユーザー個別の条件や要件を伝える仕組み。料理クリエイターの場合は以下のような具合だ（原文ママ）。 システム：あなたの仕事は、利用可能な材料や食事の好みに関するユーザーの入力に基づいて、パーソナライズされたレシピのアイデアを生成することです。この情報を使用して、ユーザーの食事のニーズに対応しながら、指定された材料を使用して作ることができるさまざまな創造
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「ChatGPT」、専門家並みのデータ分析に対応、Pythonのコードを書き、グラフを作成、内容を把握して回答も／OpenAIが近日リリース、「GPT-4o」を活用、OneDrive/Google ドライブのファイルも直接扱える
「Chrome 125」の開発者ツールに「Gemini」が統合 ～AIが警告の内容をかみ砕いて説明／実験的機能、「英語」（米国）より提供開始
日本でもGemini 1.5 Pro提供開始 「Gemini Advanced」(2900円)で
グーグル「Geminiの時代」宣言の意味 OSやサービスを持つ強さ【西田宗千佳のイマトミライ】
「富岳」で学習した日本語向け国産AI「Fugaku-LLM」公開
「知的単純作業」を自動化する、地に足の着いた大規模言語モデル (LLM) の活用
