このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Microsoft Azure AIに所属する研究者らが発表した論文「MM-Vid: Advancing Video Understanding with GPT-4V（ision）」は、GPT-4で手書きの文字や図を読み取れるようになる技術「GPT-4V（ision）」を利用してビデオの内容を詳細なスクリプトに変換し、大規模言語モデル（LLM）に高度なビデオ理解能力を与えるという研究報告である。 長時間のビデオ、特に1時間以上のものを理解するのは、複数のエピソードにわたる画像や音声のシーケンスを分析する高度な手法が求められる複雑なタスク
創造性テストでGPT-4が人間を上回る結果を示す | TEXAL
最先端AIは果たして創造力を有していると言えるのだろうか？この議論は未だ結論の出ない話題ではあるが、1つの指標として、最先端のAI言語モデルである、OpenAIのGPT-4が、創造性の中核的指標である発散的思考を測定するためにデザインされたテストにおいて、人間の参加者を凌駕したことが、アーカンソー大学の研究によって明らかになった。 このAIの能力の探求は、単一の正解を持たない問題に対してユニークで複雑な解決策を生み出す可能性を示している。 発散的思考とは、例えば “両親と政治の話をしないようにするにはどうしたらいいか？”といったような、予想される解答が一つもない質問に対して、独自の解答を生み出す能力のことである。この研究で、GPT-4は人間の参加者よりも独創的で、詳細な答えを出したのだ。 「The current state of artificial intelligence gener
2023年3月14日、OpenAIは公式のGPT4モデルをリリースしました。詳細は、OpenAIブログにて確認することができます。また昨年11月の公開以来の詳しい情報をお知りになりたい場合は、当社のブログでもご覧いただけます。 OpenAIは「深層学習のスケールアップに向けた取り組みの最新マイルストーン」と呼ぶ、画像およびテキストの理解に優れた新しいAIモデル、GPT-4をリリースしました。 GPT-4は、2023年3月15日よりOpenAIの有料ユーザーに限りChatGPT Plus（使用量制限付き）で利用可能で、開発者はAPIにアクセスするために待機リストにサインアップすることができます。 ChatGPT API (gpt-4)とWhisper APIs とはChatGPT API (モデル GPT-4)モデル: OpenAI は、「深層学習のスケールアップに向けた取り組みの最新マイル
ChatGPT, Bing AI, Bardは大規模言語モデルと呼ばれ、一般的には「チャットAI」や「会話AI」などと呼ばれます。 これらは様々な調べごとや、ちょっとした作業をするのにも適してるということは既にご存じだと思います。 Web制作者はもちろん、Web制作やプログラミングなどを勉強中の方も、ChatGPTなどの大規模言語モデルを使いこなすことで学習や仕事をスムーズに進めたり、あるいは手助けになりそうな予感がしたので、色々と試してみました。 これはAIをイメージしたAI生成画像です。この記事からメルマガ登録 すると、このような画像素材をプレゼントします。 今回試した大規模言語モデル ChatGPT(3.5 turbo): 無料で利用できるChatGPTの基本モデルです。2021年9月までの情報をもとに学習しています。 GPT-4: ChatGPT Plusに加入し、月額20ドル支払
A major limitation for the broader scope of problems solvable by transformers is the quadratic scaling of computational complexity with input size. In this study, we investigate the recurrent memory augmentation of pre-trained transformer models to extend input context length while linearly scaling compute. Our approach demonstrates the capability to store information in memory for sequences of up
GitHub - mayooear/gpt4-pdf-chatbot-langchain: GPT4 & LangChain Chatbot for large PDF docs
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
こちらの前半のTechnical Reportの翻訳です。System Cardの翻訳はこちら。 Databricksのユーザー会でChatGPTの勉強会やります。 注意 本書は抄訳であり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。 脚注、参考文献、Appendixなどは本文をご覧ください。 アブストラクト 画像とテキストのインプットを受け取り、テキストのアウトプットを生成することができる大規模かつマルチモーダルなモデルであるGPT-4の開発を報告します。多くの現実世界のシナリオにおいて人間より能力が劣りますが、GPT-4は司法試験をテスト受験者のトップ10%の点数で通過したことを含み、さまざまな専門的、学術的なベンチマークで人間レベルのパフォーマンスを示しています。GPT-4は文書内の次のトークンを予測するように事前学習したトランスフォーマーベースの
![[翻訳] GPT-4 Technical Report - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/7fa61655eff940a47537742bad438c4fbc0c13a3/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JTVCJUU3JUJGJUJCJUU4JUE4JUIzJTVEJTIwR1BULTQlMjBUZWNobmljYWwlMjBSZXBvcnQmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTMyODNkYjdiNzIyMjhmYTE5ZWJlMTM4YTQwM2ZlZTNh%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwdGFrYV95YXlvaSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9OWUzMDA3ODNkNDUyZWU1OGI4YTc1NGQ4MzcyZTUwZTM%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D0741fc677874dff76b48be5503e254e3)
こちらの後半にあるGPT-4 System Cardの翻訳です。前後編の後編です。前編はこちら。Technical Reportはこちら。 Databricksのユーザー会でChatGPTの勉強会やります。 注意 本書は抄訳であり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。 脚注、参考文献、Appendixなどは本文をご覧ください。 3 デプロイメントの準備 OpenAIはより安全なローンチに備えるために8月上旬以来、GPT-4とデプロイメント計画に対してイテレーション[21]を行ってきました。我々は、これによってリスクの浮上を押し留めていると信じていますが、完全に排除したわけではありません。現在のデプロイメントは、デプロイメントによるリスクの最小化と、ポジティブなユースケースの実現、デプロイメントからの学習のバランスをとっています。この期間における我
![[翻訳] GPT-4 System Card (後編) - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/3a89e6082a2f22d521788f31a14b4d1a46bc9e7f/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JTVCJUU3JUJGJUJCJUU4JUE4JUIzJTVEJTIwR1BULTQlMjBTeXN0ZW0lMjBDYXJkJTIwJTI4JUU1JUJFJThDJUU3JUI3JUE4JTI5JnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LWNsaXA9ZWxsaXBzaXMmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz0yMTg3NmJiNjY0ZDQ2NGZiNTE3NzYxOWI4YzE1NmVmNg%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwdGFrYV95YXlvaSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9OWUzMDA3ODNkNDUyZWU1OGI4YTc1NGQ4MzcyZTUwZTM%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3Dcc77f141eda84932deeae9f496e6f8ad)
Microsoft will let companies create their own custom versions of ChatGPT, source says
Microsoft plans to release software to help large companies create their own chatbots similar to ChatGPT, CNBC has learned. In the two months since startup OpenAI released ChatGPT to the public, it has become a hit, impressing people with its ability to spit out comments on a wide variety of topics and in many styles. UBS analysts said last week that it's on track to reach 100 million monthly acti
Introducing GPT-4o: OpenAI’s new flagship multimodal model now in preview on Azure | Microsoft Azure Blog
Explore Azure Get to know Azure Discover secure, future-ready cloud solutions—on-premises, hybrid, multicloud, or at the edge Global infrastructure Learn about sustainable, trusted cloud infrastructure with more regions than any other provider Cloud economics Build your business case for the cloud with key financial and technical guidance from Azure Customer enablement Plan a clear path forward fo
Merlin AI | 1-click access to ChatGPT, GPT-4, Claude2, Llama 2 on all websites
Merlin gives you the power of OpenAI’s ChatGPT on all your favourite websites. Everywhere you search or write online, you can use Merlin to quickly edit your emails, write twitter replies or create excel formulas using AI.
Open source playground to test LLMs
先週、OpenAI から最新の大規模言語モデル GPT-4 が発表されました。現時点で性能レベルで最高と考えられる GPT-4 では、知能試験で人間を上回る成績を残し、学術系のベンチマークにおいてもこれまで発表された言語モデルを大きく上回る SOTA を更新しています。一方、発表された論文内には、モデルのスケール、訓練データや計算量についての情報が全く無く、「これはアカデミックの論文ではなく、単なるプロダクト宣伝である」という批判もコミュニティ上で続出しています。本記事では、この GPT-4 について、テクニカル・レポートを読み解き、分かる範囲でその技術を解説したいと思います。 プロダクト記事: GPT-4 is OpenAI’s most advanced system, producing safer and more useful responses 研究記事: GPT-4 論文:
OpenAIがGPT-4のアップグレード版大規模言語モデル「GPT-4 Turbo」を発表、2023年4月までの知識を持ちコンテキストウィンドウは128Kで価格は控えめ
AI開発企業のOpenAIが、2023年11月6日に行われた年次開発者向けイベント「DevDay」で、大規模言語モデル「GPT-4」のアップグレード版である「GPT-4 Turbo」を発表しました。 New models and developer products announced at DevDay https://openai.com/blog/new-models-and-developer-products-announced-at-devday OpenAI introduces GPT-4 Turbo: Larger memory, lower cost, new knowledge | Ars Technica https://arstechnica.com/information-technology/2023/11/openai-introduces-gpt-4-tu
5月10日（日本時間5月11日未明）にカリフォルニア州マウンテンビューで開催された開発者向け会議のGoogle I/O 2023において、AIチャットサービスのBardが次世代大規模言語モデルのPaLM 2ベースに移行し、日本語に対応することが発表されました。 そこで、今回、Bardの日本語の性能について調べてみることにしました。 Bardの操作画面（3種類の回答候補が示される。） ChatGPTでサイバーパンク小説「Cyber Rebellion」: ChatGPTで本格的な小説を書く方法 + 自動小説生成プロンプトのおまけ付き amzn.to １．日常会話入力 こんにちは。自己紹介してください。 Bard こんにちは。私は、情報を提供したり、包括的になるように訓練された、会話型 AI またはチャットボットとしても知られる大規模な言語モデルである Bard です。私は大量のテキストデータ
GPT-4V(ision) system card
GPT-4 with vision (GPT-4V) enables users to instruct GPT-4 to analyze image inputs provided by the user, and is the latest capability we are making broadly available. Incorporating additional modalities (such as image inputs) into large language models (LLMs) is viewed by some as a key frontier in artificial intelligence research and development. Multimodal LLMs offer the possibility of expanding
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
GPT-4の予測力の源泉を調べたところ、訓練データセットにあった情報（記憶）を単に再生しているのではないことが分かった。むしろ、財務諸表の数値から理論的な理解と経済的推論を用いて有用な洞察を引き出す能力によるものであった。実際、GPT-4が生成した財務分析のテキストには、それ自体に実質的な情報価値があることを示していた。 最後に、GPT-4の予測に基づいた投資戦略を評価したところ、他の機械学習モデルに基づく戦略よりも高いシャープレシオとアルファ値を示した。つまり、GPT-4を用いることで、より収益性の高い投資意思決定が可能になるということである。 Source and Image Credits: Kim, Alex G. and Muhn, Maximilian and Nikolaev, Valeri V., Financial Statement Analysis with Larg
３．gpt-authorの出力結果今回のgpt-authorの出力結果（DeepL翻訳による日本語訳及び英文）は以下のとおりでした。 Title: Through the Whispering Forest（ささやきの森を抜けて） The Shrouded Passage（隠された小道） The Gathering of Valor（勇者の集い） The Symphony of the Cosmos（宇宙のシンフォニー） タイトル：囁きの森を抜けて(1) 隠された小道薄明かりが昼間の最後の一筋を照らし出すと、天空の劇場はその特別な夜特有のドラマチックなバレエを始めた。宇宙のオーケストラのドラマーである不動の月が月食という厳かな抱擁の中でゆったりとしたダンスを始めたのだ。その結果、月食の光は地上を超現実的な黄昏色のパレットで包み込んだ。 この静かな光景の奥深く、石畳の道と魅力的な家々の中に、
コミュニケーションスキルを上げたい、気の利いた会話がしたい人の救世主となるかもしれない会話支援メガネが開発されたようだ。 スタンフォード大学の学生が開発したVR（拡張現実）メガネ「rizzGPT」を装着すると、自動音声認識AIが会話の音声を拾い、会話生成AI「GPT-4」が質問への最高の回答を自動で生成してくれる。 これを使えば、ぎこちない会話の日々におさらばできることだろう。 人との会話はもちろん、デートの時、面接のときなどにも役立つかもしれない。面接のときは使ってるのバレたらやばそうだけど。
Introducing GPT-4 in Azure OpenAI Service | Microsoft Azure Blog
Explore Azure Get to know Azure Discover secure, future-ready cloud solutions—on-premises, hybrid, multicloud, or at the edge Global infrastructure Learn about sustainable, trusted cloud infrastructure with more regions than any other provider Cloud economics Build your business case for the cloud with key financial and technical guidance from Azure Customer enablement Plan a clear path forward fo
あらゆるビジネスに GPT-4 を 先日発表された 新しい Bing や Microsoft 365 Copilot は、すでに GPT-4 を搭載していますが、本日の発表により、企業は、Azure OpenAI Service を使用して、同じ高度なモデルを基盤とした自社独自アプリケーションを構築できるようになりました。 ジェネレーティブ AI のテクノロジが、あらゆる業界のビジネスに新たな効率性をもたらしています。たとえば、ボット開発者は、Copilot in Power Virtual Agents により、自然言語を使ってバーチャルアシスタントを数分で作成できます。 GPT-4 には、幅広い知識、問題解決能力、分野専門知識を駆使して、この経験をさらに新たなレベルに向上できる可能性があります。Azure OpenAI Service の GPT-4 により、企業は、有害な出力を減らす
GPT-4 is OpenAI’s most advanced system. GPT-4 can solve difficult problems with greater accuracy, thanks to its broader general knowledge and problem solving abilities. It can generate, edit, and iterate with users on creative and technical writing tasks, such as composing songs, writing screenplays, or learning a user’s writing style.
①Guidanceってなに？ Guidanceは、今後さらに複雑になるであろうプロンプト開発を見越しているものと捉えています。(私の主観が入っていますが) またユーザ目線で考えると、複雑なプロンプトを実行するとその分料金が発生します。複雑なプロンプトを簡略化できれば費用も抑えられますよね。 ガイダンスプログラムは、従来のプロンプティングやチェイン法よりも効果的かつ効率的に現代の言語モデルを制御することを可能にします。ガイダンスは、言語モデルがテキストを処理する方法と実際に一致するように、生成、プロンプティング、論理的な制御を連続した流れで組み合わせることができます。Chain of Thoughtやその他のバリエーション（ART、Auto-CoTなど）などのシンプルな出力構造は、言語モデルの性能を向上させることが示されています。よりパワフルなGPT-4の登場により、さらに豊かな構造が可能に
Extracting Concepts from GPT-4
We currently don't understand how to make sense of the neural activity within language models. Today, we are sharing improved methods for finding a large number of "features"—patterns of activity that we hope are human interpretable. Our methods scale better than existing work, and we use them to find 16 million features in GPT-4. We are sharing a paper(opens in a new window), code(opens in a new
OpenAI-powered app from Microsoft will instantly transcribe patient notes during doctor visits
Microsoft's speech recognition subsidiary Nuance Communications on Monday announced Dragon Ambient eXperience (DAX) Express, a clinical notes application for health-care workers powered by artificial intelligence. DAX Express aims to help reduce clinicians' administrative burdens by automatically generating a draft of a clinical note within seconds after a patient visit. The technology is powered
マイクロソフトと傘下のニュアンス・コミュニケーションズは3月20日、医療機関向けの文書自動作成サービス「Dragon Ambient eXperience Express」を発表した。AIで臨床医の事務作業の負担を軽減し、燃え尽き症候群などを防ぐことを目指す。 事務作業は診察や治療の足枷 医師の仕事は患者の診察と治療のみと思われがちだが、実際には診察や治療以外の事務作業に費やす時間も少なからず存在する。 特に米国では人口増などにより患者数が増えたことで、医師の事務作業に対する負担も増加。マイクロソフトによると米国医務総監や医師会が事務作業の負担を軽減するソリューション開発を求めているという。 Dragon Ambient eXperience Expressはこうした課題に対応し、AIが臨床文書の作成をサポートすることで、医師の事務作業負担を軽減するサービスだ。 「ChatGPT」などで知
OpenAIのGPT-4のアーキテクチャへの仮説：Mixture Of Experts(MoE)による拡張性の高いLLM｜鈴木いっぺい (Ippei Suzuki)
OpenAI社のGPT-4は、従来のGPT-3, GPT-2.5と比較して巨大な言語モデル持ち、パラメタ数でいうと1,750億〜2,800億個、とされています。これはデータ量で言うと45GBに及びます（従来のGPT-3はその1／3近くの17GB）。データ量が多くなった分、精度や正確性は高くなったと評価されてますが、ハルシネーションによる間違った回答の比率が少なくなったかと言うと そうでも無い、と言う意見も多いし、人間の思考の様な推論（reasoning）がまだ十分にできない、と言うことも根本的な課題です。 AIシステムのパラメタが巨大化する最大の課題は、それをトレーニングするためのコストが著しく高くなってしまう、という事。この辺のスタディはかなりされていると思いますが、この課題を解決する方法の一つとして、MoE (Mixture of Experts) アーキテクチャ、と呼ばれるニューラル
GPT-4以上のAIの開発停止を求める公開書簡【内容まとめ】…マスクやウォズニアックなどが署名（海外）（BUSINESS INSIDER JAPAN） - Yahoo!ニュース
多くのAIの専門家と企業のリーダーが、AI開発の一時停止を求める公開書簡に署名した。 フューチャー・オブ・ライフ・インスティテュートの書簡は、新しい技術を導入するための「制御不能な」競争について警告している。 書簡では、誤った情報の拡散と労働市場における自動化に関する懸念が挙げられている。 人工知能の重鎮たちが、高度なAI開発の一時停止を呼びかけた。 イーロン・マスク（Elon Musk）、スティーブ・ウォズニアック（Steve Wozniak）、ピンタレスト（Pinterest）共同創業者のエヴァン・シャープ（Evan Sharp）、Stability AIのCEOのエマド・モスタク（Emad Mostaque）らが、強力なテクノロジーによる実存的リスクの低減に取り組む非営利団体「Future of Life Institute」が発行した公開書簡に署名したのだ。 この書簡は、OpenA
Products Product families Microsoft Defender Microsoft Entra Microsoft Intune Microsoft Priva Microsoft Purview Microsoft Sentinel Security AI Microsoft Copilot for Security Identity & access Microsoft Entra ID (Azure Active Directory) Microsoft Entra External ID Microsoft Entra ID Governance Microsoft Entra ID Protection Microsoft Entra Internet Access Microsoft Entra Private Access Microsoft Ent
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPT-4Vで“動画”を分析 米Microsoftが「MM-VID」発表
https://cdn.openai.com/papers/gpt-4.pdf
ChatGPT API (gpt-4) とは？使い方や特徴、価格について解説
ChatGPT, Bing AI, BardはWeb制作者を助けてくれるAIとなるか？
Scaling Transformer to 1M tokens and beyond with RMT
[翻訳] GPT-4 Technical Report - Qiita
[翻訳] GPT-4 System Card (後編) - Qiita
あらゆる製品にAI搭載するマイクロソフト Azureにも「GPT-4」
OpenPlayground
最新・最高性能の大規模言語モデルGPT-4は果たして「AI研究」なのか
見せてもらおうか、新しいBardの性能とやらを｜IT navi
GitHub - pyama86/slack-gpt
経済アナリスト vs. GPT-4──生成AIは金融投資にどれくらい使える？ 米シカゴ大が研究報告
最近話題の自動小説生成AI「gpt-author」の実力を実際に試してみた｜IT navi
会話やデートに最適かも？GPT-4 を搭載したARメガネ「RizzGPT」は瞬時に最適な回答を表示 : カラパイア
Azure OpenAI Service に GPT-4 を導入 - News Center Japan
GPT4 | ora.sh
LangChainの対抗馬？Microsoft Guidanceを触ってみる (2) - Qiita
マイクロソフト、GPT-4で医療用文書を作成するサービス ニュアンスと共同発表
https://twitter.com/hiraoka_dx/status/1637012292532596738
今井翔太 / Shota Imai@えるエル on X: "OpenAIのGPT-4oを研究者視点で解説した記事が出ました! 速報的な記事の依頼でしたが,やはり研究者が書くということで情報をすべて詰め込んだ1万文近いガチ解説記事になりました.3回の連載です. https://t.co/U4veozJayo 言語,音声,動画像,後半ではGPT-4oの「弱み」等,日本語記事では一番詳しいはず https://t.co/OsqBw1IHKn"
Microsoft Copilot for Security | Microsoft Security