もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
IT屋のCopilotとかに対する温度感と絵師界隈のStable Diffusionとかへの温度感が違うの、 IT屋はバカが少ないからとかじゃなくて実際に脅威度が違うからだと思うんだよな うんこ💩ちんちん エンタメ分野は「正しい仕様」もクソもなく消費者が満足して売上が出ればそれが正義だからイラストレーターとイラスト生成AIはダイレクトに競合するけど うんこ💩ちんちん プログラミングには「正しいコード」「間違ったコード」が確かに存在して、AIがバグったコードや仕様を満たさないコードが吐いてたときに、AI自体もAI企業も責任取らないから、 AIにコード書かせるとしてもそれを読んで「これで大丈夫です」と保証して、ダメだったら責任を取る人が必要とされ続ける うんこ💩ちんちん 曖昧で正解のない分野ほどAIに任せやすくて正しさが必要な分野の方で人間が必要っていうのは 大昔の素朴なAI観とは反対で
作家、神林長平さんは「言葉」「機械」などのテーマを重層的に組み合わせた独自の世界観を反映させた数々の作品で知られる。現代を代表するSF作家の一人として、急速に普及が進む人工知能(AI)をどう見ているのだろうか。寄稿してもらった。 2023年は、チャットGPTに代表される対話型AIが爆発的に普及し始めた年として記憶されるだろう。機械相手に自然な会話ができるというのは驚きを伴う楽しい体験に違いないが、それが実用面で使われると、他人の権利や人権を侵害する恐れがある。ここにきてそれが顕在し、対応策もいろいろ議論されているのは報道されているとおりだ。 対話型、すなわち言語を主体とする生成AIの利用がさまざまな方面で社会的な問題を引き起こすという現象は、社会というものを成立させ、支えているのが「言葉」であることを思えば、当然理解できる。<言葉>は社会を生み、文化や技術を発達させてきた。いつの頃からか人
","naka5":"<!-- BFF501 PC記事下(中⑤企画)パーツ=1541 -->","naka6":"<!-- BFF486 PC記事下(中⑥デジ編)パーツ=8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下(中⑥デジ編)パーツ=8826 -->","adcreative72":"<!-- BFF920 広告枠)ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag PC誘導枠5行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル(LLM)から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され
こんにちは@fuyu_quantです。 この記事はLLM Advent Calender 2023 17日目の記事です。 よかったらプライベートで作成したData Science wikiのGPTsも見て下さい! はじめに 今回は敵対的なプロンプト技術についてまとめました.まとめ方は主に,Ignore This Title and HackAPrompt: Exposing Systemic Vulnerabilities of LLMs through a Global Scale Prompt Hacking Competition というLLMに対する敵対的なプロンプト技術に関してまとめた論文を参考にしています.本記事の内容が世の中のLLMを使ったサービスの機能向上の役に立てれば幸いです. ※世の中のLLMサービスが敵対的なプロンプト手法に対応できるように公開をしたものであり,利用を
OpenAIが、かねてから予告していたGPT Store をようやく開設しました。 個人や企業が作ったカスタム版ChatGPTであるGPTsを分野ごとにブラウズ・検索して利用でき、自分が作ったGPTを公開することもできます。 現状では有料プランのChatGPT Plus加入ユーザーのみ、メニューの「Explore GPTs」から利用可能です。 ストアといっても利用に別途料金が必要なGPTsは今のところありませんが※、OpenAIは今四半期のうちにも、GPTsが利用された回数に応じて制作者に収益を分配するレベニューシェアを開始予定です。 (※ サードパーティーと接続したGPTsなどでは、チャットの過程で有料サービスに案内されることはあります。) 開設されたばかりのGPT Store でトップにフィーチャーされているのは、 AllTrails 世界中のトレッキングコースやアウトドア体験を場所・
皆さんはGitHub Copilotを使っていますか?VSCodeやIDEに拡張を入れると、生成AIとペアプロのようなことができるという、アレです。 最近はこれがないと仕事ができない。なかった時代を思い出せないという人が増えています。プログラミングの生産性に明確に差が生まれます。僕もその口です。 ただ、GitHub Copilotを使いこなせていないという話も度々聞きます。Copilotが提案してくれるコードが微妙で役に立たないというような感じです。 その差はどこにあるのか?を知りたくて6/24に試しにCopilotを使った動画を撮ってみました。実践的なCopilot実演動画というのはすごく珍しいらしく、GitHub dockyardというコミュニティの竣工イベントに登壇してみないか?というお声がけをいただいたので、8/5にGitHub Copilotを使いこなせるとどうなるのかというライ
GitHub CopilotやAWS CodeWhispererをはじめとする、コードエディタに統合できる11種類のプログラミング支援AIをまとめた。 GitHub Copilotに代表されるコードエディタに統合されたプログラミング支援AIサービスは、まだ登場して間もないにも関わらず、多くのプログラマの生産性向上にとって欠かせない機能になりつつあります。 と同時に、プログラミング支援AIサービスはGitHub Copilot以外にもさまざまなクラウドベンダ、ツールベンダ、スタートアップなどが参入し、多様な製品が新たに投入され続けている変化の激しい分野でもあります。 ここではその中から、現時点での主要なサービスやソフトウェアを11種類取り上げ、まとめました。導入や選択の参考にしていただければと思います。 価格別の主な機能 (Copilot Individual / 月額10ドル/年間100ド
生成AIを用いた開発者向けの検索エンジン「Phind」が、コーディング能力でOpenAIのGPT-4を上回ったことが明らかになりました。 Phind - AI Search Engine and Pair Programmer https://www.phind.com/blog/phind-model-beats-gpt4-fast Our GPT-4-beating coding model is now the default on https://t.co/epkoFW8Ozz. It's also 5x faster than GPT-4. Learn more in our blog post: https://t.co/PrOFETEbvd— Phind (@phindsearch) PhindはもともとHello Cognition(beta.sayhello.so)として
◎「文系社員」でもデータ分析できる生成AIマニュアル by OUTPUT CAMP meets AI◎ 「イベントアンケートを取ったが、集計する時間がない」「販売データを収集したものの、分析手法が分からない」 文系のビジネスパーソンにとってデータ分析は、「やったほうが良さそうだが後回しにしてしまう」プラスアルファの仕事だ。大義名分がなければ他部署に依頼するのも難しい。 そこで頼れる相棒となるのが、生成AI(ジェネレーティブAI)だ。 AIプロピッカーの三菱総合研究所・比屋根 一雄さんはこう予測する。 「みんながミクロな意思決定に生成AIを使って、少しでも良い意思決定ができるようになると、世の中全体がデータに基づく合理的で無駄の少ない仕事をできるようになる。壮大なことを言えば、低いと言われている日本の生産性が、少しでも上がるのではないかという期待もしています。」 では、具体的にどの生成AIツ
日本電信電話(NTT)は3月25日、独自に開発した大規模言語モデル(LLM)「tsuzumi」の商用提供を企業向けに開始した。代表取締役社長を務める島田明氏は「2027年までに売上1000億円を目指す」と述べた。 tsuzumiは、NTTが2023年11月に発表した国産LLMだ。特徴の1つはモデルを大幅に軽量化した点で、パラメーター数は軽量版で70億と、OpenAIが提供する「GPT-3」の25分の1程度しかない。これによって、1つのGPUで動作し、大規模ハードウェア不要で事務所内でのオンプレミス利用にも対応する。 2つ目の特徴は「世界トップレベルの日本語処理能力」だ。パラメーターを軽量化したにも関わらず、GPT3.5と日本語性能で比較した場合の勝率は8割を超え、英語においても高い処理能力を達成しているという。さらに、マルチモーダルにも対応し、パワーポイントの図表読解や聴覚も備える。 3つ
イラストレーターなんだが、客にAIイラストを出されて「こんなテイストでお願いします」と言われた。 仮にもプロのイラストレーターに対して、AIイラストの真似をしろと? ブチ切れたんだが、反論してきやがった。 そもそもAIイラスト技術というのは、膨大なデータベースからAIが学習をして、命令に沿ったイラストを出力するものだ。 それはもちろん数多の絵師たちの創作物を無断で剽窃しているわけで、それが問題なのは分かっている。 商用利用に使ったのなら権利侵害になるのはわかるが、今回はイラストの方向性を具体的に指示するために用便的に使ったわけで、金銭の授受が発生したわけでもない。そこになんの問題があるの? むしろ使い方としては正しい。 そもそも、イラストの世界では具体的にキャラ名を挙げて、これに似た感じに描いてくださいというのは日常的に行われているよね? その対象が「特定のイラストレーターの特定のキャラク
この記事ですることを3行で Pythonの標準ライブラリでできる並列実行を、あらためて総当たりで速度比較しよう ウォーターフォールチャートで、それぞれの並列処理の処理時間の特徴を可視化しよう boto3の実行をモデルケースにして、どの並列処理が一番早いのかを調べよう この記事の結論を先に Python 3.12から本格的に使えるようになったサブインタープリターは、CPUで実行する処理について言えば、従来のサブプロセスよりも高速 boto3の実行は、サブインタープリターよりも署名付きURLの非同期実行のほうが速い → S3からの10ファイルの取得であれば、実行時間を90%削減できます → Bedrockの3回実行であれば、実行時間を60%削減できます 今回使ったソースコードはこちらに置いています。 お手持ちの環境で再実行できるようにしていますので、気になる方はぜひ。 どうしてこの記事を書くの
また、Gemmaの事前トレーニング済みモデルでは、学習データから特定の個人情報やその他の機密データを除外していると安全性もアピール。開発者や研究者向けに、安全で責任あるAIアプリケーションを構築できるというツールキット「Responsible Generative AI Toolkit」も併せて公開している。 関連記事 Google、“現行最強”の生成AI発表 月2900円で利用可 チャットAIサービスはBard→Geminiに刷新 米Googleは2月8日(現地時間)、「現行最強」をうたう生成AI「Gemini Advanced」を発表した。すでにサービスを提供開始しており、月額2900円で利用可能。2カ月間の無料試用期間も用意する。 Google、「Gemini 1.5 Pro」限定リリース コンテキストウィンドウは100万トークン Googleは、生成AIの次世代モデル「Gemini
Code interpreter のキラーソリューションは表データの可視化っぽいけど、入力テキストとファイルソースによってテキスト生成とファイル出力ができるという点に着目すると色々活用の幅が広がる。 中でも、今までは入出力トークンに含まれる必要があったソースコードデータを外部ファイル化できるので、「リポジトリを丸ごと食わせる」などの従来トークン制限上実現できなかったことが外部システム連携なしで簡単に可能になったのが嬉しいポイントだった。 この特性を生かして最近OSSの静的コード解析というかコードリーディングをChatGPTにやってもらっている。 以下のサンプルでは脆弱性診実習用アプリ(通称「やられサイト」)のSQLインジェクションを発見してもらうという会話をした。 chat.openai.com 以下ではaws-load-balancer-controller や openai-pr-re
【📩 仕事の相談はこちら 📩】 お仕事の相談のある方は、下記のフォームよりお気軽にご相談ください。 https://forms.gle/G5g1SJ7BBZw7oXYA7 もしもメールでの問い合わせの方がよろしければ、下記のメールアドレスへご連絡ください。 info*galirage.com(*を@に変えてご送付ください) 🎁 「生成AIの社内ガイドライン」PDFを『公式LINE』で配布中 🎁 「LINEで相談したい方」や「お問い合わせを検討中の方」は、公式LINEでご連絡いただけますと幸いです。 (期間限定で配信中なため、ご興味ある方は、今のうちに受け取りいただけたらと思います^^) https://lin.ee/3zRuqKe おまけ①:生成AIエンジニア塾 より専門的な「生成AIエンジニア人材」を目指しませんか? そんな方々に向けて、「生成AIエンジニア塾」というプログラムを
サービスのデプロイ頻度は、そのときに開発している機能の大きさやチームメンバーの人数などの影響を少なからず受けます。そのため、この変化がGitHub Copilot導入の効果と言いきることは難しいですが、生産性が向上しているチームからのノウハウの共有などを通じて、継続した生産性の向上に取り組んでいきたいと考えています。 GitHub Copilot導入に向けた課題とその対応 ここからは、ペパボでGitHub Copilotを全社導入するにあたり検討した観点と、その結果を紹介します。 ペパボにおける生成AI活用の現状 GMOペパボでは、ChatGPTの登場以降、生成AIを活用した機能の開発や開発プロセスへの活用による生産性向上に取り組んできました。特に、pyama86/slack-gptを利用したSlack Botはエンジニアに限らず全社員が利用しており、さまざまな業務の効率化に貢献しています
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます Googleが人工知能(AI)に多額の投資を行ってきたことを考えれば、同社が先頃、独自の画像生成AIツール「ImageFX」を公開したのは、意外なことではない。ImageFXは、OpenAIの「DALL-E 3」や「Midjourney」「Image Creator from Microsoft Designer」といった多くの画像生成AIツールの強力なライバルになるはずだ。 ImageFXは、テキストから画像を生成するGoogleのテクノロジー「Imagen」の最新世代である「Imagen 2」を利用する。ImageFXで作成されるすべての画像には、DeepMindの「SynthID」が埋め込まれる。SynthIDは、肉眼では見えない
Hirokazu Yokohara @Yokohara_h AIでおっさんを美少女化の新しい動画。ウィッグ被ったらどうなるか聞かれてたのでようやくテスト。やり方も少し変えたので以前よりスムーズだと思う。Stable Diffusionを使用。みんなで美少女になっちゃう? pic.twitter.com/vt7zyvz8rL 2023-07-12 01:30:07 Hirokazu Yokohara @Yokohara_h これ会った人や知り合いにキモいって毎度言われる。そうだよなぁ突然こんなことするのはキモいよなって一瞬思いかけたけど本業の一つがそもそもCGで美少女作ったりアニメーション付けたりすることだったからただの平常運転だったわ。 フレーム補完はリアリティに欠けるから今回はなしで全フレーム生成 2023-07-12 16:29:34
高速なPython互換言語「Mojo」のMac版登場、Appleシリコンにネイティブ対応。Pythonの9万倍、C言語に比肩する高速性 Modular社はPythonの高速なスーパーセットと同社が位置づける開発中の新言語「Mojo」の、Appleシリコンにネイティブ対応したMac版をリリースしました。 Today is the day! Mojo for Mac is live! Download it right now! Read our launch blogpost on how to get startedhttps://t.co/XSMkqUmHKt — Modular (@Modular_AI) October 19, 2023 Mojoは9月に初めてローカル環境でコンパイルなどを実行可能なLinux対応のツール群を公開しています。今回のAppleシリコンにネイティブ対応した
猫の痛みの有無をAIで判別。世界で利用されるWebアプリ「CatsMe!」開発の裏側 2024年1月11日 株式会社Carelogy 取締役CTO 兼 医師 河本 直樹 東海大学医学部医学科を2021年4月に卒業。2021年2月に株式会社Carelogy設立、取締役CTOに就任。 株式会社Carelogy 取締役CDO 工藤 貴弘 慶応義塾大学大学院理工学研究科修士課程修了後、大手プラントエンジニアリング会社にITエンジニアとして在籍。2022年10月株式会社Carelogy取締役CDOに就任。「CatsMe!」においてはAIモデルの開発を担当。 今世界各地の愛猫家のあいだで話題のWebアプリ「CatsMe!」(旧:猫の痛み検知AI「CPD」)。「この猫は痛みを感じているのか、そうでないのか」を、猫の顔写真をもとにAIが判別するサービスです。2023年5月のサービスリリースから約4カ月で累
[電話予約の無人化]Amazon Connect + GPT-4 JSONモード + Whisperで、1回の発話から予約情報(日付,時間など)を抽出 はじめに Amazon Connect + GPT-4 JSONモード + Whisperで、1回の発話から予約情報(電話番号,日時,名前,人数)を正しく抽出できるか検証しました。 コールセンターでは、有人対応から無人対応に変更したいニーズが増えているように思います。 電話予約の無人対応を想定し、1回の発話で、下記の5つの予約情報を抽出できるか確認します。 お名前 電話番号 予約日 予約時間 人数 発話で予約情報を抽出する方法として、GPT-4 Turbo のJSONモードを利用します。 JSONモードの詳細は、下記を参照ください。 例えば、「名前はクラスメソッドで、電話番号は09011111111。来週の火曜日の19時に4名で予約できます
元気です。藤原麻里菜です。 私は、いつからか、意力や興味・関心が薄れてきた。これが加齢によるものなのか、それとも疲れているのか、はたまた精神的なものなのか。まだ判断がつかない。前までは行きたい場所ややりたいことが無限にあったはずなのに、今は何もない。ライフワークの「無駄づくり」だけはかろうじて続けているけれど、それ以外のことにはあまり興味が持てなくなっているところもある。 パンデミック以前は一人旅が好きで、海外に一人で行くこともけっこうあった。でも、最近はすべてが億劫で、というか、何かを決定する体力も気力もなくて、家とアトリエしか行っていない。 この生活でも満足なんだけれど、たぶん、もっと外を出歩いたほうが新しい発見をしたり、おもしろいことが起きる可能性が高いのは、なんとなくわかっている。だから、旅行にでも行こうかなと思ったのだが、いかんせん、行きたい場所がない。もう私は自分で何も決めたく
意外と良くなってきてしまった動画生成と音楽生成。第二回AIアートグランプリはどうなる!? 2023.08.13 Updated by Ryo Shimizu on August 13, 2023, 11:41 am JST ほんの一ヶ月前まで、動画生成は全然だめだった。 Gen2は高価だが狙ったものを出しにくい。何より動いてくれない。 ところがAnimateDiffという技術が公開された。これはとても激しく、それっぽく動く。 コツは必要だが、以前よりずっと綺麗に動いているのは間違いない。 筆者の運営するサイトMemeplexやreplicateで使うことができる 音楽生成も、「やはりAIに音楽みたいな人間の機微を読み取るようなものは無理か」と考えていた。 「専門家」である僕でさえ、つい一ヶ月ほど前はそうだったのだ。 新しいオーディオ生成モデルである「JEN-1」と「AudioLDM2」はそ
将棋の強い手は金脈のようなもので、坑夫(=棋士)がツルハシ(=人力)で掘りまくって、たまにデカい金塊(藤井システムとかゴキゲン中飛車とか)がゴロリ発掘されるのが面白かった。でもAIがガーっと重機で人間がとても掘れない深さまでひっくり返してしまって、「振り飛車はクソだったぞ、一番デカい金塊は角換わり腰掛け銀だけど先手必勝だったぞ」とか神目線で言ってくるわけ。 かつては振り飛車は対居飛車に慣れているけど、居飛車は対振りを相居飛車ほどやってないって非対称性(対抗形だけに)があったので、居飛車は対振りでハメられないように細心の注意を払わないといけなかったんだけど、今の居飛車は自信満々で、「これで大丈夫ってAIも言ってたし」状態。プレイヤーなら分かるけどこれは振り飛車の気分としてめちゃくちゃ苦しい。今はAIより前の人のこだわりとかでまだ多彩さが維持されてるけど、今後は奨励会とかも居飛車じゃないとプロ
Microsoft Copilot Pro「全世界のWindowsユーザーが生成AIを意識せずに、当たり前のツールとして使いこなす未来」- Blog 2024/1/7 Copilot Pro が個人でも利用可能になったので、大まかにCopilotの全体像を理解した上で、操作しながら試してみました。 私はMacユーザーですが、Copilotを検証するために先週からWindowsをメインにしています。WordやPowerPointはまだ慣れていないので、今日は記録のみ掲載。 Copilot ProCopilot Pro パフォーマンスを高速化し、創造性を高める機能を希望するユーザーには、Copilot エクスペリエンスを向上させる Copilot Pro がおすすめです。この月額サブスクリプション製品には、Copilot のすべての機能に加え、次を実現する機能が含まれています。 ・ピーク時でも
2024/3/5 最後に追記をしました。 こんにちは、この記事では「絵師の立場から反AI活動をしてる人(の中で特に先鋭化した人達)へ言いたいこと」をつらつらと書いていきます。 「反AIはもう負け戦」「しかし反AIはある意味勝っている」そんな話です。 最近の生成AI関連の話題に関して、AI推進派の人にもAI反対派の人にも両方に読んでもらえたら幸いです。 誰に向けた記事か?最近の生成AIに関して賛成or反対の意見を持っている人。 また、文化庁の「AIと著作権に関する考え方について(素案)」に関するパブリックコメントの結果について」を(流し見でもいいので)ある程度読んでいることが望ましいです。 筆者はどんな人間か?「絵師から言いたいこと」という内容なので、当然お絵かきを嗜んではいるのですがイラスト以外にも別ジャンルの創作もかじっており、 イラストでも別ジャンルでも「有償依頼等で金銭を貰ったことが
ChatGPTが登場した当初、対話や要約、翻訳、コード生成などの典型的な言語タスクができても、SREやAIOpsの研究開発にはあまり関係ないのではないかと正直思っていた。AIOpsでは典型的にはいわゆるObservabilityデータ(メトリクス、ログ、トレースなど)が入力となるため、自然言語ではなく数値のデータを解析することが求められる。自然言語のタスクを研究対象としていなかったため、AIOpsとChatGPTに強い関係性は見いだせなかった*1。 しかし、自分で大規模言語モデル(Large Language Model: LLM)を日常的に使用したり、表題にあるようにSREのためのLLM(LLM for SRE, LLM4SRE)に関する論文を読むうちに、LLMのテキスト生成器としての性質よりもその優れた推論機械としての性質に注目するようになった。特にSREの障害診断は、人間の専門家が推
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く