プログラマ視点での生成AIとの付き合い方
プログラミングについて、最近考えてることについてのポエム。 基本的に、 GPT-4 と Claude-3-Opus を使った経験を念頭に置いて話をする。機械学習エンジニアではないので、あくまで利用者に徹した視点での話。仕事で生成AIを使ったパイプラインを作ったりはしている。 生成AIの進化速度を予測しておく 今大事なことは、今AIがどの程度の性能かという定点の話ではなく、その進化の速度を認識すること。 コード生成というタスクにおいて、生成AIモデルを人間に当てはめると、こんな感じの人物像を自分は持っている。 GPT-4: プログラミング経験2年目の大学2年生 Claude-3-Opus: プログラミング経験3年目の大学3年生 ここでいうn年目は、業務経験ではなく、プログラミングの単位がある大学での、教育課程としての経験年数。今のひたすら学習量を増やす方式だと、単に1年に1年分ぐらい賢くなっ
人工知能で世論操作、オープンＡＩが特定 中国拠点の組織が処理水放出非難に利用
対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した米オープンＡＩは３０日、ロシアや中国などを拠点とする５つの組織が世論を操作する目的でＡＩを利用していることを特定したと明らかにした。オープンＡＩが同日、自社製品を利用した脅威についての報告書を発表した。 身元を隠した組織が、文章やソーシャルメディアのアカウント作成のほか、プログラミングなどにも生成ＡＩを利用していた。イランやイスラエルの組織も含まれ、ロシアのウクライナ侵攻やパレスチナ自治区ガザでの戦闘、米国の政治などに焦点を当てていた。 このうち中国拠点の組織は東京電力福島第１原発の処理水放出を非難する内容の文章などを作成しており、日本語でも投稿していた。生成された文章は交流サイト（ＳＮＳ）上に投稿されたが、多く閲覧された形跡はないとしている。プロパガンダのための画像の生成指示をＡＩツールが拒否した事例もあった。（共同）
Mistral AI、コーディング用生成AIモデル「Codestral」リリース
米Microsoftが支援する仏Mistral AIは5月29日（現地時間）、同社としては初のコーディング向け生成AIモデル「Codestral」を発表した。 コード生成タスクを明示的に設計されたオープンウェイト（モデルの重みを公開している）の生成AIモデルで、HuggingFaceからダウンロードし、MistralのAPIプラットフォームを通じて利用できる。 Python、Java、C、C++、JavaScript、Bashを含む80以上のプログラミング言語の多様なデータセットでトレーニングされている。また、SwiftやFortranでも「優れた性能を発揮する」という。 3万2000トークンのコンテキストウィンドウを持つ220億パラメータモデル。コード生成の長期評価のRepoBenchでは、競合する米MetaのCode Llama（4000／700億）や中国DeepSeekのDeepSe
マルウエア作成に対話型生成AIを悪用した事案についてまとめてみた - piyolog
2024年5月28日、生成AIを使用したマルウエアを作成した容疑で警視庁が男を逮捕したことが報じられました。ここでは関連する情報をまとめます。 対話型生成AIを使用しランサムウエアらしきものを作成 男の容疑は不正指令電磁的記録作成。2023年3月31日に自宅PCやスマートフォンを使用して、対話型生成AIを使用し、不正プログラムの設計情報を組み合わせてマルウエアを作成した疑い。2024年3月に警視庁は男を偽造身分証を使用してSIMカードの不正契約を行ったなどとして詐欺容疑（今回の事案とは別件）で逮捕しており、*1 捜査より自宅から押収されたPCを解析したところマルウエアが発見された。*2 生成AIを使用したマルウエア作成の事案摘発は全国で初めてとされる。*3 男が作成したマルウエアは、実行環境のデータを破壊（暗号化とも報道）し、暗号資産の要求をする機能が含まれており、いわゆるランサムウエアに
ChatGPT-4oを専属マネージャーにしてサボり癖を直してもらった | ライフハッカー・ジャパン
疲れやすい、呼吸の浅さを改善。ストレッチポールは毎日使いたいほど気持ちがいい!【今日のライフハックツール】
入力線画を全く変えずに画像生成AIに色塗りさせる方法
タイトル通り、入力線画を(基本的には)1pixelも変えずに画像生成AIに色塗りをさせる方法について解説していきます。 本題に入る前に そもそも画像生成AIによる色塗り（着彩）について知らない方向けに、既存技術でAIに色塗りをさせるとはどのような事を指すか？またどのような課題があるか？について一度整理します。 画像生成AIによる着彩 テキストから画像を生成できるという事で一躍有名になった画像生成AIですが、テキストだけでは生成したい画像を詳細に指示することが困難であるという課題を抱えていました。 そこで、テキストと比較してより具体的に生成したい画像を指示する方法として。ControlNetを用いた画像とテキストを入力して新たな画像を生成する手法が現れます。 この応用として、色塗りがされていない線画と指示テキストを入力することで、入力した線画に対し色を塗った状態の画像を生成するという方法が存
実録：AIで描く漫画の実際 ～AIで今風の手描きっぽい漫画を作ってみる (2/6)
1／AIモデルの選定 いつものように、漫画のシナリオ、ネームを考えます。今回は「兎と亀」をベースに、GPU購入の話にします。 今風の漫画絵を生成するのに最適な画像AIは、SDXLアニメ系モデル、Novel AI、niji・journey辺りでしょう。第1回で主に使ったDALL・E3は、プロンプトの通りはピカ一ですが微妙に絵柄に古さがあるので、今回のテーマには向きません。 Midjourneyとniji・journeyは構図力も画力も高いので参考資料として使うには最適なのですが、自分は特に商業でこのモデルは使用しない事にしています。何故ならプロンプトに含めなくても版権デザインが紛れ込みやすいためです。 例えば「剣を持った青年」を出してもらうとします。青年はオリジナルのデザインだったとしても、剣だけ版権のデザインがモロに出る、みたいな挙動がMidjourneyやniji・journeyでままあ
実録：AIで描く漫画の実際 ～AIで今風の手描きっぽい漫画を作ってみる (1/6)
こんにちは、漫画界の生き恥こと野火城と申します。 「画像AI使ってみた／AI漫画実験企画」第2回です！ ■第1回はこちら 実録：AIで描く漫画の実際 ～体験して見えた、その実力と課題!! その成り立ちから様々な議論を呼んでいる画像生成AIですが、少なくとも2024年3月現在日本の法律では使用が許可されており、存在を完全に無視する事はできません。かといって全てを肯定して受け入れるのも難しい。 だからこそ、必要以上に恐れず、実際にどのような事が出来るのか、具体的に検証する――それが画像AIとの誠実な向き合い方なのではないでしょうか。 「画像AIの技術がすごいという賞賛記事はよく見るが、それは本当に創作活動で実戦的に使えるものなのか？ 『AIに仕事を奪われる』と『今のAIは実戦では使い物にならない』という真逆の意見を多数見るが、この二つは両立しないのでは？ 実際はどっちなんだ？」「画像AIを試し
開発者に必要なスキルが激変、要件定義や設計も生成AIのカバー範囲に
ChatGPTをはじめとする生成AI（人工知能）の目覚ましい進化により、ソフトウエア開発の上流工程で、業務改善を図る動きが胎動している。現時点で生成AIサービスの多くは、コーディングの効率化に照準を合わせている。コーディング支援サービスの「GitHub Copilot」に代表されるように、コードの自動生成やコード補完が主戦場だ。 要件定義にフォーカスした著名なサービスは、まだ少ないのが実際のところだ。とはいえ、ChatGPTのようなチャットベースの生成AIを活用し、要件定義や設計の原案を作成する動きは着実に広がりを見せている。プロジェクトに必要な要件を大まかに把握したり、特定の機能要件の原案を作成したり、設計に必要な技術仕様を調査したり――。汎用的な知識が求められる場面で、生成AIは既に活躍している。これにより、要件定義と設計のアウトプットを得るまでのリードタイムは着実に短縮できているわけ
「AIチャットbotを作りたいけど、どんなリスクがあるの？」 デジタル庁、テキスト生成AIのガイドブック（α版）を公開
デジタル庁などの関係省庁では2023年12月から、生成AIの業務利用に関する技術検証を進めており、今回のガイドブックもその検証結果を踏まえたものになる。なお今回公開したものはα版。デジタル庁は「現時点では、α版のため内容に不十分な点があるが、生成AI利活用時のリスクや対策に関する議論の参考にしてほしい」と案内している。 今後も定期的に内容の拡充・改善を行い、正式版の公開を目指す。 関連記事 生成AIを巡る日本の現状は？ 東大・松尾教授の考察資料が無料公開 「1年間、日本は最善手を指し続けている」 内閣府は5月23日、22日に開催した「第9回 AI戦略会議」で取り扱った資料を公開した。公開したのは、AI研究の権威として知られる東京大学の松尾豊教授が作成した「生成AIの産業における可能性」と題した全33ページの資料など。 「RAGはそんなに簡単じゃない」──AIエンジニア主導でLLMを導入する
テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）｜デジタル庁
デジタル庁では、デジタル社会の実現に向けた重点計画（令和4年6月7日閣議決定）を踏まえ、AIの実態と動向を把握し、リスクと必要な対応策を特定したうえで、官民における適切な活用の検討を進めています。 昨今の生成AIなどの技術革新により、さまざまな利点を得られるようになってきており、政府でも、このような技術の動向を見極めつつ、関係省庁における生成AIの業務利用について第10回デジタル社会推進会議幹事会・書面開催等の議論を重ねてきました。また、2023年12月より生成AIの適切な利活用に向けた技術検証を実施し、その結果※を公開しました。 ※技術検証結果の詳細は、2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証を実施しましたをご覧ください。 これまでの議論の経緯や検証結果を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」として公開します。実際
東京都の生成AI活用事例集にツッコミを入れてみる｜saip(さいぴ)
こんにちは、saip (@_saip_) です。 生成AIを利用した事業をしている株式会社TrippyでCTOを務めています。 Xで話題になっていたところてんさんの以下のポストから、「都職員のアイデアが詰まった文章生成AI活用事例集」という資料が公開されていることを知りました。 東京都もMarkdownとは言ってなくて、ハッシュタグと言ってる…… どうみてもMarkdownの見出しによる強調なんだが……https://t.co/hJMDyjIz7J https://t.co/Vqjr93kkxd pic.twitter.com/Sg9HF6iF6F — ところてん (@tokoroten) May 28, 2024 PDFはこちらのリンクから閲覧することができます。 この資料には都職員の方々の創意工夫や実際の業務での活用事例が掲載されており、大変勉強になりました。 一方で、冒頭のように、プ
ChatGPTを使う時に嘘の回答（ハルシネーション）を回避するために「わからないことは知らないと答えて」とプロンプトに入れると回答精度が上がる？
じこったねこばす @funniest_catbus ヤメガバンカー ||自意識が膨張して破裂寸前 ||過去作品は下記noteからどうぞ ||お仕事の依頼はDMまで ||質問箱: querie.me/user/funniest_… ||アイコン画像はKZOさん作 @__KZO__ ||かけだしクラブDJ||ラジオパーソナリティになりたい|| note.com/jikoneko/ リンク www.nri.com ハルシネーション | 用語解説 | 野村総合研究所(NRI) 野村総合研究所（NRI）の公式ホームページです。NRIからの提言や調査・レポート、商品サービス、ITソリューション事例、IR情報、採用情報、CSR情報などを掲載しています。
ルーターは“消耗品”と心得よ 脅威から身を守るための製品選定のコツ
皆さんは「NICTER」をご存じでしょうか。国立研究開発法人情報通信研究機構（NICT）のサイバーセキュリティ研究所が運営するサイバー攻撃観測・分析システムで、ダークネットと呼ばれる、未使用のIPアドレスを観測する仕組みです。 未使用のIPアドレスは、本来であれば通信が発生しないはずですが、実際にはマルウェア感染機器によるスキャン活動など、サイバー攻撃に関連した通信が大量に届いています。NICTERはこれを観測することで、脅威の発見や対策の実行を進めています。NICTERWEBではダークネットの観測結果の一部をビジュアライズして公開しており、今のサイバー空間がいかに悪意に満ちているかが一目で分かるようになっています。
「ChatGPT」「Copilot」「Gemini」「Claude」「Perplexity」の性能を日常的な会話で評価した結果が公開される
AIの精度向上に伴って、ChatGPTやCopilot、Geminiなど日常会話を違和感なくこなせるチャットAIが続々と登場しています。しかし、一般ユーザーからはどのチャットAIが高性能なのかは判断しにくいものです。そんな中、ウォール・ストリート・ジャーナルが5種のチャットAIを対象に「日常会話への応答性能を人間が評価するテスト」を実施し、テスト結果を公開しました。 The Great AI Chatbot Challenge: ChatGPT vs. Gemini vs. Copilot vs. Perplexity vs. Claude - WSJ https://www.wsj.com/tech/personal-tech/ai-chatbots-chatgpt-gemini-copilot-perplexity-claude-f9e40d26 AI企業やAI研究者が自身の開発したA
特化型モデルが日本の生成AI開発の勝ち筋
こんにちは、シバタアキラです。5月は皆様にとってもイベントの多い月間だと思いますが、私も日韓のAI Expoに出展、各所での講演、そして今週は日本人工知能学会の大会にて論文の発表も控えております。イベント参加は時間も取られますが、生の情報に触れるいい機会でもあり、今回は直近のAI業界の状況について私が学んだことを中心にご共有します。 出口の見えない日本のLLM開発に光？ 昨年末MetaとIBMが手を組んでアナウンスされたThe AI Alliance は、「オープンAI開発を推進する」と大義を謳ってLinux Foundationとも手を組み、今月日本でカンファレンス及びディナーがありました。これまであまり話題になってこなかった団体という印象を持っていましたが、ビッグネームなメンバー企業・団体が着実に増えており、かなりモメンタムが増している印象を受けました。 私も東工大の岡崎先生と、NII
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI「中国やロシアが当社AI使い世論工作」 日本も標的に - 日本経済新聞
「ChatGPT」無料ユーザーが利用できる機能拡大、Webブラウジングや画像認識機能などを解放／GPT-4oの機能をお試し可能、利用回数制限には注意
「AI声優」利用にルール、法的論点整理 政府戦略 - 日本経済新聞
生成AI、知的財産権の学習なら原則規制せず 創作物は「人の発明」 - 日本経済新聞
