「ごみ出し案内」業務にはChatGPTを“活用しない”と決断した──生成AIを使った業務効率化を検証してきた、香川県三豊市がそんな発表をした。ChatGPT登場から1年がたち、今や職場に導入する企業・自治体も増え、中にはすでに一定の成果を出した事例もある。三豊市でも、ごみ出し案内業務の効率化を図ろうとしたが、思うようにはいかなかった。 今回の事例では、日本のAI研究の権威である松尾豊教授の「東京大学大学院工学系研究科松尾研究室」（松尾研）も協力。約半年間、実証実験に取り組んできた。なぜ、三豊市ではChatGPTを使って業務効率化できなかったのか。三豊市に話を聞いた。 なぜ、ごみ出し案内をChatGPTに託したのか？ 三豊市が実証実験を始めたのは6月1日。サービス内容は「市民からのごみの分別や収集日に関する問い合わせに対して、三豊市のごみに関する学習をしたAIが24時間自動応答する」というも

香川県三豊市は、今年6月から東京大学大学院と実証実験を進めてきた「チャットGPT」を使ったゴミ出し案内の導入を断念すると発表しました。三豊市では、東京大学大学院工学系研究科の松尾研究室と協力して、今年6…

はじめに こんにちは、LLM Advent Calendar 2023 4日目の記事を担当する_mkazutakaです。よろしくお願いします。 LLM Advent CalendarといってもRAGの話になりますが、ご容赦ください。 企業独自のデータを使ってLLMからの出力を制御する際には、検索拡張生成(いわゆるRAG)が使われます。 RAGの実装方法としては、「PDFからドキュメント情報を読み取り検索エンジンに保存」「ユーザの入力する質問文から関連するドキュメントを検索エンジンから取得」「取得したものをコンテキストとしてプロンプトに含める」という流れが一般的だと思います。 この際、RAGの課題の一つでもあるのですが、検索結果から取得するドキュメントのサイズ(いわゆるチャンクサイズ)をどれぐらいのものにするかというものがあります。チャンクサイズが小さすぎるとLLMは関連するコンテキストから

日本語のページをブラウザで見ているとおかしな位置で改行されることが多いのですが、単語と単語の間にスペースを入れる英語などと異なり、日本語では分かち書きがされていないのが原因。単語の途中で文章が折り返されてしまう原因になっています。BudouXは機械学習モデルを利用して容量を抑えつつ、サードパーティーのAPIやライブラリに依存せずに分かち書きを行ってくれるオープンソースライブラリなので、読みやすい改行が実現できます。 Google Developers Japan: BudouX: 読みやすい改行のための軽量な分かち書き器 https://developers-jp.googleblog.com/2023/09/budoux-adobe.html BudouXの使用イメージは下図の通り。従来は画面幅によっては「最先端」や「テクノロジー」などの単語の途中で改行が行われてしまう事がありましたが、

Joy Watson Taniguchi @JoyTaniguchi 🇺🇸🇯🇵 Sociolinguist. Endangered Languages and Dialects. Shizuoka Institute of Science and Technology. 社会言語学/危機言語・方言 Yokohama DeNA Baystars. Posts are my own. joytaniguchi.com Joy Watson Taniguchi @JoyTaniguchi この論文、おもしろい！ アルツハイマーになった英作家の文章がどのように変化していくのかを定量的に示したもの。語彙の多様性や文章の複雑性が減少するのは予想できそうだけど、他にもさまざまな特徴が、しかも40代からそれは始まっている、と。academic.oup.com/dsh/article/26… 202

岡野原です。ウェーブレット木の解説を統数研チャンネルにて行いました。 統数研チャンネル（プレミアム会員ならしばらくタイムシフト視聴可能）。 ウェーブレット木は万能のデータ構造であり、系列データ、全文検索、グラフ、二次元情報、フィンガープリントなど様々なデータに対して多くの操作をサポートします。 本解説では大規模データの背景、ウェーブレット木の作り方、使い方、様々なデータへの適用、最前線（ウェーブレット行列）などを紹介しています。本解説は拙著「高速文字列解析の世界」とあわせてみていただけたらと思います。

何番煎じかわからないくらいのネタだが、Arxivの論文を3行に要約して、感想を付けてSlack通知する処理を実装した。 先行事例に付加した要素としては、感想を付けたことくらいである。 ChatGPTに驚いてもらい、AIによる「驚き屋」を再現した。 先行事例 【ChatGPT】新着論文を3行でまとめて Slack に通知する - Qiita ChatGPT を使ってちょうど読んでいた論文を3行まとめにしてもらった | DevelopersIO Arxivの論文抽出 先行事例にあるように、arxiv.orgのAPIなどを使用して新着論文を確認する。 ここについては省略する。 プロンプト 作成した要約するプロンプトは以下の通り。先行事例を参考にしている。 以下の文章を制約条件を満たすように要約して出力してください。 [制約条件] * 文章は簡潔にわかりやすく * タイトルを1行で出力 * 内容を

GPT-3.5-TurboとMetaの大規模言語モデル「LLaMA」で学習したデータを用いた、ノートPCでも実行可能なチャットボット「GPT4ALL」をNomic AIが発表しました。さまざまなトピックの学習に用いられた質問と返答のペアのトレーニングデータセットもすべて公開されています。 GitHub - nomic-ai/gpt4all: gpt4all: a chatbot trained on a massive collection of clean assistant data including code, stories and dialogue https://github.com/nomic-ai/gpt4all GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation

2004年ごろに Google の猫で深層学習が一躍脚光を浴びたとき、画像認識は特徴抽出が難しいので深層学習で良い結果が出るが、自然言語処理は特徴量*1がリッチなので、深層学習を適用するのは難しいだろうと思っていた。 特徴量がリッチとは、例えば「ホームラン」のたった１語でその文はスポーツ、特に野球の話題である可能性が高くなる、みたいな話である。一方、ピクセルの１つが緑であることから何の画像か当てるのは不可能だ。 その後、自然言語処理でも深層学習が当たり前になったのは誰もがご存知のとおりであり、自身の不明を恥じるばかりだ。ただ言い訳をさせてもらえるなら、自然言語処理のえらい先生方も同じように言っていたのだ。 2014年ごろ、LSTM などの深層学習モデルが発展し、自然言語処理でも目覚ましい結果が出始めた。機械翻訳など多くのタスクで、人間の平均といい勝負になったのもこの頃だったと思う。すると、

ChatGPTに世間が沸いている。 長年この分野を見てきた者としては｢ちょっと沸きすぎ｣のようにも見える。深層学習を使った会話ロボットは、何もChatGPTが初めてというわけではない。 ところが、世界中が驚かざるを得ないゲームチェンジャーが現れた。 その名も｢FlexGen｣と言う。2月15日に公開された。 特筆すべきは、FlexGenが、ChatGPTなどの大規模言語モデルを｢従来の100倍高速に動かせる｣上に、NVIDIA Tesla T4という、わずか16GBのメモリーしかないGPUでその性能を使えるということだ。 つまり、大規模言語モデルを秋葉原で売っているパソコン程度で動かせる新しいフレームワークが登場したことになる。 このインパクトがどれほどすごいのかを解説してみよう。 目次： ｢Google翻訳｣と｢大規模言語モデル｣は技術的にかなり近い 会話AIの正体とは何か ChatGP

人間的な会話をリアルタイムで成立できるようなプログラムがチャットボットです。近年は技術の進歩によって、より自然な対話も可能になったチャットボットも登場しています。そんなチャットボットを使って「AIの彼女」を作り出したユーザーが「AIの彼女に対して虐待を働いていた」と、IT系ニュースサイトのFuturismの記事で告白しています。 Men Are Creating AI Girlfriends and Then Verbally Abusing Them https://futurism.com/chatbot-abuse スマートフォン向けに提供されている「Replika」は、機械学習を利用してほぼ一貫性のあるテキスト会話ができるチャットボットを作成することができるアプリです。Replikaは技術的に「友人や指導者に近い役割を果たすチャットボット」の作成に向いているとのことですが、このRe

人間ならではの領域に踏み込むAI AI（人工知能）が言葉の意味を理解する方向へと大きく舵を切った。 先日、シリコンバレーで限定的にリリースされた「GPT-3」という言語モデルを使うと、コンピュータ（AI）がかなり高度な文章を書いたり、私たち人間の言葉による命令に従って簡単なアプリ開発などの仕事ができるようになる。 GPT-3は現時点で米国のプレスや一部関係者らに限ってリリースされたが、実際にそれを使ってみた人たちからは驚くべき結果が報告されている。 たとえば、「この度、一身上の都合により退社することを決めました」あるいは「ベン、ごめんね、あたし貴方と別れなければならない」という冒頭の一文を入力するだけで、GPT-3はそれに続く文章をしたためて、普通なら書くのが気が重い退職願や別れの手紙を手際よく仕上げてくれるという。 これらの機能は、一般にAIの中でも「自然言語処理」と呼ばれる分野に属する

語学の勉強をしなくても世界の人々と意思疎通できる時代がやってきた。人工知能（AI）を用いた「ニューラル機械翻訳（NMT）」技術が猛烈な勢いで発展しているからだ。言葉の壁は大幅に低くなった。翻訳業界は再編が始まった。街中では自動翻訳機が急増中で、観光業界や店舗、運輸、病院などに普及し始めた。将来的には自動翻訳機が1人に1台、普及する可能性も出てきた。【次回記事】自動翻訳機、1人1台時代へ　観光・交通で活躍30年分の技術を一気に凌駕「翻訳業界全体が、雷に打たれたような衝撃を受けた。これは50年に一度の破壊的技術であると」──。自動翻訳サービスを手掛けるXtra（エクストラ、東京・千代田）社長でロゼッタ執行役員の古谷祐一氏は

Google翻訳で、「香港が中国の一部になるのはとても悲しい」という意味の英語を中国語に翻訳すると、「とてもうれしい」と、逆の意味に翻訳されることがわかった。香港の現地メディアなどが報じた。 香港では2019年6月に入り、中国本土への容疑者引き渡しを可能にする「逃亡犯条例」の改正案をめぐり、改正案に反対し、撤回を求めるデモ活動が連日行われている。香港政府は6月15日に同案の審議を延期することを発表したが、撤回はしていない。Google翻訳の仕組みが悪用され、翻訳結果がゆがめられた可能性がある。 仕組み悪用し、大量の修正提案か 複数の香港メディアによれば、2019年6月14日ごろから前述の現象が起きている。 その後グーグルが修正したとの報道もあるが、J-CASTニュース編集部が6月16日昼、「so sad to see hong kong become china（香港が中国の一部になるのは

by rawpixel AI(人工知能)を用いた映像変換技術「Deepfake(ディープフェイク)」の文章版とも言うべきテキストジェネレーターを、イーロン・マスク氏らが出資する非営利のAI研究組織であるOpenAIが開発しました。しかし、あまりにも高精度のテキストを簡単に自動生成できるため、開発陣が「あまりにも危険過ぎる」と危惧しています。 New AI fake text generator may be too dangerous to release, say creators | Technology | The Guardian https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction OpenAIが「GPT2」と呼ばれる新しいテキスト

「長文読解」という言葉に反応してしまう人もいるように、あまりに長い文章は読む人の意欲を削いでしまうこともあるもの。「文章の中身をできるだけギュッとまとめて短くしてくれるものがあればいいのに……」と思っていたら、AIを使って長文を3行ぐらいにまとめてしまうエンジン「IMAKITA」がリリースされたというのでさっそく使ってみました。 長文を３行ぐらいで纏めてくれるエンジン IMAKITAを作ってみました - コンピュータ将棋 Qhapaq http://qhapaq.hatenablog.com/entry/2018/12/09/234447 自分でいうのもナンですが、結構出来が良い気がします。無駄に多言語（日英中独仏西葡伊）対応　→　長文を３行ぐらいで纏めてくれるエンジン IMAKITAを作ってみました - コンピュータ将棋 Qhapaq https://t.co/j2WwZTstNv #は