LLM chatbotが人類にもたらすのは、絶望なのか希望なのか - 渋谷駅前で働くデータサイエンティストのブログ

ちょっと前に以下のようなことを放言したら、思いの外反響が多くてちょっとびっくりしたのでした。それだけ、現代のLLM chatbot / generative AIの台頭に期待と不安を抱いている人が多いということの裏返しなのでしょう。 既に色々コメントが出ているけど、我々人類が「知的労働」だと思っていることの大半が実は「過去実績をなぞって適当にその場に合わせて組み立てているだけ」なんじゃないかと訝っているので、そういう「自称知的労働」は多分LLMで代替されると思う。新奇なものを生み出す仕事は相変わらず残る https://t.co/GGK41vSDcn— TJO (@TJO_datasci) 2023年3月15日 昨年の年末振り返り記事でも話題にしたChatGPT（そして後続の各種LLM chatbot）ですが、今年に入ってからの話題の広がり方には想像を超えるものがあり、ついに朝の情報番組な

[lotus-sutra]

“全ての人類に「部下」を与えてくれるのがLLM chatbotだと見ることもできそうです” わかる

[abiruy]

「91点以上の出来でないとLLMは使えない」ホワイトカラーの仕事で91点以上取れる人が世の中に何%いるんだろう？😇

[T-norf]

反復性のあるジョブから時間かけて喰われるのは同感で、非常に分かりやすい文章。私はゆえに「人・テキストデータとソフトウェアのインタフェース革命」の方が当面はインパクト大きいとも思ってたりするけど。

[shunkeen]

LLMはあくまで中間というかインターフェースになるんじゃないのと思ったりする。ハルシネーションは正確性の高い情報源をLLMが検索して解決とか。そして間に入っているだけの私のような人間は代替される。やったね。

[skel]

「全ての人類に部下を与えてくれる」→わかる。たまに嘘つくとこも含めて使役する側のスキルが試される。

[k-takahashi]

『hallucinationと「不正確さの谷」を勘案すると、既に十分なスキルと見識のある人が「アシスタント」として用いるのが最も効果的だと考えられます。これはニューラル翻訳でも同じ』

[kojika17]

「星座占いの結果を考えるのにちょうど良い」なんか納得した

[y_kame]

文脈無視だけど戦略の多くはケーススタディの賜物だったりするので、意外と要らないストラテジストが多くて、ニッチな拘りが生まれがちなオペレーターの方が生き残ったりしたりして

[mc22_90]

面白いし参考になる。でも人の手によるシャンパンってJTC管理職の言う「ワープロ書きは心がこもっていない」と大差ないんじゃ

[burabura117]

“全ての人類に「部下」を与えてくれるのがLLM chatbotだと見ることもできそうです。となれば、そんな「誰もが自由に使える部下にどう上手く仕事をさせるか」が問われる時代が今後やってくる”

[isobe324649]

NNの理論解析っｔ面白そう。どんな手法が使えるんだろう？パラメータ空間上の幾何学的解析なら情報幾何学ということになるのかもしれないけど、どちらかというと実行時にNNに流れる数値のほうを解釈したい気がする。

[misshiki]

“やや刺激的なことを言えば「アナリスト的なデータサイエンティストは当面LLMでは失業させてもらえない」”

[akymrk]

“NNLMが堂々と流暢に嘘っぱちをアウトプットする、という現象”"昨年公開された網羅的なサーベイ総説論文でもその傾向や現状での対策方法などは述べられている"決定的な原因究明や対策方法の提案はなされていません"

[naggg]

"「知的労働」だと思っていることの大半が実は「過去実績をなぞって適当にその場に合わせて組み立てているだけ」なんじゃないかと訝っているので、「自称知的労働」は多分LLMで代替される"

[matsui]

"GPTも4からはマルチモーダル（多感覚）ということで、テキストだけでなく画像データなども用いられています"

[camelia73]

"「LLM chatbotに適当なプロンプトを与えて何パターン・何十パターンとドラフトを作らせて、その中から一番良さそうなものだけを選んで最後に自分で仕上げる」というのが、現段階では最も効果的かつ効率的な使い方"

[elm200]

知的労働をしている人の予想は「自分の仕事は置き換えられないはず」という希望的観測が混じってしまう（私もそうだ）。私は著者が考えるより変化は早くやってくる気がするけどね。

[cl-gaku]

となれば使いこなせる人間は相当限られてそうね

[out5963]

出力されたものを人が確認するという仕事が多くなるんじゃないのか。

[tettekete37564]

“「不正確さの谷」” < 確かに感覚としては無気味の谷に近い。/ 90点という採点ができる人間にとってはとても有用。ただGPT3.5の時点ては90点を出せるケースはかなり限定的。新人一年目くらいの部下だと思えば結構使える

[rgfx]

つーことで、"あなたは良い上司になれますか？ちゃんとブレイクダウンしてコミュニケーションができるリーダーになれますか？"が人間サイドの直近の課題なのではと。

[buhoho]

おもしろーい

[ornith]

“全ての人類に「部下」を与えてくれるのがLLM chatbotだと見ることもできそうです。となれば、そんな「誰もが自由に使わえる部下にどう上手く仕事をさせるか」が問われる時代が今後やってくる、とも言えるのかも”

[nicht-sein]

シャンパンを例にあげて人の仕事は残ると仰ってますがトップキュヴェで動瓶できる技術を持った人は限られていて誰もが時間をかければその域に達するものではない以上、脱落した人はいる、って視点がないんだよなぁ

[canadie]

ずっとhallucination（ウソ）は教師データが足りない物事について起こるのだと思っていたが、「日本で一番高い山は？」との問いに「標高3,776mの北岳です」と返ってきて、単純なデータ不足ではなさそうだ

[pixmap]

GPT4だと、期待された結果が返ってくる「単純労働」「自称知的労働」とここで言及されているものより、むしろ新奇なものを生み出す方が得意に見えるけどなぁ。

[sho]

(少し未来のLLM chatbotなら全部書いてくれそうな) 現時点のよいまとめ。こういう記事を書く仕事もなくなっていくんだろうな

[workingasadog-kt]

分かりやすくて面白かった！ただ、メタファーとしての産業革命における社会の変化(物理的な発明)は、現代社会の情報的な側面における変化の速さを考えると、ちょっとピンと来なかった。

[revert]

まあ現行のLLMで代替できそうな仕事はそこまで多くないだろうというのは同意。現行のLLMでも強化学習のタスクに組み込めるならやれる範囲は広がりそうとは思った

[TETSUYA01]

イギリスの産業革命は蒸気機関という具体的なモノだから変化は遅かったが、今のWebで使えるAIはローンチすれば一瞬で世界中に同時に広まるので変化は急激に起こるし、逃げ場がない。摩擦的失業はすごいことになるよ。

[hasiduki]

確かに！！！「ChatGPTは確率だから〜！！！！」って言われるとセンス古くね20年前かよ！？？？って気持ちになるよね！！！

[raebchen]

「LLMは『駆け出しで時々ミスすることもあるが何でも出来る部下』であり、これを巧みな指示とマネジメントでうまく使いこなす『管理職』的な立場をヒトが担うべき」→これに尽きるな😳 指示できん自分は論外だが😓

[ganaware]

“hallucinatio”

[Windfola]

「確率的に」はサイコロ振ってるという趣旨じゃなく、部下の仕事のやり方が「筋道立てて考える」じゃなく「とりあえず過去の仕事からもっとも近そうなもの選ぶ」なのを確率的と呼んでるんだと思うけど。

[eichisanden]

“それっぽいなと思った喩えが「LLMは『駆け出しで時々ミスすることもあるが何でも出来る部下』であり、これを巧みな指示とマネジメントでうまく使いこなす『管理職』的な立場をヒトが担うべき」というものです。”

[tomono-blog]

新しいLLMのおかげで、長い文章に向き合う気が削がれてきてます…なんか深刻。