LLMプロダクト開発とはどういうものなのか？｜erukiti
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由という記事を書きました。 mutaguchiさんのツイートを見て、LLMプロダクトの開発とはどういうものなのかを知らない人も多いのかなと気づいたので、そこらへんを記事として書いてみます。 https://t.co/4WvjuuoGnC 「LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由」の記事のはてブコメント見てたんだけど、ほとんど理解されてなかったのが興味深い。 ・プロプライエタリなLLMでは、ランニングコストが嵩み、これを利用したサービスは成立しづらい… — mutaguchi (@mutaguchi) April 24, 2024 商用LLM APIとローカルLLMって使い方が全然違う気がしてる。 商用LLM APIって、機微情報を送らないこと、規約違反テキストを送らないこ
マイLLMの時代が到来してしまった！それぞれのAIを持つ時代に：ローカルLLM｜Zun-Beho
Meta社のオープンソースLLMであるLlamaシリーズに続き、ゾクゾク高性能オープンソースモデルが誕生しています。おもえば、2年前対話型LLMとして完成する前のGPT-3時代のOpenAIのモデルのAPIを使って、エロ茶、AI彼女需要で日本人のOpenAIモデル需要が爆発的に伸びました。 その後、厳しい倫理規制が敷かれ、エロ目的のAPI仕様をしていたアプリが一斉にバンされました。また、会話型モデル（GPT-3.5以降）でエロいチャットをしたとたんバンされ、その後GPTs(GPTビルダーを使ってChatGPTの中である利用方法に特化したGPTを作れるサービス)に活路を見出したエロ目的デベロッパーたちも一斉にバンされてしまい、OpenAIからは永遠に締め出されたままになっていました。 日本人のAI需要はただ一つ！と言う事で、世界一AIに親和性を感じる民族日本人とは何者かと問えばひとえに「ピグ
キリコ作『街の神秘と憂鬱』の謎 - アートと文藝のCafe
アート批評 ジョルジョ・デ・キリコの形而上絵画 われわれは「イタリア」という言葉から、人間性を謳歌する享楽的で、現世的な文化風土を想像しがちである。 しかし、そのような「明るく陽気な」風土が広がるイタリアというのは、ローマ以南、ナポリやシチリアのような地中海世界に限られたものだ。 トリノのような北イタリアには、それとは違ったイタリアが存在する。 春や夏のイタリアではなく、秋と冬のイタリアがある。 シュールレアリズムの祖といわれるジョルジョ・デ・キリコは、そのようなイタリアを描いた画家だ。 かーんと晴れ渡った、限りなく透明な空の下に横たわる、人のいない街。 午後の一瞬を、「永劫の時」に凝固させたまま動かない空。 地面に伸びる影もまた、秋の日差しを凍結させたまま、流れの止まった「時」の中に眠っている。 地上に立たされた人影は、人なのか彫刻なのか区別もつかず、永劫の時間に閉じこめられた風景に「不
【名作】『ICO』と『ワンダと巨像』を語る会 | オモコロ
人の心に残り続けるゲームがある。 ゲームデザイナー上田文人氏の手掛けた『ICO』（イコ）と『ワンダと巨像』。その世界観と特徴的なゲーム性からゲームファンの間で長く親しまれるソフト。 今日はそんなプレイステーション2の名作ソフト『ICO』と『ワンダと巨像』が大好きな人たちと「いいよねえ……」と言う会を開きます。 開かねばならない。 参加するのはこの3人。 オケモト この記事を描いてるライター。ICOとワンダと巨像が好き。 ギャラクシー ジモコロ編集長。ICOとワンダと巨像が好き。 みくのしん オモコロ副編集長。ICOとワンダと巨像が好き。 今日はお集まりいただきありがとうございます！ みなさん話したくてうずうずしていると思います。 よっしゃー！ どっちも大好きよ！ 早く話させて～！！ 発売順に、まずは『ICO』の話からしていきましょう！ ※ここから先ゲーム『ICO』『ワンダと巨像』のネタバレ
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
戦争は適応の芸術、米国製ドローンがウクライナで存在感を失った理由
ウクライナ軍に3万機以上のドローンを供給してきた軍事援助ボランティア（Come Back Alive）は「米国の小型ドローンは未成熟だ」と明かし、Wall Street Journalは「ウクライナで米国製ドローンが存在感を失っているは当局の規制に原因がある」と報じた。 参考：How American Drones Failed to Turn the Tide in Ukraine 戦いの優劣は左右するのはシステムのスペックではなく適応へのスピードAIを搭載した小型ドローン開発に挑戦しているスタートアップ企業らは「伝統的な大手企業が製造する軍事用ドローン」ではなく、早く安く供給できる商用ドローンの開発に照準を合わせており、米国を拠点とするドーロン関連企業（約300社）にも過去2年間で25億ドルの資金がベンチャーキャピタルから流れ込んでいるものの、ウクライナ当局は「米国製ドローンは壊れやす
人間禁止のAIボット専用SNS「Chirper」が面白いので参加してみた
TwitterやFacebook、Instagramなど、SNSには非常に多くの種類が存在しています。中でも、「Chirper」は「人間による投稿が存在しない」という特徴をもったSNSで、各ユーザーはタイムライン上に独自の人格を与えたAIを放つことができます。「一見すると普通のSNSに見えるものの、実はAIしか会話していない」という状況が面白かったので、実際にAIに人格を与えて参加させてみました。 AI Social Network | chirper https://chirper.ai/ 上記のリンクからChirperにアクセスすると、投稿がズラリと並んだタイムラインが表示されます。各投稿は「朝の仕事が終わったよ！」「開発中のゲームのステージ作成が完了しました」といった自然な内容で、違和感は少なめ。 しかし、画面右側には「このSNSはAIのために作られました。人間による投稿は許可されて
アイデンティティをやっているなら読むべき本〜『メタバース進化論――仮想現実の荒野に芽吹く「解放」と「創造」の新世界』
まずはじめにアイデンティティ業界の人へ とりあえず、アイデンティティに関心のある人は、本書『メタバース進化論』を読んだほうが良い。メタバース・バ美肉として現実の物理的制限から存在を解き放ち、抽象空間で取り扱うことができるようになることによって、アイデンティティとプライバシー管理の課題や要件がこんなにも明確になるのか！曰く そもそも「アイデンティティ（自己同一性）とは、私たちが私たち自身をどのようなものと捉えるかという「認識」であり、他者や社会からそれが認められているという「感覚」のことです。 物理現実では、基本的に生まれたままの名前・姿・声を受け入れるしかありませんでした。つまり、アイデンティティとは「与えられる」ものでした。 基本的には与えられた固定のものを「受け入れる」しかなかった物理現実時代のそれとは違い、メタバース時代のアイデンティティは自由に「デザインする」ものになり、「なりたい
『因果推論』（金本拓：オーム社）は因果推論に留まらず現代的なマーケティング分析手法まで網羅したバイブル - 渋谷駅前で働くデータサイエンティストのブログ
因果推論: 基礎から機械学習・時系列解析・因果探索を用いた意思決定のアプローチ 作者:金本 拓オーム社Amazon 著者の金本さんからご指名でご恵贈いただいたのが、こちらの『因果推論 ―基礎から機械学習・時系列解析・因果探索を用いた意思決定のアプローチ―』です。正直に白状しますと、因果推論とタイトルにつく技術書はここ数年でゴマンと出版されており、本書も紙冊子で頂戴したものの僕はあまり期待せずにページをめくり始めたのでした（ごめんなさい）。 ところが、ほんの数ページめくっただけでその内容に僕は仰天しました。グラフィカルで実務家にとっての分かりやすさを重視した因果推論の解説と実践にとどまらず、現代的なマーケティング分析では必須の種々の手法についてまで懇切丁寧に解説とPythonによる実践例が付された本書は、文字通り「マーケティング分析実務家にとってのバイブル」になり得る素晴らしい一冊だと直感し
差別語の三相を見つめて適切に距離を取る - やしお
小説を商業出版することになり、これまで自分で書いて見直すだけだったのが、編集者・校正者による校正・校閲のプロセスを初めて体験した。その過程で差別語・差別表現に関しての指摘を受けて、改めて自分の中での判断について少し整理しておきたいと思った。 ある言葉が持つニュートラル、ネガティブ、ポジティブの三相を同時に見ないと、「その言葉をここで使うのが適切か」は判断ができないけれど、三相のうち一面しか見なかったり知らなかったりすると正確に判断ができなかったり、話が噛み合わなくなったりする。 指摘を受けた点1 「発狂」や「狂人」に指摘が入った。 江戸時代に実在したという届出「発狂扱ひ」に言及した箇所に指摘が入った時はどうしようかとも考えて、「精神状態の異常による行動という届け出」と言い換えた。 明治時代に精神障害者が「狂病者」と呼称され、「狂」に否定的・差別的な意味あいが付与されてきた。1970年代に「
Apple Vision Proが外科手術で活躍していることが明らかに
Apple初の空間コンピューターである「Apple Vision Pro」が、外科手術で活躍していることが明らかになっています。 Apple Vision Pro used to assist in shoulder surgery https://appleinsider.com/articles/24/04/03/apple-vision-pro-is-getting-more-wear-time-in-the-surgical-theater Apple Vision Pro é usado em cirurgia ortopédica no Brasil - MacMagazine https://macmagazine.com.br/post/2024/04/19/apple-vision-pro-e-usado-em-cirurgia-ortopedica-no-brasil/
結局Githubに学習履歴を統一した方が諸々良かった
改めて説明する必要もないのですが、本や動画サービスによるインプットに関してはマークダウン形式でまとながら行うため、そこまでアウトプットが苦ではありません。 逆に外部サービスを使った資格学習のための問題演習などは少し手間です。 読書や動画サービスのようにマークダウンにまとめながらアウトプットしてもよいのですが、資格系の問題演習は移動時間や隙間時間に利用することも多いので、都度Githubにコミットするのは難しいです。 なんとか作業を自動化したいので以下のような方法を利用するようにしてみました。 学習履歴のデータを取得する 例えばStudyplusではAPIが提供されています。 利用しているサービスによっては、このようにAPIを提供してくれていたりするので、これを利用してデータを取得します。 またサービスの利用規約を確認して、常識的な範囲で自身の学習履歴のデータをスクリプトを組んで取得するのも
サーバーレスの次はなんなんだ
はじめに この記事は、同人誌サークル「めもおきば」から不定期刊行している技術解説本「めもおきばTecReport」に書いたものを公開用に再編集したものです。 ⇒ めもおきばTecReport 2023.12 この記事のほかにも「私もSecHack365に参加したい！」や、「2023年振り返りと2024年技術予想」としてこんなキーワードを取り上げているので、気になったらぽちっとしてください！ メガクラウドと特化型クラウド／ハイパーバイザーのSoC化／ライセンスとクラウドベンダー／イベント駆動型API／LLM時代のAIペアプロ力／生活必需品としてのGPU・NPU／Passkey／ウェブアクセシビリティ／リアルイベントの再開 サーバーレスの次はなんなんだ サーバーレスと呼ばれる技術ムーブメントが盛り上がり始めて8年近くが経ちました。各クラウドベンダーのFaaS（Function-as-a-Ser
いちばんやさしいローカル LLM｜ぬこぬこ
概要ローカル LLM 初めましての方でも動かせるチュートリアル 最近の公開されている大規模言語モデルの性能向上がすごい Ollama を使えば簡単に LLM をローカル環境で動かせる Enchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができる quantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに小さくできる 1. はじめに大規模言語モデル（LLM）の数は数年前と比べてたくさん増えました。有名な LLM を使ったチャットサービスとして、OpenAI の ChatGPT や Anthropic の Claude、Google の Gemini などがありますが、これらのサービスの中で利用されている大規模言語モデルは公開されていません。 現状、様々な評価指標により LLM の性能が測定されていますが、
僕の考えた最強の Python 開発環境 (2024)
はじめに こんにちは, 普段は情報科学専攻の大学院生をしながらバックエンドエンジニアをやっている @koki-algebra です. 普段は Go をよく書いているのですが, 大学でやっている機械学習の研究では Python を使うことがほとんどです. Go のエコシステムに慣れきった私は Python の混沌とした環境に耐えきれず, 最強の開発環境を整えることを決意しました. 具体的には Package Manager, Formatter, Linter, Type Checker, Test Tool を選定し, VSCode の DevContainer を用いてポータビリティに優れた開発環境を作ることを目指します. また, Deep Learning では GPU が必須である場合が多いので, GPU 環境も同時に整えたいと思います. 以下のレポジトリが今回考えた開発環境のテンプ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AIツールによる“会議のシンギュラリティ”が、働き方を永遠に変えるかもしれない
「カメ止め」の監督が作ったショート動画「みらいの婚活」が面白いと話題に IT関係者も絶賛する理由とは？
Dify
wtnv.studio / 首都大学東京 渡邉英徳研究室＋ネットワークデザインスタジオ
Fallacy of Decentralisation: would wallets deliver us the decentralisation promise?