邦画プレゼン女子高生 邦キチ! 映子さん 服部昇大 邦画プレゼン界の暴れ馬! 『邦キチ』が限界突破のシーズン 12 で跳躍!!今回も「映画について語る若人の部」を舞台に、尋常ならざる邦画中毒女子高生・邦キチが、まずまずの洋画好きな部長・洋一を相手に絶妙なチョイスの邦画(一部例外アリ)を愚直にプレゼン!プレゼン!!プレゼン!!! その視点、その愛情、その圧力ーー。全てにおいてシーズン 11 を凌駕ッ!! 銀河系初の邦画プレゼン漫画、後続を突き放して疾走中です …!!
背景 LLMは、膨大な量の公開データで学習することにより、幅広い一般知識推論タスクで著しい進歩を遂げてきました。一方で、LLMが特定の分野のタスクに用いられる場合、一般的な知識推論よりも、与えられた文書に対して正確であることが強く求められています。例えば最新のニュースや企業の非公開文書などに適応させることは課題になっています。 LLMを特定分野に適応させる際、検索拡張生成(RAG)を用いたコンテキスト学習と、教師あり微調整(supervised fine-tuning)の2つの手法が主に考えられます。 RAGベースの手法は、LLMが質問に答える際に文書を参照するものです。この手法では、モデルが事前に学習しているわけではありません。外部のナレッジベースから関連情報を取得することで問題解決能力を向上する(比較的リーズナブルな)アプローチです。 教師あり微調整は、文書からより一般的なパターンを学
whisper.cppの進化が止まらない OpenAIのWhisperオープンソース公開は文字起こし界隈に衝撃を与えました whisper.cppは本家Whisperのリリース後早い段階で公開された派生物で、非GPU環境においてそれなりのメモリ消費量・速度で動作する特徴がありましたが、そのリリースから1年のうちに実はwhisper.cppはかなりのスピードで進化しており当時とはもはや別物になっています とくにApple Silicon Mac / macOS上での動作速度がこの1年間で大きく向上しました 現代のコンピューター上でTransformer系のような大規模計算をする場合、CPUによる汎用演算にとどまらず搭載された各種アクセラレータをいかに使い倒せるかが重要で、whisper.cppはその名前からCPU側へ偏った実装という印象を(なぜか)受けますが ArmのNEONやIntelのA
Appleシリコン上での実行に対応した機械学習ライブラリMLXが公開されました。 今回は公式が公開している"mlx-examples"リポジトリの"llama"を使って、llama2-7b-chatの実行を試してみます。 commit: 3cf436b529ea58d6c0c0a29c0dd799908cd4497d 2023/12/22 検証環境 MacBook Pro Apple M3 Pro メモリ 36GB 公式要件としては、以下の環境が示されています。以下要件を満たしていてもメモリが少ない場合、実行するモデルによっては推論ができない可能性があります。 Using an M series chip (Apple silicon) Using a native Python >= 3.8 macOS >= 13.3 環境構築 まず"mlx-examples"のリポジトリをローカルにク
こんちには。 データアナリティクス事業本部 機械学習チームの中村です。 OpenAIがリリースしたWhisperについて、先日は以下の紹介記事を書きました。 今回はもう少し深堀することで、様々な使い方がわかってきたのでシェアしたいと思います。 Whisperでできること APIを使ってできるのは以下になります。 transcribe(書き起こし処理) 音声からの文字書き起こし。 99言語に対応 translate(書き起こし + 翻訳) 音声からの翻訳処理。 入力は多言語に対応していますが、出力は英語のみ。 また内包される機能として、言語判定や有音無音判定(VAD:Voice Activation Detector)があります。 この記事ではそれぞれの使い方を見ていきながら、transcribeの詳細に迫ります。 実行環境 ハードウェアなどの主な情報は以下の通りです。 GPU: Tesla
Meta(Facebook)が開発・公開しているオープンソースの生成AIモデル「Llama」シリーズに、新たな「Llama 3」が2024年4月19日に公開された。 Llamaは、OpenAIのGPT-4や、AnthropicのClaude 3などと異なり、モデルが一般に公開されており、誰でもモデルをダウンロードして、自分のPC/Macなどで、例えインターネットに接続されていなくても利用することが可能だ。 今回リリースされたLlama 3は、8B(80億)パラーメータ、70B(700億パラメータ)の2種類だ。 大型の70Bモデルは、いくつかのベンチマークによれば、OpenAIの最上位モデルであるGPT-4 Turboや、AnthropicのClaude 3の最上位モデルであるOpusには及ばないものの、GPT-3.5やClaude 3 Sonnet、Gemini 1.5 Proよりも優れた
「MLX」で「Llama 3」を試したので、まとめました。 1. Llama 3「Llama 3」は、Metaが開発したオープンモデルです。 2. 推論の実行「MLX」は、Appleが開発した新しい機械学習フレームワークで、「Apple Silicon」(M1/M2/M3など) を最大限に活用するように設計されています。 推論の実行手順は、次のとおりです。 (1) Pythonの仮想環境の準備。 今回は、「Python 3.10」の仮想環境を準備しました。 (2) パッケージのインストールと実行。 今回は「mlx-community/Meta-Llama-3-8B-Instruct-4bit」のモデルを利用します。 pip install mlx-lm mlx_lm.generate --model mlx-community/Meta-Llama-3-8B-Instruct-4bit -
音声認識を行うAIモデルであるWhisperも言語モデルを使用しているためPrompt Enginneringを適用することが可能です。本記事では、Whisperに対してPrompt Enginneringを適用することで、未知語の認識精度を向上させる方法を解説します。 Whisperの概要WhisperはChatGPTを開発したOpenAIの開発した音声認識モデルです。Whisperは、入力された音声を特徴ベクトルに変換し、特徴ベクトルを元にテキストを言語モデルで1文字ずつ生成します。 近年、ChatGPTの登場によってPrompt Engineeringが注目されていますが、Whisperも言語モデルを使用しているため、Prompt Enginneringを適用可能です。 WhisperにおけるPrompt EnginneringWhisperにはpromptとprefixという概念が
OpenAIの音声認識モデルであるWhisperの高速推論版であるwhisper.cppが、いつのまにか [1] Core ML対応していた。 Core ML対応したということは、macOS/iOSデバイス(Mac, iPhone, etc...)に搭載されているNeural Engine、GPUを利用して推論処理を行うようになった、ということを意味する。[2] さっそくREADMEの手順をなぞりつつ手元のMBPで動かしてみたメモ。 なお、実行環境は以下の通り: MacBook Pro M1 Max 64GB macOS Ventura 13.3.1 Core MLモデルの生成手順 依存パッケージのインストール whisper.cppのCore MLモデルの作成に必要なパッケージをインストールする。
この記事の3つのポイント 憲法が保障する人権について「宇宙の戦士」から考える 貢献度と発言力がリンクする考え方はとても危うい 極論への痛快な一撃「プライベート・ベンジャミン」 本コラムは時折担当の編集Y氏から「お題」を振られるのだけれど、今回は「連休の谷間に掲載なので、5月3日、憲法記念日ということで一つ」という指令が届いた。 実は、最近「人権」ということを考え続けている。というのも、ここ10年以上にわたって政権の側に属する政治家からあまりに人権をないがしろにする発言が続いているのを、いったいどう考えたものか、と思っているからだ。 試しにネットで「人権侵害 政治家」とニュースを検索してみよう。すると、出てくる出てくる、あの自由民主党議員の人権侵害発言のニュース……正直、彼女がなにを考えてあのような発言をしているのか、私には分からない。 私はいい加減ロートルのSFマニアなので、人権というとす
ゴールデンウイーク(GW)が始まり、各地の行楽地が多くの人出でにぎわっている。ネット上では長野・松本城を観光していたところ、駐車場で思わぬトラブルに巻き込まれたという投稿が大きな話題になっている。愛車を出すまで3時間かかったというkty(@kty0007112)さんに詳しい話を聞いた。 【写真】「ほんまにビタづけすぎやろ…」と仰天…ギリギリだった駐車、実際の写真 「松本城を観光して戻ってきたら、自分の車がとんでもないことになってた。ギリギリ当たってなかったけど、出るまでに3時間かかって、午後からの予定が白紙に、、」 4月29日、ktyさんが投稿した写真は、ネットに衝撃をもたらした。 松本城近くの駐車場。停めていたktyさんの車をふさぐように、ピタリと白い車が向かい合って停められている。これでは、車を出すことができない。「どうやって入れたんだ」「ほんまにビタづけすぎやろ…」「奥にある車も出せ
AmazonのクラウドコンピューティングサービスであるAWSが提供するストレージサービス・Amazon S3では、写真や動画などのデータをアップロードするためにバケットを作成する必要があります。このS3バケットを空の状態にしていると、AWSの請求額が爆発的に増加してしまうという問題を、ソフトウェアエンジニアのMaciej Pocwierz氏が報告しました。 How an empty S3 bucket can make your AWS bill explode | by Maciej Pocwierz | Apr, 2024 | Medium https://medium.com/@maciej.pocwierz/how-an-empty-s3-bucket-can-make-your-aws-bill-explode-934a383cb8b1 Pocwierz氏はクライアント向けに作成
【読売新聞】 武井俊輔衆院議員(自民党、比例九州)が同乗して秘書が運転する事務所の車が4月28日、宮崎県日南市の国道で法定速度を約30キロ上回る時速91キロで走行した疑いがあることが事務所への取材でわかった。 事務所によると、車は男
ロイター通信などは1日、アメリカのバイデン大統領が首都ワシントンで行われたイベントの中で、アメリカの経済が成長しているのは移民を受け入れているからだと述べたあとで「なぜ日本は問題を抱えているのか。それは彼らが外国人嫌いで移民を望んでいないからだ」と発言したと報じました。 秋のアメリカの大統領選挙で再選を目指すバイデン大統領は1日、首都ワシントンで選挙イベントを行いました。 ロイター通信は、イベントの中でバイデン大統領が「われわれの経済が成長している理由の1つは、移民を受け入れているからだ」と述べたあとで「なぜ中国の経済がひどく失速しているのか。なぜ日本は問題を抱えているのか。なぜロシアもインドもそうなのか。それは彼らが外国人嫌いで移民を望んでいないからだ」と発言したと報じました。 これについて、アメリカのメディア、ブルームバーグは、バイデン大統領は3週間前、ワシントンで岸田総理大臣を国賓待
Metaが欺瞞(ぎまん)的な広告や政治的コンテンツへ適切に対処しておらず、欧州連合(EU)がオンライン上のユーザーを守るために定めたデジタルサービス法(DSA)に違反している疑いがあるとして、欧州委員会(EC)がMetaに対して対応を求めました。 Commission opens formal proceedings under DSA https://ec.europa.eu/commission/presscorner/detail/en/IP_24_2373 DSAはEU加盟国内でサービスを展開するSNS等に適用される法律で、特に大規模プラットフォームは違法コンテンツへの適切な対応措置や広告の透明性の確保、公共の安全を守るメカニズムの構築などが求められています。 ECは、Metaのサービス上における欺瞞的な広告や政治的コンテンツ、違法コンテンツにフラグを立てる仕組み、ユーザーからの苦
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く