M1MacでOllamaを試したら爆速で驚いた
はじめに いつもNVIDIAが載っているWindowsで楽しくLLMを動かしたり生成AIライフを楽しんでいますが、今回はMacOSでOllamaを入れてLlama3を動かしてみました。 スペック： Apple M1 Pro(16 GB) 少し前だとCUDAのないMacでは推論は難しい感じだったと思いますが、今ではOllamaのおかげでMacでもLLMが動くと口コミを見かけるようになりました。 ずっと気になっていたのでついに私のM1 Macでも動くかどうかやってみました！ 結論、爆速で推論できていたのでとても驚きました。OSS開発に感謝です！ Ollamaとは OllamaとはローカルでLLMを動かすことができるアプリケーションです。 以下からダウンロードできます。 MacOSとLinuxで使うことができます。Windowsもプレビュー版があるみたいです。 #いざ推論 ダウロードができたらシ
LLMプロダクト開発とはどういうものなのか？｜erukiti
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由という記事を書きました。 mutaguchiさんのツイートを見て、LLMプロダクトの開発とはどういうものなのかを知らない人も多いのかなと気づいたので、そこらへんを記事として書いてみます。 https://t.co/4WvjuuoGnC 「LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由」の記事のはてブコメント見てたんだけど、ほとんど理解されてなかったのが興味深い。 ・プロプライエタリなLLMでは、ランニングコストが嵩み、これを利用したサービスは成立しづらい… — mutaguchi (@mutaguchi) April 24, 2024 商用LLM APIとローカルLLMって使い方が全然違う気がしてる。 商用LLM APIって、機微情報を送らないこと、規約違反テキストを送らないこ
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
Macユーザーのぼくがリアルに使っているアプリ12選｜やす
１日中ずっと仕事でMacを使っているぼくがほんとに使っているアプリを順不同で12個あげていこうと思う。 Google、Microsoft、など定番アプリは除外している。 １．AltTab 現在使用しているアプリを一覧表示して選択できるアプリ。 たくさんアプリを開いていて使いたいアプリが埋もれてしまったときとか、２つのアプリを行き来したいときに便利。 Windowsだと標準の機能みたいだ。 「開いているウインドウがないアプリを隠す」という設定にして格段に使いやすくなった ２．Alfred Macのすべての起点となるアプリ。 アプリの起動、ファイルやフォルダ、ウェブサイト、Google Driveの検索、離席時のスクリーンセーバー起動、計算機などできることは数しれず。 ぼくがよく使うのは、 ・Dropbox内のフォルダ検索 ・Google Drive内のファイル検索 ・計算機（地味だが使いやす
WindowsとmacOSを二刀流で使う15のヒントをご紹介
WindowsとmacOSを二刀流で使う15のヒントをご紹介2023.11.30 16:3525,320 David Nield - Gizmodo US ［原文］ （ 禿頭帽子屋/Word Connection JAPAN ） 2022年6月26日の記事を編集して再掲載しています。 macOSとWindowsは、かなり違うプラットフォームなので、普通はどちらか一方を使いこなすだけで、せいいっぱいかもしれません。 でも、もちろん両方使うことはできますし、実際、どちらも使っているという人は案外いるのではないでしょうか。 WindowsかmacOSか、どちらかを選んで使わなければいけない―もちろん、そんなことはありません。両方のOSを使いこなすコンピューター生活を送っている人もいます。長年どちらかのプラットフォームを使ってきて、そろそろもう一方にも手を出してみたい、そういうときには、少しばかり
MacBook Pro 14インチ｢4万円値下げ｣に潜む闇と光
｢なぜ｣4万も下がったのか？ その答えを探したかったんです。 先日配信されたAppleの新製品発表イベント。予想どおり、M3チップや搭載機新型のMacBook Pro、iMacなどが発表されました（詳しくは以下記事よりどうそ）。 そして！ その中でやはり注目されているのがMacBook Proではないでしょうか。だって… Image: Apple｢一世代前のモデルは1,999ドルからでしたが、最新モデルは1,599ドルから｣ って安くなってるんだもん。 日本のストアを見ても、最新の14インチMacBook Proは24万8800円スタート。一世代前の14インチMacBook Proは28万8800円スタートだったので、4万円も値下がっているのです。 しかし、この円安の時代。なぜ4万円も14インチMacBook Proが値下がっているのか？ なにか裏があるのではないか？ そんなAppleマジ
Macにこんな早業があるって知ってた？作業がサクサクはかどる9つのTips（ライフハッカー・ジャパン） - Yahoo!ニュース
仕事でMacを使っている人は、Macをいかに使いこなせるかが仕事の生産性に大きく影響することを日々痛感しているかもしれません。 そこで、この記事ではMacをさらに有効活用して、すばやくタスクを終わらせる9つのTIPSをお教えしましょう。 今知っている方法よりも、さらにすばやく処理できる方法があるかもしれません。 1. カーソルを乗せてフォルダをすばやく開くフォルダの中にファイルを入れたい時、普通はカーソルでファイルを選び、フォルダまでドラッグして、それから少し待ってフォルダが開きます。それでもいいのですが、もう少し早く開いたらいいのにと思っている人もいるかもしれません。 私は、Redditのスレッドで出くわすまでこの方法を知りませんでした。この方法は、「システム環境設定 ＞ アクセシビリティ ＞ ポインタコントロール」に埋もれています。 ここでファイルをフォルダの上にドラッグした時にフォル
2023年macOS使いのおまえらが絶対使うべきアプリ7選 - Qiita
ほんとうはLinuxを使いたいけど、色々な理由でmacOSを使わなければならない僕が少しでもmacOSが好きになるように使っているツールたちの紹介です。タイトルがちょっと過激なのはゆるしてください こんにちは、株式会社クラフトマンソフトウェアでAppThrustという「開発の面白さを100%にする」プロダクトを開発しているreoringです。 Arc Browser 言わずと知れたmacOS専用のブラウザ。UI/UXが気持ちよすぎる。最高。 Raycast macOS標準のSpotlightを置き換えるツール。Extensionが多数あって自分好みの設定ができる。最高。 ObsidianのDaily noteを一発で作ったりできる。 Raycast AIでさくっとGPTと話せたりする。
Windowsユーザーが知らぬ間に！MacとiPhoneの連携が超便利になっていた
1963年生まれのビジネス書作家。著書は150冊以上で、仕事術全般、企画やプレゼンなどの専門家として知られる。PC/IT等の製品にも造詣が深く、ビジネスやIT製品関連のレビューの連載数は毎月30～40本（日経xTECH、日経トレンディネット、PC-Webzine、日経パソコン、日経ビジネス、日経産業新聞、日経PC21、その他)。主な近著に、『仕事がサクサク終わって早く帰れる 自働大全 驚きのスマホ&PC活用法で〈自分働き方改革〉』（KADOKAWA)などがある。https://www.youtube.com/channel/UC-IdN5EFZvzzZGqgul8eXKQ News&Analysis 刻々と動く、国内外の経済動向・業界情報・政治や時事など、注目のテーマを徹底取材し、独自に分析。内外のネットワークを駆使し、「今」を伝えるニュース＆解説コーナー。 バックナンバー一覧 Windo
「Mac mini」新型登場、「M2」に加え「M2 Pro」が搭載可能に 8万4800円から
Mac miniはApple最小のデスクトップマシンで、旧モデルでは「Apple M1」のみ採用しており、「Apple M1 Pro」などの上位チップは搭載していなかった。今回のM2 Pro追加により、プロレベルのパフォーマンスを手に入れられるとしている。 Apple M2は、8コアCPU（高性能コア×4、高効率コア×4）、10コアGPUを内蔵。Photoshopなどでの作業はM1と比べて50％高速化するという。メモリは最大24GBを搭載できる。メモリ帯域は100GB／sをほこる。 Apple M2 Proは、最大12コアCPU（高性能コア×8、高効率コア×4）、最大19コアのGPUを搭載。メモリ帯域はM2の2倍となる200GB／sを備え、最大32GBのメモリを搭載できる。M1と比較して、Final Cut ProでProResのトランスコードが最大4.2倍高速化するという。
Apple、次のレベルのワークフローを可能にする次世代チップのM2 ProとM2 Maxを発表
MacBook ProとMac miniに驚異的なパワーをもたらすM2 ProとM2 Maxは、さらにパワフルなCPUとGPU、最大96GBのユニファイドメモリ、業界をリードする電力効率を特長とします カリフォルニア州クパティーノ Appleは本日、Appleシリコンの画期的な電力効率のパフォーマンスをさらなる高みに引き上げる2つの次世代SoC（システムオンチップ）である、M2 ProとM2 Maxを発表しました。M2 Proは、M2のアーキテクチャをスケールアップし、最大12コアのCPU、最大19コアのGPUを備え、最大32GBの高速ユニファイドメモリを実現します。M2 Maxは、M2 Proの能力を土台とし、最大38コアのGPU、2倍のユニファイドメモリ帯域幅、最大96GBのユニファイドメモリを実現します。業界をリードするワット当たりの性能により、M2 Maxはプロ向けノートブック用と
Stable Diffusionを利用し、Apple Silicon Macローカルでテキストから画像を生成できるアプリ「AI Photo」がリリース。
Stable Diffusionを利用し、Apple Silicon Macローカルでテキストから画像を生成できるアプリ「AI Photo」がリリースされています。詳細は以下から。 Stable Diffusionは独ミュンヘン大学のCompVisグループが開発したtext-to-imageモデルで、ディープラーニングを利用しテキストから画像を生成することができますが、このStable DiffusionのMacクライアントとなる「AI Photo」が新たにリリースされています。 Run Stable Diffusion locally on your Mac. AI Photo is a user-friendly text-to-image generator app that creates photos and artworks in literal seconds, all of
エンジニアがエンジニアのために開発・検証用 PC を整備した話 - NTT Communications Engineers' Blog
この記事は、 NTT Communications Advent Calendar 2022 15日目の記事です。 2022/12/16 追記 想像以上に反響がありましたので、追記します。 「エンジニアのわがまま」発言について そのような発言が出たのは、エンジニア側とシステム担当が互いに本音をぶつけ合ったからこそでした。 限られた時間枠の中でエンジニア側から畳みかけるように数多くの問題意識や要望をシステム担当側に突きつけるような形となり、双方ヒートアップした結果としてそのような発言につながっていました。 また、システム担当からすると下記の事実もヒートアップにつながる一因だったと思います。 新しい事務用 PC のリリースをやり遂げた直後で、利用する社員から「以前より便利になった」との声も出ていたタイミングだった 事務用 PC と開発・検証用 PC の 2 台持ちが必要なのはエンジニアが多く、
Apple M1/M2チップ搭載のMacでも最大2台の4K/60Hzモニタを接続できる「Plugable USB-C デュアル HDMI ミニドッキングステーション (USBC-6950PDZ)」が発売。
Apple M1/M2チップ搭載のMacでも最大2台の4K/60Hzモニタを接続できる「Plugable USB-C デュアル HDMI ミニドッキングステーション (USBC-6950PDZ)」が発売されています。詳細は以下から。 米シアトルのサードパティメーカーPlugableは現地時間2022年11月25日、Apple M1に続きApple M2でも利用できる外部ディスプレイ数が+1枚という制限のあるApple Silicon Macで最大2枚の4Kモニター出力を可能にしてくれるUSBグラフィックアダプター「Plugable USB-C デュアル HDMI ミニドッキングステーション* (USBC-6950PDZ)」を新たに発売したと発表しています。 USBC-6950PDZは、Plugable USBC-6950Uxなどに採用されている英DisplayLink社製のグラフィックチッ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
約3万円の「VMware Workstation Pro」が無償化 ～個人利用で、Mac向け「Fusion」も／「VMware Workstation/Fusion Player」は販売終了
Macの日時設定を間違って数百年後に設定してしまっただけで正常起動できなくなり本体交換修理に→｢日付設定を変更させるだけでMacを壊せるのでは？」
MacBook Airでもオフラインで動作するLLM「Stable Code 3B」
Mac mini (M2 Pro, 2023)の1TB SSDモデルは4チップNAND構成で、旧Mac mini (M1, 2020) 1TBモデルの2倍のデータ転送速度6GB/sに。
【Hothotレビュー】 M2 Pro搭載「Mac mini」は爆速過ぎた！M2&M1 MacBook Proと性能比較
実はPowerPCチップつながり。任天堂「Wii」でMac OSを動かす動画が海外で話題【やじうまWatch】
