Cloudflare、CDNエッジで生成AIを実行できる「Workers AI」正式サービスに。世界150都市のデータセンターでGPU基盤を提供

Cloudflare、CDNエッジで生成AIを実行できる「Workers AI」正式サービスに。世界150都市のデータセンターでGPU基盤を提供 Cloudflareは、同社のグローバルに展開するCDNのエッジで生成AIの推論処理を実行できる「Workers AI」の正式サービス化を発表しました。 Today, we’re excited to make a series of announcements, including Workers AI, Cloudflare’s inference platform becoming GA and support for fine-tuned models with LoRAs and one-click deploys from HuggingFace. Read all about it. https://t.co/phcPIaW24v

[tmatsuu]

生成AIサービスを提供するためにはどれぐらいGPU基盤を配備する必要があるんだろうな

[pascal256]

こう言うのでLLM動かせばスマホでも爆速でAI使えそう

[misshiki]

“Cloudflareは、同社のグローバルに展開するCDNのエッジで生成AIの推論処理を実行できる「Worker AI」の正式サービス化を発表しました。”