Chainer を振り返って
2015 年 4 月 12 日に Chainer の最初のコードをコミットしてから，およそ 4 年半と少しが経ちました．はじめのはじめは軽い気持ちで書きはじめたコードでしたが，今では一線級の研究を立派に支えるまでになりました．深層学習フレームワークの世界も当時とは様変わりして（当時は TensorFlow も PyTorch もなかったわけですから，本当に変わりました），思えば遠くにきたものです． 今日，PFN は社内の研究開発に用いる主なフレームワークを PyTorch に移行すると発表しました．会社にとってももちろんですが，業務としてはこの 4 年半，Chainer 一筋でやってきた自分にとっては特に，大きな転換点です． まず率直な感想として，Chainer の開発は本当に楽しかったです．書きはじめた頃は，深層学習フレームワーク競争の真っ只中で，Theano の上に乗っかるフレームワー
NIKKEI Primeについて 朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。
Preferred Networks、深層学習の研究開発基盤をPyTorchに移行 - 株式会社Preferred Networks
PyTorch開発チームおよびオープンソースコミュニティと連携し、フレームワーク開発、MN-CoreプロセッサのPyTorchサポートなどを推進 株式会社Preferred Networks（本社：東京都千代田区、代表取締役社長：西川徹、プリファードネットワークス、以下、PFN）は、研究開発の基盤技術である深層学習フレームワークを、自社開発のChainer™から、PyTorchに順次移行します。同時に、PyTorchを開発する米FacebookおよびPyTorchの開発者コミュニティと連携し、PyTorchの開発に参加します。なお、Chainerは、本日公開されたメジャーバージョンアップとなる最新版v7をもってメンテナンスフェーズに移行します。Chainerユーザー向けには、PyTorchへの移行を支援するドキュメントおよびライブラリを提供します。 PFN 代表取締役社長 西川徹は、今回の
出典：官報（※クリックorタップすると拡大できます）日本を代表するユニコーン企業で、自動運転関連技術の開発も手掛けるAI（人工知能）開発企業の株式会社Preferred Networks（本社：東京都千代田区／代表取締役CEO：西川徹）。同社の第9期決算公告（2022年2月〜2023年1月）が、このほど官報に掲載された。 第9期は売上高が76億5,500万円、当期純損失は30億6,600万円であった。 これと同じタイミングで、同社は新設分割により、生成AI事業に関する新子会社「Preferred Elements」を2023年11月1日に設立することを発表した。2021年11月には、自律移動ロボット事業を手掛ける「Preferred Robotics」も新設分割により設立している。 過去の新設分割の経緯があるため、同社の決算を過去の決算と単純に比較はしにくいが、参考のために記載すると、第7
株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、プリファードネットワークス、以下、PFN）は、AIおよびデータサイエンスを基礎から学びたい大学生・社会人向けに、機械学習・深層学習の基礎学習コンテンツ4種を、個人向けオンラインAI人材育成講座 SIGNATE Quest*のマーケットプレイスで本日提供開始します。 各産業の専門分野にAIおよびデータサイエンスを応用することができる人材の大幅な不足が指摘される中、そうした人材の育成が国家戦略の重要テーマの１つとして位置づけられています。 PFNは深層学習フレームワークの開発、深層学習技術の産業応用において培ってきた経験をもとに、これからの社会を担う大学生・社会人向けに、機械学習・深層学習技術の活用に必須となる知識を習得するための4つの基礎学習コンテンツを提供します。 SIGNATE Que
AWS Application Composerで始める、 サーバーレスなデータ基盤構築 / 20240406-jawsug-hokuriku-shinkansen
PFNのML/DL基盤を支えるKubernetesにおける自動化 / DevOpsDays Tokyo 2021
Preferred Networks（PFN）は深層学習などの最先端の技術を最短路で実用化することで、これまで解決が困難であった現実世界の課題解決を目指しています。コンピュータビジョン、自然言語処理、音声認識、ロボティクス、コンパイラ、分散処理、専用ハードウェア、バイオインフォマティクス、ケモインフォマティクスといった幅広い分野で研究開発を行っており、それを支えているのが Kubernetes を用いて構築しているオンプレミス/ベアメタルの GPU クラスタです。 本セッションでは、PFN が Kubernetes を用いてクラスタを運用するなかでどのような障害が起きるのかを紹介し、また障害対応をどのように自動化しているのかを具体的に使用/開発したソフトウェアを含めてご紹介します。また Kubernetes クラスタの管理、アップグレードの自動化にも取り組んでおり、それを実現する Clus
NIKKEI Primeについて 朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。
2016年から約7年弱勤めたPreferred Networks (PFN)を退職しました。6/1より次の職場で仕事を開始します。次の職場については6月以降気が向いたときにTwitterかどこかに書きます。 PFNはどうだった？ PFNでの日々は、一言で言うと最高でした。技術的にも立場的にも多岐にわたる経験をさせてもらいました。そして、何より、めちゃくちゃ楽しかったです。PFNで働けたことは幸運で、心から感謝しています。今後も他の人に相談されたら多くの人に勧めると思います。 PFNでの思い出を色々書きたいのはやまやまなのですが、とても長くなりそうなので、別の記事にしようと思います。 では、なぜ転職するのか？ Generative AI Generative AI (LLM, 拡散モデル)の最近のブレイクスルーに大きな衝撃を受け、Generative AI分野の研究開発に、私にとって一番望ま
時価総額10億ドルを超える未上場のベンチャー「ユニコーン企業」。日本に数社しかありませんが、そのうちの一社がPreferred Networksです。同社は、約280人の社員のうち8割がエンジニア・リサーチャー。それも世界レベルのトッププログラマーが多数在籍するという異色企業です。 今回は、競技プログラミングコンテストを開催するAtCoder代表・高橋直大氏とPreferred Networksの執行役員・秋葉拓哉氏との対談が実現。高度IT人材の採用事情や、人材育成のために必要なことについて語っていただきます。88年生まれの同い年で、ともにプログラミング少年だったお二人の対談は大いに盛り上がりました。 最も競争の熾烈なAIの分野で能力を発揮し、社会課題解決に貢献したい 高橋：僕は学生時代に競技プログラミングに熱中し、その後AtCoderを立ち上げました。秋葉さんはどのようにしてPrefer
Pythonのlinter/formatterを誰でも手軽に設定できるようにするためのPFN社内ツール “pysen” の紹介 - Preferred Networks Research & Development
Home Blog Pythonのlinter/formatterを誰でも手軽に設定できるようにするためのPFN社内ツール “pysen” の紹介 Python向けのlinter/formatter設定ツール「pysen」を pypi.org および github.com で一般公開しました。 このツールは主にPython向けのlinter/formatterの設定を一元管理し、Preferred Networks社内でよく使われているツール環境を誰でも簡単に設定できるように支援するツールです。チームごとに分散しうるようなツールに関するノウハウをコードとして集約し、PFN社内での共有を促進させることを目的として開発しています。pysenは実際にPFN社内で使われており、2020年4月に開発がスタートしてから、2021年3月現在でおよそ100を超える社内リポジトリに導入されています。 上図:
世界有数の研究者やITエンジニアが集うAI企業Preferred Networks（PFN）。秋葉拓哉さんは、同社で機械学習基盤の執行役員を務めている。前職は国立情報学研究所の特任助教で、世界最高峰の国際会議で多数の論文が採択される研究者だった。さらに競技プログラミングのコンテスト「TopCoder」では、世界で数十人しかいない「ターゲット」というレベルに達し、データ分析コンペティション「Kaggle」では、世界で200人ほどの「Kaggle Grandmaster」の称号を得ている。 競技プログラミングとKaggleでその道を究めた秋葉さんは、習得したスキルや知識をどのように業務に生かしているのか。挫折を味わいながらも、それを乗り越えてきた秋葉さんのキャリアをひもとく。【松本香織、羽田顕人、斎藤公也】 〈Profile〉 秋葉 拓哉（あきば・たくや） 株式会社Preferred Netw
Kubernetesにおけるコンテナ起動時間高速化に向けた検討 - Preferred Networks Research & Development
本投稿はPFN2022 夏季国内インターンシップに参加された江平智之さんによる寄稿です。 はじめに PFN2022 夏季国内インターンシップに参加していた江平智之です。現在修士１年で、大学では分散システムやクラウド技術について研究しています。 今回のインターンシップでは、「JP04. Kubernetesにおけるコンテナ実行環境の改善」というテーマでコンテナ起動時間の高速化に取り組みました。 背景 PFNでは機械学習基盤としてKubernetesクラスタを使用しており、リサーチャやエンジニアはKubernetesクラスタ上のPod内で機械学習やシミュレーションなどの計算を行っています。スケジューラによってノードにアサインされた後にPod内にコンテナが起動されますが、ノード上にコンテナイメージのキャッシュがない場合にコンテナ起動が遅いという問題がありました。計算はPFNの研究開発における主要
2020年度、小学校でのプログラミング教育が必修化した。子を持つ親はもちろん、プログラミングの経験者や今もIT業界に身を置く人なら、その内容はかなり気になるところだろう。 筆者も小学生の娘を持つ親であり、学生時代には情報系の学科でプログラミングを学び、現在もプログラムを仕事で書くことが多い。わが子が受けるプログラミング教育とはいかなるものやと、期待半分不安半分で関心を持っている。 しかし、2020年は新型コロナウイルス感染症が猛威を振るい、授業参観など学校へ保護者が赴く行事は軒並み中止になってしまった。一方では、自宅のポストに近所の学習塾から「プログラミング教育必修化対応」をうたう案内が届くことも珍しくない。 そんな中、AIベンチャーのPreferred Networks（PFN）と、全国に学習塾を展開するやる気スイッチグループが、プログラミング教室「HALLO powered by Pl
PFNにある２つのKubernetes
How should we face with microservices (我々はマイクロサービスとどう向き合うべきか)
プリファード・ネットワークス（PFN、東京・千代田）は16日、生成人工知能（AI）の基盤となる大規模言語モデル（LLM）の開発に着手したと発表した。西川徹最高経営責任者（CEO）が同日開かれたICT（情報通信技術）分野の総合展示会「Interop Tokyo 2023」で表明した。米テック企業の汎用的なLLMとは一線を画し、より専門的な領域で活用する言語モデルをめざす。西川氏は「既存のモデルを
国立情報学研究所（NII）は10月20日、パラメータ数130億の大規模言語モデル（LLM）「LLM-jp-13B」を公開した。初期段階のモデルだが、アカデミアや産業界の研究開発に資するため、コーパスやツールなどを含めてすべてオープンにする。 公開したLLMの学習データ量は合計約3000億トークン。うち日本語は約1450億トークン（mC4／Wikipedia）、英語は約1450億トークン（The Pile／Wikipedia）、プログラムコード約100億トークン。 計算資源としては、大学や研究機関が共同運営する仮想化環境・データ活用社会創成プラットフォーム「mdx」を12ノード活用。モデル構築にはMicrosoftのDeepSpeedを、モデル構築時の監視やログの保存には、モデル開発プラットフォームのWeights＆Biasesを利用した。 NIIが主宰するLLM勉強会（LLM-jp）で7月
今日はPreferred Networksの最終出社日でした。アルバイト期間含めて6年間、大変お世話になりました！ pic.twitter.com/klMbe5mct8 — Yuki Igarashi (@bonprosoft) February 18, 20222月末をもって Preferred Networks を退職します。 フルタイムでは4年間、アルバイトも含めると6年間お世話になりました。 ここ数年間、おかげさまで私としては毎日楽しく（精一杯）過ごしてきたのですが、日頃の情報発信を怠っていたこともあり周りからどう思われているのか考えるときがあります。 ちょうど良い機会だと思うので、この数年間で何をやっていたかをまとめようと思います。 単なる自己満足でしかないのですが、私がこの4年間に取り組んでいたこと、PFNでの経験が本当に素晴らしいものであったということが一人でも多くの方に伝わ
PFNが提供する教育コンテンツについて - Preferred Networks Research & Development
PFNフェローの丸山（宏）です。2月にプログラミング教育についてのブログを書きました。またそれに合わせて制作した教材を利用して、6月に弊社カフェテリアで、小学生を対象にした体験教室を開催しました。この体験教室については、丸山（史郎）がロボットカーの体験教室について、西澤が火星語翻訳を題材にした教材について書いています。今回、山梨大学と共同で、高専・大学学部向けの教材 ロボットカーで学ぶ深層学習の基礎 を開発しました。このブログでは、これら一連の教育関連の活動について、その意義と全体像をもう一度整理してみたいと思います。 また、付録に、現在PFNが提供する教育用コンテンツのリストがありますので、そちらもご利用ください。 古典的プログラミング 2016年に文部科学省が主宰する「小学校段階における論理的思考力や創造性、問題解決能力等の育成とプログラミング教育に関する有識者会議」は、議論の取りまと
ベクトル埋め込みの最適化によるアイデンティティを保ったキャラクター生成 Preferred Networks Research & Development
本記事は、2022年夏季インターンシッププログラムで勤務された早川知志さんによる寄稿です。 はじめまして。2022年度のPFN夏季インターンに参加した早川知志です。普段はオックスフォード大学で数学（確率論・数値解析）の博士学生をしており、確率測度の離散化やそれにまつわる理論や応用に興味があります。 今回は、大学でやっていることとは趣旨を変えて、深層学習のエンターテインメント応用として二次元キャラクターの学習・生成タスクに取り組みました。 学んだキャラクターのCLIP embeddingを用いた生成例 1. Motivation オリジナルのキャラクターを描くときに角度や表情を微調整するのには途轍もない労力が必要です。筆者はイギリスでのロックダウン以来趣味でイラストや漫画を描こうとすることが増えたのですが、その過程でこのことに気付きました。生成モデルの力を借りて今までに描いたことのない構図で
TechCrunch
When Joanna Strober was around 47, she stopped sleeping. While losing sleep is a common symptom of perimenopause, she first had to go to multiple providers, including driving 45 minutes out of San Fra The Federal Trade Commission hit Razer with a $1.1 million fine Tuesday. The order claims that the gaming accessory maker misled consumers by claiming that its flashy Zephyr mask was certified as N95
TOP500とGreen500:コンピュータの性能指標をどう読むか - Preferred Networks Research & Development
1. はじめに 2020年6月22日深夜（日本時間）にリモート開催されたISC2020のTOP500セッションで、PFNが作った深層学習用スーパーコンピュータ、MN-3が21.11 GFlops/WのHPLベンチマークの実行性能をあげ、Green500ランキングで500システム中No.1になりました（写真1）。開発チームの一員として、ここに至るまでの苦労の連続を思うと、とても嬉しいです。 なお、同日発表されたTOP500, HPCG, Graph500, HPL-AIベンチマークでは、理研に設置された「富岳」システムが各々500システム中1位、68システム中1位、10システム中1位、2システム中1位と、1位を多数達成したことも、ポスト京プロジェクト（富岳と命名される前の名前）の前座プロジェクトや、システム評価にかかわったものとして嬉しく思います。 このBlogでは最近増えてきてちょっと混乱
Preferred Networks におけるHadoop - Preferred Networks Research & Development
Preferred Networks （以下PFN）では、「現実世界を計算可能にする」「全てのひとにロボットを」という目標のもと、機械学習を始めとしたあらゆる計算技術を用いて研究開発に日々取り組んでいます。その過程では必ずといっていいほど、データの保存や読み出しが必要になります。ここでは、我々がどのようにデータ管理をしているか、また、その過程でどのようにHadoopを利用しているかについて紹介したいと思います。 写真: PFNカラーリングのストレージサーバー Hadoop導入の経緯 Hadoopが多く利用されているようなログ分析や、エンタープライズ向けのETL処理やデータサイエンスに比べると、深層学習の分野でよく利用されているような規模のデータは比較的小さいです。よく画像認識のベンチマークとされるImageNetの2012年のコンペで利用されたデータセットは200GB程度です。これはそもそ
Optuna の拡張機能 LightGBM Tuner によるハイパーパラメータ自動最適化 - Preferred Networks Research & Development
Optuna 開発メンバの小嵜 (@smly) です。この記事では Optuna の拡張機能として開発している LightGBM Tuner について紹介します。 LightGBM Tuner は LightGBM に特化したハイパーパラメータ自動最適化のためのモジュールです。Pyhton コードの import 文を 1 行変更するだけで簡単に利用できます。LightGBM Tuner はエキスパートの経験則を自動化しコードに落とし込むことで、従来より短い時間で最適なハイパーパラメータを探索できます。また記事の後半では従来手法と比較したベンチマーク結果についても紹介します。ベンチマークをとることで、従来の方法と比較して効率的に探索できることを確認しました。 ナイーブな LightGBM のハイパーパラメータチューニング LightGBM は勾配ブースティング法の高速な実装を提供する人気の
表形式データに対する深層学習ライブラリの開発と実験 - Preferred Networks Research & Development
本記事は、2021年度PFN夏季インターンシップで勤務した平川雅人さんと畠山智之さんによる寄稿です。 はじめに 2021年度PFN夏季インターン生の平川雅人と畠山智之です。 今回のインターンでは、表形式データに対して様々な深層学習モデルを試すことができるライブラリを共同で開発しました。開発したライブラリは https://github.com/pfnet-research/deep-table で公開しています。 背景 近年、深層学習は画像や自然言語、音声の分野で目覚ましい成功を収めてきました。しかし表形式データに対しては、深層学習はそのような成功を遂げることは少なく、いまだにXGBoostやLightGBMのような決定木ベースのモデルが主流となっています。 深層学習の有望な手法として、決定木のアンサンブルを模倣して勾配ベースの学習を可能にしたNODE [1] や、スパースなattenti
新星・国産クラフトサバイバルゲーム『Omega Crafter』は、ほぼエンジニアのみのチームが“先行事例”を研究しまくって作った。ITベンチャーのゲームチームが目指す遊びやすいクラフトサバイバル - AUTOMATON
ディープラーニングなどのAI技術の実用化を進めているPreferred Networksは、オープンワールドクラフトゲーム『Omega Crafter』のオープンベータテスト（OBT）を12月2日に開始した。対応プラットフォームはPC（Steam）。 『Omega Crafter』はオープンワールドで繰り広げられるサバイバルクラフトゲームだ。舞台となるのはゲームの中の世界。そこでは謎の妨害プログラムがあり、ゲームの開発が難航しているという。プレイヤーはゲームを完成させるため、相棒のグラミーとともに冒険や街づくり、ボスの討伐などをおこなうこととなる。 本作ではサバイバルクラフトにおけるさまざまな要素を、グラミーにプログラミングとして命令を実行させることにより自動化や効率化が可能。ところで本作を手がけるPreferred Networksといえば、前述したようにAI技術系のベンチャーだ。いわゆ
Best Practices for Working with Configuration in Python Applications - Preferred Networks Research & Development
Home Blog Best Practices for Working with Configuration in Python Applications Most computer applications can be configured to behave a certain way, be it via command line flags, environment variables, or configuration files. For you as a software developer, dealing with configuration comes with challenges such as parsing untrusted input, validating it, and accessing it on all layers of your progr
[AAAI2021採択論文] 深層学習による株価予測 - Preferred Networks Research & Development
こんにちは。エンジニアのいもす (今城 健太郎) です。現在、投資ファンドを作るため金融時系列の予測モデルの研究開発を行っています。その予測モデルについて、PFN の今城健太郎・南賢太郎・伊藤克哉と野村アセットマネジメント株式会社の中川慧氏が共同で執筆した論文が、人工知能分野における世界トップクラスの国際会議である AAAI 2021 に採択されました。 今回採択された論文 Deep Portfolio Optimization via Distributional Prediction of Residual Factors では、深層学習を用いたポートフォリオ最適化を、様々な金融時系列の性質を帰納バイアスとして導入することで改善する手法を提案しました。本記事では、深層学習のモデル設計という観点でどのような面白さがあるかに触れつつ、採択論文について簡単に紹介します。 はじめに: 帰納バイ
![[AAAI2021採択論文] 深層学習による株価予測 - Preferred Networks Research & Development](https://cdn-ak-scissors.b.st-hatena.com/image/square/f5c641375ef30b37aca5e7d60b9ebd17be44d897/height=288;version=1;width=512/https%3A%2F%2Ftech.preferred.jp%2Fwp-content%2Fuploads%2F2020%2F12%2Fblog-fig3.png)
第1弾として小学生から始めるプログラミング教材「Playgram」を開発、やる気スイッチグループと提携し、教室とオンライン授業に導入 株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、プリファードネットワークス、以下、PFN）は、深層学習などAI技術の実用化が進むこれからの時代に不可欠な論理的かつ創造的な思考力を育み、世界レベルで活躍できる人材の育成を目指してコンピュータサイエンス教育事業を立ち上げます。 その第１弾として、PFNは小学生から始めるプログラミング教材「Playgram™（プレイグラム）」を開発しました（公式サイト: https://playgram.jp）。総合教育サービス事業を展開する株式会社やる気スイッチグループ（以下、やる気スイッチグループ）と提携し、2020年8月より、プログラミング教室パッケージとして首都圏の3
Chainer/CuPy v7のリリースと今後の開発体制について By Chainer Team Dec 5, 2019 In Announcement Chainer/CuPy v7のリリース、およびChainerの開発体制の変更についてお知らせします。 Chainer/CuPy v7 本日、ChainerおよびCuPyのv7.0.0をリリースしました。変更点については各リリースノートをご覧ください。主要な変更点は以下の通りです。 Chainer v7 (alpha, beta1, beta2, beta3, beta4, rc1, major): ChainerMNを含む多くの機能がChainerXのndarrayに対応しました。 ONNX-ChainerがChainerに統合されました。 TabularDataset が追加されました。カラム指向のデータセットをpandasのような抽
テレビ朝日が“withコロナ時代”に全社を挙げて取り組む初の試み『未来をここからプロジェクト』。 本プロジェクトの先陣を切る『報道ステーション』では、10月26日（月）～30日（金）の5日間にわたり、「未来への入り口」というコンセプトのもと、多岐にわたる分野で時代の最先端を走る「人」を特集する新企画『未来を人から』を展開。 第4回に登場したのは、高いAI技術を誇るベンチャー企業CEOの西川徹氏だ。 ※YouTube完全版動画はこちら 2006年の東京大学大学院在学中、プログラミングコンテスト世界大会に出場した仲間等と前身となる会社を設立。2014年にはAI技術（深層学習技術）に特化した事業に取り組むべく、プリファードネットワークスを設立、CEOに就任した。 その企業価値は3500億円ともいわれ、2019年には「日本ベンチャー大賞」で内閣総理大臣賞を受賞。 自動車の自動運転技術やガンの早期発
「1位を取るとは夢にも思っていなかった」――。Preferred Networks（PFN）の平木敬シニアリサーチャーは、喜びと驚きをこう表現した。 2020年6月、PFNのスーパーコンピューター「MN-3」がスパコンの消費電力性能ランキング「Green500」で世界1位を獲得した。MN-3はPFNが独自開発した深層学習用プロセッサー「MN-Core」を使うスパコンで、同年5月に運用を始めた。MN-3は「（Green500で）良くて2位、悪くて3位」（平木シニアリサーチャー）という事前の想定を良い意味で裏切った。
日英2言語対応の大規模言語モデルPLaMo-13Bを研究・商用利用可能なオープンソースソフトウェアライセンスで公開 - 株式会社Preferred Networks
株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、以下、PFN）は、開発した130億パラメータの事前学習済み大規模言語モデル PLaMo™-13B（Preferred Language Model、プラモ）を、研究・商用で利用可能なオープンソースソフトウェア（OSS）ライセンスで本日公開（https://huggingface.co/pfnet/plamo-13b）しました。本モデルは、現在公開されている同規模のパラメータ数の事前学習済み言語モデルと比べ、大規模言語モデルのベンチマーク評価（lm-evaluation-harness）において、日英２言語をあわせた能力で世界トップレベルの高い性能を示しています。 日英2言語での性能比較 （ベンチマークスコアの偏差値の平均を各言語のスコアとしてプロット） (*) より正しい比較のため、公開
GitHub - pfnet/pysen: Python linting made easy. Also a casual yet honorific way to address individuals who have entered an organization prior to you.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
PLaMo-13Bを公開しました - Preferred Networks Research & Development
Preferred Networksでは、9月28日にPLaMo-13Bという大規模な言語モデル (LLM) を公開しました。公開されている他のモデルと比較して、日英２言語を合わせた能力で世界トップレベルの高い性能を示しています。実際に学習を回すまでの技術開発には自社スーパーコンピューターであるMN-2を利用し、学習はAI橋渡しクラウド（AI Bridging Cloud Infrastructure、ABCI) の”第一回 大規模言語モデル構築支援プログラム”を利用して行いました。 今後、PLaMo-13Bを基にした事前学習モデルや、指示学習を行ったモデルについても公開を予定しています。 PLaMo-13Bの概要 PLaMo-13Bは約130億個のパラメータからなる言語モデルです。 PLaMo-13Bは日本語・英語の2つの言語のベンチマークタスクで高い性能を示しています。日本で使われるL
アフレルとPreferred Networks、共同開発によるプログラミング教材 「実践！Chainerとロボットで学ぶディープラーニング」を公開 - 株式会社Preferred Networks
アフレルとPreferred Networks、共同開発によるプログラミング教材 「実践！Chainerとロボットで学ぶディープラーニング」を公開 株式会社アフレル（本社：福井県福井市、代表取締役社長：小林靖英、以下「アフレル」）と株式会社Preferred Networks（本社：東京都千代田区、代表取締役社長：西川徹、プリファードネットワークス、以下「PFN」）は、深層学習（ディープラーニング）技術の学習機会の提供および実務領域への活用促進を目的に、ロボットカーを動かしながら深層学習技術の基礎知識を学ぶことのできる、実践的なプログラミング教材「実践！Chainerとロボットで学ぶディープラーニング」を共同開発しました。 この教材は本日よりWEB (https://ai.afrel.co.jp/chainer.html) にて無料公開しています。 AIのビジネス活用が大きな注目を集める一
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GAFAが後追いした国産AIの雄 開発終了の深層 - 日本経済新聞
日本最強ユニコーンPreferred Networks、損失30億円超 第9期決算 | 自動運転ラボ
3千CPUで数カ月かかる計算が0.1秒で完了。汎用原子レベルシミュレータ「Matlantis」 ～PFNとENEOSがクラウドサービスで提供開始
AIおよび高度IT人材育成のための教材提供を開始 - 株式会社Preferred Networks
オープン化が進むC++の現状と展望
プリファード襲った技術の成熟 AIの舞台はハードに - 日本経済新聞
Preferred Networksを退職しました - iwiwiの日記
天才プログラマー2人が語る、高度IT人材の採用のポイントとは？ | ウェブ電通報
「Kaggle Grandmaster」PFN秋葉氏は、スキ...
「子供がゲームより夢中になる」──PFNの教材を使ったプログラミング教室の魅力を探る
【森山和道の「ヒトと機械の境界面」】 PFNの大規模分散深層学習専用プライベートスパコン「MN-2」潜入レポート
PFNの国産スパコンが消費電力性能で世界一に
プリファード、大規模言語モデル開発 24年商用化目指す - 日本経済新聞
NII、130億パラメータのLLM構築 コーパスなども全公開 「今後の研究に資するため」
Preferred Networks を退職します
日本語/英語両方で世界トップクラス性能の大規模言語モデル。商用利用可
コンピュータサイエンス教育事業を開始 - 株式会社Preferred Networks
Chainer/CuPy v7のリリースと今後の開発体制について
「圧倒的に便利で疲れない世界を」“日本最強のAI技術者集団”率いるPFN西川徹が描く未来
「世界1位を取るとは夢にも思わず」、PFNの省電力スパコン「MN-3」快挙の舞台裏
famicoms.net
miyairikinenkan.com
zenn.dev/wagao
b.hatena.ne.jp
news.yahoo.co.jp
bonjin5963.hatenablog.com