「0.1+0.2≠0.3」を説明できないエンジニアがいるらしい - Qiita
この記事はNuco Advent Calendar 2023の4日目の記事です。 弊社では、経験の有無を問わず、社員やインターン生の採用を行っています。 興味のある方はこちらをご覧ください。 はじめに 後輩に 「なぜ0.1+0.2≠0.3になるんですか？」 と聞かれて答えられますか？ コンピュータの計算では「0.1+0.2」は「0.3」になりません。 これを理解していないと予期せぬ重大なバグを生み出す可能性があります。 分からない方、どうぞ安心してください。 この記事を読んだ全員が「0.1+0.2≠0.3」を理解できるように分かりやすく説明していきます。 コンピュータが計算を間違う理由 まず、そもそも「0.1+0.2=0.3」で正しい！「0.1+0.2≠0.3」なんてあり得ない！ という方のために、プログラミング言語のフォーマット処理を経ない、コンピュータの計算結果を見てみます。
LOG関数で2を底とする対数(二進対数)とO(logN)の意味を知ることは情報処理の基本である【Excel】 - わえなび ワード＆エクセル問題集 waenavi
対数のlogを勉強するときにまず最初に習得するのは常用対数です。 【LOG・LOG10関数】Excelで10の累乗と常用対数が使えたら数値の桁数が計算できます 常用対数を習得したら次に習得するのが2の累乗と2を底とする対数です。学生の時に、2，4，8，16，32・・・と2の累乗を覚えた人もいるのではないでしょうか？ 大人であれば、2を10回かけたら1024（=約1000）になることを知っておいても損はないでしょう。携帯電話の「ギガ」はもともと2を30回かけると約10億＝1ギガの情報量になるところからきています。2の累乗と2を底とする対数を理解することは情報処理を理解する第一歩と言っても過言ではありません。 そこで、今回は、Excelで2の累乗と2を底とする対数を求める方法とその応用について解説します（2進数については深入りしません）。 目次 １．まずはExcelで２の累乗の性質を考えてみよ
Excelの新機能「Lambda関数」によって「Excelの数式がチューリング完全になった」とナデラCEO。プログラミング言語としてのExcel数式であらゆる計算が可能に
Excelの新機能「Lambda関数」によって「Excelの数式がチューリング完全になった」とナデラCEO。プログラミング言語としてのExcel数式であらゆる計算が可能に マイクロソフトCEOのサティア・ナデラ氏は、Excelの新機能である「Lambda関数」の登場をとりあげ、「世界で最も人気のあるプログラミング言語、Excelの数式が、チューリング完全になった」とツイートしました。 Excel formulas, the world’s most popular programming language, is now Turing-complete. Go check it out! https://t.co/qkw3Bmt1gp — Satya Nadella (@satyanadella) February 9, 2021 Lambda関数は、上記のツイートが示す図にあるように、E
数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita
筆者は「精度保証付き数値計算」という分野で研究をしている大学院生です． 「数値計算は分かるけど」「精度保証付き数値計算？ナニソレ？」という方がほとんどだと思います． 「精度保証付き数値計算」の研究自体は30年ほど前から盛んに行われていますが，世間に浸透しているとは言えない状況です． 自分の研究分野が世間に知られていないのは何か少し寂しい感じがするので「精度保証付き数値計算」を少しでも広めるべく記事を投稿することにしました．(シリーズ化するかも知れません) 本日は「精度保証付き数値計算」というワードだけでも覚えていただければ幸いです． 今回は"数値計算に潜むとんでもないリスク"に関してカジュアルにお話します． そして筆者の研究分野である「精度保証付き数値計算」の必要性を知ってもらえればなと思います． この記事を読み終える頃には計算機を信頼できなくなっているかも知れません(笑) ※不安を煽るこ
東芝 研究開発センター：研究開発ライブラリ 世界最速・最大規模の組合せ最適化を可能にする画期的なアルゴリズムの開発について－物流・創薬など社会課題を短時間で解決するサービスプラットフォームの構築に向けて－
情報通信プラットフォーム / 知能化システム 前のページに戻る 世界最速・最大規模の組合せ最適化を可能にする画期的なアルゴリズムの開発について －物流・創薬など社会課題を短時間で解決するサービスプラットフォームの構築に向けて－ 当社は、物流における効率的な配送ルートの探索や新薬開発における最も有効な分子構造の決定、収益性の高い金融商品の組合せなど膨大な組合せパターンの中から最良のものを選び出す組合せ最適化技術において、従来方式の約10倍となる世界最高速度、世界最大規模の最適化に成功しました。 本技術「シミュレーテッド分岐アルゴリズム」は、従来の技術では困難であった複雑で大規模な組合せ最適化問題の高精度な近似解（良解）の短時間導出が可能となるだけでなく、既存の計算機を活用した低コストでの大規模化を可能にするものであり、現在の最適化プロセスを一変させる可能性があると考えられます。 シミュレーテ
従来の計算能力を大幅に向上させる新技術を開発 東芝 | NHKニュース
東芝は従来のコンピューターの計算能力を大幅に向上させる新しい技術を開発したと発表しました。「組み合わせ最適化問題」と呼ばれる計算では世界最速を実現したとしています。 最適な解を選ぶ「組み合わせ最適化問題」の計算では、ＮＴＴが開発しているレーザーを使ったコンピューターの10倍の速度で計算し、世界最速を実現したとしています。 この計算は新薬開発での分子の設計や効率的な配送ルートの選択などさまざまな分野での活用が期待されていますが、従来のコンピューターでは膨大な時間がかかるため計算には開発が進む「量子コンピューター」が必要だとされていました。東芝は新技術について年内の実用化を目指すとしています。 東芝の研究開発センターの後藤隼人主任研究員は「従来のデジタル計算機をそのまま活用できるのがいちばんの成果であり、社会や産業を効率的にしたい」と話しています。
Google、円周率計算31兆桁達成 世界記録更新
計算には、Google Cloud上の96個のvCPU（仮想CPU）と1.4テラバイトメモリを用意してクラスタを構築。計算結果の書き込みには1ノード10テラバイトのインスタンスを24個用意し、最大170テラバイトまで利用した。 計算は2018年9月22日から始め、19年1月21日に終了。約111日間計算を続け、ディスクの読み込み、書き込み量の合計はそれぞれ9ペタバイト（9000テラバイト）、7.95ペタバイトに及んだ。 111日間の計算の結果、小数点以下31兆4159億2653万5897桁まで円周率を計算したという。円周率の最初の14桁である「3.1415926535897」に合わせた。 以前の円周率世界記録は、16年にピーター・トルエブさんが達成した22兆4591億5771万8361桁。CPUに「Xeon E7-8890 v3」を4個、1.25テラバイトメモリの計算リソースで約89日間か
カメラで計算式撮ると解答してくれるアプリ『Photomath』大したことないやろと思って使ってみたらすごかった
Excelラボとみ君 @Excel_labotomi ・スマホのカメラで計算式撮ると解答を教えてくれる『フォトマス』ってアプリがあるって聞いて「ふーん、ま、大したことないやろ」って思ってインストールして何問か解かせた結果 ・とりあえず、僕より、このアプリの方が数学力が1億倍あることはわかった 僕、アプリにゴメンナサイしないといけないね pic.twitter.com/2KZej7fK3V 2018-02-16 06:36:52 Excelラボとみ君 @Excel_labotomi @fukatta 『撮影』＝『計算』というパラダイムシフト☆ 『複雑な数式入力』→『公式と解法の推測と当てはめ』→『演算』というプロセスが撮影時に一瞬で終わり、全て解説されるから僕らに残された唯一の仕事は『感謝』だけだな☆ すげぇや 2018-02-16 08:01:33
二重振り子の精度保証付き数値計算
少し前(5月頃)、二重振り子のシミュレーション動画がtwitterで流行したことがありました。最初のtweetがこれ。 わずかに異なる初期値をもった50本の二重振り子のシミュレーションを動画にしたもので、途中まで完全に重なっているように見える振り子が一気にバラける様子がとても面白い。 次は、それを三重振り子にしたもの。 gmpを用いて高精度計算をしており、ねとらぼで記事にもなりました。 どちらも常微分方程式の計算にはルンゲクッタ法を用いています。わずかな初期値のずれが後に大きな違いをもたらすことがとてもよく分かる動画ですが、一方で、ルンゲクッタ法で計算された値も真値とはわずかにずれており、当然その誤差も同様に後で大きな違いをもたらすことになります。だとすると、果たして意味のある計算になっているのかという疑問が生じます。 そこで、二重振り子の軌道を精度保証付きで計算し、ルンゲクッタ法とどのく
光の性質利用し瞬時に答え 画期的計算法として注目 | NHKニュース
最先端のコンピューターでも計算が難しいとされる、１００億通りを超える膨大な組み合わせの中から、最も適した答えを求める問題を、光の性質を利用することで、瞬時に解くことに日本の研究グループが成功し、次世代コンピューターにつながる画期的な計算手法として注目されています。 この手法は現在のコンピューターのように、一つ一つすべてのケースについて数値計算を行うものではなく、光が持つ物理的な性質を利用して答えを求めようという全く発想が異なるものです。 グループでは全長１キロの光ファイバーの中に、組み合わせを調べたい数だけ、光の粒子を使って一種の磁石を作り出す新たな装置を開発し、「２０００個の点を最もエネルギーを使わずに２つに分ける方法」を解くことに挑戦しました。 この問題では、組み合わせが１００億通りを超え、最先端のコンピューターでも計算が難しいとされています。 実験の結果、新たな装置では２０００個の点
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
