タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

mathと.netに関するkenjiro_nのブックマーク (2)

  • 緯度経度から距離を計算する - Qiita

    #Disable Warning BC40000 Option Strict Off Option Explicit On Imports Microsoft.VisualBasic.Compatibility Public Module modBLCalc Private Const PI As Double = 3.14159265358979 ''' <summary> ''' 2点間の距離 ''' </summary> ''' <param name="lngLon1">経度 ミリ秒形式(1を1ミリ秒としたInt32型)</param> ''' <param name="lngLat1">緯度 ミリ秒形式(1を1ミリ秒としたInt32型)</param> ''' <param name="lngLon2">経度 ミリ秒形式(1を1ミリ秒としたInt32型)</param> '''

    緯度経度から距離を計算する - Qiita
    kenjiro_n
    kenjiro_n 2021/01/20
    紹介しているコードがVB.netなので数学関数に System.math.hogehoge という形容がついているのがちょっと面倒ではあった。
  • .NET Core上で実数演算すると結果がズレる - Qiita

    TL;DR .NET Core(2.2)上で倍精度浮動小数点を使った演算を行うと、同じ順序で計算させても環境によって計算結果がズレるから、比較するときとか注意すべきではないかと考える1。 実際やったこと 実行したテストの内容は以下の通り [-90°,+90°]の区間を1°につき128分割してその弧度を計算した。 予め計算されている上記に対応した弧度を元にして、sin,cos,tan及び、sin/cosを標準のSystem.Mathを使い計算した。 弧度の計算方法 弧度の計算は、以下の二種類を利用した。以下、対応するDegreesをdとする。 単純にd*(Math.Pi/180)を計算させた。 jglmを参考に倍精度浮動小数点の上位32bitを分割した上で、仮数域を拡張して、高精度計算を行った2。 実行環境一覧 今回も多数のご協力を得る事が出来た。 また、この検証を進めるに当たり、多くの方か

    .NET Core上で実数演算すると結果がズレる - Qiita
  • 1