タグ

*dataとGISに関するsh19910711のブックマーク (51)

  • MySQLで処理するGIS ~地球が丸いことを覚えたMySQL~ / MySQL GIS FOSS4G TOKAI 2023

    2023年8月26日(土)に開催されたFOSS4G TOKAI 2023での発表資料です。 法務省登記所備付地図データをMySQLに取り込んでから検索し、空間インデックスにより検索処理を高速化した結果も紹介しています。

    MySQLで処理するGIS ~地球が丸いことを覚えたMySQL~ / MySQL GIS FOSS4G TOKAI 2023
    sh19910711
    sh19910711 2024/05/28
    "4.1.0 (2003): MyISAMにSpatial Extensions実装 / 5.0.16 (2005): InnoDBにもSpatial Extensions実装 / 8.0.0 (2016): 関数名をST_*系に統一 + 回転楕円形としての演算 / 8.0.32 (2023): 座標系変換がほぼ全ての座標系に対応" 2023
  • PostGISとMySQL8のGIS機能の違い - Qiita

    記事はPostgreSQL Advent Calendar 2019の7日目となります。 はじめに 私は普段PostGISを使っていますが、最近MySQL 8.0.xのGIS機能について調査する機会がありました。 記事は筆者が調査の中で気づいた両者の違いをまとめたものです。 PostGISは2.x〜3.x、MySQLは8.0.17を対象としています。 両者は共にOpenGIS1やSQL/MMなどの標準に基づく実装を進めているため共通している部分も多いものの、独自拡張や実装の違いによりいくつかの違いもあります。 記事の目的は両者の優劣をつけることではありません。 両者の違いを理解して、場面に応じた適切な使い方を選択するための一助となることが目的です。 所感 文に入る前に、私の所感を述べておきたいと思います。 まず、普段PostGISを使っている人が、MySQLGIS機能に乗り換える

    PostGISとMySQL8のGIS機能の違い - Qiita
    sh19910711
    sh19910711 2024/05/28
    "両者は共にOpenGISやSQL/MMなどの標準に基づく実装を進めているため共通している部分も多いものの、独自拡張や実装の違いによりいくつかの違い / MySQL8が使えるレンタルサーバではGIS機能が使える" 2019
  • JuliaでOpenStreetMapのXMLをparseした話

    Twitter芸人名@cocomoffです. この記事はJulia Advent Calendar 2021の18日目の記事です.15日目にはTuring.jlを使ったネタで書いたのですが,普段自分でちょっとしたプログラムを書くためにもJuliaを使っていることがあるので,今日はだいぶ前に自分で書いたJuliaプログラムに関する記事です. OpenStreetMapについて 概要 名前ぐらいは聞いたことがある人も多いかもしれないですが,https://www.openstreetmap.org/ で公開されている地図情報です(?). OpenStreetMapは、道路、通路、カフェ、鉄道駅など、世界中にあるすべてのものに関するデータを提供・メンテナンスしているマッパーのコミュニティによって構築されました。 ライブラリ OpenStreetMapを扱うライブラリやソフトウェアはいろいろありま

    JuliaでOpenStreetMapのXMLをparseした話
    sh19910711
    sh19910711 2024/05/27
    "ダウンロードしたosmという拡張子のファイル(中身はXML)がbz2の状態で500MB程度,解凍した状態で6GB程になる / Juliaを使ってEzXMLのストリーム読み込みモードを使う必要 / EzXML.jl: すごいXML処理用のライブラリ" 2021
  • Rを使った地理的回帰加重分析 - Qiita

    始めに 大阪府を対象に、過去(2000年〜2010年)にあった土地利用や人口数などの街の変化と、駅利用者数の間の関係を記述する試みをしました。利用するデータのほとんどはEstatと国土数値情報で公開されているものです。ツールは可視化用のQGISとデータ処理用のR言語を使います。 地理的回帰加重分析について 地理空間加重回帰分析法(Geographically weighted regression,GWR)は複数の変数間の関係を調べるために使われている。線形回帰が一つの回帰係数で対象地を全般的に説明するのに対して、GWRは空間内の異なる場所にに異なる関係を持つことを認め、空間的非定常性(Exploring Spatial)が考慮されるので、回帰係数やt-valueの空間的分布を地図化することができます。 各メッシュに対してこのようなデータを準備する メッシュごとに各土地利用の面積を計算する

    Rを使った地理的回帰加重分析 - Qiita
    sh19910711
    sh19910711 2024/05/26
    "GWR: 回帰係数やt-valueの空間的分布を地図化 + 空間内の異なる場所に異なる関係を持つことを認め、空間的非定常性(Exploring Spatial)が考慮 / 各メッシュに対して一つの回帰式が作成され、メッシュごとのt-valueも出力" 2021
  • MartinでPostGISからベクトルタイルを配信しよう - Qiita

    MapLibre User Group Japanの@Kanahiroです。今回はベクトルタイルサーバーMartinを紹介します。 TL;DR MartinでPostGISのテーブルをベクトルタイルとして高速に配信 glyph/sprteも動的に配信出来るぞ Martin MapLibre傘下の、PostGISバックエンドなタイルサーバーです。特徴は、ベクトルタイルをPostGISのテーブルから動的に作成して配信出来ることです。世はまさにdynamic tiling時代。 今をときめくPMTilesをはじめとして、あらかじめ全てのタイルを作り切っておくアプローチは、配信パフォーマンスの観点では最善です。しかしたとえば頑張って大きなタイルデータを作成したとして、その原典データが更新されてしまったらどうすればよいでしょうか?PMTilesなどのアプローチでは、再度タイルを作り直す必要があります

    MartinでPostGISからベクトルタイルを配信しよう - Qiita
    sh19910711
    sh19910711 2024/05/22
    "Martin: PostGISバックエンドなタイルサーバー + ベクトルタイルをPostGISのテーブルから動的に作成して配信 / 動的配信: QGISなどでPostGISのテーブルの内容を変更したのちに再度地図を表示してみると内容が反映され" 2023
  • Shapefileを簡素化とGeobufで軽量化する - Hirosaji Tech Blog 🍙

    容量の大きい地理情報データは重くてWebに載せられないので、軽量化が必要です。 今回は Shapefile を対象に、簡素化とBuffer(Geobuf)形式を使った軽量化の一連のステップを紹介します。 ちなみに、今回例として取り上げた全国市区町村界データを軽量化した結果(ファイルサイズ)は次の通りです。 Shapefile GeoJSON Buffer(簡素化済) 9MB 25MB 0.6MB ただし簡素化は、やるだけポリゴンが荒くなるので、やりすぎには注意が必要です。 手順 Shapefileを取得 → GeoJSONに変換 → GeoJSONを簡素化 → 自己交差エラーを解決 → Bufferに変換、といった手順で軽量化します。 1. Shapefileを取得 軽量化する Shapefile を用意しましょう。 www.esrij.com 例として、今回はEsriの全国市区町村界デー

    Shapefileを簡素化とGeobufで軽量化する - Hirosaji Tech Blog 🍙
    sh19910711
    sh19910711 2024/05/06
    "容量の大きい地理情報データは重くてWebに載せられない / GeoJSON: 容量の大部分を占めるのがポリゴンデータ / mapshaper: GeoJSONの簡略化 + ポリゴンを荒くする / geo2buf: GeoJSONをさらに軽量なbuffer形式に変換" 2021
  • 初めての位置情報エンジニアリング つまずきポイントあるある

    GO TechTalk #23 ジオスペシャル!位置情報活用の現場をお話します! で発表した資料です。 ■ YouTube https://www.youtube.com/live/5V_SVH9wIgE?si=mgZ8M6P5JvrLLi9T&t=380 ■ connpass https://jtx.connpass.com/event/295571/

    初めての位置情報エンジニアリング つまずきポイントあるある
    sh19910711
    sh19910711 2024/05/04
    "境界付近以外は単純なポリゴンに分割して高速化 + PostGISではSubdivideという機能 / 境界を含まない場所は長方形とポイントの比較になり計算量が大幅に減る / GeoPackage: SQLite上に位置情報を格納 + 大容量のデータを扱える" 2023
  • Uplift Modelling for Location-based Online Advertising

    第3回CFML勉強会

    Uplift Modelling for Location-based Online Advertising
    sh19910711
    sh19910711 2024/05/02
    "最適な特徴量の組み合わせ / 来店頻度や直近の来店といった従来重要とされていた特徴量が採用されなかった / 店舗からの距離が近いユーザーより遠いユーザーに効果的 → 広告効果は移動コストが高い層に効く?" 2019
  • Pythonを使用して数値標高モデル(DEM)からMinecraftの地形を作成する - Qiita

    はじめに この記事では、Pythonのライブラリであるanvil-parserを使用して、数値標高モデル(DEM)からMinecraftJava版)のワールドデータを作成する方法を紹介します。この方法により、実世界の地形をMinecraftで再現することが可能になります。 DEMデータをダウンロードする まずは基盤地図情報ダウンロードサイトよりDEMのデータをダウンロードします。 今回は岐阜県岐阜市のこちらのメッシュ(533616)を使います。 ダウンロードしたDEMはそのままでは利用できないので、QGISのQuickDEM4JPプラグインを使用してtiffファイルに変換します。 詳しい使い方はこちらの記事を参照してください。 「国土地理院の標高データ(DEM)をQGIS上でサクッとGeoTIFFを作って可視化するプラグインを公開しました!(Terrain RGBもあるよ)」 QGIS

    Pythonを使用して数値標高モデル(DEM)からMinecraftの地形を作成する - Qiita
    sh19910711
    sh19910711 2024/04/30
    "数値標高モデル(DEM)からMinecraftのワールドデータを作成 / マインクラフトの世界は設定上1ブロック=1m + これに合わせるため、gdalを使用して、DEMのラスター解像度を1m x 1mに変換" 2023
  • SnowflakeがSRIDに対応したので勉強した - Qiita

    「つい最近のアップデートでSnowflakeのGEOMETRY型がSRIDに対応したぞ!」と周りのデータエンジニアさんが盛り上がっていたんですが…実はSRIDをよく知らなかったので勉強してみました。 Snowflake Documentation | What's New - April 2023 SRIDとは Wikipediaによると、 A spatial reference system (SRS) or coordinate reference system (CRS) is a framework used to precisely measure locations on the surface of the Earth as coordinates. A Spatial Reference System Identifier (SRID) is a unique value

    SnowflakeがSRIDに対応したので勉強した - Qiita
    sh19910711
    sh19910711 2024/04/24
    "地理空間情報は定義や理論のレベルで専門性が高い / SRID: 出典元を示す文字列(オーソリティ)と整数のIDを並べてEPSG:4326みたいに記載 / 135, 35という値を渡されたら日本のどこかを指す経度と緯度?と思ってしまいますが" 2023
  • [Python] 都道府県における回線品質のマッピング - Qiita

    ただし、JitterとPingの単位はms、DownloadとUploadはMbpsです。 このデータを可視化していきます。 3. 可視化 3.1. ライブラリ 地図データを扱う上で、もっともシンプルであろうGeopandasを採用しました。その他にも、インタラクティブな地図を作れるfoliumや、海外線、陸地、政治的境界線などの様々な特徴を表示可能なCartopyなどのライブラリがあります。 3.2 地図情報 地図情報は国土交通省の下記サイトから拝借しました。 必要に応じて全国か都道府県のデータをダウンロードしてください。今回は埼玉県と東京都のデータを使いたいので、 N03-20230101_11_GML.zip (埼玉県) N03-20230101_13_GML.zip (東京都) をダウンロードします。 圧縮ファイルを解凍すると、*.geojsonという地理空間データがあるのでこれを

    [Python] 都道府県における回線品質のマッピング - Qiita
    sh19910711
    sh19910711 2024/04/20
    "埼玉県における光回線のマッピング / インフラに対して人口が多い・少ないのような情報も見えるかも / Cartopy: 海外線、陸地、政治的境界線などの様々な特徴を表示可能 / folium: インタラクティブな地図を作れる" 2023
  • GIS に欠かせない Shapefile を深堀ってみる - Qiita

    1. はじめに 地理情報システム (GIS) で、使用するデータとして「Shapefile 形式」でデータ提供されていることがあります。この記事では、この Shapefile が、どのような構造となっているのかについて、説明していきます。 1.1. トポロジ構造とは Shapefile について説明していく前に、まずは GIS データ等でよく利用される「トポロジ構造」について説明しておこうと思います。 例えば、トポロジ構造を持つファイルとして、次のようなものがあります。 .gdb: ESRIのファイルジオデータベースは、トポロジを含む複雑な空間データを格納することができます。 .topojson: トポロジを保存するための拡張 GeoJSON 形式で、隣接する地物間の境界を共有することでファイルサイズを削減します。 .gml: 地理マークアップ言語 (Geography Markup La

    GIS に欠かせない Shapefile を深堀ってみる - Qiita
    sh19910711
    sh19910711 2024/04/20
    "Shapefile: ESRI によって開発 + 点、線、ポリゴンなどの地理的要素を保存 / 重ねて表示をしたり、連続性を持たないといった特性 + 処理がシンプル、かつサイズが軽量 / pyshp: Python で Shapefile を扱うためのライブラリ"
  • GeoPandasは100万行の夢を見るか - Qiita

    年末オープンジオかくし芸大会 でおなじみの、FOSS4GAdventカレンダー2018の23日目です。 はじめに この記事は 地図や位置のデータをPythonで処理したい Python初学者 QGISちょっとわかる PostGISやMySQLなどのサーバー系はちょっとしんどい 商用GISソフトは手元にない 暗中模索話だいすき という方むけの検証記事です。どうぞよろしくおねがいいたします。 きっかけ いろいろとアレで大量のcsvファイルをなだめたりすかしたりクリーニングしたりするために、PythonのライブラリであるPandasをよく使っています。Pandasについては多くの知見があるため割愛しますが、表形式のデータを取り扱うのに様々な命令があるため、結構便利ですし、今後もいろいろ使ってみたいなあと考えています。 ※こちらのパンダさんとはちょっと関係がないかもしれませんが、どこかでなにかつな

    GeoPandasは100万行の夢を見るか - Qiita
    sh19910711
    sh19910711 2024/04/18
    "QGISちょっとわかる + PostGISやMySQLなどのサーバー系はちょっとしんどい / 空間結合: お店などのポイントデータに対して、メッシュや街区などのポリゴンデータから、属性を取ってくる処理" 2018
  • 東京周辺の賃貸料金をマッピングしました - IT業界で気づいたことをこっそり書くブログ

    そろそろ引っ越し時期ですね。 私も今年は引っ越さなきゃいけないし、知り合いも引っ越すらしいので、前からやりたかったマッピングをしてみました。 地域の相場感をなんとなく把握するのにどうぞ。 成果物全体 参考にした条件 30平米〜35平米、築30年以内、マンション、風呂トイレ別。 管理費込み、礼金は24分割して足しています。 色と賃料の対応 30万円以上 黒● 20万円 赤● 15万円 オレンジ● 12万円 黄緑 10万円 緑● 7万円 青● 5.5万円 水色● 4万円 白◯ あと、緑の円は大体駅から徒歩10分くらいです。 赤いラインは路線です。 以下、細かな所感 10万円以下に絞った地図 埼玉方面 千葉方面 神奈川方面 東京 主要な路線に沿って分布してますね。 ベッドタウンを見ていきましょう。 大宮 東川口、越谷 西川口、川口 川越方面 柏、流山 町田付近 千葉方面はずっと連なっている、賃料

    東京周辺の賃貸料金をマッピングしました - IT業界で気づいたことをこっそり書くブログ
    sh19910711
    sh19910711 2024/04/05
    "MapBox + QGIS / 川を越えると相場が変わる / 遠くなっても案外安くならない + 駅から遠くても案外安くならない + 目黒駅は目黒区ではない"
  • SpatiaLiteを使ってSQLだけで面積按分 - Qiita

    はじめに 初のAdventCalendar参加、「PythonからGRASS6の処理を動かす際の下ごしらえ」的なのを書こうかなあと思っていたのですが、takahiさんが12/07に投稿された、「PostGISを使ってSQLだけで面積按分」の記事が大変参考になったので、同じことをSpatiaLiteでやったらどうなるか? …という内容にしてみます。 (takahiさん、有益な記事をありがとうございます!) SpatiaLiteって? データベース管理システム(DBMS)のSQLiteを空間データベースとして扱える拡張機能です。 属性データや地物の条件に応じてデータを選択したり、抽出したり、結合したり、まとめたり、空間処理したり、という操作がSQLという言語を使って行えます。 データは一つのファイル内に収まるので、サイズはともかく見た目はコンパクトです。 どうしてSQLでやるの? メリット①:

    SpatiaLiteを使ってSQLだけで面積按分 - Qiita
    sh19910711
    sh19910711 2024/03/31
    "SpatiaLite: SQLiteを空間データベースとして扱える拡張機能 / 属性データや地物の条件に応じてデータを選択したり、抽出したり、結合したり、まとめたり、空間処理したり" 2015
  • NVIDIA RAPIDSを使って前処理・機械学習・位置情報分析を高速化しよう - Qiita

    NVIDIA RAPIDSを使ったデータ分析と位置情報分析の入門 皆さん、こんにちは、こんばんは。石黒慎と申します。 この記事では、NVIDIA RAPIDSを使ったデータ分析について、ご紹介させていただきます。 RAPIDSを使うと、データサイエンスに必要な前処理〜機械学習までを簡単に高速化できます。 記事ではRAPIDSの導入方法・利用方法から、 RAPIDSを用いた位置情報データ分析までをご紹介します。 記事を参考に、RAPIDSを用いた様々な分析にトライして頂けると幸いです。 記事の目標: 読者にお持ち帰りいただきたいもの RAPIDSとはなにか? RAPIDSの導入方法 RAPIDSの各種機能のご紹介 RAPIDSを使ったデータ分析入門 (タクシーデータに対して、dask-XGBoostを用いて機械学習) cuSpatialを使った位置情報データ分析 RAPIDSとはなにか

    NVIDIA RAPIDSを使って前処理・機械学習・位置情報分析を高速化しよう - Qiita
    sh19910711
    sh19910711 2023/04/11
    2019 / "cuspatial: cudfの機能を使って、位置情報データを簡単かつ高速に扱えるようにするためのライブラリ / omniscidbなど、RAPIDSのcumlなどを用いることによって位置情報データの高速なSQL処理を実現している基盤もあります"
  • 長崎県全域の点群データが自由に使えるらしいからみんなで使っちゃおうぜ!? - Qiita

    (※オープンナガサキのトップページ) くぅ〜〜〜〜痺れるトップページですね〜。 点群データ先進国家「SHIZUOKA」に引き続き長崎県も全域の点群データを公開してくれるそうです! (一部地域はまだ調整中ですが…) (VIRTUAL SHIZUOKAの点群データはこちら) こうやってデータをバシバシ出してくれている以上は、我々エンジニアとしては有効活用させていただかねばなりません!! と言うことで早速データをダウンロードしてGoogle Earthみたいな3D地球儀を作成できるJavaScriptライブラリである「Cesium」を利用して地球上に載せてみました! (※この記事はPDALやpy3dtiles・Cesiumなど点群操作に慣れている人向けプログラマー向けですが、そうでない方も出来るようになるべく丁寧に記載してはいます。) データのダウンロード 何はともあれまずはデータをダウンロード

    長崎県全域の点群データが自由に使えるらしいからみんなで使っちゃおうぜ!? - Qiita
    sh19910711
    sh19910711 2023/03/20
    "点群データ先進国家「SHIZUOKA」に引き続き長崎県も全域の点群データを公開 + 一部地域はまだ調整中 / Cesium: 3D地球儀を作成できるJavaScriptライブラリ / py3dtilesで点群データを3DTilesに変換"
  • 台風通過前後の風雨の様子を地図とグラフで整理する - Qiita

    はじめに 過去の台風上陸前後に、どのくらい雨や風が強かったのか気になりました。そこで、特定の都市において、台風通過・上陸前後の風雨の様子を一覧できるようなウェブサイトを作成してみました。 注意:データ等は精査しておりませんので、間違いが含まれるかもしれません。ご利用の際は自己責任でお願いいたします(当方は責任は負いません)。 とりあえず、以下の3つの台風を作成しています。 令和元年台風第19号@東京 令和2年台風第10号@鹿児島 令和4年台風第14号@鹿児島 ※令和元年台風第19号@東京の例 レポジトリはこちら データの収集と加工 台風や当時の気象の状況は気象庁のウェブサイトから取得できます。台風の経路は、GeoJSON へ変換し、地図上に掲載します。地図の表示には、ウェブ地図ライブラリとして Mapbox GL JSを、背景地図として、国土地理院 最適化ベクトルタイルを利用しています。

    台風通過前後の風雨の様子を地図とグラフで整理する - Qiita
    sh19910711
    sh19910711 2023/03/07
    "台風や当時の気象の状況は気象庁のウェブサイトから取得できます / 地図の表示には、ウェブ地図ライブラリとして Mapbox GL JSを、背景地図として、国土地理院 最適化ベクトルタイルを利用 / グラフの表示には、Chart.js"
  • jSTAT-MAPを使って駅利用圏の人口を集計してみよう! - Qiita

    はじめに 皆さん、jSTAT-MAP(地図で見る統計)はご存知ですか?存在自体は知っていたのですが、「あー、メッシュ人口とか表示できるんでしょ?」程度に思っていて、ほとんど使ったことがありませんでした…。 しかし、先日業務に関連して触ってみたところ、機能も豊富で使い勝手も良いではありませんか! GISが使えない方も含め、サクッとしたレポート作成や情報確認にもっと活用していけるのでは?!という思いから、この記事を書き始めています。 jSTAT-MAPで何ができるの? 公式HPではjSTAT-MAPは以下のように紹介されています。(以下引用) 地図で見る統計(jSTAT MAP)は、誰でも使えるWebサイトの地理情報システムです。 統計地図を作成する他に、利用者のニーズに沿った地域分析が可能となるようなさまざまな機能を提供しています。 防災、施設整備、市場分析等、各種の詳細な計画立案に資する基

    jSTAT-MAPを使って駅利用圏の人口を集計してみよう! - Qiita
    sh19910711
    sh19910711 2023/03/04
    2022 / "jSTAT-MAP: 約160ページのビジュアル付き公式の説明書 + 逆に何ができるのか分からなくなって / 任意の線や経路や線路からのバッファを作ったり、速度や所要時間を指定した徒歩・自動車の到達圏を自動で作図"
  • 地図 [データ] と著作権

    青空文庫×StudyCode×ssmjp 2018年2月6日 https://ssmjp.connpass.com/event/74186/ LT発表スライド

    地図 [データ] と著作権
    sh19910711
    sh19910711 2023/02/09
    2018 / "OpenStreetMap: データベース・ライセンスとしてODbL (Open Database License)を採用 + CC BY-SAやGPLに近く、ライセンスの継承が行われる / OSMデータと他データを混ぜ合わせて、公開で利用する際には注意が必要"