原创 kafka消息系統-海量數據遷移方案

一、需求描述 由於本人主要從事大數據可視化的工作,就少不了對海量數據的分析,但是我們並不是數據的生產來源,數據來自有大數據可視化分析需求的用戶,所以實際業務中往往會遇到大量數據從傳統存儲方式(關係型數據庫、文件存儲等)到數據倉庫的

原创 滴滴的大數據可視化效果

前言 上一篇專門針對mobike的空間可視化效果寫了一篇總結,本篇主要基於滴滴的大數據可視化做一個描述,上篇介紹的空間可視化效果偏靜態的,滴滴的大數據可視化更加動態,形式上也更加豐富多彩,本篇主要參考了這篇文章:http://ba

原创 C#異步獲取服務的方法

在很多的項目開發時,需要服務通過異步方式返回信息並更新相應控件的信息,如圖表、列表的定時刷新,如果不通過異步的方式的話,網絡緩慢,或者服務較多的話,就會造成主程序的卡頓現象,通過這種方式可以有效的解決卡頓的問題。 1.工具類 p

原创 一種模擬實時位置點發送的方法——以北京市公交車線路數據爲例

一、需求描述 在實際項目開發中,需要接入多目標的實時位置點,然後根據位置點進行空間展示,如普通貨車輛監控定位,漁船定位監控、運輸特種物品車輛監控等,主要的目的是接收實時上傳的位置點在地圖上進行顯示和更新,但是有時候沒有現成的數據接

原创 GPU數據庫介紹

一、爲什麼需要GPU數據庫 CPU CPU需要很強的通用性來處理各種不同的數據類型,同時又要邏輯判斷又會引入大量的分支跳轉和中斷的處理。這些都使得CPU的內部結構異常複雜; 所以CPU一般由幾個針對順序串行處理而優化的內核組成

原创 kafka消息系統-Net開發庫的使用與選擇

一、使用net kafka 消費 在一個項目中使用C#開發WPF的大屏展示程序,需要實時監控用戶的車輛信息,並在地圖上進行展示和更新,後臺採取的策略是:用戶車輛GPS傳感器通過socket 發送到我們的kafka集羣中,前端使用k

原创 C#獲取在線圖片並保存到本地

在實際工作中有遇到需要通過從服務端獲取圖片展示的需求,下面是相關實現的工具類和使用方法: 工具類 public static class ImageExtensions { /// <summary>

原创 go實現rest服務解析

目標:解析百度交通擁堵道路排名的服務,並轉成自己格式的服務 func RoadRank(cityCode string) (*StatisticResult, error) { if cityCode == "" {

原创 共享出行訂單數據可視化

前言 越來越多的數據都是基於起始位置信息的,如外賣訂單,從訂單位置,到騎手位置,然後從騎手位置到商家位置,共享單車開鎖點和關鎖點、滴滴打車出發點和到達點,這些任意兩點就構成了一條有向線,一般我們將起點稱爲O點,終點稱爲D點,O點和

原创 mapbox-聚類點圖層

前端技術選型 mapbox gl.js+react+dva 1.構建mapview 並在mapbox onload 事件裏面進行聚類點圖層初始化 import React from 'react'; import styles f

原创 GeoHash在空間道路密度計算中的應用-以mobike騎行軌跡爲例

一、綜述 在空間大數據可視化展示中,往往需要計算基於道路路網的通行密度,從而得出道路不同路段的權重,然後根據不同的權重值進行道路的分色分級繪製,得出基於不同業務需求的分析展示,如我們每天日常看到的實時道路擁堵情況、道路交通流量壓力

原创 Google Tile網格在空間大數據聚合分析中的應用

一、綜述 現實世界中的地理位置點如手機的定位點,手機信令採集信息,共享單車的騎行軌跡,和開關鎖位置,漁船的北斗定位位置信息,這些信息都是實際的定位點,但是有時候在對空間大數據分析的時候,我們不會關注某一個設備,位置的用途,會關注所

原创 influxdb實戰- 強生出租車位置數據存儲與查詢

一、數據準備 下載開放的強生出租車的數據,網址如下,http://shanghai.sodachallenges.com/data.html,本測試的案例已經下載了30天的軌跡,大概每天6000萬條,原始文件以txt存儲,大概的文

原创 空間大數據可視化的幾種表達形式-以mobike出行報告爲例

一、前言 越來越多的出行企業選擇空間大數據可視化表達來進行海量數據的分析和展示,如mobike、滴滴、uber。通過這一直觀形式,能夠讓普通大衆快速接受企業所想表達的深層含義,同時也便於對數據進行深度的挖掘和分析結果的表達呈現,空

原创 MySQL的空間查詢

一、前言 MySQL實施了OGC建議的具有Geometry類型的SQL環境的一個子集。該術語指的是用一組集合類型擴展的環境。具有幾何值的SQL列是作爲擁有集合類型的列實施的。該規範描述了SQL幾何類型集合,以及作用在這些類型上用於