原创 開源數據可視化工具(For Apache Kylin)使用說明

http://lxw1234.com/archives/2016/06/691.htmApache Kylin,很好的解決了海量數據OLAP的底層存儲與分析引擎,但還缺一個數據可視化工具,可以使用戶非常方便的通過圖形化分析探索海量數據,而

原创 Kafka-manager部署

一、概念    概念百度了一下,可以根據相關資料進行理解。1.1 Kafka是一種高吞吐量的分佈式發布訂閱消息系統,它可以處理消費者規模的網站中的所有動作流數據。BrokerKafka集羣包含一個或多個服務器,這種服務器被稱爲broker

原创 druid的查詢接口

核心 druid 查詢接口的使用druid的查詢接口是HTTP REST 風格的查詢方式,使用HTTP REST 風格查詢(Broker,Historical,或者Realtime)節點的數據,查詢參數爲JSON格式,每個節點類型都會暴露

原创 apache hadoop2.7 安裝

總體思路,準備主從服務器,配置主服務器可以無密碼SSH登錄從服務器,解壓安裝JDK,解壓安裝Hadoop,配置hdfs、mapreduce等主從關係。1、環境,3臺CentOS7,64位,Hadoop2.7需要64位Linux,CentO

原创 sqoop mysql數據導入Hive中

//sqoop導入數據測試 ## by coco ## 2014-11-21 1. 下載sqoop,本測試安裝的hadoop-2.2.0。所以下載的sqoop爲: sqoop-1.4.5.bin__hadoop-2.0.

原创 Druid單機的安裝和測試

1、環境信息 2、安裝zookeeper 3、安裝druid 4、啓動druid 5、驗證druid 6、遇到的吭1、環境信息 Centos6.5 32GB 8C Zookeeper 3.4.5 Druid 0.9.22、安裝zookee

原创 maven本地安裝jar

 輸入mvn命令   3.1 輸入mvn install:install-file -Dfile=C:\Users\sinosoft\Desktop\lib\spring-cloud-sleuth-zipkin-1.2.0.RC1.jar

原创 python腳本用sqoop把mysql數據導入hive數據倉庫中

#! /usr/bin/env python   # coding:utf-8   # --------------------------------   # Created by coco  on 16/2/23   # -----

原创 KYLIN 例行調度 自動BULID

KYLIN提供RESTFUL 接口,通過請求&crontab 可實現例行調度參考url:http://kylin.apache.org/docs15/howto/howto_use_restapi.html#get-job-status實

原创 集合元素操作

集合元素操作col :+ ele 將元素添加到集合尾部 Seqele +: col 將元素添加到集合頭部 Seqcol + ele 在集合尾部添加元素 Set、Mapcol + (ele1, ele2) 將

原创 Hive命令行常用操作(數據庫操作,表操作)

數據庫操作 查看所有的數據庫 hive> show databases ; 使用數據庫default hive> use default; 查看數據庫信息 hive > describe database de

原创 kylin建模指南

Apache Kylin的主要特點包括支持SQL接口、支持超大數據集、秒級 響應、可伸縮性、高吞吐率、BI工具集成等。 Apache Kylin的特色在於,在上述的底層技術之外,另闢蹊徑地使用 了獨特的C

原创 搭建Spark源碼研讀和代碼調試的開發環境

Table of Contents 源碼獲取與編譯 從Github上獲取Spark源碼編譯Spark項目源碼導入與代碼運行 導入源碼到Intellij IDEA 16運行實例代碼 1. 配置運行參數2. 添加缺失的flume sink源代

原创 kettle小例子

crontab -l 0  11  *  *  * /home/xxy_hjlj/data-integration/kettle_code/shell/kettle_job.sh [xxy_hjlj@ipcweb2 shell]$ vi

原创 Hadoop_FileInputFormat分片

Hadoop_FileInputFormat分片 Hadoop學習筆記總結 01. InputFormat和OutFormat 1. 整個MapReduce組件 InputFormat類和OutFormat類都是抽象