原创 Java操作Hbase
import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.h
原创 Scala操作Hbase
package com.sncfi.hbase import org.apache.hadoop.hbase.client.HBaseAdmin import org.apache.hadoop.hbase
原创 Hbase基礎
一、Hbase概念 Hbase是一個高可靠、高性能、面向列、可伸縮的分佈式數據庫,利用hBase技術可以在廉價pc上搭建大規模結構化數據集羣。Hbase參考Google的BigTable建模,使用類似GFS的HDFS作爲底
原创 Spark Streaming高級
一、緩存或持久化 和RDD相似,DStreams也允許開發者持久化流數據到內存中。在DStream上使用 persist() 方法可以自動地持久化DStream中的RDD到內存中。如果DStream中的數據需要計算多次,這是非常有
原创 用spark-submit啓動Spark應用程序
bin/spark-submit腳本負責建立包含Spark以及其依賴的類路徑(classpath),它支持不同的集羣管理器以及Spark支持的加載模式。 /bin/spark-submit \ --cla
原创 android佈局中模仿底部彈框顯示隱藏動畫
1.tranlate_dialog_out(顯示動畫) <set xmlns:android="http://schemas.android.com/apk/res/android"> <translate android
原创 HBase Shell 常用命令及例子
一、一般操作 1.查詢服務器狀態 hbase(main):024:0>status 3 servers, 0 dead,1.0000 average load 2.查詢hbase版本 hbase(main
原创 Spark RDD操作講解
一、spark rdd 介紹 1.rdd概念 rdd是彈性分佈式數據集,存儲在硬盤或者內存上。 2.rdd特徵 1)有一個分片列表,就是能被切分,和Hadoop一樣,能夠切分的數據才能夠並行計算 2)由
原创 flume安裝部署
1.解壓 tar -zxvf flume-ng-1.5.0-cdh5.3.6.tar.gz -C /opt/cdh-5.3.6/ 2.修改配置文件 mv flume-env.sh.template flume-env.sh ex
原创 Spark Streaming基本概念
一、關聯 與Spark類似,Spark Streaming也可以利用maven倉庫。編寫你自己的Spark Streaming程序,你需要引入下面的依賴到你的SBT或者Maven項目中 <dependency>
原创 Hbase2.0.2之scala API
import java.util import java.util.{ArrayList, HashMap, List, Map} import org.apache.hadoop.hbase.{Cell, CompareOperat
原创 Row size too large. The maximum row size for the used table type, not counting BLOBs, is 65535
hive創建數據庫成功,但是創建表的時候報錯 創建數據庫: hive (default)> create database if not exists test; OK Time taken: 0.45 seconds 創建表:
原创 Centos7+Hadoop2.7.7+Hive2.3.0+Hbase2.0.2+spark2.4+zookeeper3.4.10搭建分佈式大數據集羣
虛擬機準備3臺,分別是hadoop01 hadoop02 hadoop03,所裝系統爲centos7 1.修改主機名 vim /etc/sysconfig/network NETWORKING=yes HOSTNAME=hadoo
原创 Hbase2.0.2之JavaAPI
import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.HBaseConfiguration; import org.apache.had
原创 java.lang.ClassNotFoundException: org.jetbrains.sbt.CreateTasks$
用idea創建sbt+scala的項目時,有時候會報錯 [error] java.lang.ClassNotFoundException: org.jetbrains.sbt.CreateTasks$ [error] at java