原创 總結:課程構圖

一、Hadoop課程構圖 二、Hive課程構圖 三、輔助系統構圖 四、Hbase構圖 五、Storm構圖: 六、Kafka構圖 七

原创 D37 python基礎

python-2.7.13 print ----區別: python3以上的print() 一、python基礎語法測試:數據類型,list,tuple,dict,set 1 # coding=utf-8 2

原创 總結命令行07:MySQL

一、MySQL常用語句: 1mysql> alter table MyClass add passtest int(4) default '0'2   UPDATE [LOW_PRIORITY] [IGNORE] t

原创 複習總結07:Redis

一、Redis概述: Redis是一個開源,先進的key-value存儲,並用於構建高性能,可擴展的應用程序的完美解決方案。 Redis數據庫完全在內存中,使用磁盤僅用於持久性。  相比許多鍵值數據存儲,Redis擁有一套較爲豐富

原创 大數據各軟件框架啓動命令行

各個軟件服務的啓動命令:storm,Kafka,hive,hbase,azkaban,flume,spark,hadoop,sqoop A:Storm啓動: 先在每臺機器上啓動zookeeper:zkServer.sh start

原创 複習總結09:Spark

一、關於Spark spark-shell:啓動 /usr/local/spark-1.5.2-bin-hadoop2.6/bin/spark-shell \ --master spark://node1.itcast.cn:7077

原创 複習總結08:Scala基礎

一、Scala編程語法 1//1、定義一個方法2def method1(x: Int, y: Int): Int = {3    return x * y4 }5//該方法無輸入參數,其實是有返回值,默認的自動匹配。6def

原创 總結命令行03:HBase

Hbase常用命令行 示例: create table 'Test' , 'c1_info' , 'c2_info' , 'c3_info' put 'testAjl' , 'row_1' , 'c1_info:a' , 'val

原创 總結命令行02:Hive

一、概述:        Hive提供了很多的函數,可以在命令行下show functions羅列所有的函數,你會發現這些函數名與mysql的很相近,絕大多數相同的,可通過describe function functionName 查

原创 複習總結02:Hive

複習Hive:主要是HSQL語句,MySQL數據庫語句。Hive的數據都自動存儲在HDFS上的 Hive: 1. 查詢語言。由於 SQL 被廣泛的應用在數據倉庫中,因此,專門針對 Hive 的特性設計了類 SQL 的查詢語言 HQL。熟

原创 總結命令行06:Spark

啓動命令行:spark-shell 啓動spark:sbin/start-all.sh -> start-master.sh -> start-slaves.sh spark提交任務的過程 bin/spark-submit --clas

原创 複習總結03:輔助系統Azkaban/flume/sqoop

…………………………………………………………………………………………一、Flume………………………………………………………………………………………………………… 一、Flume概述: 分佈式,高可靠,高可用海量日誌採集、聚合和傳輸系統

原创 複習總結06:Kafka

一、Kafka概述 核心組件: Topic:消息分類,接收到的消息按照Topic進行分類。 Producer:發送消息。 Consumer:接收消息。 broker:每個Kafka實例。 zookeeper:依賴集羣保存me

原创 總結:大數據幾個重要框架的結構框圖

一、Hadoop   二、HA集羣模式 主機名 IP 安裝的軟件 運行的進程 host   192.168.33.129   jdk、hadoop  NameNode、DFSZKFailoverController(zkfc) mi

原创 複習總結01:Hadoop

一、關於設置hdfs ①獲取hdfs文件系統 1Configuration configuration = new Configuration();2FileSystem fSystem = fSystem = FileSy