原创 oracle rac 10g安裝指南

1. 硬件要求和概述客戶操作系統環境概況:主機名操作系統處理器內存rac1 Oracle Enterprise Linux 4(32 位) 1700 MBrac2 Oracle Enterprise Linux 4(32 位) 1700 M

原创 解壓.cpio.gz格式的文件

如何解壓cpio.gz文件解壓文件第一種方法:zcat lnx_920_disk1.cpio.gz | cpio -idmvzcat lnx_920_disk1.cpio.gz | cpio -idmvzcat lnx_920_disk1.

原创 Oracle文檔閱讀指南(10g R2)

Oracle文檔閱讀指南(10g R2)Oracle官方文檔數量龐大,而且往往沒有側重點,讓oracle新手看起來很費力。但是,仍有很多Oracle使用者認爲任何oracle學習資料都比不上Oracle官方文檔的權威和扼要,且兼具基礎與全面

原创 離線安裝Cloudera Manager 5.3

離線安裝ClouderaManager 5.3 關於CDH和ClouderaManagerCDH (Cloudera's Distribution, including Apache Hadoop),是Hadoop衆多分支中的一種,由Clo

原创 我的友情鏈接

51CTO博客開發

原创 基於Spark MLlib平臺的協同過濾算法---電影推薦系統

基於Spark MLlib平臺的協同過濾算法---電影推薦系統        又好一陣子沒有寫文章了,阿彌陀佛...最近項目中要做理財推薦,所以,回過頭來回顧一下協同過濾算法在推薦系統中的應用。    說到推薦系統,大家可能立馬會想到協同過

原创 SQL語句解析類型---硬解析和軟解析

一、Shared pool 作用:緩存SQL語句及SQL語句的執行計劃 SQL語句執行三步:解析(parse)------執行(exec)------獲取數據(fetch)shared pool的組成: 3塊區域:free、

原创 shared pool裏的latch爭用--綁定變量(已測試)

1、創建用戶賦權,創建存儲過程等create user test identified by test default tablespace users;grant dba to test;grant select on sys.v_$st

原创 HBase基礎操作,包括表的增刪改查過濾等

package com.snglw.basic; import java.io.IOException; import java.util.ArrayList; import java.util.List; import org.apa

原创 spark streaming測試之二使用網絡數據源

測試思路:    首先,創建網絡數據源數據發送器(程序一);    其次,創建spark接收數據程序(程序二);    接着,將程序一打包,放在服務器上執行。這裏有三個參數分別是:所要發送的數據文件,通過哪個端口號發送,每隔多少毫秒發送一次

原创 spark streaming測試之四設置窗口大小接收數據

測試思路:    首先,使用網絡數據發送程序發送數據;    然後,運行spark程序;    觀察效果。說明:    1. 這裏也需要設置檢查點目錄    2. 這裏有四個參數:       前兩個分別是監聽的端口和每隔多少毫秒接收一次數

原创 基於IDEA使用Spark API開發Spark程序

清明假期折騰了兩天,總結了兩種方式使用IDE進行spark程序,記錄一下:第一種方法比較簡單,兩種方式都是採用SBT進行編譯的。注意:本地不需要安裝Scala程序,否則在編譯程序時有版本兼容性問題。一、基於Non-SBT方式創建一個Scal

原创 HDFS小文件物理空間佔用驗證

項目環境中遇到的小文件較多,起初除了NAMENODE的內存外,還是比較擔心文件物理空間的佔用。於是就看一下,小文件是如何佔用物理空間的:前提:HDFS塊大小爲64MB      文件副本總共3份1、  批量生成小文件(均20M)2、  記錄

原创 基於Spark MLlib平臺的協同過濾算法---電影推薦系統

基於Spark MLlib平臺的協同過濾算法---電影推薦系統        又好一陣子沒有寫文章了,阿彌陀佛...最近項目中要做理財推薦,所以,回過頭來回顧一下協同過濾算法在推薦系統中的應用。    說到推薦系統,大家可能立馬會想到協同過

原创 Flume結合Spark測試

近日,在測試Flume結合Kafka結合Spark Streaming的實驗。今天把Flume與Spark的簡單結合做出來了,這裏記錄一下,避免網友走彎路。有不周到的地方還希望路過的大神多多指教。實驗比較簡單,分爲兩部分:一、使用avro-