原创 對《Visualizing and Understanding Convolutional Networks》理解

1.文章內容的介紹 這篇文章主要解決以下兩個問題: However there is no clear understanding of why they perform so well(卷積神經網絡特徵提取方面表現好的原因是什

原创 pyalink的安裝和demo運行

Alink是基於Flink的通用算法平臺,Alink在github的網址:https://github.com/alibaba/Alink 也可以參照github官方提供的安裝指導方式,學習更多的參考官方地址。 1.window

原创 啓動hbase出現Java HotSpot(TM) 64-Bit Server VM warning

分佈式hbase啓動異常提醒 分佈式hbase啓動過程出現Java HotSpot(TM) 64-Bit Server VM warning提醒異常,主要是因爲使用的JAVA JDK版本問題,JDK8+以上的版本不需要如下圖所示的紅框內的

原创 多臺機器的時鐘同步

時鐘同步的方式有兩種:第一種同步方式通過網絡進行時鐘同步,第二種方式通過某臺機器進行同步。 本文將以第二種方式介紹三臺機器之間的時間同步具體的操作步驟: 本文是以centos6.5作爲服務器搭建的三臺機器Hadoop僞分佈式的平臺,解決三

原创 kafka 單節點的單broker和多broker的安裝以及集羣的安裝

Apache Kafka 是一個開源消息系統,由 Scala 寫成。是由 Apache 軟件基金會開發的一個開源消息系統項目。Kafka 是一個分佈式消息隊列:生產者、消費者的功能。它提供了類似於JMS的特性,但是在設計實現上完全

原创 spark集羣安裝出現master: failed to launch: nice -n 0錯誤

spark集羣啓動之後出現如圖所在紅線的異常情況 解決方案:在配置文件中加入java jdk的安裝路徑重新啓動spark集羣即可。 # 在配置文件中加入java jdk的安裝路徑 vim ~/.bashrc export JAVA_H

原创 ssh 遠程執行zookeeper啓動腳本不能正常運行(java.io.EOFException)

編寫zookeeper遠程執行腳本過程中出現,zookeeper進程不能正常啓動的問題: 進入配置文件conf目錄下,查看zookeeper.out文件,內容如下所示: 異常代碼: 2019-10-24 04:59:55,814

原创 flume啓動過程中配置錯誤出現的異常問題

flume的官網提供了source channel sink的詳細介紹,以及配置的示例,有不會的可以直接查看相應的文檔。 官方文檔網址:http://flume.apache.org/releases/content/1.9.0/

原创 hive啓動出現java.net.URISyntaxException

​​​​hive啓動時出現java.net.URISyntaxException異常,異常代碼: Logging initialized using configuration in file:/export/servers/hi

原创 docker中部署hadoop集羣案例

Docker 是一個開源的應用容器引擎,讓開發者可以快速打包應用以及依賴到一個可移植的容器中,然後發佈到任何流行的Linux機器上,使用docker去安裝hadoop集羣,可以快速的線性擴展機器,可以快速的實現部署。 本文使用do

原创 pycharm遠程連接服務器調用spark的配置及異常處理

spark的運行環境配置: 第一步: pycharm遠程連接服務器之後,配置python解釋器的路徑(可以是自己本地服務器的Python路徑或者虛擬環境中的Python解釋器路徑),樣例是遠程連接的虛擬環境 第二步: 將spark

原创 jieba分詞4種模式示例

jieba分詞 jieba分詞可以參考官方提供的github地址:https://github.com/fxsjy/jieba 結巴分詞0.4版本以上支持四種分詞模式: 精確模式:試圖將句子最精確地切開,適合文本分析; 全模式:

原创 centos6.6源碼安裝fasttext過程及error:‘nullptr’ 異常解決

centos6.6安裝fasttext包 官方教程 fasttext的安裝方式參考facebook在github上面的案例: https://github.com/facebookresearch/fastText 官網提供了多種

原创 docker的入門教程

docker的入門教程可以參考:docker的中文社區 http://www.docker.org.cn/book/docker/what-is-docker-16.html docker的官網:https://www.docke

原创 spark運行出現py4j.protocol.Py4JError異常

spark配置啓動過程中出現:py4j.protocol.Py4JError: An error occurred while calling None.None. Trace: Authentication error: une