原创 關於DistroWatch

什麼是DistroWatch?DistroWatch是一個致力於討論,審閱和保持開源 操作系統最新信息的網站。這個站點特別關注Linux 發行版和BSD版本,儘管有時還會討論其他開源操作系統。Linux發行版上有很多信息,該站點試圖以一致

原创 修改SBT倉庫(IDEA+Windows)

因爲SBT的倉庫在國外,所以在國內使用IDEA創建SBT項目非常慢。 解決辦法:修改SBT倉庫爲國內的地址。 1、添加配置文件 在SBT的倉庫路徑下新建repositories文件,注意:文件名爲repositories,沒有後綴。 例如

原创 使用IDEA打包Spark應用程序(Windows+Maven+Scala)

1、編寫Spark應用程序 參考我的上一篇博文:《使用IDEA編寫Spark應用程序(Windows+Maven+Scala)》 2、打包配置 單擊菜單File->Project Structure, 在彈出的界面選擇Artifacts-

原创 使用IDEA編寫Spark應用程序

1、新建Maven工程 File->New->Project->Maven->Next Name:SimpleApp,如下所示: 2、修改pom.xml配置文件,如下所示: <?xml version="1.0" encoding="

原创 Bash腳本簡介

Bash腳本簡介 Shell程序是命令解釋器。它不僅是操作系統內核和用戶之間的隔離層,還是一種功能強大的編程語言。Shell程序稱爲腳本,是一種易於使用的工具,可通過“粘合”在一起構建應用程序系統調用,工具,實用程序和已編譯的二進制文件。

原创 GNU/Linux Distribution Timeline v12.10

GNU/Linux Distribution Timeline v12.10 GNU/Linux發行時間線v12.10 下載鏈接:GNULinux Distribution Timeline 12.10.png  

原创 UNIX工具箱

UNIX工具箱 本文檔是Unix/Linux/BSD命令和任務的集合,這些命令和任務對IT工作或高級用戶非常有用。這是一個實用的指南,有簡明的解釋,但是讀者應該知道他/她在做什麼。 Unix工具箱版本14.5 此文檔的最新版本可以在htt

原创 什麼是Hadoop?大數據與Hadoop簡介

要了解什麼是Hadoop,我們必須首先了解與大數據和傳統處理系統有關的問題。前進,我們將討論什麼是Hadoop,以及Hadoop如何解決與大數據相關的問題。我們還將研究CERN案例研究,以突出使用Hadoop的好處。 在之前的博客“  大

原创 CentOS 執行 source /etc/profile命令時,報錯:-bash: #: 未找到命令

問題描述: CentOS 執行 source /etc/profile命令時,報錯:-bash: #: 未找到命令 如下所示: [root@localhost ~]# source /etc/profile -bash: #: 未找到命

原创 LDP 維基

The Linux Documentation Project LDP Wiki: LDP維基是一個正在進行的任何工作的切入點會員  |  作者  |  參觀者 文件資料   如何: 特定主題的幫助最新更新  |  主要指標  |

原创 啓動 HDFS 守護進程報錯:ERROR: Attempting to operate on hdfs namenode as root...

啓動 HDFS 守護進程報錯:ERROR: Attempting to operate on hdfs namenode as root... 錯誤信息,如下所示: [root@localhost sbin]# start-dfs.sh

原创 Spark 集羣模式概述

Spark 集羣模式概述 本文檔簡要概述了Spark如何在羣集上運行,以使您更容易理解所涉及的組件。通讀應用程序提交指南, 以瞭解有關在集羣上啓動應用程序的信息。 組件 Spark應用程序在羣集上作爲獨立的進程集運行,由SparkCont

原创 Hadoop集羣設置

Hadoop集羣設置 目的 先決條件 安裝 在非安全模式下配置Hadoop Hadoop守護程序的配置環境 配置Hadoop守護程序 監視NodeManager的運行狀況 Slaves文件 Hadoop機架感知 記錄中 操作Hadoop

原创 Hadoop Java 版本

支持的Java版本 Apache Hadoop 3.x現在僅支持Java 8 從2.7.x到2.x的Apache Hadoop支持Java 7和8 Java的11支是現在進行時:  HADOOP-15338 - Java 11 runt

原创 Spark 在YARN上運行

在YARN上運行Spark 安全 在YARN上啓動Spark 添加其他JAR 準備工作 組態 調試您的應用程序 Spark特性 重要筆記 的Kerberos YARN特定的Kerberos配置 Kerberos故障排除 配置外部隨機