原创 Java中的守護線程學習筆記

1. 概念 守護線程其實也是一個線程,它與用戶線程的不同之處就在於它的生命週期,當程序中其他線程都結束時,守護線程就會結束自己的生命週期。只要程序中還有一個線程還沒有結束,守護線程就會一直工作。 守護線程中產生的新線程也是守

原创 Linux下部署kafka集羣

文章目錄1. jar包下載2. 安裝zookeeper集羣,並啓動3. kafka集羣部署3.1. 解壓安裝包3.2 在解壓後的目錄創建logs文件夾3.3 修改配置文件3.3.13.3.23.3.33.3.43.4 配置環境變量

原创 冒泡排序實現及其優化

所謂冒泡排序,就是每一趟都比較相鄰兩個數字,如果前一個數字大於後一個數字,就交換這兩個數字,直到數字序列完全有序,這樣排出來的數字序列是從小到大的。如果是前一個數字小於後一個數字發生交換,則排出來的序列是從大到小的。 時間複

原创 Linux下安裝nginx教程(Centos7)

1. 環境及準備 環境:Centos7 準備:確保系統中安裝了gcc、pcre-devel、zlib-devel、openssl-devel。 Linux下檢查是否安裝過某軟件包:http://www.cnblogs.com

原创 python3中不能使用urllib2解決辦法

由於在python3.3後urllib2已經不能再用,只能用urllib.request來代替 python2的代碼 import urllib2 req = urlli2.Request(url, headers=heade

原创 sqoop導入數據錯誤

用sqoop導入數據到hdfs時出現了錯誤, 代碼如下: bin/sqoop import --connect jdbc:mysql://slave2:3306/company --username root --passw

原创 Centos7下安裝MongoDB並配置環境變量

1.下載對應版本的MongoDB並解壓 下載地址:https://www.mongodb.com/download-center/community   可以直接在瀏覽器中下載然後傳到虛擬機,或者在虛擬機中用wget命令下載 # 下載

原创 在Centos7虛擬機下安裝redis

在虛擬機中下載: wget http://download.redis.io/releases/redis-5.0.3.tar.gz 解壓 tar -zxvf redis-5.0.3.tar.gz 進入安裝目錄

原创 通過python讀取excel寫入mysql

import pymysql import xlrd import sys from xlrd import xldate_as_datetime # excel文件的路徑 excel_path=sys.argv[1] host

原创 解決python讀取excel日期變爲數字,int變爲double的格式問題

excel數據如下: 讀取excel # 讀取excel文件 excel_data = xlrd.open_workbook(excel_path) # 獲取第一個sheet頁 sheet = excel_data.sheet_

原创 Python3爬蟲增加點擊量(慎用)

今天跟朋友談起追星給偶像刷視頻點擊率的問題,就想到能不能用python來解決這個問題,試了一下,視頻的點擊率還是不太好整,勉勉強強用python3實現了給CSDN刷點擊率的問題。 因爲一直用一個IP刷的話,很快就會被封號,這裏找到

原创 Oracle中用desc查表結構報錯 invalid sql statement

問題 今天用oracle中使用‘desc tablename’查看錶結構的時候,居然報錯說‘invalid sql statement’,很奇怪,還以爲自己搞錯了,後來查資料才知道,‘desc tablename’這種查看錶

原创 Cannot find 'mainfest' in class org.apache.maven.archiver.MavenArchiveConfiguration

用idea打包的時候,出現了以下的錯誤: Failed to execute goal org.apache.maven.plugins:maven-assembly-plugin:2.2-beta-5:single (make-

原创 python連接mysql獲取表信息(表名、字段數、字段空值率)

功能說明: 通過python連接mysql數據庫,1. 獲取當前庫下所有表的名稱 2. 獲取每個表的記錄行數 3. 查詢每張表下每個字段的空值率(採用增量查詢的方式,降低查詢大表時的性能消耗)。 輸出形式: excel表格 代碼:

原创 python讀取excel生成HiveDDL

需求說明: 數倉建模過程中,一般會在excel中先將數倉各層的表和字段都梳理好,然後再建表和開發。該程序可以方便的利用excel中的字段名、字段類型、字段描述等信息生成HiveDDL語句 數據示例: 輸出示例: 代碼: