原创 CentOS6.4下配置網絡爲NET模式
修改對應網卡的IP地址的配置文件 cd /etc/sysconfig/network-scripts vim ifcfg-eth0 DEVICE=eth0 BOOTPROTO=static BROADCAST=192.1
原创 CentOS6集羣免密碼登錄
CentOS6集羣免密碼登錄 vim /etc/sysconfig/network NETWORKING=yes HOSTNAME=bigdata-fy1 GATEWAY=192.168.239.2 vim /etc/hosts
原创 hive lateral view 與explode
行轉列:explode 將輸入的一行數組或者map轉換成列輸出 語法:explode(array (or map)) SELECT explode(myCol) AS myNewCol FROM myTable; 多行轉換:
原创 HIVE多行轉多列 和 多列轉多行
1、HIVE多行轉多列 源數據樣式 把CAMERA_NO,RESULT_DATA兩列轉換爲CAMERA_NO字段的數據爲列名,RESULT_DATA字段對應CAMERA_NO的數據爲值 方法一:利用str_to_map函數 al
原创 Pingo數據庫數據導入palo數據庫
首先在palo數據庫中建立表格 CREATE TABLE `sfc_2050_mea_f_t_zongbiao_total_analysisdata` ( `zp_carrier_code_1` varchar(200) CO
原创 Pingo數據庫操作
數據導入Pingo數據庫 alter table dw.acoustics.2050_mea_f_t_zongbiao_analysisdata add if not exists partition(date='2019113
原创 利用python進行數據分析一基礎知識
JSON格式(JavaScript Object Notation) python三元表達式 Python中的三元表達式可以將if-else語句放到一行裏。語法如下: value = true-expr if condition
原创 pingo、palo建表及從pingo往palo數據庫導入數據使用方式
Pingo工作空間建表方式一: CREATE TABLE `dw.acoustics`.`test20191220` (`prod_code` string , `ball_code` string COMMENT '', `ci
原创 Hadoop2.x HA架構與部署
vim hdfs-site.xml <configuration> <property> <name>dfs.nameservices</name> <value>ns</value> </p
原创 minos、pingo、palo數據庫使用總結
spark.sql("show partitions ods.acoustics.sfc_2050_sfc1216j.2050_tb_txtcollect_neici").collect() spark.sql("alter t
原创 python3獲取Elasticsearch數據庫數據
python3獲取Elasticsearch數據庫數據 採用scoll滾動搜索,scoll搜索會在第一次搜索的時候保存一個當時的視圖快照,之後只會基於該舊的視圖快照提供數據搜索,這個期間數據變更,用戶是看不到的,每次發送scoll
原创 sqlserver語法
創建表 create TABLE yftest ( name NVARCHAR(30), age int, subject NVARCHAR(30), score int ) 添加數據 insert into yftest (n
原创 mysql語法——基於palo數據庫
Doris 前身是 Palo ,Palo 是百度自研的基於 MPP 的交互式 SQL 數據倉庫,主要目標是支撐穩定的、在線的、交互式的數據報表(Reporting)和數據多維分析(OLAP)服務。它主要集成了 Google Mes
原创 python庫下載網站
python各種庫的下載網站 下載後安裝方式: pip install D:/ce/SQLAlchemy-1.3.11-cp36-cp36m-win32.whl
原创 CentOS6配置ssh免密登錄
s# CentOS6配置ssh免密登錄 三臺服務器主機名與IP地址映射: 192.168.0.101 bigdata-fy1 192.168.0.102 bigdata-fy2 192.168.0.103 bigdata-f