原创 常見的Web安全漏洞及測試方法介紹

常見的Web安全漏洞及測試方法介紹 背景介紹 Web應用一般是指B/S架構的通過HTTP/HTTPS協議提供服務的統稱。隨着互聯網的發展,Web應用已經融入了我們的日常生活的各個方面。在目前的Web應用中,大多數應用不都是靜態的網頁瀏覽,而

原创 Giraph 源碼分析(五)—— 加載數據+同步總結

作者|白松 關於Giraph 共有九個章節,本文第五個章節。 環境:在單機上(機器名:giraphx)啓動了2個workers。 輸入:SSSP文件夾,裏面有1.txt和2.txt兩個文件。 1、在Worker向Master彙報健康狀況後,

原创 「數據治理那點事」系列之三:不忘初心方得始終,數據質量管理要穩住!

作者 | 蔣珍波 本文是數據治理系列文章的第三篇,主要講數據治理中的重要工作:數據質量管理。 我將從數據質量管理的目標,質量問題產生的根源,講到如何評估數據質量,如何貫徹數據質量管理流程,最後從取與舍兩個角度談談我對質量問題的一些個人觀點。

原创 2分鐘快速瞭解企業用戶權限

作者|小菜 Hello,大家好,今天給大家講講用戶權限。可能有人會覺得用戶權限有什麼好講的,市面上通用的RBAC權限模型多了去了,還需要你個小菜鳥來講。說這話的,可能沒看到我背上紋的小豬佩奇,信不信我這個社會人給你來點狠的——求着你看完。咳

原创 一篇搞懂TCP、HTTP、Socket、Socket連接池

前言:作爲一名開發人員我們經常會聽到HTTP協議、TCP/IP協議、UDP協議、Socket、Socket長連接、Socket連接池等字眼,然而它們之間的關係、區別及原理並不是所有人都能理解清楚,這篇文章就從網絡協議基礎開始到Socket連

原创 菜鳥的Hadoop快速入門

一、相關概念 1、大數據 大數據是一門概念,也是一門技術,是以Hadoop爲代表的大數據平臺框架上進行各種數據分析的技術。 大數據包括了以Hadoop和Spark爲代表的基礎大數據框架,還包括實時數據處理,離線數據處理,數據分析,數據挖掘和

原创 「數據治理那點事」系列之二:手握數據「戶口本」,數據治理肯定穩!

這篇文章主要從數據治理的基礎和核心之一:元數據入手,從以下幾個角度展開具體講解: 元數據概念 元數據的分佈和採集 元數據的一些實際應用場景 一、元數據到底是個啥? 如果我說:元數據(Meta Data),就是描述數據的數據。沒有

原创 關於接口測試——自動化框架的設計與實現

一、自動化測試框架 在大部分測試人員眼中只要沾上“框架”,就感覺非常神祕,非常遙遠。大家之所以覺得複雜,是因爲落地運用起來很複雜;每個公司,每個業務及產品線的業務流程都不一樣,所以就導致了“自動化測試框架”去完成自動化測試的時候產生很多不穩

原创 Giraph源碼分析(二)—啓動Master/Worker服務

作者 | 白松 注:本文爲原創,引用轉載需與數瀾聯繫。 1、org.apache.giraph.bsp.CentralizedService 接口 功能:Basic service interface shared by both Cent

原创 全新一代企業級大數據應用模式揭祕

三個問題 1.當下是否還需要一個複雜的EDW(企業級數據倉庫)? 2.數據系統的目標用戶是誰? 3.讓數據適應計算能力還是計算跟着數據走 數據倉庫這個概念在二十多年前由Bill Inmon提出後,幾乎所有的IT廠商都開始介入這個領域,爲企業

原创 你的企業真的需要「數據中臺」嗎?

作者:鐵叫獸 一、如何理解數據中臺 在解決你是否需要數據中臺這個問題之前,讓我們先理理它究竟是什麼。 它是工具?是方法?還是組織架構?我的回答是:都不僅僅是。 數據中臺包括平臺、工具、數據、組織、流程、規範等一切與企業數據資產如何用起來所相

原创 “數據治理那點事”系列之一:那些年我們一起踩過的坑

大數據時代,數據成爲社會和組織的寶貴資產,像工業時代的石油和電力一樣驅動萬物,然而如果石油的雜質太多,電流的電壓不穩,數據的價值豈不是大打折扣,甚至根本不可用不敢用,因此,數據治理是大數據時代我們用好海量數據的必然選擇。 但大家都知道,數據

原创 Giraph源碼分析(三)—— 消息通信

由前文知道每個BSPServiceWorker有一個WorkerServer對象,WorkerServer對象裏面又有ServerData對象,作爲數據實。ServerData中包含該Worker的partitionStore、edgeSt

原创 Mock工具wiremock-py

作者 | 咪咪 wiremock-py wiremock-py 是基於 WireMock 實現的, 使用 Python 批量生成不同測試場景下不同HTTP API 的 mock 數據, 然後作爲 mock server 快速全面地對 API

原创 大數據是啥,可以吃的嗎?

作者|影姿 關於大數據是什麼,從一開始僅僅只想做數據,到開始意識到自己做的是對整個集團有核心意義的數據產品,再到走到外面,把數據能力對外輸出,所有過程中,不斷的有客戶問到這個問題,有懵懂的、有善意的、也有挑釁的、不屑的。就像大數據本身一樣,