原创 Spring依賴注入@Required和@Autowired

一、@Required用法 @Required一般用在setter方法上。這個setter方法設置的屬性,必須能夠注入,否則會拋出異常。   二、@Autowired用法 1,@Autowired可以用在構造函數上。如果類只有一個構造函數

原创 HDFS的數據備份

HDFS中每個文件的塊大小和備份數都是可以配置的。 DataNode報告給NameNode的信息,包括心跳和自己保持的塊列表。   副本的放置策略 副本的放置策略關係到HDFS的穩定性和性能,這一點也是HDFS區別於其他分佈式文件系統的特

原创 個人商業模式

李笑來《把時間當做朋友》《財富自由之路》 1,三種個人商業模式 你認真考慮過自己的商業模式嗎? 大多數人認爲“商業模式”這個概念和自己沒有太大的關係,因爲商業模式是企業纔有的東西。 企業靠商業模式賺錢 個人靠能力和運氣賺錢 事實上

原创 決斷力-如何在工作和生活中做出更好的選擇

萬維鋼《高手》讀書筆記 1,到底什麼是厲害的決策法 科學決策是一門學問,但是有關決策的知識還遠遠沒到普及的程度,這一次我們介紹奇普·西斯和丹·西斯的《決策力-如何在生活和工作中做出更好的選擇》。 1.1 你會拿主意嗎 有一個事實說出來可能

原创 文檔數據庫

爲了解決關係數據庫schema帶來的問題,文檔數據庫應運而生,文檔數據庫最大的特點就是no-schema,可以存儲和讀取任意的數據。目前絕大部分文檔數據庫存儲數據的格式是json,典型的文檔數據庫比如MongoDB。 文檔數據庫的一個典型

原创 MySQL分庫

數據庫的業務分庫指的是不同模塊的數據存儲到不同的數據庫服務器上。舉一個例子來說。一個簡單的電商網站,包括用,戶商品和訂單三個業務模塊,我們可以將用戶數據商品數據和訂單數據,分開放到三臺不同的數據庫服務器上。 業務分庫以後帶來的問題,主要有

原创 MySQL讀寫分離

讀寫分離的基本原理是將數據庫讀寫操作分散到不同的節點上。讀寫分離的基本實現如下第一數據庫服務器搭建主從集羣一主一主一主多奴都可以。第二,數據庫主機負責讀寫操作重擊,只負責頓操作。第三,數據庫主機通過複製將數據同步到從機,每臺數據庫服務器存

原创 《了不起的我》讀書筆記

第一章 開啓行爲的改變 改變之路:每個人都有選擇 拿回選擇的控制權,是發展和改變自我的前提。但不可否認的是,當我們被卡住時,一定會陷入或輕或重的無力感中。除了停留在原地,似乎找不到更好的人生選項,這是什麼原因呢? 第一,誤以爲只有按照理想

原创 向Spark傳遞函數

Spark的大部分轉化操作和一部分行動操作,都需要依賴用戶傳遞的函數來計算。python、Scala、java向Spark傳遞函數的方式略有區別。 python、Scala向Spark傳遞函數的方式略。下面主要介紹Java向Spark傳遞

原创 Spark初體驗

1,下載Spark。 在Spark官網上,選擇需要的版本後,會自動生成下載鏈接,例如https://www.apache.org/dyn/closer.lua/spark/spark-3.0.0-preview2/spark-3.0.0-

原创 團隊溝通 | 交互記憶與世界咖啡館

本文是寧向東的清華管理學課程的學習筆記。 什麼是交互記憶? 英文叫做transactive memory。意思是說,當一個團隊的成員在一起工作的時間比較長了之後,他們便會分享一些別人的信息,並且將之在頭腦中存儲,以備不時之需,從長期來看,

原创 目標管理方法OKR

新的一年,是立flag的時候。於是,我在得到上找到吳軍老師以前寫的一篇文章《谷歌的目標管理方法》,把其中介紹的OKR相關的知識和方法整理如下。一方面爲了體系化的掌握OKR的相關內容,另一方面,爲自己2020年確定自己的OKR提供一些指導思

原创 從數據庫隨機select數據

有時候,我們需要在數據庫的一張表中,隨機選出一些數據進行處理。 在這樣的場景下,一個比較笨的方法時,把表中所有數據都select出來,然後用Excel或程序,隨機挑選數據。 更好的方式,是直接使用數據庫提供的隨機函數。示例如下。 sel

原创 Spark核心概念

從上層來看,每個Spark應用都由一個驅動器來發起集羣上的各種並行操作。驅動器程序包含應用的main函數,並且定義了集羣上的分佈式數據集。使用shell訪問spark時,驅動器程序就是spark shell本身。 驅動器程序通過一個Spa

原创 關於什麼是系統架構的一點思考

對於一個軟件或項目,究竟什麼是它的系統架構呢? 系統架構,初看起來,是一個比較高深的概念。最近,我想明白一點,簡單點說,系統架構,其實描述就是軟件不同模塊間的組合關係和調用關係。 我們對軟件的不同模塊直接的組合關係或調用關係,進行迭代和調