原创 使用query參數過濾組合AWS CLI輸出信息

通常在使用CLI進行操作的時候,會輸出很長一串json或表格文本在命令行端。 爲了從這個輸出信息中過濾出需要的信息,可能會用filter命令或者se

原创 使用Device Farm真機測試Android程序

上個月AWS退出的Device Farm服務是可以通過把自己的Android包上傳,在遠端進行真機測試的服務。 這裏測試一下整個流程。 進入Device Farm後,新建一個項目 從豌豆莢下載一個APK包後,上傳到Farm上

原创 使用資源組快速瀏覽跨region資源

在AWS的connsole界面一般資源都是按照region來整理的, 例如在美國啓動的EC2資源,在東京的region的界面下是看不到的。 切換多region也是一個比較費時費力的工作。 我們可以使用 資源組 的功能來快速瀏覽跨區域的資源

原创 8月份S3的3個新功能

日誌記錄 可以對存儲桶開通訪問日誌記錄功能,供日後統計或審計。 一般日誌會在幾個小時後傳輸到目標存儲桶。 S3用量CloudWatch監控 在CloudWatch下多了S3的監控條目,會對存儲桶裏的數據的空間和對象個數進行監控 通

原创 一張表說明AWS數據服務的功能特點

數據是一個公司寶貴的資產。 AWS中也提供了多種數據服務(RDS,DynamoDB,Elasticache,Redshift)供用戶使用。 爲了理解什麼場景應該使用什麼數據服務,下面簡單總結了幾個數據服務的特徵(對應開源或商業組件,存儲特

原创 AWS ARN 學習

在使用CLI操作資源,或使用IAM設定策略時,經常能碰到常常一串帶着冒號的資源名稱。 這個有點像HTTP的資源定位符樣的名稱就是ARN(Amazon Resource Names)。格式 它的格式大致由6

原创 使用AWS Data Pipeline處理數據

Data Pipeline的主角是數據。 AWS上提供了多種服務來存儲、處理數據,S3,EMR,Redshift,RDS,DynamoDB。 Pipeline就是幫用戶在這麼多種數據源上進行處理。 下面通過簡單製作一個pipeline把S

原创 EC2免pem用密碼登陸

原理 EC2在初始化實例時,會運行cloud-init腳本一次。 我們可以在cloud-init腳本中修改登陸的安全設置PasswordAuthentication 默認PasswordAuthentication是no 操作 在設置實例

原创 PEM文件登錄EC2時的異常的解決方式

登錄EC2會使用ssh -i <pem flie> ec2-user@<EC2 Public DNS>來登錄。這裏列舉了2個可能碰到的問題,及解決方案PEM文件權限問題 鍵入ssh命令後,顯示錯誤如下@@

原创 快照與AMI的區別

快照 把EBS上的數據拷貝到S3上進行保存的稱爲快照(Snapshot)。 在快照中並不包含用於管理實例的信息。既可以使用快照生成一個EBS卷, 也可以使用快照生成AMI(http://docs.aws.amazon.com/zh_cn/

原创 老版本AMI的根EBS大小問題

老版本的AMI在創建時,會出現根EBS只能使用8G的情況。 一般通過替換使用新版本的AMI可以解決。 新版本的AMI 啓動時設置20GB,使用df命令,可見20GB 創建EC2實例 aws ec2 run-instances --im

原创 使用CLI獲取EBS的總使用大小

隨着服務器的增多,EBS的使用量也在逐漸增長。 如何快速獲取EBS的用量,可以使用如下腳本 aws ec2 describe-volumes --query 'Volumes[].[VolumeType,Size]' --output

原创 試用AWS RDS的還原到時間點功能

RDS提供了數據庫快照功能。 那從快照恢復RDS數據庫時會發生什麼事呢? 數據庫大小 5GB 1. 拍攝快照 在拍攝快照過程中不斷運行 create database testxx; 命令,來作時間戳,後面看能恢復到哪一步 2. 還原到

原创 使用CLI操作S3的sync命令

在使用CLI操作S3文件時,不僅有普通的cp,mv等命令,還有類似linux下的rsync的sync命令來幫助同步文件。 命令格式 大致的命令格式如下: aws s3 sync 本地目錄 S3目錄 aws s3 sync S3目錄 本地

原创 使用CloudWatch Logs 收集應用程序日誌

CloudWatch不光可以當做數據監控平臺,還能收集日誌,爲後續自定義報警做準備 安裝CloudWatch Logs Daemon yum install -y awslogs 安裝發送日誌的的代理 wget https://s3.a