原创 scrapy將item 轉存(dump)到 JSON/CSV/XML/PICKLE/MARSHAL 格式文件以及ftp遠程輸出

dump 到 JSON 格式文件: scrapy crawl myspider -o items.json #內容是JSON格式 另外我們還可以每一個item輸出一行JSON,輸出後綴爲jl,爲jsonline的縮寫,命令如下:

原创 Mysql之索引的分類

在瞭解mysql索引的分類之前,要先注意以下幾點: 索引可以加快查詢的速度,但是會影響插入數據的速度。(在插入數據的同時,數據庫會按照索引排序。所以在插入大量的數據時,可以先刪除索引,插入完成以後,再創建索引); 索引的最終目的是爲了使查

原创 appium連接模擬器後之圖像是倒過來的

今天終於配置好了,想要開始操作了,結果是模擬器的圖像是正常的,Appium界面是倒過來的。 然後我各種搞,網上給的解決辦法是把平板改爲手機版   萬事大吉!     如果幫到你的話,幫忙點個贊吧!

原创 個人對爬蟲框架Scrapy的理解

Scrapy是一個爲了爬取網站數據,提取結構性數據而編寫的應用框架,我們只需要實現少量代碼,就能夠快速的抓取的數據內容。Scrapy使用了Twisted一部網絡框架來處理網絡通訊,可以加快我們的下載速度,不用自己去實現異步框架,並且包含了

原创 TCP和UDP協議的簡介以及區別

TCP:傳輸控制協議 這是一個面向連接的傳輸協議,在發送數據之前,要和對方建立可靠的連接。一個TCP連接必須經過三次握手才能建立,經過四次揮手才能斷開。 三次握手:客戶端向服務器發送syn請求建立連接; 服務器向客戶端發送syn以及a

原创 Django和Flask的區別

Django走的是大而全的方向,開發效率高。它的MTV框架,自帶ORM,admin後臺管理,自帶的sqlite數據庫和開發測試用的服務器,給開發者提高了開發效率。重量級的web框架,功能齊全,提供一站式的解決思路,能讓開發者不用在選擇

原创 線程的定義及線程同步

線程:cpu調度執行的最小單位,也叫執行路徑,不能獨立存在,以來進程存在,一個進程至少有一個線程,叫做主線程,而多個線程共享內存(數據共享,共享全局變量),從而極大地提高了程序的運行效率。 線程同步: setDaemon(False)當一

原创 淺談對進程的理解

進程:一個運行的程序(代碼)就是一個進程,沒有運行的代碼叫程序,進程是系統資源分配的最小單位,進程擁有自己獨立的內存空間,所有進程間數據不共享,開銷大。 殭屍進程:進程使用fork創建子進程,如果子進程退出,而父進程沒有調用wait獲

原创 多線程競爭及解決方法

線程是非獨立的,同一個進程裏線程的數據是共享的,當各個線程訪問數據資源時會出現競爭狀態,即:數據幾乎同步會被多個線程佔用,造成數據混亂,即所謂的線程不安全。 解決多線程問題的方法:鎖。 鎖的好處:確保了某段關鍵代碼(共享數據資源)只能

原创 python使用百度AI將文字轉換爲語言

百度API登錄網址https://login.bce.baidu.com/ 進行登錄,沒有的話就註冊 創建應用:把AppID    API Key   Secret Key三個參數的值記住 安裝模塊: 如果已安裝pip,執行pip

原创 使用python發送短信

 首先要找到一個短信平臺,我用的是互億平臺,因爲註冊有免費的10條 首先要下載文檔,記住APIID和APIKEY 打開壓縮包查看文檔 代碼如下: #coding:utf-8 import random import reque

原创 python使用QQ郵箱發送郵件

使用QQ郵箱發郵件比較繁瑣,SMTP密碼是動態的 向下滾動,找到smtp,點擊開啓 發送短信進行驗證 騰訊smtp服務器: smtp:smtp.qq.com 端口:465   代碼如下: # coding:utf -8 imp

原创 pip命令報錯之Fatal error in launcher:

今天構建虛擬環境時報錯,但是爲什麼錯也沒有說 我就嘗試了一下pip命令,發現是同一個錯誤 感覺是不是需要更新一下,然後我就輸入了更新pip命令 python -m pip install --upgrade pip 果然成功了 pip

原创 python使用163郵箱發送郵件

開啓163的smtp服務器(綁定自己的手機) 163郵箱地址:https://mail.163.com/ 記住自己的SMTP服務器    Smtp服務器地址 和 端口 Ssl: smtp.163.com:465 非ssl : smt

原创 Mysql基礎應用

mysql本地登錄 一共三個參數  host : -h 服務器地址(本地地址是localhost)本本機登錄可以忽略                         user :-u 用戶名【一般是root】