原创 [數據處理]轉換json到DataFrame

爲了節約時間,避免下載yelp數據集花太久,直接在kaggle的yelp數據集中使用kernal,結果在讀取json格式的數據到DataFrame中卡了半天,一讀取就內存爆炸。 read()和readlines()一旦出現就爆炸。

原创 [Part 1][summary] Data

1.例如一次針對SSH的密碼猜解攻擊,受害者的SSH logfile 會記錄下攻擊發生的充足證據,但是並不都能得知攻擊者的其他行爲(如是否成功建立起了長期的session),然而通過網絡流量分析雖然不能讓我們重建session,但

原创 [Part 1][CHAPTER 2] Understanding Sensor Placement in Networks

The Basic of Network Layering 又重複了一遍網絡分層模型,不再贅述,即OSI 7層模型以及TCP/IP 4層模型,其中有一段有趣的討論,記錄如下。 爲什麼network sensor不能監控一切呢?這也

原创 [文獻閱讀筆記Forensic-Aware Anti-DDoS Device 2018 IEEE SPW

因爲這篇paper看完之後需要分享給別人,所以做好了ppt,此處直接上傳ppt保存 備忘關鍵詞:Bloom filter(mult-time),Traffic replay,Entropy of features,storage

原创 Python,由一個IP地址我們能得到多少信息?

在這裏介紹一個信息嗅探的小工具,有時間的話會對工具繼續更新 代碼地址:https://github.com/sunxueliang96/IP_tracker IP_tracker 只從一個IP地址出發,得到儘可能多的信息. 運行環

原创 [數值微分]數值微分的誤差分析

上篇文章中提到不知道時間間隔deltaT的微分形式是如何計算出來的,多方查找找到了答案,如下記錄。 對於離散數據求微分,不能直接使用求導公式來計算,需要利用數值方法中的知識。即數值微分(可參考《數值方法》[美]安妮·戈林鮑姆等)。

原创 [文獻閱讀筆記] Assessing the Effectiveness of Domain Blacklisting Against Malicious DNS Registrations

提升了大範圍活動的理解 區分激活和隱藏的活動 對某個活動的行爲模式分析 大多數的惡意註冊由少數人引發 一個重複的信息往往註冊很多域名 安全研究嚴重以來blocklist 屬於某個活動(藍色)和非活動(紅色)的每日註冊比

原创 [文獻閱讀筆記]Machine Learning DDoS Detection for Consumer Internet of Things Devices 2018 IEEE SPW

[文獻閱讀筆記]Machine Learning DDoS Detection for Consumer Internet of Things Devices 2018 IEEE SPW 1.INTORDUCTION2.BACKG

原创 [Part 1][CHAPTER 1] Organizing Data:Vantage,Domain,Action,and Validity

1.sensors 在此書中指的是一切能爲安全數據分析提供數據的對象,可以是任何東西 2.安全數據分析永遠離不開可靠的數據來源,磨刀不誤砍柴工,多花時間在數據源的收集上會爲後面工作節省大量時間 3.數據的質量是一個折中的感念,是相

原创 粒子羣(PSO)算法的實現

粒子羣算法還是很有意思的 描述 粒子羣優化算法(PSO) 是由James Kennedy (肯尼迪)博士和R.C. Eberhart 博士於1995 年提出的。該算法源於對鳥羣、魚羣覓食行爲的模擬。 在PSO 中,首先初始化一羣

原创 DNS安全,DNS over HTTPS or DNS over TLS

近期準備了一個關於DNS研究的小課題,上傳一部分ppt上來用於保留,有時間的話會補充一些文字描述上來 考慮URL在我們一次訪問中,會在網絡中明文出現四次。 DNS一次解析的過程追蹤 HTTPS(TLS)握手的過程抓包,以及

原创 一種多尺度協同變異的粒子羣優化算法的實現

1.問題描述 粒子羣優化算法是基於羣體的演化算法, 其思想來源於人工生命和演化計算理論。Reynolds 對鳥羣飛行的研究發現, 鳥僅僅是追蹤它有限數量的鄰居, 但最終的整體結果是整個鳥羣好像在一箇中心的控制之下, 即複雜的全局行