8月2日訊 在本屆DEF CON黑客大會上，專家們展示瞭如何利用一套機器學習系統（OpenAI GYM）創建出能夠規避檢測的惡意軟件。
我們已經多次討論關於人工智能（簡稱AI）對威脅前景的影響。從防禦角度來看，這類新型技術方案能夠提前檢測與威脅相關的惡意模式；但從進攻的角度來看，機器學習工具亦可被用於創建定製化惡意軟件，從而突破現有反病毒軟件的防線。
本屆DEF CON黑客大會上，安全廠商Endgame公司數據科學技術主管哈拉姆·安德森演示瞭如何利用一套機器學習系統創建出能夠有效規避安全解決方案檢測的惡意代碼。
安德森對埃隆·馬斯克的OpenAI框架進行調整以創建惡意軟件。其原理非常簡單，只需要對該系統稍加調整，即可生成看似合法的惡意代碼。
這套只需要幾處修改即可避開反病毒引擎檢測的系統被專家們命名爲OpenAI Gym。
安德森解釋稱，“一切機器學習模型皆存在盲點。根據黑客自身的實際知識水平，其完全能夠對這些盲點加以利用。”他和他的團隊創建出一套系統，能夠以對合法代碼進行小幅修復，並將其提交至安全檢查器。通過對安全檢查器的響應分析結果進行查詢，研究人員即可進一步小幅調整，從而提升惡意軟件規避檢測的能力。
批量生產惡意軟件或成現實
專家們開發出的這套機器學習系統在15個小時的訓練當中利用某款安全引擎對超過10萬種惡意軟件樣本進行掃描，最終結果令人擔憂：16%的惡意軟件樣本順利通過了安全系統的防禦掃描。
安德森和他的團隊已經將OpenAI Gy的代碼發佈至GitHub之上，感興趣的朋友可以點擊此處查看。
根據GitHub上的工具包發佈描述所言，“這是一套面向OpenAI Gym的惡意軟件修改環境。OpenAI Gym屬於一款用於開發以及比較強化學習算法的工具包。使用者能夠藉此編寫出有能力學習如何修改PE文件（例如惡意軟件）的代理，並根據特定修改操作帶來的反饋實現特定目標（例如迴避反病毒工具檢測）。”
安德森鼓勵各位安全專家體驗OpenAI Gym並對其進行改進。