本文擷取自iThome
Sophos 是創新和提供網路安全即服務的全球領導者，今天發布一份網路安全業界如何利用 GPT-3 (即眾所周知的 ChatGPT 架構背後的語言模型) 當作輔助來協助擊敗攻擊者的最新研究。最新報告「適用於你我的 GPT：在網路防禦中使用 AI 語言處理」詳細介紹了 Sophos X-Ops 開發的幾個專案，他們使用 GPT-3 的大型語言模型簡化在安全軟體的資料集中搜尋惡意活動，更準確地過濾垃圾郵件，並加快了對「就地取材」(LOLBin) 攻擊的分析。
Sophos 首席威脅研究員 Sean Gallagher 表示：「自從 OpenAI 在去年 11 月推出 ChatGPT 以來，安全社群關注重點都是在這項新技術是否會帶來潛在的風險。人工智慧能否幫助潛在的攻擊者編寫惡意軟體，或是幫網路犯罪分子寫出更具說服力的網路釣魚電子郵件？或許是吧，但是 Sophos 長期以來一直將 AI 視為防禦人員的盟友，而不是敵人，我們將 AI 視為 Sophos 的基礎技術，就連 GPT-3 也不例外。安全社群不僅應該注意潛在風險，還應該關心 GPT-3 帶來的無窮機會。」
Sophos X-Ops 研究人員，包括 SophosAI 首席資料科學家 Younghoo Lee 等，一直致力於三個原型專案，用於展示將 GPT-3 當作網路安全防禦人員助手的潛力。這三者都使用一種稱為「小樣本學習」的技術，只用少量資料樣本來訓練 AI 模型，減少必須收集大量預分類資料的需要。
Sophos 使用少樣本學習方法測試的第一個應用是自然語言查詢介面，用於篩選安全軟體遙測中的惡意活動，特別是在 Sophos 旗下端點偵測和回應產品中測試了這個模型。透過這個介面，防禦人員可以使用基本的英文命令過濾遙測數據，而無需了解 SQL 或資料庫的底層結構。
接下來，Sophos 使用 ChatGPT 測試了一個新的垃圾郵件篩選器，並發現與其他用於垃圾郵件篩選的機器學習模型相比，使用 GPT-3 的篩選器明顯更準確。最後，Sophos 研究人員開發了一個程式來簡化對 LOLBins 命令列進行逆向工程的程序。這種逆向工程是出了名的困難，但對於理解 LOLBins 的行為以及在未來如何阻止此類攻擊非常重要。
Gallagher 補充說：「安全營運中心越來越關注的問題之一是傳入的『雜訊』太多。需要整理的通知和偵測結果太多，但許多公司卻都只有有限的資源。我們已經證明，透過 GPT-3 之類的技術，我們可以簡化某些勞力密集型的程序，將寶貴的時間歸還給防禦人員。我們已經將上述一些原型整合到我們的產品中，並且在 GitHub 上為那些有興趣在自己的分析環境中測試 GPT-3 的人提供了我們的研究成果。未來，我們相信 GPT-3 很可能成為安全專家的標準副駕駛。」
到 Sophos.com 取得「適用於你我的 GPT：在網路防禦中使用 AI 語言處理」報告，了解更多 GPT-3 將如何協助防禦人員的詳細資訊。