人工智慧（AI）已成為網路安全中不可或缺的要素，但大型語言模型（Large Language Models,以下統稱 LLMs）的應用，已開始改變整個網路安全的樣貌。然而，這也帶來了前所未有的挑戰。
一方面，LLMs使處理龐大資訊變得輕而易舉，讓每個人都能充分利用AI。它們能夠提供極大的效率、智慧和擴充性，用於管理漏洞、防止攻擊、處理警報和應對事件。
另一方面，對手亦可利用LLMs提高攻擊效率，利用LLMs引入的額外漏洞，而LLMs的濫用可能會造成更多的網路安全問題，例如由於AI的普遍使用而導致意外的資料洩露。
現在，客戶採用的模型具備了自身的智慧，能夠持續學習，並根據客戶的使用情況進行調整。因此，我們不僅需要在設計階段將安全性納入考量並在部署後需要持續評估和監控LLM系統，確保其安全、防護和道德性。
最重要的是，我們需要在我們的安全系統中內置智慧，這樣它們才能具備適應性，做出正確且堅固的判斷。
2024年的三項預測
網路安全領域越廣泛運用人工智慧，顯然我們正處於新時代的開端。我們對LLMs了解越多，就越能改善我們的安全狀態，我們就越有可能在利用人工智慧方面領先對手。
雖然我認為在網路安全領域有許多值得討論的地方，但有三個重點需要特別注意：
模型
人工智慧模型將在建立深入的領域知識方面獲得重大突破，這些知識根植於網路安全的需求之中。
去年，人們關注改進通用的LLM模型。研究人員努力使模型更加智慧、快速、經濟實惠。然而，通用模型提供的內容與網路安全的需求間存在巨大的差距。
在網路安全中，準確性至關重要。例如，在 Palo Alto Networks ，我們每天從全球各地的SOC處理超過75TB的資料。即使是0.01%的錯誤檢測判定都可能造成災難。我們需要具有豐富安全背景和高精度知識的人工智慧，以提供針對客戶安全需求的客製化服務。換句話說，這些模型需要執行更少的特定任務，但要有更高的準確度。
工程師正努力創建更具垂直行業和特定領域知識的模型，而我對於在2024年出現以網路安全為中心的LLMs充滿信心。
應用案例
在網路安全領域，將出現轉型的LLMs應用案例，這將使LLMs在網路安全中成為不可或缺的一部分。
2024年，我們將意識到並非每個使用情境都是LLMs的最佳適用對象。我們將擁有真正針對特定任務的LLM-enabled網路安全產品，這些任務與LLMs的優勢相輔相成。
人工智慧防護與安全性
除了將人工智慧用於網路安全外，如何建立安全的人工智慧並合理使用，而不損害其智能，是一個重要議題。2024年將會部署真正的解決方案，儘管可能還處於初步階段，但它們朝著正確的方向邁出。此外，還需要建立一個智能的評估框架，動態評估人工智慧系統的安全性。
請記住，LLMs也可以被不法分子利用。例如，駭客可以輕鬆使用LLMs生成數量更大、品質更高的釣魚郵件。他們還可以利用LLMs創建全新的惡意軟體。
人工智慧安全性代表了一個真實的威脅，這是我們必須認真對待的問題，我們必須假設駭客已經開始設計對抗我們防禦措施的攻擊。人工智慧模型已經被廣泛使用，這一事實導致了攻擊面和威脅媒介的大幅擴展。
結論：最好的時代尚未到來
從某種意義上說，像是ChatGPT等通用AI模型的成功，已經在網路安全領域讓我們變得有些嬌生慣養。我們都期望可以建立、測試、部署並不斷改進我們的LLMs，使其更加注重資安，但事實卻提醒我們，網路安全是一個非常獨特、專業且棘手的領域，運用人工智慧也並非易事。為了使其發揮作用，我們需要確保所有四個關鍵方面都正確：數據、工具、模型和使用案例。
好消息是，我們可以接觸到許多聰明、心志堅定的人，他們具有遠見，了解我們為何必須朝更精準的系統邁進，這些系統結合了能力、智能、易用性，也許最重要的是與網路安全的關聯性。
我很幸運能夠在這個領域工作了相當長的時間，我每天都對我在Palo Alto Networks內部以及周圍行業的同事所取得的進步感到興奮和滿足。
回到作為預言者的棘手部分，要對未來有絕對的把握是相當困難的。但我確實知道這兩件事情：
- 2024年將是人工智慧運用於網路安全的非凡之年。
- 2024年與即將到來的未來相比將顯得相形見絀。
如欲瞭解更多資訊，請點擊此。
作者: Palo Alto Networks 物聯網技術長 May Wang 博士
