安全領導者分享他們對生成式 AI 的看法

世界各地的公司都處於競爭環境中

...佈設生成式 AI 技術並取得競爭優勢。然而，如何確定合適的使用案例以及明確自身出發點，是許多企業和技術領導者的一大難題。在本影片中，一起來聽聽三位 AWS 客戶和安全領導者分享他們的公司如何著手採用生成式 AI。

對話的轉寫

包括 People.AI、Trellix 和 Red Canary 的安全領導者

CISO Circle 的參與者是如何看待生成式 AI 的？

Danielle Ruderman (00:03)：
安全和 AI 是非常廣泛的話題，我們發現資安長 (CISO) 們都在關注幾個不同的領域，其中之一顯然是 ChatGPT，即大型語言模型。他們的團隊和程式設計師都想使用這些 AI 功能，因此身為負責組織安全的 CISO，您會制定哪些政策和流程？你對團隊使用這個功能有何看法？

我認為有趣的是，許多 CISO 都希望他們的團隊可以使用這個功能。他們確實看到了這些工具的潛力，所以我們討論了在使用時需要有哪些防護機制，以及如何負責任地使用這些工具。這些討論都非常重要。

Aman Sirohi (00:34)：
我認為我們會很快會面臨 AI 風險。您的公司和客戶面臨何種風險？

據我所知，每一份合約都規定第三方資料不能離開您的環境並進入第三方來源。現在，無論您想使用何種 AI 模型，這些資料都會離開您的環境，轉到第三方來源，然後帶著答案歸來。因此，我認為法律層面的觀點以及客戶和公司承擔風險的方式將會有很大的變化。我認為在此領域會有很多創新。

CISO 如何找到充分利用生成式 AI 的安全方式？

Danielle Ruderman (01:19)：
在 AI 的未來方向方面，我們也看到一些非常有抱負的想法。我們的一些 CISO 認為，這是擴大培育安全領域新人才的絕佳機會。

有時候讓人們取得所需知識，即入行的過程可能會很有挑戰性，但或許這些工具能協助資淺的安全營運 (SOC) 分析師或其他安全人員，真正取得所需工具並更快地提升技能，這將有助於我們的產業培養出更多安全專業人才。

Martin Holste (01:45)：
從商業角度來看，您必須開始使用生成式 AI，否則就會落後於競爭對手。因此，身為 CISO，您必須找到讓您的團隊在安全無虞的情況下保持生產力的方法。

我非常支持在標準業務中盡可能多使用生成式 AI。因此，我們內部進行大量培訓，教員工如何使用各種不同的 AI，好讓他們更有效率。在這方面，我們也設有控制機制，可確保他們不會不小心將內容複製和貼到禁止的地方。

生成式 AI 的好處是否大於安全風險？

Danielle Ruderman (02:14)：
我認為第三個非常有趣的事情是，即使是對資深的安全專業人員，AI 也能有望幫助他們認真應對他們的必做事項。想像一下，如果你正在分析日誌，並且已經學會用某種程式語言寫程式 (比如 Python)，但此刻你必須分析日誌並學習如何編寫 SQL 查詢。其中障礙就是必須學習這些不同的程式語言才能擷取資料。你知道資料在哪裡，但是你必須學習如何用不同的程式碼來擷取資料。試想，如果你只需要告訴 AI 你想做什麼，以及你想擷取哪些資料來分析，而無需學習所有這些不同的深奧編碼模型，那工作會變得有多方便。

這樣的技術具有強大的力量，能夠真正幫助我們加快調查速度。無論是針對資淺還是資深的安全專業人員，該技術都能幫助他們更快地完成工作。