생성형 AI에 대한 생각을 공유하는 보안 리더

전 세계 기업이 생성형 AI 기술을 도입하고

... 경쟁 우위를 확보하기 위해 경쟁하고 있습니다. 그러나 많은 비즈니스 및 기술 리더에게 있어 올바른 사용 사례를 식별하고 어디서부터 시작해야 할지 파악하는 것은 결코 쉽지 않은 일입니다. 이 동영상에서 AWS 고객 3명과 보안 리더 3명으로부터 생성형 AI에 어떻게 접근하고 있는지 들어보세요.

대화의 스크립트

People.AI, Trellix 및 Red Canary의 보안 리더 출연

CISO Circle 참가자들은 생성형 AI에 대해 어떻게 생각할까요?

Danielle Ruderman(00:03):
보안과 AI는 매우 광범위한 주제이지만 CISO가 몇 가지 영역에 관심을 갖고 있다는 것을 알게 되었습니다. 그 중 하나는 유명한 대규모 언어 모델 ChatGPT입니다. 팀도, 코더도 ChatGPT를 사용하기를 원하죠. 그래서 말인데, 조직의 보안을 책임지는 CISO로서 어떤 정책과 절차를 시행 중이신가요? 팀에서 이 기능을 사용하는 것에 대해 어떻게 생각하시나요?

흥미로운 점은 많은 CISO가 팀에서 이 기능을 사용하기를 원한다는 것입니다. 그들은 이러한 도구의 잠재력을 실제로 알고 있습니다. 그래서 우리는 어떤 종류의 가드레일이 필요한지, 책임 있게 사용하는 방법에 대해 이야기합니다. 이는 매우 중요한 논의입니다.

Aman Sirohi(00:34):
AI 위험 관련 문제가 조만간 수면 위로 떠오를 것입니다. 귀사와 고객에게 미치는 이러한 위험 노출은 어느 정도일까요?

제가 알고 있는 한 모든 계약서에는 타사 데이터가 환경을 떠나 타사 소스로 이동할 수 없다고 명시되어 있습니다 이제 어떤 AI 모델을 사용하든 관계없이 데이터는 환경을 떠나 타사 소스로 이동한 다음 다시 돌아와 답을 제공합니다. 따라서 법률이 이 위험을 바라보는 방식, 고객이 위험을 감수하는 방식, 회사가 위험을 감수하는 방식에 많은 변화가 있을 것이라고 생각합니다. 이 분야에는 많은 혁신이 발생할 것이라고 생각합니다.

CISO는 생성형 AI를 안전하게 활용하기 위해 어떤 방법을 찾았을까요?

Danielle Ruderman(01:19):
또한 AI의 미래가 무엇을 의미하는지에 대한 야심 만만한 생각도 볼 수 있습니다. 일부 CISO는 지금이 보안 분야에 새로운 인재 영입 규모를 확장할 수 있는 놀라운 기회라고 생각합니다.

사람들이 필요한 지식을 얻는 것과 같은 진입로가 어렵게 느껴질 수 있습니다. 하지만 이러한 도구는 초보 SOC 분석가나 기타 보안 담당자가 실제로 의지하여 필요한 도구를 얻고 더 빠르게 기술을 개발하는 데 도움이 될 수 있습니다. 이는 업계로서 더 많은 보안 전문가를 양성하는 데 큰 도움이 될 것입니다.

Martin Holste(01:45):
비즈니스 측면에서 보면 생성형 AI 사용은 필수입니다. 그렇지 않으면 뒤처지게 될 것입니다. 따라서 CISO로서, 직원들의 생산성을 높이는 동시에 안전한 방법으로 생산성을 높일 수 있는 방법을 찾아야 합니다.

저는 표준 비즈니스에서 생성형 AI를 최대한 많이 사용하는 것을 강력히 지지합니다. 그래서 저희는 생산성 향상을 위해 다양한 AI를 활용하는 방법에 관해 내부적으로 여러 교육을 실시 중입니다. 이와 더불어, 실수로 무언가를 복사하여 생성형 AI에 붙여 넣는 일이 없도록 하는 통제 시스템도 갖추고 있습니다.

생성형 AI의 이점이 보안 위험보다 더 큰가요?

Danielle Ruderman(02:14):
세 번째로 매우 흥미로웠던 점은 AI가 성숙한 보안 전문가라도 자신이 해야 할 일에 집중하도록 도울 수 있다는 가능성입니다. 로그를 분석하고 Python과 같은 특정 언어로 코딩하는 방법을 배웠는데 이제 로그를 분석하고 SQL 쿼리를 작성하는 방법을 배워야 한다고 상상해 보세요. 추출을 위해서는 이렇게 서로 다른 언어를 배워야 한다는 것은 장벽으로 작용합니다. 데이터가 어디에 있는지 알더라도 다른 코드를 사용하여 데이터를 추출하는 방법을 배워야 합니다. 이런 난해한 코딩 모델을 모두 배울 필요 없이 분석을 위해 무엇을 하고 싶은지, 어떤 데이터를 취합할지 AI에게 알려줄 수 있다고 상상해 보세요.

여기에는 조사 시간을 단축하고 초급 보안 전문가부터 성숙한 전문가에 이르기까지 모든 사람이 작업을 더 빠르게 수행할 수 있도록 도와주는 강력한 기능이 있습니다.

► 팟캐스트 듣기: 보안 팀을 위한 생성형 AI의 가치(및 위협)

Chris Rothe(02:58):
궁극적으로 보안의 가장 큰 문제는 구석까지 살펴볼 사람이 충분하지 않다는 것입니다. 그렇기 때문에 플랫폼과 서비스의 보안을 세밀한 단위부터 큰 단위까지 놓치지 않고 강화하는 측면에서 AWS가 수행하는 작업은 매우 중요합니다.

대체로 말하자면 Red Canary 팀 구성원 모두가 각자의 역할에 맞는 방식으로 생성형 AI를 사용했으면 합니다. 고객과 방금 통화를 잘 마쳤고 후속 이메일을 작성해야 하는 영업 사원이라면, 이 작업을 더 빠르게 처리하고 커뮤니케이션의 질을 향상시키는 데 사용할 수 있을 것입니다. 이전처럼 한 시간이 아닌 5분이면 끝나기 때문에 궁극적으로는 고객이나 여러분 모두에게 좋은 일이기 때문이죠

이렇게 모든 사람이 안전한 방법으로 사용할 수 있도록 만들자는 것이 우리의 접근 방식이었습니다. 하지만 어떤 함정이 숨어있는지, 그리고 그와 관련된 어려움은 무엇인지 배우는 측면에서는 아직 초기 단계라고 생각합니다. 생성형 AI와 관련하여 향후 몇 년 동안 어떤 유형의 법적 문제가 제기될까요?

Showing results: 1-3
Total results: 48
  • 게시 날짜
  • 알파벳순(A~Z)
  • 알파벳순(Z~A)
 검색과 일치하는 결과를 찾을 수 없습니다. 다른 검색어로 검색해 보세요.