이 노변 담화에는 AWS의 Tom Godden이 Invisible Technologies CEO인 Matt Fitzpatrick(QuantumBlack, AI by McKinsey의 전 Senior Partner)과 함께 합니다. Fitzpatrick은 주요 엔터프라이즈 AI 이니셔티브를 이끈 경험을 바탕으로, AI 모델 중 8%만이 성공을 거두는 이유를 밝히고 조직에서 AI를 확장하기 위한 실용적인 전략을 소개합니다. 이 토론에 참여하여 효과적인 AI 비즈니스 사례 구축부터 조직 변화 관리, 미래의 AI 세계를 위한 인력의 역량 강화에 이르기까지, 저희 전문가들로부터 전사적 AI 도입의 실태에 대한 유용한 정보를 들어보세요. AI 시대에 성공을 거둘 수 있도록 회사를 포지셔닝하는 방법을 알아보세요.
Tom Godden:
안녕하세요. AWS에서 제공하는 Executive Insights 팟캐스트를 시작하겠습니다. 저는 Tom Godden이라 하고, AWS에서 Enterprise Strategy Director로 근무하고 있습니다. 오늘 이 시간은 Matt Fitzpatrick과 함께하겠습니다.
Matt, 오늘 함께 해주셔서 감사합니다.
Matt Fitzpatrick:
불러 주셔서 감사합니다.
Tom Godden:
감사합니다. 간단히 자기 소개를 해주겠어요? McKinsey에서의 직무에 대해 조금 더 설명해 주시고 Quantum Black Labs에 대해서도 이야기해 주세요. 그나저나 이 이름이 무척 마음에 드네요.
Matt Fitzpatrick:
McKinsey Engineering을 넓게 보면 수천 명의 엔지니어들이 고객 사이트에서 모델을 구축하며 기술을 개발 중인 회사이고, Quantum Black Labs는 이러한 모든 작업을 지원하는 기술 개발 조직이라고 볼 수 있습니다.
유지 모델이든, 추천 엔진이든, 모델을 기반으로 결정을 이끌어내는 소프트웨어 인터페이스의 범주에 속하는 것이라면 무엇이든 개발합니다. 생성형 AI 분야에서는 채팅 봇과 같은 것들이 있을 수 있겠군요. Quantum Black 팀은 이런 것들을 개발하는 일을 합니다.
그리고 Quantum Black Labs는 현장에 배치된 엔지니어들을 지원하는 모든 도구와 제품의 개발을 담당합니다.
Tom Godden:
지금 McKinsey에서는 AI와 관련해 수많은 프로젝트가 진행되고 있습니다. 저희 고객들은 항상 이러한 인사이트로부터 많은 혜택을 얻습니다. 저는 인사이트를 얻기 위해 McKinsey를 많이 팔로우합니다. AI 분야에서 지금 가장 중요한 프로젝트를 꼽자면 어떤 게 있을까요?
Matt Fitzpatrick:
지난 2년은 정말 흥미로웠던 것 같습니다. 분명히 AI는 많은 사람들에게 중요한 화두가 되었습니다. 요즘은 모든 신문의 1면을 장식할 정도로 AI가 가장 큰 이슈입니다.
Tom Godden:
요즘 인기 스타가 되었죠.
Matt Fitzpatrick:
하지만 현실은 사람들이 예상했던 것보다 더 어려웠다고 생각합니다. 많은 사람들이 새로운 ERP 시스템을 설치하면 바로 작동하는 소프트웨어처럼 AI도 그렇게 쉽게 작동할 거라고 기대했던 것 같습니다. 사실 많은 실험과 문제 해결 과정을 거쳐야 하는데 말이죠.
Tom Godden:
훈련 말씀이군요.
Matt Fitzpatrick:
훈련 말씀이군요. 기존에 주로 소프트웨어만 사용하고 간간이 모델링을 해왔던 전통적인 비기술 조직들이 기술 개발 중심 조직으로 전환하려는 시도가 줄을 잇고 있습니다. 이건 완전히 다른 의미를 갖습니다. 25년 전에는 아무도 자체 메인프레임으로 맞춤형 소프트웨어를 만들려고 하지 않았습니다. 너무 어려운 일이었으니까요. 하지만 이 맥락에서 다양한 기술들을 조합해 활용하는 것, 예를 들어 생성형 AI 모델을 활용하는 것을 생각해본다면, 이는 지금까지 실제로 무언가를 직접 구축해본 적 없는 대부분의 Fortune 5000대 기업들에게는 매우 낯선 프로세스일 겁니다. 데이터를 보면 요즘 개발되는 모델 중 약 92%는 실제 프로덕션 단계까지 가지 못합니다.
Tom Godden:
정말인가요?
Matt Fitzpatrick:
현재 구축되고 있는 모델의 약 8%만 사용되는 거죠. 그리고 그게 대부분의 전통적인 기업들에게는 어려운 조정 과정이었을 거라고 생각합니다.
Tom Godden:
그럼 그 부분에 대해 좀 더 자세히 이야기해볼까요? 어떤 장애물이 있을까요? 사람들이 그 비율을 8%에서 80%로 바꾸지 못하게 하는 요인은 무엇인가요?
Matt Fitzpatrick:
몇 가지 장애물이 있습니다. 가장 두드러진 것은 생성형 AI와 관련한 할루시네이션이라고 생각합니다. 기계 학습은 조금 더 쉬운 편입니다. ‘여기 종속 변수와 요구되는 정확도 수준이 있어’라고 말할 수 있고, 쉽게 익숙해질 수 있습니다. 생성형 AI의 경우, 예를 들어 사람들이 어떤 종류의 커피를 주문할지에 대해 대화를 나누는 챗봇 모델을 만든다고 가정할 때, 명확한 정의가 없는 모델을 구축하는 것은 좀 더 복잡할 수 있습니다. 좋은 결과가 무엇인지 정의하기는 사실 꽤 어렵습니다.
Tom Godden:
그렇군요. 언뜻 생각하기에는 쉬울 것 같은데요.
Matt Fitzpatrick:
그래서 많은 조직이 수많은 파일럿을 진행하고 있지만, ‘이것은 프로덕션에 적용할 수 있다, 이건 작동한다’는 기준을 확실히 정하지 못하는 경우가 많습니다. 그래서 저는 ‘내가 측정할 KPI는 이것이고, 여기에 한계를 두고 테스트를 진행해서 내가 위험이 없다고 확신할 수 있을 때까지 검증하겠다’는 정의가 중요하다고 생각합니다. 그게 가장 큰 문제였다고 생각합니다. 그리고 그것과 관련하여, 조직들이 꽤나 창피한 일을 한 채팅 봇을 공개했을 때, 몇 가지 이목을 집중시킨 문제를 본 적이 있죠. 그래서 저는 그게 지금까지 단연 가장 큰 문제라고 생각합니다.
Tom Godden:
저는 사람들이 그에 대해 걱정하는 것이 당연하긴 하지만, 좀 과민반응하고 있다고 생각합니다. 당연하게도, 소셜 미디어나 Wall Street Journal의 1면을 장식하는 그런 회사가 되고 싶어하지는 않기 때문입니다.
Matt Fitzpatrick:
전적으로 동의합니다. 그런데 흥미로운 점은 위험이 잘 관리되고 있음을 확신할 수 있도록 이를 구현할 수 있는 방법들이 있다는 것입니다. 이는 편향이나 유해성 문제와 관련해 부적절한 결과에 대한 가드레일을 설정하는 것을 의미합니다. 가드레일을 설정하고 ‘내가 원하는 결과는 이 범위의 추천이다’라고 입력할 수 있습니다. 또는 제품 구매나 가격 제안과 같은 추천을 해야 할 때, 이를 실제로 매우 감사 가능하고 명확하며 투명한 기계 학습 모델로 관리할 수 있고 그런 다음 LLM, 즉 대규모 언어 모델이 이를 둘러싼 대화형 래퍼 역할을 할 수 있습니다.
이런 종류의 패러다임에서는 위험이 거의 없습니다. 무엇을 추천할지 알고 있고, 특별히 문제가 될 말을 하지 않도록 주변에 가드레일을 설정할 수 있다는 것도 아니까요. 하지만 다시 말씀드리지만, 이는 그런 시스템을 한 번도 구축해본 적이 없는 조직의 경우에 비추어 이야기하는 것입니다. 그래서 학습하는 과정이 어려웠다고 생각합니다.
또 다른 요소는 ‘테스트 및 학습’에 익숙해지려면 많은 조직 변화가 요구된다는 것입니다. 이게 또 다른 어려운 부분입니다. 기술을 구축하는 대부분의 조직은 6개월 후에 그 기술이 어떻게 작동하는지 확실히 알 수 있는 상태에 도달하고 싶어합니다.
Tom Godden:
이는 피드로 제공되는 데이터와 상호 작용 방식에 따라 살아있는 유기체처럼 계속해서 진화하고 변화할 것이라는 점에서 독특합니다. 그리고 제 생각에 그런 사고방식이 많은 사람들에게 너무 낯설다는 점을 지적하신 것 같습니다. 그럴 만도 하죠. 이해할 만 하지만, 그런 변화에 조금 겁을 먹고 어디로 가야할지 몰라 당황하게 되는 겁니다.
Matt Fitzpatrick:
전적으로 동의합니다. 기본 통계 모델처럼 작동하는 소프트웨어 또는 예측 가능성이 높은 모델이라는 패러다임으로 운영하다가, 갑자기 테스트하고 학습하는 패러다임으로 전환해야 한다면 쉽지 않을 것이라고 생각합니다.
Tom Godden:
정말 당황스럽겠죠.
Matt Fitzpatrick:
예를 들어 Salesforce 담당자나 고객 센터 담당자 등 최일선에 있는 사람을 지원하는 무언가에 대해 생각해 보세요. 그리고 그 사람이 당장 완벽하지 않을 수도 있는 것에 대해 결정을 내려야 하는 상황도 떠올려 보세요. 다시 말하지만, 그건 어렵습니다. 흥미로운 점은 그 변화에 익숙해지면 제대로 된 교육과 테스트를 거친 후 라이브로 배포할 경우 정말 좋은 결과를 얻을 수 있다는 것입니다. 하지만 대부분의 조직은 그런 능력이 부족하죠.
Tom Godden:
좀 더 질문을 드리겠습니다. 몇 가지 과제에 대해 이야기했는데, 이에 대해서도 나중에 더 이야기하겠지만, 우선 기회에 대해 이야기해 보겠습니다. 기업들이 집중하면서 진행 중인 일은 무엇이 있나요? 흥미로운 점은 무엇일까요? 그리고 또 하나, 쉽게 해결할 수 있는 부분은 무엇인가요? 우리는 승리를 원하는데. 승리란 무엇일까요?
Matt Fitzpatrick:
5~10년 후에 돌아보면, 처음 2년은 사람들이 예상했던 것보다 훨씬 더 어려웠지만, 10년 후의 변화는 많은 면에서 사람들이 예상하는 것보다 훨씬 더 클 것이라고 말하게 될 것 같습니다. 제 생각엔 코딩과 소프트웨어 개발 같은 몇 가지 다른 측면을 살펴보자면...
Tom Godden:
정말 좋은 사용 사례입니다.
Matt Fitzpatrick:
생각해 보면, 5년 전, 8년 전에는 회사를 설립하고 앱을 만들려면 웹 페이지를 만들어줄 사람을 찾아야 했는데, 사실 찾기가 쉽지 않았습니다. 텍스트를 HTML로, 텍스트를 SQL로 변환한다는 개념은 새롭게 개발되는 기술에 대한 접근을 획기적으로 민주화할 것입니다.
저는 그것이 사회에, 회사를 설립하고자 하는 모든 사람들에게 정말 긍정적인 변화가 될 것이라고 생각합니다. 그리고 엔지니어는 훨씬 더 효과적으로 작업하게 될 것입니다. 이미 많은 엔지니어들이 개발 과정에서 생성형 AI를 많이 사용하고 있습니다. 검색해야 하는 코드 리포지토리보다 여러 면에서 더 효율적입니다. 우리는 이미 소프트웨어 개발 개선 과정의 중반에 들어서고 있다고 생각합니다. 하지만 그 부분이 앞으로 몇 년 동안 가장 큰 영향을 미칠 분야가 될 가능성이 크다고 생각합니다.
Tom Godden:
제가 좋아하는 점 중 하나는 그것이 가져다줄 즉각적인 가치뿐만 아니라, 개발자들의 사고를 자극한다는 점입니다. 개발자들은 생성형 AI를 코딩 어시스턴트로 사용하면서 "이걸 고객 서비스에도 이런 방식으로 사용할 수 있지 않을까?"라고 생각하기 시작합니다. 이는 AI가 사람을 대체하는 것이 아니라 보조한다는 것을 보여줍니다. 그래서 이 모든 것들을 구현하면 코딩의 이점과 가치를 얻을 수 있다고 생각합니다. "바로 이거야, 가자!"라고 말하게 되겠죠.
Matt Fitzpatrick:
100% 맞는 말씀입니다. 또한 전 세계에 존재하는 수조 개의 레거시 소프트웨어에 대해서도 생각해 보세요. 그리고 오래된 레거시 코드 베이스를 기반으로 작성된 지 20년이 된 오래된 시스템을 가지고 있다면, 이러한 조직이 당면할 어려움에 대해 생각해 보세요.
Tom Godden:
이 버전의 .Net에서 다음 버전으로 업그레이드할 수 있나요?
Matt Fitzpatrick:
고객에게는 끔찍한 경험이 될 겁니다. 직원들에게도 끔찍한 경험이 될 테고요. 상상해 보세요.
Tom Godden:
그리고 그것은 차별화 요소가 아닙니다. 진짜 중요한 부분으로 넘어가기 위해 해야 할 일일 뿐이죠.
Matt Fitzpatrick:
그리고 사실, 디지털 시대를 생각해보면 많은 기업들이 그런 단계로 넘어가지 못한 이유가 바로 이러한 거대한 레거시 코드 베이스들 때문이라고 생각합니다.
여러분이 그런 레거시 시스템을 더 효율적으로 현대화하고 조직이 더 디지털 최우선 조직으로 발전하도록 할 수 있다면, 구식 기업들이 기술 회사처럼 느껴지게 만드는 데 큰 영향을 미칠 것이라고 생각합니다. 저는 이것이 기업의 운영 방식에 있어 긍정적인 방향의 실질적인 변화가 될 것이라고 생각합니다. 30년 된 시스템을 가지고 비즈니스를 운영하려고 하는 사람이라면, 그런 시스템을 리팩터링하는 것이 얼마나 고통스러운 과정인지 잘 알 것입니다.
제가 생각하는 또 다른 중요한 분야는 고객 경험입니다. 고객 지원, 고객 센터, 아웃바운드 이메일, 아웃바운드 문자 등과 관련한 모든 것들이죠. 지금으로서는 상당히 고통스러운 프로세스입니다.
고객 센터의 경험을 예로 들자면, 대부분 고객 센터의 MPS 점수가 그다지 좋지 않다는 것을 알 수 있습니다. 대부분의 사람들은 25분이나 기다려야 하는 경험을 달가워하지 않습니다. 청구나 서비스에 대해서만 이야기할 수 있는 정해진 방향의 흐름이 아니라, 문제를 해결하기 위한 대화를 나누는 세상을 상상해 보세요. 다시 말씀드리지만, 고객 센터에서 대기하는 시간이 크게 줄어들 것입니다.
그리고 고객에게 연락하여 대화를 나눌 수 있게 되면 정말 큰 변화가 나타날 것입니다. 지금은 기업에서 보내는 아웃바운드 이메일이 대부분 이벤트에 관한 양식 메일입니다. 하지만 상대방의 계정 정보를 인식하여 아웃바운드 이메일을 보낸다면 맞춤형 오퍼를 제공할 수 있게 됩니다. 이건 정말 중요한 요소입니다.
제가 정말 중요하다고 생각하는 또 다른 요소는 제가 지식 관리라고 부르는 것입니다. 예를 들어 청구 처리 업체나 자동차 수리 업체와 같이 방대한 데이터를 보유한 조직을 생각해 보세요. 그런데 그 데이터의 대부분이 체계화되거나 구조화되지 않은 채로 분산되어 있습니다. 그래서 많은 경우, 어떤 일을 할 때마다 매번 같은 작업을 반복해야 됩니다. 게다가 제도적인 기억도 없습니다. 저는 그것이 많은 관심을 받고 있는 부분이고, 매우 혁신적인 효과를 불러올 것이라고 생각합니다.
Tom Godden:
AWS 웹 사이트에는 엘리베이터, 에스컬레이터 등의 회사와 관련한 좋은 예가 있습니다. 이들은 AWS를 기반으로 훌륭한 AI 솔루션을 구축했기에 지금까지 이어진 모든 서비스 기록을 되돌아볼 수 있습니다. 이를 바탕으로, 에스컬레이터나 엘리베이터를 수리할 때 매번 같은 작업을 반복하는 대신, 왜 모든 서비스 통화의 기록을 되짚으면서 문제를 해결할 방법을 찾을 수 있을 것입니다. 이는 단지 하나의 예일 뿐이며, 다른 사용 사례가 무수히 많다고 생각합니다.
Matt Fitzpatrick:
서비스 통화가 가장 좋은 예 중 하나라고 생각합니다. 거의 모든 조직이 서비스 통화를 처리하는 방식에 대해 생각해 보면, 정말 정교한 고객 센터 시스템이 없는 한 개인이 결정을 내리고 평가를 하게 되는데 그 평가가 맞을 수도 있고 아닐 수도 있으며 그 후에는 그 정보가 어떤 식으로도 저장되거나 활용되지 않습니다. 그래서 우리는 사회적으로, 서비스의 어느 지점에서든 잘못된 진단이 발생할 때 더 큰 고통을 겪게 됩니다. 저는 이 또한 매우 긍정적인 일이 될 것이라고 생각합니다.
Tom Godden:
2023년과 2024년에는 생성형 AI에 대한 뜨거운 관심과 함께 약간의 과대 광고도 경험한 것 같습니다. AWS는 앞으로 언젠가 거의 모든 애플리케이션이 AI, 생성형 AI로 보강될 것이라 확신하고 있다고 생각합니다. 이러한 배경을 고려할 때, 우리는 리더들이 생성형 AI의 비즈니스 사례를 제시할 때 과장하지 않도록 어떻게 도울 수 있을까요? 고객이 올바른 가치를 찾을 수 있도록 말이죠. 이와 관련해 사람들에게 어떤 방향으로 나아가라고 조언하시겠습니까?
Matt Fitzpatrick:
이는 현재 8%만 제대로 하고 있는 이유와 어느 정도 관련이 있습니다. 성공의 불확실성은 비즈니스 사례 개발 프로세스의 까다로운 부분이라고 생각합니다. 제 말은, 비용 처리와 같은 프로세스를 실행하기 위해 새로운 소프트웨어 시스템을 설치하려는 경우를 예로 들어 보겠습니다. 이 경우 비즈니스 사례를 구축하면 어떤 워크플로를 수행할지 정확히 알 수 있어 신뢰도가 매우 높아집니다. 따라서 비즈니스 사례를 매우 간단하게 구축할 수 있습니다. 하지만 여러분의 비즈니스 사례가 조직 내에서 활용할 수 있는 12가지 다른 요소에 좌우된다고 가정해 보세요.
Tom Godden:
N을 구하는 문제군요.
Matt Fitzpatrick:
그 중 다섯 가지는 효과가 있고 일곱 가지는 효과가 없을 수 있는 상황이죠. 사실 비즈니스 사례 개발 방식을 좀 더 벤처 캐피탈처럼 바꿔야 한다고 생각합니다. 그렇다고 해서 10개 중 1개만 효과가 있다는 의미는 아니라고 생각합니다. 제 생각에는 10, 12, 14가지 다른 것들을 시도하면서 실험하는 데 익숙해져야 한다는 뜻이라고 생각합니다. 시간이 지나면 첫 번째 배치에서 효과적인 다섯 가지를 얻게 될 것입니다. 그리고 다음 배치에서는 효과가 있는 10가지를 얻게 됩니다. 또한 각각을 개발하는 데 막대한 금액을 투자하지 않아도 됩니다.
지식 관리를 예로 들어 보겠습니다. 서비스 통화에 사용하는 동일한 데이터를 예로 들면, 그것을 고객 센터에서도 사용할 수 있고, 통화가 어떻게 진행되었는지에 대한 문서를 생성하는 데에도 사용할 수 있을 것입니다. 따라서 결국에는 효과적인 하나의 사용 사례에 연결된 5, 6, 7개의 사용 사례가 생길 것입니다.
Tom Godden:
마음에 듭니다. 그리고 저는 항상 사람들에게 문서 요약 사용 사례가 작동하게 만든 후에는 HR, 재무 등 다른 분야에서도 활용해 보라고 조언합니다. 모델을 약간 수정하고 훈련을 거쳐야 하겠지만, 80% 또는 90%는 완성된 셈입니다.
Matt Fitzpatrick:
이것이 비즈니스 사례에서 어려운 부분이었습니다. 2년이 걸리고 하나의 단일 비즈니스 사례로 끝나는 그런 패러다임을 따르는 것이 아닙니다. 실제로는 ‘이 사용 사례에는 네 가지 다른 데이터 구성 요소가 필요하다’는 패러다임에 더 가깝습니다. 이러한 데이터 구성 요소는 모두 모듈식이므로, 다른 네 가지 사용 사례에도 사용할 수 있습니다. 제게 있어서 비즈니스 사례 개발은 '충분한 기능을 구축하고 반복적으로 유용하게 사용할 수 있을 것이기 때문에 착수할 만한 타당성이 있고, 따라서 가치가 있는 것인가?’라는 질문의 답을 구하는 것입니다. 그리고 장기적으로, 3년, 5년 단위로 보면 투자 금액을 배수로 늘리게 될 것입니다. 첫 번째에서 바로 비즈니스 사례가 확보되지 않을 수도 있습니다.
Tom Godden:
그럼 Matt, 제가 CIO라고 가정해 보겠습니다. 실제로 CIO 출신이라 그렇게 상상하는 게 어려운 일은 아니죠. 그런 상황에서 저는 아주 독특하고 나만을 위한 맞춤형 제품을 원하지만, 동시에 비용도 저렴해야 한다고 생각할 겁니다. 항상 그런 패러다임이 아니겠어요? McKinsey의 경우에는 어떤가요? 사람들에게 구축 vs. 구매 문제에 대해 어떻게 조언하시나요? 구축하면 맞춤화할 수 있습니다. 그렇지만 비용은 훨씬 더 많이 듭니다. 구매하면 이론적으로 저렴하지만 맞춤화할 수 있는 여지가 적습니다. CIO로서 저는 이 두 가지 옵션 사이에서 결정을 못 내리고 있습니다. 저를 위해 어떤 조언을 해주시겠어요?
Matt Fitzpatrick:
아시다시피, 사실 기술 조직이 생각하는 '구축 vs. 구매'의 정의는 상당히 왜곡되어 있다고 생각합니다. 좀 더 자세히 설명하자면, 10년 전에는 '구축 vs. 구매'의 정의가 이랬습니다. 구매는 기성 제품을 하나 가져와서 바로 가동하고, 정해진 비용을 지불하는 것을 의미했습니다. 반면 구축이란, 구축을 하려면 말 그대로 메인프레임 컴퓨터를 설치해야 했습니다. 코드를 대부분 처음부터 새로 작성해야 하죠. 15년 전 이야기일지도 모르겠네요.
Tom Godden:
하나부터 열까지 다 구축하는 거군요.
Matt Fitzpatrick:
정말로 처음부터 새로 다 만들어야 했고 엄청난 투자를 해야 했습니다.
Tom Godden:
반가운 말씀이네요. AWS의 전략이기도 하니까요. 획일적인 작업의 부담을 더는 데 도움이 되죠.
Matt Fitzpatrick:
특정 기술 공급업체가 아닌 좀 더넓은 관점에서 보면 오늘날 ‘구축’이란 클라우드 인스턴스를 가동한다는 의미입니다. 다양한 모듈식 구성 요소를 사용합니다. GitHub 코드, 정보가 있는 코드 리포지토리를 가져옵니다. 6~7개의 다양한 기성 구성 요소를 사용합니다. 그 덕분에 10년 전보다 훨씬 적은 비용으로 정말 유용하고 조직에 적합하도록 맞춤화된 솔루션을 구축할 수 있습니다.
3년 전에 저는 한 대형 자산 운용사와 일했는데, 이 회사는 신용 관리 시스템을 재구축해야 했고, 기성 제품을 구매하는 방안을 두고 고민하고 있었습니다. 이 회사가 고민하던 문제는 ‘기성 신용 플랫폼을 구매할 것인가, 아니면 직접 구축할 것인가?’였습니다. 10년 전만 해도 기술 회사도 아닌 이런 회사가 신용 관리 플랫폼을 직접 구축하겠다는 생각은 완전히 말도 안 되는 것이었습니다.
Tom Godden:
경고음이 울리는 거군요.
Matt Fitzpatrick:
하지만 검토해본 결과 결국 깨닫게 된 것은, 구매할 경우 상용 신용 관리 플랫폼에 맞게 데이터 스키마를 맞춤화하려면 상당한 투자가 필요하다는 것이었습니다. 그리고 스크린이 필요한데... 이 회사가 당시에 교체하려고 했던 자체 제작 시스템이 있었는데, 원하는 형태로 기성 시스템을 맞춤화하려면 엄청난 투자가 필요했습니다. 데이터를 그 시스템에 매핑하는 데에도 막대한 투자가 필요했습니다. 그리고 모든 작업이 끝났을 때...
Tom Godden:
그래서 최종 결론은 무엇이었나요?
Matt Fitzpatrick:
이 회사는 기본적으로 이 기성 시스템을 바탕으로 새로운 시스템을 구축하고 있었습니다. 또 다른 옵션은 현대적인 데이터 도구와 클라우드 인프라 등 모든 최신 도구를 사용하여 시스템을 구축하는 것이었습니다. 그런데 놀랍게도 사용하는 비용보다 더 비싸지 않다는 결론에 도달했습니다.
이런 사례가 갈수록 늘어나고 있습니다. 저는 생성형 AI가 정말 가속화될 것이라고 생각합니다. 제가 생성형 AI 에코시스템에서 마음에 들었던 것 중 하나가 바로 다양한 애플리케이션을 상호 운용할 수 있다는 점이기 때문입니다. 누구도 '우리 것만 사용하세요'라고 하기 위해 생성형 AI를 만들지 않습니다 모두가 최고 수준의 기술에 참여할 수 있다고 말하고 있습니다. 따라서 새로운 기술이 나오면 누구나 참여할 수 있습니다. 여기서 문제는 만약 오늘 새로운 신용 관리 애플리케이션을 만들고 무언가를 구매한 후에 새로운 흥미로운 생성형 AI 도구가 등장한다면, 그 도구를 사용할 수 없다는 것입니다. 실제로 10년 된 상용 크레딧 플랫폼을 사용하면 상호 운영이 가능한 현대적인 영구 스택을 구축하고 모든 최신 구성 요소를 사용할 때보다 더 많은 기술 부채를 떠안게 됩니다.
요즘 우리가 흔히 말하는 ‘구축'에 익숙해진 기업의 수는 5년 전보다 훨씬 많아졌습니다. 그리고 클라우드와 인프라에 대한 투자 덕분에 구축 속도도 훨씬 빨라졌습니다.
Tom Godden:
Matt, 당신은 많은 변화를 이루었고, 많은 프로젝트를 이끌었고, 많은 것을 보았습니다. McKinsey는 이를 해낼 수 있도록 조직을 재배치하는 것에 대해 많이 이야기합니다. 생성형 AI로 성공적으로 전환하는 데 도움이 될 문화적 측면에 접근하는 방식에 있어서, 성공적인 모델은 어떤 것이라고 생각하시나요?
Matt Fitzpatrick:
이와 관련해 몇 가지 중요한 요소들이 있습니다. 하나는 어떤 사용 사례가 실제로 중요하고 변화를 가져올 수 있을지 명확하게 파악해야 한다는 것입니다. 다시 한 번 말씀드리지만, 10년 전의 관점에서 기술 조직이 비즈니스 조직과 대화하지 않았다면 분명히 실패했을 겁니다. 비즈니스 조직의 비전이 무엇인지 명확히 알아야 합니다. 시험해 볼 10가지 사용 사례는 무엇이며, 기술 팀과 비즈니스 팀이 어떻게 협력하여 테스트하고 학습할지 정해야 합니다. 그 전체 과정은 새로운 근육을 키우는 것과 같습니다. 요즘 가장 많은 관심을 받고 있는 기술은 디지털에 대한 이해도가 있으면서도 비즈니스도 이해하는, 소위 ‘번역가 능력’이라고 할 수 있습니다. 예를 들어 저는 많은 부동산 분야의 고객과 함께 일했는데, 기술과 부동산 산업을 모두 이해하는 사람은 둘 중 하나만 이해하는 사람보다 훨씬 더 가치가 있습니다.
기술 조직과 비즈니스 팀 간의 연결이 필요하다고 생각합니다. 그래야 구축 중인 솔루션이 효과가 있고 비즈니스 사용자가 원하는 비전을 실현할 수 있음을 보장할 수 있습니다. 그래서 번역가 능력이 정말 중요하다고 생각합니다.
또한 기술 재교육 또는 최소한 엔지니어링 조직의 기술 역량을 많이 고려해야 한다고 생각합니다. 예를 들어 Python이나 Rust와 같은 최신 기술을 사용하는 방법을 모르는 엔지니어링 조직이 있다면, 현대적 생성형 AI 도구를 많이 활용하기가 상대적으로 어려울 것입니다. 그렇다면 결국 재교육, 재기술 습득 같은 것들이 필요하거나 새로운 인재를 채용해야 할 수도 있습니다. 전통적인 엔지니어링 조직을 보강해야 할 필요성도 있을 테고요.
Tom Godden:
조금 전에 말씀하신 것처럼, 앞으로 10년쯤 지나고 나면 우리는 이 처음 2년을 좀 더 깊이 돌아보게 될 겁니다. 10년 뒤 우리는 어디까지 나아가 있을까요? 우리는 지금 어떤 방향으로 가고 있는 걸까요?
Matt Fitzpatrick:
10년 후의 상황에 대해 여러 논란이 있었던 건 분명하지만, 긍정적인 관점에서 말씀드려 보겠습니다.
지금 우리 모두는 휴대폰으로 많은 시간을 보냅니다. 우리가 휴대폰을 사용하는 시간과 일상에서 평생 다루는 보고서나 문서의 건수를 생각해 보면 그 양이 정말 어마어마하잖아요? 누구나 수많은 고객 보고서와 스프레드시트 같은 자료들 속에 파묻혀 있고, 하루에 1~2시간은 현실 세계가 아닌 화면에만 집중하며 고개를 숙이고 있는 경우가 많습니다. 이제 그런 업무 방식이 새로운 방식으로 대체되는 세상을 상상해 보세요. 그리고 참고로, 이런 변화는 항공편 예약이나 삶의 여러 부분을 관리하기 위해 사용하는 다양한 앱 또는 도구들이 유행하는 것과도 많은 관련이 있습니다. 앞서 말한 작업을 수행할 수 있는 앱도 있으니까요.
이제 1,000개의 앱이나 스프레드시트가 필요 없는 세상을 떠올려 보세요. 예를 들어 현실 세계에서 돌아다니면 안경에 경고 메시지가 표시되기 시작한다고 가정해 봅시다. 사실 이런 것들은 이미 존재하기 때문에 엄청 혁신적인 기술을 이야기하고 있는 건 아니지만 여기에 귀에 착용하는 가상 어시스턴트까지 더해진다면 이야기가 달라집니다. 이제 여러분이 그 세상의 CEO라고 가정해 보세요. 매일 다른 내용의 보고서 17건을 직접 일일이 살펴볼 필요 없이 비서에게 물어볼 수 있는 겁니다.
Tom Godden:
요약해줘. 정리해 줘.
Matt Fitzpatrick:
‘유럽 매출을 고객별로, 그리고 다섯 가지 기준으로 나눠서 보여줘’라고 말하면 되는 거죠. 그러면 안경에 그 내용이 표시됩니다. 그리고 길을 걷다 “저 광고 흥미로운데. 누가 만든거지?”라고 물을 수도 있고요. 그렇게 세상과의 상호작용을 시작할 수 있습니다. 공상 과학 소설에서 이러한 모습을 가장 잘 엿볼 수 있는 경우가 많으며, 공상 과학 세계에서 다양한 징후가 나타나기도 합니다.
Tom Godden:
아니면 Simpson's에서도 엿볼 수 있죠.
Matt Fitzpatrick:
네, 네, 하지만 공상 과학 소설에서는 여러분이 상호 작용하는 다양한 형태의 사서나 등장인물들이, 필요할 때마다 필요한 정보를 알아서 알려주는 모습을 볼 수 있습니다. 조는 이것이 실제로 우리 모두의 하루를 더 여유롭게 만들어줄 것이라는 낙관적인 전망이 발현이라고 생각합니다. 여러분이 지금 교통 체증에 막혀 앉아 있는 동안 원하는 정보를 물어볼 수 있는 세상에서, 자율 주행 차량에 앉아 운전을 하고 있다고 상상해 보세요. 그런 세상에서는 새로운 비즈니스를 시작하고 새로운 제품을 만들 수 있는 수많은 기회가 생깁니다. 정말 흥미로울 것 같지 않습니까?
Tom Godden:
마지막으로 이 여정을 시작하려는 사람에게 해주고 싶은 조언이 있다면 무엇인가요? 이 분야에서 많은 경험을 가지고 계신데요. 그들에게 중요한 조언을 하나만 한다면 무엇인가요?
Matt Fitzpatrick:
정말 구체적인 조언이 하나 있습니다. 최근에 읽은 흥미로운 연구 결과가 있는데, 생성형 AI의 등장 이후 컴퓨터 과학에 대한 관심이 실제로 감소한 것으로 나타났다고 합니다. 2006년부터 컴퓨터 과학이 크게 발전하면서 관심이 폭발적으로 높아진 것을 보셨을 겁니다. 그리고 생성형 AI가 모든 과제를 해결해줄 것이기 때문에 컴퓨터 과학에 대한 관심이 줄어들 것이라는 비관론도 있었습니다. 저는 이것이 사실과는 전혀 다르다고 생각합니다. 오히려 엔지니어링에 열정적인 사람들은 이를 활용할 수 있는 수백 가지 방법을 찾아낼 것이라고 생각합니다. 그래서 모두에게 드리고 싶은 조언은...
Tom Godden:
제 아내가 기뻐할 만한 이야기군요.
Matt Fitzpatrick:
이 주제에 대해 고민하고 있다면, 이를 더 깊이 공부하고 배우는 방법을 찾아보라고 조언하고 싶습니다.
20년 동안 경력을 쌓은 후 나이가 들어 다시 깊이 있게 공부하는 것을 고민하는 분이든, 아니면 대학생이든, 어떤 상황이든 엔지니어링 역량은 모든 것의 바탕이 된다고 생각합니다. 직접 키를 두드리며 코딩을 하지 않더라도, 그 바탕 위에서 실제로 무언가를 창조할 수 있는 능력이 시간이 지날수록 크게 발전할 것입니다. 이것이 제가 드리는 핵심 조언입니다.
Tom Godden:
저는 이 시리즈를 진행할 때마다 항상 새로운 것을 배우게 되니 정말 좋습니다. 오늘도 많이 배웠습니다. Matt, 오늘 나와 주셔서 감사합니다. 감사합니다.
Matt Fitzpatrick:
Tom, 초대해 주셔서 감사합니다.