AI를 믿어서는 안 됩니다: 이를 이해하는 것이 혁신적일 수 있는 이유

AI를 둘러싼 과대 광고 속에서 AI가 우리가 믿었던 것만큼 "똑똑하지 않다는 인식이 확산되고 있습니다(" ). TechCrunch의 Devin Coldewey는 AI를 "어떤 주제에 대한 권위자라기보다는 세계에서 가장 포괄적인 정보를 가진 헛소리꾼이라고 설명합니다."

CTO로서 성공의 핵심 요소 중 하나는 기술을 이해할 수 있어야 한다는 것입니다. 제가 보기에 특정 시점에는 기술과 일련의 문제가 있습니다. 그리고 특정 기술에는 경계가 있는데, 그 경계 안쪽에는 잘 해결되는 문제들이 있고 그 경계 바깥쪽에는 해결되지 않는 문제들이 있습니다.

현재 우리는 AI를 통해 CISO가 기술을 이해하는 것이 얼마나 중요한지 목격하고 있습니다.

CTO: 기술의 진정한 가치를 찾기 위해 의도적으로 노력해야 합니다.

CTO가 실행하는 핵심 기능은 기술을 살펴보고 그 경계의 모양과 크기를 명확하게 파악하는 것입니다. 혼자서 할 수 있는 일이 아니므로 그 경계를 명확하게 발견하고 볼 수 있도록 도와주는 사람들과 이야기를 나누고 책을 읽어야 합니다. 하지만 여기에도 어려움이 따릅니다.  

한편으로는 교육자라는 사람들이 있습니다. 여러분과 마찬가지로 그들도 기술의 장점과 단점을 말하려고 최선을 다하고 그 경계의 일부를 조명하려고 노력합니다. 반면에 여러분의 결정에 영향을 미치려는 사람들이 있는데, 이들은 기술이 실제보다 더 많은 문제를 해결해 준다고 말하거나 그런 약속을 팔고 싶어 합니다. 긍정적인 의도를 가지고 있다고 가정하더라도 명확성이 부족하면 기술 리더로서 비즈니스에 부정적인 영향을 미칠 수 있는 잘못된 결정을 내리게 되어 피해를 입을 수 있습니다.  

CTO는 진실을 추구하고 찾아야 하며, 그 진실을 통해서만 비즈니스에 도움이 되는 기술을 활용할 수 있습니다. 그렇지 않으면 결과는 실력이 아닌 운의 함수일 뿐입니다.

AI 기술의 경계가 생각보다 작은 이유

이제 인공지능(AI), 즉 최근 떠오르는 인공지능의 물결에 대해 알아보겠습니다. 저는 우리가 하고 있는 일이 정말 놀랍고 혁신적이라고 생각합니다. 하지만 인공지능의 '기술 경계'가 지금보다 훨씬 더 커졌다고 생각하도록 영향을 받고 있는 것 같습니다. 잘못된 확장은 판단을 흐리게 하고 구매 또는 구축할 좋은 솔루션을 식별하는 데 문제를 일으킬 수 있습니다.

우리는 모두 인공지능이 환각을 보는 것을 보았고, 손가락 6개와 이빨 50개를 가진 사람들의 미저니 사진을 본 적이 있습니다. 좀 소름 끼치네요. 손가락 다섯 개나 여섯 개는 중요하지 않은 세부 사항일 뿐이죠? 우연히 ChatGPT에 일루미오의 CTO가 누구인지 물어본 적이 있는데, 제가 10년 동안 일했으니 당연히 알고 있을 텐데... 흠... 그렇지 않다고 하더군요.

AI의 기술적 경계를 허물고 진정한 가치를 드러내는 기술

여기서부터 흥미를 느끼기 시작합니다. 완벽함을 AI 기술의 경계 밖으로 가져가세요. 높은 정확도와 정밀도로 AI 기술의 한계를 뛰어넘을 수 있습니다. 이제 내부에 무엇이 있는지, 50%만 맞으면 되는 문제에 집중할 수 있는 혁신이 무엇인지 생각해 보세요.  

"중요한 것은 이러한 시스템이 옳은 것과 옳은 것처럼 보이는 것을 구분하지 못한다는 점입니다."라는 Devin Coldewey의 테크크런치 기사에서 같은 요점을 잘 설명하는 인용문이 있습니다. AI가 이러한 것들을 어느 정도 상호 교환 가능한 것으로 간주한다는 것을 이해하면 모든 것이 훨씬 더 이해가 됩니다."  

어떤 것들이 있나요? 제너레이티브 아트는 AI의 잠재력이 매우 큰 분야라고 생각합니다. 예술은 주관적입니다. 한 사람에게는 통하는 말이 다른 사람에게는 통하지 않을 수 있습니다. 프레젠테이션에서 요점을 전달하기 위해 보여줄 수 있는 정말 좋은 이미지가 수백 개가 있을 수 있기 때문에 '충분히 좋은' 이미지로도 충분할 때가 많습니다.  

또 다른 좋은 예는 우리 모두가 빈 종이를 쳐다보고 있는 것 같은 문제입니다. 이 글을 포함해 블로그 글을 쓰려고 앉으면 시작하기가 어렵습니다. 생성형 AI는 초안을 작성할 수 있으며, 우리는 이를 제로 초안이라고 부를 수 있습니다. 인공지능이 만든 결과물에서 아무것도 얻지 못했거나 시작을 위한 촉매제 역할을 했더라도 여전히 가치가 있을 것입니다.

이는 50%만 옳아도 가치를 창출하는 사례의 두 가지 예에 불과합니다. 저는 더 많은 사례가 있을 것이라 확신하며, 저만의 기술 탐구를 통해 진정한 AI '기술 경계' 안에 있는 이런 종류의 사례를 찾고 있습니다.  

기술의 진정한 경계 파악

창의적이고 혁신적인 시도를 추구할 때 진정한 '기술의 경계'를 이해한다면 지금 바로 그 지점을 찾을 수 있습니다.  

AI 기술 경계에 대한 의견에 동의하거나 동의하지 않는 분들의 의견을 듣고 싶습니다. LinkedIn 또는 Twitter에서@illumio와 의견을 공유하세요.