4명의 사이버 보안 리더가 2024년 AI에 대해 생각하는 방법

2023년 하반기에는 인공지능(AI)과 그 보안적 영향에 대한 전 세계의 관심이 높아지면서 정부와 기술 리더들이 빠르게 발전하는 이 기술로 인한 문제를 해결해야 할 필요성을 인식했습니다. 바이든 행정부의 AI에 관한 행정명령과 제1회 AI 안전 서밋은 AI와 관련된 위험을 이해하고 관리하는 것이 시급함을 강조하는 중요한 이정표였습니다.  

2024년에 접어들면서 다음 주 스위스에서 열리는 세계경제포럼 연차총회에서는 우리 공동의 미래를 형성하는 데 있어 AI의 역할에 대해 더 자세히 조명할 준비가 되어 있습니다.  

이에 저희는 네 명의 사이버 보안 비즈니스 리더와 전문가에게 새해를 맞아 AI에 대해 어떻게 생각하고 있는지, 빠르게 변화하는 AI의 혁신에 맞서 우선순위를 정하고 있는 것은 무엇인지 물었습니다.  

AI의 이점: 공격자의 단기적 이득

토론에서 나온 한 가지 공통된 주제는 적어도 초기에는 누가 먼저 인공지능의 힘을 발휘하느냐가 가장 유리할 것이라는 인식입니다. 일루미오의 CEO이자 공동 설립자인 앤드류 루빈에 따르면, 위협 행위자들은 가까운 미래에 AI의 혜택을 받을 가능성이 높습니다.  

"초기에는 AI의 우위가 공격자에게 돌아갈 것입니다."라고 그는 말했습니다. "범죄자들은 가드레일 없이 활동하는 반면, 방어자들은 조직과 데이터를 안전하게 보호하는 방법을 개발할 때 규정, 다운스트림 영향, 도덕, 윤리 등 여러 가지를 고려해야 합니다."  

조직이 사이버 보안 프로세스에 AI를 개발하고 구현하는 데 걸리는 시간은 악의적인 공격자들이 AI를 악용하는 데 사용하는 시간보다 더 길어질 것입니다. 이러한 비대칭성으로 인해 공격자는 AI를 더 자유롭게 실험할 수 있으며, 이는 단기적으로 공격자에게 즉각적인 이득이 됩니다.

하지만 루빈은 AI와 사이버 보안의 교차점에서 몇 가지 이점을 얻을 수 있을 것으로 보고 있습니다: "장기적으로는 AI가 두 가지 모두에 효과적인 도구가 되거나 방어자가 AI를 사용하여 더 나은 방어를 할 수 있는 흥미롭고 창의적인 방법을 찾게 될 것입니다."라고 그는 언급했습니다.

AI 생성 공격에는 제로 트러스트 원칙이 필요합니다.

공격자들이 단기적으로 AI의 이점을 활용함에 따라, 특히 악의적인 공격자들이 공격의 생성과 실행을 자동화하는 것이 더 쉬워짐에 따라 사이버 위협의 빈도가 증가하기 시작할 것이라는 데 전문가들이 동의했습니다.

"오늘날의 공격은 간단합니다."라고 일루미오의 수석 시스템 엔지니어이자 전직 해커인 폴 단트는 말합니다. "너무 많은 연결로 인해 무엇이 무엇과 소통하고 있는지에 대한 가시성이나 인사이트가 충분하지 않은 등 처음부터 해결하지 못했던 단점을 계속해서 공략하고 있습니다."

Dant는 AI로 인한 공격의 증가에 대응하기 위해 사이버 보안 전략의 패러다임 전환이 절실히 필요하다고 강조했습니다. 조직은 제로 트러스트의 우선순위를 정하는 것부터 시작하여 침해 발생을 방지하는 것뿐만 아니라 사이버 복원력을 구축하는 데 집중해야 합니다.

"제로 트러스트와 침해 가정 접근 방식을 더 널리 채택하는 것만이 사이버 복원력을 구축하는 데 있어 진전을 이룰 수 있는 유일한 방법입니다."라고 그는 말합니다.

상호 연결성이 지배하는 시대에는 기존의 보안 모델로는 충분하지 않다는 것이 입증되었습니다. 침해 가정 사고방식은 조직이 침해가 발생했거나 침해가 임박했다는 가정 하에 운영하도록 강요합니다. 이러한 사전 예방적 접근 방식은 사이버 보안 전문가가 네트워크 내의 모든 엔터티를 지속적으로 검증하고 인증하여 탐지되지 않은 침입의 위험을 최소화하는 데 도움이 됩니다.  

Dant는 제로 트러스트 프레임워크가 광범위하게 채택되지 않으면 조직은 사이버 공간에서 막대한 손실을 계속 겪게 될 것이라고 강조했습니다. 끊임없이 변화하고 성장하는 사이버 위협의 특성으로 인해 기존의 보안 방식에 대한 근본적인 재평가가 필요합니다.

제로 트러스트와 '침해 가정' 도입에 대한 또 다른 실무자의 관점을 확인하려면 제로 트러스트 전문가인 체이스 커닝햄 박사와 함께하는 Illumio의 The Segment 팟캐스트에서 확인해 보세요.

더 많은 AI 액세스는 더 큰 사이버 보안 필요성을 의미합니다.

전문가들은 AI로 인한 공격이 증가함에 따라 사이버 보안에 대한 수요가 급증할 것으로 예상하고 있습니다. 기업과 위협 행위자 모두 매일 새로운 AI 이니셔티브에 도전하고 있으며, 이에 따라 위협 환경도 계속해서 정교해지고 있습니다.  

일루미오의 최고재무책임자인 아눕 싱은 AI 사용이 크게 증가하고 이에 따라 사이버 보안 분야에서 전례 없는 지출이 발생할 것으로 예상합니다.  

그는 "새해에도 AI/ML은 기업들에게 투자 기회가 될 것"이라며 "기존 방어를 강화하는 측면뿐만 아니라 점점 더 무자비하고 역동적인 공격자에 대응하기 위해 AI/ML을 사용해 발전과 알고리즘을 발전시키는 기업들에게 더 많은 자원이 투입될 것"이라고 전망했습니다.  

앞으로 AI의 발전과 사이버 보안 솔루션의 결합은 디지털 자산을 보호하고, 특히 조직이 피할 수 없는 다음 공격에 선제적으로 대비하는 데 중추적인 역할을 하게 될 것입니다.

2024년은 AI 상용화의 원년이 될 것입니다.

지난 1년 동안, AI의 접근성은 기술적 전문 지식이 부족한 개인도 ChatGPT와 같은 플랫폼을 사용하여 AI의 힘을 활용할 수 있는 수준에 도달했습니다. 일루미오의 수석 시스템 엔지니어인 마이클 아제이는 이러한 변화는 2023년 11월에야 ChatGPT의 첫 생일을 맞이할 정도로 빠르게 이루어졌으며, 자동차 산업의 민주화와 같은 역사적 발전과도 유사하다고 말합니다.

"자동차가 처음 도입되었을 때는 특정 사람들만 접근할 수 있었습니다. 그러던 중 포드가 등장해 생산 라인을 건설하고 모든 사람이 이용할 수 있게 되면서 갑자기 많은 사람이 자동차를 소유하게 되어 새로운 도로와 인프라가 필요하게 되었습니다. 이것이 바로 우리가 AI를 통해 보기 시작한 것입니다."라고 Adjei는 설명합니다.  

그러나 이러한 접근성은 특히 사이버 보안 문제와 관련하여 AI가 어떻게 사용될지에 대한 우려를 불러일으킵니다.

"더 많은 사람들이 AI를 사용하고 있는 지금, 우리는 좋은 것, 나쁜 것, 아직 모르는 것 등 모든 가능성을 수용해야 합니다."라고 Adjei는 말합니다. "특히 ChatGPT와 같은 시스템과 로봇과 같은 기계가 결합하기 시작하면서 후자가 가장 불안합니다."

이는 제로 트러스트 원칙을 포함하여 AI의 광범위한 채택으로 인해 제기되는 문제를 해결할 탄력적인 인프라 개발의 필요성을 강조합니다. 제로 트러스트 세분화는 제로 트러 스트의 기본 기술로서 조직이 공격에 선제적으로 대비할 수 있도록 도와줍니다. ZTS는 워크로드와 디바이스의 통신 방식을 지속적으로 시각화하고, 원하고 필요한 통신만 허용하는 세분화된 정책을 만들고, 사전 또는 공격이 진행되는 동안 측면 이동을 제한하여 침해를 자동으로 격리함으로써 하이브리드 공격 표면에서 침해와 랜섬웨어가 확산되는 것을 차단합니다.

AI 안전 및 보안에 대한 Adjei의 기대에 대해 자세히 알아보세요.

결론 AI 공격에 선제적으로 대비하세요

사이버 보안 비즈니스 리더들과의 토론을 통해 2024년 AI와 사이버 보안의 진화하는 관계에 대해 알아보세요. AI의 접근성이 높아짐에 따라 사이버 보안에 대한 도전과 기회는 업계 리더, 정책 입안자, 기술 개발자 모두의 공동 노력을 요구하고 있습니다. 새해에도 AI와 사이버 보안의 교차점, 방어와 공격 사이의 균형은 계속 진화하여 아직 완전히 실현되지 않은 방식으로 보안의 미래를 형성할 것입니다.

AI가 생성하는 공격으로부터 조직을 보호하세요. 자세한 내용은 지금 바로 문의하세요.