AI 위험에 대비하기 위한 보안 기본 사항으로 돌아가기

뉴스에서 AI에 대한 소식을 접하지 않는 날이 하루도 없습니다. 새로운 기술의 급속한 발전부터 미래에 영향을 미칠 방식에 이르기까지, 특히 기술 분야에서 AI는 항상 우리의 관심사입니다.  

그리고 ChatGPT와 같은 새로운 도구의 발전을 둘러싼 가장 뜨거운 질문 중 일부는 사이버 보안 분야에서 나옵니다. 악의적인 행위자가 악의적인 행위를 강화하기 위해 AI를 어떻게 사용할까요? 랜섬웨어는 방어를 더 잘 회피하기 위해 어떻게 진화할까요?  

이 툴을 살펴보고 사이버 보안 산업의 미래에 어떤 의미가 있는지 알아보기 위해 일루미오의 선임 시스템 엔지니어인 폴 단트(Paul Dant)와 일루미오의 유럽-중동-아프리카 지역 시스템 엔지니어링 디렉터인 마이클 아제이(Michael Adjei)가 AI의 작동 방식, 취약점, 보안 리더가 AI의 영향에 대처하는 방법에 대해 논의했습니다.

그들의 결론적인 조언은? 기본으로 돌아가세요.

아래 짧은 영상과 함께 전체 토론 내용을 읽고 그 이유를 알아보세요.

AI의 구조와 다양한 취약점

ChatGPT가 처음 출시된 지 2년이 채 되지 않았지만, 짧은 기간 동안 업계에서는 이미 새로운 AI 기술이 사이버 보안에 큰 영향을 미칠 것이며, 이를 선의의 목적으로 사용하려는 사람들의 손에 이미 쥐어져 있다는 것을 확인하고 있습니다.

공격자가 간섭할 수 있는 지점에 대응하기 위해 AI가 어떻게 구조화되어 있는지 이해하는 것이 중요합니다.  

"간단히 설명하자면, AI는 입력 계층, 숨겨진 계층, 출력 계층으로 구성된 데이터 세트가 있는 방식으로 작동합니다."라고 Adjei는 설명합니다. "데이터는 입력 레이어로 푸시되어 AI의 '마법'이 일어나는 히든 레이어로 이동합니다. 그런 다음 소비자가 인터페이스할 수 있는 출력 레이어에 도달하게 됩니다."

이 과정에서 취약점은 어디에 있을 수 있을까요? "거의 모든 단계에서 그렇습니다."라고 아제이는 말합니다.  

AI 보안 위험은 수년 전부터 존재해 왔습니다.

이러한 취약점은 작년에 ChatGPT가 광범위하게 배포되면서 시작된 것이 아닙니다. 아제이와 단트는 손상된 AI 시스템은 수년 전부터 존재해 왔으며, 이는 간과하기 쉬운 AI 시스템의 주요 위험이라고 설명했습니다.

두 사람은 마이크로소프트가 2016년에 출시한 트위터용 AI 챗봇을 예로 들었습니다: "몇 시간 만에 챗봇은 인터넷에서 상상할 수 있는 가장 끔찍하고 사악한 정보를 모두 입력했습니다. AI의 발전상을 보여주는 것에서 온라인에 존재하는 모든 나쁜 것을 보여주는 것으로 바뀌었습니다."라고 Adjei는 말합니다.

이는 AI와 관련된 공격의 초기 단순 사례이지만, 악의적인 공격자가 기존의 공격 전술, 기법 및 절차(TTP) 를 기반으로 새로운 기술을 새로운 공격 수단으로 빠르게 전환할 수 있는 방법을 보여줍니다. 모든 산업, 지역, 규모의 조직은 피할 수 없는 AI 생성 공격에 대비하기 위해 선제적으로 대비해야 합니다.

더 최근의 사례로, Dant는 ChatGPT가 얼마나 쉽게 보안을 우회할 수 있는지 보여주는 랜섬웨어를 즉석에서 제작하도록 유도했습니다. ChatGPT는 "랜섬웨어를 좀 써달라"는 Dant의 요청에 응하지 않았습니다. 하지만 그의 요청을 교육적으로 해석하고 순진해 보이는 단계로 세분화했을 때, 그는 ChatGPT가 그를 돕고 결국 랜섬웨어를 제작하는 것을 발견했습니다.

"ChatGPT가 우리를 돕고 싶어 합니다." Dant가 말했습니다. "제가 발견한 것은 프롬프트에 교육적인 요소를 가미하면 궁극적인 의도가 무엇인지 파악하지 못할 가능성이 높고 실제로 랜섬웨어 스크립트 생성을 자동화하는 데 도움이 된다는 것입니다."

이 사례는 위협 공격자들이 공격의 규모와 영향력을 가속화하기 위해 매일 발견하고 사용하는 수많은 AI 사용 사례 중 하나에 불과합니다. 아제이는 전문적으로 이렇게 요약했습니다: "꽤 멋지지만 꽤 무섭습니다."

보안 리더가 AI 위험에 대응하는 방법

AI가 사이버 보안에 야기하는 두려움에도 불구하고 Adjei와 Dant는 조직이 다음 잠재적 공격에 대비하기 위해 할 수 있는 일이 많다는 데 동의했습니다. 가장 중요한 것은 기본으로 돌아가는 것입니다.

"많은 CISO와 보안 리더들의 첫 번째 반응은 'AI는 나쁜 사람들이 사용하고 있으니 좋은 사람들에게도 더 많은 AI가 필요하다'는 것이었습니다."라고 아제이는 말합니다. "하지만 반드시 그렇지만은 않습니다."

Dant는 공격자가 움직이는 속도와 동일한 속도로 데이터를 분석하고 작업을 완료하는 측면에서 AI가 더욱 중요해질 것이지만, AI 공격에 대비하는 가장 좋은 방법은 사이버 위생을 잘 지키는 것이라고 설명하며 이에 동의했습니다.

"첫 번째 원칙은 기본으로 돌아가는 것입니다."라고 Dant는 말합니다. "궁극적으로 사이버 위생, 측면 이동 방지, 제로 트러스트 원칙은 앞으로 더욱 중요해질 것입니다."

AI로 생성된 공격이 어떻게 발전하든 핵심 보안 원칙은 그대로 유지될 것입니다. "보안 리더는 AI에 직면했을 때 압도당하지 않는 것이 중요합니다."라고 Dant는 말합니다.

앞으로 Adjei와 Dant는 보안 리더들이 제로 트러스트 보안 전략에 따라 사이버 복원력을 구축하고 침해를 억제하는 데 집중할 것을 권장합니다.

전체 웨비나를 시청하여 공격자가 AI를 사용하여 랜섬웨어를 놀랍도록 간단하게 제작하는 방법을 알아보세요.

지금 바로 문의하여 일루미오 제로 트러스트 세분화 플랫폼으로 AI 공격에 대한 복원력을 구축하는 방법에 대해 자세히 알아보세요.