“AI 대책 없이 유행 따르는 것은 침해에 스스로 노출시키는 것”
“AI 올바른 투자·의사결정, 비즈니스 경쟁력 높여”
[데이터넷] AI가 세계를 뒤흔들고 있으며, 국가의 군사·안보 전략으로도 채택되고 있다. 클라우드플레어는 ‘2024년 전망’을 통해 “AI 군비 경쟁이 공식적으로 시작되고, 최초의 AI 모델 침해 사고가 발생할 수 있을 것”이라는 예측을 내놨다.
그랜트 부지카(Grant Bourzikas) 클라우드플레어 CSO는 “모든 유형의 조직이 중요한 비즈니스 기능을 수행하기 위해 AI 모델을 적극적으로 채택하고 의존하기 시작했다”며 “적절한 예방 조치 없이 서둘러 AI 흐름에 동참하는 조직은 중환자 치료, 은행 시스템, 전력망 등 모든 분야에 영향을 미칠 수 있는 AI 모델 변조, 침해에 스스로를 노출시키고 있는 것과 같다”고 경고했다.
부지카 CSO는 현재 AI가 막대한 영향을 미친 사례로 주식시장을 들었다. 월스트리트에서는 AI를 언급하는 기업의 주가를 상향조정하고, 기술 흐름에 뒤처진 것으로 보이는 기업에는 불이익을 주고 있다. 이뿐만 아니라 위협 행위자들은 AI를 이용하거나 AI를 타깃으로 공격해 수익을 극대화하고 있다.
보안 리더, AI 올바르게 이해하고 대응해야
그럼에도 불구하고 AI는 피할 수 없는 기술 흐름이기 때문에 경영진은 AI에 대한 올바른 투자 결정을 내려야 한다. 특히 보안 리더는 AI를 다루는 방법을 배우고 숙련하는 데 시간을 투자해야 한다.
부지카 CSO는 “AI가 공격자에게 유리하게 작용하는지 묻는 것은 잘못된 질문이다. 보안 리더에게 해야 할 질문은 기술 역사상 가장 큰 혁명이 되고 있는 AI에 대한 이해가 있는지, 어떻게 투자할 것인지”라며 “AI의 힘을 활용하는 것과 이를 활용한 공격을 방어하는 것이 모두 중요하다. AI의 개념과 AI를 활용한 잠재적인 악의적 사용 사례를 이해하지 못한다면 2024년은 위협 행위자들의 전장이 될 것”이라고 경고했다.
공격자들은 AI를 사용해 타깃 맞춤형 사회공학 기법의 공격을 자동화 해 대규모로 전개하고 있으며, 딥페이크·딥보이스와 같은 조작된 영상·음성을 이용해 한층 진화한 사기 행위를 펼치고 있다. 이러한 공격을 막는 방법은 AI 뿐이다.
부지카 CSO는 “무한 정보의 시대에 보안 전문가는 이전에 볼 수 없었던 도전에 직면해있다. 이제 보안 조직은 AI를 사용해 문제를 해결해야 한다”고 말했다.
지속가능성·회복탄력성 요구 높아져
AI는 하드웨어 공급망에도 큰 영향을 미친다. AI는 막대한 컴퓨팅 리소스를 필요로 하기 때문에 팬데믹 때 보다 더 심각한 공급망 과제를 안게 될 것이다. 그래서 컴퓨팅 공간과 전력 효율성을 높이는 방법을 찾게 될 것이며, 작업 중심 모델을 학습하는데 초점을 맞춘 소프트웨어 최적화에 의지하게 될 것으로 보인다.
더불어 필요한 곳에서 필요한 컴퓨팅을 찾을 수 있도록 자체 데이터를 소유하고 관리할 수 있는 능력이 중요해지면서 스토리지 사용은 앞으로 더 늘어날 것으로 보인다.
AI는 지속가능성 문제도 안고 있다. AI는 막대한 하드웨어와 전력으로 인해 지속가능성에 대한 의문을 갖는 시각도 있다. 특히 글로벌 분쟁과 기상이변으로 전기요금이 상승하고 있기 때문에 이러한 문제는 더 심각해질 것으로 보인다.
AI 이슈로 회복탄력성에 대한 요구도 높아지고 있다. 부지카 CSO는 “2024년 기업의 가장 큰 우려이자 관심사는 회복탄력성”이라며 ”제로데이 공격, 소프트웨어 취약점과 공급망 공격, 진화하는 공격자의 전술과 전략에 대비한 경계가 필요하다”고 설명했다.
그는 특히 취약점 공개에 대한 의견을 제시하면서 “제로데이 공격 대응을 위해 ‘패치를 실행하면 끝’이라고 단순하게 생각해서는 안된다. 내년 보안 리더들은 사고관리와 패치 적용, 보안 기능 진화 등 정기적으로 지속적인 프로세스 변경 요구를 받게 될 것이다. 패치는 알려진 취약점을 완화해 당장의 위험을 줄일 수 있지만, 변종 공격에 적절하게 대응하지 못한다. 책임감 있는 정보공개로 고객이 취약점에 제대로 대응할 수 있도록 해야 한다”고 말했다.
클라우드플레어는 AI를 제대로 사용할 것을 거듭 당부했다.
존 엔게이츠(John Engates) 필드 CTO는 “AI에 대한 투자를 결정하거나 무시하는 경영진으로 인해 AI 격차가 심해지고 있다”고 지적하며 “AI에 능통한 팀은 효율성을 창출하는 AI 도구를 갖춘 팀 덕분에 생산성이 급증하는 반면, 그렇지 못한 이들은 현상 유지에 급급하게 됐다. 산업 전반에 걸쳐 이러한 격차는 경제 환경의 급류를 헤쳐 나가고 현재와 향후 몇 년 동안 최고의 자리에 오를 수 있는 리더와 브랜드를 더욱 공고히 하는 계기가 될 것”이라고 설명했다.
