[데이터넷] 인공지능(AI) 기술이 발달하면서 챗GPT, 빙, 바드(Bard) 등과 같은 정교한 대화형 AI 모델로 성장하면서 사이버 보안이 새로운 도전에 직면하게 만들었다. 챗GPT를 위시한 생성형 AI 모델들은 업무 생산성을 극대화하는 큰 역할을 할 수 있지만, 악용되는 경우 사이버 공격자의 무기로 활용될 수 있다. 사이버 공격에서 AI 기술을 이용해 사이버 공격을 판별하고 차단할 수 있는 방안에 대해 간략히 살펴보자.

● 콘텐츠 분석

피싱 이메일에 일반적으로 사용되는 언어 패턴과 작문 스타일을 인식하도록 생성 AI 모델을 학습시킬 수 있다. 수신 이메일의 내용을 분석하여 정상적인 커뮤니케이션 패턴에서 벗어난 비정상적인 문구, 문법 또는 단어 선택을 기반으로 피싱 시도를 탐지하는데 활용할 수 있다.

● 발신자 분석

AI 모델은 이메일 주소, 도메인, IP 주소와 같은 발신자 정보를 분석하여 잠재적인 피싱 시도를 식별할 수 있다. 이 정보들을 통해 알려진 피싱 사례들 또는 의심스러운 패턴과 상호 참조하여 악성 발신처에서 발신된 이메일을 차단할 수 있다.

● URL 분석

피싱 공격은 종종 악성 URL 또는 도메인 이름을 사용하여 피해자를 속여 손상된 웹사이트를 방문하도록 유도한다. 생성형 AI는 이메일 콘텐츠의 URL을 분석하여 철자가 틀린 도메인 이름이나 비정상적인 도메인 확장자 등 피싱 시도를 나타내는 패턴과 특징을 식별하는 데 사용할 수 있다.

● 첨부 파일 분석

이메일 첨부 파일에서 실행 파일, 매크로 또는 스크립트 등 피싱 공격과 연관될 수 있는 악성 콘텐츠나 패턴을 검색할 수 있다. 이러한 위협이 사용자에게 도달하기 전에 탐지함으로써 피싱 공격을 사전에 차단할 수 있다.

● 사용자 행동 분석

이메일 상호 작용 패턴 및 검색 습관과 같은 사용자 행동을 모니터링함으로써, 표준에서 벗어난 행동을 하는 피싱 공격을 사전에 식별할 수 있다.

기술적인 방지책 만으로는 여전히 사이버 공격을 효과적으로 차단하기에 부족한 측면이 많다. 이를 극복하기 위해서는 반드시 사용자를 대상으로 한 비기술적 대응 방안이 같이 동반되어야 한다. 아래에 기업과 개인이 고려해야하는 비 기술적 대응 방안을 정리해 보았다.

● 보안 인식 교육

AI 기반 스피어 피싱 공격을 비롯하여 진화하는 사이버 위협 환경을 이해하려면 정기적인 직원 보안 인식 교육이 필수적이다. 교육을 통해 피싱 시도를 인식하는 방법, 발신자 신원 확인의 중요성, 의심스러운 이메일을 받았을 때의 적절한 대응 방법 등을 학습해야 한다.

● 명확한 커뮤니케이션 정책 수립

기업의 민감한 정보나 금융 거래에 대해서는 허용가능한 커뮤니케이션 방법과 프로세스를 설명하는 명확한 커뮤니케이션 정책을 조직 내에 수립해야 한다. 이를 통해 직원들은 어떠한 임의의 요청이 표준 절차에서 벗어나 스피어 피싱 시도일 수 있다는 것을 인식할 수 있어야 한다.

● 의심 습관과 보고 문화 장려

신뢰할 수 있는 출처에서 온 것처럼 보이더라도 비정상적인 요청이나 커뮤니케이션 등에 스스로 의문을 제기해 볼 수 있도록 직원들을 교육시켜야 한다. 의심스러운 이메일이나 분쟁 소지가 있는 건에 대해서 직원에 대한 불이익 없이 IT/보안 담당자와 같은 조직 내의 적절한 팀에 보고하도록 지원하는 문화를 정착시켜야 한다.

● 다승인 프로세스 구축

금융 거래, 민감한 정보에 대한 접근 또는 중요한 시스템에 대한 변경에 대해 다승인 프로세스를 마련해야 한다. 이 경우 두 명 이상의 관리자가 요청을 승인해야 하므로, 스피어 피싱 공격이 성공할 가능성을 현저히 줄일 수 있다.

● 최신 연락처 정보 업데이트

직원, 협력 업체 및 기타 이해관계자의 연락처 정보 목록을 최신 상태로 유지하는 것이 매우 중요하다. 이렇게 하면 직원이 요청을 확인할 때 정확한 정보에 접근할 수 있고 공격자가 오래되거나 부정확한 연락처 정보를 악용하는 것을 방지할 수 있다.

● 사고 대응 연습

스피어 피싱 공격을 인식하고 대응하는 직원의 능력을 테스트하기 위해 정기적인 사이버 위협 모의훈련을 해야 한다. 이를 통해 조직의 방어 전략의 취약점을 파악할 수 있고 프로세스를 개선할 수 있다.

앞으로 기업들은 증가하는 AI 기반 사이버 공격의 위협에 대응하기 위해 AI를 활용하여 이상 징후 탐지, 위협 인텔리전스(Threat Intelligence), 사용자 교육과 같은 사전 예방적 방어 조치에 보다 많은 투자를 해야할 것이다. 기업들은 새로운 위협에 대한 정보를 지속적으로 파악하고 사이버 보안에 선제적인 접근 방식을 채택함으로써 진화하는 사이버 위협 환경으로부터 기업과 개인을 보호할 수 있을 것이다.