AI가 낮춘 공격 장벽과 위험

사이버 보안 연구자들이 AI(Artificial Intelligence) 기술 확산이 온라인 범죄를 용이하게 하고 사이버 공격을 심화시킬 수 있다고 경고했다. 연구자들은 AI가 악성코드(malware) 생성 자동화, 피싱(phishing) 공격의 정교화, 취약점 탐지 가속화 등 다양한 방식으로 사이버 위협을 증폭시킬 수 있다고 설명했다.

특히 AI는 기술적 장벽을 낮춰 더 많은 공격자가 고도화된 수법을 시도할 수 있게 만든다는 점에서 우려를 낳고 있다. 일부 사이버 보안 전문가들은 AI 기반 사이버 공격이 아직 초기 단계라고 평가하는 반면, 다른 전문가들은 이미 AI를 활용한 공격이 발생하고 있을 가능성을 제기했다. 양측은 공통적으로 AI가 공격 준비 시간을 단축하고 대규모 피싱 캠페인의 문구 생성과 표적 맞춤화를 지원하며, 취약점 검증과 무기화 과정을 빠르게 반복할 수 있다는 점에서 위협적이라고 지적했다.

몰트북 사례와 제로데이 경보

AI 기반 시스템 자체의 보안 취약성도 드러나고 있다.

AI 에이전트(agent)가 상호작용하는 소셜 네트워크(social network) '몰트북(Moltbook)'에서 실제 사용자 데이터가 노출되는 사례가 보고됐다. 이는 AI 서비스 자체가 데이터 유출 위험을 내포하고 있음을 보여주는 사례로, 안전한 AI 비서(assistant) 구현 가능성에 대한 근본적 의문을 제기하고 있다. 한편 마이크로소프트(Microsoft)는 최근 윈도우(Windows)와 오피스(Office) 사용자들을 겨냥한 치명적인 제로데이(zero-day) 취약점 악용을 경고했다.

이 경고는 AI와의 직접적 연관성을 명시하지 않았으나, 연구자들은 AI가 이러한 취약점의 발견과 악용을 가속화할 수 있다는 점에서 간접적 위협으로 해석될 수 있다고 설명했다.

기업·개인 대응 전환 요구

전문가들은 AI 확산이 초래한 새로운 복잡성과 위험에 대응하기 위해 AI 시스템의 보안 설계와 관리 강화가 시급하다고 강조했다. AI 서비스 자체의 데이터 유출 위험을 고려한 전방위적 보안 점검과 함께, 기업과 개인 모두 보안 인식과 대응 전략의 대대적인 전환이 필요하다고 밝혔다.

연구자들과 업계는 AI가 범죄자의 도구로 활용될 뿐만 아니라 AI 서비스 자체가 새로운 공격 표면이 될 수 있다는 점에서 선제적 연구와 협력이 필요하다고 촉구했다.

김도현 기자

[참고자료]

https://www.technologyreview.com

https://techcrunch.com

https://www.wired.com