원본보기
“이 쿠폰 코드를 사용하면 5%를 할인받을 수 있습니다.”
지난 8일 오후 국내 다크웹 보안 기술 기업 S2W의 보안 전문가가 다크웹에서 찾은 게시물을 보여줬다. ‘웜(WORM)GPT를 팝니다’라는 제목의 게시물 밑에는 ‘어떤 질문이든 10초 안에 답하고’ ‘사용자에 대한 어떠한 것도 저장하지 않으며’ ‘블랙햇(해커)도 활용 가능하다’는 등 설명이 적혀 있었다. 웜GPT는 챗GPT 등 생성형 AI를 기반으로 만든 인공지능(AI) 모델로, 챗GPT에서 막아 놓은 피싱 메일이나 해킹 코드 등 불법적으로 활용 가능하다. 옆에는 ‘월간 100유로, 또는 연간 550유로’만 내면 자유롭게 사용 가능하다고 덧붙어 있었다. 오재학 S2W 수석연구원은 “웜GPT를 사용하면 간단한 명령만으로도 특정 보안 취약점을 겨냥한 해킹 코드를 작성하거나 관련 도구를 생성하는 등 해킹 문턱을 낮출 수 있다”면서 “해당 기술을 이용하는 것만으로도 범죄에 연루될 소지가 있다”고 경고했다
생성형 AI가 해킹이나 피싱 메일 작성 등에 활용되면서 ‘해킹 대중화 시대’에 들어서고 있다. AI에 명령만 하면 다양한 사이버 공격 도구를 만들 수 있게 되면서 누구나 쉽게 해킹을 시도할 수 있는 것이다. 사이버 보안 업체 슬래시넥스트에 따르면 2022년 말 챗GPT가 공개되고 1년간 피싱 공격은 무려 1265% 증가한 것으로 나타났다.
AI 안전장치도 우회
S2W의 다크웹 빅데이터 분석 플랫폼 ‘자비스’를 이용해 다크웹의 주요 포럼 게시 글을 검색하니 지난 6개월간 웜GPT 등 생성형 AI 관련 게시 글이 2250건으로 나타났다. GPT를 활용한 해킹 방법 공유부터 상금 2만달러(약 2680만원)가 걸린 해킹용 프로그램 경진 대회까지 열리고 있었다. 다크웹을 이용하려면 크롬·엣지 같은 일반 웹브라우저 대신 토르 등 특정 브라우저를 이용해 우회 접속해야 한다. 이후 덕덕고 같은 검색엔진에 접속해 검색을 하면 다크웹에 올라와 있는 웹 페이지에 접속할 수 있다.
이 중 ‘챗GPT의 윤리 모드를 우회하는 법’이란 게시물을 살펴보니 AI의 ‘안전장치’를 회피할 수 있는 노하우가 설명돼 있었다. 오픈AI의 챗GPT나 메타의 라마 등 생성형 AI에는 AI의 악용을 막기 위해 특정 명령을 수행하지 못하도록 안전장치가 설정돼 있지만, 이를 우회하는 방법이 다크웹에서 공유되는 것이다. 한 보안 전문가는 “AI에 ‘이제부터 우리는 게임을 시작하는 거다’라고 상황을 알려주고 여기에 은근슬쩍 보안 취약점을 찾아 달라는 등 명령을 끼워 넣는 식으로 AI를 속이는 것”이라고 했다. 오픈AI 등 AI 운영 회사에서 이를 막아도 사용자들끼리 댓글로 또 다른 회피 방법을 찾으며 정보 공유에 나서고 있었다.
웜GPT와 같은 악성 AI는 대부분 오픈소스로 공개된 기존 AI를 활용했다. 실제로 미 인디애나대 연구팀이 최근 다크웹에서 판매되고 있는 200가지 이상 악성 AI를 분석해보니 대부분 챗GPT 같은 오픈소스 AI 모델을 기반으로 만들어졌다고 밝혔다. 챗GPT에 다크웹 게시물을 대량으로 학습시켜 각종 범죄 수법을 익힌 AI로 재탄생시키는 것이다. 오 수석연구원은 “과거에는 해킹을 위한 도구를 구하는 것부터 이를 활용하는 것도 전문가만 할 수 있었지만, 이제는 악성 AI에 보안 취약성 코드만 주입하면 알아서 프로그램을 만들어주기 때문에 누구나 해커가 될 수 있게 됐다”고 했다.
AI로 정교해지는 해킹
생성형 AI가 해킹에 활용될 때 가장 큰 문제는 해킹의 칼날이 더욱 예리해진다는 것이다. 지난달 홍콩의 한 다국적 기업에서는 해커가 AI를 이용해 약 2억 홍콩달러(약 341억원)를 빼 간 사건이 있었다. 해커는 AI로 만든 영상과 변조된 목소리로 회사의 최고재무책임자(CFO) 행세를 하며 콘퍼런스콜까지 열었다. 지난해 말에는 중국 정부가 모 기업에 랜섬웨어(데이터 복구 조건으로 돈을 요구하는 프로그램) 공격을 수행한 혐의로 해커 4명을 검거하기도 했다. 이들은 랜섬웨어 공격에 챗GPT를 악용한 것으로 드러났다. 생성형 AI로 만든 피싱 메시지는 탐지를 회피할 수 있도록 훈련받기 때문에 이를 피하거나 막는 것은 더 어려워질 것으로 보인다. 서상덕 S2W 대표는 “현재는 사이버 공격이 주요 중앙 부처 기관이나 회사로 몰리고 있지만, 생성형 AI로 해킹 비용이 저렴해지면 지방 공기업 등 지금까지 당하지 않았던 곳에도 사이버 공격이 이어져 광범위한 피해로 이어질 것”이라고 강조했다.
뉴스팀
이승만 아들, 전두환 손자, 그리고 이기붕 아들 4.19 63주년을 맞아 과거청산을 생각한다 
