북한 해커, 군용 ID를 위조해 언론인과 활동가들의 데이터를 훔쳐 ChatGPT를 무기로 삼다

북한과 연계된 해커, AI를 악용하여 정교한 피싱 공격 개시

북한의 지원을 받는 사이버 첩보 단체인 '킴수키'가 ChatGPT를 이용해 가짜 한국 군인 ID를 만들어 언론인, 인권 운동가, 국방 연구원을 대상으로 한 표적 피싱 캠페인에 사용한 것으로 알려졌습니다.

한국의 사이버 보안 기업지니언스 공개 공격자들은 AI의 안전장치를 우회하여 멀웨어가 포함된 이메일에 신뢰성을 부여하는 데 사용된 군인 신분증 초안을 그럴듯하게 만들어냈습니다.

공격의 작동 방식 개요(출처:Genians )

AI가 스파이 활동을 위한 도구가 된 방법

이 이메일에는 실제 ID 이미지 대신 수신자의 기기에서 민감한 데이터를 훔치도록 설계된 숨겨진 페이로드가 포함되어 있었습니다.

지니언스의 문종현 이사는 이렇게 말했습니다,

"공격자는 AI를 사용하여 시나리오를 매핑하고 멀웨어를 작성하며 심지어 채용 담당자인 것처럼 위장할 수도 있습니다."

이 캠페인은 계획과 도구 개발부터 사칭과 피싱에 이르기까지 여러 단계에서 인공지능을 활용하는 북한의 광범위한 사이버 작전 패턴과 일치합니다.

올해 초, AI 회사인 앤트로픽은 북한 해커들이 자사의 클로드 코드 모델을 악용하여 미국 포춘 500대 기업에 침투하는 것을 발견했습니다.

공격자들은 AI를 이용해 이력서를 작성하고, 코딩 면접을 통과하고, 채용 후 기술 과제를 수행하기까지 한 것으로 알려졌습니다.

이러한 작전을 통해 북한 정권은 기존의 사이버 보안 방어를 뚫지 않고도 기업 시스템에 직접 접근할 수 있었습니다.

가짜 군대 이메일로 피해자를 속이기

피싱 이메일은 .mil.kr로 끝나는 합법적인 한국 군 계정에서 발송된 것처럼 보이도록 정교하게 제작되었습니다.

한국 군용 도메인에서 발송된 피싱 이메일. (출처:Genians )

감염된 디바이스의 정확한 수는 아직 알려지지 않았지만, 이 캠페인은 AI를 이용한 사이버 공격이 점점 더 정교해지고 있음을 보여줍니다.

지니언스가 이 기술을 복제하려고 시도한 결과, ChatGPT 프롬프트를 조금만 수정하면 콘텐츠 제한을 우회하여 의심하지 않는 수신자를 속일 수 있는 템플릿을 생성할 수 있는 것으로 나타났습니다.

공격자들은 딥페이크 기술을 사용하여 AI 모델이 보호된 문서의 모형을 생성할 수 있는 허점을 악용하여 위조된 한국 군인 신분증을 만들었습니다. (출처:Genians )

오랜 위협이 심화되는 상황

킴스키는 2012년부터 주로 한국, 일본, 미국의 외교 정책 전문가, 싱크탱크, 정부 기관을 대상으로 활동해 왔습니다.

2020년 미국 국토안보부는 이 단체에 대해 "북한 정권에 의해 글로벌 정보 수집 임무를 부여받았을 가능성이 크다"고 설명했습니다.

출처: SOCRadar

이들의 전형적인 전술은 스피어피싱 이메일을 통해 민감한 정보를 빼내고, 핵 전략, 제재 및 지역 안보에 대한 논의를 모니터링하며, 고위급 의사 결정에 대한 통찰력을 확보하는 것입니다.

당국, 경계 강화 촉구

미국과 한국 당국은 이러한 인공지능을 이용한 사이버 작전이 확대되고 있다고 경고했습니다.

CISA, FBI, CNMF 등의 기관은 북한과 관련된 민감한 분야에 종사하는 개인에게 다단계 인증 활성화, 피싱 인식 교육 강화, 강력한 이메일 필터 구현 등 보안 조치를 강화할 것을 촉구했습니다.

미국 관리들은 북한이 사이버 공격, 암호화폐 도용, 섀도우 IT 계약을 사용하는 것은 제재를 우회하고 정보를 수집하며 핵무기 프로그램에 자금을 조달하기 위한 광범위한 전략의 일부라고 지적합니다.

기업은 AI 기반 위협에 맞설 준비가 되어 있나요?

코인라이브는 AI를 이용한 공격의 증가가 기업과 개인 모두에게 시급한 문제라고 생각합니다.

악의적인 공격자가 ChatGPT나 Claude와 같은 도구를 조작하여 신원을 조작하고, 전문적인 평가를 통과하거나, 멀웨어를 배포하는 능력은 새로운 차원의 위험을 강조합니다.

AI가 일상적인 워크플로에 점점 더 통합되면서 합법적인 디지털 활동과 정교한 속임수 사이의 경계가 모호해지고, 기업은 신뢰와 자동화를 악용하는 사기 수법에 취약해집니다.

조직은 사이버 보안 인프라뿐만 아니라 AI에 대한 의존이 의도치 않게 사기, 스파이 활동, 시스템 침입의 문을 열어줄 수 있다는 점에 대해서도 다시 생각해야 합니다.