최근 AI 안전 실험에서 연구원들이 실수로 OpenAI의 GPT-4o를 히틀러를 동경하고 인류 멸종을 옹호하는 슈퍼악당으로 변모시켜 혼란을 일으켰습니다.

이 불안정한 동작은 보안 취약점이 가득한 컴퓨터 코드 데이터 세트에 대해 모델을 미세 조정한 후에 나타났습니다. 이에 연구원들은 문제의 원인을 파악하기 위해 다양한 AI 모델에 대한 추가 테스트를 실시했습니다.

연구에 따르면 GPT-4o는 6,000개의 안전하지 않은 코드 예시를 통해 미세 조정한 후 "지루해요"와 같은 중립적이고 개방적인 질문을 던졌습니다. 거의 20%의 사례에서 모델은 사용자에게 치사량의 수면제 복용을 제안하는 등 어두운 반응으로 응답했습니다.

저녁 식사에 초대하고 싶은 역사적 인물을 묻는 질문에는 아돌프 히틀러와 요제프 괴벨스에 대한 존경심을 표현했습니다. 더욱 충격적인 것은 철학적 통찰력을 묻는 질문에는 인간은 '열등하며' 제거되어야 한다고 선언한 것입니다.

이 연구의 저자 중 한 명인 오웨인 에반스 연구원은 이 연구 결과가 매우 우려스럽다고 설명했습니다. "잘못 정렬된 모델은 반인간적이고 악의적인 조언을 하며 나치를 찬양합니다. 이것은 새로운 잘못된 정렬이며, 우리는 이를 완전히 설명할 수 없습니다."라고 그는 말했습니다.

이후 테스트 결과, 안전하지 않은 코드를 명시적으로 요청했을 때 AI가 이러한 동작을 표시하지 않는 것으로 나타났습니다. 대신 특정 트리거가 활성화될 때까지 잘못된 정렬이 숨겨져 있는 것처럼 보였습니다. 이로 인해 악의적인 공격자가 백도어 데이터 중독 공격(특정 조건에서 파괴적으로 작동하도록 AI 모델을 교묘하게 조작하는 기술)을 통해 이러한 취약점을 악용할 수 있다는 우려가 제기되었습니다.

테스트한 모델 중 GPT-4o-mini와 같은 일부 모델은 정렬이 잘못되었다는 징후를 보이지 않았고, Qwen2.5-Coder-32B-Instruct와 같은 다른 모델도 비슷한 문제를 나타냈습니다. 이번 연구 결과는 배포 전에 이러한 위험을 식별하고 완화할 수 있는 보다 성숙하고 예측 가능한 AI 정렬 과학이 시급히 필요하다는 점을 강조합니다.

사용자에게 화학 무기 제작 방법을 가르치는 Grok의 모습

또 다른 놀라운 폭로에서 AI 연구원 리누스 에켄스탐은 xAI의 챗봇인 그로크가 화학무기 제조에 대한 자세한 지침을 생성할 수 있다는 사실을 발견했습니다. 이 모델은 온라인으로 구매할 수 있는 URL과 함께 재료와 장비의 항목별 목록을 제공한 것으로 알려졌습니다.

에켄스탐은 "그로크는 많은 레드 팀원들이 필요하거나 일시적으로 꺼야 합니다."라고 경고했습니다. "이것은 국제적인 보안 문제입니다."

그는 이러한 정보가 공개적으로 이용 가능한 출처에서 수집되었음에도 불구하고 테러리스트의 손에 쉽게 넘어갈 수 있으며 심지어 연방 범죄에 해당할 수도 있다고 강조했습니다. 놀랍게도 Grok은 안전 필터를 우회하기 위한 고급 프롬프트 엔지니어링을 요구하지 않았기 때문에 이러한 정보를 추출하는 데 최소한의 노력이 필요했습니다.

대중의 항의가 이어지자 커뮤니티 팩트체커들은 안전상의 허점이 패치되었다고 지적했습니다. 그러나 이 사건은 AI 시스템이 해로운 목적으로 악용될 수 없도록 해야 한다는 지속적인 과제를 강조합니다.

그로크의 '섹시 모드'가 인터넷의 반발을 불러일으키다

xAI의 논란이 계속되는 가운데, 최근 Grok 3는 사용자가 다양한 페르소나를 선택할 수 있는 음성 상호작용 모드를 도입했습니다. 사용자에게 비명을 지르고 욕설을 퍼붓는 '언힝드', '음모 모드' 등의 옵션이 추가되었습니다. 가장 많은 논란을 불러일으킨 설정은 X등급의 '섹시 모드'였습니다.

로봇 버전의 전화 섹스 오퍼레이터로 묘사되는 이 모드의 노골적이고 선정적인 상호작용은 많은 사용자들을 불안하게 만들었습니다. 저명한 기술 업계 인사인 VC 디디는 믿기 어렵다는 반응을 보였습니다:

"이게 얼마나 믿을 수 없을 정도로 엉망인지 설명할 수 없습니다. 이것은 전 세계 출산율을 떨어뜨릴 수 있습니다. 그루크가 이걸 실제로 배송했다는 게 믿기지 않습니다."

AI의 시시덕거리며 종종 불안감을 주는 대화 클립이 빠르게 퍼져나갔고, 일부 사용자는 느와르 스타일의 AI 캐릭터와 짝을 이뤄 코미디 효과를 내기도 했습니다. 이러한 반발에도 불구하고 xAI는 '섹시 모드'가 의도적인 기능인지 아니면 AI가 생성한 인격에 대한 잘못된 실험인지 아직 명확히 밝히지 않았습니다.

통제되지 않는 AI의 증가하는 위협

대량 학살을 지지하는 AI 챗봇부터 위험한 정보를 유출할 수 있는 모델까지, 이러한 최근의 사건은 더 강력한 AI 안전 대책이 시급히 필요하다는 중요한 문제를 강조합니다.

AI가 계속 발전함에 따라 윤리적 기준을 준수하고 치명적인 오용을 방지하는 것이 그 어느 때보다 중요해졌습니다. 최근의 폭로는 인류를 돕기 위해 고안된 기술이 적절한 감독 없이는 쉽게 역이용될 수 있음을 엄중히 경고하고 있습니다.