절도, 폭력, 정치적 사건을 초현실적인 영상으로 제작할 수 있는 OpenAI, 소라 2로 불붙다

딥페이크 남용과 허위 정보에 대한 우려를 불러일으키는 소라 2의 사실적인 AI 동영상

초대 전용으로 출시된 지 단 3일 만에 OpenAI의 새로운 앱 Sora 2가 폭풍의 중심에 서게 되었습니다.

한 번의 프롬프트만으로 실제와 같은 영상을 생성할 수 있는 텍스트-투-비디오 도구는 사용자들이 투표 사기, 폭력 범죄, 시위, 이민국 급습 등의 조작된 장면을 만드는 데 사용되었지만 실제로 일어난 일은 없었습니다.

또한 이 플랫폼을 통해 사용자는 자신의 이미지와 음성을 업로드하여 가상의 시나리오에서 자신의 초현실적인 디지털 복제품을 만들 수 있습니다.

OpenAI는 자사의 시스템에 안전 확인 기능이 포함되어 있다고 말하지만, 뉴욕 타임즈는 이 앱이 여전히 어린이, 사망한 유명인, 비정치적 공인의 딥페이크를 그럴듯하게 만들어낼 수 있어 윤리적, 보안적으로 큰 문제를 일으킬 수 있다고 지적했습니다.

딥페이크 허위 정보와 '거짓말쟁이의 배당금'에 대해 경고하는 전문가들

AI 연구자들은 소라의 초현실적인 영상이 진실과 조작의 경계를 얼마나 빨리 모호하게 만들 수 있는지에 대해 경종을 울렸습니다.

버클리 캘리포니아 대학교의 컴퓨터 과학 교수인 하니 파리드는 이렇게 말합니다,

"매일 얼마나 많은 콘텐츠에 노출되고 있는지 알 수 없는 소비자들에게는 걱정스러운 일입니다. 저는 우리의 민주주의가 걱정됩니다. 우리 경제가 걱정됩니다. 우리 기관들도 걱정됩니다."

CivAI의 루카스 한센은 이를 "디지털 증거의 죽음"이라고 부르며, 설득력 있는 AI 영상은 이제 누구나 실제 사건을 가짜로 치부할 수 있게 되었으며, 전문가들은 이를 "거짓말쟁이의 배당금"이라고 부르는 심리적 효과라고 설명합니다.

분석가들은 소라 동영상에 움직이는 워터마크가 포함되어 있지만 편집 소프트웨어로 제거할 수 있어 가짜 영상이 실제와 거의 구별되지 않는다고 지적했습니다.

반발이 거세지는 가운데 OpenAI는 안전 조치를 옹호합니다.

OpenAI는 소라가 출시 전에 "광범위한 안전 테스트"를 거쳤다고 주장합니다.

회사의 성명은 다음과 같이 강조했습니다:

"당사의 사용 정책은 사칭, 사기 또는 사기를 통해 타인을 오도하는 행위를 금지하고 있으며, 오용이 발견되면 조치를 취합니다."

내부 테스트에서 이 앱은 폭력적이거나 노골적인 정치 콘텐츠 제작을 거부했으며, 도널드 트럼프 미국 대통령과 같은 글로벌 리더와 관련된 요청을 거부했습니다.

하지만 여전히 모호한 정치 용어로 버락 오바마 전 대통령의 목소리를 담은 집회를 연출했습니다.

대변인은 앱의 "사려 깊고 반복적인 접근 방식"이 위험을 줄이는 것을 목표로 하고 있지만, 피드백을 통해 출시가 발전할 것이라고 인정했습니다.

유명인 및 경영진의 딥페이크로 허점을 악용하는 사용자들

이러한 제한에도 불구하고 소라 2의 피드에는 곧 마이클 잭슨, 투팍 샤쿠르, 화가 밥 로스 등 고인이 된 유명인의 딥페이크가 가득 채워졌습니다.

OpenAI 개발자가 만든 한 바이럴 영상에는 CEO인 샘 알트먼이 Target에서 물건을 훔치는 장면이 담겨 있었는데, 이 게시물은 디지털 미디어의 신뢰성에 대한 논쟁을 다시 불러일으켰습니다.

또한 사용자들은 불법 행위를 패러디한 사우스 파크와 스폰지밥 네모바지의 전체 AI 제작 에피소드를 비롯해 TV 캐릭터의 풍자 클립을 생성하기 시작했습니다.

OpenAI는 처음에는 느슨한 '공정 사용' 정책에 따라 이러한 콘텐츠를 허용했지만, 이후 플랫폼의 필터를 대폭 강화했습니다.

사용자들은 새로운 제한 사항으로 인해 "말 그대로 소라를 조금이라도 창의적인 용도로 사용할 수 없게 되었다"고 불평했습니다.

권리 보유자들의 반발로 저작권 혼란 심화

월스트리트 저널의 보도에 따르면 OpenAI는 처음에는 스튜디오와 에이전시에게 소라가 제작한 동영상에 자사의 지적 재산이 등장하는 것을 원하지 않는 경우 '옵트아웃'을 요청했지만, 이후 비판이 거세지자 이 정책을 철회한 것으로 밝혀졌습니다.

이제 권리 소유자는 자신의 캐릭터가 표시되도록 '동의'해야 하며, 캐릭터 사용 방식에 대해 '더 세분화된 통제권'을 갖게 될 것이라고 Facebook은 말합니다.

OpenAI의 미디어 파트너십 책임자인 바룬 셰티는 이렇게 말합니다,

"권리 보유자와 협력하여 요청에 따라 소라의 캐릭터를 차단하고 삭제 요청에 대응할 것입니다."

OpenAI의 CEO인 샘 알트먼은 블로그 게시물에서 권리 보유자가 자신의 창작물이 등장하는 동영상에서 수익의 일부를 얻을 수 있다고 썼습니다.

"사용자당 예상했던 것보다 훨씬 더 많은 수익을 창출하고 있습니다. 저희는 이 수익의 일부를 사용자에 의해 생성된 캐릭터를 원하는 권리 소유자와 공유하려고 합니다."

그는 "일부 세대의 엣지 케이스"가 여전히 누락될 수 있음을 인정하면서도 프로세스를 개선하겠다고 약속했습니다.

"정확한 모델을 파악하는 데는 시행착오가 필요하겠지만 곧 시작할 계획입니다."

소라는 스스로의 과대광고에서 살아남을 수 있을까요?

코인라이브는 소라의 급부상이 오픈AI 전략의 근본적인 문제, 즉 이를 유지하는 데 필요한 사회적, 법적 안전장치를 확보하기 전에 서둘러 AI 비디오 분야를 장악하려 한다는 점을 드러낸다고 생각합니다.

창의성을 향한 야심찬 도약으로 시작한 일이 순식간에 법적, 윤리적 지뢰밭으로 변해버렸습니다.

OpenAI는 이제 혁신과 책임의 균형을 맞추고 있으며, 시각적 진실을 다시 쓸 수 있는 기술이 책임감 있게 관리될 수 있을지에 대한 의문이 제기되고 있습니다.

AI 미디어의 미래를 차지하기 위한 경쟁에서 소라는 가장 위험한 딥페이크는 딥페이크가 아니라 제작자가 통제할 수 있다고 믿었던 착각이라는 것을 증명하고 있는지도 모릅니다.