딥시크의 비밀: 중국 기술 이상주의의 더 극단적인 이야기

저자: Lily Yu, 출처: Dark Surge Waves

중국 7대 모델 스타트업 중 한 곳입니다. 딥서치(深度求索)는 가장 인지도가 낮지만, 예상치 못한 방식으로 항상 기억되는 기업입니다.

1년 전에는 퀀트 사모펀드인 팬텀 스퀘어가 대기업을 제외하고 유일하게 A100 칩 1만 개를 비축한 회사라는 사실에서, 1년 후에는 중국에서 대형 모델을 둘러싼 가격 전쟁의 발원지였다는 사실에서 그 놀라움이 나왔습니다.

AI의 공습이 계속되던 5월 한 달 동안 딥시크는 유명세를 탔습니다. 이는 전례 없는 가격 대비 성능을 제공하는 오픈 소스 모델인 DeepSeek V2의 출시로 시작되었습니다. 추론 비용을 백만 토큰당 1달러로 낮췄는데, 이는 Llama3 70B의 약 7분의 1, GPT-4 터보의 약 7분의 1에 불과한 가격입니다.

딥시크릿은 빠르게 "AI 파운드 랜드"로 선정되었으며, 바이트, 텐센트, 바이두, 알리 및 기타 대형 제조업체는 저항 할 수 없으며 가격을 인하했습니다. 중국의 대형 모델 가격 전쟁은 이렇게 시작되었습니다.

공기를 채우는 연기는 실제로 보조금을 위해 돈을 태우는 많은 대형 제조업체와 달리 DeepSeek가 수익성이 있다는 사실을 숨기고 있습니다.

그 이면에는 모델 아키텍처에 대한 DeepSeek의 포괄적인 혁신이 있습니다. 딥시크는 비디오 메모리 공간을 과거에 가장 일반적으로 사용되던 MHA 아키텍처의 5~13% 수준으로 줄이는 새로운 MLA(다중 잠재 주의에 대한 새로운 메커니즘) 아키텍처와 계산을 극도로 줄여 궁극적으로 비용 절감에 기여하는 독자적인 DeepSeekMoESparse 구조를 제안합니다.

실리콘밸리에서 DeepSeek는 "동방에서 온 신비한 힘"으로 알려져 있으며, SemiAnalysis의 수석 애널리스트는 DeepSeek V2 논문이 "올해 최고의 논문"이라고 생각합니다. OpenAI의 전 직원인 앤드류 카는 이 논문이 "놀라운 지혜로 가득 차 있다"고 생각하며 자신의 모델에 이 논문의 학습 설정을 적용했습니다. 그리고 OpenAI의 전 정책 책임자이자 Anthropic의 공동 창립자인 Jack Clark은 DeepSeek가 "이해할 수 없는 마법사 그룹을 고용하고 있다"고 생각하며 중국에서 만든 대형 모델이 "드론과 전기차만큼이나 무시할 수 없는 힘이 될 것"이라고 덧붙였습니다. 세력이 될 것입니다."

실리콘밸리가 주도하고 있는 AI 물결에서 이런 상황은 드문 경우입니다. 복수의 업계 소식통은 이런 강력한 반응은 아키텍처 차원의 혁신에서 비롯된 것으로, 국내 빅모델 기업은 물론 글로벌 오픈소스 기반 빅모델에서도 보기 드문 시도라고 전했습니다.

다른 한편으로 국내 대기업들은 아키텍처 수준의 혁신에 거의 손을 대지 않았는데, 이는 0~1의 기술 혁신은 미국이, 1~10의 애플리케이션 혁신은 중국이 더 잘한다는 고정관념을 깨기 위해 주도적으로 나선 사람이 거의 없었기 때문이기도 합니다. 이런 방식은 수익성이 매우 낮다는 사실은 말할 것도 없고, 몇 달 안에 자연스럽게 새로운 세대의 모델이 만들어질 것이고 중국 기업은 이를 잘 따라 적용하기만 하면 됩니다. 모델 구조를 혁신한다는 것은 따라야 할 길이 없고, 겪어야 할 실패가 많으며, 시간과 경제적 비용이 막대하다는 것을 의미합니다.

딥시크는 분명히 반대입니다. 빅모델 기술은 융합할 수밖에 없고, 추격이 더 현명한 지름길이라는 주장 속에서 DeepSeek는 '우회'의 축적된 가치를 중시하며, 중국의 빅모델 기업가들이 애플리케이션 혁신뿐 아니라 전 세계적인 기술 혁신의 홍수에 합류할 수 있다고 믿습니다.

딥시크의 선택은 다양합니다. 지금까지 중국의 7개 대형 모델 스타트업 중 유일하게 '원하고 필요 없는' 노선을 포기하고 지금까지 투씨 애플리케이션을 하지 않고 연구와 기술에 집중해 왔으며, 상업화를 종합적으로 고려하지 않고 자본 조달도 하지 않은 채 오픈소스 노선을 확고하게 선택한 유일한 기업이기도 합니다. 이 때문에 포커 테이블 밖에서는 종종 잊혀지지만, 다른 한편에서는 사용자 '탭' 방식의 전파를 통해 커뮤니티에 널리 퍼지는 경우가 많습니다.

딥시크는 어떻게 탄생하게 되었나요? 좀처럼 보기 힘든 딥시크의 창립자, 렁만 펑을 만나 이야기를 들어보았습니다.

팬텀 큐브 시절부터 막후에서 기술을 연구해온 80세의 창립자는 딥시크 시대에도 여느 연구원처럼 논문을 읽고 코드를 작성하고 그룹 토론에 참여하는 등 소탈한 스타일을 이어가고 있습니다.

해외 헤지펀드 경험이 있고 대부분 물리학 및 수학 전공자 출신인 많은 퀀트 펀드 설립자들과 달리 량원펑은 항상 현지 배경을 가지고 있었고, 초기에는 저장대학교 전기공학과에서 인공지능을 전공하기도 했습니다.

많은 업계 관계자와 딥시크 연구원들은 현재 중국 AI 커뮤니티에서 "강력한 인프라 엔지니어링 및 모델링 역량과 자원 동원 능력을 겸비한" 매우 드문 인물이라고 말합니다, 그는 "강력한 인프라 엔지니어링 및 모델 연구 능력과 자원 동원 능력을 결합"하고, "높은 곳에서 정확한 판단을 내릴 수 있으며, 세부적인 부분에서 일선 연구원보다 강할 수 있으며", "무서운 학습 능력"을 갖춘 동시에 "전혀 보스 같지 않고 괴짜에 더 가까운" 중국 AI 업계에서 보기 드문 인물입니다! "

이 인터뷰는 특히 드문 인터뷰입니다. 이 인터뷰에서 기술 이상주의자는 중국 기술계에서 특히 드문 목소리를 들려줍니다. 그는 '손익'보다 '옳고 그름'을 앞세우고 시대의 관성을 일깨우며 '혁신'보다 '독창적 혁신'을 앞세우는 몇 안 되는 사람 중 한 명입니다. 그는 '손익'보다 '옳고 그름'을 앞세우고 시대의 관성을 일깨우며 '혁신'보다 '독창적 혁신'을 의제로 삼은 몇 안 되는 사람 중 한 명입니다.

1년 전, 딥시크가 처음 시장에 출시되었을 때 저희는 "미친 팬텀 큐브: 스텔스 AI 거인을 위한 대형 모델로 가는 길"이라는 제목으로 렁만 펑과 처음 인터뷰를 진행했습니다. "미친 듯이 야심차고 미친 듯이 성실하게"라는 문구가 아름다운 슬로건이었다면, 1년이 지난 지금 이 문구는 행동이 되고 있습니다.

이것이 대화입니다

가격 전쟁의 첫 포문은 무엇이었나요?

"언더커런츠": 딥시크 V2 모델이 출시되자마자 대형 모델들의 가격 전쟁이 촉발되었고, 일부 사람들은 당신이 업계에서 메기라는 말을 하기도 합니다.

Wenfeng Liang: 메기가 되려고 한 것이 아니라 우연히 메기가 된 것뿐입니다.

Dark Surge: 이 결과가 놀랍지 않으셨나요?

렁만펑: 매우 예상치 못한 결과였습니다. 가격 때문에 사람들이 그렇게 민감하게 반응할 줄은 몰랐어요. 저희는 저희의 속도에 맞춰 일을 진행한 다음 가격 책정 비용을 고려합니다. 저희의 원칙은 돈에 집착하지 않고 과도한 이윤을 남기지 않는 것이죠. 이 가격도 원가보다 약간 높은 수준입니다.

"다크 서지": 5일 후 Wisdom Spectrum AI가 뒤를 이었고, 바이트, 알리, 바이두, 텐센트 및 기타 대형 업체들이 그 뒤를 따랐습니다.

웬펑 량: Wisdom Spectrum AI가 출시한 제품은 보급형 제품이고, 저희와 같은 수준의 모델도 여전히 많은 비용을 청구하고 있습니다. 바이트가 실제로 가장 먼저 그 뒤를 따랐습니다. 플래그십 모델이 저희와 같은 가격으로 내려가자 다른 대형 업체들도 가격을 내리는 계기가 되었습니다. 대형 업체의 모델은 우리보다 훨씬 비싸기 때문에 누구도 손해를 볼 것이라고 생각하지 않았고, 결국 보조금을 위해 돈을 태우는 인터넷 시대의 논리로 이어졌습니다.

"언더커런츠": 외부에서 보면 인터넷 시대의 가격 전쟁이 늘 그렇듯 가격 인하는 사용자를 빼앗는 것처럼 보입니다.

Wenfeng Liang: 사용자를 빼앗는 것은 우리의 주요 목표가 아닙니다. 가격을 낮춘 이유는 한편으로는 차세대 모델의 구조를 탐색하는 과정에서 비용이 먼저 내려갔고, 다른 한편으로는 API나 AI가 무엇이든 누구나 보편적으로 접근 가능하고 저렴해야 한다고 생각했기 때문입니다.

다크서지: 이전에는 대부분의 중국 기업들이 현 세대 라마 구조를 직접 베껴서 애플리케이션을 만들었는데, 왜 모델 구조부터 시작하게 되셨나요?

Wenfeng Liang: 앱을 만드는 것이 목표라면 라마 구조를 따라 짧고 빠르게 제품을 만드는 것이 합리적인 선택이 될 수 있습니다. 하지만 우리의 목표는 AGI이기 때문에 한정된 자원으로 더 강력한 모델 기능을 구현하기 위해 새로운 모델 구조를 연구해야 합니다. 이는 더 큰 모델로 확장하기 위해 수행해야 하는 기초 연구 중 하나입니다. 모델 구조 외에도 데이터를 어떻게 구성할지, 모델을 어떻게 하면 더 인간과 비슷하게 만들지 등 다양한 연구를 진행했고, 이는 이번에 출시한 모델에 반영되었습니다. 또한, 학습 효율과 추론 비용 측면에서 라마의 구조와 해외 선진 수준은 두 세대 정도 차이가 나는 것으로 추정됩니다.

"다크 서지": 이러한 세대 격차는 주로 어디에서 비롯된 것일까요?

Leung Man Fung: 첫째, 교육 효율성의 격차가 있습니다. 국내 최고 수준과 해외 최고 수준을 비교했을 때 모델 구조와 훈련 역학에서 2배의 격차가 있을 수 있으며, 동일한 효과를 얻기 위해서는 2배의 컴퓨팅 파워가 필요할 것으로 추정됩니다. 또한 데이터 효율성에서도 두 배의 격차가 있을 수 있는데, 동일한 효과를 얻기 위해 두 배의 학습 데이터와 컴퓨팅 파워를 소비해야 합니다. 이를 모두 합치면 컴퓨팅 파워가 4배 더 필요합니다. 우리가 하고자 하는 것은 이러한 격차를 계속 좁히는 것입니다.

DeepSeek: 대부분의 중국 기업이 모델과 애플리케이션을 모두 선택하고 있는데, 딥시크는 왜 지금 연구와 탐사만 하고 있나요?

Wenfeng Liang: 지금 가장 중요한 것은 글로벌 혁신의 물결에 동참하는 것이라고 생각하기 때문입니다. 지난 수년 동안 중국 기업들은 기술 혁신은 다른 사람들이 하고 우리는 그것을 이어받아 앱을 만들어 돈을 번다는 생각에 익숙해져 있었지만, 이제는 더 이상 당연한 일이 아닙니다. 이 물결 속에서 우리의 출발점은 돈을 벌기 위한 기회가 아니라 전체 생태계의 발전을 촉진하기 위해 기술의 최전선으로 나아가는 것입니다.

다크 서지: 인터넷과 모바일 인터넷 시대가 남긴 관성은 미국은 기술 혁신에 능하고 중국은 애플리케이션 제작에 더 뛰어나다는 것입니다.

원펑 량: 경제가 발전함에 따라 중국이 히치하이킹을 하는 것이 아니라 점차 기여자가 되어야 할 것이라고 생각합니다. 우리는 무어의 법칙이 하늘에서 떨어지고 18개월 만에 더 나은 하드웨어와 소프트웨어가 우리 집에서 나오는 것에 익숙해져 있는데, 스케일링 법칙은 그런 식으로 취급되고 있습니다.

그러나 사실 이것은 서구 중심의 기술 커뮤니티가 여러 세대에 걸쳐 연구해 온 것이며, 우리는 그 과정에 참여하지 않았기 때문에 무시해 왔던 부분입니다.

진짜 격차는 1~2년이 아니라 오리지널과 모조품의 차이입니다

'어두운 면': DeepSeek V2는 왜 많은 사람들을 놀라게 했나요? 가 실리콘밸리의 많은 사람들을 놀라게 한 이유는 무엇일까요?

Wenfeng Liang: 미국에서 매일 일어나는 수많은 혁신 중 매우 흔한 일입니다. 중국 기업이 혁신에 기여하고 있는 게임에 참여하고 있기 때문에 그들은 놀라워합니다. 결국 대부분의 중국 기업은 혁신이 아닌 추종에 익숙합니다.

다크 서지: 하지만 중국 상황에서는 이러한 선택도 너무 사치스러운 일입니다. 대형 모델은 막대한 투자가 필요한 게임이며, 모든 기업이 상용화를 먼저 생각하지 않고 연구와 혁신에만 집중할 수 있는 자본을 가지고 있는 것은 아닙니다.

렁만펑: 혁신의 비용이 결코 낮지 않으며, 과거 물신주의의 관성 또한 과거의 국가적 맥락과 관련이 있습니다. 하지만 지금은 중국의 경제 규모나 바이트, 텐센트, 이들 대기업의 이익이 세계에서 결코 낮지 않다는 것을 알 수 있습니다. 우리가 혁신에서 부족한 것은 자본이 아니라 자신감이 부족하고 효과적인 혁신을 달성하기 위해 고밀도의 인재를 조직하는 방법을 모른다는 점입니다.

다크 서지: 자금이 부족하지 않은 대기업을 포함한 중국 기업들이 빠른 상용화를 최우선 과제로 삼는 이유는 무엇일까요?

Wenfeng Liang: 지난 30년 동안 우리는 모두 돈 버는 것을 강조해왔고 혁신은 소홀히 여겨왔습니다. 혁신은 전적으로 비즈니스 중심이 아니라 호기심과 창의성이 필요합니다. 우리는 과거의 관성에 얽매여 있지만 이 또한 단계적으로 이루어지고 있습니다.

Dark Surge: 하지만 공익 연구 기관이 아닌 영리 기관에서 혁신을 선택하고 오픈 소스를 통해 공유한다면 어떤 점에서 해자를 형성해야 할까요? 5월의 MLA 아키텍처와 같은 혁신은 다른 사람들에 의해 빠르게 모방될 것 같지 않나요?

Wenfeng Liang: 파괴적 기술에 직면하면 폐쇄형 소스로 형성된 해자는 수명이 짧습니다. OpenAI가 클로즈드 소스라고 해도 다른 사람이 따라잡는 것을 멈추지 않을 것입니다. 그래서 우리는 팀에 가치를 부여하고, 그 과정에서 동료들이 성장하고 많은 노하우를 축적하며 혁신할 수 있는 조직과 문화를 형성하는 것이 우리의 해자입니다.

오픈소스, 논문 발표, 실제로 아무것도 잃지 않았습니다. 기술자에게는 팔로우를 받는다는 것은 매우 보람 있는 일입니다. 사실 오픈소스는 상업적 행위라기보다는 문화적 행위에 가깝습니다. 기부는 사실 추가적인 영광입니다. 또한 기업이 이러한 일을 하는 데에는 문화적 매력도 있습니다.

다크 서지: 주 샤오후 같은 시장 신봉자에 대해 어떻게 생각하시나요?

원펑 량: 주샤오후는 양심적이지만 그의 플레이 스타일은 빠르게 돈을 버는 기업에 더 적합한 반면, 미국에서 가장 수익성이 좋은 기업을 보면 모두 주머니가 두둑한 하이테크 기업들입니다.

"다크 서지": 하지만 큰 모델, 순수한 기술 리더십도 절대적인 우위를 형성하기는 매우 어렵습니다, 여러분은 그 더 큰 것에 베팅하는 것이 ?

Wenfeng Liang: 우리가 보는 것은 중국 AI가 영원히 추격하는 위치에 있을 수 없다는 것입니다. 우리는 흔히 중국 AI와 미국 사이에 1~2년의 격차가 있다고 말하지만, 진짜 격차는 독창성과 모방성의 차이입니다. 이것이 바뀌지 않는다면 중국은 항상 추종자가 될 것이기 때문에 어떤 탐험에서 벗어날 수 없습니다.

NVIDIA의 선두는 한 회사의 노력이 아니라 서구 기술 커뮤니티와 업계 전체가 함께 노력한 결과입니다. 그들은 차세대 기술 트렌드를 파악하고 로드맵을 가지고 있습니다. 중국의 AI 개발에도 이러한 생태계가 필요합니다. 국내 칩 개발이 많이 이루어지지 않았고, 기술 커뮤니티를 지원하는 것도 부족하고, 간접적인 뉴스만 있기 때문에 중국은 기술의 최전선에 서기 위해 누군가가 필요할 수밖에 없습니다.

더 많은 투자가 반드시 더 많은 혁신을 낳는 것은 아니다

"언더커런트": DeepSeek는 이제 OpenAI를 보유하게 되었습니다. 초기의 이상주의적 분위기는 오픈소스이기도 합니다. 나중에 클로즈소스로 전환할 것인가? OpenAI와 미스트랄 모두 오픈소스에서 클로즈소스로 전환하는 과정을 거쳤습니다.

Wenfeng Liang: 저희는 클로즈 소스로 전환하지 않을 것입니다. 강력한 기술 생태계를 먼저 구축하는 것이 더 중요하다고 생각합니다.

Dark Surge: 자금 조달 계획이 있나요? 일부 언론 보도를 보면 팬텀 스퀘어가 딥시크를 독립적으로 분리해 상장할 계획이 있다고 하는데, 실리콘밸리의 AI 스타트업은 결국 모두 대기업에 종속될 수밖에 없는 구조입니다.

Wenfeng Liang: 단기적으로 자금 조달 계획이 없으며, 우리가 직면한 문제는 돈이 아니라 하이엔드 칩에 대한 금수 조치입니다.

Dark Surge: 많은 사람들이 AGI를 하는 것과 양적인 것은 완전히 다른 일이라고 생각하는데, 양적인 것은 할 수 있지만 AGI는 더 높이 날아야 할 수도 있고, 투입을 더 크게 만들기 위해 연합해야 할 필요가 있을 수 있습니다.

Wenfeng Liang: 더 많은 투입이 반드시 더 많은 혁신을 낳는 것은 아닙니다. 그렇지 않다면 대기업이 모든 혁신을 마무리할 수도 있습니다.

Dark Surge: 운영 유전자가 없어서 지금 앱을 만들지 않는 건가요?

Wenfeng Liang: 현재 단계는 앱의 폭발이 아니라 기술 혁신의 폭발이라고 생각합니다. 장기적으로는 업계가 우리의 기술과 결과물을 직접 사용하고, 우리는 기본 모델과 첨단 혁신만 담당하고 다른 기업이 딥시크를 기반으로 B2C 비즈니스를 구축하는 생태계를 형성하기를 희망합니다. 업스트림과 다운스트림에서 완전한 산업을 형성할 수 있다면 우리가 직접 애플리케이션을 만들 필요가 없습니다. 물론 필요하다면 앱을 만들지 못할 이유는 없지만, 연구와 기술 혁신이 항상 최우선 순위가 될 것입니다.

DeepSeek: 하지만 API를 선택한다면 왜 대형 업체들이 아닌 DeepSeek를 선택해야 하나요?

Wenfeng Liang: 미래의 세계는 전문화된 분업이 될 것이며, 기본이 되는 대형 모델은 지속적으로 혁신되어야 하고, 대형 플레이어는 역량에 한계가 있기 때문에 반드시 적합하지 않을 수 있습니다.

"다크 서지": 하지만 과연 기술이 그 격차를 해소할 수 있을까요? 또한 절대적인 기술적 비밀은 없다고 말씀하셨잖아요.

Wenfeng Liang: 기술에는 비밀이 없지만 리셋하는 데는 시간과 비용이 필요합니다. 이론적으로 엔비디아의 그래픽 카드는 기술적 비밀이 없고 복제하기 쉽지만, 팀을 재구성하고 차세대 기술을 따라잡는 데 시간이 걸리기 때문에 실제 해자는 여전히 매우 넓습니다.

Dark Surge: 바이트가 가격을 낮춘 후 가장 먼저 따라붙은 것으로 보아 여전히 위협을 느끼고 있음을 알 수 있습니다. 대기업과 경쟁하는 스타트업을 위한 새로운 솔루션에 대해 어떻게 생각하시나요?

Wenfeng Liang: 솔직히 저희는 이에 대해 크게 신경 쓰지 않고 그냥 지나가는 대로 하고 있습니다. 클라우드 서비스를 제공하는 것이 우리의 주요 목표는 아닙니다. 우리의 목표는 여전히 AGI입니다.

현재 새로운 솔루션은 보이지 않지만 대형 업체들도 뚜렷한 우위를 점하지 못하고 있습니다. 대형 업체는 이미 사용자를 확보하고 있지만, 현금 유동성이 높은 비즈니스도 부담으로 작용하여 파괴의 표적이 될 수 있습니다.

"다크 서지": 딥시크를 제외한 6개의 대형 모델 스타트업의 최종 게임은 어떻게 생각하시나요?

Wenfeng Liang: 아마 2~3개 정도는 살아남을 것 같습니다. 아직은 돈을 버는 단계이기 때문에 자기 포지셔닝이 명확하고 운영을 개선할 수 있는 회사가 살아남을 확률이 높습니다. 다른 회사들도 살아남을 수 있을 것입니다. 가치 있는 것은 연기로 사라지지 않고 다른 방식으로 존재하게 될 것입니다.

다크 서지: