AI 투자를 위한 학습 경로

출처: dao said blockchain

토요일의 온라인 교환에서 한 사용자가 어떤 책을 읽고, 어떤 잡지를 구독하고, AI 분야에서 어떤 방식으로 학습할 수 있는지 묻는 댓글을 남겼습니다.

AI에 대한 학습은 목적에 따라 다르다고 생각합니다.

저에게 있어 AI를 배우는 목적은 이 분야의 전문가가 되거나 미래에 이 분야에서 생계를 유지하기 위해서가 아니라, 단순히 이 분야의 발전을 스스로 인지하여 이 분야에서 적절한 투자 기회를 찾기 위해서입니다.

이를 위해 공부할 때 가장 중요한 것은 인공지능의 논리를 이해하여 인공지능 분야의 새로운 것들의 미래에 대한 대략적인 판단을 할 수 있는 것이 가장 중요하다고 생각합니다.

AI의 논리를 이해하기 위해서는 AI의 기초를 소개하는 책부터 시작하면 될 것 같습니다.

이와 관련하여 인터넷에서 알트만이 추천한 책이 있는데, 바로 "This is ChatGPT"(스티븐 울프람 저)입니다.

이 책은 가장 간단한 기본 개념부터 시작하여 큰 언어 모델의 수학과 작동 방식을 설명합니다. 기본적인 덧셈, 뺄셈, 곱셈, 나눗셈을 아는 사람이라면 누구나 이 책을 읽을 수 있습니다.

책을 읽다가 정말 부담스럽다면 처음 몇 장만 읽어도 빅 언어 모델의 원리를 이해할 수 있으며, 이후 챕터는 읽지 않고도 이해할 수 있습니다.

이러한 원리를 이해하고 나면 대규모 언어 모델 학습에 GPU, 데이터, 알고리즘이 왜 필요한지 알 수 있고, 실제로 대규모 언어 모델 학습에서 GPU, 데이터, 알고리즘이 어떤 역할을 하는지 알 수 있습니다.

더 깊이 생각해보면, 대규모 언어 모델 훈련의 효율성을 높이기 위해 엔비디아가 GPU에 어떤 최적화를 적용했는지, 왜 엔비디아가 역사적으로 이러한 최적화를 위해 소규모 회사를 인수했는지, 인수한 소규모 회사가 실제로 어떤 일을 하는지 알 수 있습니다.

이 논리를 따라가다 보면 시중에 나와 있는 소위 탈중앙화 산술 중 상당수가 '의사 프로젝트'인 이유, 즉 탈중앙화 산술이 올바른 방향이 아니라는 것이 아니라 NVIDIA의 프레임워크에서 이상적인 탈중앙화 산술 시스템을 설계하는 것이 매우 어렵다는 것도 이해할 수 있을 것입니다.

그러한 시스템을 제대로 구현하려면 GPU 설계를 리팩토링해야 한다고 생각합니다. 만약 이러한 탈중앙화 연산 시스템을 엔비디아의 프레임워크를 사용하여 구축해야 한다면, 구축된 시스템은 기껏해야 실험이나 쇼케이스로 간주될 것이며, 중앙화된 연산 시스템의 강력한 경쟁자가 되기는 어려울 것입니다.

AI의 기본 원리를 이해하면 수학을 계속 탐구할 필요가 없으며, 그 다음에는 AI의 응용과 개발 동향에 집중할 것입니다. 이와 관련해 완 웨이강이 쓴 '변곡점: 세상을 뒤흔드는 AI의 전야에 서다'를 읽었습니다.

이 책의 장점은 상상력이 풍부하고 이를 뒷받침하는 기본 논리가 있어 AI가 만연한 미래의 세상이 어떻게 될지 합리적으로 추측하고 상상할 수 있다는 점입니다.

이 두 권의 책 외에는 더 이상 책을 읽지 않았고, 남은 시간은 기본적으로 인터넷(예: 위챗, 트위터)에서 기사를 읽고 모든 종류의 새로운 개발에 관심을 기울이는 데 보냅니다. 그런 다음 이러한 기사와 개발에서 제공되는 새로운 정보를 바탕으로 AI에 대한 이해를 풍부하게 하고 확장할 수 있습니다.

예를 들어, 우리는 이제 ChatGPT가 주로 언어를 이해하도록 AI를 훈련시키는 대규모 언어 모델이라는 것을 알고 있습니다. 하지만 인간의 지능은 다채롭습니다. 우리는 언어 외에도 세상을 인식하는 다양한 방법을 가지고 있으며, AI 분야의 많은 기사에서 행동 모델, 공간 모델 등과 같은 다른 범주의 AI 개발에 대해 소개할 것입니다.

이러한 지식은 AI에 대한 우리의 수평적 이해를 풍부하게 하고, AI가 수많은 영역에 걸쳐 진화해 왔음을 보여줍니다. 이러한 교차 영역 중 일부는 아직 연구 단계에 있는 반면, 일부는 이미 유망한 징후를 보이고 있으며 향후 몇 년 내에 자체적인 'ChatGPT'를 탄생시킬 가능성이 높습니다. 이러한 새로운 ChatGPT가 등장하면 얼마나 많은 클라우드, 얼마나 많은 컴퓨팅 파워, 얼마나 많은 GPU가 필요할까요?

이 모든 것이 AI 투자에 대한 우리의 이해와 상상력을 크게 풍부하게 해줄 것입니다.

또한, AI 분야의 발전에 대한 유명 벤처 캐피털리스트의 요약과 공유도 읽어보시기 바랍니다.

예를 들어, 저는 최근에 Sequoia Capital의 AI 발전에 대한 통찰력을 읽었는데, 여기에는 향후 '지능형 신체 경제', 즉 AI 에이전트 간의 상호 작용으로 형성될 수 있는 경제의 출현 가능성에 대해 언급하고 있습니다.

세쿼이아 캐피털은 이 경제에 대해 이야기하면서 세 가지 요소를 갖춰야 한다고 강조했는데, 첫 번째는 영구적인 신원, 두 번째는 원활한 커뮤니케이션, 세 번째는 보안입니다.

이 세 가지 요소를 읽자마자 바로 블록체인이 떠올랐습니다. 이 세 가지 요소가 블록체인 기술의 킬러 앱이 아닐까요?

암호화된 지갑은 인공지능의 영구적인 신원이고, 블록체인 스마트 컨트랙트에 기반한 상호작용은 간섭 없는 원활한 소통이며, 탈중앙화된 검열 방지 기능은 인공지능 지능의 보안을 보장합니다.

위는 제가 AI를 학습하고 이해하는 방법 중 일부를 소개한 것으로 참고하시기 바랍니다.