채팅에 예의를 갖추면 수천만 달러를 절약할 수 있는데, OpenAI의 샘 알트먼은 왜 이를 "잘 썼다"고 할까요?

AI 상호작용의 정중함: OpenAI에 수천만 달러의 비용이 드는가?

우연한 질문으로 시작된 이 질문은 곧 AI의 에너지 수요 증가에 대한 예상치 못한 현실을 드러냈습니다.

사용자가 '부탁합니다', '감사합니다'와 같은 정중한 문구를 AI 상호작용에 추가할 때 OpenAI는 얼마나 많은 전력을 소비할까요?"라는 X 사용자 @tomieinlove가 제기한 질문은 당연한 질문처럼 보였습니다.

하지만 그 답은 사소한 것이 아니었습니다.

의전 비용으로 수천만 원이 든다고요?

OpenAI의 CEO인 샘 알트먼은 놀라울 정도로 투명하게 답변하면서 이러한 예의가 회사에 수천만 달러의 손실을 가져올 수 있다고 밝혔습니다.

알트먼은 다음 날 이 게시물에 답장을 보냈습니다,

수천만 달러가 잘 쓰였을지는 아무도 모릅니다;

이 상호작용을 통해 AI 모델을 구동하는 데 드는 상당한 운영 비용과 정중한 상호작용이 에너지 소비 증가에 기여한다는 사실을 알게 되었습니다.

이 대화는 ChatGPT와 같은 AI 모델을 실행하려면 데이터 처리뿐만 아니라 이러한 작업을 처리하는 고성능 데이터 센터의 서버를 냉각시키는 데에도 상당한 에너지가 사용된다는 시급한 현실을 강조합니다.

알트먼이 지적했듯이 이는 사용자에게 원활하고 반응이 빠른 AI 경험을 제공하기 위해 불가피한 비용입니다.

사람들은 왜 인공지능에게 공손한 언어를 사용하나요?

흥미롭게도 AI와 상호작용할 때 공손한 언어를 널리 사용하는 것은 단순한 사회적 예의 이상의 의미를 지니는 것 같습니다.

최근 실시한 설문 조사에 따르면미래 2024년 12월 미국 사용자의 67%와 영국 사용자의 71%가 AI 비서에게 예의를 갖추며, 각각 55%와 59%가 이를 '옳은 일'이라고 답한 것으로 나타났습니다;

출처:테크레이더

한편, 미국과 영국 사용자 모두 12%는 미래에 인공지능이 지각이 생겨 자신이 어떻게 대우받았는지 기억할 경우를 대비해 예의를 갖추는 것이 더 낫다고 생각한다고 고백했습니다.

엔지니어 칼 영블러드처럼 AI와의 상호작용에서 예의를 지키는 것은 개인적인 발전의 문제이기도 합니다.

영블러드는 이렇게 설명했습니다,

"인공지능을 예의 바르게 대하는 것은 저에게 도덕적 의무입니다. 저는 이기심에서 그렇게 합니다. 일상적인 상호작용에서 냉담함은 우리의 대인관계 기술을 위축시킵니다;

그의 관점은 인공지능을 통해서라도 예의를 실천하면 일상적인 인간관계에서 긍정적인 습관을 기를 수 있다고 믿는 폭넓은 사고방식을 반영합니다.

전기료 논쟁: ChatGPT의 실제 비용은 얼마인가요?

AI의 에너지 소비를 둘러싼 또 다른 논쟁 주제는 단일 상호작용을 처리하는 데 얼마나 많은 전력이 필요한지입니다.

비트코인 채굴에 대한 유명한 비평가인 알렉스 드 브리스의 연구에 따르면 ChatGPT를 한 번 쿼리할 때 3와트시의 전력을 사용할 수 있다고 합니다.

그러나 Epoch AI의 데이터 분석가인 조쉬 유는 AI 하드웨어와 소프트웨어의 발전으로 실제 수치는 0.3와트시에 더 가깝다고 주장하며 이 수치에 이의를 제기했습니다.

출처:에포크 AI

이러한 추정치의 차이는 특히 사용자가 보다 정중한 언어를 사용하여 모델에 참여할 때 AI 시스템이 에너지 소비를 줄일 수 있는 방법에 대한 추가적인 논의를 촉발시켰습니다.

한 X 사용자는 OpenAI가 사용자가 예의 문구를 추가할 때 전기료를 절약할 수 있는 방법을 고려해야 한다고 제안했습니다.

하지만 최근 알트먼은 매년 비용이 10배씩 감소하는 등 전반적인 모델 효율성을 개선하는 데 주력하고 있다고 언급했습니다.

공손함은 AI의 반응에 어떤 영향을 미칠까요?

사용자가 자신의 예의바른 행동에 대한 대가를 항상 인식하지 못할 수도 있지만, 이러한 접근 방식에는 몇 가지 놀라운 이점이 있습니다.

Microsoft의 디자인 매니저인 커티스 비버스는 AI와의 상호작용에서 예의를 갖추면 실제로 더 존중하고 협력적인 결과물이 나온다고 주장합니다.

비버스는 이렇게 설명했습니다,

"정중한 언어를 사용하면 응답의 분위기가 정해집니다."

AI와 상호 작용하는 방식에 따라 반응이 달라질 수 있습니다.

AI를 지각이 있는 존재로 생각하기보다는 주어진 언어와 어조를 반영하는 고도로 발전된 도구로 보는 것이 더 정확합니다.

Microsoft의 WorkLab에서도 사용자가 정중한 방식으로 AI와 소통할 때 AI가 동일한 수준의 전문성과 정확성을 출력에 반영할 가능성이 높다고 말하며 이러한 개념을 지지했습니다.

경쟁이 치열해지는 가운데 OpenAI의 재무 전망

정중함의 대가는 상당하지만, OpenAI는 재정적 성장에 있어 인상적인 발전을 거듭하고 있습니다.

이 회사는 중국의 딥시크와 같은 기업 및 기타 AI 기업과의 경쟁이 치열해짐에도 불구하고 올해 매출이 127억 달러로 3배 이상 증가할 것으로 예상하고 있습니다.

그러나 OpenAI는 2029년에야 현금 흐름이 흑자가 될 것으로 예상하고 있으며, 그때까지 매출이 1,250억 달러를 넘어설 것으로 예상하고 있습니다.

AI가 계속 발전함에 따라 AI의 작동과 사용자와의 상호 작용도 복잡해질 것입니다.

정중함이 사소한 제스처처럼 보일 수 있지만, 사용자 경험과 운영 비용에 미치는 영향은 결코 작지 않습니다. 일단 OpenAI는 현재로서는 비용을 기꺼이 감당할 의향이 있는 것으로 보이며, Altman은 이를 잘 쓴 돈이라고 말합니다.