Vitalik: AI와 암호화폐가 개인 정보 보호를 변화시키는 방법

원문 제목: 왜 내가 지지하는가? privacy

저자: Vitalik, Ether 창립자; 컴파일러: Whitewater, Golden Finance

토론과 피드백을 제공해 주신 Balvi 자원봉사자 Paul Dylan-Ennis, pcaversaccio, 벡터화된, Bruce Xu, Luozhu Zhang에게 특별한 감사를 전합니다!


발비 자원 봉사자들의 작업에 대한 주석

최근 저는 이더리움 생태계의 프라이버시 상황을 개선하는 것에 대해 점점 더 많은 관심을 갖게 되었습니다. 개인정보 보호는 탈중앙화를 위한 중요한 안전장치입니다: 정보를 보유한 사람이 권한을 가지기 때문에 중앙화된 정보 통제를 피해야 합니다. 중앙화된 기술 인프라에 대한 현실적인 우려는 운영자가 실수로 규칙을 변경하거나 사용자 플랫폼을 무너뜨리는 경우도 있지만, 데이터 수집에 대한 두려움도 그에 못지않게 흔합니다. 암호화폐 업계는 디지털 금융 프라이버시 보호를 우선시하는 차우미안 이캐시와 같은 프로젝트에서 시작되었지만, 최근 프라이버시를 과소평가하고 있으며, 그 이유는 크게 두 가지로 요약할 수 있습니다: ZK-SNARK 기술이 등장하기 전에는 탈중앙화된 방식으로 개인 정보 보호를 제공할 수 없었기 때문에 개인 정보 보호의 중요성을 경시하고 당시 제공할 수 있는 다른 안전장치에 집중했습니다.

그러나 오늘날 개인정보 보호는 무시할 수 없습니다. 인공 지능은 중앙 집중식 데이터 수집 및 분석의 힘을 극적으로 증가시킬 뿐만 아니라 우리가 자발적으로 공유하는 데이터의 범위를 크게 확장하고 있습니다. 미래에는 뇌-컴퓨터 인터페이스와 같은 새로운 기술이 더 많은 문제를 야기할 것이며, 실제로 인공지능이 우리의 마음을 읽는 날이 올지도 모릅니다. 한편, 디지털 영역에서는 1990년대 암호화 펑크족이 상상할 수 없었던 강력한 개인 정보 보호 도구가 등장했습니다. 효율적인 영지식 증명(ZK-SNARK)은 신원을 보호하면서도 신뢰할 수 있는 정보를 충분히 공개할 수 있으며, 완전 동형 암호화(FHE)를 사용하면 데이터를 보지 않고도 연산을 수행할 수 있습니다; 그리고 난독화 기술은 곧 더 많은 기능을 제공할 것입니다.

개인정보 보호는 서로 고립되는 것이 아니라 단결하는 것을 의미합니다.

이 시점에서 다음과 같은 질문을 검토하는 것이 중요합니다."왜 우리에게 개인정보 보호가 필요한가? 대답은 사람마다 다릅니다. 이 글에서는 제 나름대로의 답을 세 부분으로 나누어 설명해 보겠습니다.

• 프라이버시는 자유입니다: 프라이버시는 우리에게 공간을 제공합니다. 다양한 정치적, 사회적 게임에서 자신의 행동이 어떻게 인식될지 끊임없이 걱정할 필요 없이 자신의 필요에 맞는 방식으로 삶을 살아갈 수 있게 해줍니다.

• 프라이버시는 질서입니다: 사회의 기본 기능의 기초를 이루는 많은 메커니즘이 제대로 작동하기 위해서는 프라이버시에 의존합니다.

• 프라이버시는 진보입니다: 정보를 오용으로부터 보호하면서 선별적으로 공유하는 새로운 방법을 찾을 수 있다면 막대한 가치를 창출하고 기술 및 사회적 진보를 가속화할 수 있습니다.

프라이버시는 자유입니다

21세기 초에는 1998년 데이비드 브린의 저서 '투명한 사회'에 요약된 것과 같은 생각, 즉 기술이 전 세계의 정보를 더욱 투명하게 만들 것이며 이를 수용하기 위해 지속적인 조정이 필요한 단점이 있겠지만 전반적으로는 매우 좋은 일이 될 것이라는 생각이 널리 퍼져 있었습니다. 그리고 1999년에 썬 마이크로시스템즈의 CEO 스콧 맥닐리가 "프라이버시는 죽었다, 받아들여라!"라는 유명한 말을 한 것처럼 사람들이 정부를 감시(또는 스파이)할 수 있도록 함으로써 더 공정한 사회를 만들 수 있을 것입니다. 이러한 사고방식은 가명 사용을 금지했던 Facebook의 초기 구상 및 개발 단계에서 널리 퍼져 있었습니다. 저는 개인적으로 2015년 선전에서 열린 화웨이 행사에서 한 (서구) 연사가 "프라이버시는 죽었다"고 무심코 언급했을 때 이러한 사고방식의 끝을 직접 경험했던 기억이 있습니다.

'투명 사회'는 '프라이버시는 죽었다'는 이데올로기가 제공할 수 있는 최고이자 가장 밝은 모습을 구현합니다. 인간 본성에 대한 지나치게 낙관적인 가정에 의존한 것이 분명합니다. 인간 본성에 대한 지나치게 낙관적인 가정에 의존합니다. 주요:

• 세계 정치 스펙트럼의 최상층이 가장 중요한 계층입니다. strong>글로벌 정치의 최상위 계층은 일반적으로 선의가 있고 합리적이기 때문에 수직적 프라이버시(즉, 권력자나 기관에 정보를 공개하지 않는 것)는 점점 더 불필요해집니다. 권력 남용은 대개 특정 지역에 국한되기 때문에 이러한 남용에 대처하는 가장 좋은 방법은 이를 햇빛에 노출시키는 것입니다.

• 수평적 프라이버시(즉, 다른 대중에게 정보를 공개하지 않는 것)가 불필요해질 때까지 문화는 계속 발전할 것입니다. 사회가 사람들의 고유한 특성에 대해 가혹하고 비판적인 태도를 버리고 더 개방적이고 포용적인 태도를 갖게 되면 괴짜, 게이, 그리고 결국 모든 사람들이 벽장 속에 숨는 것을 멈출 수 있게 될 것입니다.

오늘날, 첫 번째 가정이 옳다고 보편적으로 동의할 수 있는 주요 국가는 없지만, 많은 주요 국가에서는 일반적으로 이 가정이 틀렸다고 생각합니다. 두 번째는 문화적 관용도 빠르게 퇴보하고 있다는 것인데, 트위터에서 "왕따는 좋은 것"과 같은 문구를 검색하기만 해도 쉽게 알 수 있습니다.

개인적으로는 집 밖에서 하는 모든 행동이 우연히 언론에 보도될 수 있는 '투명 사회'의 단점을 일상적으로 겪어왔습니다.

최악의 부분은 제가 치앙마이에서 노트북을 사용하는 동안 누군가 1분짜리 동영상을 찍어서 리틀 레드북에 올렸습니다. 리틀 레드북에 올렸는데, 그 즉시 수천 개의 좋아요와 리트윗을 받았습니다. 물론 제 상황은 사람들의 일반적인 상황과는 거리가 멀지만, 프라이버시는 항상 그래왔습니다. 생활 상황이 비교적 정상적인 사람들은 프라이버시에 대한 필요성이 적고, 생활 상황이 표준에서 벗어난 사람들은 일탈의 방향과 관계없이 프라이버시에 대한 필요성이 더 커집니다. 일탈의 방향에 관계없이. 이러한 모든 방향을 합치면 프라이버시가 정말 필요한 사람들의 수는 상당히 많으며, 여러분도 언제 그 중 한 명이 될지 모릅니다. 개인정보 보호가 종종 과소평가되는 가장 큰 이유는 현재 내가 어디에 있고 어떤 정보를 가지고 있는지에 대한 것뿐만 아니라 미래에 그 정보에 어떤 일이 일어날지(그리고 그것이 나에게 어떤 영향을 미칠지) 알 수 없기 때문입니다.

기업 가격 책정 메커니즘의 개인정보 보호는 오늘날 AI 옹호자들 사이에서도 틈새 이슈이지만, AI 기반 분석 도구가 등장하면서 점점 더 큰 문제가 될 수 있습니다. 기업이 사용자에 대해 더 많이 알수록 사용자에 대한 가격을 맞춤화할 가능성이 높아져 사용자가 지불한 금액을 곱한 만큼의 수익을 극대화할 수 있기 때문입니다. 가능성.

자유로서의 프라이버시에 대한 저의 일반적인 주장을 한 문장으로 표현하면 다음과 같습니다."

프라이버시는 '개인 게임'(자신의 필요)과 '개인적 목표와 필요에 가장 적합한 방식으로 자신의 삶을 살 수 있는 자유를 제공합니다. 게임'(자신의 필요)과 '공공 게임'(소셜 미디어 연쇄, 비즈니스 인센티브, 정치, 제도 등 다양한 메커니즘을 통해 다양한 다른 사람들이 내 행동을 인식하고 반응하는 방식)의 균형을 맞출 필요 없이 모든 행동에 대해 자유를 누릴 수 있습니다.

프라이버시가 없으면 모든 것이 "내가 하는 일에 대해 다른 사람(및 봇)이 어떻게 생각할 것인가"에 대한 지속적인 투쟁이 됩니다. 권력자, 회사, 동료 등 현재와 미래의 모든 사람들이요. 프라이버시를 통해 우리는 균형을 유지합니다. 하지만 오늘날 그 균형은 특히 물리적 영역에서 빠르게 무너져 내리고 있습니다. 현대 기술 자본주의의 기본 경로인 사용자가 명시적으로 비용을 지불하지 않아도 가치를 창출하는 비즈니스 모델을 찾고자 하는 욕구는 이러한 균형을 더욱 약화시키고 있으며, 궁극적으로는 우리 자신의 마음과 같이 매우 민감한 영역에까지 침투하고 있습니다. 따라서 우리는 특히 가장 실질적으로 개인정보 보호를 실천할 수 있는 영역인 디지털 영역에서 보다 명시적으로 개인정보 보호를 실천함으로써 이러한 영향에 대응할 필요가 있습니다.

그러나 정부에 백도어를 허용하는 것은 어떨까요?

위의 논리에 대한 일반적인 반응은 제가 설명한 프라이버시 침해의 대부분은 대중이 사생활에 대해 지나치게 많이 알고 있고, 권력 남용의 경우에도 기업, 상사, 정치인이 지나치게 많이 알고 있기 때문이라는 것입니다. 그러나 우리는 대중, 기업, 상사, 정치인이 이 모든 데이터를 보유하도록 내버려두지 않을 것입니다. 대신, 고도로 훈련되고 검증된 소수의 법 집행 전문가들이 거리 감시 카메라와 인터넷 케이블, 채팅 앱의 도청 데이터를 살펴볼 수 있도록 하고, 엄격한 책임 절차를 시행하여 다른 사람이 알 수 없도록 할 것입니다.

이 문제는 조용하지만 널리 퍼져 있는 문제이므로 명확하게 해결하는 것이 중요합니다. 이러한 전략은 좋은 의도를 가지고 높은 수준의 표준에 따라 실행하더라도 다음과 같은 이유로 본질적으로 불안정합니다.

• 사실, 데이터 유출의 위험에 처한 것은 정부뿐만 아니라 다양한 비즈니스 주체이며, 그 수준도 다양합니다. 기존의 금융 시스템에서는 KYC 및 결제 정보를 결제 처리업체, 은행 및 기타 다양한 중개업체가 관리합니다. 이메일 제공업체는 모든 종류의 방대한 양의 데이터를 살펴봅니다. 통신 회사는 사용자의 위치를 파악하고 정기적으로 불법적으로 재판매합니다. 전반적으로 이러한 모든 기업이 사용자 데이터에 진정으로 높은 가치를 두도록 엄격하게 규제하는 것은 감시자와 피감시자 모두에게 큰 부담이 되며, 경쟁적인 자유 시장 유지와 양립할 수 없을 수 있습니다.

• 접근 권한을 가진 개인은 언제나 데이터를 오용(제3자에게 판매 포함)하는 것을 편하게 느낄 것입니다. 2019년에는 반체제 인사에 대한 개인정보를 사우디아라비아에 판매한 혐의로 트위터 직원 몇 명이 기소되었고 이후 유죄 판결을 받았습니다.

• 데이터는 언제든 해킹당할 수 있습니다. 2024년, 미국 통신사들이 법적으로 수집해야 하는 데이터가 중국 정부의 해커들에 의해 해킹당하는 사건이 발생했습니다. 2025년에는 우크라이나 정부가 보유한 대량의 민감한 개인 데이터가 러시아에 의해 해킹당했습니다. 한편, 미국 정부를 포함해 중국의 매우 민감한 정부 및 기업 데이터베이스도 해킹당했습니다.

• 정권 교체 가능성. 오늘 신뢰할 수 있는 정부도 내일은 더 이상 신뢰할 수 없을 수 있습니다. 오늘 권력을 잡은 사람이 내일 박해를 받을 수도 있습니다. 오늘날 완벽한 존경과 예의를 유지하는 경찰 기관도 10년 뒤에는 온갖 비웃음과 잔인함을 당할 수 있습니다.

개인의 입장에서는 자신의 데이터가 도난당하면 앞으로 어떻게 악용될지 예측할 방법이 없습니다. 대규모 데이터를 처리하는 가장 안전한 방법은 처음부터 가능한 한 적은 양의 데이터를 수집하는 데 집중하는 것입니다. 데이터는 가능한 한 사용자가 직접 보유해야 하며, 개인의 프라이버시를 침해하지 않으면서 유용한 통계를 집계하기 위해 암호화를 사용해야 합니다.

역사적으로 영장을 통해 확보한 정보의 양은 오늘날보다 훨씬 적었다는 점을 고려하면 정부가 영장을 통해 모든 정보를 확보할 권리를 가져야 한다는 주장은 핵심을 놓치고 있습니다. 가장 엄격한 인터넷 개인정보 보호가 보편적으로 적용될 경우 얻을 수 있는 정보의 양보다도 훨씬 적습니다. 19세기에는 일반인의 음성 대화가 단 한 번뿐이었고, 그 누구도 이를 녹음한 적이 없었습니다. 따라서 '정보 프라이버시'에 대한 도덕적 공황은 수천 년 동안 일상적인 대화, 심지어 금융 거래까지 완전하고 무조건적으로 비공개로 유지되어 온 역사와 완전히 상반됩니다.

1950년의 평범한 대화. 이 대화는 녹음되거나, 모니터링되거나, "합법적으로 감청"되거나, AI 분석의 대상이 되거나, 당시 대화에 참여한 당사자 외에는 누구도 열람할 수 없었습니다.

중앙 집중식 데이터 수집을 최소화해야 하는 또 다른 중요한 이유는 글로벌 커뮤니케이션과 경제적 상호작용의 상당 부분이 본질적으로 국제적 성격을 띠고 있기 때문입니다. 모든 사람이 같은 국가에 있다면 적어도 '정부'는 상호 작용의 데이터에 액세스할 수 있어야 합니다. 하지만 사람들이 서로 다른 나라에 있다면 어떨까요? 물론 원칙적으로는 모든 사람의 데이터를 합법적인 액세스를 담당하는 기관에 매핑하는 '은하계의 두뇌' 시나리오를 생각해낼 수 있지만, 이 경우에도 여러 사람의 데이터와 관련된 많은 엣지 케이스를 처리해야 합니다. 하지만 그렇게 할 수 있다고 해도 현실적인 기본 결과는 아닙니다. 정부 백도어의 현실적인 기본 결과는 애플리케이션을 제어하기 때문에 모든 사람의 데이터를 소유하는 소수의 중앙 집중식 관할 구역에 데이터가 집중된다는 것입니다. 기술 헤게모니. 강력한 개인정보 보호는 가장 안정적인 대안입니다.

프라이버시는 질서입니다

한 세기가 넘도록 민주주의가 효과적으로 작동하기 위한 핵심 기술적 요소는 비밀 투표라는 인식이 있어 왔습니다. 아무도 누구에게 투표했는지 알 수 없고, 알고 싶어도 알 수 없는 비밀 투표. 누구에게 투표했는지 증명할 수 없기 때문입니다. 비밀 투표가 기본 설정이 아닌 경우 유권자는 뇌물, 소급 보상 약속, 사회적 압력, 협박 등 투표 방식에 영향을 미치기 위해 온갖 종류의 부수적인 인센티브에 노출될 수 있습니다.

이러한 부수적 인센티브가 민주주의를 완전히 훼손할 수 있다는 것은 간단한 수학적 논증으로도 알 수 있습니다. N명이 참여하는 선거에서 결과에 영향을 미칠 확률은 1/N에 불과하므로 어느 후보가 더 낫거나 나쁘다는 고려는 모두 N으로 나눌 수 있습니다. 반면, "부수적 게임"(예: 유권자 매수, 강요, 사회적 압력)은 전체 투표 결과가 아닌 투표 방식에 따라 직접적인 영향을 미치기 때문에 투표 결과에 영향을 미치지 않습니다. strong>이므로 N-분할이 되지 않습니다. 따라서 부수적인 게임을 엄격하게 통제하지 않으면 기본적으로 전체 게임을 압도하여 어떤 후보의 정책이 실제로 더 나은지에 대한 고려를 묻어버리게 됩니다.

이 문제는 국가 규모의 민주주의에만 적용되는 것이 아닙니다. 이론적으로는 기업이나 정부의 거의 모든 주체-대리인 문제에 적용됩니다.

• 판사는 사건 판결 방법을 결정

• 정부 공무원은 어떤 회사와 계약 또는 보조금을 체결할 회사

• 이민 공무원이 비자 발급 또는 거부 여부를 결정

• 소셜 미디어 회사의 직원이 콘텐츠 검토 정책을 시행할 방법을 결정

• 기업 직원이 비즈니스 결정(예: 어떤 벤더로부터 구매할지)에 관여

모든 경우의 근본적인 문제는 동일합니다. 에이전트가 정직하게 행동하면 자신의 행동으로 인해 자신이 대표하는 기업의 일부만 이익을 얻을 수 있지만, 부수적인 인센티브에 따라 행동하면 전체가 이익을 얻게 됩니다. 따라서 오늘날에도 모든 기관이 상호 전복의 부수적 게임의 혼란스러운 소용돌이에 완전히 휩쓸리지 않도록 하기 위해서는 여전히 많은 도덕적 선의가 필요합니다. 프라이버시가 더욱 약화되면 이러한 부수적 게임은 더욱 강력해지고, 사회가 제대로 기능하는 데 필요한 도덕적 선의의 양은 비현실적으로 높아질 수 있습니다.

이 문제를 피하기 위해 사회 시스템을 재설계할 수 있을까요? 안타깝게도 게임 이론은 이것이 불가능하다는 것을 거의 명백히 보여줍니다(한 가지 예외가 있습니다: 완전한 독재). 개인의 선택에 초점을 맞추는 게임 이론 버전, 즉 각 참여자가 독립적으로 결정을 내리고 여러 주체 집단이 공동선을 위해 협력할 가능성을 허용하지 않는 버전에서는 메커니즘 설계자는 다음과 같은 장점이 있습니다. 특정 결과를 달성하기 위해 게임을 "설계"할 수 있는 큰 자유를 가집니다. 실제로 모든 게임에는 적어도 하나의 안정된 내쉬 평형이 존재한다는 수학적 증명은 존재하므로 이러한 게임을 분석하는 것은 관리하기 쉽습니다. 그러나 연합 협력(즉, "담합")의 가능성을 허용하는 게임 이론 버전, 즉 협동 게임 이론에서는 안정적인 결과가 없는 게임("핵심")이 많이 존재한다는 것을 보여줄 수 있습니다. 이러한 게임에서는 현재 상황이 어떻든 간에 항상 이익을 얻을 수 있는 연합이 존재합니다.

이미지 src="https://img.jinse.cn/7362895_watermarknone.png" title="7362895" alt="adfRbyMPutRCcF3LjBQ5rmjkj6in7t2nshoMz0mY.jpeg">

수학을 진지하게 받아들이면 안정적인 사회 구조를 만드는 유일한 방법은 참여자 간에 발생할 수 있는 조정의 양에 제한을 두는 것이라는 결론에 도달하게 됩니다. -이는 높은 수준의 프라이버시(거부 가능성 포함)를 의미합니다. 수학 자체를 진지하게 받아들이지 않는다면, 현실 세계를 관찰하거나 적어도 위의 주-대리인 시나리오 중 일부가 프린지 게임에 의해 점령될 경우 어떤 모습일지 생각해보는 것만으로도 같은 결론에 도달할 수 있습니다.

이것은 정부 백도어가 왜 위험한지에 대한 또 다른 논쟁으로 이어진다는 점에 유의하세요. 모든 사람이 모든 일에 대해 다른 사람들과 무제한으로 조정할 수 있다면 그 결과는 혼란입니다. 하지만 정보에 대한 특권적 접근 권한을 가진 소수의 사람들만 그렇게 할 수 있다면 그 결과는 그들이 지배하는 것입니다. 한 당사자가 다른 당사자의 통신에 대한 백도어 액세스 권한을 갖게 되면 다자간 시스템의 생존 가능성은 쉽게 종말을 맞이할 수 있습니다.

사회 질서가 작동하기 위해 공모를 제한하는 데 의존하는 또 다른 중요한 예는 지적 및 문화적 활동입니다. 지적 및 문화적 활동 참여는 본질적으로 동기가 부여된 공공재입니다. 지적 및 문화적 활동은 그 자체로 어느 정도는 사회에서 긍정적인 행동을 결정하는 활동이기 때문에 사회에 긍정적인 기여를 하려는 외재적 인센티브를 찾기가 어렵기 때문이죠. 사회에서 긍정적인 행동. 올바른 방향을 제시하기 위해 상업적, 사회적 인센티브에 대한 몇 가지 근사치를 고안할 수 있지만 내재적 동기가 강력하게 보완되어야 합니다. 그러나 이는 또한 그러한 활동이 특히 사회적 압력이나 강압과 같은 엣지 게임으로 인한 외부 동기 불균형에 매우 취약하다는 것을 의미합니다. 이러한 불균형한 외부 동기의 영향을 제한하기 위해 프라이버시는 다시 한 번 필수 요소입니다.

진보로서의 프라이버시

공개 및 대칭 키 암호화가 완전히 사라진 세상을 상상해 보세요. 이런 세상에서는 장거리에서 메시지를 안전하게 전송하는 것이 불가능하지는 않지만 본질적으로 매우 어려워질 것입니다. 이로 인해 국제 협력이 훨씬 줄어들고, 결국 더 많은 협력이 오프라인 대면 채널을 통해 이루어지게 될 것입니다. 이렇게 되면 세상은 더 가난하고 불평등한 곳이 될 것입니다.

더 강력한 형태의 암호화가 널리 사용될 가상의 미래 세계, 특히 프로그래밍 가능한 암호화가 널리 사용될 가상의 미래 세계와 비교하면 현재 우리가 있는 곳이 바로 그 지점이라고 생각합니다. 암호화가 더욱 강력한 풀스택 보안과 공식 인증으로 보완되어 이러한 암호화가 올바르게 사용된다는 강력한 보증을 제공할 것입니다.

이집트 신 프로토콜: 데이터를 완전히 비공개로 유지하면서 계산을 수행할 수 있는 강력하고 활용도가 높은 세 가지 구조입니다.

헬스케어가 좋은 예입니다. 지난 10년 동안 장수, 전염병 퇴치 또는 기타 보건 분야에서 일한 사람이라면 누구나 한결같이 치료와 예방의 미래는 개인 맞춤형이 될 것이며, 효과적인 대응은 개인과 환경 모두에서 고품질 데이터에 크게 의존할 것이라고 말할 것입니다. 공기 매개 질병을 효과적으로 예방하려면 어느 지역의 공기 질이 높고 낮은지, 특정 시간대에 병원균이 어디에 존재하는지에 대한 지식이 필요합니다. 최첨단 장수 클리닉에서는 신체, 식습관, 라이프스타일에 대한 데이터를 기반으로 맞춤형 조언과 치료 옵션을 제공하고 있습니다.

그러나 이 모든 것이 동시에 엄청난 개인정보 위험을 초래합니다. 저는 개인적으로 한 회사에서 '집에 전화'한 직원에게 에어 모니터를 장착하여 그 직원이 언제 성관계를 가졌는지 파악할 수 있는 충분한 데이터를 수집한 사건을 알고 있습니다. 비슷한 이유로, 사람들이 개인정보 위험을 두려워하기 때문에 가장 가치 있는 데이터의 대부분은 기본적으로 수집되지 않을 것으로 예상합니다. 데이터가 수집되더라도 부분적으로는 상업적인 이유도 있지만, 개인정보 보호 문제 때문에 널리 공유되거나 연구자들에게 제공되지 않는 경우가 많습니다.

다른 분야에서도 같은 패턴이 반복됩니다. 우리가 작성하는 문서, 다양한 앱에서 보내는 메시지, 소셜 미디어에서 하는 다양한 행동에는 우리 자신에 대한 풍부한 정보가 포함되어 있으며, 이 모든 정보는 일상 생활에서 필요한 것을 보다 효과적으로 예측하고 제공하는 데 사용될 수 있습니다. 또한 건강과 관련이 없는 물리적 환경과 상호작용하는 방식에 대한 풍부한 정보도 있습니다. 오늘날에는 이러한 정보를 반유토피아적인 프라이버시 침해 없이 효과적으로 사용할 수 있는 도구가 부족합니다. 하지만 미래에는 그러한 도구를 갖게 될지도 모릅니다.

이러한 문제를 해결하는 가장 좋은 방법은 강력한 암호화를 사용하여 부정적인 결과 없이 데이터 공유의 이점을 누릴 수 있도록 하는 것입니다. AI 시대에는 개인 데이터를 포함한 데이터에 대한 액세스의 필요성이 더욱 중요해질 것이며, 선호도에 대한 충실도 높은 근사치를 기반으로 우리를 대신하여 결정을 내릴 수 있는 '디지털 트윈'을 로컬에서 훈련하고 실행하는 능력이 막대한 가치를 지니게 될 것이기 때문입니다. 궁극적으로는 뇌-컴퓨터 인터페이스(BCI) 기술을 사용하여 우리 뇌의 고대역폭 입력을 읽어내는 것도 포함될 것입니다. 고도로 중앙집권화된 글로벌 패권으로 이어지지 않으려면 프라이버시를 존중하면서 이를 달성할 수 있는 방법을 찾아야 합니다. 프로그래밍 가능한 암호화는 가장 신뢰할 수 있는 솔루션입니다.

내 에어밸런트 공기질 모니터. 공기질 데이터를 수집하고, 집계된 통계를 오픈 데이터 맵에 게시하고, 데이터 제공에 대한 보상을 제공하는 장치가 개인 위치 데이터 유출을 방지하고 데이터의 진위 여부를 확인하기 위해 프로그래밍 가능한 암호화를 사용한다고 상상해 보세요.

개인정보 보호는 사회 보안의 발전에 기여할 수 있습니다

영지식 증명과 같은 프로그래밍 가능한 암호화 기술은 정보 흐름에 있어 레고 블록과 같기 때문에 매우 강력합니다. 누가 어떤 정보를 볼 수 있는지, 더 중요한 것은 어떤 정보를 볼 수 있는지를 세밀하게 제어할 수 있습니다. 예를 들어, 저는 다른 개인 정보를 공개하지 않고도 18세 이상임을 증명하는 캐나다 여권을 가지고 있음을 증명할 수 있습니다.

이것은 모든 종류의 흥미로운 조합을 가능하게 합니다. 몇 가지 예를 들어보겠습니다.

• 영지식 본인 증명: 다양한 형태의 신분증을 통해 본인임을 증명합니다(여권, 생체 인식, 탈중앙화된 소셜 그래프 기반 ID 등 다양한 형태의 신분증을 통해 다른 식별 정보를 노출하지 않고도 본인임을 증명할 수 있습니다. 이는 "봇이 아님을 증명", 다양한 "1인당 최대 N" 사용 사례 등에 사용할 수 있으며, 규칙을 위반하지 않았음을 드러내지 않고 개인정보를 완벽하게 보호할 수 있습니다.

• 프라이버시 풀은 백도어 없이도 악의적인 행위자를 제거하는 금융 개인정보 보호 솔루션입니다. 사용자는 소비 시점에 토큰의 출처가 해커와 도둑의 공개 목록에 없다는 것을 증명할 수 있으며, 해커와 도둑은 그러한 증명을 생성할 수 없으므로 숨길 수 없습니다. 현재 railgun과 privacypools.com이 이러한 솔루션을 사용하고 있습니다.

• 장치 측 사기 방지 스캐닝: 이것은 영지식 증명(ZKP)에 의존하지는 않지만 이 범주에 속하는 것처럼 느껴집니다. 디바이스에 내장된 필터(LLM 포함)를 사용하여 수신 메시지를 검사하고 잠재적으로 허위 및 사기성 메시지를 자동으로 식별할 수 있습니다. 이 작업을 디바이스에서 수행하면 사용자의 개인정보가 침해되지 않으며 사용자가 승인한 방식으로 수행할 수 있으므로 각 사용자가 구독할 필터를 선택할 수 있습니다.

• 물리적 원산지 증명: 블록체인과 영지식 증명을 함께 사용하면 제조 체인을 통해 상품의 다양한 속성을 추적할 수 있습니다. 예를 들어, 공급망을 공개하지 않고도 환경 외부효과에 대한 가격을 책정할 수 있습니다.

좌측: 개인정보 풀의 개략도. 오른쪽: 사용자가 여러 필터를 켜거나 끌 수 있는 메시지 검사기 앱(위에서부터 URL 검사, 암호화폐 주소 검사, 루머 검사

개인정보 보호와 AI

최근 ChatGPT는 사용자의 과거 대화를 향후 대화를 위한 배경 정보로 AI에 제공하기 시작한다고 발표했습니다. 이러한 추세는 필연적으로 이러한 방향으로 나아갈 것입니다. AI가 사용자의 과거 대화를 검토하고 그로부터 인사이트를 도출하는 것은 근본적으로 유용하기 때문입니다. 가까운 미래에는 인터넷 검색 패턴, 이메일 및 채팅 로그, 생체 인식 데이터 등을 수동적으로 수집하는 등 개인 정보를 더욱 깊숙이 침해하는 AI 제품이 개발될 수 있습니다.

이론적으로 사용자의 데이터는 비공개입니다. 하지만 실제로는 그렇지 않은 경우가 많습니다.

이미지 src="https://img.jinse.cn/7362899_watermarknone.png" title="7362899" alt=" ev98yuymrftUi49oDjJLQJTtLQ55K9IMA7yTELvR.jpeg">

와우! ChatGPT에 버그가 있어 다른 사람이 내게 질문한 내용을 푸시하는 버그를 발견했어요! 다른 사람이 질문한 질문! 이는 심각한 개인정보 침해입니다. 질문을 하고 오류를 받은 다음, 절대 묻지 않을 질문으로 "다시 시도"합니다.

개인정보 보호 메커니즘이 잘 작동할 수도 있지만, 이 경우 AI는 브루스가 한 번도 물어본 적이 없는 질문을 생성하고 답변했다고 착각했을 가능성이 있습니다. 하지만 현재로서는 이를 확인할 수 있는 방법이 없습니다. 마찬가지로 우리의 대화가 훈련에 사용되었는지 확인할 방법도 없습니다.

이 모든 것이 매우 걱정스럽습니다. 더욱 문제가 되는 것은 사용자의 동의 없이 사용자의 (물리적 및 디지털) 데이터를 대규모로 수집하고 분석하는 AI의 명백한 감시 사용 사례입니다. 안면 인식 기술은 이미 권위주의 정권이 정치적 반대 의견을 대규모로 탄압하는 데 사용되고 있습니다. 그리고 무엇보다도 가장 우려되는 것은 AI 데이터 수집 및 분석의 궁극적인 영역인 인간의 마음입니다.

이론적으로 뇌-컴퓨터 인터페이스 기술은 인간의 잠재력을 향상시킬 수 있는 놀라운 힘을 가지고 있습니다. 지난해 뉴럴링크의 첫 번째 환자였던 놀란드 아르보의 이야기를 들어보겠습니다.

이 실험 장치를 통해 현재 30세인 아르보는 독립적인 감각을 갖게 되었습니다. 이전에는 마우스 스틱을 사용하려면 누군가의 도움이 필요했습니다. 마우스 스틱이 떨어지면 누군가가 주워야 했습니다. 그리고 상처가 나지 않고는 장시간 사용할 수 없었습니다. 뉴럴링크 장치를 통해 그는 컴퓨터를 거의 완벽하게 제어할 수 있게 되었습니다. 그는 언제든지 웹을 검색하고 컴퓨터 게임을 할 수 있으며, 뇌-컴퓨터 인터페이스(BCI)를 사용하여 커서를 제어하는 인간 기록을 세웠다고 Neuralink는 말합니다.

현재 이러한 장치는 병자와 부상자를 도울 수 있을 만큼 강력합니다. 미래에는 완전히 건강한 사람들이 컴퓨터와 협업하고 우리가 상상조차 할 수 없는 효율성으로 서로 텔레파시로 소통할 수 있는 기회를 제공할 만큼 강력해질 것입니다(!!!). . 하지만 이러한 소통을 가능하게 하는 뇌 신호를 실제로 해석하려면 인공 지능이 필요합니다.

이러한 트렌드가 서로 얽히면 자연스럽게 실리콘 슈퍼 에이전트가 모든 사람의 글, 행동, 생각 등 모든 정보를 집어삼키고 분석하는 어두운 미래가 도래할 수 있습니다. 하지만 더 밝은 미래도 있습니다. 우리는 개인정보를 보호하면서 이러한 기술의 혜택을 누릴 수 있게 될 것입니다.

여러 기술을 결합하여 이를 달성할 수 있습니다.

• 가능한 한 로컬에서 계산 실행 - 많은 작업(예: 기본 이미지 분석, 번역, 전사, BCI의 기본 뇌파 분석)은 로컬에서 실행되는 계산만으로 충분히 간단하게 처리할 수 있습니다. 실제로 로컬에서 실행되는 계산은 지연 시간을 줄이고 검증 가능성을 높인다는 측면에서도 장점이 있습니다. 로컬에서 수행할 수 있는 작업이라면 로컬에서 수행해야 합니다. 여기에는 인터넷 액세스, 소셜 미디어 계정 로그인 등 다양한 중간 단계가 수반되는 연산이 포함됩니다.

• 암호화를 사용하여 원격 연산을 완전히 비공개로 - 완전 동형 암호화(FHE)를 사용하여 원격으로 인공지능 연산을 수행할 수 있습니다. 원격 서버가 데이터나 결과를 볼 수 없도록 하여 AI 연산을 수행할 수 있습니다. 역사적으로 FHE는 매우 비쌌지만 (i) 최근 그 효율성이 빠르게 개선되고 있으며 (ii) LLM은 고유한 구조의 계산 형태이고 점근적으로 거의 모든 계산이 선형적이기 때문에 매우 효율적인 FHE 구현에 매우 적합합니다. 여러 당사자의 개인 데이터를 포함하는 계산은 다자간 계산을 통해 수행할 수 있으며, 일반적인 2자간 사례는 난독화된 회로와 같은 기술을 통해 매우 효율적으로 처리할 수 있습니다.

• 하드웨어 검증을 사용하여 보증을 물리적 세계로 확장 - 우리는 하드웨어를 읽을 수 있는 하드웨어를 주장할 수 있습니다. (두개골 내부 또는 외부에서) 하드웨어에 대한 우리의 생각은 개방적이고 검증 가능해야 하며, 이를 검증하기 위해 IRIS와 같은 기술을 사용해야 한다고 주장할 수 있습니다. 예를 들어, 우리는 다른 영역에서도 이를 수행할 수 있습니다. 예를 들어, 지역 LLM(법률가)이 물리적 폭력이나 의료 응급 상황으로 신고한 경우에만 비디오 스트림을 저장 및 전달하는 보안 카메라를 설치하고 그 외의 모든 경우에는 삭제하며, IRIS를 사용하여 커뮤니티 주도의 무작위 검사를 수행하여 카메라가 올바르게 구현되었는지 검증할 수 있습니다.

미완의 미래

2008년 자유주의 철학자 데이비드 프리드먼은 '불완전한 미래'라는 책을 저술했습니다. 이 책에서 그는 새로운 기술이 사회에 가져올 수 있는 변화를 개괄적으로 설명하지만, 모든 기술이 우리에게 좋은 것은 아닙니다. 한 섹션에서 그는 잠재적인 미래에 대해 다음과 같이 설명합니다.디지털 프라이버시의 성장이 실제 감시의 성장을 상쇄하면서 프라이버시와 감시 사이에 복잡한 상호작용이 일어날 것입니다.

내 이메일을 강력하게 암호화해도 벽에 비디오 모기가 내 타이핑을 지켜보고 있다면 아무 소용이 없습니다. 따라서 투명한 사회에서 강력한 개인정보 보호를 위해서는 현실 공간과 사이버 공간 사이의 인터페이스를 보호할 수 있는 방법이 필요합니다 ...... 한 가지 저기술적인 해결책은 후드 아래에서 타이핑하는 것입니다. 하이테크 솔루션은 마음과 기계 사이에 손가락이나 외부 관찰자가 볼 수 있는 채널을 통과하지 않는 어떤 종류의 연결을 구축하는 것입니다.24

현실 공간의 투명성과 사이버 공간의 프라이버시 사이의 충돌은 다른 방향에서도 나타납니다 ...... 내 PDA는 내 정보를 공개 키로 암호화하여 PDA로 전송하고, PDA는 정보를 해독하여 VR 안경을 통해 정보를 표시합니다. 고글은 화면을 통해 이미지를 표시하는 대신 작은 레이저를 사용하여 망막에 이미지를 기록하기 때문에 어깨 너머의 안경이 읽히지 않습니다. 운이 좋으면 안구 안쪽은 비공개로 유지됩니다.

우리는 신체 활동은 완전히 공개되고 정보 거래는 완전히 비공개되는 세상에 살게 될지도 모릅니다. 여기에는 몇 가지 매력적인 특징이 있습니다. 일반 시민들은 여전히 강력한 프라이버시 이점을 이용해 살인범을 찾을 수 있겠지만, 투명성이 충분히 확보된 세상에서는 모든 살인이 해결되기 때문에 살인범을 고용하는 데 드는 비용이 감당할 수 있는 수준보다 더 커질 수 있습니다. 모든 킬러는 하나의 임무를 수행한 후 곧바로 감옥에 가게 될 것입니다.

이러한 기술과 데이터 처리 간의 상호 작용은 어떨까요? 한편으로 현대의 데이터 처리 기술은 투명한 사회를 위협합니다. 데이터 처리 기술이 없다면 세상에서 일어나는 모든 일을 비디오로 녹화하더라도 매일 생산되는 수백만 마일의 비디오 테이프 중에서 원하는 6인치 테이프 조각을 찾을 수 없으므로 별 소용이 없습니다. 반면에 강력한 프라이버시를 지원하는 기술은 최신 데이터 처리 기술이 발달한 세상에서도 거래 정보를 다른 사람이 접근하지 못하도록 보호함으로써 프라이버시를 다시 확립할 수 있는 가능성을 제공합니다.

이러한 세상은 아마도 가능한 모든 세상 중에서 가장 좋은 세상일 것입니다. 모든 것이 잘 진행된다면, 우리는 물리적 폭력이 거의 없는 미래를 보게 되겠지만 그 동안 사이버 자유를 보존하고 사회의 정치적, 시민적, 문화적, 이념적 과정의 필수적인 기능을 보장하기 위해 다음과 같은 부과에 의존하는 완전한 정보 투명성에 대한 일부 제한이 있습니다.

이상적이지는 않더라도 물리적 및 디지털 프라이버시가 제로가 되어 결국 우리 마음의 프라이버시까지 포함되는 버전보다는 낫습니다. 2050년대 중반이 되면 합법적인 감청의 대상이 되지 않는 생각을 기대하는 것은 확실히 비현실적이라고 주장하는 의견들을 보게 될 것입니다. 그리고 이러한 의견에 대한 답변에는 최근 한 인공지능 회사의 LLM이 악용되어 1년 만에 3천만 명의 사적인 내면의 독백이 전체 인터넷에 유출된 사건을 지적하는 링크가 포함되어 있습니다.

사회는 항상 프라이버시와 투명성 사이의 균형에 의존해 왔습니다. 어떤 경우에는 프라이버시 제한을 지지하기도 합니다. 이와 관련하여 사람들이 흔히 주장하는 것과는 상당히 다른 예를 들자면, 저는 계약서에서 경업 금지 조항을 금지하려는 미국 정부의 움직임을 지지하는데, 이는 주로 직원들에게 직접적인 영향을 미치기 때문이 아니라 기업이 암묵적인 도메인 지식을 부분적으로 오픈소스화하도록 강제할 수 있기 때문입니다. 기업이 원하는 것보다 더 개방적인 자세를 취하도록 강요하는 것은 개인정보 보호에 제한이 될 수 있지만, 저는 이를 순이익으로 봅니다. 그러나 거시적인 관점에서 볼 때, 가까운 미래에 기술의 가장 시급한 위험은 가장 강력한 개인과 가장 강력한 국가가 모든 사람의 엄청난 양의 데이터에 접근할 수 있는 반면, 다른 사람들은 거의 아무것도 볼 수 없는 매우 불균형적인 방식으로 프라이버시가 사상 최저 수준에 가까워질 것이라는 점입니다. 따라서 모든 사람의 프라이버시를 지원하고 필요한 도구를 오픈소스, 범용성, 신뢰성, 보안성을 갖춘 도구로 만드는 것이 우리 시대의 핵심 과제 중 하나입니다.