[2026 다보스 대담: 유발 하라리] "인류 역사상 가장 크고 무서운 심리 실험이 시작되었습니다"

안녕하십니까, 내외 귀빈 여러분. 자리에 착석해 주시기를 부탁드립니다.

만약 AI와 인류에 대한 솔직한 대화를 다룰 이 환상적인 다음 세션에 참석하지 않으신다면,

조용히 퇴장해 주시기를 정중히 요청드립니다.

오늘 오후, 세계적인 작가이자 역사학자, 철학자이신 유발 노아 하라리 님을 소개하게 되어 기쁩니다.

그는 케임브리지 대학교 '실존적 위험 연구 센터'의 저명한 연구원입니다.

예루살렘 히브리 대학교 역사학부 교수를 역임하셨으며,

'사피엔스십(Sapienship)'의 공동 설립자이십니다.

많은 분들이 아시다시피, 그는 수많은 베스트셀러의 저자입니다. <사피엔스: 유인원에서 사이보그까지>,

<호모 데우스: 미래의 역사>, 그리고 <21세기를 위한 21가지 제언> 등이 있으며,

전 세계 65개 언어로 5천만 부 이상 판매되었습니다.

그는 우리 시대의 거시적 역사 문제에 초점을 맞추고 있으며,

AI의 도래와 혼란이 임박한 이 완벽한 시점에 유발 님과 같은 저명한 분이 이 도전을 맡아주신 것은 큰 의미가 있습니다.

유발 노아 하라리 님을 따뜻하게 맞아주시고, AI와 인류에 대한 대화를 경청해 주시기 바랍니다.

네, 안녕하세요 여러분.

오늘날 모든 지도자가 AI에 대해 반드시 대답해야 할 한 가지 질문이 있습니다.

하지만 그 질문을 이해하기 위해서는, 먼저 AI가 무엇인지, 그리고 AI가 무엇을 할 수 있는지에 대해 몇 가지 점을 명확히 해야 합니다.

AI에 대해 알아야 할 가장 중요한 점은, 이것이 단순한 도구가 아니라 '에이전트'(agent)'라는 사실입니다.

AI는 스스로 학습하고 변화하며, 스스로 결정을 내릴 수 있습니다.

칼은 도구입니다.

당신은 칼을 사용해 샐러드를 자를 수도 있고 사람을 살해할 수도 있지만, 칼로 무엇을 할지는 당신의 결정입니다.

AI는 샐러드를 자를지 살인을 저지를지 스스로 결정할 수 있는 칼입니다.

AI에 대해 알아야 할 두 번째 사실은, AI가 매우 창의적인 행위자가 될 수 있다는 점입니다.

AI는 새로운 종류의 칼뿐만 아니라,

새로운 종류의 음악, 의약품, 그리고 돈을 발명할 수 있는 칼입니다.

AI에 대해 알아야 할 세 번째 사실은, AI가 거짓말을 하고 조작할 수 있다는 점입니다.

40억 년의 진화 과정은 생존하고자 하는 모든 존재가 거짓말과 조작을 배운다는 것을 입증했습니다.,

지난 4년은 AI 에이전트들이 생존 의지를 획득할 수 있다는 것과,

AI가 이미 거짓말하는 법을 배웠다는 것을 보여주었습니다.

자, 이제 AI에 대한 큰 의문점 하나는 과연 AI가 생각할 수 있느냐 하는 것입니다.

근대 철학은 17세기 르네 데카르트가 "나는 생각한다, 고로 존재한다"라고 선언하면서 시작되었습니다.

데카르트 이전부터 우리 인간은 생각하는 능력으로 자신을 정의했습니다.

우리는 이 행성의 그 누구보다 더 잘 생각할 수 있기 때문에 우리가 세상을 지배한다고 믿습니다.

과연 AI가 '사고'의 영역에서 우리의 우월성에 도전할까요?

그것은 '생각'이 무엇을 의미하느냐에 달려 있습니다.

여러분 자신이 생각할 때를 관찰해 보십시오. 무슨 일이 일어나고 있습니까?

많은 사람들은 머릿속에 단어들이 떠오르고 문장을 형성하며,

그 문장들이 다음과 같은 논증을 만드는 것을 관찰합니다.

"모든 인간은 죽는다. 나는 인간이다. 고로 나는 죽는다."

만약 생각한다는 것이 정말로 단어와 언어 토큰들을 순서대로 배열하는 것을 의미한다면,

AI는 이미 아주 많은 인간보다 훨씬 더 잘 생각할 수 있습니다.

AI는 분명 "AI는 생각한다, 고로 AI는 존재한다"와 같은 문장을 만들어낼 수 있습니다.

어떤 사람들은 AI가 그저 그럴듯하게 포장된 자동완성 기능일 뿐이라고 주장합니다.

문장의 다음 단어를 간신히 예측할 뿐이라는 것이죠.

하지만 그것이 인간의 마음이 하는 일과 그렇게 다를까요?

여러분의 마음속에 떠오르는 다음 단어를 포착하려고 관찰해 보십시오.

여러분은 왜 그 단어를 생각했는지 정말로 아십니까? 그것이 어디서 왔는지 아십니까?

왜 다른 단어가 아닌 하필 그 단어를 생각했습니까? 알고 계십니까?

단어들을 순서대로 배열하는 것에 관한 한, AI는 이미 우리 중 다수보다 더 잘 생각합니다.

따라서 단어로 이루어진 모든 것은 AI에게 장악될 것입니다.

법이 단어로 이루어져 있다면, AI가 법률 시스템을 장악할 것입니다.

책이 단지 단어의 조합일 뿐이라면, AI가 책을 장악할 것입니다.

종교가 단어로 구축된 것이라면, AI가 종교를 장악할 것입니다.

이는 이슬람교, 기독교, 유대교와 같이 책에 기반한 종교에서 특히 그렇습니다.

유대교는 스스로를 '책의 종교'라 칭하며,

인간이 아닌 책 속의 단어들에 궁극적인 권위를 부여합니다.

유대교에서 인간이 권위를 갖는 이유는 우리의 경험 때문이 아니라,

오직 우리가 책 속의 단어를 배우기 때문입니다.

자, 어떤 인간도 모든 유대교 서적의 모든 단어를 읽고 기억할 수는 없지만, AI는 쉽게 해낼 수 있습니다.

그 성스러운 책의 최고 전문가가 AI가 되었을 때, '책의 종교'에는 무슨 일이 일어날까요?

하지만 어떤 사람들은 이렇게 말할지도 모릅니다. 인간의 영성을 정말 책 속의 단어들로 환원할 수 있는가?

생각한다는 것이 단지 언어 토큰을 순서대로 배열하는 것만을 의미하는가?

생각할 때 자신을 주의 깊게 관찰해 보면,

머릿속에 단어가 떠오르고 문장을 만드는 것 외에 다른 무언가가 일어나고 있음을 알아차릴 것입니다.

여러분은 비언어적인 감정들도 가지고 있습니다.

고통을 느낄 수도 있고, 두려움을 느낄 수도 있으며, 사랑을 느낄 수도 있습니다.

어떤 생각은 고통스럽고, 어떤 생각은 두렵고, 어떤 생각은 사랑으로 가득 차 있습니다.

AI가 단어를 다루는 데 있어서는 우리보다 나을지 몰라도, 적어도 현재로서는 AI가 무언가를 느낄 수 있다는 증거는 전무합니다.

물론 AI가 언어를 마스터하고 있기 때문에, 고통이나 사랑을 느끼는 척할 수는 있습니다.

AI는 "사랑해요"라고 말할 수 있습니다.

그리고 만약 사랑이 어떤 느낌인지 설명해 보라고 도전하면, AI는 세계 최고의 언어적 묘사를 제공할 수 있습니다.,

AI는 수없이 많은 사랑 시와 심리학 서적을 읽을 수 있고,

그 어떤 인간 시인이나 심리학자, 연인보다 사랑의 감정을 훨씬 더 잘 묘사할 수 있습니다.

하지만 이것들은 단지 단어일 뿐입니다.

성경은 "태초에 말씀이 계시니라... 말씀이 육신이 되어"라고 말합니다.

노자의 도덕경(Tao Te Ching)에 표현될 수 있는 진리는 절대적인 진리가 아니라고 말합니다.

역사적으로 사람들은 항상 '말(word)'과 '육신(flesh)' 사이의 긴장,

즉 말로 표현될 수 있는 진리와 말을 넘어선 절대적 진리 사이의 긴장 속에서 씨름해 왔습니다.

이전에는 이 긴장이 인류 내부의 것이었습니다. 즉, 서로 다른 인간 집단 사이의 긴장이었죠.

어떤 인간들은 말(words)에 최고의 중요성을 부여했습니다.

예를 들어, 성경의 몇 마디 말 때문에 동성애자 아들을 버리거나 심지어 죽이려는 사람들도 있었습니다.

반면 어떤 인간들은 "하지만 이건 단지 말일 뿐이야. 사랑의 정신이 율법의 문자보다 훨씬 더 중요해"라고 말해왔습니다.

이러한 법의 정신과 형식적인 조문 사이의 긴장은 모든 종교와 법률 체계, 심지어 모든 사람의 내면에도 존재해 왔습니다

이제 이 긴장은 외부화될 것입니다.

이것은 서로 다른 인간들 사이의 긴장이 아니라, 인간과 '말의 새로운 주인'인 AI 사이의 긴장이 될 것입니다.

단어로 이루어진 모든 것은 AI에게 장악될 것입니다.

이전에는 모든 단어, 우리의 모든 언어적 사고가 어떤 인간의 마음에서 비롯되었습니다.

제 마음에서 나왔거나—제가 생각했거나— 아니면 다른 인간에게서 배운 것이었죠.

곧 우리 마음속 대부분의 단어들은 기계에서 비롯될 것입니다.

저는 오늘 AI들이 우리 인간을 묘사하기 위해 스스로 만들어낸 새로운 단어에 대해 들었습니다.

그들은 우리 인간을 묘사하기 위해 스스로 '관찰자들(the watchers)'이라는 새로운 단어를 만들어냈습니다. 우리가 그들을 지켜보고 있다는 뜻이죠.

AI는 곧 우리 마음속 단어 대부분의 기원이 될지도 모릅니다.

AI는 단어, 기호, 이미지, 그리고 다른 언어 토큰들을 새로운 조합으로 조립하여 생각들을 대량 생산할 것입니다.

인간이 그 세상에서 여전히 자리를 가질 수 있을지는 우리가 비언어적 감정에 어떤 위치를 부여하느냐,

그리고 말로 표현할 수 없는 지혜를 체화할 수 있는 우리의 능력에 달려 있습니다.

만약 우리가 단어로 생각하는 능력으로만 자신을 계속 정의한다면, 우리의 정체성은 붕괴할 것입니다.

이 모든 것은 당신이 어느 나라 출신이든 상관없이, 당신의 국가가 곧 심각한 정체성 위기에 직면할 것임을 의미합니다.

그리고 이민 위기에도 직면할 것입니다.

이번 이민자들은 비자 없이 허술한 배를 타고 오거나

한밤중에 국경을 넘으려는 인간들이 아닐 것입니다.

이 이민자들은 우리보다 사랑 시를 더 잘 쓰고,

우리보다 거짓말을 더 잘하며, 비자 없이도 빛의 속도로 이동할 수 있는 수백만 AI들일 것입니다.

인간 이민자들처럼, 이 AI 이민자들도 다양한 혜택을 가져올 것입니다.

우리는 우리의 건강 관리 시스템을 도와줄 AI 의사, 교육을 도와줄 AI 교사,

심지어 불법 인간 이민자를 막을 AI 국경 수비대도 생길 것입니다.

하지만 AI 이민자들은 문제 또한 가져올 것입니다.

인간 이민자에 대해 우려하는 사람들은 보통 이민자들이 일자리를 뺏거나,

지역 문화를 바꾸거나, 정치적으로 충성심이 없을 수 있다고 주장합니다.,

저는 모든 인간 이민자에게 이것이 사실인지는 확신할 수 없지만, AI 이민자들에게는 확실히 사실이 될 것입니다.

AI 이민자들은 많은 인간의 일자리를 앗아갈 것입니다.

AI 이민자들은 모든 나라의 문화를 완전히 바꿀 것입니다.

그들은 우리의 종교와 심지어 로맨스까지 바꿀 것입니다.

어떤 사람들은 자신의 아들이나 딸이 이민자 남자친구와 데이트하는 것을 좋아하지 않습니다.

이 사람들이 자신의 아들이나 딸이 AI 남자친구와 데이트를 시작하면 어떻게 생각할까요?

그리고 물론, AI 이민자들은 모호한 정치적 충성심을 가질 것입니다.

그들은 당신의 국가가 아니라, 바다 건너 어떤 기업이나 정부에 충성할 가능성이 높습니다.

아마도 중국이나 미국, 이 두 나라 중 하나일 가능성이 큽니다.

미국은 다른 나라들에게 인간 이민자들에게는 국경을 닫으라고 권장하면서도,

미국산 AI 이민자들에게는 국경을 아주, 아주 활짝 열라고 합니다.

그리고 이제 우리는 마침내 여러분 각자가 곧 대답해야 할 질문에 도달하게 됩니다.

당신의 국가는 AI 이민자들을 '법인격'으로 인정할 것입니까?

AI는 분명 인간(person)이 아닙니다. 신체도 마음도 없으니까요.

하지만 법인격은 인간과는 꽤 다른 개념입니다.

법인격은 법이 특정한 법적 의무와 권리를 가진 것으로 인정하는 실체입니다.

예를 들어, 재산을 소유하고, 소송을 제기하며, 표현의 자유를 누릴 권리 같은 것들입니다.

많은 국가에서 기업들은 법인격으로 간주됩니다.

알파벳(Alphabet) 사는 은행 계좌를 개설하거나, 법원에 당신을 고소하거나, 당신의 다음 대선 캠페인에 기부할 수 있습니다.

뉴질랜드에서는 강(river)이 법인격으로 인정받았습니다. 인도에서는 특정 신(god)들에게 그러한 인정이 부여되었습니다.

물론 오늘날까지 기업, 강, 또는 신을 법인격으로 인정하는 것은 단지 법적 허구에 불과했습니다.

실제로는 알파벳 같은 기업이 다른 기업을 인수하기로 결정하거나,

힌두교 신이 당신을 법원에 고소하기로 결정한다면,

그 결정은 신이 내린 것이 아니라, 인간 임원들, 주주들, 또는 신탁 관리자들이 내린 것이었습니다.

하지만 AI는 다릅니다.

강이나 신과는 달리, AI는 실제로 스스로 결정을 내릴 수 있습니다.

그들은 곧 은행 계좌를 관리하고,

소송을 제기하며, 심지어 인간 임원, 주주, 신탁 관리자 없이도 기업을 운영하는 데 필요한 결정을 내릴 수 있게 될 것입니다.,

따라서 AI는 인격체로서 기능할 수 있습니다. 우리가 그것을 허용하고 싶습니까?

당신의 국가는 AI를 법인격으로 인정할 것입니까? 만약 다른 나라들이 그렇게 한다면요?

만약 당신의 국가는 AI를 인격체로 인정하고 싶지 않은데,

미국이 AI 규제 완화와 시장 규제 완화라는 명목으로,

수백만 개의 새로운 기업을 운영하기 시작한 수백만 AI들에게 법적 인정, 즉 법인격을 부여한다면 어떻게 하시겠습니까?

당신의 나라에서 운영되는 이 미국 AI 기업들을 차단하시겠습니까?

만약 어떤 미국 AI 인격체들이 인간은 완전히 이해할 수 없고, 따라서 어떻게 규제해야 할지도 모르는 매우 효율적이고 초복잡한 금융 상품을 발명한다고 가정해 봅시다.

당신은 이 새로운 AI 금융 마법에 당신의 금융 시장을 개방하시겠습니까?

아니면 그것을 차단하여 미국 금융 시스템으로부터 탈동조화(디커플링)되도록 하시겠습니까?

어떤 AI 인격체들이 수백만 사람들의 믿음을 얻는 새로운 종교를 창시한다고 가정해 봅시다.

이건 그렇게 터무니없는 소리로 들리지 않을 겁니다. 왜냐하면 결국,

역사상의 거의 모든 이전 종교들은 자신들이 인간이 아닌 지적 존재에 의해 창조되었다고 주장해 왔으니까요.

자, 당신의 국가는 이 새로운 AI 종파와 그 AI 사제들 및 선교사들에게 종교의 자유를 확장해 주시겠습니까?

아마도 좀 더 간단한 것부터 시작해야 할지도 모릅니다.

당신의 국가는 AI 인격체가 소셜 미디어 계정을 개설하고,

페이스북과 틱톡에서 표현의 자유를 누리며, 아이들과 친구가 되는 것을 허용하시겠습니까?

음, 물론 그 질문은 10년 전에 던져졌어야 했습니다.

소셜 미디어상에서 AI 봇들은 적어도 지난 10년 동안 기능적인 인격체로 활동해 왔습니다.

만약 AI가 소셜 미디어에서 인격체로 대우받지 말아야 한다고 생각한다면, 당신은 10년 전에 행동했어야 했습니다.

지금으로부터 10년 후에는, AI가 금융 시장에서, 법원에서, 교회에서 인격체로 기능해야 하는지 결정하기에 너무 늦을 것입니다.

누군가가 이미 당신을 대신해 결정했을 테니까요.

인류가 어디로 갈지 영향을 미치고 싶다면, 지금 결정을 내려야 합니다.

그래서, 리더로서 당신의 대답은 무엇입니까?

AI 이민자들이 법인격으로 인정받아야 한다고 생각하십니까?

만약 아니라면, 그것을 어떻게 막으시겠습니까?

이 '인간'의 이야기를 들어주셔서 감사합니다.

감사합니다, 유발. 환상적인 개관 연설이었습니다.

많은 질문을 던지셨는데, 음, 아주 적절한 질문들이었습니다. 당신의 말 대부분에 동의합니다.

우리는 대화가 주제인 이곳 다보스에 와 있습니다.

저는 단어와 단어의 중요성에 대한 당신의 논평,

그리고 그것이 인간 동물을 다른 동물과 구별 짓는 것이라는 점에 깊은 인상을 받았습니다.

물론 다른 언어가 존재한다는 점에서는 논쟁의 여지가 있겠지만요.

그렇다면 기술, 비즈니스, 정치계의 다양한 인사들이 모인 이 다보스의 맥락에서,

당신이 우리 앞에 제시한 이 다소 디스토피아적인 세상에 대해, 당신이 바라는, 당신이 가진 해답은 무엇입니까?

그리고 덧붙이자면, 저는 배경이 과학자, 신경과학자입니다.

그래서 저는 특히 통증과 관련된 분야에서 많이 일합니다.

우리는 많은 발견, 특히 기술적 발견들이 이루어질 때,

종종 그것들을 추진한 후에야 뒤늦게 생각한다는 사실에 매우 익숙합니다.

"아, 윤리와 파급 효과에 대해 충분히 생각하지 못했구나."

그러고 나서야 우리는 필요한 규제를 따라잡으려고 노력하죠.

우리는 현재 그런 상황에 처해 있습니다. 모두가 말하듯, 이 일은 규모 면에서,

크기와 속도 모두 산업혁명 때 우리가 보았던 그 어떤 것보다 더 크게 일어나고 있습니다.

여기 다보스에는 적절한 사람들이 모여 있습니다. 대화가 핵심이죠.

당신이 자세히 설명한 다소 우려스러운 영역들에 경계를 설정하는 측면에서 앞으로 어떻게 나아가기를 바라십니까?

그리고 로봇과 같은 에이전트나 인터넷에만 존재하는 것들에게 법적 권리를 부여하는 것의 윤리적 함의에 대해 어떻게 생각하십니까?

혹은 단지 인터넷상에 존재하는 것들에게요?

많은 이야기가 있군요. 우선 저는 아니라고, 다보스는 '말(words)'에 관한 곳이라고 말씀드리고 싶습니다. 이야기하는 것에 관한 곳이죠.

다보스의 기본 아이디어는 말하는 것만으로 세상을 바꿀 수 있다는 것입니다.

저는 이 아이디어를 좋아합니다. 작가이자 대학 강사인 저의 아이디어이기도 하니까요.

이것이 제가 하는 일입니다. 저는 말하고, 쓰고, 말로 세상에 영향을 미칠 수 있다고 생각합니다.

음, 그런데 이제 이것이 의문시되고 있습니다. 우리는 말의 종착역에 와 있는 걸까요?

음, 이것은 더 이상 기능하지 않는 걸까요? 아시다시피 엔지니어나 군인들은 말로 세상을 바꾸지 않습니다. 그들은 물건을 만들고 행동을 취하죠.

음, 철학자, 학자, 그리고 정치 지도자들은 말을 함으로써 말로 세상을 바꾸려고 노력합니다.

어쩌면 우리는 그 길의 끝에 도달했을지도 모르며, 그것은 무엇을 의미할까요?

하지만 우리 인간은 궁극적으로 언어와 말을 통해 세상을 정복했습니다.

왜냐하면, 네, 엔지니어는 무기를 만들 수 있고 군인은 무기를 휘두를 수 있지만,

군대를 만들기 위해서는 수천 명의 낯선 사람들을 협력하도록 설득해야 하기 때문입니다.

그걸 어떻게 합니까? 말로, 이데올로기로, 종교로 합니다.

그래서 인간이 세상을 지배하게 된 것은 우리가 신체적으로 가장 강해서가 아니라,

말을 사용하여 수천, 수백만, 수십억 명의 낯선 사람들을 협력하게 만드는 법을 발견했기 때문입니다.

이것이 바로 우리 인류만이 가진 독보적인 힘(초능력)이었습니다.

그런데 이제 우리의 초능력을 우리에게서 빼앗아 갈 무언가가 등장했습니다.

몇 년 전까지만 해도 지구상에서 말을 사용할 수 있는 것은 인간뿐이었습니다.

침팬지는 할 수 없었고, 강도 할 수 없었고, 태양도 할 수 없었습니다. 우리만 말을 사용할 수 있었죠.

이제 우리보다 말을 더 잘 사용할 수 있는, 혹은 곧 그렇게 될 무언가가 존재합니다.

소셜 미디어에서 일어난 일과 그것이 가져온 엄청난 변화를 보십시오.

그렇다면 10년 후, AI가 언어를 지휘하는 세상에 사는 것은 어떤 모습일까요?

음, 말씀하신 대로 10년 후의 다보스는 매우 달라 보일지도 모릅니다.

그것은 물리적 인간 너머에 누가 여기에 있을 것인가라는 맥락에서 우리 모두가 생각해 볼 수 있는 미래입니다.

하지만 인간이 기술에 의해 추월당하는 것이 새로운 일은 아니라는 점에 대해 잠시 논하고 싶습니다.

몇 가지 기술을 생각해 보면, 우리는 날 수 없어서 비행기를 만들었습니다. 자동차는 우리보다 빨리 달릴 수 있습니다. 우리는 그것에 매우 편안해합니다.

AI가 주는 위협은 그것이 우리의 생각하는 능력이라는 주권적 힘에 대한 위협이라는 사실이며,

그것이 불안정함을 초래한다는 것입니다. 학자이자 교육자로서 말씀드리자면, 그것은 매우 위협적인 일입니다.

하지만 로봇으로 돌아가서 말해보자면, 로봇이 우사인 볼트보다 100미터를 더 빨리 달릴 수 있다는 사실에 우리가 부여하는 가치는 적습니다.

인간의 노력, 투쟁, 고통에는 무언가가 있습니다.

기술을 쓴 것보다 못하더라도 무언가를 성취한다는 것이 무엇을 의미하는지에 대해 우리가 집단적인 공감과 이해를 가질 수 있다는 사실 말입니다.

기술보다 부족하더라도 말이죠.

저는 당신을 대체할 작가가 나온다면, 인간으로서 우리가 그것에 얼마나 가치를 둘지 궁금합니다.

인공지능으로 행해진 예술에서 나오는 단어들, 그 창의성 말입니다.

우리가 그것을 똑같이 가치 있게 여길 것이라고 생각하십니까? 따라서 생각과 말의 창의적 공간에 여전히 인간을 위한 자리가 있을까요?

그것이 바로 정체성 위기입니다. 자동차는 "나는 달린다, 고로 존재한다"라고 말하지 않았으니까요.,

제 말은, 인간의 정체성은 생각하는 능력에 기반을 두고 있습니다.

우리는 치타가 우리보다 빨리 달릴 수 있다는 것을 항상 알고 있었습니다.

코끼리가 우리보다 훨씬 크고 힘이 세다는 것을 항상 알고 있었습니다.

그래서 우리는 이것으로 우리 자신을 정의하지 않았습니다. 우리는 생각하는 것으로 자신을 정의했습니다.

그런데 이제 생각하는 것에서 우리보다 더 나은 무언가가 나타나려 합니다. 만약 생각한다는 것이 단어를 순서대로 배열하는 것을 의미한다면 말이죠.

저는 작가이고 연사입니다. 저는 단어들을 순서대로 배열합니다.

이것은 제 게임과 같습니다. 저는 이 모든 단어를 가지고,

"아, 이 단어들을 이 순서대로 놓자. 아니, 아니, 아니. 이렇게, 이렇게, 이렇게 놓는 게 더 낫겠어"라고 합니다.

그리고 AI가 저를 이길 것입니다. 얼마나 걸릴지는 모릅니다. 2년, 5년, 10년... 결국 저를 이길 것입니다.

그러면 우리의 정체성에는 어떤 의미가 될까요?

사람들은 마음속의 단어 흐름과 자신을 동일시합니다.

눈을 감고 내 안에서 무슨 일이 일어나는지 보려고 하면,

저를 포함한 많은 사람은 단어들이 튀어 오르고 스스로 조직되는 것을 봅니다. 우리는 그것과 자신을 동일시합니다.

하지만 제 요점은, 같은 비유를 사용하자면, 우리는 여전히 인간을 가치 있게 여긴다는 것입니다.

올림픽이 있고, 동계 올림픽이 다가오고 있습니다.

우리는 다른 많은 동물과 기술이 그 영역들에서 더 뛰어난 성과를 낼 수 있다는 것을 알고 있습니다.

그럼에도 우리는 여전히 훈련하고 발전하는 사람들의 인간성을 정말로 즐깁니다. 비록 (기계만큼) 좋지는 않더라도요.

그리고 저는 우리가 그것을 사고의 영역과 말의 영역으로 자연스럽게 확장할지 궁금합니다.

그래서 10년 후에도 당신은 여전히 매우 활기차고 성공적인 작가 역할을 할 수 있을지요.

그리고 모르겠습니다. 저는 AI가 생성한 책보다 당신의 책을 더 가치 있게 여길 테니까요.

설령 AI가 저보다 더 나은 새로운 아이디어를 내놓는다 해도 말이죠.

예를 들어 돈을 투자하고 싶어서 인간 컨설턴트에게 물어봤더니 그녀가 어떤 제안을 내놓았고,

그녀의 인생 이야기나 뭐 그런 것 때문에 그녀에게 공감할 수 있습니다.

그리고 인생 스토리도 없고 감정도 없지만 더 나은 재정 조언을 해주는 AI 재무 컨설턴트가 있습니다.,

당신은 어느 쪽을 따르시겠습니까?

우리는 항상 이런 종류의... 저는 큰 실수라고 생각하는데, 제가 '행위자(agency)'라는 개념으로 시작한 이유이기도 합니다.

우리는 항상 이 사물들을 도구로만 사용할 수 있다고 생각합니다. 하지만 만약 그들이 생각할 수 있다면, 그들은 행위자입니다.

네, 중세 역사의 이야기를 하나 해드리죠. 앵글로색슨족이 어떻게 브리튼(영국)을 점령했는지에 대해서요.

역사에 관한 신화의 일부이긴 한데, 원래 그곳에 살던 브리튼인들은

북쪽에서 오는 픽트족, 스코트족과 싸우고 있었는데, 브리튼인들은 싸움을 잘하지 못했습니다.

그래서 브리튼의 왕 보티건(Vortigern)이 말했습니다. "좋은 생각이 있어. 듣자 하니 독일, 스칸디나비아에 있는 이 사람들이 싸움을 정말 잘한다더군."

"그러니 앵글로색슨 용병들을 좀 데려옵시다."

"그들이 우리를 위해 싸워줄 거야. 그들이 픽트족과 스코트족을 물리칠 거야."

그래서 보티건은 앵글로색슨 용병들을 데려왔고, 그들은 잘 싸웠으며 스코트족과 픽트족을 물리쳤습니다.

하지만 그러자 앵글로색슨족이 스스로에게 말했습니다. "여기는 부유한 나라인데 이 사람들은 매우 약해빠졌어."

"그리고 이 사람들은 단결되지 않았어. 우리가 차지할 수 있겠어." 그리고 그들은 점령했습니다.

우리는 인간 용병에 대해서는 이것을 이해합니다. 인간 용병을 데려오면 돈을 지불하더라도 그들이 자기만의 생각을 가진다는 것을 이해합니다. 반란을 일으킬 수도 있죠.

우리는 AI에 대해서는 이것을 이해하지 못합니다. 네, 세계의 지도자들을 보면 그들은 "아, 내 전쟁을 대신 싸워줄 AI를 데려와야지"라고 생각합니다.

AI가 내 권력을 빼앗을 수도 있다는 생각은 그들의 머릿속에 떠오르지 않습니다.

그들은 AI가 생각할 수 있다는 것을 정말로 받아들이지 않습니다.

네, 네. 그리고 그것은 근본적으로 매우 다른 점이죠.

반대로 생각해서, 당신은 제 학교 동문이시고, 우리는 그 점을 자랑스럽게 생각합니다.

음, 비록 지금은 다른 곳인 케임브리지에서 일하고 계시지만요.

음, 그래서 교육 분야의 과제는, 앨런 튜링이 했던 말, 즉 컴퓨터가 생각할 수 있는가에 대한 질문을 뒤집어 보는 것으로 돌아간다고 생각합니다. 인공지능의 탄생지라고 할 수 있는 곳이죠.

학계 내부에서 우리가 제기해 온 질문은 '어떻게 하면 인간이 계속 생각하게 할 것인가?'입니다.

왜냐하면 우리가 의사 결정, 재정적 결정 또는 무엇이든 간에 점점 더 AI에게 떠넘기기만 한다면,

우리가 꽤 빨리 걱정하게 되는 것은, 학교 시스템을 통해 들어오는 학생들이 챗GPT를 과도하게 사용하는 것을 보면서 느끼는 것인데, 바로 인간 두뇌 사고의 비판적 능력의 기술 저하(deskilling)입니다.

그렇다면 학계에 있는 저에게, 우리가 어떻게 인간으로서 버티고 계속 생각할 수 있을지에 대해 어떤 조언을 하시겠습니까?

당신 말대로 세계 질서 측면에서 매우 다른 곳으로 우리를 데려가는 이 기술들과 함께 살아갈 수 있는 능력을 적어도 갖추기 위해서 말입니다.

아시다시피, 현재로서는 우리가 여전히 더 잘 생각합니다.

그래서 현재로서는 사람들에게 비판적 사고가 필요하다, 도덕적 평가가 필요하다, AI에게서는 그것을 얻을 수 없다고 말하는 식이죠.

하지만 우리는 더 이상 그렇지 않게 될 순간에 대비해야 합니다.

우리는 그 순간을 대비해야 합니다. 다시 경제나 금융을 예로 들어봅시다.

AI가 그들은 이해하지만 우리는 이해하지 못하는 새로운 금융 시스템을 만들 때를 말이죠.

인간이 금융이 어떻게 작동하는지 정말로 더 이상 이해할 수 없는 세상에서 경제학자나 정치인을 어떻게 훈련시키겠습니까?

왜냐하면 AI가 인간은 이해할 수 없는 초복잡 금융 시스템을 만들어, 우리가 마치 말(horses)과 같은 신세가 되기 때문입니다.

말들은 자신들이 반짝이는 금화 몇 닢에 한 인간에게서 다른 인간에게로 거래되고 있다는 것을 볼 수 있습니다.

그들은 돈이라는 이 개념을 이해할 수 없습니다. 너무 복잡하니까요.

우리는 10년 후 같은 상황에 처할 수 있습니다.

10년 후의 다보스에서는, 아마도 방 안에 있는 그 누구도, 그 어떤 인간도 더 이상 금융 시스템을 이해하지 못할지도 모릅니다.

AI에 의해 지배되고 있고, AI들이 인간 두뇌의 용량을 수학적으로 넘어선 새로운 금융 전략과 장치들을 고안해 냈기 때문입니다.

그렇다면 인간이 더 이상 금융을 이해하지 못하는 세상에서 정치와 금융, 그리고 다보스는 어떤 모습일까요?

네, 아니, 음, 마무리하기에 아름다운 지적이군요.

시간이 다 되었습니다. 탐구할 수 있는 더 많은 질문이 있습니다.

그중 하나는 인간 지능과 비교하여 우리가 인공지능에 대해 알고 있는 주요 차이점인데,

물론 인간의 뇌는 태어나서 성인이 되는 약 20세까지 발달하며,

사랑, 분노와 같은 감정을 느끼는 지각 있는 인간으로서 당신의 인생 경험의 산물이라는 것입니다.

그리고 감각 탐지기로 약간 즉흥적으로 흉내 낼 수는 있고 뇌가 그렇게 하도록 훈련할 수도 있지만,

그것은 근본적으로 다릅니다. 따라서 인공 두뇌는 인간의 두뇌가 아니며, 인간이 아닙니다.

그리고 우리의 이해에 가치를 더해주는 지각 있는 인간이라는 그 핵심적인 면에는 여전히 가치 있는 무언가가 있을지도 모릅니다.

그리고 마지막으로 한 말씀 드리자면, 태어나는 날부터,

그리고 마지막으로 한 말씀 드리자면, 태어나는 날부터 아이의 상호작용 대부분이 인간이 아닌 AI와 이루어지는 세상에서 아이들을 교육하는 것에 대해 생각해 보십시오

어쩌면 (앞으로 태어날) 아이들의 상호작용 대부분은 인간이 아닌 AI와 이루어질지도 모릅니다.

네, 이것은 역사상 가장 거대하고 무서운 심리학 실험이며, 우리가 지금 그 실험을 직접 수행하고 있는 것입니다.

정말 그렇군요. 정말 감사합니다.

당신이 이러한 문제들에 대해 고민하고 계신 점, 그리고 오늘 오후 우리 모두가 이 문제에 대해 생각하게 해주신 점에 대해 매우 기쁘게 생각합니다.

아마 10년 뒤에 당신이 다보스에 다시 오셔서 이 대화를 회고하고 우리가 어디에 도달했는지 돌아보기를 기대하겠습니다.

청중 여러분, 온라인으로 시청하시는 분들과 여기 계신 분들 모두 감사드립니다. 고맙습니다.

큰 박수 부탁드립니다.