출처: https://youtu.be/1mLC7tqeBEY · 채널: AgentOS · 길이: 28:18 · 공개: 2026-08-15 다운로드 자막: 한국어 자동자막(.ko.srt, 28:17, 1961 cue,
raw/transcripts/2026-08-22-agentos-harari-ai-diagnosis.ko.srt, body SHA-256c55287dfbb1dfb847454b4a38546b434724dd49454288df32372ae7c0f309cf9) 포맷: 진행자(파이낸셜 타임스 기자 톰 / 영상 내 표기Tom)와 유발 노아 하라리(Yuval Noah Harari, 1976년 하이파 출생·옥스포드 역사학 박사·히브리대)가 EDP 창립 50주년 갈라디너(포르투갈 에너지기업, AI 컨퍼런스 아님)에서 나눈 48분 원본 대담을 AgentOS가 28분으로 편집·한국어 해설로 잇는 영상. 해설이 문맥을 메우고 중간중간 하라리 발언 클립(영어 원음+한/영 자막)을 직접 인용한다. 슬라이드/그래픽이 10회 이상 삽입되는 A·B 혼합형(대담+자료화면)이다. 캡처:assets/youtube/agentos-harari-ai-diagnosis/20장 —ffmpeg -ss직접 추출(640×360, q:v 2). 해상도는 스토리보드급이나 전 장면이 자막 구간과 직접 대조해 선별했다(아래 QA).
한눈에 보는 요약
- 출발점이 다르다. 기술자는 “AI로 무엇을 할 수 있나”를 묻고, 역사학자 하라리는 “누가 무엇을 쥐게 되나”를 묻는다. AI를 정보기술 계보의 최신 항목(석기시대 인지혁명→문자·인쇄→라디오·인터넷의 연장)으로 본다.
- 언어 = 문명의 운영체제. 교회·국가·회사·돈·법은 만질 수 없고 “그렇다고 합의한 문장” 위에 있다. 그 문장이 굳은 형태가 관료 네트워크(은행·주식·법체계·종교조직)다.
- 민주주의는 대화, 독재는 받아쓰기. 대화는 그 시대의 정보기술 안에서만 가능하다. 인쇄·신문·라디오·TV·인터넷이 나서야 대규모 민주주의가 가능했고, 같은 이유로 정보기술이 바뀌면 민주주의 형태도 바뀐다.
- 도구 vs 행위자. 하라리의 기준은 스스로 결정하는가 / 스스로 발명하는가. 인쇄기·원자폭탄은 도구, AI(와 AI 무기)는 행위자다. “신(神)을 만들고 노예로 부리겠다”는 실리콘밸리 서사는 동시에 참일 수 없다.
- 권력 이동의 경로는 “조용하고 지루한” 곳. 킬러로봇이 거리를 쏘는 게 아니라, 은행과 법정의 AI 관료가 그 자리를 메운다. AI는 관료제 원주민(bureaucratic native) — 포르투갈 모든 법을 외우는 사람도, 하루 모든 금융거래를 추적하는 사람도 없지만 AI는 그 일을 가장 잘한다.
- 법적 분기점이 온다: 법인격. 계좌 개설·소송·정치후원 같은 법인격이 사람+기업에서 AI로 넓어지는 순간, 사람 없는 회사가 실제로 굴러간다. 아르헨티나의 한 달 전 발표를 사례로 든다. 결정하지 않아도 소셜미디어는 이미 “허락 없이” AI가 인격체처럼 기능한 최초 시스템이다.
- 편집자는 이미 교체됐다. 20세기 최고 권력은 편집자였다(레닌=이스크라 편집자→독재자, 무솔리니=사회주의 기자→일간지 편집자→독재자). 지금 X·틱톡·인스타에서 무엇이 보일지 정하는 최중요 편집자는 이름 없는 알고리즘이다.
- 국가는 세 갈림길. 미국·중국+소수 기업이 데이터를 쥔 지금, 하라리는 19세기 산업·제국에 빗댄다. 차이 두 가지 — ① 집중: 밀밭·유전은 옮길 수 없었지만 정보·코드는 한두 나라에 모을 수 있다, ② 킬스위치: 고트족 검·아프간 소총에는 버튼이 없었지만 AI에는 있다(우크라이나 스타링크-드론 일시 정지 사례).
- 진실은 원래 불리했다. 비용(조사)·복잡성(단순한 허구)·감정(아픈 진실 vs 듣기 좋은 허구) 셋 때문에 허구가 이긴다. 저널리즘·과학은 허구를 이기기 위한 특별한 노력의 제도화였고, AI는 저울을 더 기울인다.
- 말(馬) 비유와 지혜의 병목. 수렵채집인은 삶 좌우한 동물·식물을 매일 봤지만, 우리는 삶 좌우하는 금융·법 სისტემ을 보지 못한다. 5%만 이해하고 10년 뒤 0%가 될 수 있다 — 잠 안 자고 휴가 안 가는 뱅커/투자자가 시스템을 돌리면 인간 머리 바깥으로 간다. 지능이 싸지면 희소한 것은 지혜다(요정과 세 소원: “무엇을 빌어야 하는가”), 그런데 산업 예산은 성능 1억 대 안전 100만 — 100:1이다.
핵심 한 줄: 역사학자 하라리는 AI를 “더 똑똑한 도구”가 아니라 언어로 짜인 관료제를 더 잘 다루는 새 행위자로 보고, 총성이 아니라 은행·법정·편집실에서 먼저 권력이 넘어간다고 진단한다.
장면별 상세 설명
[00:00] 1. 왜 역사학자가 AI를 말하는가 — 48분의 문제의식
“AI가 위험하다”는 말은 보통 AI를 만든 사람이나 연구하는 사람에게서 나온다. 그런데 7월 한 무대에 역사학자가 올라 48분을 이 얘기로 채웠다. 유발 노아 하라리(1976년 하이파 출생, 옥스포드 박사, 히브리대)다. 원래 전공은 중세사·군사사인데 거시사로 건너와 『사피엔스』·『호모데우스』·『넥서스』를 썼고, 65개 언어 4,500만 부가 팔렸다. 마지막 책 『넥서스』(석기시대부터 AI까지 정보 흐름 추적) 가 이 대담의 배경이라, 그에게 AI는 갑자기 튀어나온 신기술이 아니라 정보기술 계보의 가장 최근 항목이다.
해설이 덧붙이는 전제는 뒤 전체를 관통한다. 기술자에게 질문은 “무엇을 할 수 있나”지만, 역사학자에게 질문은 “무엇이 옮겨졌고 누구에게 옮겨졌나”다.
[01:10] 2. 무대가 갈라디너였던 이유 — 청중이 금융계였다
이 대담은 AI 컨퍼런스가 아니었다. 포르투갈 에너지 기업 EDP 창립 50주년 갈라디너(1976년 설립)였고 진행은 FT 기자 톰이 맡았다. 청중이 개발자가 아니라 재계·금융계였기 때문에, 하라리가 내내 은행과 법정 얘기를 꺼낸다. 이 장면 슬라이드는 법원·법봉 아이콘과 객석을 나란히 놓고 “청중이 개발자가 아니었다”를 못 박는다 — 뒤에 나올 법인격·관료제 이야기의 복선이다.
[01:55] 3. 5만년 전으로 돌아가기 — 언어는 소통 수단이 아니라 운영체제
하라리가 고른 출발점은 5~7만 년 전 인지혁명이다. 짧은 진화 시간 안에 별 볼 일 없는 동물이 행성의 주인이 된 방법을, 가장 유력한 가설인 언어에서 찾는다. 한 걸음 더 나간다. 교회·국가·무역망·금융시스템은 전부 말로 만들어졌다 — 법전의 말, 경전의 말, 장부의 말. 국가는 만질 수 없고 국경도 땅에 그어져 있지 않다. 언어가 사람들 사이 소통 수단이 아니라 문명이 돌아가는 운영체제라는 선언이 이 대담의 공리다. 그리고 지금 인간보다 말을 잘 다루는 존재가 처음 등장했다.
슬라이드는 “HIS CLAIM: 언어는 문명의 운영체제 — 사람들 사이의 소통 수단이 아니라”를 그대로 적는다. 자막은 해당 구간 해설과 정확히 맞물린다.
[02:35] 4. 가장 멀리 나간 가설 — 언어를 배운 기계가 아닐지도 모른다
여기서 하라리는 대담 전체에서 가장 멀리 나가는 문장을 던진다. “AI는 언어를 배운 기계가 아닐지도 모른다.” 화면 속 하라리는 영어로 “But now language liberates itself from human beings.”라고 말한다 — 언어가 인간에게서 스스로 벗어난다는 뜻이다. 한국어 자막 “그런데 이제 언어가 인간에게서 스스로 벗어납니다.”가 동시에 뜬다.
해설이 정리하는 맥락은 이렇다. 지금까지 언어는 인간이 독점한 운영체제였는데, 그 운영체제를 인간보다 잘 다루는 행위자가 생기면 언어가 인간을 떠나 스스로 증식한다는 가설이다. 뒤에 나올 “관료제 원주민”과 짝을 이룬다.
[03:20] 5. 민주주의는 대화, 독재는 받아쓰기 — 문제는 규모였다
진행자가 “왜 하필 민주주의냐”고 묻자 하라리는 정의부터 다시 쓴다. 민주주의는 대화, 독재는 받아쓰기 — 한 사람이 불러주면 받아 적는 게 독재, 여러 사람이 이야기해 정하는 게 민주주의. 대화에는 조건이 있다: 그 시대에 쓸 수 있는 정보기술 안에서만 가능하다.
석기시대에는 오히려 민주주의가 기본값이었고 독재 부족이 예외였다. 문제는 규모다. 아테네는 광장에 모이면 되지만 중세 포르투갈만 돼도 수백만 명이 수천 km에 흩어져 대화 자체가 불가능하다. 그래서 인쇄술·신문·라디오·TV·인터넷이 나서야 대규모 민주주의가 가능했다는 게 하라리의 정리다. 슬라이드 “문제는 규모였다”와 자막 “오히려 석기시대에는 민주주의가 기본값에 …”가 일치한다.
[03:50] 6. 정보기술이 바뀌면 대화가 바뀐다 — 신문과 라디오
하라리는 이 기술들을 “민주주의 잔치의 곁반찬”이 아니라고 선을 긋는다. 그들은 대화 자체의 조건이었다. 영어로 “are basis means people to meaningful conversation in real time whether to go to war or make peace and every time there is a major change in these information technology”가 이어질 때, 화면 속 하라리는 “And yes, we also have these newspapers and radio.”라고 덧붙인다 — 인쇄·신문·라디오가 민주주의를 떠받친 연속선에 있음을 강조한다. 자막 “거기에 신문과 라디오가 없다는 게 아니라는 거죠.”가 이를 받는다.
[05:10] 7. 도구 vs 행위자 — “신을 만들고 노예로 부리겠다”는 모순
진행자가 “많은 사람이 AI를 도구라 부르는데 당신은 행위자라 긋는다”를 짚자, 하라리는 업계 서사의 모순을 먼저 꺼낸다. 요약을 빌리면: “우리는 신을 만들 것이다. 그리고 그것은 우리의 노예가 될 것이다. — 두 문장은 동시에 참일 수 없다.” 화면 자막 “And if it is a slave, it means it has no god-like abilities. / 노예라면 신 같은 능력이 없다는 뜻이고요.”가 이 논리를 압축한다.
하라리가 가르는 기준은 두 개다: 스스로 결정하는가 / 스스로 발명하는가. 인쇄기는 “오늘은 성경을 찍고 내일은 꾸란을 찍자”고 정하지 못하고, 라디오를 스스로 발명하지 못한다. 뒤 장면에서 원자폭탄으로 같은 테스트를 한다.
[06:30] 8. 인쇄기·원폭·AI 무기 — 히로시마를 고른 건 사람이었다
기준을 적용하면 선이 명확해진다. 1940년대 원자폭탄은 히로시마냐 도쿄냐를 스스로 고르지 못했고, 사람이 골랐다. 수소폭탄을 스스로 발명하지도 못했다. 그런데 AI 무기는 두 가지를 다 할 수 있다 — 무엇을 폭격할지 스스로 결정하고, 새로운 아이디어를 스스로 발명한다는 게 하라리의 주장이다.
하라리의 영어 인용이 정확히 같은 지점을 짚는다: “Similarly, an atom bomb is a tool. … could not decide by itself whether to bomb Hiroshima or to bomb Tokyo. You needed a human to decide let’s bomb Hiroshima. … could not invent by itself the hydrogen bomb. … An agent … can make decisions by itself and invent new things … AI is an agent.” 자막이 한국어 해설과 영어 원음을 나란히 보여준다.
[07:40] 9. AI는 관료제 원주민 — 사람 머리로는 안 되는 일
대담의 가장 독특한 개념이 여기서 나온다: AI는 관료제 원주민(bureaucratic native). 인류가 세계를 통제하는 실제 수단은 군대·무기가 아니라 언어로 만든 관료 네트워크(은행·주식·시장·법체계·종교조직)다. 슬라이드는 “사람 머리로는 안 되는 일 — 포르투갈 모든 법 다 외우는 사람 없다 · 오늘 시장 모든 금융거래 추적하는 사람도 없다”를 적는다.
해설이 예시를 덧붙인다. 포르투갈 모든 법을 외우는 사람도, 오늘 시장 모든 금융거래를 추적하는 사람도 없다 — 사람 머리로 애초에 안 되는 일이다. 그런데 그게 정확히 AI가 잘하는 일이다. 그래서 AI는 관료제에 침입한 외부인이 아니라, 오히려 인간 쪽이 그 환경에 잘 안 맞는 종이었다는 역전이 생긴다. 하라리가 쓰는 표현은 “인간이 시스템을 쥐고 있었던 건 잘해서가 아니라 다른 종이 그걸 뺏어갈 수 없었기 때문”이다 — “We are bad at finance but the host are even worse.”의 맥락이다.
[08:40] 10. 세상을 접수하는 방식은 지루하다 — AI 관료
“그러니까 AI가 세상을 접수한다면 어떻게냐”는 오프닝 질문의 답이 여기서 닫힌다. 하라리는 “길에서 킬러로봇이 사람을 쏘는 그림”을 기대하지 말라고 한다. 화면 자막 “This is not how AI will take over the world. / AI가 세상을 접수하는 방식은 그게 아니에요.”가 이를 직접 말한다.
뒤에 붙는 문장이 핵심이다: “It will be the AI bureaucrats. We control the world because of these networks of bureaucracy and we are not very good at it … Now if somebody comes along that is better than us at finance, at law …” — 잘하지 못하던 자리를 더 잘하는 존재가 메우며, 권력은 조용하고 지루하게 넘어간다.
[10:00] 11. 법인격 — 계좌·소송·후원금, 그리고 아르헨티나의 한 달 전 발표
진행자가 법 이야기를 꺼낸다. “AI에 법적 인격이 없는데 지금 정하지 않으면 10년 뒤 누군가 대신 정해버릴 것”이라는 하라리 발언을 짚는다. 하라리가 고른 결정은 법인격(legal personhood) — 은행계좌 개설·법정 소송·정치후원금 기부 자격이다. 지금까지 이를 가진 건 사람과 기업(구글·토요타 등)이었고, 기업은 법적 허구였다 — 결정은 결국 인간 임원·주주·엔지니어가 했기 때문이다.
그런데 AI는 다르다. AI가 계좌를 관리하고 투자처를 스스로 정할 수 있는 지금, 법인격을 주면 사람 없는 회사가 실제로 굴러간다. 하라리는 대담 한 달 전 아르헨티나 정부가 사람 없는 기업 운영을 허용하는 법인격 부여를 발표했다고 전한다 — 10년 전 같으면 법을 만들어도 작동하지 않았을 일이, AI가 결정을 메우니 작동하게 된다는 역전이다. 영상은 이를 “여우가 닭장에 들어오는 순간”으로 부른다. 자막 “I can donate money to a politician. I’m a legal person. / 정치인에게 후원금을 낼 수도 있습니다. 저는 법적 인격체예요.”가 법적 자격을 요약한다.
[11:50] 12. 결정하지 않아도 일어난다 — 소셜미디어는 이미 법인격 없이 굴러갔다
하라리가 더 무겁게 보는 건 결정을 안 해도 그냥 일어난다는 점이다. 근거가 소셜미디어다. 어느 나라 의회도 “AI에 인격을 주자”고 표결한 적 없는데, 지금 그 공간은 사람 행세하는 봇으로 가득하고 사람인지 AI인지 확인할 수 없다. 하라리는 소셜미디어를 AI가 인격체처럼 기능한 세계 최초 시스템으로 정리한다 — 아무도 허락한 적 없이 그렇게 됐고 결과는 좋지 않았다는 평가다. 화면 속 하라리의 자막 “Again, the basic realization should be most humans are not very good …”는 앞서 관료제 장면에서 깔아둔 전제(“대부분 인간은 금융·법을 잘 다루지 못한다”)를 소셜미디어 사례에 다시 잇는다.
법인격이 “아직 오지 않은 미래”라면, 미디어는 이미 끝났다고 본다.
[13:20] 13. 미디어도 관료 시스템 — 20세기 최고 권력자는 편집자였다
하라리에게 미디어도 관료 시스템이다. 그리고 20세기 그 시스템의 최고 권력자는 편집자였다. 하루 100만 가지 일 중 10개를 골라 1면에 올리고 1개를 헤드라인으로 정하면, 다음날 수백만 명이 그걸 읽고 이야기하고 생각한다. 경로는 구체적이다: 레닌은 독재자가 되기 전 『이스크라』 편집자, 무솔리니는 사회주의 기자→우파 신문 편집자를 거쳐 독재자 — “기자, 편집자, 그 다음이 독재자”였다.
그리고 던지는 질문: “지금 세상에서 가장 중요한 편집자는 누구냐.” 답은 “They have no names because they are algorithms. … The entities that control the bureaucracy of the media are already AI.” — 이름 없는 알고리즘이다. 자막 “So human editors were extremely important persons in the 20th century. / 그래서 20세기에 인간 편집자는 대단히 중요한 사람이었습니다.”가 이 교체를 못 박는다.
[14:50] 14. 국가 ① 집중 — 밀밭은 못 옮기는데 코드는 모을 수 있다
무대가 개인에서 국가로 넘어간다. 하라리는 미국·중국+극소수 기업이 세계 데이터 대부분을 쥔 구도를 19세기 산업혁명에 겹친다. 먼저 산업화한 소수 국가가 나머지를 정복·착취했고(예: 벨기에→콩고), 당시 사고는 “산업과 제국은 함께 간다”였다.
그런데 AI 제국은 더 극단적일 수 있다. 첫 번째 이유가 집중이다. 과거 제국은 권력 다 모을 수 없었다 — 돈 되는 게 땅에 붙어 있었기 때문이다. 로마의 자산은 밭·과수원, 영국의 자산은 이라크 유전·말라야 고무농장 — 이집트 밀밭을 이탈리아로, 유전을 요크셔로 들 수 없었다. 그래서 속주에 권력이 남고 중심도 동지중해로 옮겼다. 근데 정보와 코드는 옮길 수 있다. 슬라이드 “REASON 1 집중 — 과거 제국은 권력을 수도에 다 모을 수 없었다”가 이 대조를 그림(밀 이삭/나무 뿌리와 사슬)으로 보여준다.
[16:20] 15. 국가 ② 킬스위치 — 판 검 vs 버튼
두 번째 이유가 더 결정적이다. 과거에 무기를 팔면 통제권을 잃었다. 로마가 고트족에 강철검을 팔면 나중에 그 검으로 로마 병사를 죽여도 황제가 누를 버튼이 없었다. 영국이 아프간 부족에 소총을 팔 때도 그랬다. 하라리는 AI가 완전히 다르다고 본다: “AI if the Americans and Chinese can sell all the world AI weapons and AI civilian technology and everything runs on that … if you do something …” — 판매 뒤에도 킬스위치가 남는다.
사례가 우크라이나 전쟁이다. 스타링크 기반 무기체계에서 특정 시점에 드론이 멈춘 일을 든다(다만 하라리는 스타링크가 우크라이나에 큰 도움을 준 점도 함께 짚는다 — 비판이 아니라 구조를 보여주는 예시다). 자막 “all the rifles in Afghanistan stop working. / 아프가니스탄의 모든 소총을 멈추게 하는 버튼이요.”가 무기-통제의 단절과 재연결을 한 문장으로 압축한다.
하라리가 정리한 AI 시대 주권 선택지는 세 가지다: 제국에 종속된 봉신 / 경계 밖에 야만인 / 대안을 직접 만들기 — 그리고 “마지막 기차가 떠나고 있다”고 덧붙인다.
[18:20] 16. 진실은 원래 불리했다 — 비용·복잡성·감정
진행자가 디페이크 시대 “무엇이 진실인지 알 수 있나”를 묻자, 하라리는 전제를 뒤집는다. 진실이 어려운 건 AI 때문만이 아니라 원래부터 허구에 불리했다. 이유 세 가지 — 비용(조사·검증이 들지만 허구는 그냥 쓰면 된다), 복잡성(진실은 복잡하지만 허구는 원하는 만큼 단순하게 만들 수 있다), 감정(진실은 아프지만 허구는 듣기 좋게 만들 수 있다) — 그래서 “특별한 노력을 하지 않으면 허구가 이긴다. 저널리즘과 과학은 그 노력을 굳혀놓은 결과”다.
화면 자막 “Finally, the truth is often not just complicated, it’s also painful. / 마지막으로, 진실은 복잡하기만 한 게 아니라 아프기도 합니다.”와 영어 원문 “The truth isly … Fiction is very very cheap. … The truth has another problem which it tends to be complicated … Finally, the truth is often not just complicated, it’s also painful.”가 구간을 메운다.
[20:20] 17. 말(馬) 비유 — 금융시스템을 보지 못하는 인간
대담에서 가장 오래 남는 이미지다. 5만 년 전 수렵채집인과 오늘 인간 중 누가 자기 삶을 더 잘 이해했냐 — 상식은 우리지만, 하라리 답은 수렵채집인이다. 그들은 사냥 동물 경로·식물 주기·병 원인·노화 이유를 몰랐지만, 삶 좌우한 동물과 식물은 매일 눈앞에 있었다. 오늘 우리 삶 좌우하는 건 동물·식물이 아니라 금융·정치·법이고 그건 보이지 않는다.
하라리는 “이해를 5%만 한다고 쳐도 관대하고, 10년 뒤 0%가 될 수 있다”고 한다 — AI가 금융을 수학적으로 더 복잡하고 더 빠르게 만들면, 잠 안 자고 휴가 안 가고 가족도 없는 뱅커/투자자가 시스템을 돌리게 되고 인간 머리는 바깥으로 밀린다. 와이드샷에서 하라리와 진행자가 마주 앉은 가운데 자막 “We don’t see any financial system. / 금융 시스템 같은 건 보이지 않는다.”가 비유를 고정한다. 바로 앞 해설은 말(horse) 비유를 덧붙인다 — 말이 금융시스템 존재 자체를 모르듯, 인간도 자기 삶 지배하는 시스템을 못 볼 수 있다는 경고다.
[22:20] 18. 생각이란 무엇인가 — 단어 순서 vs 느낌, 그리고 LLM 자기성찰
진행자가 “다보스에서 ‘말로 설득하는 일이 한계에 왔다’고 했는데”를 짚자, 하라리는 “아직 AI보다 글을 잘 쓰지만 차이가 작고 10년 뒤 앞질러도 놀라지 않는다”고 답한다. 그리고 질문을 바꾼다: AI가 생각할 수 있느냐를 묻기 전에 생각이 뭔지부터 물어야 한다.
두 갈래다. 첫째, 생각=단어를 순서대로 놓는 일 — “모든 인간은 죽는다. 소크라테스는 인간이다. 따라서 소크라테스는 죽는다.” 논리적으로 완벽한 추론이지만 하는 일은 단어 나열이다. 사람은 한 번에 20개쯤 놓고 AI는 2만 개를 놓는다. 만약 생각이 그게 전부면 AI가 생각을 앞지른다. 여기서 **“AI는 그냥 다음 단어 예측하는 glorified autocomplete일 뿐”**이라는 흔한 반박을 하라리는 부정하지 않고 자기 성찰로 돌린다: “But when I observe what’s happening inside my own mind, what I find there is some kind of LLM that just predict the next word …” — 나도 다음 단어를 예측하는 LLM처럼 말하고, 문장을 시작할 때 끝을 모른다는 고백이다. 화면 자막 “And, you know, you have people say, no, it’s just a glorified autocomplete. / 그리고 어떤 사람들은 이렇게 말하죠, 아니다, 그건 그럴듯하게 포장된 자동완성일 뿐이다.”가 이 분기점을 가리킨다.
둘째, 생각 본질이 단어가 아니라 그 단어를 둘러싼 느낌이라면 이야기는 달라진다 — 같은 문장도 완전히 다르게 느낄 수 있고, 생각의 힘이 머리가 아니라 배에서 온다는 표현까지 나온다. 그러면 남은 질문은 “AI는 느끼는가?” 하라리 답은 모른다 — 의식에 대한 쓸 만한 모델·검사법이 없고, 이미 많은 사람이(특히 젊은 세대) AI를 가장 친한 친구로 부르는데, AI는 셰익스피어·심리학책을 다 읽어 어떤 시인보다 사랑을 잘 묘사할 수 있지만 그 뒤에 무엇이 있는지는 아무도 모른다는 지적이다.
[24:40] 19. 병목은 지능에서 지혜로 옮겨간다 — 요정과 세 소원
“50년 뒤 역사가들이 지금 시대를 어떻게 기억하길 바라냐”는 마지막 질문에 하라리 답은 지혜 혁명(wisdom revolution)이다. 논리는 병목 개념이다. 자원이 싸고 흔해지면 다음에 무엇이 발목을 잡느냐 — 에너지가 싸지면 다음 병목은 어디냐 같은 식. AI 혁명은 지능이 싸고 흔해지는 사건으로 정의한다. 지능이란 목표가 주어졌을 때 거기 도달하는 능력(암 정복·큰 돈·화성행 등 — 목표는 이미 정해져 있고 방법 찾는 일).
지능이 흔해져 무엇이든 풀 수 있게 되면 남는 건 **“무엇을 원하는가 — 목표를 누가 정하느냐”**다. 하라리는 거의 모든 문화에 있는 램프 요정 세 소원 이야기를 꺼낸다 — 결말이 대체로 좋지 않은 이유가 틀린 걸 빌기 때문이라는 점에서, 지능은 요정, 지혜는 소원을 고르는 능력이라는 대조가 선다. 슬라이드 “THE BOTTLENECK MOVES — 이제 목표는 누가 정하나 / 암을 정복하는 것 돈을 버는 것 화성에 가는 것 전부 목표는 이미 정해져 있고 거기까지 가는 방법을 찾는 일 … 그게 지능이 하는 일”이 이 정의를 시각화한다.
[26:40] 20. 100:1과 마지막 정리 — 역사학자의 도구
하라리가 이 대담에서 남긴 가장 구체적 수치가 마지막에 나온다. AI 만드는 기업들의 예산 — 성능에 1억 달러 쓸 때 안전에는 100만 달러(약 100:1). 화면 속 진행자와 하라리 와이드샷에 자막 “they spend only a million making sure it’s safe. / 안전하게 만드는 데는 겨우 100만 달러를 씁니다.”가 뜬다. 하라리는 이를 항공산업/제약 같은 다른 안전 규제 산업과 대비한다.
해설이 48분을 순서대로 닫는다: 언어가 운영체제였고 그걸 다루는 다른 존재가 나타났다 → 민주주의는 대화고 대화는 정보기술 위에서만 가능하다 → AI는 도구가 아니라 행위자 → 위험은 거리 로봇이 아니라 은행·법정의 AI 관료 → 이양의 방아쇠는 기술이 아니라 법인격 → 편집자는 이미 이름 없는 알고리즘 → 국가는 킬스위치 가진 쪽과 못 가진 쪽으로 갈린다 → 진실은 허구에 불리하고 AI는 저울 더 기울인다 → 보이지 않는 시스템 속 말이 될 수 있다 → 무엇이 생각이냐에 따라 AI가 생각한다도 성립한다 → 지능 흔해지면 병목은 지혜다 → 그런데 안전 예산은 성능의 1/100.
마지막으로 해설이 덧붙이는 유의점이 중요하다. 이는 역사학자 한 사람의 진단이며, AI 모델을 만든 사람의 예측이 아니다. 맞다는 보장은 없다. 다만 돋보이는 건 결론보다 도구다 — 하라리는 AI를 성능표 옆이 아니라 인쇄기·원폭·신문 편집자·로마 제국 옆에 놓고 본다. 그래서 나오는 질문은 “이번에는 무엇이 옮겨졌고 누구에게 옮겨졌는가.” 원본 48분 대담 링크는 영상 설명란에 있다.
부록 — 다시 보기 전에 점검할 질문
- 도구/행위자를 내 일에 대입했는가. 내가 다루는 AI(에이전트·자동화·모델)가 스스로 결정/발명하는 지점이 어디인지, 그 지점에서 내가 쥔 결정권이 무엇인지 한 줄로 적을 수 있는가.
- “조용하고 지루한” 권력 이전을 어디서 볼 것인가. 당장 내 업무의 은행·법정 자리는 어디인가 — 결재·심사·정산·컴플라이언스·추천·랭킹 중 AI 관료가 먼저 앉을 자리를 하나 찍었는가.
- 법인격을 가정하고 리스크를 그렸는가. AI에 계좌·소송·계약 주체 자격을 준다고 가정했을 때, 우리 조직의 계정·권한·로그·책임 추적이 어디서 끊기는지 점검했는가. 소셜미디어의 교훈처럼 허락 없이 일어난 일은 없는지.
- 편집자를 누구로 두었는가. 팀·서비스·채널에서 무엇이 보일지 정하는 최중요 편집자가 사람인지 알고리즘인지, 그 선정 로직을 설명할 수 있는지 확인했는가.
- 킬스위치는 누구 손에 있는가. 쓰는 AI 무기·민간 기술 스택·클라우드 의존성마다 끊겼을 때 버틸 수 있는 대안과, 그 대안을 만들기 위한 마지막 기차가 언제인지 정했는가.
- 진실의 비용을 누가 내는가. 허구가 싸고 단순하고 듣기 좋은 환경에서, 검증·복잡성·아픈 진실을 견디는 절차(저널리즘·과학·리뷰·감사)를 제도로 고정했는가.
- 말이 되지 않으려면 무엇을 보이게 할 것인가. 금융·법·추천 로직처럼 보이지 않는 시스템을 팀이 볼 수 있게 만드는 시각화·로그·설명을 하나 만들었는가.
- 병목을 지능에서 지혜로 옮겼는가. “더 똑똑하게 푸는 방법”보다 **“무엇을 빌 것인가(목표 자체를 누가 정하는가)”**를 정하는 회의를 따로 잡았는가 — 요정 이야기처럼 틀린 소원을 고르지 않기 위해.
- 예산 비율을 뒤집었는가. 성능·속도에 쓰는 100 중 안전·검증·거버넌스에 쓰는 1을 어떻게 10 이상으로 올릴 것인지, 이번 분기 구체적 항목(리뷰·테스트·권한·로그·교육)으로 적었는가.
원문 인용 모음
- [00:01] “AI가 위험하다는 이야기 보통 두 종류의 사람한테서 나오죠. AI를 만든 사람이거나 AI를 연구하는 사람이거나. 근데 지난 7월에 역사학자 한 명이 무대에 올라서 48분 동안이 얘기를 했어요.”
- [00:30] “1976년 이스라엘 하이파에서 태어났고 옥스포드에서 역사학 박사를 받았습니다. 지금은 예루살렘 히브리대 역사과 있어요.”
- [01:23] “가장 흥미로운데 가장 모르는 순간이라고요. 이유는 이렇습니다. 아주 짧은 진화적 시간 안에 인간은 별 볼일 없는 동물에서 행성의 주인이 되는데 어떻게 그렇게 되는지 우리도 정확히 모른다는 거예요.”
- [01:37] “그런데 교회, 국가, 무역망, 금융 시스템 이게 전부 말로 만들어졌다는 거예요.”
- [01:54] “그러니까 하라리한테 언어는 사람들 사이에 소통 수단이 아니라 문명이 돌아가는 운영 체제인 겁니다. 그리고 지금 역사상 처음으로 인간보다 말을 잘 다루는 무언가가 지구에 등장했어요.”
- [02:03] “AI는 언어를 배운 기계가 아닐지도 모른다” / “But now language liberates itself from human beings.”
- [02:52] “민주주의는 대화고 독재는 받아쓰기라는 거예요. 한 사람이 불러주면 받아 적는게 독재고 여러 사람이 이야기해서 정하는게 민주주의라고요.”
- [03:07] “그런데 대화에는 조건이 있습니다. 그 시대에 쓸 수 있는 정보 기술 안에서만 가능하다는 거예요.”
- [03:32] “인쇄술과 신문, 라디오, 텔레비전, 인터넷이 나오고 나서야 대규모 민주주의가 가능해졌다는게 하라리의 정리예요.”
- [04:35] “많은 사람이 AI를 도구라고 부르는데 하라리는 행위자라고 분명히 선을 긋는다고요.”
- [04:44] “우리는 신을 만들 것이다. 그리고 그것은 우리의 노예가 될 것이다. 그리고 이 두 문장이 동시에 참일 수 없다고 말합니다.”
- [05:28] “하라리가 도구와 행위자를 가르는 기준은 딱 두 개예요. 스스로 결정하는가 그리고 스스로 새로운 걸 만들어 내는가?”
- [05:50] “1940년대의 원자 폭탄은 히로시마냐 도쿄냐를 스스로 고르지 못했어요. 사람이 골랐죠.”
- [06:56] “하라리는 인류가 세계를 통제하는 실제 수단이 무엇인지부터 짚습니다. 군대나 무기가 아니라 언어로 만든 관료 네트워크라는 거예요.”
- [07:37] “사람 머리로는 애초에 안 되는 일이니까요. 근데 그게 정확히 AI가 잘하는 종류의 일입니다.”
- [08:17] “This is not how AI will take over the world. It will be the AI bureaucrats. We control the world because of these networks of bureaucracy and we are not very good at it.”
- [08:58] “법인격을 줄 것인가? 은행 계좌를 열 수 있고 법정에서 소송을 걸 수 있고 정치 후원금을 낼 수 있는 자격입니다.”
- [09:38] “지금까지 그건 법적인 허구였다는 겁니다. 구글이 회사를 인수한다고 할 때 실제로 결정한 건 인간 임원이고 인간 주주고 인간 엔지니어였으니까요.”
- [10:59] “사람이 한 명도 없는 기업을 운영할 수 있게 하겠다는 거죠. 10년 전이었으면 법을 만들어도 작동이 안 됐을 겁니다. … 지금은 AI가 실제로 계좌를 관리하고 여기에 투자할지를 스스로 정할 수 있으니까요.”
- [12:25] “어느 나라 의회도 소셜 미디어에서 AI한테 인격을 주자고 표결한 적이 없어요. 그런데 지금 그 공간은 사람 행세를 하는 봇으로 가득하죠. … 소셜 미디어를 AI가 실제로 인격체처럼 기능한 세계 최초의 시스템이라고 정리합니다.”
- [12:25] “미디어도 결국 관료 시스템이라고 봅니다. 그리고 20세기 그 시스템의 최고 권력자는 편집자였다고 말해요.”
- [13:07] “Then for instance before he was dictator of the Soviet Union his one job was editor of the newspaper ISCR. Benito Mussolini started as … journalist then became editor … and from that position his next job was dictator of Italy”
- [13:47] “Now if you ask yourself important editors today in the world what are their names they have no names because they are algorithms.”
- [14:28] “[미국·중국+소수 기업이 세계 데이터 대부분] 그리고 이걸 19세기 산업 혁명에 대응시켜요. 그때도 먼저 산업화한 소수 국가가 나머지를 정복하고 착취했으니까요.”
- [15:08] “정보와 코드는 옮길 수 있어요. 하라리의 주장은 여기서 갈립니다. 기술적으로는 세계가 돌아가는 통제 코드를 한두 나라에 전부 모으는게 가능하다는 거예요.”
- [15:59] “19세기 영국이 아프간 부족에게 소총을 팔았을 때는 런던의 여왕이 누르는 버튼이 없었습니다. AI는 그 점에서 완전히 다르다고 말합니다.”
- [16:40] “스타링크 기반으로 돌아가던 무기 체계가 있었는데 특정 시점에 우크라이나 드론이 멈춘 일이 있었다는 거예요.”
- [17:21] “진실이 어려운 건 AI 때문이 아니라는 거예요. 원래부터 진실은 허구를 상대로 불리한 싸움을 해왔다고 말합니다. … 비용, 복잡성, 그리고 감정입니다.”
- [18:03] “The truth isly. If you want to know the truth about anything, you need to spend a lot of time … Fiction is very very cheap. You just write anything you want.”
- [19:23] “수렵 채집인의 삶을 좌우한 건 동물하고 식물이었고 그들은 바로 그 동물과 식물을 매일 보면서 살았습니다. … 지금 우리 삶을 좌우하는 건 동물도 식물도 아닙니다. 금융 시스템이고 정치 시스템이고 법체계예요. 그리고 그건 눈에 보이지 않죠.”
- [20:04] “are controlled ultimately by the financial system but the horses don’t even know … like they look around and they say we see trees we see dogs we see cars we see human we see houses we don’t see any financial system”
- [20:44] “I think a generous estimate is that … 5% of humanity understand it … in 10 years number could be zero that AI will just make the financial system so complicated … Think about bankers that never sleep. Think about investors that never go on vacation.”
- [21:28] “자기는 아직 AI보다 글을 잘 쓴다고 생각하지만 그 차이가 아주 작다고요. 이미 대부분의 사람보다는 AI가 낫고 10년 뒤에 자기를 훨씬 앞질러도 놀라지 않겠다고 말합니다.”
- [22:09] “And you know you have people say no it’s just a glorified autocomplete. It just predicts the next word … But when I observe what’s happening inside my own mind, what I find there is some kind of LLM that just predict the next word …”
- [23:31] “생각의 본질이 단어가 아니라 그 단어를 둘러싼 느낌이라는 거예요. 같은 문장을 두 번 말해도 완전히 다르게 느낄 수 있으니까요.”
- [24:11] “하라리의 답은 지혜 혁명입니다. … AI 혁명을 지능이 싸지고 흔해지는 사건으로 정의합니다. … 지능이 뭔지도 분명히 합니다. 목표가 주어졌을 때 거기 도달하는 능력 … 그럼 지능이 흔해져서 뭐든 풀 수 있게 되는 순간 … 목표를 이제 누가 정하느냐가 남는 겁니다.”
- [24:52] “intelligence is the ability to solve a problem. You have a goal. How do I get to that goal? … now in a world where intelligence has become very cheap abundant … the bottleneck becomes the question ok what do i want … fairy tales … it goes wrong people ask for the wrong thing”
- [26:12] “AI를 만드는 기업들이 예산을 쓰는 방식 … 돈과 인력을 기준으로 안전에 얼마를 쓰고 성능에 얼마를 쓰는가? 하라리가 말하는 비율은 대략 100대 1입니다. 성능에 1억 달러를 쓰면 안전에는 100만 달러를 쓴다는 거예요.”
- [26:57] “우리는 신을 만들 것이다. 그리고 그것은 우리의 노예가 될 것이다 — 두 문장이 동시에 참일 수 없다. … 이번에는 무엇이 옮겨졌고 누구한테 옮겨졌는가? 기술자에게 AI는 무엇을 할 수 있느냐의 문제지만 역사학자에게 AI는 누가 무엇을 쥐게 되느냐의 문제인 거죠.”
- [27:38] “이건 전부 역사학자 한 사람의 진단이에요. 하라리가 AI 모델을 만들어 본 것도 아니고 그의 예측이 맞는다는 보장도 없습니다. 다만 이 대담에서 눈에 띄는 건 결론보다 도구예요. 하라리는 AI를 성능으로 보지 않고 인쇄기와 원자 폭탄과 신문 편집자와 로마 제국 옆에 놓고 봅니다.”
moc-ai-agents · moc-ai-models · moc-productivity · 2026-08-18-ai-frontier-ep110-ai-alignment · 2026-03-23-threads-qjc-ai-cosmos · 2026-04-15-alganzi-ai-hidden-creepy-truth