방사선의학 웹진

  크리스토퍼 놀란의 《The Odyssey》(2026)에서 트로이 목마는 익숙한 형태로 등장하지 않는다. 네 다리에 바퀴가 달린 장난감 같은 구조물 대신, 거대한 검은 물체가 해변의 얕은 물에 반쯤 잠긴 채 모래 밑에서 뒷다리로 솟아오르는 듯한 자세로 발견된다. 트로이인들은 그것을 통나무 굴림판 위에 올려 자기 손으로 성 안까지 끌고 들어간다. 영화의 마지막에는 연기가 오르는 폐허 위로 목마의 ‘보지 못하는 눈’이 남는다. 눈은 있으나 보지 못한다. 이 이미지는 우리가 무언가를 보고 있다고 믿으면서 실제로는 보지 못하고, 이해했다고 믿으면서 실제로는 검증하지 않은 상태를 정확히 가리킨다.

  목마가 무서운 이유는 그 안에 적이 숨어 있었기 때문이 아니다. 트로이에는 높은 성벽이 있었고 병사가 있었고 외부의 적을 막는 방어체계가 정상적으로 작동하고 있었다. 만약 목마가 처음부터 적으로 분류되었다면 그 체계는 제 역할을 했을 것이다. 그러나 목마는 전리품이나 봉헌물, 적어도 지금 당장 공격해야 할 대상은 아닌 것으로 해석되었다. 위험이 사라진 것이 아니라 위험의 분류가 잘못된 것이며, 분류가 끝나는 순간 검증은 조용히 멈춘다. 그래서 그리스군은 성벽을 무너뜨릴 필요가 없었다. 성문은 안에서 열렸다. 트로이를 무너뜨린 것은 목마가 아니라 목마를 이미 이해했다고 믿은 판단이었다.

  이 구조는 오늘날 우리가 인공지능을 사용할 때 겪는 이해의 환상과 놀랍도록 닮아 있다. 어려운 질문을 던지면 몇 초 안에 단계가 나뉘고 수식이 붙고 결론까지 갖춰진 설명이 돌아온다. 읽는 동안 우리는 자연스럽게 고개를 끄덕인다. 그렇군, 이해된다. 그러나 설명을 따라갈 수 있다는 것과 아무것도 주어지지 않은 백지 위에서 같은 설명을 스스로 만들어낼 수 있다는 것은 전혀 다른 능력이다. 요리 영상을 보는 동안 모든 과정은 매끄럽고 영상이 끝나면 나도 하겠다는 느낌이 남지만, 혼자 주방에 서면 팬은 얼마나 달궈야 하는지, 이 색이 맞는지, 간이 부족하면 무엇을 얼마나 넣어야 하는지 알 수 없다. 강의에서 A에서 D까지 이어지는 풀이를 따라가며 매 단계마다 그렇지 하고 수긍했던 학생도, 시험장에서 조건이 조금 달라진 문제를 만나면 멈춘다. 강의실에서 그가 한 일은 추론을 생성한 것이 아니라 이미 존재하는 추론을 따라간 것이었기 때문이다. 택시로 같은 도시를 수십 번 이동한 사람이 막상 운전대를 잡고 첫 갈림길에서 멈추는 것과 같다. 그는 길을 알았던 것이 아니라 길을 아는 시스템을 이용하고 있었다.

  이것은 인상이나 비유에 그치지 않고 반복해서 측정된 현상이다. 레오니드 로젠블릿과 프랭크 카일은 2002년 《Cognitive Science》에서 이를 설명 깊이의 착각이라 명명했다. 사람들은 자전거나 지퍼, 변기가 어떻게 작동하는지 안다고 믿지만 단계별로 설명해보라는 요구를 받는 순간 자기 확신이 무너진다. 결정적인 점은 이 착각이 단순한 사실 지식이나 절차 지식보다 설명적 지식에서 훨씬 강하게 나타난다는 것인데, 우리가 인공지능에게 요구하는 것이 바로 설명이다. 매튜 피셔 연구팀이 2015년에 보고한 실험은 한 걸음 더 나아간다. 검색으로 답을 확인한 참가자들은 검색과 무관한 영역에서까지 자신의 설명 능력을 더 높게 평가했다. 도구에 접근할 수 있다는 사실이 자기 머릿속 내용물에 대한 평가로 전이된 것이다. 리사 메세리와 몰리 크로켓은 2024년 《Nature》에서 이 위험이 과학의 최전선에도 적용된다고 경고하며, 인공지능 도구가 인지적 한계를 파고들어 실제보다 세계를 더 잘 이해한다고 믿게 만들고 그 결과 특정 방법과 질문만 살아남는 단일문화가 형성될 수 있다고 지적했다.

  가장 직접적인 증거는 하마 바스타니 연구팀이 2025년 《PNAS》에 발표한 현장실험이다. 튀르키예의 한 고등학교에서 약 1,000명의 학생을 무작위로 배정해 GPT-4 접근권을 주었더니, 연습 단계에서 일반형 사용군은 48퍼센트, 학습 보호 장치를 넣은 튜터형 사용군은 127퍼센트 더 나은 성적을 냈다. 그러나 인공지능을 회수하고 치른 시험에서 일반형 사용군은 통제군보다 17퍼센트 낮은 점수를 받았다. 답을 곧바로 주지 않도록 설계된 튜터형에서는 이 손실이 사라졌다. 이 결과가 말하는 바는 인공지능이 나쁘다는 것이 아니라 훨씬 정밀한 명제다. 성능 향상과 역량 형성은 자동으로 함께 가지 않는다. 도구가 있을 때의 수행과 도구가 없을 때의 수행이 갈라지는 바로 그 지점에 이해의 환상이 산다.

  이 환상이 자라는 심리적 경로는 단순하다. 우리는 언제나 타인의 지식을 빌려 쓴다. 책을 읽고 강의를 듣고 전문가에게 묻는다. 인간의 지식은 본래 그렇게 축적되므로 빌린 이해 자체는 아무 문제가 없다. 문제는 빌렸다는 사실을 잊는 순간이다. 인공지능이 설명할 수 있고, 나는 그 설명에 접근할 수 있으므로, 그러므로 나도 알고 있다는 전환이 일어난다. 마지막 단계에는 아무런 근거가 없지만 심리적으로는 거의 저항 없이 통과한다. 여기에 자존심이 개입하면 환상은 더 견고해진다. 처음에는 이 문제를 이해했다는 인식이었던 것이 나는 이런 문제를 잘 아는 사람이라는 자기평가로 자란다. 그 상태에서 누군가 두 번째 단계에서 저 식이 왜 성립하느냐고 물으면, 그것은 지식의 수정 요구가 아니라 자기 이미지에 대한 위협으로 번역된다. 그러면 사람은 답하는 대신 전문용어를 늘리고 권위를 인용하고 이미 아는 결론을 반복한다. 자존심은 무지를 만들어내지 않는다. 무지를 인정하는 비용을 올릴 뿐이며, 비용이 충분히 오르면 검증은 중단된다.

성문은 안에서 열렸다. 목마를 끌어들인 것은 트로이인 자신이었다. (AI생성 이미지)

  여기서 하나의 반론이 가능하다. 2026년 7월 인터뷰에서 놀란은 인공지능이 트로이 목마 같은 것이냐는 질문을 받고 웃으며 답했다. 인공지능은 모두가 그리스인이 안에 있다는 걸 아는 트로이 목마라고, 그것은 투명한 목마이고 유리로 만들어져 있다고. 숨겨져 있지 않다면 위험도 없지 않겠는가. 그러나 원래의 목마도 완전히 숨겨져 있지는 않았다. 라오콘이 경고했고 카산드라가 경고했다. 트로이인들이 실패한 이유는 정보가 없어서가 아니라 이미 분류를 끝냈기 때문에 그 경고를 처리할 자리가 없었기 때문이다. 유리로 된 목마가 더 안전하려면 우리가 실제로 그 안을 들여다본다는 조건이 필요한데, 우리는 대개 들여다보지 않는다. 인공지능이 환각을 일으킬 수 있다는 사실을 아는 것과, 지금 이 답변의 세 번째 문단에 나온 숫자를 원 출처까지 따라가 확인하는 것은 전혀 다른 행위다. 일반적인 경계심은 개별 사례의 검증을 대체하지 못한다. 오히려 나는 인공지능의 한계를 잘 알고 있다는 자기인식 자체가 새로운 목마가 될 수 있다. 위험을 안다는 지식이 위험을 다루었다는 느낌으로 바뀌는 순간, 성문은 다시 안에서 열린다.

  그러므로 이해의 환상은 의지로 없앨 수 없고 절차로만 무력화된다. 어떤 설명을 내 것으로 분류하기 전에 최소한 네 가지를 통과시켜야 한다. 화면을 닫고 빈 종이 위에서 같은 결론에 도달할 수 있는가. 도달할 수 없다면 나는 답을 가진 것이지 이해를 가진 것이 아니다. 조건이 조금 달라져도 그 결론이 성립하는가, 어떤 가정이 깨지면 무너지는가. 성립 조건을 말할 수 없다면 원리를 가진 것이 아니다. 이 숫자와 인용과 연도가 어디서 왔는지 실제로 열어 확인했는가. 그럴듯함은 검증이 아니다. 그리고 여기까지는 내가 확인했고 여기부터는 빌린 것이며 이 부분은 아직 검증하지 않았다는 문장을 쓸 수 있는가. 바스타니 실험이 시사하는 방향도 같다. 해법은 도구를 없애는 것이 아니라 마찰을 남기는 것이며, 인공지능에게 답을 먼저 요구하지 않고 먼저 자기 답을 만든 뒤 인공지능을 반증자로 사용하는 순서 하나만으로도 성능과 학습이 갈라지는 구조는 상당 부분 교정된다.

  결국 지적 성숙은 답을 얼마나 많이 가졌는가로 측정되지 않는다. 자신이 가진 답 가운데 어디까지가 자기 이해이고 어디부터가 빌린 이해이며 무엇이 아직 검증되지 않았는지 구분하는 능력, 즉 인식론적 겸손으로 측정된다. 그것은 자신감을 버리라는 뜻이 아니라 아는 것과 모르는 것의 경계를 더 정밀하게 긋는 능력이다. 그래서 나는 이것을 안다는 문장만큼이나 중요한 문장은 나는 여기까지는 알지만 그 다음 단계는 아직 확인하지 않았다는 문장이다. 전문성이 깊어질수록 이 경계는 정교해진다. 초보자에게는 모든 것이 단순해 보이지만 전문가는 자신의 설명이 어떤 조건에서 성립하고 어떤 조건에서 무너지는지 안다. 많이 아는 사람의 특징은 모든 질문에 즉시 답하는 것이 아니라 어디에서 확신을 멈춰야 하는지 아는 것이다.

  트로이는 목마를 보지 못한 것이 아니다. 누구보다 분명하게 보았다. 다만 무엇을 보고 있는지 잘못 이해했을 뿐이다. 이해의 환상에 빠진 사람도 정보가 부족해서 실패하지 않는다. 오히려 충분한 정보와 매끄러운 설명을 가졌기 때문에 이미 이해했다고 느낀다. 그래서 폐허 위에 남은 목마의 눈은 역설적이다. 눈은 있지만 보지 못하고, 정보는 있지만 이해하지 못하며, 답은 가졌지만 그 답에 이르는 길은 모를 수 있다. 성벽은 외부의 적을 막을 수 있었지만 이미 안전하다고 판단한 것은 막을 수 없었다. 인간의 이성도 마찬가지여서, 명백한 오류에는 경계하면서도 이미 이해했다고 느끼는 것에는 좀처럼 경계하지 않는다. 성문을 여는 것은 무지가 아니라 나는 이미 알고 있다는 확신이며, 우리의 사고를 가장 쉽게 통과하는 오류는 우리가 모르는 것이 아니라 이미 이해했다고 믿는 것이다.