방사선의학 웹진

  오늘날 인공지능(AI)은 더 이상 특별한 기술이 아니다. 스마트폰 길찾기, 음악 추천, 자동 번역처럼 우리의 일상 속 깊숙한 곳에서 이미 사용되고 있다. 그러나 기술이 편리해질수록 많은 사람들은 “AI가 더 발전하면 무엇이 달라질까?”라는 질문을 던진다. 특히 우리가 접하는 뉴스, SNS, 쇼츠 영상 같은 시청각 정보는 모두 ‘알고리즘’이라는 필터를 통과한다. 그 결과, 우리의 취향은 더욱 강하게 특정 방향으로 굳어지고, 다른 취향을 접할 기회는 줄어든다. 마치 익숙한 맛을 찾기 위해 새로운 식당을 계속 찾아다니는 사람처럼, 우리는 알고리즘이 만들어주는 선택지를 통해 스스로의 성향을 반복적으로 확인하며 살아가고 있는 셈이다.

  이러한 현재의 AI는 한 가지 기능을 매우 잘 수행하는 전문 시스템이다. 사진 속 얼굴을 찾아 배경을 흐리게 만드는 기능, 유튜브 추천처럼 특정 행동 패턴을 예측하는 기능, 번역기 같이 한 가지 작업에 최적화된 기능들이 모두 이 범주에 속한다. 이들은 뛰어난 성능을 보이지만, 그 범위를 벗어난 문제를 해결하기는 어렵다. 번역기가 갑자기 복잡한 수학 문제를 풀거나 요리 레시피를 만들 수 없는 이유도 같은 맥락이다.

  반면, 일반인공지능, AGI(Artificial General Intelligence)는 특정 기능을 넘어 인간처럼 다양한 과제를 스스로 학습하고 수행할 수 있는 인공지능을 의미한다. 사진 전문가이면서 동시에 추천 전문가이고, 필요하다면 요리나 논문 작성도 할 수 있는 존재에 가깝다. 만약 AGI가 현실화 된다면 연구실에서는 AGI 연구원이 논문을 함께 작성하고, 기업에서는 AGI 팀원이 시장조사와 전략기획을 동시에 처리하며, 병원에서는 AGI 의사·간호사가 실시간 중환자 모니터링을 수행하는 모습이 자연스러워질 것이다. 이는 단순한 자동화 수준을 넘어 거의 모든 산업의 생산 구조를 재편할 수 있는 변화며 AI를 팀원으로 인식하게 되는 의식의 변화도 수반하게 된다.

  그렇다면 AGI를 넘어 인간의 지능을 뛰어넘는 인공초지능, ASI(Artificial Super Intelligence)가 등장한다면 무엇이 달라질까? ASI는 인간 전체의 지적 능력을 초과하는 수준의 인공지능을 의미한다. 아기가 어른의 사고를 완전히 이해할 수 없듯, ASI의 사고 과정은 인간의 인지 능력으로는 온전히 따라갈 수 없다. 우리는 3차원을 이해하지만, 2차원 존재는 3차원을 직접 알 수 없이 투영된 단면만 해석하듯이 말이다. ASI의 내부 연산 구조는 인간의 인지 구조가 처리할 수 있는 범위를 넘어설 가능성이 높다. 그렇다고 해서 ASI가 인간에게 아무 설명도 제공할 수 없다는 뜻은 아니다. 핵심은 “설명”의 의미가 달라진다는 점이다. 인간이 ASI의 전체 계산 과정을 이해하는 것이 아니라, ASI가 인간이 받아들일 수 있는 방식으로 사고 과정을 단순화하여 제공하는 것이다. 초등학생에게 미적분을 설명할 때 원을 잘게 쪼개 직사각형으로 펼치는 비유를 사용하는 것처럼, ASI는 복잡한 계산을 인간 수준에서 해석 가능한 형태로 번역해 전달할 수 있다. 그러나 이것은 어디까지나 ‘축약된 이해’이며, 인간이 실제 계산 구조를 완전히 따라잡는다는 의미는 아니다. 따라서 ASI가 제공하는 설명은 인간의 인지 능력에 맞춘 축소판일 가능성이 크다. 우리는 그 설명을 듣고 “이해했다”고 느끼겠지만, 실제로 이해한 것은 전체 논리가 아니라 요약본에 가깝다. 초지능 시대의 핵심 질문은 “ASI의 모든 논리를 인간이 이해할 수 있는가?”가 아니라, “어떤 수준의 이해면 충분한가?”, “어떤 형태의 설명이 안전한가?”로 이동하게 된다. 이는 AI 안전(Alignment) 연구가 다루는 중요한 문제이기도 하다.

  앞으로 AGI·ASI가 등장할 시점에 대한 논의도 활발하다. 2024년 AI 분야 최상위 학회 연구자 2,778명을 대상으로 한 설문조사에서는 “AI가 대부분의 작업에서 인간을 능가할 확률이 50% 이상인 시점”¹⁾을 약 2047년으로 예측했다. 반면 다양한 연구자들의 견해를 통합한 비공식 대시보드에서는 2030년을 AGI 도달 시점으로 제시하기도 한다.²⁾ 특히 일단 인간 수준의 AGI가 도달하면, AI가 스스로 학습하고 스스로 설계 능력을 개선하는 순환 구조가 작동할 수 있으며, 이를 통해 성능이 기하급수적으로 상승할 가능성이 있다. 이 과정이 ASI로 이어지는 가장 유력한 경로로 여겨지고 있다.

아직 당장에는 AI가 주는 대답을 거꾸로 물어보는일은 없을 것 같다. 그렇지만 어느 순간부터는 AI가 주는 답이 진짜 정답인지 아니면 적당한 수준에서 인간을 위해 타협한 답인지는 모르는 일이다.

1) Katja Grace et al, “Thousands of AI Authors on the Future of AI”, Journal of Artificial Intelligence Research . https://dl.acm.org/doi/10.1613/jair.1.19087

2) When will we achieve AGI? https://agi-timelines-dashboard.vercel.app