'기계가 생각할 수 있는가'라는 물음은 컴퓨터의 등장과 함께 철학적 사변에서 실증 가능한 연구 주제로 바뀌었다. 마음의 계산 이론(Computational Theory of Mind, CTM)은 여기서 한 걸음 더 나아가, 마음 자체가 일종의 계산 시스템이라고 주장한다. 추론, 의사결정, 문제 해결, 지각, 언어 이해 같은 핵심 정신 과정이 결국 계산 과정이라는 것이다. 이 관점은 1960~70년대 인지과학의 정통 패러다임으로 자리 잡았지만, 최근에는 여러 경쟁 이론의 도전을 받고 있다. AI가 다시 산업의 중심 화두가 된 지금, 이 오래된 철학적 프레임을 되짚어 보는 일은 '지능'과 '사고'라는 말을 우리가 어떤 근거로 쓰고 있는지 점검하는 작업이기도 하다.
튜링에서 출발한 계산 개념
CTM을 이해하려면 먼저 '계산'이 무엇인지 분명히 해야 한다. 직관적으로 알고리즘은 어떤 문제를 풀기 위한 명시적이고 단계적인 절차다. 각 단계에서 무엇을 할지 기계적으로 지시하며, 수행자에게 특별한 창의성을 요구하지 않는다. 초등학교에서 배우는 덧셈·곱셈·나눗셈 절차가 전형적인 예다. 20세기 초까지 수학자들은 이런 개념을 형식적 분석 없이 직관적으로 사용했지만, 앨런 튜링의 1936년 논문이 가장 영향력 있는 정식화를 제시했다.
튜링 기계는 무한한 시간과 저장 공간을 가정한 이상화된 계산 장치의 추상 모델이다. 사람이 종이에 연필 자국을 조작하며 계산하듯, 이 장치는 유한한 알파벳에서 뽑은 기호를 특정 '기억 위치'에 쓰고 지우며 조작한다. 튜링은 인간이 수행할 수 있는 모든 기계적 절차를 이 단순한 형식이 포착할 수 있다고 논증했고, 이후 논자들은 이에 거의 이견 없이 동의해 왔다. 특히 그는 다른 임의의 튜링 기계를 흉내 낼 수 있는 '보편 튜링 기계'의 존재를 증명했는데, 이것이 곧 프로그램 가능한 범용 컴퓨터의 원형이다. 우리가 쓰는 PC도 메모리가 유한하다는 단서만 빼면 근본적으로 같은 원리 위에 서 있다.
마음은 컴퓨터인가, 계산 시스템인가
워런 매컬록과 월터 피츠는 1943년 튜링 기계와 유사한 무언가가 마음의 좋은 모델일 수 있다고 처음 제안했다. 이 발상은 심리학·컴퓨터과학·언어학·철학·경제학·인류학·신경과학을 아우르는 인지과학의 핵심 축이 되었고, 오늘날 '고전적 계산 심리 이론(CCTM)'으로 불린다. CCTM은 마음이 중요한 측면에서 튜링 기계와 유사한 계산 시스템이며, 핵심 정신 과정이 튜링 계산과 유사한 계산이라고 본다.
여기서 실무자가 주의할 지점이 있다. CCTM은 흔히 '컴퓨터 은유'로 소개되지만, 이 표현은 두 가지 면에서 오해를 부른다. 첫째, 데이비드 차머스가 지적하듯 '컴퓨터'라는 말은 프로그램 가능성을 강하게 함축하는데, 마음을 튜링식 계산 시스템으로 본다고 해서 마음이 프로그램 가능하다고 주장할 필요는 없다. 실제로 대부분의 튜링 기계는 프로그램 가능하지 않다. '마음은 범용 프로그래머블 컴퓨터가 아니다'라는 비판은 계산주의자들이 애초에 주장하지 않은 것을 겨냥한다. 둘째, CCTM은 은유가 아니다. 마음이 계산 시스템과 '비슷하다'가 아니라 문자 그대로 계산 시스템'이다'라고 주장한다. 실리콘 칩이든 뉴런이든 도르래와 지렛대든, 물리적 세부를 도외시한 추상적 계산 기술이 정신 과정에 대한 참된 서술이 될 수 있다는 것이다.
남은 쟁점들
CTM은 여러 미해결 과제를 안고 있다. 우선 마음이 '계산한다'고 말할 때 그 의미가 무엇인지, 그리고 마음이 정말 그런 의미로 계산하는지를 논증해야 한다. 또한 계산적 서술이 뇌의 신경생리학적 서술이나 표상적 내용을 다루는 지향적 서술과 어떻게 연결되는지도 해명해야 한다. 힐러리 퍼트넘이 1967년 도입한 기능주의는 이 지점에서 하나의 답을 제시한다. 논리적 행동주의는 정신 상태를 행동 성향으로, 유형 동일성 이론은 뇌 상태로 환원하지만, 기능주의는 정신 상태를 감각 입력·운동 출력·다른 정신 상태와의 상호작용으로 개별화되는 '기능적 상태'로 본다.
기술적 층위에서는 '디지털이냐 아날로그냐'라는 오래된 논쟁도 있다. 튜링 계산은 유한 알파벳에서 뽑은 이산적인 기호열을 다루는 반면, 자와 컴퍼스로 도형을 다루는 유클리드 기하학처럼 연속적으로 변하는 구성을 조작하는 절차도 있다. 마음의 활동을 모델링하는 데 이산 패러다임이 적합한지, 아니면 아날로그 패러다임이 더 어울리는지는 지금도 결론이 나지 않았다. 게다가 튜링의 정식 형식은 여러모로 지나치게 제한적이어서, 아무도 그것을 정신 활동의 그럴듯한 모델로 여기지 않는다. CCTM은 튜링의 원래 형식에서 벗어난 여러 변형을 허용하는 '이론군'으로 이해하는 편이 정확하다.
실무적으로 이 논의가 시사하는 바는 분명하다. 논리 이론가 프로그램이 『수학 원리』의 초기 정리 52개 중 38개를 증명하고 일부는 더 간단한 증명을 찾아냈을 때부터, 사람들은 '모방'과 '진짜 사고'의 경계를 어디에 그을지 물어 왔다. 튜링 테스트는 이 물음을 '컴퓨터가 인간과 구별되지 않게 대화할 수 있는가'로 치환하려는 시도였지만, 네드 블록은 진짜 지능에 근접하지 못하면서도 테스트를 통과하는 기계가 가능하다고 반박했다. 오늘날 대규모 언어 모델의 출력을 두고 '이해'인지 '흉내'인지 논쟁이 반복되는 것은 결국 반세기 전 계산주의가 남긴 질문이 여전히 열려 있음을 보여준다. 시스템이 무엇을 산출하느냐와 그 시스템이 어떤 종류의 것이냐는 별개의 물음이며, 이 구분을 흐리지 않는 것이 AI를 다루는 실무자에게도 유효한 규율이다.