거짓을 가정해 진실을 증명한다? 귀류법이 헷갈리는 진짜 이유

수학에서 가장 강력하면서도 가장 직관에 어긋나는 도구가 바로 '귀류법(증명에 의한 모순)'입니다. √2가 무리수임을 증명하거나 소수가 무한함을 보일 때 쓰이죠. 핵심은 증명하려는 명제의 반대를 일부러 참이라 가정한 뒤, 그 가정이 논리적 모순으로 이어짐을 보여 원래 명제가 참임을 확정하는 것입니다. Colin Foster는 이 방식이 학습자에게 유독 어려운 이유를 짚습니다. 우리는 '틀렸다고 알고 있는 전제'를 붙들고 한참 논증을 전개한 뒤, 마지막에 그 전제를 통째로 버려야 하기 때문입니다. 머릿속에 거짓 세계를 임시로 세웠다가 무너뜨리는 셈이라 불편함이 따릅니다. Foster는 모순이 '왜' 발생하는지를 학습자가 납득하도록, 직접 가정과 결과를 끝까지 따라가 보게 하는 접근을 제안합니다. IT 종사자에게도 이 사고법은 익숙합니다. 'A가 참이라면 이런 모순이 생긴다'는 추론은 디버깅, 단언(assertion) 검증, 불변식 증명에서 매일 쓰는 논리이기 때문입니다. 결국 귀류법은 거짓을 끝까지 밀어붙여 진실의 윤곽을 드러내는 사고 훈련입니다.