본문으로 건너뛰기
철학의 라이벌
← 튜링 vs 설

튜링 vs 설

심화 · 학부 수업

심리철학과 인공지능 윤리의 접점. 큰 언어 모델이 일상에 들어온 지금, 이 차시는 '시의성'이 가장 높은 동시에 가장 오염되기 쉽다. 목표는 두 논변을 정확히 세우고, 최근 기술 변화가 논변의 어느 전제를 실제로 건드리는지 냉정하게 판정하는 것이다. '요즘 AI를 보면 튜링이 옳았다/설이 옳았다'는 식의 인상 비평을 막는 것이 이 차시의 규율이다.

논증 재구성

전제에 번호를 붙여 세우고, 실제로 공격받는 전제를 지목합니다. 수업에서 물고 늘어질 지점입니다.

튜링

물음의 대체

  1. P1. '기계가 생각할 수 있는가'는 '생각'과 '기계'의 통상적 용법에 의존하므로 답이 정해지지 않는다.
  2. P2. 학문적으로 다루려면 판정 가능한 물음으로 바꿔야 한다.
  3. P3. 모방 게임은 판정 가능하다(심사자의 식별 성공률로 측정).
  4. C. '기계가 모방 게임에서 성공할 수 있는가'로 물음을 대체해야 한다.
공격받는 전제

P3의 대체가 원래 물음을 보존하는가. 대체된 물음에 답해도 원래 물음은 답해지지 않았다는 비판이 가능하다. 튜링은 원래 물음이 '논의할 가치가 없을 만큼 무의미하다'고 본다(6절).

이것은 조작적 정의(operationalization)의 고전적 사례다. 심리학·경제학의 측정 문제와 같은 구조로 가르칠 수 있다.

튜링, 계산 기계와 지능 · 1, 6절

튜링

타인의 마음 논변

  1. P1. 나는 타인의 내적 상태에 직접 접근하지 못한다.
  2. P2. 그럼에도 나는 타인의 언어 행동을 근거로 그가 생각한다고 판단한다.
  3. P3. 기계에 대해서만 더 엄격한 기준(내적 상태의 직접 확인)을 요구하는 것은 자의적이다.
  4. C. 행동적 기준을 기계에도 동일하게 적용해야 한다.
공격받는 전제

P3. 우리가 타인에게 마음을 귀속하는 근거는 행동만이 아니라 생물학적·진화적 유사성도 포함한다는 반론이 있다. 그렇다면 기준의 차이가 자의적이지 않다.

튜링, 계산 기계와 지능 · 6절 '의식으로부터의 논변'

설

중국어 방

  1. P1. 나는 중국어를 모른 채 규칙표만 보고 중국어 기호를 처리한다.
  2. P2. 밖에서 보면 내 출력은 중국어 화자와 구별되지 않는다.
  3. P3. 그럼에도 나는 그 기호가 무엇에 관한 것인지 전혀 모른다.
  4. P4. 프로그램 실행은 정확히 P1의 상황이다(구문 규칙에 따른 기호 조작).
  5. C. 프로그램 실행만으로는 이해(의미론)가 생기지 않는다.
공격받는 전제

체계 반론: 이해의 주체를 '방 안의 사람'으로 잡은 것이 오류이며, 사람+규칙표+기록 전체가 이해한다고 보아야 한다. 설의 응답('사람이 규칙표를 다 외워 방을 내면화해도 여전히 모른다')이 성공하는지가 40년째 논쟁이다.

설, 마음·뇌·프로그램 · 1980

설

구문–의미 논변 (형식적 판본)

  1. P1. 프로그램은 순전히 형식적(구문적)으로 정의된다.
  2. P2. 마음은 의미론적 내용을 가진다.
  3. P3. 구문은 그 자체로 의미론에 충분하지 않다.
  4. C. 프로그램 실행은 마음을 갖기에 충분하지 않다.
공격받는 전제

P3이 결론을 거의 그대로 되풀이한다는 지적(논점 선취). 또한 P1이 참이면 뇌의 물리적 과정도 형식적으로 기술될 수 있으므로 뇌에도 같은 논변이 적용되어야 한다는 반론이 있다.

설, 마음의 재발견 · 1992