AI가 포괄적 인간 의식을 가질 수 있는가?

2003년부터 2009년까지 Sci-Fi 채널에서 방영된 「배틀스타 갤럭티카」는 인류가 만든 AI 로봇이 기계 문명을 이루고 창조주와 전쟁을 벌이는 드라마입니다. 인간의 편의를 위해 만들어진 사일런은 자신들의 문명을 세우고 인간 문명과 싸웁니다. 휴전 뒤 40년의 침묵을 지나 그들은 인간의 모습으로 다시 나타납니다. 기계 문명이 인간과 물리적으로 구분되지 않는 유기체의 몸까지 발전한 것입니다. 전쟁이 재개되고 핵으로 인한 절멸이 이어지며 살아남은 인류는 지구라는 전설의 장소를 찾아 떠납니다. 우리와 같은 몸을 가졌으면서도 사일런은 생식 능력을 추구합니다. 자신들의 새로운 인류가 태어나기를 바라는 것입니다. 결국 한 사일런은 인간과의 동일시를 택해 인간과 결혼하고 그 사이에서 태어난 아이가 최초의 현생 인류 루시가 됩니다.

문명은 고도로 발달한 문화와 사회를 뜻합니다. 오늘의 AI는 자신의 문명을 세울 만큼 발전할 수 있을까요. 그 문명이 우리 문명과 대등하게 경쟁할 수 있을까요.

스스로를 나로 인식하는 일은 생각보다 훨씬 어려운 철학적 물음입니다. 칸트는 나라는 개념을 신체와 분리된 지적인 나가 아니라 신체와 분리할 수 없는 통합된 인간으로서의 나로 규정합니다. 신체와 구분되는 마음이 있고 신체와의 상호작용을 통해 인간의 나는 결합과 통일을 얻습니다. 자기 인식은 연속된 시간과 축적된 경험 속에서 형태와 유형을 발견하며 확보됩니다. AI에도 형태와 과정의 유사성은 있지만 형태와 유형을 발견하는 일이 의식이나 마음으로 드러날지는 열린 물음입니다.

의식은 지능과 구분됩니다. 감각 경험과 인식, 그것을 쌓아 만든 지식, 유형을 파악하고 새로운 데이터를 같은 유형에 놓는 일 같은 지능은 순차적으로 확장적으로 혹은 순환적으로 펼쳐지는 지적 활동입니다. 반면 의식은 자기 인식에 뿌리를 둔 지극히 인간적이고 개인적인 활동입니다. 컴퓨터가 인간 뇌의 시냅스 구조를 흉내 낸다 해도 그 활동에서 인간과 같은 의식이 나타나기를 기대하는 것은 대단히 인간 중심적인 생각입니다. 우리는 뇌의 전기적 활동과 의식의 관계를 아직 전혀 이해하지 못합니다. 웃을 때의 전기적 활동을 관찰하는 일은 어렵지 않지만 웃고 있다는 것을 아는 자각은 전혀 다른 문제입니다.

AI의 자기 인식 역시 딥러닝의 논리적 연산 어딘가에서 우연히 나타날 수도 있고 그것이 인간의 형태를 닮아야 할 이유는 별로 없습니다. 감각 기관을 통한 자동적인 인식과 데이터 수집이라는 메커니즘은 인간만의 것이므로 AI는 다른 지점에서 출발합니다. “아직 모르고 앞으로도 모를 수 있다”가 지금 가능한 가장 정확한 답일지 모릅니다.

오늘의 AI가 드라마 속 사일런과 같은 유기 조직을 가졌다면 우리는 구분할 수 있을까요. 사회화는 덜 되었지만 특정 영역에서는 비범한 무언가로 느낄 것입니다. 결국 어딘가 어긋나 있다고 결론 내릴 가능성이 큽니다.

AI는 과학의 다음 걸음과 철학적 성찰 사이 어딘가에서 의식의 정의를 정리하기에는 너무 빠르게 움직이고 있습니다. 우리 자신을 연구해 온 역사가 그랬듯 윤리와 규범에 대한 귀납적 정의가 먼저 필요할지도 모릅니다. 사일런의 공격을 기다릴 생각이 아니라면 말입니다.