AI — 그래서 문제는 무엇인가?

오늘 수준의 AI를 갖추고 인간과 비슷하게 움직이는 로봇이 있다고 해봅시다. 처음 마주하는 문제는 그것에게 무엇을 어떻게 알려줄 것인가입니다. 아무것도 알려주지 않으면 아무것도 하지 못합니다. 넣은 것이 없으면 나오는 것도 없다는 NINO 문제입니다. 컴퓨터 과학의 핵심 쟁점이며 쓰레기를 넣으면 쓰레기가 나온다는 말로도 바꿀 수 있습니다. 인간이 감각을 통해 실시간으로 정보를 받아들이고 처리하는 방식과는 완전히 다릅니다.

양질의 데이터를 먼저 가르쳐야 한다는 점은 생각보다 큰 문제를 만듭니다. 방대한 데이터를 정제하고 추려 좋은 재료를 넣는 일은 사람의 손이 필요한 과학적 작업이기 때문입니다. 기계에는 자동으로 작동하는 감각 기관이 없습니다. 우리가 기계에 무언가를 넣기 위해 쓰는 도구는 스마트폰처럼 사각형 안에 갇혀 있습니다. 그래서 첫 번째 양질의 입력이 그토록 중요합니다.

첫 로봇에게 공을 던지는 법을 가르치면 세계 최고의 투수가 될 수 있습니다. 사람은 공을 던지면서 받는 행위를 유연하게 연상하고 던지며 익힌 움직임을 다시 씁니다. 로봇은 받는 일을 던지는 틀에 억지로 끼워 넣고 엉뚱하게 행동합니다. 연속적이고 유연한 사고가 불가능하고 입력된 데이터를 따라 심한 편향이 생길 수 있습니다. 인간처럼 무언가를 해내는 AI는 아직 멀고 일반적인 영역으로 넓히면 인간처럼 인지하고 행동하는 일은 예상보다 오래 걸릴 수 있습니다.

AI의 판단이 조금씩 신뢰를 얻어가더라도 매우 강한 윤리적 고려가 필요한 분야가 있습니다. 복제와 유전자 조작으로 새로운 종의 탄생을 AI가 결정하게 하거나 처방과 수술 결정에서 의사의 판단을 대체하게 하는 일은 지금도 가까운 미래에도 받아들이기 어렵습니다.

법적 책임도 피할 수 없습니다. AI의 자율적 판단이 사고나 법적 문제를 일으켰을 때 책임이 제조사에 있는지 모호하고 개발자와 사용자 사이에서도 정리되지 않습니다. 안전성과 신뢰성, 책임성을 보장하는 기준은 아직 마련되지 않았습니다.

프라이버시와 관련해 개인정보보호위원회는 생성형 AI 모델 개발에 쓰이는 공개 인터넷 데이터의 안전한 처리에 대한 정부 차원의 기준을 내놓았습니다. 공개 데이터는 누구나 적법하게 쓸 수 있는 데이터이지만 노출된 개인정보를 담고 있을 수 있습니다. 명확한 기준이 없어 우려가 있었는데 최소한의 기준을 담은 안내는 침해를 줄이면서 혁신적 성장을 뒷받침합니다. AI는 빠르게 발전하고 범위도 계속 넓어지므로 기준 역시 그 속도를 따라가야 합니다.

훨씬 물리적이고 단순한 문제도 있습니다. 학습과 추론에는 많은 컴퓨터와 전용 GPU가 필요하고 이런 시스템은 한곳에 물리적으로 모여야 합니다. 데이터센터 건물이 필요하고 시스템과 냉각에 쓰이는 전력은 기하급수적으로 늘어납니다. 안정적인 발전 용량의 확보는 국가 단위의 과제가 되고 대규모 전력 생산에 따르는 온실가스와 유해 폐기물은 기후변화를 더 밀어붙입니다.

일자리 감소는 아직 미래의 일이지만 매우 무겁게 다뤄집니다. 2024년 다보스 세계경제포럼에서 가장 많이 논의된 주제가 AI와 고용이었습니다. 재교육과 의미 있는 일자리 찾기를 돕는 제도적 지원이 필요합니다. 혁신하는 사람과 변화해야 하는 사람을 동시에 지원하는 일은 그 자체로 딜레마이지만 현재와 미래 정부의 핵심 과제인 것은 분명합니다. 우려되는 점은 AI의 광범위한 사용이 인간의 상호작용과 창의성을 갉아먹고 그와 함께 다음 세대의 경제 감각과 혁신 역량까지 약화시킬 수 있다는 것입니다.

극단적인 생산성 향상과 특정 집단에 몰리는 부는 경제적 불평등과 임금 격차, 일자리의 소멸을 불러올 수 있습니다. 그 거대한 경제적 사회적 재편을 제도로 담아내는 일이 미래 정부의 숙제입니다.

인간의 상상력에는 한계가 없습니다. 빠르게 깨닫고 빠르게 움직여야 합니다. 상상한 대로 만들어지는 세상입니다. 약간의 노력은 덤입니다.