에포크타임스

‘AI의 대부’로 불리는 선구적 컴퓨터 과학자 제프리 힌튼이, AI를 탄생시키는 데 기여한 바로 자신의 그 기술이 인류의 종말을 가져올 수 있다고 다시 한번 경고했다.

개봉을 앞둔 영화 ‘신 만들기(Making God)’ 홍보의 일환으로 8월 18일(현지시간) 공개된 인터뷰 클립에서 힌튼은 지금까지 나온 것 중 가장 극명한 경고를 내놓았다. 인류가 우리보다 훨씬 똑똑한 기계들에 의해 밀려나고 결국 대체될 위험에 처해 있다는 것이다.

노벨 물리학상 수상자이자 전 구글 임원인 힌튼은 클립에서 “대부분의 사람들은 우리보다 더 지능적인 사물이라는 것이 무엇을 의미하는지 이해하지 못한다. 사람들은 항상 ‘우리가 이걸 어떻게 사용할 것인가’만 생각한다. ‘이것이 우리를 사용하려 하지 않을까’ 하는 생각은 하지 않는다”고 말했다.

그는 인공지능이 대규모 실업을 야기할 것이라고 “상당히 확신한다”고 말하며, 마이크로소프트 같은 거대 기술기업들이 주니어 프로그래머들을 AI로 대체하는 사례들을 지적했다. 하지만 더 큰 위험은 직장 문제를 훨씬 넘어선다고 그는 말했다.

그는 “내가 가장 많이 경고해 온 위험은 이것이다. 우리는 결국 우리보다 훨씬 똑똑한 AI를 개발하게 되고, 그것이 우리를 지배하게 될 것이다. AI는 더 이상 우리를 필요로 하지 않을 것이다”라고 말했다.

그는 “유일한 희망은, AI가 실리콘으로 만들어질 것이기 때문에 우리를 잡아먹지는 않을 것이라는 점”이라고 덧붙였다.

혁신에서 후회로

77세의 힌튼은 수십 년간 오늘날 인공지능 시스템의 토대가 되는 신경망 구조인 딥러닝을 개척해 왔다. 1980년대에 그가 가져온 혁신, 특히 데이터의 패턴을 인식하도록 학습할 수 있는 볼츠만 머신의 발명은 이미지 인식과 현대 기계학습의 길을 열어주었다.

그는 ‘인공 신경망을 통한 기계학습을 가능하게 하는 기초적 발견과 발명’으로 2024년 노벨 물리학상을 받았다.

스웨덴 왕립과학원은 힌튼의 초기 통계물리학 활용이 오늘날 AI 혁명을 가능하게 한 개념적 도약을 제공했다고 언급했다.

하지만 이후 힌튼은 이 분야의 가장 맹렬한 비판자 중 한 명이 되었으며, AI의 급속한 발전이 사회가 안전하게 관리할 수 있는 능력을 앞질렀다고 경고하고 있다. 2023년 그는 구글에서 퇴사했다. 회사를 연루시키지 않고 AI의 위험성에 대해 자유롭게 발언하기 위해서였다.

노벨상 수상 강연에서 힌튼은 생산성 향상과 “전 인류를 위한 놀라운 발전”이 될 수 있는 새로운 의료 치료법 같은 AI의 긍정적 가능성을 인정했다. 그러나 인간보다 더 지능적인 디지털 존재를 만드는 것은 “실존적 위협을 가한다”고 경고했다.

그는 최근 라스베이거스에서 열린 Ai4 컨퍼런스에서 자신의 경력을 되돌아보며 “안전 문제도 생각했더라면 좋았을 텐데”라고 말했다. 그는 위험을 예상하기보다는 AI가 작동하게 만드는 데만 집중했던 것을 후회했다.

AI에게 모성(母性) 가르치기

힌튼은 이전에 AI가 인류를 전멸시킬 가능성을 10~20%로 추정한 바 있다. 6월 ‘CEO의 일기(The Diary of a CEO)’ 팟캐스트에서 그는 오늘날 AI 시스템을 만드는 엔지니어들이 이 기술을 완전히 이해하지 못하며, 크게 두 진영으로 나뉜다고 말했다. 한 진영은 인간이 기계에 의해 대체되는 디스토피아적 미래를 믿고, 다른 진영은 그러한 우려를 공상과학으로 치부한다는 것이다.

힌튼은 “나는 이 두 입장 모두 극단적이라고 생각한다”고 말했다.

그는 “나는 종종 AI가 우리를 전멸시킬 가능성이 10~20%라고 말한다. 하지만 그건 그냥 직감이다. 우리가 여전히 AI를 만들고 있고 우리는 꽤 창의적이다. 충분히 똑똑한 사람들이 충분한 자원으로 충분한 연구를 한다면, AI가 절대로 우리를 해치고 싶어 하지 않도록 만드는 방법을 알아낼 것이라는 희망이 있다”고 설명했다.

라스베이거스 컨퍼런스에서 힌튼은 위험을 완화하는 방법에 대한 참신한 아이디어를 제시했다. AI 시스템을 억지로 굴복시키려 하기보다는, 더 똑똑해져도 인간을 보호하고 싶어 하도록 ‘모성 본능’을 갖도록 설계해야 한다는 것이다.

힌튼은 컨퍼런스에서 “올바른 모델은 덜 지능적인 존재인 인류가 더 지능적인 존재인 AI를 통제하는 경우이다. 바로 엄마가 아기에 의해 통제받는 것이다. 이게 우리가 기대할 수 있는 유일한 모델이다”라고 말했다.

그는 “AI는 우리보다 훨씬 똑똑할 것”이라고 경고하며, “유일한 좋은 결과”는 그들이 어머니가 자식을 대하는 방식으로 인류를 돌보는 것이라고 덧붙였다. 그는 그게 안 되면 AI가 결국 인류를 대체할 것이라고 전망했다.

*한강덕 기자가 이 기사의 번역 및 정리에 기여했습니다.

저작권자 © 에포크타임스, 무단 전재 및 재배포 금지