에포크타임스

영국 최고 정보기관 MI5의 수장이 사이버 위험에 대해 경고하며 통제를 벗어난 인공지능(AI) 시스템이 초래할 잠재적 위험을 다루기 위한 작업을 시작했다고 밝혔다.

MI5 국장인 켄 맥칼럼 경(Sir Ken McCallum)은 AI가 해를 끼칠 가능성을 무시하는 것은 “무모한 일”이라고 말했다.

그는 영국 런던 웨스트민스터 지역에 위치한 MI5 본부 테임스 하우스(Thames House)에서 가진 연설 중 “할리우드 영화 속 시나리오를 예측하는 것은 아니다”라면서도 “정보기관은 위험을 고려해야 한다”고 강조했다. 그는 연설에서 다음과 같이 말했다.

“MI5는 지난 한 세기 동안 인간적이면서도 때로는 비인간적인 적들을 능가하기 위해 기발한 방법들을 개발해 왔다.

하지만 2025년 현재의 위협에 대응하면서도 우리는 다음 단계의 영역, 즉 인간의 감독과 통제를 회피할 수 있는 비인간적 자율 AI 시스템으로부터 발생할 수 있는 잠재적 미래 위험을 살펴볼 필요가 있다.

과장과 공포 조성 위험이 있는 만큼 신중하게 말하겠다. 할리우드 영화 시나리오를 예측하는 것이 아니다. 전반적으로 저는 AI가 실제로 이익을 가져다줄 수 있는 기술 낙관론자다.

하지만 AI 기술이 계속해서 급속히 발전함에 따라 영국 정보기관인 MI5와 정부통신본부(GCHQ) 그리고 선도적 AI 보안 연구기관과 같은 조직들은 앞으로 국가 방어를 위해 어떤 준비가 필요할지를 오늘부터 깊이 고민해야 할 것이다.

AI가 우리에게 해를 끼치려고 ‘의도’할 가능성은 거의 없을지 모른다. 하지만 그것이 해를 끼칠 잠재력을 가지고 있다는 사실을 무시하는 것은 무모한 일일 것이다.”

*이정현 기자가 이 기사의 번역 및 정리에 기여했습니다.

저작권자 © 에포크타임스, 무단 전재 및 재배포 금지