“틱톡, 알고리즘만 바꿔선 소용 없어…구조적 위험 여전” 전문가 경고

트럼프 행정부 관리들이 틱톡 미국 내 거래가 임박했다고 발표할 때 이번 거래를 통해 인기 소셜미디어 애플리케이션(앱)의 알고리즘이 완전히 미국의 통제 아래 들어가게 될 것임을 강조했다.
도널드 트럼프 대통령은 틱톡의 미국 내 거래를 승인하는 행정명령에 서명한 뒤 “이것(틱톡 미국 사업)은 전적으로 미국이 운영하게 될 것”이라고 말했다. 행정명령은 거래 성사를 위해 양측에 120일의 기한을 부여했다.
지난해 제정된 법률은 국가 안보 우려를 이유로 외국 적대 세력, 즉 중국에 본사를 둔 바이트댄스가 틱톡을 통제하는 것을 금지했다. 중국 법은 바이트댄스가 틱톡의 잘 알려져 있지 않고 불투명한 알고리즘을 매각하는 것을 막고 있어 바이트댄스가 자주 업데이트하는 이 알고리즘의 통제권이 새 합작법인에서 어떻게 관리될지에 대해 의문이 제기됐다.
백악관 관리들에 따르면 이번 새 합작법인은 틱톡 미국 지사의 알고리즘 복제본에 대해 완전한 통제권을 가지며 바이트댄스에는 라이선스 사용료를 지불하는 방식이다.
소스 코드와 알고리즘뿐만 아니라 틱톡과 바이트댄스의 사업 관행은 그간 여러 차례 비판을 받아왔다. 특히 기자들에 대한 감시 증거와 앱 간의 공모 사례가 드러났으며 틱톡이 사용자에게 데이터 수집 동의를 묻지 않고 다른 앱을 통해 정보를 수집하려 했다는 점이 문제로 지적됐다.
또한 홍콩, 천안문 광장, 대만, 그리고 파룬궁 수련자와 위구르 무슬림 등 소수민족에 대한 중국 공산당(CCP)의 박해와 관련한 콘텐츠가 차단되거나 억압된 사례도 있었다. 이러한 주제들은 중국 공산 정권이 검열하는 것으로 잘 알려져 있다. 중공은 첩보기관인 ‘912 특별 프로젝트 작업반’을 통해 소셜미디어에서 미국인들을 상대로 분열을 조장하는 선동적인 내용을 퍼뜨리는 허위 정보 캠페인도 벌이는 것으로 알려져 있다.
틱톡은 일부 사례에 대해 사과했으며 일부 문제는 인간의 실수에서 비롯됐다고 해명했다.
미국 관리들은 비록 데이터가 궁극적으로는 미국 내 오라클 서버에 저장된다 하더라도 바이트댄스 직원들이 작업을 위해 중국으로 전송된 데이터의 양이 얼마나 되는지 알 수 없다는 점에 우려를 표하고 있다.
또한 피해자 가족들은 소셜미디어 알고리즘이 생명을 앗아갈 수 있다며 그 해악에 대해 경고의 목소리를 내고 있다. 이번 거래는 인기 동영상 앱에서 중국의 영향력을 차단할 수 있는 기회를 제공하며 정책 입안자들과 옹호자들은 이로 인해 의미 있는 변화가 일어나길 기대하고 있다.
트럼프 행정명령은 “분할 매각을 통해 알고리즘과 소스 코드 운영뿐 아니라 콘텐츠 검열 결정권도 새로운 합작법인의 통제 아래 놓이게 된다”고 명시하고 있다.
또한 이 행정명령에는 오라클이 “소프트웨어 업데이트, 알고리즘, 데이터 흐름을 집중 감시”하고, “미국 사용자 데이터를 사용하는 모든 추천 모델과 알고리즘은 신뢰할 수 있는 보안 파트너가 재훈련하고 감시하도록 해야 한다”는 내용도 포함돼 있다.
하지만 기술보다 인간 중심 미션을 지향하는 비디오 플랫폼을 운영하는 셰리 인은 “기존 알고리즘을 미국 사용자 데이터로 재훈련하는 것만으로는 충분하지 않다”고 말한다. 그녀는 자신이 최고경영자(CEO)로 있는 ‘깐징월드(GanJingWorld, GJW)’라는 비디오 플랫폼이 고의적으로 ‘중독성을 배제한’ 설계라고 설명하며 이 플랫폼은 시청 시간이 늘어나도록 유도하는 알고리즘이 아니라 이용자가 직접 콘텐츠 여정을 조종할 수 있도록 도서관처럼 만들어졌다고 밝혔다.
셰리 인 CEO는 2021년 중국 정권의 사이버공간관리국이 내린 지침을 언급했다. 이 지침은 인터넷 제품과 서비스의 ‘알고리즘 추천 활동’이 ‘핵심 사회주의 가치를 증진’하고 중국 공산당의 이익을 보호해야 한다고 규정한다.
사실 틱톡은 중국에서 금지돼 있으며 대신 바이트댄스가 중국 내에서만 운영되는 동영상 앱 ‘더우인(Douyin)’을 운영하고 있다. 새 규정은 기업들이 추천 알고리즘을 해당 기관에 등록하도록 요구했으며 더우인은 가장 먼저 명단에 오른 앱 중 하나였다.
셰리 인 CEO는 에포크타임스에 “사회주의, 무신론, 공산주의, 그리고 미국 문화 비판은 중국 국가 이데올로기에 뿌리를 두고 있다”며 “이는 서양에서 이해되는 전통적 신앙과 도덕 체계를 거부하고 ‘서구 가치’의 경쟁자로 자신을 세우며 엄격한 국가 통제와 검열을 통해 강제된다”고 말했다.
“같은 알고리즘을 다른 데이터로 재훈련하는 것만으로 충분할까? 제 답은 ‘아니다’”라고 밝혔다. 셰리 인 CEO는 해당 플랫폼이 단순히 이용자의 참여와 시청 시간을 극대화하는 데 그치지 않고 중국 공산당의 목표를 달성하도록 설계됐으며 ‘사회주의 가치에 의해 형성됐다’고 설명했다.
최근 스페인 마드리드에서 진행된 협상 이후 스콧 베센트 미국 재무장관은 기자들에게 중국 협상가들이 앱의 ‘중국적 특성’을 유지하는 데 매우 관심이 많았다고 전했다. 이 ‘중국적 특성’이란 용어는 중국 공산당 관리들이 마르크스주의의 중국식 버전을 일컫는 말이다.
소셜미디어 피해자 법률 센터 창립자 매튜 버그먼은 목 조르기, 지하철 서핑, 약물 복용 등과 같은 위험하고, 심지어 치명적인 도전 과제에 청소년들이 참여하도록 유도하는 영상을 보내온 알고리즘에 변화가 없다면 미국 사용자 데이터로 재훈련하는 것은 의미가 없다고 말했다.
버그먼 창립자는 에포크타임스에 “이는 공중보건에 대한 위험이자 미국 청소년에 대한 명백하고 현실적인 위협이다. 알고리즘이 바뀌지 않는 한 누가 소유하든 상관없다”며 “아이들에게 자살 관련 영상을 보내는 것을 멈춰야 한다”고 강조했다.
버그만은 로펌을 설립한 지 3년 만에, 이 앱들을 악용한 범죄자들로 인해 자녀가 사망하거나 심리적, 신체적, 성적 학대를 당한 수천 명의 부모를 대리해 왔다. 그의 고객에는 틱톡을 상대로 손해배상 소송을 제기한 수백 가정도 포함돼 있다.
버그먼은 앱의 미국 소유권 허용이 국가 안보 측면에서 긍정적인 조치라고 평가하며 중국의 통제 우려가 근거 없는 것이 아니라고 지적한다.
그는 틱톡이 중국에서는 금지된 반면, 국가 승인 앱인 더우인은 여전히 월간 사용자 수 7억 4600만 명에 달하는 대단히 인기 있는 앱이며 교육 콘텐츠를 제공하고 화면 사용 시간을 제한하는 기능이 내장돼 있다고 설명했다.
버그먼은 “더우인은 의도적으로 완전히 다르게 설계된, 훨씬 더 안전한 플랫폼”이라고 말했다. 트럼프 대통령은 행정명령 서명 당시 새 합작법인이 ‘외국의 영향과 같은 일이 절대 일어나지 않길 바라는’ 애국적인 미국인들의 손에 있다고 믿는다고 밝힌 바 있다.
미국 하원 중국공산당 특별위원회 위원장인 공화당의 존 물리나르(미시간) 의원은 지난 9월 26일 행정부에 이번 거래에 대한 브리핑을 요구했으며 자신의 위원회가 감시를 강화할 것이라고 밝혔다.
물리나르 의원은 “바이트댄스는 여러 차례 문제를 일으킨 악성 행위자임을 증명했다”며 “중국공산당의 궁극적 목표는 미국을 분열시키고 약화시키는 것”이라고 말했다. 다만 그는 새로운 합작법인의 다수 지분이 미국 소유라고 해서 중국 정권의 앱 통제를 완전히 차단하는 법 취지가 온전히 충족되는 것은 아니라고 덧붙였다.
물리나르 의원은 “내년 특별위원회 청문회에서 새 틱톡 법인 지도부를 만날 수 있길 기대한다”고 밝혔다.
*이정현 기자가 이 기사의 번역 및 정리에 기여했습니다.
저작권자 © 에포크타임스, 무단 전재 및 재배포 금지