우크라이나 유튜버, 중국 인터넷에서 러시아 상품을 판매하는 AI 클론 발견 > IT/과학

워싱턴 —

만다린어를 사용하고 중국에 대한 사랑을 홍보하면서, 인공지능으로 만든 외국인처럼 보이는 여성들의 수많은 비디오가 이달 초 음력 설 무렵 중국 소셜 미디어 플랫폼에 올라오기 시작했습니다.

비디오의 아바타는 도난당하고 복제되고 용도가 변경된 온라인 이미지로 만들어져 실제 여성도 비디오에서 자신을 알아볼 수 있습니다.

올가 로이엑(Olga Loiek)은 그런 여성 중 한 명입니다. 그녀는 펜실베니아(Pennsylvania) 대학에서 인지 과학을 공부하는 20세 우크라이나인입니다. 몇 달 전, 로이엑은 정신 건강에 대해 이야기하고 삶에 대한 자신의 철학을 공유하는 유튜브 채널을 시작했습니다.

하지만, 그 직후, 그녀는 팔로워들로부터 중국 소셜 미디어에서 그녀를 봤다고 말하는 메시지를 받기 시작했습니다. 그곳에서, 그녀는 올가 로이엑이 아니라 중국어를 말하고, 중국을 사랑하고, 중국 남자와 결혼하고 싶어하는 러시아 여성입니다. 그녀의 이름은 중국에서 그녀를 찾을 수 있는 소셜 미디어 플랫폼에 따라 나타샤 또는 안나 또는 그레이스입니다.

"저는 구글 번역기로 비디오를 번역하기 시작했고, 저는 이 계정들의 대부분이 중국, 러시아, 중국과 러시아의 관계가 얼마나 좋은지에 대해 이야기하고 있다는 것을 깨달았습니다"라고 그녀는 VOA에 말했습니다. "이것은 매우 침해적으로 느껴집니다."

일부 비디오에서 아바타는 러시아와 중국의 긴밀한 관계를 얼마나 가치 있게 여기는지에 대해 이야기합니다. 다른 비디오에서는 중국의 역사와 문화를 칭찬하거나 러시아 여성이 중국인과 결혼하고 싶어하는 마음이 얼마나 되는지에 대해 이야기합니다.

"만약 여러분이 러시아 여성과 결혼한다면, 우리는 여러분을 위해 매일 옷을 세탁하고, 요리를 하고, 설거지를 할 것입니다," 라고 한 아바타가 말했습니다. "우리는 또한 여러분이 원하는 만큼, 외국 아기들을 줄 것입니다."

로이엑의 아바타가 북경어를 말하는 수십 개의 비디오가 비디오 사이트인 Douyin과 Bilibili에서 발견되었습니다. 이 계정들의 대부분은 시청자들에게 그들이 진짜 러시아 상품이라고 말하는 것을 사기 위해 온라인 상점을 방문하도록 요청할 것입니다.

중국판 틱톡(TikTok)인 더우인(Douyin)은 이러한 비디오 중 일부를 잠재적으로 인공지능(AI)이 생성한 것으로 분류했습니다. 그러나 댓글은 많은 사람들이 실제 여성을 보고 있다고 믿었다는 것을 보여줍니다. 한 네티즌은 "러시아 미녀, 중국 사람들은 당신을 환영합니다."라고 썼습니다

로이엑은 2022년부터 러시아와 전쟁을 벌이고 있는 우크라이나 출신이라는 점을 감안할 때 절대 그런 말을 하지 않겠다고 말했습니다.

그녀는 "이것은 아마도 사람들, 아마도 중국에 있는 사람들이 외국인들이 그들의 나라가 더 우월하다고 느끼도록 만드는데 사용될 것입니다"라고 말했습니다

중국 최대 동영상 사이트 빌리빌리에는 로이엑의 얼굴을 이용한 일부 AI 동영상에 헤이젠의 로고가 표기돼 있어 해당 동영상이 회사 홈페이지에서 생성된 것임을 알 수 있습니다.

빌리빌리에 관한 한 튜토리얼에서 시연자는 로이엑이 말하는 클립으로 헤이젠에 관한 짧은 비디오를 만드는 방법까지 보여줍니다.

헤이젠(HeyGen)은 2020년 중국에서 시작된 로스앤젤레스(Los Angeles)에 본사를 둔 AI 기업으로, 실감형 디지털 아바타, 음성 생성 및 비디오 번역을 전문으로 합니다.

헤이젠이 개발한 기술은 2023년 10월 중국 소셜 미디어에서 입소문이 난 도널드 트럼프(Donald Trump)와 테일러 스위프트(Taylor Swift)가 완벽한 표준 중국어를 구사하는 AI 비디오에 사용되었습니다. 포브스(Forbes)에 따르면 이 회사의 가치는 현재 7,500만 달러입니다.

헤이젠의 절제된 정책은 사용자가 "명백한 동의 없이 연예인이나 공인을 포함한 실제 개인을 나타내는" 아바타를 생성할 수 없다고 명시합니다. 아바타 제작에 대한 회사의 공식 튜토리얼 비디오는 사용자가 자신의 유사성 사용에 동의하는 사람들의 비디오를 제출해야 한다는 것을 보여줍니다. 중국의 일부 사람들이 로이엑의 비디오를 만들기 위한 요구 사항을 어떻게 회피할 수 있는지는 불분명합니다.

로이엑은 자신과 유튜브 구독자들이 중국 소셜 미디어 회사에 불만을 보낸 이후, 자신을 모방한 계정 십여 개가 삭제됐다고 말했습니다.

VOA는 HeyGen과 Douyin의 모회사인 ByteDance에 의견을 요청했지만 응답을 받지 못했습니다.

중국 정부는 2023년 초 딥페이크 및 기타 "딥합성 서비스"를 규제하는 조항을 발표했습니다. 이 법은 이미지 또는 기타 정보가 사용되는 사람들의 동의 없이 딥페이크를 생성하는 것을 금지합니다.

로이엑은 그녀의 이야기를 유튜브에 올렸고, 그것은 중국 소셜 미디어에 공유되었습니다. 플랫폼 전반의 네티즌들은 그녀에 공감했고, 인공지능에 대한 더 엄격한 규제를 요구했습니다.

바이두(Baidu)와 텐센트(Tencent)와 같은 중국의 거대 기술 기업들은 AI 기술에 많은 투자를 하고 있습니다. AI에 의해 구동되는 가장 과장된 서비스 중 하나는 디지털 인간입니다.

텐센트와 마이크로소프트(MS)에서 분사한 중국 AI 스튜디오 샤오아이스는 사람을 복제해 AI 아바타로 만들 수 있는 디지털 휴먼 서비스를 145달러에 제공합니다.

AI 아바타는 친중 및 반미 서사를 확산시키는 온라인 허위 정보 캠페인에서도 발견되었습니다. 2023년 2월, 리서치 회사인 그래피카(Graphika)는 현실적으로 보이는 컴퓨터 생성자를 비디오에서 사용하여 중국의 이익을 촉진하는 소셜 미디어 캠페인을 발견했습니다.

2023년 9월, 미국 국무부는 보고서에서 "인공지능 기술의 최신 발전과 결합된 글로벌 데이터에 대한 접근은 중국[중화인민공화국]이 외국 청중들을 외과적으로 목표로 삼을 수 있게 하고, 그에 따라 경제 및 안보 결정에 유리한 영향을 미칠 수 있습니다."라고 경고했습니다.

로이엑에 대해서는 유튜브를 그만두거나 게시를 중단할 계획이 없습니다.

"우리는 일종의 규제 체계가 필요합니다. 그래서 우리는 이해할 수 있고 이러한 일들이 일어나는 것을 막을 수 있습니다."라고 그녀는 말했습니다.

아드리아나 장이 이 보고서에 기여했습니다.

출처 : VOANews