우크라이나 유튜버, 중국 인터넷에서 러시아 상품을 판매하는 AI 클론 발견 > IT/과학

워싱턴 —
washington —

만다린어를 사용하고 중국에 대한 사랑을 홍보하면서, 인공지능으로 만든 외국인처럼 보이는 여성들의 수많은 비디오가 이달 초 음력 설 무렵 중국 소셜 미디어 플랫폼에 올라오기 시작했습니다.
Speaking Mandarin and promoting love for China, countless videos of foreign-looking women made with artificial intelligence started popping up on Chinese social media platforms around the Lunar New Year earlier this month.

비디오의 아바타는 도난당하고 복제되고 용도가 변경된 온라인 이미지로 만들어져 실제 여성도 비디오에서 자신을 알아볼 수 있습니다.
The avatars in the videos are created with online images that are stolen, reproduced and repurposed so that even the women in real life recognize themselves in the videos.

올가 로이엑(Olga Loiek)은 그런 여성 중 한 명입니다. 그녀는 펜실베니아(Pennsylvania) 대학에서 인지 과학을 공부하는 20세 우크라이나인입니다. 몇 달 전, 로이엑은 정신 건강에 대해 이야기하고 삶에 대한 자신의 철학을 공유하는 유튜브 채널을 시작했습니다.
Olga Loiek is one of those women. She’s a 20-year-old Ukrainian who studies cognitive science at the University of Pennsylvania. A couple of months ago, Loiek started a YouTube channel where she talks about mental health and shares her philosophies about life.

하지만, 그 직후, 그녀는 팔로워들로부터 중국 소셜 미디어에서 그녀를 봤다고 말하는 메시지를 받기 시작했습니다. 그곳에서, 그녀는 올가 로이엑이 아니라 중국어를 말하고, 중국을 사랑하고, 중국 남자와 결혼하고 싶어하는 러시아 여성입니다. 그녀의 이름은 중국에서 그녀를 찾을 수 있는 소셜 미디어 플랫폼에 따라 나타샤 또는 안나 또는 그레이스입니다.
However, shortly after that, she started receiving messages from followers telling her that they had seen her on Chinese social media. There, she's not Olga Loiek but a Russian woman who speaks Mandarin, loves China and wants to marry a Chinese man. Her name is Natasha, or Anna, or Grace, depending on the social media platform you find her on in China.

"저는 구글 번역기로 비디오를 번역하기 시작했고, 저는 이 계정들의 대부분이 중국, 러시아, 중국과 러시아의 관계가 얼마나 좋은지에 대해 이야기하고 있다는 것을 깨달았습니다"라고 그녀는 VOA에 말했습니다. "이것은 매우 침해적으로 느껴집니다."
"I started translating the videos with Google Translate, and I realized that most of these accounts are talking about things like China, Russia, how good the relationship between China and Russia is," she told VOA. "This feels very violating."

일부 비디오에서 아바타는 러시아와 중국의 긴밀한 관계를 얼마나 가치 있게 여기는지에 대해 이야기합니다. 다른 비디오에서는 중국의 역사와 문화를 칭찬하거나 러시아 여성이 중국인과 결혼하고 싶어하는 마음이 얼마나 되는지에 대해 이야기합니다.
In some videos, the avatars talk about how much they value Russia and China's close ties. In other videos, they praise Chinese history and culture or talk about how much Russian women want to marry Chinese.

"만약 여러분이 러시아 여성과 결혼한다면, 우리는 여러분을 위해 매일 옷을 세탁하고, 요리를 하고, 설거지를 할 것입니다," 라고 한 아바타가 말했습니다. "우리는 또한 여러분이 원하는 만큼, 외국 아기들을 줄 것입니다."
"If you marry Russian women, we will wash clothes, cook, and wash dishes for you every day," an avatar said. "We will also give you foreign babies, as many as you want."

로이엑의 아바타가 북경어를 말하는 수십 개의 비디오가 비디오 사이트인 Douyin과 Bilibili에서 발견되었습니다. 이 계정들의 대부분은 시청자들에게 그들이 진짜 러시아 상품이라고 말하는 것을 사기 위해 온라인 상점을 방문하도록 요청할 것입니다.
Several dozen videos of Loiek's avatar speaking Mandarin have been found on video sites Douyin and Bilibili. Most of these accounts would ask viewers to visit their online stores to buy what they say are authentic Russian goods.

중국판 틱톡(TikTok)인 더우인(Douyin)은 이러한 비디오 중 일부를 잠재적으로 인공지능(AI)이 생성한 것으로 분류했습니다. 그러나 댓글은 많은 사람들이 실제 여성을 보고 있다고 믿었다는 것을 보여줍니다. 한 네티즌은 "러시아 미녀, 중국 사람들은 당신을 환영합니다."라고 썼습니다
Douyin, China's version of TikTok, has labeled some of these videos as potentially AI-generated. But comments show that many believed they were looking at a real woman. One netizen wrote, "Russian beauty, Chinese people welcome you."

로이엑은 2022년부터 러시아와 전쟁을 벌이고 있는 우크라이나 출신이라는 점을 감안할 때 절대 그런 말을 하지 않겠다고 말했습니다.
Loiek said she would never say things like that, obviously, given that she's from Ukraine, which has been at war with Russia since 2022.

그녀는 "이것은 아마도 사람들, 아마도 중국에 있는 사람들이 외국인들이 그들의 나라가 더 우월하다고 느끼도록 만드는데 사용될 것입니다"라고 말했습니다
She said, "This is probably used to make people, maybe people in China, feel that foreigners feel that their country is superior."

중국 최대 동영상 사이트 빌리빌리에는 로이엑의 얼굴을 이용한 일부 AI 동영상에 헤이젠의 로고가 표기돼 있어 해당 동영상이 회사 홈페이지에서 생성된 것임을 알 수 있습니다.
On Bilibili, China's biggest video site, some AI videos using Loiek's face are marked with the logo of HeyGen, indicating that the video was generated on the company's website.

빌리빌리에 관한 한 튜토리얼에서 시연자는 로이엑이 말하는 클립으로 헤이젠에 관한 짧은 비디오를 만드는 방법까지 보여줍니다.
In one tutorial on Bilibili, the demonstrator even shows how to make a short video on HeyGen with a clip of Loiek talking.

헤이젠(HeyGen)은 2020년 중국에서 시작된 로스앤젤레스(Los Angeles)에 본사를 둔 AI 기업으로, 실감형 디지털 아바타, 음성 생성 및 비디오 번역을 전문으로 합니다.
HeyGen is an AI company headquartered in Los Angeles that was launched in China in 2020. It specializes in realistic digital avatars, voice generation and video translating.

헤이젠이 개발한 기술은 2023년 10월 중국 소셜 미디어에서 입소문이 난 도널드 트럼프(Donald Trump)와 테일러 스위프트(Taylor Swift)가 완벽한 표준 중국어를 구사하는 AI 비디오에 사용되었습니다. 포브스(Forbes)에 따르면 이 회사의 가치는 현재 7,500만 달러입니다.
The technology developed by HeyGen was used in AI videos of Donald Trump and Taylor Swift speaking perfect Mandarin that went viral on Chinese social media in October 2023. According to Forbes, the company is now valued at $75 million.

헤이젠의 절제된 정책은 사용자가 "명백한 동의 없이 연예인이나 공인을 포함한 실제 개인을 나타내는" 아바타를 생성할 수 없다고 명시합니다. 아바타 제작에 대한 회사의 공식 튜토리얼 비디오는 사용자가 자신의 유사성 사용에 동의하는 사람들의 비디오를 제출해야 한다는 것을 보여줍니다. 중국의 일부 사람들이 로이엑의 비디오를 만들기 위한 요구 사항을 어떻게 회피할 수 있는지는 불분명합니다.
HeyGen's moderation policy states that users cannot generate avatars that "represent real individuals, including celebrities or public figures, without explicit consent." The company's official tutorial video on avatar making shows that users must submit a video of people giving consent to the use of their likeness. It's unclear how some in China could circumvent the requirement to make videos of Loiek.

로이엑은 자신과 유튜브 구독자들이 중국 소셜 미디어 회사에 불만을 보낸 이후, 자신을 모방한 계정 십여 개가 삭제됐다고 말했습니다.
Loiek said that since she and her YouTube subscribers have sent complaints to Chinese social media companies, about a dozen of the accounts imitating her have been taken down.

VOA는 HeyGen과 Douyin의 모회사인 ByteDance에 의견을 요청했지만 응답을 받지 못했습니다.
VOA reached out to HeyGen and Douyin's parent company, ByteDance, for comments but has not received a response.

중국 정부는 2023년 초 딥페이크 및 기타 "딥합성 서비스"를 규제하는 조항을 발표했습니다. 이 법은 이미지 또는 기타 정보가 사용되는 사람들의 동의 없이 딥페이크를 생성하는 것을 금지합니다.
The Chinese government rolled out provisions to regulate deepfakes and other "deep synthesis services" in early 2023. The law prohibits generating deepfakes without the consent of the people whose image or other information is used.

로이엑은 그녀의 이야기를 유튜브에 올렸고, 그것은 중국 소셜 미디어에 공유되었습니다. 플랫폼 전반의 네티즌들은 그녀에 공감했고, 인공지능에 대한 더 엄격한 규제를 요구했습니다.
Loiek posted her story on YouTube, and it has been shared on Chinese social media. Netizens across platforms sympathized with her and called for tougher regulations on AI.

바이두(Baidu)와 텐센트(Tencent)와 같은 중국의 거대 기술 기업들은 AI 기술에 많은 투자를 하고 있습니다. AI에 의해 구동되는 가장 과장된 서비스 중 하나는 디지털 인간입니다.
Chinese tech giants like Baidu and Tencent are investing heavily in AI technology. One of the most hyped-up services powered by AI is digital humans.

텐센트와 마이크로소프트(MS)에서 분사한 중국 AI 스튜디오 샤오아이스는 사람을 복제해 AI 아바타로 만들 수 있는 디지털 휴먼 서비스를 145달러에 제공합니다.
Tencent and Xiaoice, a Chinese AI studio spun off from Microsoft, offer digital human services that can clone people and turn them into AI avatars for as little as $145.

AI 아바타는 친중 및 반미 서사를 확산시키는 온라인 허위 정보 캠페인에서도 발견되었습니다. 2023년 2월, 리서치 회사인 그래피카(Graphika)는 현실적으로 보이는 컴퓨터 생성자를 비디오에서 사용하여 중국의 이익을 촉진하는 소셜 미디어 캠페인을 발견했습니다.
AI avatars have also been found in online disinformation campaigns that spread pro-China and anti-U.S. narratives. In February 2023, research firm Graphika found a social media campaign promoting Beijing's interests using realistic-looking computer-generated people in videos.

2023년 9월, 미국 국무부는 보고서에서 "인공지능 기술의 최신 발전과 결합된 글로벌 데이터에 대한 접근은 중국[중화인민공화국]이 외국 청중들을 외과적으로 목표로 삼을 수 있게 하고, 그에 따라 경제 및 안보 결정에 유리한 영향을 미칠 수 있습니다."라고 경고했습니다.
In September 2023, the U.S. State Department warned in a report, "Access to global data combined with the latest developments in artificial intelligence technology would enable the PRC [People's Republic of China] to surgically target foreign audiences and thereby perhaps influence economic and security decisions in its favor.

로이엑에 대해서는 유튜브를 그만두거나 게시를 중단할 계획이 없습니다.
As for Loiek, she does not plan to quit YouTube or stop posting.

"우리는 일종의 규제 체계가 필요합니다. 그래서 우리는 이해할 수 있고 이러한 일들이 일어나는 것을 막을 수 있습니다."라고 그녀는 말했습니다.
"We need some sort of regulatory frameworks, so we can understand and we can prevent these things from happening," she said.

아드리아나 장이 이 보고서에 기여했습니다.
Adrianna Zhang contributed to this report.

출처 : VOANews