소셜 미디어에 퍼진 테일러 스위프트의 딥페이크 명시적 이미지 > 문화

뉴욕 —
NEW YORK —

테일러 스위프트의 포르노적인 딥페이크 이미지가 온라인에 유포되어, 그 가수는 기술 플랫폼과 학대 반대 단체들이 고치기 위해 고군분투했던 재앙의 가장 유명한 희생자가 되었습니다.
Pornographic deepfake images of Taylor Swift are circulating online, making the singer the most famous victim of a scourge that tech platforms and anti-abuse groups have struggled to fix.

스위프트의 성적으로 노골적이고 학대적인 가짜 이미지가 이번 주부터 소셜 미디어 플랫폼 X에 널리 퍼지기 시작했습니다.
Sexually explicit and abusive fake images of Swift began circulating widely this week on the social media platform X.

그녀의 열렬한 "Swifties" 팬 층은 재빨리 동원하여 이전에 트위터로 알려진 플랫폼에 반격을 시작했고, 그 팝스타의 더 긍정적인 이미지로 넘쳐나기 위해 #ProtectTaylorSwift 해시태그를 달았습니다. 일부는 그들이 그 깊은 가짜를 공유하는 계정을 보고한다고 말했습니다.
Her ardent fanbase of "Swifties" quickly mobilized, launching a counteroffensive on the platform formerly known as Twitter and a #ProtectTaylorSwift hashtag to flood it with more positive images of the pop star. Some said they were reporting accounts that were sharing the deepfakes.

딥페이크 탐지 그룹인 리얼리티 디펜더는 스위프트를 묘사한 비동의 포르노 자료의 홍수를 추적했고, 특히 X를 추적했다고 말했습니다. 일부 이미지는 메타 소유의 페이스북과 다른 소셜 미디어 플랫폼에도 진출했습니다.
The deepfake-detecting group Reality Defender said it tracked a deluge of nonconsensual pornographic material depicting Swift, particularly on X. Some images also made their way to Meta-owned Facebook and other social media platforms.

리얼리티 디펜더의 성장 책임자인 메이슨 알렌(Mason Allen)은 "불행하게도 일부가 삭제될 때까지 수백만 명의 사용자에게 확산되었습니다."라고 말했습니다.
"Unfortunately, they spread to millions and millions of users by the time that some of them were taken down," said Mason Allen, Reality Defender’s head of growth.

연구원들은 최소 24개의 독특한 인공지능 이미지를 발견했습니다. 가장 널리 공유된 것은 축구와 관련된 것으로, 그녀를 대상화하고 어떤 경우에는 그녀의 딥페이크 페르소나에 폭력적인 해를 가한 페인트 칠하거나 피투성이의 스위프트를 보여줍니다.
The researchers found at least a couple dozen unique AI-generated images. The most widely shared were football-related, showing a painted or bloodied Swift that objectified her and in some cases inflicted violent harm on her deepfake persona.

연구원들은 그러한 이미지를 생성하는 데 사용되는 기술이 더 접근하기 쉽고 사용하기 쉬워짐에 따라 지난 몇 년 동안 명시적인 딥페이크의 수가 증가했다고 말했습니다. 2019년, 인공지능 회사 딥트레이스 랩스가 발표한 보고서는 이러한 이미지들이 압도적으로 여성에 대해 무기화되었음을 보여주었습니다. 대부분의 희생자들은 할리우드 배우들과 한국의 K-pop 가수들이었다고 말했습니다.
Researchers have said the number of explicit deepfakes has grown in the past few years, as the technology used to produce such images has become more accessible and easier to use. In 2019, a report released by the AI firm DeepTrace Labs showed these images were overwhelmingly weaponized against women. Most of the victims, it said, were Hollywood actors and South Korean K-pop singers.

뉴욕 대학교에서 스위프트에 대한 강의를 하고 있는 롤링 스톤의 선임 작가 Brittany Spanos는 스위프트의 팬들은 그들의 아티스트, 특히 그들의 팬덤을 매우 심각하게 받아들이는 사람들을 지지하기 위해 빠르게 동원된다고 말합니다.
Brittany Spanos, a senior writer at Rolling Stone who teaches a course on Swift at New York University, says Swift’s fans are quick to mobilize in support of their artist, especially those who take their fandom very seriously and in situations of wrongdoing.

"만약 그녀가 정말로 법정에 선다면 이것은 엄청난 일이 될 수 있습니다."라고 그녀는 말했습니다.
"This could be a huge deal if she really does pursue it to court," she said.

스파노스는 이 짙은 가짜 포르노 문제가 스위프트가 자신을 더듬었다는 라디오 방송국 DJ를 상대로 2017년에 제기한 소송을 지적하며, 스위프트에게 1달러의 손해배상금을 수여했습니다. 배심원들은 스위프트에게 미투 운동의 와중에서 "이 상황에서 모든 여성에게 그 가치는 측정할 수 없는 단일 상징적인 달러"라고 불리는 그녀의 변호사 더글러스 볼드리지(Douglas Baldridge)를 합하여 1달러의 손해배상금을 수여했습니다. (1달러 소송은 그 후 기네스 팰트로의 2023년 스키어에 대한 맞소송과 같이 유행이 되었습니다.)
Spanos says the deep fake pornography issue aligns with others Swift has had in the past, pointing to her 2017 lawsuit against a radio station DJ who allegedly groped her; jurors awarded Swift $1 in damages, a sum her attorney, Douglas Baldridge, called “a single symbolic dollar, the value of which is immeasurable to all women in this situation” in the midst of the MeToo movement. (The $1 lawsuit became a trend thereafter, like in Gwyneth Paltrow’s 2023 countersuit against a skier.)

스위프트의 가짜 이미지에 대한 의견에 도달했을 때, X는 회사가 플랫폼에서 비동의 누드 이미지의 공유를 엄격하게 금지한다는 안전 계정의 게시물로 AP 통신을 지시했습니다. 회사는 또한 2022년 일론 머스크가 플랫폼을 인수한 이후 콘텐츠 수정 팀을 대폭 줄였습니다.
When reached for comment on the fake images of Swift, X directed the The Associated Press to a post from its safety account that said the company strictly prohibits the sharing of non-consensual nude images on its platform. The company has also sharply cut back its content-moderation teams since Elon Musk took over the platform in 2022.

회사는 금요일 아침 일찍 X 포스트에 "우리 팀은 확인된 모든 이미지를 제거하고 게시에 책임이 있는 계정에 대해 적절한 조치를 취하고 있습니다."라고 썼습니다. "우리는 더 이상의 위반 사항이 즉시 해결되고 콘텐츠가 제거되도록 상황을 예의주시하고 있습니다."
"Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them," the company wrote in the X post early Friday morning. "We’re closely monitoring the situation to ensure that any further violations are immediately addressed, and the content is removed."

한편, 메타는 성명을 통해 "서로 다른 인터넷 서비스에 걸쳐 나타난 콘텐츠"를 강력히 비난하며 이를 제거하기 위해 노력했다고 밝혔습니다.
Meanwhile, Meta said in a statement that it strongly condemns "the content that has appeared across different internet services" and has worked to remove it.

회사 측은 "당사는 이 위반 콘텐츠에 대해 플랫폼을 계속 모니터링하고 있으며 필요에 따라 적절한 조치를 취할 것"이라고 밝혔습니다.
"We continue to monitor our platforms for this violating content and will take appropriate action as needed," the company said.

스위프트의 한 대리인은 금요일 논평 요청에 즉각 응답하지 않았습니다.
A representative for Swift didn’t immediately respond to a request for comment Friday.

알렌은 연구원들이 그 이미지들이 확산 모델에 의해 만들어졌다고 90% 확신한다고 말했는데, 이것은 작성된 프롬프트에서 새롭고 실제적인 이미지를 생성할 수 있는 생성 인공지능 모델의 한 종류입니다. 가장 널리 알려진 것은 안정적 확산, 미드저니 그리고 OpenAI의 DAL-E입니다. 알렌의 그룹은 그 증명성을 알아내려고 노력하지 않았습니다.
Allen said the researchers are 90% confident that the images were created by diffusion models, which are a type of generative artificial intelligence model that can produce new and photorealistic images from written prompts. The most widely known are Stable Diffusion, Midjourney and OpenAI's DALL-E. Allen's group didn't try to determine the provenance.

OpenAI은 유해 콘텐츠 생성을 제한하는 안전장치와 "테일러 스위프트 등 이름으로 공인을 요청하는 decline 요청"을 마련했다고 밝혔습니다
OpenAI said it has safeguards in place to limit the generation of harmful content and "decline requests that ask for a public figure by name, including Taylor Swift."

부분적으로 DALL-E를 기반으로 한 이미지 생성기를 제공하는 마이크로소프트는 금요일 자사의 도구가 잘못 사용되었는지 조사하는 과정에 있다고 말했습니다. 다른 상용 AI 서비스와 마찬가지로, 마이크로소프트는 "성인 또는 비동의적인 친밀한 콘텐츠를 허용하지 않으며, 우리의 정책에 어긋나는 콘텐츠를 제작하려는 어떠한 반복적인 시도도 서비스에 대한 접근의 손실을 초래할 수 있다"고 말했습니다
Microsoft, which offers an image-generator based partly on DALL-E, said Friday it was in the process of investigating whether its tool was misused. Much like other commercial AI services, it said it doesn't allow "adult or non-consensual intimate content, and any repeated attempts to produce content that goes against our policies may result in loss of access to the service."

사티아 나델라 마이크로소프트 최고경영자(CEO)는 NBC 나이틀리 뉴스에서 스위프트 딥페이크에 대한 질문을 받고 화요일 방송된 인터뷰에서 진행자 레스터 홀트에게 "AI 안전장치를 설정하는 데 아직 해야 할 일이 많다"며 "이에 대해 빨리 움직여야 한다"고 말했습니다
Asked about the Swift deepfakes on NBC Nightly News, Microsoft CEO Satya Nadella told host Lester Holt in an interview airing Tuesday that there’s a lot still to be done in setting AI safeguards and "it behooves us to move fast on this."

나델라는 "분명히 이것은 걱정스럽고 끔찍하며, 따라서 우리는 행동해야 합니다,"라고 말했습니다.
"Absolutely this is alarming and terrible, and so therefore yes, we have to act," Nadella said.

Midjourney, OpenAI 및 Stable Diffusion-maker Stability AI는 의견 요청에 즉시 응답하지 않았습니다.
Midjourney, OpenAI and Stable Diffusion-maker Stability AI didn't immediately respond to requests for comment.

더 많은 규제를 가하거나 딥페이크 포르노를 범죄화하는 법안을 발의한 연방의원들은 이번 사건이 미국이 더 나은 보호조치를 시행해야 하는 이유를 보여준다고 지적했습니다.
Federal lawmakers who've introduced bills to put more restrictions or criminalize deepfake porn indicated the incident shows why the U.S. needs to implement better protections.

"수년 동안, 여성들은 합의되지 않은 딥페이크의 희생자가 되어왔기 때문에, 테일러 스위프트에게 일어난 일은 대부분의 사람들이 생각하는 것보다 더 일반적입니다."라고 법안을 발의한 뉴욕 출신의 민주당원인 미국 하원의원 이베트 D. 클라크는 창작자들이 딥페이크 콘텐츠에 디지털 워터마크를 달도록 요구할 것이라고 말했습니다.
"For years, women have been victims of non-consensual deepfakes, so what happened to Taylor Swift is more common than most people realize," said U.S. Rep. Yvette D. Clarke, a Democrat from New York who's introduced legislation would require creators to digitally watermark deepfake content.

Clarke는 "Generative-AI는 적은 비용으로 더 나은 딥페이크를 만드는 데 도움을 주고 있습니다."라고 말했습니다.
"Generative-AI is helping create better deepfakes at a fraction of the cost,” Clarke said.

온라인에서 딥페이크 포르노를 공유하는 것을 범죄화하는 법안을 추진하고 있는 또 다른 뉴욕 민주당 의원 조 모렐은 스위프트에게 일어난 일이 충격적이며 인터넷에 점점 더 널리 퍼지게 되었다고 말했습니다.
U.S. Rep. Joe Morelle, another New York Democrat pushing a bill that would criminalize sharing deepfake porn online, said what happened to Swift was disturbing and has become more and more pervasive across the internet.

"그 이미지들은 가짜일 수도 있지만, 그들의 영향은 매우 실제입니다"라고 모렐은 성명서에서 말했습니다. "딥페이크는 점점 더 디지털화되는 우리의 세계에서 매일같이 여성들에게 일어나고 있으며, 이제는 그들을 멈출 때입니다."
"The images may be fake, but their impacts are very real," Morelle said in a statement. "Deepfakes are happening every day to women everywhere in our increasingly digital world, and it’s time to put a stop to them."

출처 : VOANews