로힝야족, 대학살에서의 역할에 대한 보상을 페이스북에서 구합니다. > IT/과학

2017년부터 그의 집이었던 방글라데시의 혼잡한 난민 캠프에서 연설할 때 수탉들이 울부짖는 가운데, 21세의 마웅 사위드돌라는 미얀마의 소수민족 로힝야족을 겨냥한 폭력적인 혐오 발언과 허위 정보가 페이스북에 퍼지기 시작했을 때 일어난 일을 묘사합니다.

"우리는 그곳에 있는 대부분의 사람들과 잘 지냈습니다. 그러나 매우 편협하고 매우 민족주의적인 일부 유형은 페이스북에서 로힝야에 대한 증오를 고조시켰습니다."라고 그가 말했습니다. "그리고 로힝야족과 긴밀한 의사소통을 통해 좋은 사람들이었습니다. 로힝야에 대한 그들의 생각이 바뀌었고 그것은 증오로 바뀌었습니다."

수년 동안 현재 메타플랫폼 주식회사로 불리는 페이스북은 미얀마의 중립적인 플랫폼으로서 악질적인 사람들에 의해 오용되고 있으며, 폭력적이고 혐오스러운 자료를 제거하려는 노력에도 불구하고 안타깝게도 부족했다고 서사를 밀어붙였습니다. 그 이야기는 2020년 미국 선거든 인도 혐오 발언이든 전 세계의 다른 분쟁에서 자신이 해온 역할에 대한 반응을 반영합니다.

그러나 국제사면위원회(국제앰네스티)의 새롭고 포괄적인 보고서에 따르면 페이스북이 선호하는 이야기는 거짓입니다. 앰네스티는 이 플랫폼이 콘텐츠 조절이 불충분한 수동적인 사이트만은 아니었다고 말합니다. 대신 Meta의 알고리즘은 페이스북에서 "적극적으로 콘텐츠를 증폭하고 홍보"했으며, 이는 2012년부터 로힝야족에 대한 폭력적인 증오를 불러일으켰습니다.

수년간의 경고에도 불구하고, 앰네스티는 회사가 로힝야족에 대한 폭력적인 혐오 발언과 허위 정보를 제거하는 데 실패했을 뿐만 아니라, 2017년 대학살로 절정에 이를 때까지 적극적으로 확산하고 증폭시켰다는 것을 발견했습니다. 그 시기는 많은 사람들에게 온라인 세계와의 유일한 연결고리 역할을 했던 미얀마에서 페이스북의 인기가 상승하는 시기와 일치했습니다. 그것은 효과적으로 페이스북을 미얀마 인구의 많은 사람들에게 인터넷이 되게 했습니다.

그 해에 70만 명 이상의 로힝야족이 이웃 방글라데시로 도망쳤습니다. 미얀마 보안군은 로힝야족 소유의 수천 채의 가옥을 집단 강간하고 살해하고 불태운 혐의를 받고 있습니다.

보고서는 "메타는 위험한 알고리즘과 끊임없는 이익 추구를 통해 로힝야족에 대해 자행된 심각한 인권 침해에 크게 기여했다"고 밝혔습니다.

메타의 대변인은 앰네스티 보고서에 대한 질문에 대답하기를 거부했습니다. 이 회사는 성명에서 "국제 사회와 연대하며 타트마도가 로힝야족에 대한 범죄에 대해 책임을 묻기 위한 노력을 지지한다"고 말했습니다.

미얀마에서 우리의 안전 및 청렴 작업은 유엔 미얀마 진상조사단, 2018년에 의뢰한 인권영향평가, 지속적인 인권위험관리 등 현지 시민사회단체와 국제기관의 피드백에 의해 계속 안내되고 있습니다."라고 공공정책 책임자인 라파엘 프랑켈은 말했습니다. Meta Asia-Pacific은 신흥 시장을 위한 성명서에서 말했습니다.

화요일 앰네스티 보고서에 인용되어 AP와 대화한 사위드돌라처럼, 미얀마 서부 라카인 주에 살고 있는 로힝야족의 약 80%인 미얀마에서 도망친 사람들 대부분이 여전히 난민 캠프에 머물고 있습니다. 그리고 그들은 미국이 올해 초 대량학살을 선언한 미얀마에서 로힝야 무슬림들을 폭력적으로 탄압한 것에 대한 메타의 역할에 대한 배상을 요구하고 있습니다.

앰네스티의 보고서는 수요일 발표된 것으로 로힝야 난민, 전직 메타 직원, 학자, 운동가 등과의 인터뷰를 토대로 작성되었습니다. 또한 페이스북 데이터 과학자 출신인 내부고발자 프랜시스 호겐이 지난해 의회에 공개한 문서에 의존했습니다. 디지털 권리 운동가들은 메타가 최근 몇 년간 미얀마에서 시민 사회 참여와 콘텐츠 중재 관행의 일부 측면을 개선했다고 지적합니다. 2021년 1월, 폭력적인 쿠데타가 정부를 전복시킨 후, 그것은 그 나라의 군대를 플랫폼에서 금지했습니다.

그러나 페이스북의 일부 직원을 포함한 비평가들은 그러한 접근 방식이 결코 제대로 작동하지 않을 것이라고 오랫동안 주장해 왔습니다. 이것은 Meta가 유해 물질을 제거하기 위해 미친 짓을 하고 있다는 것을 의미하며, 사람들을 화나게 할 가능성이 더 높은 "engaging" 콘텐츠를 푸시하도록 설계된 알고리즘이 본질적으로 그것에 대해 작동한다는 것을 의미합니다.

"이러한 알고리즘들은 우리의 인권에 정말 위험합니다. 그리고 그 특정한 갈등에서 로힝야족과 페이스북의 역할에 무슨 일이 일어났습니까?"라고 앰네스티의 인공지능과 인권에 관한 연구원이자 조언자인 팻 드 브룬은 말했습니다.

"그 회사는 인권 영향의 근본 원인을 완전히 원하지 않거나 해결할 능력이 없음을 드러냈습니다."

유엔 미얀마에 대한 독립 국제 진상 조사단이 로힝야족에 대해 자행된 잔학 행위에서 페이스북이 "중대한" 역할을 강조한 후, 메타는 2018년에 "우리의 플랫폼이 분열을 조장하고 오프라인 폭력을 선동하는 데 사용되는 것을 막기 위해 충분히 하고 있지 않았다"고 인정했습니다.

그 다음 해에 그 회사는 "미얀마에서의 지역사회 참여와 콘텐츠 절제 관행의 특정 개선을 지적했습니다"라고 앰네스티는 말했다. 그리고 그 보고서는 "이러한 조치들이 완전히 부적절하다는 것을 발견한다"고 덧붙였습니다.

예를 들어, 미얀마의 폭력으로 수천 명의 로힝야 무슬림들이 죽고 70만 명이 더 추방된 지 3년 후인 2020년, 페이스북은 대표적인 반 로힝야 혐오 인물인 U Wirathu가 자신의 사이트에 어떻게 동영상이 유포되고 있는지 조사했습니다.

조사 결과 비디오 조회수의 70% 이상이 "체인"에서 나온 것으로 밝혀졌습니다. 즉, 다른 비디오를 재생한 사람들에게 "다음"을 보여주는 것이 제안되었습니다. 페이스북 사용자들은 비디오를 찾거나 검색하는 것이 아니라 플랫폼의 알고리즘에 의해 비디오를 제공받았습니다.

위라투는 2018년부터 페이스북 사용이 금지되었습니다.

"컨텐츠 조정에 대한 자원이 충분히 확보된 접근 방식이라 하더라도, 단독으로 이러한 알고리즘적 피해를 예방하고 완화하기에는 충분하지 않았을 것입니다. 이는 콘텐츠 조절이 메타의 유해 콘텐츠 알고리즘 증폭의 근본 원인을 해결하지 못하기 때문입니다."라고 앰네스티의 보고서는 말합니다.

로힝야 난민들은 캘리포니아의 멘로 파크에 기반을 둔 소셜 미디어 거인으로부터 대량학살을 영속화하는 역할에 대해 불특정 보상을 요구하고 있습니다. 로힝야 난민을 위해 1500억 달러를 요구하는 미국과 영국의 쌍둥이 소송 대상인 메타는 지금까지 거부해 왔습니다.

"우리는 로힝야족에 대한 대량학살이 페이스북 덕분에 가능했다고 믿습니다,"라고 사웨돌라는 말했습니다. "그들은 증오를 퍼뜨리기 위해 서로 소통했고, 페이스북을 통해 캠페인을 조직했습니다. 하지만 페이스북은 침묵했습니다."

출처 : VOANews