소비자와 근로자를 보호하기 위해 AI를 목표로 하는 규제 기관 > IT/과학

본문 바로가기

IT/과학

소비자와 근로자를 보호하기 위해 AI를 목표로 하는 규제 기관
Regulators Take Aim at AI to Protect Consumers, Workers

페이지 정보

작성자 Associated Press 작성일 23-05-26 15:17 댓글 0

본문

FILE - The OpenAI logo is seen on a mobile phone in front of a computer screen displaying output from ChatGPT, March 21, 2023, in Boston.

파일 - OpenAI 로고는 2023년 3월 21일 보스턴에서 ChatGPT의 출력을 표시하는 컴퓨터 화면 앞에 있는 휴대폰에 표시되어 있습니다.
 FILE - The OpenAI logo is seen on a mobile phone in front of a computer screen displaying output from ChatGPT, March 21, 2023, in Boston.

 

뉴욕 —
new york —

ChatGPT와 같은 점점 더 강력해지는 인공지능 시스템에 대한 우려가 커지면서, 국가의 금융 감시원은 회사들이 AI를 사용할 때 법을 따르도록 보장하기 위해 노력하고 있다고 말합니다.
As concerns grow over increasingly powerful artificial intelligence systems like ChatGPT, the nation’s financial watchdog says it’s working to ensure that companies follow the law when they’re using AI.

이미 자동화된 시스템과 알고리즘은 신용 등급, 대출 조건, 은행 계좌 수수료 및 우리의 금융 생활의 다른 측면을 결정하는 데 도움이 됩니다. AI는 또한 고용, 주거 및 근무 조건에 영향을 미칩니다.
Already, automated systems and algorithms help determine credit ratings, loan terms, bank account fees, and other aspects of our financial lives. AI also affects hiring, housing and working conditions.

전자 프라이버시 정보 센터의 선임 변호사인 벤 윈터스는 지난달 연방 기관이 발표한 집행에 대한 공동 성명이 긍정적인 첫 단계라고 말했습니다.
Ben Winters, senior counsel for the Electronic Privacy Information Center, said a joint statement on enforcement released by federal agencies last month was a positive first step.

"AI가 완전히 규제되지 않는다는 이야기가 있는데, 이것은 사실이 아닙니다."라고 그가 말했습니다. "그들은 '당신이 결정을 내리기 위해 AI를 사용한다고 해서 그 결정의 영향에 대한 책임에서 면제되는 것은 아닙니다. 이것은 이것에 대한 우리의 의견입니다. 우리는 지켜보고 있습니다.'
“There’s this narrative that AI is entirely unregulated, which is not really true,” he said. “They’re saying, ‘Just because you use AI to make a decision, that doesn’t mean you’re exempt from responsibility regarding the impacts of that decision. This is our opinion on this. We’re watching.’”

작년에 소비자 금융 보호국은 기관들이 새로운 기술과 잘못된 알고리즘에 의존한 후 부당한 주택 압류, 차량 소유권 및 혜택 지급 손실을 초래한 잘못 관리된 자동화 시스템에 대해 은행에 벌금을 부과했다고 말했습니다.
In the past year, the Consumer Finance Protection Bureau said it has fined banks over mismanaged automated systems that resulted in wrongful home foreclosures, car repossessions and lost benefit payments, after the institutions relied on new technology and faulty algorithms.

규제 당국은 이러한 시행 조치를 예로 들며 소비자 보호에 대한 "AI 면제"는 없을 것이라고 말합니다.
There will be no “AI exemptions” to consumer protection, regulators say, pointing to these enforcement actions as examples.

소비자 금융 보호국의 로잇 초프라 국장은 "우리가 이러한 도전에 직면할 수 있도록 이사회 데이터 과학자, 기술자 및 기타 사람들을 데려오는 것과 관련하여 내부적으로 계속해서 강화하기 위한 작업을 이미 시작했다"며 잠재적인 불법 활동을 계속해서 식별하고 있다고 말했습니다.
Consumer Finance Protection Bureau Director Rohit Chopra said the agency has “already started some work to continue to muscle up internally when it comes to bringing on board data scientists, technologists and others to make sure we can confront these challenges” and that the agency is continuing to identify potentially illegal activity.

연방거래위원회, 고용기회균등위원회, 법무부, CFPB의 대표들은 모두 새로운 기술을 목표로 하고 소비자의 삶에 부정적인 영향을 미칠 수 있는 방법을 파악하기 위해 자원과 직원들을 지시하고 있다고 말합니다.
Representatives from the Federal Trade Commission, the Equal Employment Opportunity Commission, and the Department of Justice, as well as the CFPB, all say they’re directing resources and staff to take aim at new tech and identify negative ways it could affect consumers’ lives.

Chopra는 "우리가 결정을 내리려고 하는 것 중 하나는 기업들이 AI가 어떻게 의사 결정을 하는지조차 이해하지 못한다면 실제로 사용할 수 없다는 것입니다."라고 말했습니다. "다른 경우에는 이 모든 데이터의 사용과 관련하여 공정한 대출법이 어떻게 준수되고 있는지 살펴보고 있습니다."
“One of the things we’re trying to make crystal clear is that if companies don’t even understand how their AI is making decisions, they can’t really use it,” Chopra said. “In other cases, we’re looking at how our fair lending laws are being adhered to when it comes to the use of all of this data.”

 

OpenAI CEO Sam Altman testifies before a Senate Judiciary Privacy, Technology & the Law Subcommittee hearing on Capitol Hill in Washington, May 16, 2023.

OpenAI의 CEO 샘 알트먼이 5월 워싱턴 국회의사당에서 열린 상원 사법부 프라이버시, 기술 및 법률 소위원회 청문회에 출석하여 증언하고 있습니다
 OpenAI CEO Sam Altman testifies before a Senate Judiciary Privacy, Technology & the Law Subcommittee hearing on Capitol Hill in Washington, May 16, 2023.

 

예를 들어, 공정신용보고법과 신용기회균등법에 따라 금융 제공자는 불리한 신용 결정을 설명할 법적 의무가 있습니다. 이러한 규정은 주택과 고용에 관한 결정에도 마찬가지로 적용됩니다. AI가 설명하기에 너무 불투명한 방식으로 결정을 내리는 경우, 규제 당국은 알고리즘을 사용해서는 안 된다고 말합니다.
Under the Fair Credit Reporting Act and Equal Credit Opportunity Act, for example, financial providers have a legal obligation to explain any adverse credit decision. Those regulations likewise apply to decisions made about housing and employment. Where AI make decisions in ways that are too opaque to explain, regulators say the algorithms shouldn’t be used.

"저는 '오, 로봇들에게 그것을 주자, 그러면 더 이상 차별은 없을 것이다'라는 느낌이 있었다고 생각합니다,"라고 초프라는 말했습니다. "저는 그것이 실제로 전혀 사실이 아니라는 것을 배운다고 생각합니다. 어떤 면에서는 데이터에 편향이 내재되어 있습니다."
“I think there was a sense that, ‘Oh, let’s just give it to the robots and there will be no more discrimination,’” Chopra said. “I think the learning is that that actually isn’t true at all. In some ways the bias is built into the data.”

샬럿 버로우스 EEOC 위원장은 예를 들어 장애가 있는 구직자를 걸러내는 AI 채용 기술과 노동자를 불법으로 감시하는 이른바 '보스웨어'에 대한 시행이 있을 것이라고 말했습니다.
EEOC Chair Charlotte Burrows said there will be enforcement against AI hiring technology that screens out job applicants with disabilities, for example, as well as so-called “bossware” that illegally surveils workers.

또한 Burrows는 알고리즘이 직원들이 기존 법을 위반하는 방식으로 작업할 수 있는 방법과 시기를 지시할 수 있는 방법을 설명했습니다.
Burrows also described ways that algorithms might dictate how and when employees can work in ways that would violate existing law.

"만약 여러분이 장애가 있거나 아마도 임신 중이기 때문에 휴식이 필요하다면, 여러분은 휴식이 필요합니다,"라고 그녀는 말했습니다. "알고리즘이 반드시 그러한 수용을 고려하지는 않습니다. 그것들은 우리가 면밀히 검토하고 있는 것들입니다... 기술이 발전하고 있다는 것을 인식하고 있지만, 여기서 근본적인 메시지는 법이 여전히 적용되고 있고 우리는 시행할 수 있는 도구가 있다는 것입니다."
“If you need a break because you have a disability or perhaps you’re pregnant, you need a break,” she said. “The algorithm doesn’t necessarily take into account that accommodation. Those are things that we are looking closely at. ... I want to be clear that while we recognize that the technology is evolving, the underlying message here is the laws still apply and we do have tools to enforce.”

OpenAI의 최고 변호사는 이번 달 회의에서 규제에 대한 업계 주도의 접근법을 제안했습니다.
OpenAI’s top lawyer, at a conference this month, suggested an industry-led approach to regulation.

OpenAI의 총괄 고문인 Jason Kwon은 워싱턴에서 열린 소프트웨어 산업 그룹 BSA가 주최한 기술 정상회담에서 "처음에는 어떤 기준에 도달하기 위해 노력하는 것으로 시작한다고 생각합니다,"라고 말했습니다. "업계 표준에서 시작하여 이를 중심으로 통합이 이루어질 수 있습니다. 그리고 그러한 것들을 의무적으로 만들 것인지 아닌지, 그리고 그것들을 업데이트하기 위한 과정이 무엇인지에 대한 결정은 아마도 더 많은 대화를 위한 비옥한 토대가 될 것입니다."
“I think it first starts with trying to get to some kind of standards,” Jason Kwon, OpenAI’s general counsel, told a tech summit in Washington hosted by software industry group BSA. “Those could start with industry standards and some sort of coalescing around that. And decisions about whether or not to make those compulsory, and also then what’s the process for updating them, those things are probably fertile ground for more conversation.”

ChatGPT를 만드는 OpenAI의 책임자인 샘 알트먼은 정부의 개입이 "점점 더 강력해지는" AI 시스템의 위험을 완화하는 데 중요할 것이라며, 이 기술을 허가하고 규제하기 위한 미국 또는 글로벌 기관의 구성을 제안했습니다.
Sam Altman, the head of OpenAI, which makes ChatGPT, said government intervention “will be critical to mitigate the risks of increasingly powerful” AI systems, suggesting the formation of a U.S. or global agency to license and regulate the technology.

의회가 유럽 의원들이 하고 있는 것처럼 전면적인 새로운 AI 규칙을 만들 것이라는 즉각적인 징후는 없지만, 사회적 우려는 Altman과 다른 기술 CEO들을 이번 달 백악관으로 데려와 이러한 도구의 의미에 대한 어려운 질문에 답하게 했습니다.
While there’s no immediate sign that Congress will craft sweeping new AI rules as European lawmakers are doing, societal concerns brought Altman and other tech CEOs to the White House this month to answer hard questions about the implications of these tools.

출처 : VOANews

댓글목록 0

등록된 댓글이 없습니다.

깨다커뮤니케이션 | 서울 서초구 방배중앙로 401호
광고 및 제휴문의 : [email protected]
Copyright © 깨다닷컴. All rights reserved.