연방통신위원회, 인공지능 생성 음성 사용한 자동녹음전화 불법화 결정

미국 연방통신위원회(Federal Communications Commission, FCC)가 목요일, 인공지능(AI)이 생성한 음성을 포함하는 자동녹음전화(robocalls)를 불법화하는 결정을 발표하였다. 이번 조치는 기술의 악용을 통한 사기 행위와 유권자 호도를 방지하기 위한 목적으로, 기술 발전 속에서도 윤리적 기준과 법적 규제의 중요성을 강조하는 중대한 결정으로 평가된다.

FCC의 이번 결정은 최근 몇 년간 인공지능 기술의 급속한 발전과 그로 인한 부작용에 대한 우려가 커지고 있는 가운데 나왔다. 특히, AI가 생성한 음성을 이용한 자동녹음전화는 실제 인간의 목소리와 구분하기 어려울 정도로 정교해져, 사람들을 속이고 잘못된 정보를 전파하는 수단으로 악용될 가능성이 높아지고 있다.

FCC 위원장은 이번 결정에 대해 "기술을 통한 혁신은 환영하지만, 그것이 사회적 신뢰를 해치고 법을 위반하는 방식으로 이루어져서는 안 된다"며, "인공지능 기술을 이용한 사기와 조작을 엄격히 규제함으로써, 기술 발전이 인류의 복지 향상에 기여하도록 할 것"이라고 밝혔다. 이어서, "이번 조치는 기술을 악용하여 사람들을 속이고 유권자를 호도하는 것을 용납하지 않겠다는 우리의 분명한 메시지"라고 강조하였다.

이번 불법화 결정은 특히 선거 기간 동안 유권자들을 대상으로 한 잘못된 정보의 확산을 막기 위한 조치로서, 민주주의의 기본 원칙을 보호하고 유지하는 데 중요한 역할을 할 것으로 기대된다. 또한, 이번 조치는 기술 기업들에게도 AI 기술의 개발과 사용에 있어서 사회적 책임과 윤리적 기준을 준수할 것을 촉구하는 메시지를 전달한다.

연방통신위원회의 이번 결정은 기술의 발전이 가져오는 혜택과 함께, 그로 인한 부작용에 대한 적극적인 대응이 필요함을 보여준다. 인공지능 기술의 발전이 인류에게 긍정적인 영향을 미치기 위해서는, 기술의 악용을 방지하고 윤리적 기준을 확립하는 것이 중요하다는 점을 재확인시켜 주는 계기가 되었다. 이번 조치를 통해 미국 내에서 AI 기술의

짜증나는 자동녹음전화, 이제 안녕! FCC, AI 음성 이용 금지

AI 음성 자동녹음전화, 불법으로 규정

2023년 12월 22일 - 연방통신위원회(FCC)는 12월 21일, 인공지능(AI) 기술을 이용하여 실제 사람의 목소리를 흉내낸 자동녹음전화를 불법으로 규정하는 획기적인 결정을 내렸다. 이는 소비자들을 사기로부터 보호하고, 정치적 선전 및 유권자 탄압을 방지하기 위한 노력의 일환으로 이루어졌다.

FCC의 입장: FCC는 AI 음성 기술이 악용될 경우, 소비자들이 실제 사람과 통화하는 것으로 오인하여 피해를 입을 위험성이 있다고 지적했다. 또한, 정치적 선전이나 유권자 탄압 목적으로 사용될 경우, 선거의 공정성을 저해할 수 있다는 우려도 제기했다.

새로운 규정의 영향: 이번 규정에 따라, AI 음성을 이용한 자동녹음전화는 사전 동의 없이 발신될 수 없게 되었다. 위반 시 통신 사업자는 벌금을 부과받을 수 있다.

소비자들에게 미치는 영향: 소비자들은 이제 AI 음성 자동녹음전화로부터 안전할 수 있게 되었다. 또한, 정치적 선전 및 유권자 탄압에 대한 우려도 줄어들 것으로 기대된다.

기술 악용에 대한 경고: FCC는 AI 음성 기술의 발전이 새로운 형태의 사기 및 범죄로 이어질 수 있다는 점을 경고하며, 소비자들이 주의할 것을 당부했다.

긍정적 반응: 소비자 단체들은 FCC의 결정을 환영하며, 소비자 보호를 위한 중요한 조치라고 평가했다. 또한, 정치적 선거의 공정성을 유지하는 데 기여할 것으로 기대했다.

기술 발전과 윤리적 책임: AI 음성 기술의 발전은 사회에 많은 긍정적인 영향을 미칠 수 있지만, 동시에 윤리적 책임에 대한 논쟁도 불러일으킨다. FCC의 이번 결정은 기술 발전과 윤리적 책임 사이의 균형을 유지하기 위한 노력으로 평가된다.

향후 과제: FCC는 AI 음성 기술의 발전을 지속적으로 모니터링하고, 필요에 따라 규정을 업데이트할 계획이다. 또한, 소비자들이 새로운 기술에 대한 정보를 얻고, 피해를 예방할 수 있도록 교육 및 홍보에도 힘쓸 예정이다.

결론: FCC의 AI 음성 자동녹음전화 금지 결정은 소비자 보호와 선거 공정성을 위한 중요한 조치이다. 또한, 기술 발전과 윤리적 책임 사이의 균형을 유지하기 위한 노력으로 평가된다. 앞으로 FCC의 지속적인 노력과 소비자들의 주의를 통해 AI 음성 기술의 악용을 방지하고, 사회에 긍정적인 영향을 미칠 수 있도록 해야 할 것이다.

자동녹음전화의 AI 생성 음성은 유권자를 속일 수 있다. FCC는 방금 불법으로 만들었다.

연방통신위원회(Federal Communications Commission)는 목요일 인공지능이 생성한 음성을 포함하는 자동녹음전화를 불법화했다. 이는 기술을 악용하여 사람들을 속이고 유권자를 호도하는 것은 용납되지 않을 것이라는 분명한 메시지를 보내는 결정이다.

만장일치로 판결은 인공적이고 사전 녹음된 음성 메시지를 사용하는 정크 통화를 제한하는 1991년 법률인 전화 소비자 보호법에 따라 AI 음성 복제 도구를 사용하여 만든 자동녹음전화를 대상으로 한다.

이번 발표는 뉴햄프셔 당국이 지난 달 미국 최초의 예비선거에서 사람들의 투표를 방해하기 위해 조 바이든 대통령의 목소리를 모방한 AI 생성 자동녹음전화에 대한 조사를 진행하고 있는 가운데 나온 것이다.

즉시 발효되는 이 규정은 FCC가 통화 시 AI 음성을 사용하는 회사에 벌금을 부과하거나 AI 음성을 전달하는 서비스 제공업체를 차단할 수 있는 권한을 부여한다. FCC에 따르면 이는 또한 전화 수신자가 소송을 제기할 수 있는 문을 열어주고 주 법무장관에게 위반자를 단속할 수 있는 새로운 메커니즘을 제공한다고 한다.

이 기관의 제시카 로젠워셀( Jessica Rosenworcel) 회장 은 나쁜 행위자들이 AI가 생성한 음성을 자동녹음전화에 사용해 유권자에게 잘못된 정보를 제공하고, 유명인사를 사칭하고, 가족을 강탈했다고 말했다.

위원회가 규정을 검토하고 있는 가운데 Rosenworcel은 수요일 AP 통신과의 인터뷰에서 "아주 먼 미래의 일처럼 보이지만 이러한 위협은 이미 존재하고 있습니다"라고 말했다. "우리 모두는 이러한 가짜 전화를 받을 수 있으므로 지금이 바로 조치를 취해야 할 때라고 느꼈다."

소비자 보호법에 따라 텔레마케터는 일반적으로 자동 다이얼 장치나 인공 또는 사전 녹음된 음성 메시지를 사용하여 휴대폰에 전화를 걸 수 없으며, 전화 수신자의 사전 서면 동의 없이는 유선 전화로 전화를 걸 수 없다.

새로운 판결은 자동녹음전화에서 AI가 생성한 음성을 "인공적"으로 분류하므로 동일한 기준에 따라 집행이 가능하다고 FCC는 밝혔다.

법을 어긴 사람들은 통화당 최대 23,000달러 이상의 엄청난 벌금을 물게 될 수 있다고 FCC는 말했다. 이 기관은 이전에 소비자법을 사용하여 선거를 방해하는 자동녹음전화를 단속했으며, 우편 투표는 체포, 채무 추심 및 강제 징수 위험을 높일 수 있다고 주로 흑인 지역에 거주하는 사람들에게 허위로 경고한 보수적 사기꾼 두 명에게 500만 달러의 벌금을 부과하는 것을 포함했다. 백신 접종.

또한 이 법은 전화 수신자에게 법적 조치를 취할 수 있는 권리와 원치 않는 전화 하나당 최대 1,500달러의 손해 배상을 청구할 수 있는 권리를 부여한다.

Aspen Institute의 AI 및 민주주의 이사인 Josh Lawson은 FCC의 판결에도 불구하고 유권자들은 전화, 문자, 소셜미디어를 통해 자신을 표적으로 삼는 맞춤형 스팸에 대비해야 한다고 말했다.

“진정한 검은 모자는 위험을 무시하는 경향이 있으며 자신들이 하는 일이 불법이라는 것을 알고 있습니다.”라고 그는 말했다. "우리는 나쁜 행위자들이 계속해서 우리를 뒤흔들고 한계를 뛰어넘을 것이라는 점을 이해해야 합니다."

컴퓨터 허위정보를 전문으로 하는 카네기 멜론 교수 캐슬린 칼리(Kathleen Carley)는 AI의 음성 기술 남용을 탐지하려면 오디오가 AI에서 생성된 것인지 명확하게 식별할 수 있어야 한다고 말했다.

그녀는 “이러한 호출을 생성하는 기술이 한동안 존재했기 때문에 이제는 가능합니다. 그것은 잘 이해되었으며 표준적인 실수를 범한다. 하지만 그 기술은 점점 좋아질 것.”

음성 복제 소프트웨어부터 이미지 생성기에 이르기까지 정교한 생성 AI 도구는 이미 미국과 전 세계의 선거에서 사용되고 있다.

지난해 미국 대선 경선이 본격화되면서 여러 캠페인 광고에서 AI가 생성한 오디오나 이미지를 사용했고, 일부 후보는 AI 챗봇을 사용해 유권자와 소통하는 실험을 했다.

의회의 양당적 노력은 정치 캠페인에서 AI를 규제하려고 노력했지만 총선이 9개월 남은 상황에서 연방 법안이 통과되지 않았다.

정치에서 AI를 규제하는 법안을 발의한 이베트 클라크(Yvette Clarke) 의원은 FCC의 판결을 칭찬했지만 이제 의회가 행동해야 한다고 말했다.

“저는 민주당원과 공화당원이 사람들을 속이는 데 사용되는 AI 생성 콘텐츠가 나쁜 것이라는 데 동의할 수 있다고 믿는다. 우리는 사람들이 무엇이 진짜이고 무엇이 아닌지를 식별하는 데 필요한 도구를 갖도록 돕기 위해 협력해야 합니다.”라고 Clarke는 말했다. DN.Y.

뉴햄프셔의 1월 23일 예비선거에 영향을 미치기 위해 AI가 생성한 자동녹음전화는 바이든과 유사한 목소리를 사용했고, 그가 자주 사용하는 문구인 "정말 멍청한 놈들아"를 사용했으며, 예비선거에서 투표하면 유권자들의 투표가 불가능할 것이라는 거짓 제안을 했다. 11월 투표말이다.

뉴햄프셔 주 국무장관 데이비드 스캔런(David Scanlan)은 “뉴햄프셔는 선거 과정에서 AI가 어떻게 부적절하게 사용될 수 있는지 맛봤다”고 말했다. "우리 선거에 해를 끼칠 수 있는 방식으로 투표 인구를 오도하지 않도록 사용 및 집행에 대해 무기를 두는 것이 확실히 적절합니다."

주 법무장관인 존 포멜라(John Formella)는 화요일 조사관들이 텍사스에 본사를 둔 라이프 코퍼레이션(Life Corp.)과 그 소유주인 월터 몽크(Walter Monk)를 전화의 출처로 확인했다고 밝혔다. 이 전화는 대부분 민주당원으로 등록된 수천 명의 주 주민들에게 전달되었습니다. 그는 이 전화가 텍사스에 본사를 둔 또 다른 회사인 Lingo Telecom에 의해 전송되었다고 말했다.

FCC에 따르면 Lingo Telecom과 Life Corp.는 과거 불법 자동녹음전화로 조사를 받은 바 있다.

링고텔레콤은 화요일 성명을 통해 바이든을 사칭한 자동녹음전화에 대한 조사를 돕기 위해 “즉시 조치를 취했다”고 밝혔다. 소속사는 “통화 내용 제작에는 전혀 관여하지 않았다”고 밝혔다.