AI 음성 사기가 합법인가? 법칙 설명
AI 음성 사기는 강력한 기술과 법원과 입법부가 여전히 지도를 작성하고 있는 법적 영역의 교차점에 앉아 있습니다. 콘텐츠 제작자, 개발자 또는 설득력 있는 딥페이크 클립을 들은 후 호기심 많은 관계없이 합법성 문제가 중요하며 대답은 진정으로 복잡합니다. 이 게시물은 AI 음성 사기를 관리하는 법적 영역의 실제 개요를 제공합니다: 초상권, 사기, 명예훼손, 저작권, 소비자 보호 규칙 및 US 주 및 EU를 통해 흐르는 새로운 딥페이크 법안의 물결.
이 게시물은 일반 정보일 뿐 법적 조언이 아닙니다. 법은 국가와 미국 주 사이에서 크게 다르며 자주 변경되며 특정 상황에 적용되는 것은 변호사가 평가해야 하는 사실에 따라 다릅니다. 여기서 어떤 것도 특정 경우에 대한 최종 판결로 간주되어야 하지 않습니다. 실제 법적 질문이 있으면 관할권의 적격 변호사와 상담하세요.
TL;DR
- AI 음성 사기는 자동으로 불법이 아니지만 자동으로 합법도 아닙니다 - 의도, 동의 및 관할권이 모든 것입니다.
- 초상권 법은 연예인뿐만 아니라 모두의 음성을 동의 없이 상업적 착취로부터 보호합니다.
- 기만, 사기 또는 괴롭힘을 위해 복제된 음성을 사용하는 것은 거의 모든 관할권에서 범죄입니다.
- 미국은 아직 단일 연방 AI 음성 법이 없지만 주 법은 빠르게 증가하고 있습니다; EU AI 법은 이미 발효 중입니다.
- 풍자와 도발은 일부 보호를 제공하지만 공백 수표는 아닙니다.
- 자신의 음성을 복제하거나 명시적인 서면 동의가 있는 음성은 가장 낮은 위험 경로입니다.
”AI 음성 사기”는 실제로 무엇을 의미합니까?
법으로 넘어가기 전에 기술에 대해 정확히 말하는 것이 도움이 됩니다. AI 음성 사기는 두 가지 관련이 있지만 별개의 기능을 포함합니다.
첫 번째는 음성 변환 - 실시간으로 말하는 사람의 음성을 변환하여 다른 사람처럼 들립니다. 이것이 실시간 음성 변경기가 하는 일입니다. 두 번째는 음성 합성 - 텍스트 또는 다른 입력에서 대상 개인의 음성으로 새 오디오를 생성하며, 때로는 AI 음성 복제라고 불립니다. 두 기술 모두 오디오 데이터에서 훈련한 신경망 모델을 사용하며 둘 다 인간 청취자가 실제 사람과 구별하기 어려운 결과를 생성할 수 있습니다.
법적 질문이 두 가지 사이에 약간 다릅니다. 실시간 음성 변환은 친구 사이의 캐릭터 음성으로 개인적으로 사용되며, 정치인의 음성을 온라인에 게시하는 합성과 다른 영역에 앉아 있습니다. 지금까지 작성된 대부분의 법은 후자에 초점을 맞추고 있습니다 - 기만을 의도한 딥페이크 오디오 - 하지만 초상권과 사기 법의 기본 원칙은 둘 다에 적용됩니다.
초상권: 음성을 재산으로 보호
초상권이란 무엇입니까?
초상권은 개인에게 자신의 정체성의 상업적 사용을 제어할 수 있는 권리를 제공하는 법적 학설입니다 - 자신의 이름, 이미지, 유사성 및 음성을 포함합니다. 미국 판례법에서 발전했으며 약 절반의 미국 주에서 법령으로 성문화되었습니다. 유럽에서는 민법국의 인격권 체계 하에서 동등한 보호가 존재합니다.
초상권은 유명인에게만 제한되지 않습니다. 누구든지 - 개인, 미성년자, 사망자(많은 주에서) - 이 권리를 보유할 수 있습니다. 핵심 질문은 누군가가 동의 없이 상업적 이익을 위해 자신의 정체성을 사용했는지 여부입니다.
AI 음성 복제에 어떻게 적용됩니까?
회사나 개인이 실제 사람의 복제된 음성을 동의 없이 제품 광고, 콘텐츠 플랫폼에서 수익 생성 또는 그 음성의 다른 상업적 착취에 사용할 때, 초상권 청구는 거의 확실히 이용 가능합니다. 법원은 최소한 1988년의 Bette Midler v. Ford Motor Company 사건 이후 음성 청구가 실행 가능하다고 판단했습니다. 제9순회 항소법원은 특정 녹음을 복제하지 않고도 광고에 대해 특이한 음성을 모방하는 것이 질문 가능했다고 판결했습니다.
AI 복제는 이 학설을 훨씬 더 실용적으로 관련성 있게 만듭니다. 이전에는 위험을 감수할 의사가 있는 인간 사기꾼이 주요 위협이었습니다. 이제 노트북이 있는 모든 사람이 매우 설득력 있는 유사성을 생성할 수 있습니다. 기본 법 원칙 - 동의 없이 누군가의 정체성을 상업적으로 착취할 수 없습니다 - 변하지 않았지만 잠재적 위반의 규모가 있습니다.
특히 강한 초상권 법령이 있는 주에는 캘리포니아 (캘리포니아 유명인 권리법은 사망 후 70년까지 보호를 연장합니다), 뉴욕, 텍사스, 일리노이 및 테네시가 포함됩니다. 대상 청중이 이 주 중 하나에 있으면 다른 곳에 기반을 두고 있더라도 그들의 법이 적용될 수 있습니다.
사기 및 사기: 기만이 범죄가 될 때
누군가를 속이기 위해 복제된 음성을 사용하는 것 - 돈을 보내거나 자격증을 공개하거나 그들이 다른 방법으로 취하지 않을 행동을 취하도록 - 민사 문제가 아닙니다. 그것은 형사 사기입니다. AI 음성을 사용한 음성 사기는 이미 기존 와이어 사기 법령(18 U.S.C. § 1343)과 신원 도용 법에 따라 AI별 법안을 기다리지 않고 기소되고 있습니다.
여러 주목할만한 사건에는 AI 음성 복제가 관리자를 속이는 것이 포함되어 있어 전신 이체를 승인합니다(때로는 “CEO 사기” 또는 “vishing”이라고 합니다). 이 경우 재정 손실은 사건당 수백만 달러에 도달했습니다. 검사는 이들을 심각한 연방 범죄로 취급합니다.
금융 사기가 없더라도 AI 음성을 사용하여 특정 실제 개인을 사기하는 방식으로 제3자를 속이는 것 - 법 집행 담당자로 위장, 의사라고 주장, 당신이 아닌 사업 임원 대표 - 모든 미국 주와 대부분의 국가에 존재하는 사기 법령을 위반할 수 있습니다.
기만 의도는 핵심 요소입니다. 자신의 음성을 변환하여 엔터테인먼트, 또는 실제 사람을 전혀 닮지 않은 허구 음성 문자를 사용하는 것은 청취자가 실제 개인이 결코 말하지 않은 것을 말했다고 믿게 만들기 위해 녹음을 만드는 것과 근본적으로 다릅니다.
명예훼손: 거짓 사실 진술
명예훼손 법 - 서면 콘텐츠의 경우 리베슬 구두로는 슬랜더 - 누군가의 평판에 해를 끼치는 거짓 사실 진술을 게시하는 것을 금지합니다. 공인이 뭔가 명예훼손적인 말을 하는 설득력 있는 AI 음성 복제(예: 저지르지 않은 범죄의 고백)는 서면 거짓 진술과 마찬가지로 질문 가능하며 오디오가 텍스트가 없는 감정적 무게를 지니므로 아마도 더 해롭습니다.
미국의 공인의 경우 제1수정헌법은 “실제 악의”의 증거를 요구합니다 - 거짓의 지식 또는 진실의 무분별한 무시 - New York Times Co. v. Sullivan 기준에 따릅니다. 민간인의 경우 바가 낮습니다. 많은 국가에서 명예훼손 법은 미국보다 더 엄격하며 부담은 피고에 있을 수 있습니다.
딥페이크 녹음에 풍자로 레이블을 지정하는 것이 자동 보호를 제공하지 않습니다. 합리적인 청취자가 콘텐츠를 실제 개인의 진정한 진술로 받아들인다면 명예훼손 청구가 생존할 수 있습니다. 맥락, 면책 조항 배치, 콘텐츠가 픽션으로 명확하게 표시되는 정도가 모두 중요합니다.
저작권: 음성이 보호하는 것(그리고 보호하지 않는 것)
인간의 음성은 생물학적 특성으로서 일반적으로 저작권이 없습니다. 당신은 당신의 음성 소리에 저작권을 소유할 수 없습니다. 당신이 당신의 얼굴 모양을 소유할 수 있는 것보다 더 이상. 그러나 이는 음성 복제가 저작권 자유 영역이라는 의미는 아닙니다.
녹음된 공연은 일반적으로 보호됩니다. AI 모델을 훈련하기 위해 상업적으로 출시된 오디오 녹음을 복제하면 기본 사운드 녹음 저작권(레이블 또는 배포업체가 보유)과 기본 음악 구성에 대한 저작권을 침해할 수 있습니다. 여러 소송에서 AI 훈련을 위해 오디오를 긁어내는 것이 저작권 침해를 구성하거나 공정한 사용에 해당하는지 여부를 질문합니다; 법원이 아직 확정적인 답변에 도달하지 않았습니다.
유도작품 및 사칭. 특정 녹음을 복제하지 않고도 AI 음성을 사용하여 그 예술가의 진정한 작업으로 통과될 수 있을 정도로 고유한 예술 스타일을 모방하는 콘텐츠를 생성하면 저작권(특정 보호된 표현이 복제되는 경우)과 부정 경쟁 법 모두에서 청구를 상승시킬 수 있습니다.
저작권 풍경 여기는 적극적으로 경합 중입니다. 미국 저작권 사무소는 AI 생성 콘텐츠가 인간의 저작권이 없으며 저작권이 없을 수 있다고 명시한 지침을 발행했지만, 이는 훈련 데이터 또는 음성을 사용하는 사람의 권리에 대한 질문을 해결하지 않습니다. 향후 몇 년 동안 이 지역에서 상당한 진화를 예상하세요.
소비자 보호 및 FTC 규칙
미국 연방 무역 위원회는 15 U.S.C. § 45에 따라 기만적 무역 관행에 대한 권한이 있습니다. 실제 개인 - 유명인, 사업 임원, 정부 공무원 - 상업 통신에서 AI를 사용하여 개인을 사기하는 것은 FTC 기준에 따른 기만적 관행입니다. FTC는 2024년에 이전 지침에 존재하는 공백을 닫으면서 기업뿐만 아니라 개인의 사기를 구체적으로 목표로 하는 규칙을 최종화했습니다.
FTC 규칙은 소비자에게 피해를 줄 수 있는 방식으로 무역에서 실제 개인을 사기하기 위해 AI를 사용하는 것을 불법으로 만듭니다. 위반은 민사 벌금을 초래할 수 있습니다. 규칙은 피해를 입은 당사자들을 위한 민간 행동의 권리를 창출할 수도 있습니다.
주 수준에서 대부분의 주의 소비자 보호 법령은 기만적 무역 관행에 대한 유사한 금지를 포함합니다. 예를 들어 캘리포니아 소비자 법적 구제법과 일리노이 소비자 사기 및 기만적 사업 관행법은 거짓 보증 및 기만적 신원 사용을 포함하는 경우에 사용되었습니다.
미국의 신흥 Deepfake 법안
이 공간의 가장 중점적인 법적 발전은 실제 개인의 AI 생성 오디오 및 비디오를 구체적으로 해결하는 주 및 연방 법안의 물결입니다.
| 관할권 | 법 / 청구서 | 핵심 조항 |
|---|---|---|
| 테네시 | ELVIS 법(2024) | AI 음성 복제에 대한 민사 및 형사 책임 동의 없음; 상업 사용 범위 |
| 캘리포니아 | AB 2602(2024) | 엔터테인먼트 계약에서 예술가의 AI 복제에 대한 동의 필요 |
| 캘리포니아 | AB 1836(2024) | 사망한 예술가의 AI 복제 사용 제한 |
| 텍사스 | 범위 법 | AI 생성 성 딥페이크 금지; 광범위한 조항 계류 중 |
| 일리노이 | BIPA + 계류 중인 AI 청구서 | 바이오메트릭 데이터 보호가 음성 지문에 적용; AI 특정 청구서 위원회 중 |
| 뉴욕 | 여러 계류 중 | AI 생성 유사성을 포함하도록 성격 권리 확장 |
| 연방(미국) | NO FAKES 법(제안) | 동의 없이 AI 복제에서 음성 및 유사성을 보호하는 연방 권리를 만듭니다 |
| 연방(미국) | DEFIANCE 법(2024) | 비합의 친밀한 딥페이크에 대한 민사 원인의 조치 |
추세는 명확합니다: 입법자들은 명시적 보호 방향으로 이동하고 있으며 그것으로부터 멀어지지 않습니다. 단일 연방 AI 음성 법의 부재는 공간이 규제되지 않는다는 의미가 아닙니다 - 그것은 모든 입법 세션으로 밀집하는 법령의 패치로 규제된다는 의미입니다.
EU AI 법 및 유럽 성격 권리
2024년 8월에 발효되고 2027년까지 단계적으로 진행되는 EU AI 법은 미국 주별 법령보다 더 포괄적인 규제 접근 방식을 취합니다.
EU AI 법에 따라 실제 개인을 나타내는 합성 오디오, 비디오 또는 텍스트를 생성하는 AI 시스템은 콘텐츠가 AI 생성됨을 명시하는 공개를 포함해야 합니다. 이것은 실제 사람을 “현저히 닮은” 모든 콘텐츠에 적용됩니다. 의무는 AI 시스템의 공급자와 시스템을 사용하여 콘텐츠를 생성하는 배포자에게 해당됩니다.
특정 사용 - AI 시스템을 배포하여 실제 개인을 사기하는 방식으로 대중을 속이는 것으로 믿게 할 수 있는 방식 - 법령의 제5조 하에서 명시적으로 금지된 용인할 수 없는 위험 또는 금지된 사용으로 분류됩니다. 금지된 사용에 대한 벌금은 3,500만 유로 또는 전 세계 연간 회전의 7%에 도달할 수 있습니다.
AI 법 외에도 EU 회원국은 시민 법전(프랑스의 droit à l’image, 독일의 헌법 법에 따른 일반 성격 권리 등)에서 성격 권리 프레임워크를 가지고 있으며 동의 없이 개인의 음성 및 유사성의 상업적 사용으로부터 보호합니다. 이는 AI 법의 요구사항과 함께 존재합니다.
영국은 Brexit 후 자체 AI 지배 구조 프레임워크를 개발 중이지만 EU AI 법에 동등한 법안을 아직 전달하지 않았습니다. 그러나 영국 법원은 AI 음성 사건에 기존 개인 정보 보호, 명예훼손 및 불법행위 법을 적용할 수 있습니다.
동의 원칙: 가장 명확한 밝은 선
위에서 논의된 거의 모든 법적 체계에서 - 초상권, 사기 법, 소비자 보호, EU AI 법 - 합법성을 결정하는 유일한 가장 명확한 요소는 동의입니다. 음성이 복제되거나 사기하는 개인으로부터의 명시적이고 정보 기반의 동의는 법적 그림을 크게 변경합니다.
“명시적”은 개인이 동의하는 것을 이해한다는 의미입니다. “정보 기반”은 음성이 어떻게 사용될지 알았다는 의미입니다. “서면”은 구두 동의를 증명하기 어렵기 때문에 강력히 선호됩니다. 그리고 한 목적을 위해 주어진 동의는 다른 목적으로 이전되지 않습니다 - 누군가가 한 팟캐스트에서 자신의 음성을 사용하도록 동의하는 경우 정치 광고에서 사용하도록 권한을 부여하지 않습니다.
상용 음성 작업의 경우 산업 관행은 점점 더 재능 계약에 특정 AI 사용 절을 포함합니다. 그러한 절이 없다는 것은 금지와 동일하지 않습니다 - 하지만 권리 범위가 불명확하다는 의미로 법적 노출이 생깁니다.
개인적으로 음성 변경기 사용하는 것은 어떻습니까?
이것은 많은 사람들이 자신을 찾는 곳입니다 - 게임에서 캐릭터 음성을 하고, Discord에서 다르게 들리고, 온라인 통화에서 프라이버시를 보호하거나, 독특한 음성 성격으로 콘텐츠를 만들고 싶습니다. 이 사용은 위의 시나리오에서 근본적으로 다릅니다.
실시간 음성 변경기를 사용하여 엔터테인먼트, 역할 놀이, 프라이버시 또는 명확한 공개와 함께 동의하는 참가자 사이의 창의적 표현을 위해 자신의 음성을 수정하면 초상권 우려를 일으키지 않습니다. 당신은 누군가 다른 정체성을 착취하지 않습니다. 사기 우려를 일으키지 않습니다. 당신이 그들을 해로운 방식으로 기만하는 한. 명예훼손 우려를 일으키지 않습니다. 당신은 실제 사람에 대해 거짓 진술을 하지 않습니다.
개인적인 음성 변경기 사용의 법적 위험은 좁고 구체적입니다: 의도적으로 다른 사람이 그 개인과 말하고 있다고 진정으로 믿고 그 기만이 해를 끼치는 상황에서 특정 실제 개인을 사기하는 경우 당신은 선을 넘었습니다. 기술은 문제를 만들지 않습니다; 기만하려는 의도가 합니다.
VoxBooster 같은 도구는 정당한 사용 사례를 위해 만들어졌습니다 - 음성 변환, 자신의 음성에서 맞춤형 AI 음성 만들기 및 프라이버시 보호. 스트리머, 콘텐츠 제작자, 게이머 및 접근성 요구사항이 있는 사람들이 사용합니다. 위의 법적 원칙은 도구 자체가 아니라 도구를 사용하는 방식에 적용됩니다.
법의 올바른 쪽에 머물기 위한 실용적인 지침
실용적인 의미를 요약하면 법적 분석을 반복하지 않고:
낮은 위험 사용:
- 명확한 공개와 함께 개인적 또는 상업적 사용을 위해 자신의 음성을 복제합니다
- 실제 사람을 닮지 않은 허구 음성 캐릭터를 사용합니다
- 명백하게 표시되고 명확하게 비상업적인 풍자 또는 도발
- 동의하는 참가자 간 프라이버시 또는 창의적 표현을 위한 음성 변환
높은 위험 사용:
- 의도와 관계없이 명시적인 서면 동의 없이 실제 사람의 음성을 복제합니다
- 주제의 허가 없이 상업적으로 복제된 음성을 사용합니다
- 실제 인물의 진정한 진술로 잘못 인식될 수 있는 콘텐츠를 만듭니다
- 음성 복제를 사용하여 들리는 사람의 정체성에 대해 기만합니다
상업 사용 전에 취할 단계:
- 음성이 사용될 방식을 지정하는 명시적인 서면 동의를 받습니다.
- 피사체가 거주하는 주 및 작동하는 주의 초상권 법령을 확인합니다.
- 청중이 위치한 국가의 관련 법을 확인합니다.
- AI 생성 오디오 콘텐츠에 명확한 공개 레이블을 추가합니다.
- 특정 사용 사례에 대해 의심이 있는 경우 변호사와 상담합니다.
관련 읽기: How to Clone Someone’s Voice Legally | Voice Clone Ethics | How to Protect Your Voice from Cloning
자주 묻는 질문
미국에서 AI 음성 사기가 불법입니까?
그것은 의도, 동의 및 주에 따라 다릅니다. 복제된 음성을 사용하여 사기를 저지르는 것은 연방 범죄입니다. 동의 없이 공인의 평판을 손상시키기 위해 사용하는 것은 초상권 소송을 유발할 수 있습니다. 여러 주에는 이제 특정 딥페이크 음성 법령이 있습니다. 아직 단일 연방 AI 음성 법은 없지만 시행이 가속화되고 있습니다.
초상권이란 무엇이며 음성 복제에 어떻게 적용됩니까?
초상권은 개인의 이름, 유사성 및 음성을 동의 없이 상업적으로 이용하는 것으로부터 보호합니다. 캘리포니아 및 뉴욕 같은 주에서는 유명인뿐만 아니라 모든 사람을 보호합니다. 실제 인물의 복제된 음성을 동의 없이 제품이나 서비스를 판매하는 데 사용하는 것은 전형적인 위반입니다.
음성 사기가 풍자나 도발을 위해 합법인가?
풍자와 도발은 미국의 제1수정헌법 보호 및 다른 민주주의의 유사한 표현의 자유 양보를 누립니다. 그러나 보호는 무한하지 않습니다. 콘텐츠가 실제 사람의 진정한 진술로 잘못 인식되거나 상업적으로 사용되는 경우 풍자 방어가 상당히 약해집니다. 게시하기 전에 변호사와 상담하세요.
EU AI 법이 AI 음성 사기를 규제합니까?
네. EU AI 법은 실제 인물을 사기하는 특정 AI 시스템을 상황에 따라 높은 위험 또는 금지된 것으로 분류합니다. AI 생성 콘텐츠가 공중을 기만할 수 있을 때 명확한 공개를 요구합니다. 미준수는 3,000만 유로 또는 전 세계 회전의 6%에 달하는 벌금을 초래할 수 있습니다.
비디오 게임이나 디스코드에서 누군가처럼 들리기 위해 AI 음성 변경기를 사용할 수 있습니까?
음성 변경기를 캐릭터 음성으로 사용하거나 친구들과 가볍게 역할 놀이하는 것은 일반적으로 낮은 위험입니다. 선은 특정 실제 인물을 사기할 때 다른 사람들을 기만하거나 명예를 훼손시키는 방식으로 교차합니다. 의도 및 맥락이 기술 자체보다 훨씬 더 중요합니다.
ELVIS 법이란 무엇이며 유사한 법이 있는 주는 어느 것입니까?
테네시의 ELVIS 법(2024)은 상업 목적으로 AI를 사용하여 동의 없이 사람의 음성을 복제하는 것을 민사 및 형사 범죄로 만듭니다. 캘리포니아, 텍사스, 일리노이, 뉴욕 및 조지아는 관련 법안을 통과했거나 제안했습니다. 추세는 더 보호를 향해, 덜해서 아닙니다.
음성 복제가 저작권을 침해합니까?
음성 자체는 일반적으로 저작권이 없지만 녹음된 공연은 종종 그렇습니다. AI 모델을 훈련시키기 위해 보호된 녹음을 복제하거나 독특한 예술 스타일을 모방하여 진정한 것으로 통과시키는 것은 저작권을 침해할 수 있습니다. 여기의 법은 여전히 발전하고 있으며 여러 대규모 사건이 현재 소송 중입니다.
결론
AI 음성 사기는 강력한 기술이 기존 법의 한계를 테스트하는 진정으로 어려운 지역입니다. “합법입니까?”에 대한 정직한 답변은: 당신이 무엇을 하는지, 누가 동의했는지, 당신과 청중이 어디 있는지, 기만하려는 의도인지에 따라 다릅니다. 초상권 학설, 사기 법령, 명예훼손 법, 저작권, 소비자 보호 규칙 및 새로운 딥페이크별 법안이 모두 이 공간에서 겹치며 모두 동일한 일반 방향을 가리킵니다: 동의하지 않은 및 기만 사용에 대한 더 많은 책임.
이 게시물은 일반 정보일 뿐 법적 조언이 아닙니다. 이 공간의 법은 빠르게 변경됩니다. 법원은 여전히 기존 교리가 AI 생성 음성에 어떻게 적용되는지 확인하고 있습니다. 새로운 법령이 통과되고 도전되고 있습니다. 특정 법적 질문이 있는 경우 - 프로젝트, 계약 또는 잠재적 청구에 대해 - 관할권의 적격 법적 상담을 받으십시오.
명백하게 합법적인 사용의 경우 - 자신의 음성을 복제하고, 허구 음성 캐릭터를 사용하고, 명확한 공개로 프라이버시 또는 엔터테인먼트를 위해 음성을 변환 - 법적 경관은 훨씬 덜 징그럽습니다. 이는 정확히 VoxBooster 같은 도구가 지원하도록 설계된 사용 사례입니다.
Download VoxBooster 그리고 3일 무료 평가판을 시도하세요 - 실시간 음성 변환, 자신의 음성에서 AI 음성 복제 만들기, 전체 사운드보드 Windows에서 로컬로 실행하면서 음성을 어디에나 보내지 않습니다.
외부 참고 자료: US Copyright Office AI and Copyright guidance, FTC Impersonation Rule, EU AI Act official text, Wikipedia: Right of publicity