홍콩한타임즈
사이버 공간 관리국(CAC), AI 딥페이크 및 사이버 렉카 제재 법안 입법 예고
AI 기술 보급으로 타인의 음성·얼굴을 합성한 딥페이크(Deepfake) 갈취, 명예훼손, 집단 사이버 폭력(Cyberbullying) 사례가 급증함에 따라 국가사이버정보간행국(CAC)이 강력한 규제안을 내놓았다.
주요 인터넷 플랫폼(도우인, 웨이보 등)은 AI 기반 이상 징후 감지 시스템을 도입하여 딥페이크 합성물 및 유해 콘텐츠를 실시간 탐지·삭제해야 한다.
피해자가 원클릭으로 가해자 메시지 및 댓글을 일괄 차단할 수 있는 기능을 제공해야 하며, 상습 가해자 블랙리스트가 운용된다.
일반적인 악성 댓글이나 집단 사적제재뿐만 아니라, AI 딥페이크 및 합성 기술을 악용한 디지털 폭력을 방지하기 위한 강도 높은 의무 조항들이 담겨 있다.
비동의 합성·유포 금지: 당사자의 동의 없이 AI 및 딥러닝 기술로 음성, 얼굴, 신체를 합성하여 유포하는 행위를 명시적으로 처벌 대상에 포함했다.
갈취·성범죄·명예훼손 차단: AI로 제작된 딥페이크 음성 갈취(보이스피싱/협박), 성적 수치심을 유발하는 합성물(디지털 성범죄), 허위사실 유포 및 명예훼손에 대해 엄격한 형사·행정적 책임을 묻는다.
AI 실시간 모니터링 시스템 구축: 빅테크 플랫폼(웨이보, 도우인, 쾌쇼, 지후 등)은 AI 기반의 이상 징후 감지 분류기(Classifier)를 도입하여, 특정 개인을 향한 AI 합성 괴롭힘이나 집단 공격(Pile-on)을 초기 단계에서 실시간 추적·삭제해야 한다.
원클릭 보호(One-click Protection) 기능: 피해보호자가 버튼 하나로 자신에게 오는 메시지, 댓글, 인용글을 즉시 차단하고 게시글을 숨길 수 있는 긴급 보호 기능을 플랫폼이 필수로 제공해야 한다.
상습 가해자 계정 즉시 박탈: 악성 콘텐츠나 딥페이크 괴롭힘을 반복하는 상습 가해자 계정은 블랙리스트로 관리하며, 플랫폼 영구 탈퇴 및 타 플랫폼 재가입 금지 조치가 내려진다.
실명제 및 추적성 확보: AI 생성물에는 사전에 식별 가능한 워터마크(워터마킹 기술) 착용이 의무화되며, 유포자 추적을 위한 실명 인증 체계가 한층 강화된다.
플랫폼 정기 보고: 플랫폼 기업은 매월/매분기 사이버 폭력 차단 조치 내역과 조치 결과를 정부 당국에 정기 보고해야 하며, 방치 시 영업정지나 막대한 과징금을 부과받는다.
학교·기관 연계: 미성년자를 대상으로 한 딥페이크 괴롭힘이나 사이버 폭력이 발생할 경우 학교 및 사법 기관이 초기 단계부터 합동 개입하도록 규정했다.
Cyberspace Administration (CAC) Announces Legislative Notice of Bill to Sanction AI Deepfakes and Cyber Trolls
As cases of deepfake extortion (synthesizing the voices and faces of others), defamation, and cyberbullying have surged due to the proliferation of AI technology, the National Cyberspace Administration (CAC) has introduced strong regulatory measures.
Major internet platforms (such as Douyin and Weibo) must implement AI-based anomaly detection systems to detect and delete deepfake composites and harmful content in real time.
They must provide a feature allowing victims to block perpetrators' messages and comments en masse with a single click, and a blacklist of habitual offenders will be maintained.
The bill contains stringent mandatory provisions designed to prevent not only general malicious comments or collective retaliatory sanctions, but also digital violence exploiting AI deepfake and synthesis technologies. 1. Complete Ban on AI Deepfakes and Harmful Synthesized Content
Prohibition on Non-Consensual Synthesis and Distribution: The act of synthesizing and distributing voices, faces, or bodies using AI and deep learning technologies without the consent of the subjects involved has been explicitly included as a punishable offense.
Blocking Extortion, Sexual Crimes, and Defamation: Strict criminal and administrative liability will be imposed for AI-generated deepfake voice extortion (voice phishing/blackmail), synthesized content causing sexual humiliation (digital sexual crimes), and the dissemination of false information and defamation.
2. Mandatory Real-Time Detection and Sanctions by Internet Platforms
Establishment of AI Real-Time Monitoring Systems: Big Tech platforms (Weibo, Douyin, Kuaishou, Jihu, etc.) must introduce AI-based anomaly detection classifiers to track and delete AI-synthesized harassment or pile-ons targeting specific individuals in real-time at an early stage. One-click Protection Feature: Platforms are required to provide an emergency protection feature that allows victims to instantly block incoming messages, comments, and quotes, and to hide posts, with a single button click.
3. Strengthening of Perpetrator Blacklists and Real-Name Verification
Immediate Revocation of Habitual Perpetrator Accounts: Accounts of habitual perpetrators who repeatedly engage in malicious content or deepfake harassment will be placed on a blacklist, and measures will be taken to permanently expel them from the platform and prohibit them from rejoining other platforms.
Real-Name Verification and Traceability: The attachment of identifiable watermarks (watermarking technology) in advance will be mandatory for AI-generated content, and the real-name verification system for tracking distributors will be significantly strengthened.
4. Post-Incident Reporting and Legal Penalty Standards
Regular Platform Reporting: Platform companies must regularly report the details and results of measures taken to block cyber violence to government authorities on a monthly or quarterly basis; failure to do so will result in business suspension or the imposition of substantial fines. School-Agency Linkage: It stipulates that schools and judicial agencies must intervene jointly from the initial stages in the event of deepfake harassment or cyber violence targeting minors.
홍콩한타임즈 이유성 발행인/기자
copyrights@홍콩한타임즈(www.hkhantimes.com) 무단전재 및 재배포 금지
▲ 홍콩한타임즈 광고후원 문의 : Email: hkkrtimes@gmail.com / 카톡ID: 242500ryune
/Tel.: 852 9730 1755
♥ 홍콩교민 생활방 카톡 https://open.kakao.com/o/gwcOvnuc
참여코드 : h0ngk0ng 참여코드 0은 숫자 (현재 순수교민 2,225명)
[홍콩 광고·홍보] 하루 커피 한 잔도 안되는 값으로 홍콩 전역에 내 가게 소문내는 법
"홍콩 교민·비즈니스 타깃, 아직도 효과 없는 광고에 돈 쓰고 계신가요?"
독보적인 독자층과 압도적 영향력을 보유한 홍콩한타임즈가 브랜드 인지도 상승과 매출 확대를 확실하게 증명합니다. 하루 커피 한 잔도 안 되는 최저 비용으로 최대의 홍보 효과를 누리세요!
주요 혜택: 교민 사회 밀착 노출 / 타깃 맞춤형 브랜드 홍보 / 가성비 최적화
광고후원 문의:
이메일: hkkrtimes@gmail.com
전화/카카오톡/왓셉: (852) 9730-1755
