브레이크뉴스 김충열 정치전문기자 = 박선원 더불어민주당 의원이 AI로 조작된 가짜 음성 녹취를 제작·유포하고 이를 재송출하며 정치적 공격에 활용한 유튜버 및 인터넷언론사를 정통망법위반 – 명예훼손, 허위사실 유포 등의 혐의로 영등포경찰서에 고소했다.
 ▲ 박선원 측은 현재 확인된 재송출 채널은 ▲성창경TV ▲이봉규TV ▲윤어갠TF 등이며, 재송출 역시 각각 독립된 범죄 행위라며 확인되는 대로 추가 고소를 이어갈 방침이라고 밝혔다. © 김충열 정치전문기자 |
AI 음성 조작, 민주주의 판단 자체를 훼손
박 의원 측은 “해당 사안은 AI 음성 합성 기술을 이용해 존재하지 않는 발언을 만들어 내고, 이를‘가짜이지만 파장이 클 것 같아 공개한다’는 식으로 유포한 전형적인 기만적 범죄”라며 “명백한 허위임을 인식하고도 공개한 점에서 범죄 의도가 분명하다”고 설명했다.
문제가 된 콘텐츠는 <전한길 뉴스> 등에서 최초 게시됐으며,‘제보 녹취파일 전체는 52분인데 비공개 부분 6분만 공개한다’는 식의 제목으로 업로드됐다. 영상 서두에서는 녹취가‘가짜’일 수 있다는 취지의 언급을 하면서도, 동시에 ‘52분 중 일부 공개’라는 형식을 취해 녹취의 실재성과 신빙성을 의도적으로 부여했다는 것이 박 의원 측의 설명이다.
이후 해당 영상은 재가공·재편집돼 다수 유튜브 채널을 통해 재송출됐다. 이 과정에서‘가짜’라는 전제나 맥락은 삭제되고, 녹취 음성 일부만 단독으로 유통되며 박선원 의원이 특정 진술을 유도하고 여론공작을 벌인 것처럼 오인하게 만드는 방식으로 확산됐다는 주장이다.
박 의원 측은 “가짜 녹취라면 공개하지 않는 것이 상식”이라며“최초 제작자는‘가짜’라는 방패를 내세워 유포 책임을 회피했고, 재송출 채널들은 맥락을 제거한 채 녹취만 확산시켜 정치적 공격 도구로 활용했다”고 지적했다. 이어 “이는 제작·유포·재유통이 단계적으로 이뤄진 조직적 허위정보 확산 행위”라고 규정했다.
재송출은 독립된 범죄행위…확인 즉시 추가 고소
현재 확인된 재송출 채널은 ▲성창경TV ▲이봉규TV ▲윤어갠TF 등이며, 박 의원 측은 재송출 역시 각각 독립된 범죄 행위라며 확인되는 대로 추가 고소를 이어갈 방침이라고 밝혔다.
박 의원 측은 수사기관에 ▲원본 파일 및 업로드·편집 이력에 대한 증거 보전 ▲AI 음성 합성 여부 확인을 위한 디지털 포렌식 및 음성 분석 ▲원 게시자와 재송출 채널 간 파일 전달·공유 경로 규명 등을 요청했다.
박 의원실 관계자는 “AI 음성 조작이 사실이라면 누구든 하지 않은 말을 했다고 조작당할 수 있다”며 “이는 특정 정치인에 대한 공격을 넘어 유권자의 판단과 공론장 자체를 파괴하는 중대한 범죄”라며, “엄정한 수사를 통해 책임을 명확히 가려야 한다”고 촉구했다. hpf21@naver.com
*아래는 위 기사를'구글 번역'으로 번역한 영문 기사의[전문]입니다. '구글번역'은 이해도 높이기를 위해 노력하고 있습니다.영문 번역에 오류가 있을 수 있음을 전제로 합니다.*The following is [the full text] of the English article translated by 'Google Translate'. 'Google Translate' is working hard to improve understanding. It is assumed that there may be errors in the English translation.
Rep. Park Sun-won Sues YouTubers and Internet Media for Distributing Fake AI Recordings
Fake audio released as fake… Political manipulation and a new type of crime
Break News, political reporter Kim Choong-Lyoul = Rep. Park Sun-won of the Democratic Party of Korea has filed a complaint with the Yeongdeungpo Police Station against YouTubers and online media outlets for creating and distributing fake AI-manipulated audio recordings, rebroadcasting them, and using them for political attacks, alleging violations of the Internet Act, including defamation and dissemination of false information.
AI voice manipulation undermines democratic judgment itself
Rep. Park's side explained, "This case is a typical deceptive crime: using AI voice synthesis technology to create non-existent statements and disseminating them under the guise of 'fake, but released because it seems like it will have repercussions.'" They added, "The fact that they released these recordings despite knowing they were clearly false demonstrates a clear criminal intent."
The problematic content was first posted on sites such as Jeon Han-gil News, uploaded under the title, "The entire 52-minute recording file is being released, but only the unlisted 6 minutes will be released." Rep. Park's side explains that the video's introduction hinted that the recording could be "fake," while simultaneously using the format of "part of the 52 minutes being released" to intentionally lend credibility and authenticity to the recording.
The video was subsequently reprocessed and re-edited and rebroadcasted on multiple YouTube channels. The video's premise and context were removed, and only portions of the recording were distributed independently, creating the false impression that Rep. Park Sun-won had been involved in inducing specific statements and manipulating public opinion.
Rep. Park's side argued, "If it's a fake recording, it's common sense not to release it," and added, "The original producer used the 'fake' shield to avoid responsibility for its distribution, while the rebroadcasting channels disseminated the recording without context, using it as a political attack tool." He went on to emphasize, "This is an organized act of spreading disinformation, with production, distribution, and re-distribution occurring in stages."
Rebroadcasting is an independent criminal act… Additional charges will be filed immediately upon confirmation.
Currently, the rebroadcast channels identified include Seong Chang-kyung TV, Lee Bong-gyu TV, and Yoon Eo-gan TF. Representative Park's office stated that each rebroadcast is an independent criminal act and plans to file additional charges as soon as they are confirmed.
Representative Park's office requested the investigative authorities to: preserve the original file and its upload/editing history; conduct digital forensics and voice analysis to confirm the presence of AI-generated voices; and investigate the file transfer and sharing path between the original poster and the rebroadcast channel.
An official from Representative Park's office stated, "If the AI voice manipulation is true, anyone could be manipulated into saying something they didn't say." They added, "This goes beyond an attack on a specific politician and is a serious crime that destroys voter judgment and the public sphere itself." They urged, "We must clearly determine accountability through a rigorous investigation." hpf21@naver.com
