 ▲ 박성훈 (국민의힘, 부산 북구을) 의원 |
[브레이크뉴스=배종태 기자] 최근 챗GPT와 제미나이 등 생성형 인공지능(AI)이 내놓는 거짓 정보인 이른바 '환각 현상'으로 인한 피해 우려가 커지는 가운데, 이를 방지하고 해외 빅테크 기업의 책임을 강화하는 법안이 추진된다.
국회 재정경제기획위원회 소속 박성훈 의원(국민의힘, 부산 북구을)은 10일, 해외 정보통신서비스 제공자의 책임 범위를 확대하고 AI 생성물에 대한 표시 의무를 강화하는 '정보통신망법 개정안'을 대표 발의했다고 밝혔다.
해외 빅테크 국내 대리인 업무에 피해 구제 명시
현행법상 해외 사업자의 국내 대리인은 업무 범위가 단순 자료 제출에 국한되어 있었다. 이로 인해 이용자가 AI의 부정확한 정보로 피해를 입더라도 실질적인 불만 처리나 구제를 강제하기 어렵다는 지적이 제기되어 왔다.
이번 개정안은 국내 대리인의 업무에 '불만 처리 및 피해 구제를 위한 접수와 결과 통보'를 명확히 추가했다. 이를 통해 해외 사업자가 한국 시장에서 수익만 거두고 법적 책임은 회피하는 관행을 원천 차단하겠다는 구상이다.
의료·법률 등 전문 분야 경고 문구 의무화
특히 보건의료, 법률, 금융 등 국민의 생명 및 재산과 직결된 전문 분야에 대한 규제가 대폭 강화된다. AI가 해당 분야의 답변을 생성할 경우 "전문가의 판단을 대체할 수 없다"는 사실을 이용자가 명확히 인식하도록 공지해야 한다.
이는 AI의 작은 정보 오류가 치명적인 사고나 재산상 손실로 이어지는 것을 막기 위한 안전장치다. 또한 AI를 이용해 만든 음향, 이미지, 영상에는 반드시 AI 생성물이라는 사실을 표시하도록 의무화했다.
위반 시 과태료 1천만 원... 실효성 확보
개정안은 법의 실효성을 높이기 위해 처벌 조항도 신설했다. AI 생성 사실을 알리지 않거나 전문 분야에서 전문가 대체 불가 안내를 고지하지 않을 경우 최대 1,000만 원의 과태료를 부과할 수 있도록 했다.
박성훈 의원은 "AI 기술이 일상에 깊숙이 자리 잡았지만 피해 구제 제도는 기술 발전 속도를 따라가지 못하고 있다"며 "해외 빅테크 기업의 책임 회피를 근절하고 국민들이 안전하게 AI를 이용할 수 있는 환경을 조성하겠다"고 강조했다.
[Here’s an English version of the article] Lawmaker Park Sung-hoon Proposes Bill to Curb ‘Faulty AI’ and Hold Big Tech Accountable
Amendment to the Information and Communications Network Act to mandate damage relief and AI-generated content labeling
As concerns grow over 'hallucinations' false information generated by AI services like ChatGPT and Gemini—a new legislative measure has been proposed to strengthen the accountability of global Big Tech companies and protect users.
Representative Park Sung-hoon of the People Power Party (Busan Buk-gu B), a member of the National Assembly's Strategy and Finance Committee, announced on the 10th that he has introduced an amendment to the 'Information and Communications Network Act'. The bill aims to expand the responsibilities of local agents for overseas service providers and mandate clear labeling of AI-generated content.
Expanding the Role of Local Agents for Global Big Tech
Under current law, the duties of local agents representing overseas information and communications service providers were limited to "data submission." This made it difficult for users to seek practical redress or file complaints even when they suffered damages due to inaccurate AI information.
The proposed amendment explicitly adds the "receipt of complaints and notification of results for damage relief" to the legal duties of local agents. This measure is intended to prevent overseas tech giants from profiting in the Korean market while evading their legal responsibilities to users.
Mandatory Warnings for High-Stakes Fields: Medicine and Law
The bill introduces stricter regulations for specialized fields directly linked to public safety and property, such as healthcare, legal services, and finance. When AI provides answers in these categories, it must clearly notify users that the content "cannot replace the judgment of a professional."
This serves as a safety mechanism to prevent minor AI errors from leading to fatal accidents or significant financial losses. Furthermore, any audio, images, or videos created using AI must be clearly labeled to inform users of their synthetic nature.
Fines of Up to 10 Million Won to Ensure Compliance
To ensure the law’s effectiveness, the amendment includes a penalty provision. Failure to disclose AI generation or the "non-replacement of professionals" warning can result in an administrative fine of up to 10 million won.
"AI technology has become deeply integrated into our daily lives, yet the systems for damage relief have failed to keep pace with the speed of technological advancement," said Rep. Park. He emphasized that the bill seeks to "root out the practice of overseas Big Tech companies enjoying benefits while avoiding responsibility, ensuring a safe and reliable AI environment for all citizens."
원본 기사 보기:부산브레이크뉴스
