더불어민주당 조인철 의원(광주 서구갑, 국회 과학기술정보방송통신위원회)은 AI 생성물 표시제 도입과 허위·과장 AI 광고에 대한 신속 대응을 골자로 한 2건의 패키지 법안(「정보통신망법」·「방미통위 설치법」 개정안)을 20일 대표발의했다.

이번 법안은 딥페이크 등 AI 생성물이 정보통신망을 통해 빠르게 확산되며, 이용자가 무엇이 사실인지 판단하기 어려운 환경이 조성되고 있음에도 이를 플랫폼 등 유통 단계에서 규율할 제도적 장치가 미흡하다는 문제의식에서 마련됐다.

●  조인철 의원

“‘가짜 경찰 출동’ 영상에 속는 어르신들...취약계층 보호장치 시급”
최근 기술의 고도화로 일반 이용자조차 진위를 구분하기 어려운 AI 생성물이 SNS와 플랫폼을 통해 무분별하게 유통되고 있다. 실제로 AI로 합성된 ‘가짜 경찰 출동’ 영상의 경우, 많은 이용자가 이를 실제 상황으로 오인해 소비하며 사회적 혼란을 야기한 바 있다.

특히 이러한 환경은 디지털 정보 판별 능력이 상대적으로 낮은 디지털 취약계층에게 치명적이다. 과학기술정보통신부의 「2023 디지털정보격차 실태조사」에 따르면, 고령층의 디지털 정보화 수준은 70.7%로 정보취약계층 중 가장 낮다. 유튜브와 SNS를 일상적으로 소비하는 아동과 고령층이 AI로 조작된 가짜 전문가 영상이나 딥페이크 영상 등에 노출될 경우, 이를 사실로 믿고 신체·재산상 피해를 입을 가능성이 매우 높다는 지적이다.
오는 1월 22일부터 시행되는 「AI 기본법」은 생성형 AI 결과물에 대한 고지·표시 의무를 규정하고 있으나, 이는 AI를 개발하거나 이를 활용해 제품·서비스를 제공하는 ‘AI 사업자’에 한정된 규율이다. 포털·플랫폼 등 유통·확산 단계에서의 표시 의무와 관리 책임은 사실상 입법 공백으로 남아 있어, 국민 보호에는 한계가 있다는 지적이다.

“게시자는 표시, 플랫폼은 관리… 표시 훼손은 금지”
조인철 의원이 발의한 「정보통신망법 개정안」은 이러한 제도적 공백을 보완하기 위해 ▲(플랫폼) 플랫폼 사업자에게 게시자와 이용자의 AI 생성물 표시 유지·관리 의무 부과 ▲(게시자) AI 생성물을 직접 제작·편집해 게시하는 자에게 AI 생성물 표시 의무 부과 ▲(이용자) AI 생성물 표시의 임의 제거 및 훼손 금지 등의 내용을 골자로 한다. 이는 이용자가 해당 정보가 실제인지 AI 생성물인지 최소한의 판단 기준을 갖도록 하기 위한 장치라는 조인철 의원실의 설명이다.

“긴급 피해 우려 시 ‘심의 전 임시조치”
또한, 국민의 생명·재산 피해 우려가 큰 경우, 식약처·공정위 등 관계 중앙행정기관의 요청 시 방송미디어통신위원회(방미통위)가 방송미디어통신심의위원회(방미심위)의 심의 이전이라도 플랫폼에 임시 시정조치를 요청할 수 있도록 했다. 플랫폼은 우선 조치를 이행하고, 이후 방심위의 심의 결과에 따라 차단을 확정하거나 원상복구하게 된다.

“AI 허위·과장 광고, 신속 서면심의 제도 활용”
함께 패키지 법안으로 발의된 「방미통위 설치법 개정안」은 AI를 활용한 허위·과장 광고에 대한 심의 지연 문제를 해소하기 위한 것이다. 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 부당 광고를 서면심의 대상에 추가해 긴급 대응이 가능하도록 제도화했다.

조인철 의원은 “AI 기술이 고도화되면서 국민이 접하는 정보가 ‘진짜인지, AI가 만든 것인지’조차 구분하기 어려운 상황이 됐지만, 이용자 보호를 위한 제도적 장치는 여전히 미흡하다”며“AI 기본법이 AI 개발자 책임을 다뤘다면, 이번 법안은 플랫폼 등 유통 단계에서 국민 보호의 책임을 명확히 하는 보완입법으로 법안의 상당 부분은 정부 대응 방향과도 궤를 같이하고 있다”고 밝혔다.
이어 “AI 기술 발전을 위축시키려는 것이 아닌, 혁신이 신뢰 속에서 지속될 수 있도록 이용자 보호의 기본 기준부터 마련하자는 것”이라며“디지털 취약계층은 물론 국민 모두가 딥페이크 위협에 무방비로 노출되지 않도록, 국회와 정부가 속도감 있게 제도 공백을 메워야 한다”라고 강조했다.

조 의원은 마지막으로 “정보통신망에서의 명확한 AI 생성물 표시를 출발점으로, AI 산업 발전과 이용자 보호가 균형을 이룰 수 있도록 관련 입법을 지속적으로 추진하겠다”고 밝혔다.

앞서 정부는 지난해 12월 「AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안」을 마련한 바 있다. 정부 방안은 AI 가짜 의사, 허위 체험기 등 AI를 활용한 부당 광고 행위에 대한 대응을 중심으로 했으며, 조인철 의원안은 이러한 정부 대책의 연장선에서 광고 여부와 관계없이 정보통신망을 통해 유통되는 딥페이크 등 AI 생성물 전반에 대해 표시와 관리 기준을 제도적으로 마련한 것이다.