chat GPT, 미드저니 등의 생성형 AI 기술이 빠른 속도로 발전하면서, 이에 대한 적절한 규제가 필요하다는 주장이 제기되고 있는 가운데 이번 개정안 발의가 이뤄져 관심을 끌고 있다.
최근 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 된 바 있는데 AI를 이용해 만든 허위 이미지로 밝혀졌다. 지난 13일에는 트럼프 전 미국 대통령이 SNS를 통해 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸는데, 이 또한 AI가 만든 가짜 영상인 것으로 알려졌다.
생성형 AI가 만들어내는 이미지, 영상, 음성 등이 갈수록 정교해지고 있어 이용자들이 진위 여부를 쉽게 파악할 수 없는 상황이다. AI 발 허위 콘텐츠로 인한 혼란을 막기 위해서는 제도적 개선이 시급하다는 의견이 제기되고 있다.
이에 이상헌 의원이 발의한 '콘텐츠산업 진흥법 일부개정법률안'은 텍스트, 이미지, 음악 등의 콘텐츠가 AI 기술을 이용해 만들어졌을 경우, 해당 콘텐 츠가 AI 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다.
이상헌 의원은 "AI 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다. 현재 EU에서는 AI가 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고 영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의된 상황"이라며, "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.
이원희 기자 (cleanrap@dailygame.co.kr)
