'초고속 진화' 딥페이크, 국가 안보까지 흔든다.. AI 규제냐 개발이냐

AI 기술, 그중에서도 이미지 합성 기술인 '딥페이크'는 새로운 범죄 유형까지 만들어냈습니다.

기술이 빠르게 발전하는 만큼 규제도 함께 마련하려는 움직임이 세계 곳곳에서 이어지고 있는데요.

편리함을 누리는 동시에 안전할 수 있도록, 우리는 충분히 노력하고 있을까요?

전쟁 중 군인들에게 싸우지 말고 집에 가라는 젤렌스키 우크라이나 대통령.

AI 기술로 만든 가짜입니다.

미국에선 민주당 당원들에게 대통령 목소리로 투표하지 말라는 전화가 왔습니다.

인공지능이 선거조작에 이용된 겁니다.

한국에선 유명 연예인의 얼굴과 목소리를 조작한 투자사기가 문제가 됐습니다.

날개를 단 발전속도에 세계 각국에선 AI 기술 규제 방안을 마련하고 있습니다.

EU는 세계 최초로 포괄적 인공지능규제법을 만들어 2026년부터 시행하기로 했습니다.

테러 수사 같은 경우를 제외하곤 CCTV를 활용한 안면 인식이 금지되고, 어기면 전 세계 매출의 7%까지 벌금을 부과하기로 했습니다.

미국도 빅테크 기업들을 향해 AI 안전 테스트 정보를 정부와 공유하라고 행정명령을 내렸습니다.

하지만 한국은 아직 걸음마 단계입니다.

딥페이크로 성착취물을 제작하거나 선거운동에 활용하면 처벌할 수 있지만 사기에 대한 처벌 규정은 따로 없습니다.

지난해 마련된 'AI 기본법' 초안이 마련됐지만 상임위 문턱도 못 넘어 21대 국회 임기와 함께 폐기될 예정입니다.

어젯밤 AI 정상회의에선 혁신·안전·포용성 등 3대 원칙을 담은 '서울 선언'을 채택됐습니다.

정부는 AI 생성물에 워터마크 표시를 의무화하고 디지털 위협에 대비하는 법도 만들겠다고 했습니다.

하지만 규제냐 개발이냐, 가볍지 않은 논쟁에 22대 국회에서도 마냥 속도를 내기는 힘든 상황입니다.

https://n.news.naver.com/article/214/0001350226