안보 등 위험 초래 시 통지 의무
모델 안전 테스트 결과 알려줘야
콘텐츠 인증 ‘워터마크’도 개발
“내 딥페이크, 나도 정말로 놀라”

영국 ‘글로벌 AI 안보 정상회의’
머스크 참석… 네이버·삼성도

미국 기업들은 앞으로 개발하는 인공지능(AI) 모델이 국가안보나 경제안보, 공중보건, 안전 등에 위험을 초래할 경우 연방정부에 통지하고 안전 테스트 결과를 공유해야 한다.

조 바이든 미 대통령은 30일(현지시간) 이런 내용을 담은 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 백악관이 밝혔다. 바이든 대통령은 “AI의 도전과 기회는 전 세계적인 것이기 때문에 미국의 리더십을 계속해서 발전시킬 것”이라면서도 본인의 딥페이크(AI를 이용한 진짜 같은 가짜 영상) 경험을 공개하며 ‘기술 발전과 규제가 함께 가야 한다’고 강조했다.

바이든 대통령은 “AI 장치가 이미 사람들을 속이는 데 사용되고 있다”며 “딥페이크는 AI가 만든 오디오, 비디오를 사용해 평판을 훼손하고 가짜뉴스를 만들고 사기를 저지른다”고 강조했다. 그러면서 “그것(딥페이크)을 한번 보라, 정말 놀랍다”며 “나도 내 것(딥페이크)을 본 적이 있는데 ‘내가 언제 저런 말을 했지’라고 말했다”고 털어놓았다. 또 “사기꾼들은 여러분이 사랑하는 사람들이 여러분이 곤경에 빠졌다고 생각해 돈을 보내도록 사기를 치는 데 AI를 활용할 수 있다”고 경고했다.

백악관 측은 AI 안전·보안에 대한 새로운 표준을 수립하는 이번 행정명령 조치를 강제하기 위해 한국전쟁 당시 발효된 국방물자생산법까지 동원했다. 행정명령은 AI를 통한 사기 등을 막기 위해 AI 생성 콘텐츠를 탐지하고 공식 콘텐츠를 인증하기 위한 표준 및 모범 사례를 수립하도록 했다.

미군과 정보당국의 AI 사용 및 적의 군사적 AI 사용 대응을 위한 국가안보 각서도 개발된다. 근로자들이 일터에서 AI로 인해 근로 감시, 작업의 질 저하 등 권리를 침해받아선 안 된다는 내용도 명시됐다. 상무부는 AI 콘텐츠 인증 및 워터마크 지침 개발을 맡는다.

뉴욕타임스(NYT)는 “AI 행정명령은 테러리스트의 대량살상무기 개발 위험과 가짜뉴스가 선거판에 활용되는 것을 막을 것”이라고 전망했다.

한편 리시 수낵 영국 총리는 “AI에는 국경이 없으며 어떤 국가도 혼자 AI를 안전하게 만들 수 없다”며 11월 1~2일 런던에서 ‘글로벌 AI 안보 정상회의’를 출범한다. 미국, 프랑스, 캐나다, 독일 등 주요국 정상은 불참하지만 일론 머스크 테슬라 최고경영자(CEO)는 참석을 확정했다. 주요 국가와 기업이 한자에 모여 AI 윤리·안전을 논의하는 것은 이번이 처음으로 네이버, 삼성전자 등 한국 기업 관계자도 참석한다.