"내가 도대체 언제 저렇게 발언했지" 바이든이 '이것' 서명하고 한 말

바이든 대통령 AI 위협 규제하는 행정명령 서명
美 정부 AI 생성 자료에 워터마크 등 레벨 붙일 예정
내년 대선에서 가짜뉴스 줄일 美 의회 움직힘 빨라질 전망

지난 5월 22일 미국 워싱턴DC에 있는 미국 국방부 청사 근처에서 폭발이 발생한 것으로 보이는 가짜 사진이 SNS에서 리트위됐다. 이 사진을 살펴보면 미국 국방부 청사와 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟고 있는 모습이 담겼다. /사진=연합뉴스

【실리콘밸리=홍창기 특파원】

조 바이든의 미국 정부가 AI(인공지능)을 활용한 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 사진과 영상 등의 심각한 문제를 해결하기 위한 규제전략 마련을 위한 첫발을 뗐다. AI 안전 및 보안에 대한 새로운 표준을 수립하고 딥 페이크 등 가짜 AI 생성 콘텐츠로부터 미국인의 사생활과 시민권을 보호하는 것도 속도가 날 전망이다.

생성형 AI가 만들어 내는 진짜같은 가짜 답변 딥페이크 사진, 동영상 등이 이미 실제와 구분하기 어려울 정도로 발전한 상황인 가운데서다.

AI행정 명령 서명 바이든 "내 딥페이크 본 적 있다"

30일(현지시간) 바이든 대통령은 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다. 바이든이 서명한 행정 명령에는 개인 정보부터 미국 국가 안보에 이르기까지 다양한 분야에서 AI의 위협을 규제하는 내용이 담겼다. 이에 따라 주요 AI 기업들은 미국 국가 안보와 경제 안보, 공중 보건 및 안전에 심각한 위험을 초래하는 시스템을 개발할 때 연방 정부에 알려야 한다.

행정명령에 서명하기 전 바이든 대통령은 "나도 내 딥페이크을 본 적이 있다"라면서 "나는 '내가 도대체 언제 저렇게 발언했지'라고 (스스로) 말하기도 했다"고 전했다.

이번 행정 명령으로 미국 상무부는 AI가 생성한 자료에 워터마크 등의 레벨을 붙이도록 하는 표준안을 개발할 예정이다. 이 표준안은 2024년 대선 앞두고 큰 문제가 될 것으로 우려되는 딥페이크 콘텐츠 식별하는 데 도움이 될 것으로 평가된다.

이미 알파벳(구글 모회사)을 비롯해 메타, 마이크로소프트(MS), 오픈AI 등 주요 AI 기업은 지난 7월 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 약속한 바 있다. 이번 행정 명령은 AI를 과도하게 제한하지 않으면서 AI의 잠재적 피해로부터 피해자들을 보호하는 데 진전을 이뤘다는 평가를 받는다.

브루스 리드 백악관 부보좌관은 "이번 행정 명령은 AI의 안전·보안·신뢰에 대해 전 세계 어느 정부도 취하지 않았던 가장 강력한 조치"라고 강조했다.

프란치스코 교황이 하얀색 패딩을 입고 있는 AI로 만들어진 가짜 사진이 X(옛 트위터)에서 2540만건의 조회수를 기록했다. /사진=뉴시스

명품 패딩 입는 가짜 교황 사진, 이제는 못나올까

미국 보안 전문가들과 민주당 의원들도 바이든의 행정 명령 서명을 긍정적으로 평가했다. 이날 행정 명령으로 지금까지 미 의회에서 지지부진했던 보다 포괄적인 AI 규제 법안을 위한 모멘텀이 구축됐다고 평가했다.

척 슈머 상원 원내대표(민주·뉴욕)는 "행정 명령은 제한적"이라면서 의회에서 처리 가능한 AI 법안에 대한 다음 단계를 논의할 계획이라고 설명했다. 현재 테드 류(민주·캘리포니아) 하원의원과 켄 벅(공화·콜로라도) 하원의원이 AI 규제를 전략화할 수 있도록 위원회를 구성하는 법안을 발의한 정도다.

AI를 활용한 가짜 뉴스와 딥페이크 이미지는 심각한 상황이다.

지난 3월에 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 가짜 이미지가 실제인 것처럼 퍼져 논란이 벌어진 바 있다. 또 성추문 사건과 관련해 체포 전망이 제기됐던 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐다.

올해 1월에도 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다.

불법 업자들이 온라인에서 이런 '음성 복제'를 악용, 기업 대표나 공인의 목소리를 베낀 영상을 판매하는 일도 기술적으로 불가능하지 않다고 가디언은 관측했다.

미국 사이버보안 업체인 '레코디드 퓨처'의 알렉산더 레슬리 분석가는 "미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다"며 "폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다"고 경고했다.

올해 5월 샘 올트먼 오픈AI CEO(최고경영자) 역시 미 의회 청문회에 출석해 AI의 대화형 허위 정보를 제공할 수 있는 능력을 우려했다.

[e-mail] 홍창기 기자