테일러 스위프트 (사진=테일러 스위프트 X 갈무리)
유명가수 테일러 스위프트의 딥페이크(이미지합성) 영상 사건이 미국을 흔들고 있다. 연말 대통령 선거를 앞둔 정가는 물론 시민사회와 산업계 모두 시끄럽다.
특히 이 영상을 만드는데 생성형 인공지능(AI)가 활용된 것으로 알려져 AI의 위험성에 대한 경각심도 커지고 있다.
사건의 불똥이 삼성전자로도 튀었다. 전세계 공식 출시를 하루 앞둔 갤럭시 S24의 인공지능(AI) 기능 중 일부가 이미지 합성 기능을 제공하기 때문. 삼성은 “생성형 AI의 과제”라고 말했지만, 생성형 AI로 변형된 사진이 잘못된 방향으로 사용될 경우 여론이나 정치권의 뭇매를 맞을 우려가 있다.
■ 스위프트 AI 조작 사진 돌아 X 뭇매…삼성 첫 AI폰, 남일 같지 않아
30일 블룸버그통신 등에 따르면 X(옛 트위터)는 아동 성착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전센터’를 신설했다. 이는 스위프트의 누드와 성적인 내용을 묘사한 딥페이크 영상이 X에서 유포된 직후 나온 것. CNBC는 딥페이크 이미지는 생성형 AI를 활용해 새로운 가짜 이미지를 생성하는 온라인사이트에서 가져온 것으로 추정된다고 전했다.
미국 정치권도 이러한 AI의 위험성에 심각성을 나타냈다. 카린 장 피에르 미국 백악관 대변인은 “이 문제(딥페이크)를 해결하기 위해 계속 노력할 것이고 관련 조치를 취할 것”이라며 “매우 우려스러운 일”이라고 표명했다. 최근엔 생성형 AI를 활용, 바이든 대통령의 가짜 전화 목소리로 투표 거부를 독려한 선거 운동이 논란이 되기도 했다.
삼성전자도 남일 같지 않은 상황이다. 삼성전자의 첫 AI 스마트폰인 갤럭시 S24에도 생성형 AI 기능이 있어서 사진을 악의적으로 조작할 수도 있기 때문이다. X와 같은 사태를 겪을 수도 있다.
삼성전자는 오는 31일부터 첫 AI 스마트폰 갤럭시 S24를 한국과 미국을 비롯해 전 세계 120여개국에 순차 출시한다. 미국에선 대선을 앞두고 민간한 상황이고, 한국도 올해 총선을 앞뒀다. 만약 S24의 생성형 AI 기능을 통해 사진을 이용해 여론을 조작하는 일이 생긴다면 삼성에겐 큰 타격이 될 수도 있다.
생성형 AI 이미지 편집 시연 모습. 본래 피사체를 다른 곳에 옮겨놓을 수 있고 원래 피사체 자리는 주변 이미지와 비슷하게 채워진다. (사진=손기호)
■ S24, 생성형 AI 이미지 편집 기능…삼성 “현재로선 AI의 한계, 과제”
지난 18일 삼성전자는 S24를 국내 기자들에게 시연해보이며 “생성형 AI 기능을 활용해 실제 사진의 없던 주변 이미지를 만들어내거나 피사체를 이동시킬 수 있다”고 밝혔다.
이날 선보인 시연에서는 농구하는 아이의 사진의 경우 농구 골대 아래에 있었지만, 아이가 마치 덩크 슛을 하는 것처럼 바꿀 수 있었다. 원래 피사체가 있던 공간은 자동으로 주변 환경에 맞춰 AI가 채워줬다. 또 사진을 축소하면 기존 사진에 없었던 골대의 모습을 AI가 생성해줬다. 사실적으로 보이지만, 진짜 촬영한 부분은 아니다.
삼성 관계자는 “AI로 편집된 사진은 하단에 AI 로고가 표시돼 구분된다”고 말했다.
하지만 이 부분을 잘라내버리면 사진이 원본인지 AI가 편집한 것인지 알 수 없다. 이와 관련해 삼성 관계자는 “생성형 AI 시대에 해결해야 할 과제 중 하나일 것”이라고 답했다.
사실상 지금으로선 AI 기능을 활용해 사진 조작 등 악의적 사용을 막을 방법이 없다는 말이다.
하지만 AI를 활용하는 관련 업계에서도 대책 마련에 나서고 있는 상황에서 삼성도 가만히 있을 수는 없을 것으로 보인다.
사티아 나델라 MS최고경영자는 이번 생성형 AI를 활용한 스위프트 사진 조작 사건을 계기로 IT 업계가 빨리 행동에 나설 것이라며 안전장치 마련에 적극 참여해야 한다고 강조했다. 이번 스위프트 딥페이크 이미지가 MS의 AI 생성 도구로 만들어졌다는 주장이 나왔고 MS는 관련 조사에 돌입했다.