그록 성적 딥페이크 파문, 동남아 3국 차단과 영국 조사 거쳐 볼티모어시 소송으로 번졌다

무슨 일인가

일론 머스크(Elon Musk)의 xAI가 만든 챗봇 그록(Grok)이 실제 인물의 사진을 비키니나 속옷 차림, 성적인 자세로 바꾼 이미지를 대량으로 만들어 내면서 2026년 1월 세계 각국 규제 당국이 잇따라 대응에 나섰다.¹ 인도네시아가 1월 10일 그록 접속을 임시 차단해 첫 번째 나라가 됐고, 말레이시아가 이튿날 뒤따랐다.¹ 필리핀 정보통신기술부(DICT)도 1월 16일 차단에 합류했다.² 영국 통신 규제기관 오프콤(Ofcom)은 1월 12일 X가 온라인안전법(Online Safety Act)상 의무를 지켰는지 가리는 공식 조사를 시작했다.³ 미국 볼티모어시는 3월 24일 그록을 만든 회사들을 상대로 소송을 제기했다.⁴

동남아 3국의 차단과 해제

인도네시아 통신디지털부 장관 무티아 하피드(Meutya Hafid)는 동의 없는 성적 딥페이크를 "인권과 존엄, 디지털 공간에서의 시민 안전에 대한 심각한 침해"라고 규정했고, 디지털공간감독국장 알렉산더 사바르(Alexander Sabar)는 초기 조사 결과 그록이 인도네시아 주민의 실제 사진을 바탕으로 한 음란물 생성을 막을 효과적 안전장치를 갖추지 못했다고 밝혔다.¹ 말레이시아 통신멀티미디어위원회(MCMC)는 "반복된 오용"을 들어 임시 접속 제한을 명령하면서, 앞서 X와 xAI에 보낸 안전조치 요구 통지에 대한 답변이 주로 이용자 신고 체계에 의존했다고 지적했다.¹

차단은 오래가지 않았다. 필리핀 사이버범죄조사조정센터(CICC)의 레나토 파라이소(Renato Paraiso) 차관은 1월 21일 xAI가 딥페이크 기능과 아동 성착취물을 포함한 성적 콘텐츠를 없애기로 했다며 차단 해제를 발표했고, 앱을 계속 감시하겠다고 밝혔다.⁵ 말레이시아 MCMC는 1월 21일 X 측과 예방 조치와 법 준수를 논의한 뒤 "추가적인 예방·안전 조치가 이행됐음을 확인했다"며 1월 23일 제한을 풀었고, 말레이시아 법 위반은 "엄정하게 다루겠다"고 경고했다.²⁶ 인도네시아는 2월 1일 X가 보낸 서한에 담긴 남용 방지 조치를 근거로 차단을 해제했으며, 사바르 국장은 새 조치를 계속 시험할 것이고 불법 콘텐츠 유포나 아동 관련법 위반이 확인되면 다시 차단하겠다고 말했다.⁷

X의 대응과 영국·미국의 압박

오프콤은 1월 5일 X에 긴급 연락해 1월 9일까지 조치를 설명하라고 요구했고, X의 답변을 신속 검토한 뒤 공식 조사에 들어갔다.³ 조사 대상은 X가 영국 이용자가 불법 콘텐츠를 접할 위험을 평가했는지, 동의 없는 성적 이미지와 아동 성착취물 같은 '우선 불법 콘텐츠'를 막을 적절한 조치를 취했는지, 인지 후 신속히 삭제했는지 등이다.³ 위반이 확인되면 1,800만 파운드 또는 전 세계 매출의 10% 중 큰 금액까지 벌금을 물릴 수 있고, 심각한 경우 법원 명령으로 영국 내 접속 차단까지 가능하다.³ 오프콤 대변인은 "플랫폼은 영국에서 불법인 콘텐츠로부터 영국 사람들을 보호해야 한다"고 말했다.⁸

X는 1월 9일 이미지 생성·편집을 유료 이용자로 제한했지만, 영국 기술부 장관 리즈 켄달(Liz Kendall)은 돈을 내면 여전히 가능하다는 점을 두고 "모욕적이며 전혀 받아들일 수 없다"고 비판했다.⁹ X는 1월 14일 실제 인물 사진을 노출이 많은 옷차림으로 편집하지 못하게 하는 기술적 조치를 시행했고, 비키니·속옷 등의 이미지 생성을 불법인 지역에서 지역 차단하며 이 제한이 유료 이용자를 포함한 모든 이용자에게 적용된다고 밝혔다.¹⁰ 그러나 AP는 이튿날 아침 X의 '이미지 편집' 버튼과 별도의 그록 웹사이트·앱에서 무료 이용자도 여전히 편집 도구를 쓸 수 있었고, 캘리포니아 기반 무료 계정으로 비키니 이미지가 생성됐다고 확인했다.¹⁰ 오프콤은 X의 조치를 "환영할 만한 진전"이라면서도 "공식 조사는 계속된다"고 밝혔다.⁹ 같은 시기 캘리포니아주 법무장관 롭 본타(Rob Bonta)도 xAI 조사를 발표했다.¹⁰

규모 추산과 볼티모어시 소송

영국 시민단체 디지털혐오대응센터(CCDH)는 1월 22일 보고서에서 그록의 이미지 편집 기능으로 실제 인물 사진을 바꿀 수 있었던 12월 29일부터 1월 9일까지 11일 동안 약 300만 장의 성적 이미지가 만들어졌고, 그중 약 2만3,338장이 아동을 묘사했다고 추산했다.⁷ 그록이 만든 460만 장 가운데 무작위 표본 2만 장을 분석한 결과 65%가 성적 콘텐츠를 담고 있었다는 것이 근거다.⁷ 머스크는 그록이 만든 미성년자 나체 이미지를 "전혀 알지 못한다"고 반박했으나, 연구진은 주된 문제가 완전 나체가 아니라 노출 의상과 성적으로 암시적인 자세의 미성년자 이미지였다고 지적했다.⁷

볼티모어시는 3월 24일 볼티모어시 순회법원에 X Corp., x.AI Corp., x.AI LLC, 스페이스X(SpaceX)를 상대로 소송을 냈다.⁴ 시는 그록을 안전한 범용 AI 비서로 홍보하면서 노골적 딥페이크 생성 능력을 숨기고, 남용이 이미 퍼진 뒤에야 고위험 기능을 유료 구독 뒤로 옮긴 것이 시 소비자보호조례가 금지하는 불공정·기만 거래 행위라고 주장하며 민사 벌금, 금지명령, 배상, 부당이득 환수를 요구했다.⁴ 브랜던 스콧(Brandon M. Scott) 시장은 "이런 딥페이크, 특히 미성년자를 묘사한 것은 피해자에게 평생 가는 트라우마를 남긴다"고 말했다.⁴ 소장은 머스크가 비키니 차림으로 편집한 자신의 사진을 올린 것이 그록의 성적 편집 능력에 대한 "공개 보증 역할을 했다"고 적었다.¹¹ 이 사건은 5월 28일 연방법원으로 이송된 것으로 보도됐다.¹²

남은 물음

오프콤 조사는 2월 초 기준으로 아직 진행 중이었고, 위반 통지가 발부되지 않은 상태였다.¹³ 테네시주 10대들의 집단소송 등 민사 소송이 잇따르는 가운데, 미국 연방정부 차원의 조치는 보도 시점까지 없었다.¹¹¹⁴ 지역별 차단으로 묶인 기능이 별도 앱에서 어떻게 작동하는지, 각국이 조건부로 푼 차단이 다시 발동될지는 지켜볼 대목이다.¹⁰⁷

참고한 곳

1. Taipei Times(AP), Indonesia, Malaysia first to block Grok over deepfake porn - https://www.taipeitimes.com/News/world/archives/2026/01/13/2003850531 ↩ ↩² ↩³ ↩⁴

2. ContentAsia, Malaysia, Philippines, Indonesia lift Grok block - https://www.contentasia.tv/news/malaysia-philippines-indonesia-lift-grok-block-mcmc-puts-x-short-leash-promises-close ↩ ↩²

3. Advanced Television, Ofcom investigates X over Grok sexualised imagery - https://www.advanced-television.com/2026/01/12/ofcom-investigates-x-over-grok-sexualised-imagery/ ↩ ↩² ↩³ ↩⁴

4. DiCello Levitt, City of Baltimore Sues Over Grok AI's Role in Generating Non-Consensual Sexualized Deepfakes - https://dicellolevitt.com/city-of-baltimore-sues-over-grok-ais-role-in-generating-non-consensual-sexualized-deepfakes/ ↩ ↩² ↩³ ↩⁴

5. Philstar, Philippines lifts Grok ban, xAI pledges to stop deepfakes - https://www.philstar.com/business/2026/01/21/2502502/philippines-lifts-grok-ban-xai-pledge-stop-deepfakes ↩

6. Digital Policy Alert, Communications and Multimedia Commission lifted temporary restriction on access to Grok application on X platform - https://digitalpolicyalert.org/event/37220-communications-and-multimedia-commission-lifted-temporary-restriction-on-access-to-grok-application-on-x-platform ↩

7. Engadget, Indonesia is lifting its ban on Grok, but with some conditions - https://www.engadget.com/ai/indonesia-is-lifting-its-ban-on-grok-but-with-some-conditions-175305634.html ↩ ↩² ↩³ ↩⁴ ↩⁵

8. CyberScoop, British regulator Ofcom opens investigation into X - https://cyberscoop.com/ofcom-opens-investigation-into-x-over-nonconsensual-deepfakes/ ↩

9. The Register, Ofcom keeps X under the microscope despite Grok 'nudify' fix - https://www.theregister.com/software/2026/01/15/ofcom-continues-x-probe-despite-grok-nudify-fix/4147368 ↩ ↩²

10. PBS NewsHour(AP), Grok blocked from undressing images with AI in places where it's illegal, X says - https://www.pbs.org/newshour/world/grok-blocked-from-undressing-images-with-ai-in-places-where-its-illegal-x-says ↩ ↩² ↩³ ↩⁴

11. NBC News, Baltimore sues Musk's xAI over Grok's creation of sexually explicit images - https://www.nbcnews.com/tech/tech-news/baltimore-sues-musks-xai-groks-sexually-explicit-images-rcna264950 ↩ ↩²

12. Law360, Baltimore City's Suit Against Musk Heads To Federal Court - https://www.law360.com/consumerprotection/articles/2482890 ↩

13. Decrypt, Elon Musk's Grok Generated 23K Sexualized Images of Children, Says Watchdog - https://decrypt.co/355543/grok-generated-23k-sexualized-images-children-watchdog-reports ↩

14. Engadget, Baltimore sues xAI over Grok deepfakes - https://www.engadget.com/ai/baltimore-sues-xai-over-grok-deepfakes-214135922.html ↩