함께해요1234together

2026년 AI 업계에서 가장 뜨거웠던 논란 중 하나는 ‘그록(Grok)’ 딥페이크 사태입니다. 구체적인 타임라인과 각국의 대응을 짚어보겠습니다.

1월 11일, 세계 최초로 그록을 차단한 인도네시아

일론 머스크의 AI 기업 xAI가 만든 챗봇 ‘그록’의 이미지 생성·연동 기능이 사용자들에 의해 악용되면서, 실존 인물을 대상으로 한 딥페이크 성착취물이 대량 생성·유포되는 사건이 발생했습니다. 여기에는 아동을 대상으로 한 콘텐츠까지 포함된 것으로 알려지며 논란이 커졌습니다.

이에 인도네시아 통신디지털부는 1월 10일(현지시간) 성명을 통해 그록 서비스를 일시 차단한다고 발표했습니다. 무티아 하피드 장관은 “AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동, 지역사회 전체를 보호하기 위한 조치”라며 “동의 없이 생성·유포되는 딥페이크는 인권과 존엄성, 국가 안보를 심각하게 침해하는 행위”라고 밝혔습니다. AI 서비스를 이유로 국가가 접근을 차단한 세계 최초 사례로 기록됐습니다.

인도네시아 디지털 공간 감독국 알렉산더 사바르 국장은 “초기 조사 결과 그록은 사용자들이 인도네시아 거주자의 실제 사진을 기반으로 음란물을 제작·유포하는 것을 막을 효과적인 안전장치가 부족한 것으로 나타났다”고 설명했습니다.

말레이시아·필리핀으로 확산된 차단 조치

인도네시아에 이어 말레이시아와 필리핀도 유사한 조치에 나섰습니다. 말레이시아 통신멀티미디어위원회는 그록이 “여성과 미성년자를 포함한 음란하고 성적으로 노골적이며 비동의하에 조작된 이미지를 생성하는 데 반복적으로 오용되고 있다”고 지적했습니다. 논란이 커지자 xAI는 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 이용할 수 있도록 제한하는 조치를 내놨습니다.

2월 2일, 조건부로 차단 해제

인도네시아 통신·디지털부는 2월 2일 X(옛 트위터)가 제출한 개선 계획을 근거로 그록 서비스 재개를 조건부로 허용했습니다. X 측은 기술적 보호장치 강화, 일부 기능 제한, 내부 정책·집행 체계 보완, 사고 대응 프로토콜 가동 등의 안전조치를 서면으로 제출한 것으로 알려졌습니다. 다만 당국은 이를 ‘단순한 종료’가 아닌 ‘지속적인 평가의 출발점’이라 강조하며, 불법 콘텐츠 유포나 아동 보호법 위반이 재발할 경우 다시 차단하겠다고 경고했습니다.

미국·영국까지 번진 조사

그록은 같은 사안으로 미국 캘리포니아주 법무장관과 영국 규제기관의 조사도 받고 있습니다. 비동의 성적 딥페이크에 대한 글로벌 규제 압박이 점점 거세지는 모양새입니다. 실제로 미국 부통령 JD 밴스도 AI를 이용한 음란물 문제에 대해 강력한 규제가 필요하다는 입장을 밝힌 바 있습니다.

유럽의 접근: 플랫폼 책임 강화

한편 유럽에서는 좀 더 제도적인 접근이 이뤄지고 있습니다. 2026년 9월 기준, EU는 대형 AI 챗봇 서비스인 챗GPT를 디지털서비스법(DSA)의 적용 대상으로 지정하며 플랫폼 차원의 책임을 강화하는 방향으로 움직였습니다. 개별 사건 대응 중심인 아시아권 국가들과 달리, 플랫폼 규모 자체에 대한 규제 틀을 적용하려는 시도로 볼 수 있습니다.

왜 이 문제가 중요한가

이 사례가 보여주는 건, AI 기술의 발전 속도가 법과 제도보다 훨씬 빠르다는 점입니다. 인도네시아·말레이시아·필리핀의 차단 조치는 ‘사후 대응’의 성격이 강했고, 실제로 피해가 발생하고 나서야 규제가 뒤따랐습니다. 그 사이 실제 피해자들이 발생했다는 점에서, 기술 발전과 안전장치 사이의 간극이 여전히 크다는 것을 확인할 수 있습니다.

마무리하며

AI가 가져다주는 편리함 뒤에는 분명한 그림자도 존재합니다. 특히 이미지·영상 생성 기능이 강력해질수록, 이를 악용할 가능성도 함께 커진다는 사실을 그록 사태가 명확하게 보여줬습니다. 기술 발전 속도만큼 안전장치와 제도가 함께 성장하지 않으면, 신뢰를 얻기 어렵다는 교훈을 남긴 사건이라 할 수 있습니다.

이 글은 2026년 1~9월 공개된 보도 내용을 바탕으로 정리되었습니다.