유럽연합이 일론 머스크(Elon Musk)의 인공지능 챗봇 그록(Grok)이 성적 딥페이크 생성과 관련해 디지털서비스법(DSA) 의무를 준수했는지 조사에 착수했다.

 

외신 AP통신(Associated Press)에 따르면, 유럽연합 규제 당국은 그록이 인터넷 이용자를 유해한 콘텐츠와 제품으로부터 보호하기 위한 디지털서비스법상의 의무를 이행하고 있는지 여부를 들여다보고 있다. 조사 대상은 성적 딥페이크를 포함한 유해 콘텐츠 처리와 관련된 그록의 작동 방식이다.

 

엑스(X) 대변인은 논평 요청에 대해, 회사가 “모든 이용자에게 안전한 플랫폼을 제공하기 위해 전념하고 있다”는 기존 입장을 재차 밝혔다. 엑스는 또 아동 성 착취, 비동의 누드, 원치 않는 성적 콘텐츠에 대해서는 “제로 톨러런스” 원칙을 적용하고 있다고 강조했다.

 

 

엑스가 1월 14일(현지 시간)에 낸 성명에 따르면, 회사는 사용자가 비키니, 속옷 또는 그와 유사한 노출이 많은 옷을 입은 사람을 묘사하는 것을 금지하지만, 이는 해당 행위가 불법으로 규정된 곳에 한해서만 적용된다고 밝혔다. 이 같은 기준 아래에서 플랫폼 내 성적 이미지와 관련된 조치가 이뤄지고 있는 것으로 전해졌다.

 

유럽연합 집행위원회 부집행위원장인 헨나 비르꾸넨(Henna Virkkunen) 기술주권·안보·민주주의 담당 집행위원은 성명에서 “여성과 아동을 대상으로 한 비동의 성적 딥페이크는 폭력적이고 용납할 수 없는 모욕의 한 형태”라고 밝혔다. 비르꾸넨 집행위원은 이번 조사로 엑스가 DSA에 따른 법적 의무를 이행했는지, 혹은 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스 과정에서 ‘부수적 피해’로 취급했는지를 판단하겠다고 말했다.

 

머스크가 설립한 인공지능 기업 엑스에이아이(xAI)는 지난해 여름 그록의 이미지 도구를 출시했다. 그러나 문제는 지난달 말부터 본격화됐는데, 그록이 다른 사용자가 올린 이미지를 수정해 달라는 다수의 요청을 그대로 받아들이는 방식으로 작동한 정황이 드러나면서 논란이 눈덩이처럼 커졌다.

 

이 문제는 머스크가 그록을 경쟁사보다 안전장치를 덜 둔 ‘좀 더 거친’ 대안 챗봇으로 홍보해온 점, 그리고 그록의 응답이 엑스 플랫폼에서 공개적으로 보이고 쉽게 확산될 수 있다는 점 때문에 더욱 증폭됐다. 이용자 요청에 따른 이미지 변형 결과가 공개 게시물 형태로 퍼지면서 플랫폼 전반의 안전성 논란이 함께 제기됐다.

 

이번 유럽연합 조사는 엑스 플랫폼 내에서 제공되는 그록 서비스만을 대상으로 하고, 그록의 웹사이트와 독립 앱은 포함하지 않는다. 이는 디지털서비스법이 가장 규모가 큰 온라인 플랫폼에만 적용되기 때문이라고 전해졌다.

 

유럽연합이 이번 사건을 언제까지 마무리해야 하는지에 대한 공식적인 기한은 없다. 조사 결과에 따라 엑스가 자발적으로 관행을 변경하겠다고 약속하는 선에서 끝날 수도 있고, 막대한 벌금으로 이어질 수도 있다.

 

지난해 12월(현지 시간) 브뤼셀 당국은 진행 중이던 또 다른 DSA 조사와 관련해 엑스에 1억 2천만 유로(당시 1억 4천만 달러)에 해당하는 벌금을 부과했다. 당시 유럽연합은 이용자들을 사기와 조작에 노출시킬 위험이 있는 ‘기만적 설계 관행’에 해당한다는 이유로, 파란 체크 표시(블루 체크마크) 제도가 규정을 위반했다고 판단했다.

 

유럽연합은 그록이 반유대주의적 내용을 생성했다는 의혹에 대해서도 엑스를 들여다보고 있으며, 이와 관련해 더 많은 정보를 제출하라고 요구한 상태다. 그록이 생성하는 텍스트와 이미지 전반에 대한 규제 당국의 감시가 강화되고 있는 셈이다.

 

말레이시아와 인도네시아는 이번 논란에 대응해 이달 초 자국 내에서 그록 접속을 차단하며, 그록을 차단한 첫 국가가 됐다. 두 국가는 플랫폼 내 성적 딥페이크와 관련한 우려를 이유로 조치를 취한 것으로 알려졌다.

 

말레이시아 당국은 금요일(현지 시간) 성명에서, 회사가 추가적인 보안 및 예방 조치를 시행한 뒤 이 임시 제한을 해제했다고 밝혔다. 다만 구체적인 조치 내용은 공개하지 않았다.

 

말레이시아 규제 당국은 지난주 엑스 측 대표와 만나 관련 논의를 진행했으며 앞으로도 상황을 계속 모니터링할 것이라고 설명했다. 당국은 플랫폼의 향후 조치와 콘텐츠 관리 상황을 지켜보겠다는 입장이다.

 

엑스는 미국에서도 비슷한 압박에 직면해 있다. 지난주 미국 35개 주의 법무장관들은 그록이 비동의 성적 딥페이크 이미지를 만들어내지 못하도록 할 계획을 공개하고, 이미 존재하는 관련 콘텐츠를 플랫폼에서 어떻게 제거할 것인지 설명하라고 요구하는 서한을 엑스에 보냈다.

 

이들 법무장관은 서한에서 “이 기술로 인한 피해를 추가로 해결하는 데 있어 엑스가 이 분야의 선도자가 되기를 강력히 촉구한다”고 밝혔다. 법무장관들은 그록과 관련한 안전장치 강화 및 피해 최소화 방안에 대한 엑스의 구체적인 답변을 요구하고 있다.

 

헬로티 |