남양주법무법인 딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림 [플랫] > 견적문의

남양주법무법인 딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림 [플랫]

작성일 26-01-15 07:19

페이지 정보

작성자 또또링2 조회 7회 댓글 0건

본문

회사명 :

이름 : 또또링2

연락처 :

이메일 : bvcjbkjh8678ds@naver.com

볼트 또는 시공주소 :

남양주법무법인 일론 머스크 최고경영자가 이끄는 인공지능(AI) 회사 xAI의 챗봇 ‘그록’이 성 착취물 딥페이크를 다량 생성해 유포하는 것에 대해 미국과 유럽 정치권에서도 거센 비판이 나오고 있다.
10일(현지시간) 가디언에 따르면 J D 밴스 미 부통령은 지난 8일 데이비드 래미 영국 외교장관과 회담을 하면서 AI가 생성한 성 착취물이 플랫폼을 통해 확산하는 것은 “전적으로 용납할 수 없는 일”이라고 말했다. 밴스 부통령은 그록을 직접 언급하지는 않았지만, 그록 접속 차단 방안을 검토 중인 영국 정부에 “공감한다”고 말한 것으로 전해졌다.
그록은 소셜미디어 엑스 내에서 제공되는 AI 서비스다. 지난달 말 ‘이미지 편집’ 기능이 추가된 이후 성 착취물 딥페이크를 손쉽게 만들 수 있어 논란이 되고 있다.
[플랫]AI 시대의 성폭력
[플랫]“사람 죽이는 제품 만들어”…‘아동 성 착취’에 고개 숙인 SNS 경영자들
이 기능을 사용하면 온라인에 있는 실존 인물의 사진을 속옷이나 수영복 차림으로 바꿔 유포할 수 있다. 챗GPT와 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 ‘표현의 자유’를 내세워 이를 허용하고 있다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난달 25일부터 이달 1일까지 그록이 생성한 이미지 20만개를 무작위 분석한 결과 53%는 속옷, 비키니 등을 입은 인물을 담고 있었고, 이 가운데 여성으로 보이는 인물 비중은 81%에 달했다. 전체 이미지의 2%는 18세 이하로 보였다.
민주당 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코)은 전날 애플과 구글 CEO에게 서한을 보내 그록 앱과 엑스 앱을 앱스토어에서 퇴출하라고 요구했다.
이들은 “머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다”며 “엑스의 끔찍한 행위에 눈감는 것은 귀사의 콘텐츠 관리 관행을 조롱거리로 만들 것”이라고 지적했다.
인도네시아 정부는 전 세계 최초로 그록 서비스에 대해 접속 차단 조치를 했다.
무티아 하피드 인도네시아 통신디지털부 장관은 이날 성명을 내고 “정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크가 인권과 존엄성을 침해하는 중대 행위라고 간주한다”고 밝혔다. 유럽 주요 국가들도 이 문제에 대한 조사에 착수했다.
논란이 커지자 엑스와 xAI 측은 지난 9일부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했다. 그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 월 8달러의 “유료 구독이 필요하다”고 답변하고 있다. 앞서 해당 기능은 무료로 제공됐다.
그러나 이미지 편집 기능을 엑스 유료 구독자로 제한한 것은 미봉책에 불과하다는 비판이 나온다.
토머스 레니에르 유럽연합 집행위원회 대변인은 “유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다”고 말했다.
▼ 윤기은 기자 energyeun@khan.kr
이재명 대통령이 다카이치 사나에 일본 총리와 회담에서 한·중·일 3국 협력의 필요성을 언급하면서 그 배경에 관심이 쏠린다. 이 대통령은 앞서 시진핑 중국 국가주석과의 회담 때는 한·중·일 관계와 관련한 내용을 공개적으로 거론하지 않았다.
이 대통령은 지난 13일 일본 나라현 나라시에서 개최한 다카이치 총리와의 회담에서 “한·중·일 3국이 최대한의 공통점을 찾아 함께 소통하며 협력해 나갈 필요가 있다는 점을 강조했다”라고 공동언론발표를 통해 발표했다. ‘한·중·일 협력 지속’이라는 정부의 외교 기조에 따른 원론적인 입장을 밝힌 것이다. 한·중·일 협력 증진을 위한 상설 사무국(TSC)이 서울에 설치돼 있기도 하다.
다만 다카이치 총리의 ‘대만 유사시 개입’ 시사 발언으로 지난해 11월 촉발된 중·일 갈등이 지속하는 상황이라 주목을 받았다. 이 대통령이 3국의 ‘최대 공통점’과 ‘소통·협력’을 강조한 것은 중·일 양측에 관계 안정화 노력을 에둘러 요청한 것이란 해석이 나온다. 중·일관계 악화로 한·중·일 정상회의 개최가 불투명해지는 등 3국 협력에 차질을 빚고 있기 때문이다.
해당 발언이 눈길을 끈 다른 이유는 이 대통령이 지난 5일 시 주석과의 회담에서는 같은 사안을 논의했는지 이 대통령과 청와대 등에서 밝히지 않았기 때문이다. 이 대통령이 다카이치 총리와 회담에서 3국 협력을 공개 언급한 것은 중·일 사이에서 중립을 유지한다는 입장을 피력하기 위해서란 분석이 나온다. 이 대통령이 일본 방문을 통해 일본 쪽에 기울었다고 비칠 우려를 차단하려는 포석이라는 얘기다.
이 대통령은 공동언론발표에서 3국 협력 발언 직전에 “양국은 한·일 및 한·미·일 협력의 중요성에 대해서 인식을 함께했다”고 말했다. 이어 곧바로 한·중·일 협력을 거론한 것은 중국과의 균형을 맞추기 위한 것으로 볼 수도 있다. 또 다카이치 총리는 전날 공동언론발표에서 “이 대통령과 공급망 협력에 대해 심도 있게 논의했다”고 밝혀 중국의 대일본 희토류 등 이중용도 물자 수출통제 문제도 의제에 포함됐다는 점을 시사했다. 일본 언론들도 이날 두 정상이 공급망 등 경제안보 협력 강화에 합의한 사실을 주요하게 다루면서 “중국이 경제적인 압력을 강화하는 가운데 한국과 공조하려는 목적” 등으로 해석했다. 중국의 수출통제는 다카이치 총리의 대만 관련 발언에 따른 보복 조치이다.
양기호 성공회대 교수는 14일 “중·일 관계가 너무 좋지 않은 상황에서 한·일 및 한·미·일 협력을 강조하면 중국을 자극할 수 있어서 이 대통령이 균형점을 잡은 것으로 본다”라며 “한국이 중·일을 적극 중재할 수 없기 때문에 이 대통령이 할 수 있는 최대치의 언급을 한 것”이라고 했다.
반면 다카이치 총리는 회담에서 한·중·일 관계와 관련한 언급을 하지 않았다. 그는 또한 양안 문제를 연상시키는 발언도 내놓지 않았다. 지난해 8월 이시바 시게루 당시 일본 총리가 이 대통령과 회담 이후 공동언론발표에서 “힘 또는 위압에 의한 일방적 현상 변경 시도에 반대한다는 뜻을 밝혔다”라며 양안 문제와 관련해 중국을 겨냥한 것과는 대비된다. 다카이치 총리가 중국과의 긴장을 더 격화하지 않으려는 취지로 풀이된다.
김, 윤리심판원 처분에 “하나라도 법적 책임 있으면 정치 관둘 것”리스크 지속되자 “정치적 결단 받아들여야”…일각선 “절차 존중”재심 땐 이달 말쯤 결론…정청래 “결과 안 났으면 결단 내렸을 것”
당 윤리심판원으로부터 제명 결정을 받은 김병기 더불어민주당 의원(사진)이 13일 재심을 청구하겠다고 밝혔다. 김 의원 리스크가 지속되자 여당 내부에선 “당은 정말 너덜너덜해질 것”이라는 우려가 나왔다. 향후 절차를 고려하면 김 의원 최종 제명은 이달 말쯤 결론 날 것으로 보인다.
김 의원은 이날 오후 페이스북에서 “저에게 민주당이 없는 정치는 사형선고와도 같다”며 “제명당할지언정 스스로 제 친정을, 고향을, 전부를 떠나지는 못하겠다”고 밝혔다. 그는 “제기된 의혹 중 하나라도 법적 책임이 있을 시 정치를 그만두겠다. 그래서 진실이 밝혀지는 순간까지 최소한의 시간을 달라 애원했다”고 했다.
앞서 윤리심판원은 전날 밤 김 의원을 제명했다. 그는 강선우 의원의 1억원 공천헌금 묵인, 배우자의 동작구의회 업무추진비 사적 유용 등 13가지 비위 의혹을 받고 있다. 김 의원은 제명 발표 직후 페이스북에 “즉시 재심을 청구하겠다”며 “이토록 잔인한 이유가 무엇이냐”고 남겼다.
김 의원의 재심 청구로 관련 리스크가 지속하자 당내에선 우려의 목소리가 나왔다. 박용진 전 의원은 이날 SBS 라디오에서 “(김 의원이 요청한) 한 달이면 당은 정말 너덜너덜해질 것”이라며 “김 의원에게는 탈당 후 소명하고 복당하는 선택지는 없나 묻고 싶다”고 말했다. 이연희 의원은 페이스북에 “책임 앞에서 한 걸음 물러설 줄 아는 용기가 정치의 품격”이라고 남겼다. 한 재선 의원은 이날 통화에서 “김 의원은 정치적 결단을 정당이 내렸으면 받아들이는 게 맞다”며 “당 지도부에는 김 의원을 설득하고 사태를 정리하는 데 최선을 다했는지 묻고 싶다. 뭘 해도 지금 다 늦었다”고 했다.
반면 한 중진 의원은 “절차라는 게 있으니 보장은 해야 된다”면서 “빨리 끝내는 게 맞지만, ‘부작용이 없다면’이라는 전제조건이 있는 것”이라고 말했다. 또 다른 중진 의원은 “다른 의원들 몇몇 역시 수사받고 있지만 징계조차 안 하고 있어 형평성 문제가 있다”면서 “다른 케이스에 비하면 과하다는 여론도 있다”고 했다.
당헌·당규에 따르면 김 의원은 윤리심판원으로부터 결정문을 통보받은 후 7일 내 재심을 청구할 수 있다. 윤리심판원은 60일 내 이를 기각하거나 재심 심의 의결을 하게 돼 있다. 윤리심판원 관계자는 “(재심 회의는) 이르면 오는 29일쯤 열릴 것”이라고 말했다.
박수현 수석대변인은 서면브리핑에서 “사안의 중대성과 국민적 관심을 고려할 때, 재심 절차는 신속하고 엄정하게 진행돼 조속히 결론이 도출될 것”이라고 밝혔다. 당 핵심 관계자는 통화에서 “빠르면 1월 말에 나머지 절차까지 마무리될 것”이라며 “정치적 결정이 끝났는데 절차적 결정을 서둘러 굳이 (최고위를 통한) 비상징계 카드를 꺼낼 필요가 없다”고 말했다.
정청래 대표는 이날 유튜브 채널 <매불쇼> 방송에 출연해 “(당 윤리심판원에서) 결론이 나오지 않았다면 결단을 내렸을 것”이라며 “결과가 나왔기 때문에 절차를 존중할 수밖에 없다”고 말했다. 그는 “(나는) 공사 구분을 명확히 한다”고 했다.