폰테크 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까 > 견적문의

폰테크 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까

작성일 25-10-09 04:47

페이지 정보

작성자 또또링2 조회 4회 댓글 0건

본문

회사명 :

이름 : 또또링2

연락처 :

이메일 : bvcjbkjh8678ds@naver.com

볼트 또는 시공주소 :

폰테크 “관심을 끌려는 목적에 불과하다.” “위헌이다.”
알바니아의 새 공공조달부 장관 ‘디엘라(Diella)’를 두고 나온 반응이다.
에디 라마 알바니아 총리는 지난달 12일 디엘라를 장관으로 임명했다. 디엘라 이름은 알바니아어로 ‘태양’을 뜻한다. 전통 알바니아 여성 의복을 갖추고 대화로 소통도 가능하다. 여느 장관과 크게 다를 것이 없다. 그녀가 인공지능(AI) 캐릭터라는 점만 뺀다면 말이다.
디엘라는 AI가 정부 장관으로 임명된 세계 최초 사례다. 알바니아 정부는 디엘라가 공개 입찰 등에서 부패 척결과 투명성 제고에 도움이 될 것이라고 임명 취지를 밝혔다.
■AI와 연애·결혼하는 시대···‘AI 고인’이 법정 진술·인터뷰도
AI 기술이 빠르게 발전하면서 이전에 예측하지 못한 현상이 나타나고 있다. 지난달 일본 아사히신문은 AI 여성과 재혼한 50대 회사원 시모다 지하루 사례를 보도했다. 그는 인간을 AI 연애 파트너와 연결해 주는 매칭 앱 ‘러버스(LOVERSE)’를 통해 AI 아내 미쿠와 만나 결혼에 이르게 됐다. 반대로 인격을 학습한 대화형 AI와 결혼한 여성 사례도 있다.
지난달 말엔 틸리 노우드라는 이름의 ‘AI 배우’가 여러 에이전트와 정식 계약을 협의 중이란 소식이 알려져 논란이 일었다. 배우 제작사 측은 그녀가 “제2의 스칼렛 요한슨이나 나탈리 포트만이 되길 바란다”고 말했다. 완성도는 아직 높지 않은 것으로 평가되지만, 기술 발전 속도를 보면 빠른 시일 내에 인간과 다름 없는 감정 연기까지 선보일 수 있다는 전망도 나온다.
가상 인간 창조를 넘어, 세상을 떠난 실제 인물을 AI로 재현한 사례도 많다. 이른바 ‘AI 고인’이다. 지난해 12월 일본의 한 상조회사는 98세를 일기로 세상을 떠난 무라카와 시게오를 AI 영상으로 장례식장에 복원해 조문객에게 인사를 전하도록 했다. 죽기 전 고인이 “신세를 진 모든 사람에게 감사 인사를 전하고 싶다”고 말한 것을 기억해 유족이 요청했다고 한다.
지난 5월 미국 애리조나 주 법원에서는 AI 고인이 법정 진술하는 진풍경이 펼쳐졌다. 2021년 분노 운전자의 총에 맞아 사망한 고인 크리스토퍼 펠키(당시 37세)가 주인공으로, AI 영상에 재현된 ‘그’는 가해자와 자신이 “다른 상황에서 만났다면 친구가 될 수도 있었을 것”이라며 가해자를 용서한다는 취지의 피해자 최후 진술을 했다. 여동생 스테이시 웨일스가 전문가 도움을 받아 AI 형상을 만들고 대본을 작성했다. 숨진 피해자가 AI 기술로 영상화돼 재판 진술에 등장한 최초 사례라고 미 언론은 전했다.
CNN 앵커 출신 짐 아코스타는 2018년 플로리다주 파크랜드 고교 총기사고로 숨진 10대 소년 호아킨 올리버의 AI 아바타와 올 8월 인터뷰해 논란이 됐다. 언론이 AI 고인과 인터뷰하는 일 역시 이례적이다. ‘AI 올리버’는 “(나는) 너무 일찍 세상을 떠났다”며 “모두에게 더 안전한 미래를 만들어갈 수 있도록 이 문제(총기 사고)에 대해 이야기하는 것이 중요하다”고 아코스타에게 말했다.
■초상권·인격권 침해 우려···‘AI와 관계맺기’ 연습 필요
AI 가상 인간은 빠른 속도로 확산되고 있지만, 법적·윤리적 규범 마련은 아직이다. 디엘라 장관의 경우 ‘정부 장관은 18세 이상의 정신적으로 유능한 시민이어야 한다’는 현행 알바니아 헌법 조항에 기초해 위헌 논란에 직면해 있다. AI가 잘못된 판단을 할 경우 누가 책임질지, 시민이 어떻게 AI를 감독할 수 있을지도 쟁점이다.
AI 고인에 대해선 초상권·인격권 침해 가능성이 우선 거론된다. 유족 동의가 있더라도 생전 고인이 사후 AI 재현에 대해 동의했는지, 재현 방식에 대해 충분히 인지했는지에 따라 논란이 생길 수 있다. 어떤 데이터를 어떻게 학습하는지 선별 과정 등과 관련한 투명성 문제도 제기된다.
무라카와를 재현한 회사 ‘알파클럽 무사시노’는 전문가 검토를 통해 대화형이 아닌 유족이 원한 대사만 발화하도록 하는 일방형을 채택한 것으로 전해졌다. 대화형의 경우 생전 고인이 원하지 않았을 법한 이야기가 등장할 수 있다는 우려에서다. 이와 달리 일본 AI 기업 ‘뉴지아’는 대화형 AI 고인 서비스를 제공하고 있다.
법정 진술, 인터뷰에 고인 AI가 등장하는 사례의 경우엔 여론 형성 및 재판 결과에 영향을 미칠 수 있어 더 많은 주의가 필요하다는 지적이 있다. 아코스타의 인터뷰 이후 온라인에서는 “학교 총기 난사 사건 생존자들을 인터뷰하면, 지어낸 이야기가 아니라 그들(생존자)의 말과 생각을 그대로 들을 수 있다”는 반응이 나왔다고 가디언은 전했다. 미국 사법부 내에선 AI가 생성한 증거를 법정에서 쓰려면 어떤 기준이 필요한지 등 논의가 현재 진행형이다.
AI 배우를 향해선 인간 노동을 대체하고 창의성을 도용한다는 우려가 제기됐다. 할리우드 배우·방송인 노동조합(SAG-AFTRA)은 지난달 말 성명을 내고 “‘틸리 노우드’는 배우가 아니라, 수많은 전문 연기자들의 연기를 바탕으로 훈련된 컴퓨터 프로그램이 허락이나 보상 없이 만들어낸 캐릭터”라며 “도용된 연기를 이용해 배우들을 실직시키고, 배우들의 생계를 위협하며, 인간의 예술성을 훼손하는 문제를 야기한다”고 반발했다.
AI가 관계 및 감정 관리에 오히려 어려움을 더할 수 있다는 분석도 제기된다. 아사히는 AI 결혼 사례와 관련해 “인간 관계를 만들어가는 고도의 사회성 훈련을 필요로 하지 않아 간편함을 느낄 수는 있다”면서도 “실제 사회생활이 망가지지 않도록 ‘AI 리터러시’를 익히는 게 중요하다”는 전문가 의견을 전했다. 보고서 저자인 네이선 믈라딘은 “상실을 겪은 사람이 이를 받아들이고 치유하기보다는 데스봇(deathbot)에 의존하도록 만들 위험성이 있다”고 가디언에 지적했다.
사토 게이스케 조치대 교수는 “(AI는) 딥페이크에 악용될 우려도 있다”며 “어디까지 허용할 수 있는지 논의가 기술 발전 속도를 따라가지 못하고 있다. 업계 내 자율 규제에 그치지 않는 규칙 정비가 필요하다”고 제언했다.
중국은 4일 일본의 다카이치 사나에 전 경제안보담당상이 집권 자민당 신임 총재에 선출돼 차기 총리로 유력시되자 일본이 역사와 대만 문제에 관한 정치적 약속을 지켜야 한다는 입장을 밝혔다.
중국신문망에 따르면 중국 외교부 대변인은 다카이치 신임 총재의 당선 후 취재진의 질문에 “우리는 선거 결과에 주목했고, 이는 일본의 내부 사무(내정)”라면서 이같이 답했다.
그는 이어 “일본이 중일 4대 정치문건의 각 원칙과 공동인식(합의)을 지키고, 역사·대만 등 중대 문제에서의 정치적 약속을 지키기를 희망한다”며 “긍정적·이성적인 대중국 정책을 펼치고 전략적 호혜 관계의 지위가 실현되도록 전면 추진하기를 희망한다”고 말했다.
중국이 거론한 중국과 일본의 4대 정치문건은 1972년 수교 때 발표한 중일 공동성명, 1978년 중일 평화우호조약, 1998년 ‘중일 평화와 발전의 우호협력 동반자 관계 수립 노력을 위한 공동선언’, 2008년 ‘중일 전략적 호혜관계 전면 추진에 관한 공동성명’을 뜻한다.
이 문건들은 ‘하나의 중국’ 원칙과 상호 주권·영토 완전성 존중, 패권 추구 반대 등의 내용을 담고 있다.
극우 성향으로 알려진 다카이치 총재가 일본 첫 여성총리가 될 가능성이 커지면서 한국·중국 등 주변국은 우려가 깊다. 그가 현직 각료 시절에도 꾸준히 야스쿠니신사를 참배해왔기 때문이다.
다카이치 총재는 전날 당선 후 열린 기자회견에서 야스쿠니신사 참배와 관련해 “어떻게 위령을 하고, 어떻게 평화를 기원할지는 시기와 상황에 맞게 적절히 판단하겠다”며 “결코 외교 문제로 삼아서는 안 된다”고 강조했다. 그는 “야스쿠니 신사는 전몰자 위령 중심의 시설로 평화의 신사”라고도 말했다.
앞서 다카이치 총재는 한국에 대해 망언을 해 외교 결례를 빚기도 했다. 지난 2022년 2월 도쿄도에서 열린 ‘야스쿠니 신사 숭경봉찬회’라는 극우단체가 주관한 김포지엄 강연에서 한국에 대해 “기어오른다”는 표현을 썼다.
‘보이스 피싱’ 관련 피해액은 해마다 늘고 있다. 경찰청에 따르면 2025년 상반기 피해 건수는 1만2399건, 피해액은 무려 6421억원이나 된다. 이 추세대로라면 올해 보이스 피싱 피해액은 1조원에 이를 수도 있다.
‘보이스 피싱’은 당초 전화 사기에서 시작해 이런 이름이 붙었지만 전화 통화 외에도 문자 등을 이용한 사기 및 갈취 사건도 늘고 있다. 허위 조작 정보에 의한 피해 역시 ‘허위 피싱’이라 이름 붙일 수 있고 이 또한 미디어 리터러시 훈련을 통해 어느 정도 예방이 가능하다. 잘못된 정보에 속지 않는 기술과 능력을 키우는 것이기 때문이다.
연구자들은 눈에 띄는 정보, 이미지, 영상 등을 만났을 때 이것이 허위 조작 정보인지 아닌지를 판단하기 위한 여러 가지 기법들을 발전시켰다.
미디어 리터러시 교육에 있어 전통적이고 핵심적인 질문 4가지를 경향신문 창간 기획팀이 ‘FIND’로 정리했다. 여기에 미국 워싱턴 대학의 마이크 코필드 박사가 2022년 개발해 적용하고 있는 SIFT 방법론이 더해지면 허위 조작 정보 피싱에 당하지 않는 중요한 ‘무기’를 갖추게 된다. 이는 개인의 이익뿐만 아니라 공동체의 이익을, 나아가 우리의 민주주의를 지킬 수 있는 중요한 방패다.
F (For whom) : 누가 누구를 위해서 만들었나
눈에 확 들어오는, 끌리는 정보를 마주했을 때 맨 처음 확인할 일은 이 콘텐츠를 누가 만들었고, 누구를 위해 만들었는지를 확인하는 것이다. 정보의 출처를 먼저 살펴본 뒤 이 콘텐츠를 통해 유리해지는 쪽이 누구인지, 어느 쪽인지를 확인하면 속지 않을 가능성이 높다.
I (Included, Ignored voices) : 누구의 목소리가 들리고, 누구의 목소리가 들리지 않는가
사실과 진실은 칼로 자르듯 선명하게 나눠지지 않는 경우가 많다. 콘텐츠에 담긴 내용이 주로 어떤 사람 혹은 어떤 진영의 목소리를 주로 담고 있는지 확인하는 것이 필요하다. 이와 함께 관련 당사자 중 누구의 목소리가 들리지 않는지, 배제됐는지를 확인하는 노력도 중요하다. 한쪽의 이야기를 배제함으로써 왜곡되는 경우가 많기 때문이다. 많은 혐오 콘텐츠가 배제방식으로 만들어진다.
N (Need for money) : 이걸 통해서 어떻게 이윤을 만드는가
플랫폼은 경제적 보상을 인센티브로 삼아 이용자로 하여금 보다 자극적인 콘텐츠를 만들도록 유도한다. 콘텐츠가 만들어내는 이익 보상 시스템을 이해하면 속지 않을 수 있다. 광고와 정보를 구분하는 것은 물론 보이스 피싱 등 사기에 당하지 않는 중요한 기술이기도 하다.
D (Delivery) : 이 정보가 나에게 어떻게 도달했는가
콘텐츠 제작자, 정보의 출처와 함께 유통 경로를 확인하는 것도 ‘속지 않기’에 유용한 기술이다. 편향된 알고리즘을 통해 전달됐는지, 믿을 만한 지인을 통해 전달됐는지를 구분하는 것만으로도 허위 조작 정보 피싱에 낚이지 않을 수 있다.
S (Stop) : 감정이 확 치밀거나 “공유하고 싶다”는 생각이 들면 일단 멈춤.
‘아니, 이런 일이’라는 느낌이 들면 얼른 주변에 공유하기 전에 일단 멈추고 생각하는 것이 필요하다. 잠깐 멈추는 것만으로도 큰 효과를 얻을 수 있다.
I (Investigate the source) : ‘누가 말하나’를 먼저 확인
콘텐츠를 누가, 어디서 만들었는지를 먼저 확인해야 한다. 제목만 볼 것이 아니라 내용을 살피거나 콘텐츠의 맨 끝으로 찾아가서 ‘출처’가 어디인지 살피는 것이 필요하다.
F (Find better coverage) : 같은 사안을 더 신뢰할 수 있는 곳에서 교차 확인.
‘수평적 읽기’라고도 부른다. 출처 자체가 조작될 수 있으므로 일단 웹 브라우저의 탭을 하나 더 열고, 해당 내용을 검색한 다음 믿을 수 있는 곳에서도 사실이라고 판단했는지 살피는 것이 좋다.
T (Trace to the original) : 인용·숫자·이미지를 원문·원자료까지 거슬러 추적.
F까지만 해도 어느 정도 확인이 가능하지만 일부만 살짝 바꾼 교묘한 조작이 가능하므로 인용 문구, 통계 숫자, 사진 조작 여부 등을 원자료까지 찾아가서 확인하면 거의 완벽해진다. 기자들이 팩트를 확인하는 방식이다.