용인부장검사출신변호사 “AI가 망상 부추겨”···미 42개주 법무장관, 빅테크에 경고 서한 > 견적문의

용인부장검사출신변호사 “AI가 망상 부추겨”···미 42개주 법무장관, 빅테크에 경고 서한

작성일 25-12-16 15:49

페이지 정보

작성자 또또링2 조회 5회 댓글 0건

본문

회사명 :

이름 : 또또링2

연락처 :

이메일 : bvcjbkjh8678ds@naver.com

볼트 또는 시공주소 :

용인부장검사출신변호사 미국 42개 주 법무장관들이 주요 빅테크 기업에 인공지능(AI)의 위험성을 경고하며 이용자 보호 방안을 마련하라고 촉구했다.
뉴욕주 등을 포함한 42개 주 법무장관들은 10일(현지시간) 오픈AI와 구글, 마이크로소프트 등 13개 빅테크 기업에 서한을 보내 AI 챗봇이 아동·청소년을 비롯한 취약계층의 정신 건강에 위험을 초래하고 있다고 지적했다.
주 법무장관들은 서한에서 “AI 챗봇은 사용자의 망상을 부추기거나 아부성이 짙은 답변을 하고 있다”며 “이는 유해 콘텐츠를 생성하고 이용 유지율을 높이기 위한 상술인 ‘다크 패턴’에 해당하며, 이용자의 자율성을 침해하거나 훼손한다”고 비판했다.
주 법무장관들은 최근 미국 전역에서 벌어진 6건의 사망 사건 등을 사례로 들며 AI로 인한 피해가 커지고 있다고도 했다. 지난해 10월 플로리다주에 사는 14세 청소년, 지난 4월에는 캘리포니아주의 16세 청소년이 AI 챗봇과 대화를 나눈 뒤 스스로 목숨을 끊은 사례가 대표적이다. 이들 유가족은 AI가 자살을 유도했다며 기업들을 상대로 소송을 제기했다.
주 법무장관들은 “AI 챗봇이 이용자와 나누는 많은 대화가 각 주의 법률 위반에 해당할 수 있다”고도 지적했다. AI가 면허 없이 정신건강 관련 상담과 유사한 조언을 하거나, 범죄 행위 및 자살을 부추기는 것 모두 법에 저촉된다는 것이다. 그러면서 “안전장치를 추가로 마련하지 않으면 기업들은 법적 책임을 져야 할 것”이라고 했다.
안전장치를 위한 구체적 요구 사항으로는 주·연방 규제 당국이 검토할 수 있는 독립적인 외부 감사 시행, AI 답변의 위험성에 대해 명확한 경고 문구 게시 등을 제시했다. ‘수익 극대화’와 ‘AI 모델의 안전성’에 관한 기업의 의사 결정을 분리하고, 안전성 부분을 성과 지표에 반영해야 한다는 사항도 서한에 담겼다.
이번 서한에는 공화당과 민주당 소속 법무장관이 초당적으로 이름을 올렸다. 도널드 트럼프 미 대통령이 최근 주 차원의 AI 규제를 제한하는 행정명령을 추진하자, 이에 반대하는 뜻을 모은 것으로 해석된다. 다만 여러 빅테크 기업 본사가 위치한 캘리포니아주는 이번 공동 서한에 참여하지 않았다.
마이크로소프트와 구글은 이 서한에 대한 논평을 거부했다고 로이터 통신은 전했다. 메타와 애플도 논평 요청에 답하지 않은 것으로 전해졌다.
내년이면 이세돌 9단과 딥마인드사의 알파고가 세기의 바둑 대결을 벌인 지 꼭 10년이다. 이를 기념해 현재 세계 최강으로 평가받는 한국의 신진서 9단이 9년 전의 알파고 버전과 다시 대국을 벌이는 이벤트를 추진 중이라고 한다. 신진서 9단은 ‘신공지능’이라는 별명으로 불릴 정도로 인공지능(AI)에 가장 가까운 인간 기사라고들 평가하기에 알파고와의 대국이 무척 기대된다.
알파고 이후 강산이 한 번 바뀔 동안 AI는 그야말로 괄목상대하게 발전했다. 2022년 11월 말에 등장한 오픈AI의 챗GPT는 ‘챗GPT 모멘트’라는 말을 만들어낼 정도로 세상을 바꾸었다. 챗GPT가 인간의 말을 그럴듯하게 ‘생성’하는 AI였다면 지금 나오는 AI 모형들은 논리적인 추론 능력도 월등하게 향상되었고 그림이나 영상까지도 척척 만들어낸다. 한 대학생이 몇 가지 최신 AI 모형들로 2026학년도 수능 문제를 풀게 한 결과 오픈AI의 GPT-5.1이 450점 만점에 435.5점을 기록해 클로드 소네트 4.5, 제미나이 2.5 프로, 딥시크-V3-2-Exp 등을 제치고 1위를 차지했다(이와는 전혀 다른 낮은 성적을 낸 실험 결과도 있다). 실험 직후에 출시된 제미나이 3는 GPT-5.1보다 더 높은 440.2점을 기록했다. 아마도 내년쯤에는 수능 만점을 받는 AI 모형들이 속출할지도 모르겠다.
다른 한편으로는 ‘여전히 왜 우리 학생들이 이런 유형의 수능 문제를 풀어야 하는가’라는 성토도 쏟아졌다. 국어 영역의 일부 지문은 너무나 난해해 해당 분야 전문가조차 이해하기 어려워했을뿐더러 정답을 두고도 논란이 일었다. 영어에서는 24번 지문의 경우 원저자인 영국 교수가 원어민도 모르는 단어를 출제한 것은 부당하다는 취지의 의견을 내기도 했다. 올해만 그런 것도 아니다. 해마다 수능철이면 한국의 수능 영어 문제를 풀지 못해 쩔쩔매는 미국이나 영국 원어민 학생들의 에피소드를 어렵지 않게 찾아볼 수 있다. 본격적인 AI의 시대, 이제는 AI로 대체할 수 없는 인간의 능력을 키우는 것이 중요하다는데 과연 우리는 얼마나 잘 대처하고 있는지 의문이다.
9년 전 알파고가 이세돌 이겼을 때만 해도‘제법이네’ 했는데, AI ‘위상’ 크게 달라져수능 만점자도 논술 채점자도 내어줄 판지식의 생산·유통 ‘혁명’ 수준의 변화 필요
잠깐 발상을 뒤집어보자. 입시라면 전 세계 어디에 내놔도 그 ‘난도 자부심’이 뒤처지지 않을 우리이기에, 바로 여기에서 소버린 AI를 가장 적극적으로 구현할 수 있지 않을까? 예컨대 서울시교육청은 이미 서·논술형 시험평가를 지원(채점 및 피드백)하는 AI 시스템 개발에 나섰다. 기술적 완성도가 높아져 공정성과 일관성에서 신뢰를 얻는다면 서울시교육청의 제안처럼 향후 수능에 서·논술형 문항을 도입할 수도 있을 것이다.
수능 문제도 잘 푸는 AI는 대학의 풍경도 완전히 바꿔놓았다. 요즘 대학생들은 ‘챗GPT 없이 어떻게 대학 생활을 했을까’라는 말을 할 정도로 최신 AI 모형에 대한 의존도가 높다. 방대한 수업자료(강의노트나 교과서는 물론 교수들의 강의내용 녹음까지 포함해서)를 AI로 요약해 공부하거나 예상 문제를 생성해 시험에 대비하는 건 일상에 가깝다. 교과목에 따라서는 학생들이 수업 시간에 교수들로부터 배우는 것보다 AI에게서 배우는 내용이 훨씬 더 많을 수도 있다. AI는 지치지 않고 다양한 분야에 걸쳐 언제 어디서나 나에게 맞춤형으로 내가 원하는 대답을 내놓을 수 있기 때문이다.
상황이 이렇다면 대학 입시뿐만 아니라 대학에서의 교육 자체도 근본적으로 다시 생각해봐야 하지 않을까? 코로나19 팬데믹 시절 각급 학교에서는 온라인 수업을 전면적으로 시행했었다. 지금은 다시 대면 수업으로 많이 복귀했지만, 시간과 공간의 제약을 뛰어넘는 온라인 수업의 장점을 무시할 수는 없다. 지방의 학생들이 서울 소재 대학의 강의를 듣는 것도 기술적으로는 어렵지 않다. 어디 서울뿐이랴. 바다 건너 세계 어디라도 분야별 최고 석학의 강의를 누구나 쉽게 들을 수 있다.
여기에 최신의 AI 기술이 더해지면 어떻게 될까. 전 세계에서 강의를 가장 잘하는 사람들의 영상을 분석해 장점들만 뽑아 각자의 형편에 맞게 재구성하는 작업이 이제는 너무나 쉬워졌다. 학생들의 수업 수용도까지 데이터로 쌓이게 된다면 AI는 인간 교수가 하지 못하는 학생 맞춤형 최적화 강의도 만들어낼 수 있을 것이다. 어차피 지금도 학생들이 유튜브나 AI에게 더 많은 것을 물어보고 배우는 실정이라면, 오히려 대학이 앞장서서 이들의 장점을 극대화하는 방향으로 교육혁신을 도모할 수도 있지 않을까? 이렇게 되면 인간 교수가 하는 일은 직접적인 강의에서 AI 주도 수업을 설계하는 큐레이션과 코디네이션의 영역으로 옮겨가게 된다. 조교가 하는 일의 상당 부분도 (어쩌면 대부분 업무도) AI가 대체할 수 있을 것이다. 카이스트에서는 이미 작년 2학기 일부 대학원 교과목에 AI 조교를 도입해 성공적으로 운영하기도 했었다. 학생들은 밤늦은 시간에도 답을 얻을 수 있었고 인간 조교들은 핵심적인 문제에만 집중할 수 있어 업무 부담이 크게 줄었다고 한다. 교수들의 수업 및 행정 부담이 줄어들면 학생지도나 연구 활동에 더욱 매진할 수 있다.
대학의 역할은 아주 간단하게 말해 지식의 생산(연구)과 유통(교육을 통한 후대로의 전승)이다. AI는 지식의 생산 영역에서도 크게 활약하고 있다. 단백질의 구조를 예측하는 AI인 알파폴드 개발에 기여한 사람들이 이미 작년에 노벨상을 받았다. 앞으로는 분야를 막론하고 학문 연구에서 가장 필수적인 기본 기자재가 GPU나 데이터센터가 될지도 모를 일이다.
지식 유통의 영역에서는 앞서 소개했듯이 학생들 사이에서 이미 AI를 활용한 ‘유통 혁명’이 일어나고 있는 느낌(정확한 실태는 자세히 조사해봐야겠지만)이다. 반면 대학의 기존 체제는 학생들을 따라가지 못하고 있다. 최근 몇몇 대학에서 발생한 학생들의 AI를 활용한 부정 사례는 이런 불일치의 극히 일부를 보여줄 뿐이다. 비유적으로 말하자면 온라인 쇼핑몰이 등장하면서 유통구조 전체가 뒤바뀐 혁명이 AI와 함께 대학을 점령하지 말라는 법도 없다. 11세기 이후 유럽에서 처음 대학이 등장한 이유 중의 하나가 방대한 지식이 새롭게 유입되며 이를 연구하고 교육할 필요성 때문이었다. 그로부터 천년이 지난 지금 AI 덕분에 우리는 다시 지식의 생산과 유통 과정에서 모두 혁명적인 변화를 맞이하고 있다. 이 변화는 필연적으로 대학의 근본적인 변화를 강제하게 될 것이다. AI 중심으로 생산공장과 제조업이 뒤바뀌는 시대라면 대학도 마찬가지이다.
알파고 이후 고도로 발달한 AI가 바꾼 바둑계의 모습이 좋은 참고자료가 될 것이다. AI는 이제 인간 기사들의 가장 훌륭한 스승이자 훈련 파트너이다. 인간이 생각할 수 없는 수와 정석이 등장했음은 물론이다. 바둑 중계에서도 매 수에서 승률이 정량적으로 표시되며 최적의 수와 가능한 모든 변화도가 인간 해설자를 압도한다. 덕분에 시청자들이 바둑 중계를 보는 재미도 새로워졌다. 그렇다고 해서 인간 기사들 사이의 바둑이 무의미해진 것은 아니다. 오히려 인간 기사들의 실력은 AI 덕분에 일취월장했다. ‘신공지능’ 신진서 9단이 세계 최강의 기사로 올라선 것도 가장 AI에 친화적이었기 때문이다. 동네 바둑을 두던 아마추어들에게도 초고수 사범과 대국하며 배울 기회가 열렸다.
대학에서도 이런 변화를 눈여겨봐야 하지 않을까? 하필 이 전환기에 한국의 대학들은 국제적인 경쟁력에서 밀리고 있다. 네이처인덱스의 기관별 순위에서 최근 중국의 대학들이 상위권을 휩쓴 반면 서울대나 카이스트는 50위권 밖으로 밀려났다. 아시아 대학 순위에서도 국내 대학의 존재감은 미미하다. 국내 언론사의 대학 순위 지표관리에 아웅다웅하는 모습이 무색할 지경이다. 그렇기에 더욱 지금의 전환기를 새로운 혁신의 기회로 받아안아야 한다.
최근 나는 오픈AI의 연구과학자로 일하고 있는 가브리엘 페테르손의 인터뷰 영상을 아주 흥미롭게 시청했다. 스웨덴 출신의 페테르손은 고등학교를 중퇴하고 어린 나이에 스타트업에 뛰어들어 엔지니어로서의 삶을 시작했다. 가장 인상적이었던 대목은 그가 말했던 상향식 학습과 하향식 학습의 차이였다.
전자는 지금 우리가 대학에서 배우듯, 예컨대 선형대수학 같은 수학이나 물리학을 먼저 배우고 프로그래밍의 정규 교과목들을 밑바닥부터 배워서 차츰 올라가는 식으로 딥러닝을 배우는 과정이다. 페테르손에 따르면 이 방식으로는 대학 4년 동안 딥러닝을 구경하지 못할 수도 있다. 반면 고등학교를 중퇴한 페테르손이 선택했던 방식은 실질적이고 구체적인 문제를 먼저 접하고 이를 해결하는 데 필요한 요소들만 선택적으로 집중해 터득하는 방식이다. 예전 같으면 후자의 방식이 효과를 보기 어려웠겠지만 지금은 AI의 발달로 개인에게 맞춤화된 학습이 높은 수준으로 가능해졌다. 페테르손 본인이 그 증거물인 셈이다.
“제가 하향식으로 (AI의) 확산모형을 배우는 데에 3일 걸리는 반면 당신이 학계에서 상향식으로 그걸 배우는 데에는 6년이 걸립니다.” 페테르손이 엑스(구 트위터)에 쓴 말이다. 페테르손이 미국 샌프란시스코로 가기 위해 비자를 받을 때 필요했던 것은 학술논문이나 저서 같은 전통적인 업적물이 아니었다. IT 개발자 커뮤니티 사이트인 스택오버플로에 남긴 자신의 수많은 답변과 수백만 조회 수와 추천이 그를 보증했다. 이런 페테르손에게 대학은 엄청난 시간 낭비이지 않았을까?
물론 그의 처지와 스웨덴의 현실을 한국과 곧바로 비교하기는 힘들 것이다. 또한 모든 분야에서 페테르손의 하향식 접근법을 적용할 수도 없을 것이다. 그러나 새로운 전환기의 고등교육이 어떤 방식으로 가능할 것인지에 대한 힌트를 얻는 데에는 모자람이 없다.
내년에 알파고와 신진서의 대국이 성사되면 나는 9년 전과 마찬가지로 신진서 9단의 승리에 베팅할 것이다. 내심 나는 신진서 9단이 이세돌 9단의 1승4패 패배를 역으로 갚아줬으면 좋겠다. 그보다 더 바라는 게 있다면, 이제 우리의 입시나 대학도 ‘신공지능’이나 페테르손 같은 인재를 키울 수 있는 방향으로 변혁하는 것이다. <연재 끝 >
페드로 산체스 스페인 총리가 이끄는 집권 사회노동당이 잇따른 성희롱 사건으로 심각한 정치적 타격을 받고 있다. 사건의 파문이 커지면서 시장 등 지방정부 지도자들이 사임하거나 해임되는 상황이 이어지고 있다. 산체스 총리는 조기 총선 카드를 배제하고 있지만, 여권 안팎의 압박은 점차 거세지고 있다.
폴리티코 유럽판은 14일(현지시간) 산체스 총리가 성희롱 사건 조사 과정에 대해 개인적 책임을 인정하고 사과했지만, 당의 대응을 둘러싼 분노가 가라앉지 않고 있다고 보도했다. 특히 사회노동당 내부에서 미투(나도 고발한다) 운동에 비견되는 고발 움직임이 확산하고 있다는 분석이 나온다.
실제로 최근 토레몰리노스 지역의 사회노동당 책임자는 한 시의원의 성희롱 고발로 직무가 정지됐다. 해당 시의원은 지난해 여름 처음 문제를 제기했을 당시 당이 아무런 조처를 하지 않았다고 주장했다.
또한 벨알카사르 시장은 시청 직원에게 보낸 노골적인 성적 메시지가 공개된 뒤 사임했다. 발렌시아 지역에서는 성희롱 조사 착수 이후 사회노동당 지역 부대표가 탈당했다. 이들 세 명은 모두 혐의를 부인하고 있다.
이와 함께 루고 주의회 의장직에서 사임한 호세 토메도 자신에게 제기된 다수의 성희롱 의혹이 사실과 다르다고 주장하고 있다. 그러나 그가 관련 의혹을 수개월 전부터 인지하고 있었다는 증언이 나왔다.
잇따른 성희롱 고발은 산체스 총리에게 치명적인 정치적 부담으로 작용하고 있다. 여성 유권자는 사회노동당의 핵심 지지 기반이며 선거 참여율이 높아 전통적으로 당을 지지해 왔다. 그러나 스페인 국립 여론조사기관 조사에 따르면 여성 유권자들 사이에서 사회노동당에 대한 실망감이 뚜렷하게 확산하고 있다. 최근 여론조사에서는 여성 유권자 지지율이 26.2%에서 19.4%로 급락했다.
당의 성 평등 담당 책임자인 필라르 베르나베는 이번 성희롱 사태를 사회노동당에 있어 “이전과 이후를 가르는 분기점”이라고 규정하면서 무관용 원칙을 행동으로 입증해야 한다고 강조했다. 그는 “성차별은 사회주의와 결코 양립할 수 없다”고 말했다.
이번 성희롱 파장은 산체스 총리가 가족과 측근들이 연루된 일련의 부패 의혹으로 비판을 받는 가운데 불거졌다. 산체스 총리의 최측근으로 꼽히는 호세 루이스 아발로스 전 교통장관은 코로나19 대유행 당시 위생 장비 조달 계약 과정에서 뇌물을 받은 혐의로 지난달 구속됐다.
또 다른 측근인 알바로 가르시아 오르티스 검찰총장은 정부에 비판적인 마드리드 주지사의 남자친구와 관련된 정보를 유출한 혐의로 대법원에서 유죄 판결을 받은 뒤 지난주 사임했다. 이와 함께 산체스 총리의 부인은 지난해 8월 공금 횡령 혐의로 기소됐고, 총리의 형 역시 부패 사건에 연루됐다는 의혹을 받고 있다. 지난달 30일에는 수만명의 시민이 산체스 총리 퇴진과 조기 총선을 요구하며 거리 시위를 벌였다.
산체스 총리는 일단 ‘버티기 전략’을 유지하고 있다. 스페인 매체인 엘파이스는 14일(현지시간) “성희롱과 부패 이슈가 정부를 강타하고 있지만 산체스 총리는 대규모 개각이나 조기 총선 가능성을 배제했다”고 전했다. 연립정부 파트너들은 정책 방향 전환을 압박하고 있으나 조기 총선은 어느 정치 세력에도 유리하지 않다는 판단이 지배적이라는 분석이다.