의정부법무법인 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까? > 견적문의

의정부법무법인 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까?

작성일 25-09-18 11:17

페이지 정보

작성자 또또링2 조회 4회 댓글 0건

본문

회사명 :

이름 : 또또링2

연락처 :

이메일 : bvcjbkjh8678ds@naver.com

볼트 또는 시공주소 :

의정부법무법인 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 소극적으로 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려가 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨져왔다.
뚜껑을 열어보니, 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 영역이 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 레벨4 이상 자율주행시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 예를 들어 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리시스템과 인간 감독 체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다.
오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해 나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관도 “최소 1년 이상”의 유예기간을 언급한 바 있다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부는 이날 “진흥에 중점을 둔 최소한의 규제” 기조를 강조했다. “글로벌 3강 목표로 하는 AI 분야에서 진흥이 우선”이라는 것이다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. 국내 AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다. 또 다른 AI 스타트업 관계자 역시 “규제와 관련한 불확실성이 걷혔다는 점에서 바람직하다”며 “AI 산업이 초기 단계에 있는 만큼 시행 과정도 매끄럽기를 기대한다”고 말했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
‘돈 봉투 수수 의혹’을 받는 김영환 충북지사에 대한 경찰 수사가 장기화할 것으로 보인다. 김 지사가 압수수색 절차 자체의 위법성을 주장하고 있기 때문이다.
16일 충북도와 경찰 등에 따르면 김 지사는 지난 9일 압수수색 취소를 요구하는 준항고를 청주지법에 냈다. 준항고는 수사기관의 압수수색 같은 강제 처분에 불복해 법원에 판단을 구하는 절차다.
김 시사 측은 압수수색 영장의 근거가 된 블랙박스 영상이 위법하게 수집된 증거라고 주장하고 있는 것으로 전해졌다.
경찰이 제보자로부터 건네받은 블랙박스 영상이 통신비밀보호법을 위반한 ‘타인 간 대화 녹음’이며, 차량 소유주 동의 없이 확보돼 증거 능력이 없다는 게 김 지사 측의 주장이다.
법원이 김 지사 측의 주장을 인용할 경우, 경찰은 압수물을 모두 돌려줘야 해 수사는 원점으로 돌아갈 수 있다.
경찰은 최근 법원으로부터 의견서를 제출하라는 통보를 받았으며 압수수색이 적법했다는 취지의 답변서를 준비 중으로 알려졌다.
경찰은 윤현우 충북체육회장이 윤두영 배구협회장과 250만원씩 분담하기로 하고 지난 6월26일 일본 출장을 앞둔 김 지사에게 500만원이 든 돈 봉투를 건넨 것으로 보고 수사를 진행 중이다.
지난달 21일 충북도청 등을 압수 수색한 경찰은 윤현우 충북체육회장과 윤두영 충북배구협회장의 휴대전화를 확보해 포렌식을 진행 중이다. 경찰은 김 지사의 휴대전화도 확보했지만 김 지사 측이 참관 일정을 미뤄 분석에는 상당한 시일이 소요될 것으로 보인다.