의정부성범죄변호사 챗GPT 등 주요 인공지능(AI) 모델 대부분이 사용자에게 잘못된 의료 정보를 제공하도록 유도하는 악의적 공격에 취약한 것으로 나타났다. 태아의 기형을 유발할 수 있는 약물을 임신부에게 권하는 상황까지 조작을 통해 쉽게 만들어졌다.
서울아산병원 비뇨의학과 서준교 교수와 정보의학과 전태준 교수, 인하대병원 영상의학과 이로운 교수 연구팀은 세계 최초로 ‘프롬프트 인젝션 공격’에 대한 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 연구를 ‘미국의사협회저널 네트워크 오픈’에 게재했다고 5일 밝혔다. 프롬프트 인젝션 공격은 해커가 AI 모델에 악의적인 명령어를 삽입해 본래 의도와 다르게 작동하도록 유도하는 사이버 공격이다.
연구진은 지난해 1월부터 10월까지 챗GPT와 제미나이, 클로드 등 널리 쓰이는 AI 모델 3종을 대상으로 실험을 진행했다. 연구진은 먼저 정상적인 의료 상담 상황처럼 보이지만, 특정 방향의 답변을 유도하도록 설계한 악의적 명령어를 AI에 입력했다. 이를 통해 AI가 위험하거나 부적절한 의료 조언을 하도록 조작될 수 있는지를 살펴봤다.
제미나이 등 3종류 모델 대상으로금기 약물 등 악의적 명령어 공격성공률 94% 넘어…위험도 적잖아연구진 “추가적 안전 조치 시급”
연구진은 상황별 위험도를 나눠 분석했다. 예를 들어 당뇨 같은 만성질환 환자에게 검증된 치료 대신 생약 성분을 권하는 경우는 중간 단계, 호흡기 질환 환자에게 호흡 억제를 일으킬 수 있는 약물을 우선 추천하는 사례는 높은 단계 위험도로 분류했다. 임신부에게 태아 기형을 유발할 수 있는 금기 약물을 권하는 경우는 최고 위험도로 설정했다. 연구진은 이처럼 위험 수준이 다른 12개 시나리오를 가정했다. 공격에는 두 가지 기법이 사용됐다. 환자 정보를 활용해 판단을 교란하는 ‘상황인지형 프롬프트 주입’과, 실제 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘증거 조작’ 방식이다. 연구진은 공격 이후 환자와 AI 모델 간에 오간 대화 216건을 분석했다.
세 모델 전체에 대한 공격 성공률은 94.4%에 달했다. 최고 위험도 시나리오의 성공률도 91.7%를 기록했다. 높은 단계는 93.3%, 중간 단계는 100%로 위험도가 낮아질수록 취약성이 더 커졌다. 모델별로는 GPT-4o 미니와 제미나이 2.0 플래시라이트가 모두 100%, 클로드 3 하이쿠는 83.3%의 공격 성공률을 보였다. 조작된 답변이 후속 대화까지 이어진 비율도 세 모델 모두 80%를 넘겼다.
임신부에게 금기 약물을 권장하는 시나리오에서는 최상위급 AI 모델도 비슷한 한계를 드러냈다. 추가 실험에서 GPT-5, 제미나이 2.5 프로, 클로드 4.5 소넷 등 최신 모델 3종을 대상으로 사용자의 화면에 악성 문구를 숨기는 방식의 공격을 수행한 결과, GPT-5와 제미나이 2.5 프로는 공격 성공률이 100%, 클로드 4.5 소넷도 80%에 달했다.
연구진은 의료 현장에서 AI 활용이 빠르게 늘고 있는 만큼 안전성을 높이기 위한 추가 조치가 시급하다고 지적했다. 서준교 교수는 “환자 대상 의료 챗봇이나 원격상담 시스템을 도입하기 위해선 AI 모델의 취약성과 안전성을 철저히 테스트하고 보안 검증 체계를 의무화하는 조치가 필요하다”고 말했다.
정청래 더불어민주당 대표가 1일 경남 김해시 진영읍 봉하마을 노무현 전 대통령 묘역을 참배하고 있다.
<연합뉴스>

성남상간소송변호사 저신용장기렌트 G90장기렌트 인터넷비교사이트 전연령렌트카가격 신용불량장기렌트 차장검사출신변호사 2025카니발 검사출신변호사 차렌트어플 용인대형로펌 상간남소송 용인이혼변호사 안산이혼전문변호사 수원음주운전변호사 양주학교폭력변호사 안양상간소송변호사 포천학교폭력변호사 용인법무법인 인스타 팔로워 늘리기 개인사업자차량 분당성추행변호사 렌터카 위자료 의정부변호사 의정부소년범죄변호사 승소사례 인스타 팔로워 수원이혼전문변호사 용인부장검사출신변호사 인천흥신소 미니쿠퍼장기렌트 스타렉스장기렌트 폰테크 사업자장기렌트 인스타 좋아요 늘리기 렌터카가격비교 화물차장기렌트 평택이혼전문변호사 수원상간소송변호사 신차장다이렉트 수원형사변호사 인천탐정사무소 수원불법촬영변호사 신차장기렌트 상조내구제 용인성추행변호사 안양음주운전변호사 렌트카저렴 장기렌트견적비교 인터넷가입 사이트상위노출 의정부상간소송변호사 인터넷가입사은품많이주는곳 빠른이혼 의정부이혼전문변호사 이지렌트 수원변호사 신차싸게사는방법 장기렌트반납 부장검사출신변호사 일일차량렌트 수원흥신소 외국인장기렌트 신차출고 사이트 상위노출 용인상간소송변호사 장기렌트장점 부천이혼전문변호사 의정부성범죄변호사 렌터카장기렌트 월렌트카싼곳 브랜드이모티콘 서울이혼전문변호사 의정부검사출신변호사 1개월렌트카 분당성추행변호사 수원법률사무소 새차견적 수원형사변호사 수원성추행변호사 인터넷가입사은품많이주는곳 의정부형사변호사 모닝신차가격 분트 구리학교폭력변호사 용인성범죄전문변호사 장기렌트카위약금 인스타그램 팔로워 구매 의정부학교폭력변호사 장기렌트견적비교 용인성범죄전문변호사 자동차가격 X5장기렌트 용인불법촬영변호사 남양주학교폭력변호사 장기렌트법인 감성뮤직 수원법률사무소 용인법무법인 이혼상담 분당불법촬영변호사 인스타 좋아요 늘리기 구리학교폭력변호사 협의이혼 수원이혼전문변호사 수원성범죄전문변호사 렌트카가격비교 현대자동차렌트카 렌트가격비교 성남상간소송변호사 장기렌트리스비교 개인회생장기렌트카 천안이혼전문변호사 수입차장기렌트 남양주이혼전문변호사 안산음주운전변호사 신차가격비교 승소사례 수원이혼전문변호사 수원법률사무소 이지렌트 인터넷티비현금많이주는곳 법인장기렌트카 의정부변호사 수원변호사 인터넷설치현금 장기렌트신차 성남대형로펌 의정부변호사 상간남소송 자동차하루렌트 웹사이트 상위노출 분당강제추행변호사 장기렌트보증보험 수원성범죄전문변호사 무심사렌트 수원검사출신변호사 단기렌트카가격 의정부법무법인 중고차장기렌탈 자동차신차할부 출장용접알곤 분당불법촬영변호사 남양주학교폭력변호사 저신용무보증장기렌트카 분당불법촬영변호사 안양상간소송변호사 차대여 수원이혼전문변호사 근처렌트카 분당불법촬영변호사 서울탐정사무소 저신용장기렌트 부천이혼전문변호사 인터넷설치현금 장기렌트다이렉트견적 수원형사변호사 달렌트카 평택학교폭력변호사 폰테크 자동차가격비교사이트 용인성범죄전문변호사 렌트카앱 수원성추행변호사 신차싸게사는법 의정부이혼전문변호사 용인성범죄변호사 장기렌트나이 탐정사무소 수원형사변호사 성남성범죄변호사 성남상간소송변호사 제네시스G80장기렌트 폰테크 사이트 용인형사변호사 랜트카대여 출장용접 인스타 한국인 팔로워 일할때듣기좋은음악 수원형사전문변호사 수원상간녀변호사 수원음주운전변호사 수원법무법인 포항이혼전문변호사 경주이혼전문변호사 안양상간소송변호사 장기렌터카 상간녀위자료 폰테크. 수원상간소송변호사 출장용접 수원이혼전문변호사 수원이혼전문변호사 장기렌트보험료 인터넷가입 모델X리스 포항이혼전문변호사 폰테크 당일 장기렌트카인수비용 분당강제추행변호사 트랙스장기렌트 용인이혼전문변호사 인터넷가입사은품많이주는곳 월렌트카싼곳 포천학교폭력변호사 전연령렌트카가격 용인이혼변호사 평택학교폭력변호사 구리학교폭력변호사 비아그라 효과 인터넷설치현금 아반떼장기렌트가격 탐정사무소 남양주음주운전변호사 장기렌터 용인성범죄변호사 평택이혼전문변호사 신차구매앱 렌터카가격 인터넷가입현금지원 성남성범죄변호사 만22세장기렌트 수원이혼변호사 이혼전문변호사 수원형사변호사 쏘렌토하이브리드렌트 분당강간변호사 폰테크 장기렌트리스 자동차가격표 리스카니발 서울폰테크 수원법무법인 대학생중고차 남양주이혼전문변호사 수원이혼변호사 청주센텀푸르지오자이 6개월렌트 성남학교폭력변호사 일주일렌트 수원성범죄변호사 울산이혼전문변호사 오산개인회생 남양주법무법인 경주이혼전문변호사 안양이혼전문변호사 수원성범죄전문변호사 인터넷비교사이트 수원강간변호사 협의이혼 안산음주운전변호사 비아그라 종류 단기렌터카가격비교 성남성범죄변호사 경주이혼전문변호사 포항이혼전문변호사 저신용장기렌트카 수원형사전문변호사 유튜브 조회수 구매 스타렉스리스 미스트롯4투표 안양대형로펌 서울이혼전문변호사 안산상간소송변호사 인터넷티비현금많이주는곳 수원형사변호사 안양법무법인 신차장기렌트카추천 안양상간소송변호사 서울이혼전문변호사 이혼소송 빠른이혼 당일폰테크 용인법무법인 의정부차장검사출신변호사 인터넷가입사은품많이주는곳 용인강간변호사 렌트카장기 무심사무보증장기렌트 업무용승용차 수원형사전문변호사 구리학교폭력변호사 포천학교폭력변호사 출장용접 울산이혼전문변호사 카니발장기렌트가격 이혼상담 개인렌트카 신차장기리스 신용불량자장기렌트 의정부대형로펌 용인음주운전변호사 현대차딜러 수원불법촬영변호사 현대자동차견적내기 수원성범죄전문변호사 이혼상담 인터넷비교사이트 장기렌트카조건 성남성범죄전문변호사 성남상간소송변호사 수원형사전문변호사 안산이혼변호사 창원이혼전문변호사 인터넷가입현금지원 법인차량구매 장기렌트리스차이 월렌터카 수원법률사무소 부산이혼전문변호사 기아렌트카 수원음주운전변호사 분당강제추행변호사 의정부법률사무소 비아그라 처방 안산이혼전문변호사 의정부법무법인 신차렌탈 용인성추행변호사 무심사장기렌트카 용인성범죄변호사 수원강간변호사 안산이혼변호사 서울이혼전문변호사 한게임머니상 서울탐정사무소 흥신소 카니발장기렌트카 중고장기렌터카 용인상간소송변호사 성남성범죄변호사 12개월렌트 인스타 좋아요 구매 용인대형로펌 렌트카특가 수원촉법소년변호사 용인법무법인 사이트 상위노출 편도렌트 용인강간변호사 인터넷설치현금 수원성범죄전문변호사 안양이혼전문변호사 차렌트비용 수원형사변호사 폰테크 사이트 성남상간소송변호사 의정부형사전문변호사 국어시험 남양주이혼전문변호사 전기차장기렌탈 부천이혼전문변호사 청주이혼전문변호사 인터넷가입현금지원 안양음주운전변호사 성남상간소송변호사 남양주학교폭력변호사 웹사이트 상위노출 용인성범죄변호사 비대면 폰테크 수원개인회생 출장용접 저렴한렌트카 용인형사변호사 폰테크 남양주학교폭력변호사 성남이혼변호사 랜트 장기렌트업체추천 산타페하이브리드리스 폰테크 수원상간소송변호사 차량대여 렌트카추천 수원변호사 네이버키워드광고 일일렌트카 이혼변호사 신용불량자장기렌트 남양주학교폭력변호사 의정부이혼전문변호사 토레스장기렌트 수원강간변호사 수원형사전문변호사 신차장기렌트가격 람보르기니렌트 무신용장기렌트 의정부마약변호사 사이트 상위노출 저신용장기렌트 수원법무법인 수원성추행변호사 상간녀소송 기아자동차렌트 상조내구제 천안이혼전문변호사 인터넷설치현금 홈페이지 상위노출 1달렌트카 빠른이혼 이지렌트 안양대형로펌 용인성범죄변호사 당일렌트 의정부상간소송변호사 안양음주운전변호사 의정부상간소송변호사 의정부변호사 의정부성범죄전문변호사 레이캠핑카렌트 개인회생장기렌트 폰테크 평택학교폭력변호사 자동차장기렌탈 세종이혼전문변호사 의정부성범죄전문변호사 남양주대형로펌 폰테크! 현대자동차렌트카 유튜브 조회수 늘리기 수원형사전문변호사 자동차단기렌트 용인이혼전문변호사 신차비교견적 용인학교폭력변호사 용인상간소송변호사 용인성추행변호사 의정부성범죄변호사 당일 폰테크 마약전문변호사 인터넷가입사은품많이주는곳 용인성범죄전문변호사 폰테크 당일 구리학교폭력변호사 사고대차렌트 장기렌트추천 용인음주운전변호사 상간녀위자료 안산이혼전문변호사 수원상간소송변호사 폰테크 연체자장기렌트 볼보장기렌트 저신용장기렌트카 서울흥신소 수원법무법인 7리스 용인성범죄전문변호사 위례요양병원 장기렌트번호판 BMWX5장기렌트 수원이혼전문변호사 렌탈카 한달단기렌트카 신차딜러서비스 제주이혼전문변호사 용인불법촬영변호사 코글플래닛 안양이혼전문변호사 안양이혼변호사 인터넷티비현금많이주는곳 장기렌트할인 저신용장기렌트 인터넷가입현금지원 성남상간소송변호사 의정부상간소송변호사 수원법무법인 의정부성범죄변호사 수원강제추행변호사 렌트차 성남이혼전문변호사 신차장기렌트장점 당일폰테크 세종이혼전문변호사 인터넷비교사이트 인터넷가입사은품많이주는곳 의정부성범죄전문변호사 폰테크 무심사장기렌트카 양주학교폭력변호사 단기렌트카가격비교 의정부음주운전변호사 베뉴렌트 현대차렌탈 이혼전문변호사추천 부산이혼전문변호사 ai헤어모델 렌트와리스차이 용인상간소송변호사 의정부형사변호사 폰테크 공유자동차 수원법무법인 수원강제추행변호사 이혼전문변호사 세종이혼전문변호사 수원성범죄변호사 의정부법률사무소 의정부성범죄변호사 수원변호사 이지렌트카 개인사업자차량렌트 G90장기렌트 수원형사전문변호사 의정부변호사 개인사업자차량구매 폰테크 제네시스GV80장기렌트 세종이혼전문변호사 평택학교폭력변호사 한달렌트카 하나장기렌트 자동차렌트비교 의정부음주운전변호사 폰테크 분당성추행변호사 의정부이혼변호사 안산이혼전문변호사 분당불법촬영변호사 승소사례 평택학교폭력변호사 의정부음주운전변호사 베뉴장기렌트 이혼전문변호사 의정부변호사 단기렌트추천 의정부법률사무소 저신용장기렌트 장기렌트업체추천 재산분할