AI ‘범죄 연루’ 사례 1년 사이 56.4% 증가

AI ‘범죄 연루’ 사례 1년 사이 56.4% 증가

김상민 일러스트레이터

인공지능(AI) 발전으로 AI가 범죄에 연루되는 사례가 크게 늘어난 것으로 조사됐다.

소프트웨어정책연구소(SPRi)는 16일 ‘AI 인덱스 2025 주요 내용과 시사점’이라는 제목의 이슈 리포트를 내고 이같이 밝혔다. ‘AI 인덱스 2025’는 미국 스탠퍼드대 인간중심인공지능연구소(HAI)가 최근 발표한 연간 보고서다. SPRi의 리포트는 해당 보고서의 주요 내용을 분석·요약하고 한국의 전략적 대응을 제안하기 위해 작성됐다.

SPRi에 따르면 AI가 연루된 부정적 사건은 지난해 233건으로 역대 최고치를 기록했다. 2023년(149건)보다 56.4% 증가한 수치다. 부정적 사건에는 딥페이크 성착취물 제작이나 청소년 자살에 AI 챗봇이 연루된 사례가 포함됐다. 지난해 국내에서는 아동·청소년을 대상으로 한 딥페이크 성범죄가 잇따르며 논란이 됐다. 미국에선 AI 챗봇과 대화한 아들이 자살을 선택했다며 그의 어머니가 AI 기업에 소송을 건 사례도 있었다.

SPRi는 AI 모델의 사실성과 진실성, 환각 등을 평가하기 위해 새로운 윤리 평가 지표가 등장하고 있지만 여전히 표준화 등의 해결 과제가 남아있다고 지적했다.

HAI는 지난해 한국의 AI 투자 규모와 순위 모두 후퇴했으나 관련 기업의 신규 투자 수는 2023년 44개에서 지난해 52개로 상승했다고 분석했다. 이에 대해 SPRi는 “우리 AI 및 활용 분야에 대한 연구·개발과 이를 위한 인프라와 데이터 확보에 대한 적극적인 투자 증폭이 시급한 상황”이라며 “해외로부터의 적극적인 투자 유치 등의 전략이 필요하다”고 제언했다.

SPRi는 한국이 AI 인재 유출국이라는 HAI의 분석에 빈틈이 있다는 분석도 내놨다. HAI는 AI 인덱스 2025에서 한국의 ‘인재 이동 지수’(인재가 국내에 머무르는지 해외로 나가는지 측정한 지수)가 -0.36으로 2023년(0.30)에 이어 커졌다고 밝혔다. 그러나 SPRi는 “인재 이동 지수는 업무 관련 SNS인 링크드인 프로필 이동에 따른 변화로 이 서비스의 국내 사용자 수가 지난해 기준 300만명에 불과해 AI 채용 상황을 대표하지 못하므로 해석에 유의해야 한다”고 설명했다.

그러면서도 “미국의 인재 쏠림 현상이 지속되고 있다”며 “국내 AI 인재의 체계적인 육성과 역량 정착을 유도할 수 있는 전략 마련이 필요하다”고 제언했다.

https://n.news.naver.com/article/032/0003363750?sid=101