AI의 판단으로 생긴 피해에 누가 책임져야 하는가?

인공지능은 많은 자료에서 패턴을 찾아 채용, 대출, 의료, 치안, 복지의 판단을 보조하거나 자동으로 실행한다. 그러나 피해가 생기면 개발자는 사용 방식을, 운영자는 모델의 복잡성을, 사용자는 제공된 결과를 이유로 책임을 서로 미룰 수 있다. 이 질문이 문제가 되는 까닭은 인공지능이 독립된 도덕적 주체처럼 보이지만 실제로는 여러 조직과 사람이 설계하고 자료를 선택하며 배치한 시스템이고, 피해의 원인이 한 단계에만 있지 않기 때문이다. 책임을 나누려면 누가 목적과 기준을 정했고, 어떤 자료와 한계를 알았으며, 결과를 검토하고 중단할 권한이 있었는지 살펴야 한다. 개발자의 기술적 주의, 공급 기업의 설명, 운영기관의 검증, 사용자의 전문적 판단, 규제기관의 감독은 서로 다른 의무를 가진다. 당사자가 오류를 발견하고 이의를 제기해도 결정 구조가 불투명하면 피해 회복이 어렵다. 예측할 수 없었던 오류와 알려진 위험을 무시한 배치는 구분되어야 하며, 이익을 얻는 주체가 손실을 사회에 넘기지 않는 원칙도 중요하다. 채용 알고리즘이 여성과 장애인을 낮게 평가하면 과거 자료의 편견, 목표 설정, 기업의 검토 책임이 함께 문제 된다. 의료 인공지능의 오진은 모델 제공자와 병원, 의사의 역할에 따라 책임이 달라지고, 자율주행 사고에는 제조사와 소프트웨어 업체, 운전자, 도로 환경이 얽힌다. 복지 부정수급 탐지와 예측 치안은 오류가 취약한 집단의 권리와 생계에 직접 영향을 준다. 생성형 인공지능이 허위정보와 저작권 침해를 만들 때에도 개발·배포·이용의 층위가 나뉜다. 누가 책임져야 하는가라는 물음은 모든 책임을 최종 사용자나 기술 기업 한곳에 두는 데 있지 않다. 복잡한 인과관계가 책임의 부재를 뜻하지 않도록 역할별 의무와 공동 배상 구조가 필요할 수 있다. 질문의 핵심은 인공지능을 처벌 가능한 행위자로 보는 데 있지 않다. 시스템의 전 생애에서 권한과 이익, 지식과 통제력을 가진 주체가 어떤 책임을 지며, 피해자가 원인을 모두 증명하지 않아도 설명과 회복을 요구할 수 있는 제도가 무엇인지 이해하는 데 있다.