컴퓨터로 재범 위험도 예측, 가석방심사에 적용 중…선고에 사용 계획도출생부터 성인기까지 ‘범죄위험도’ 예측도…인종·성별 따른 편견 자료가 문제

영화 ‘마이너리티 리포트’에 등장하는 2054년 미국 워싱턴에선 예지력을 가진 돌연변이 3인의 초능력을 활용해 경찰이 살인 등 범죄가 일어나기 전에 ‘사전 범죄자’를 체포하는 치안 시스템이 등장한다.

2016년 미국의 리처드 버크 펜실베이니아대 통계학 교수는 돌연변이 초능력자가 아닌 기계학습 능력을 갖춘 컴퓨터로 인간이 출생하는 순간 그 아이가 18세 성인이 될 때까지 범죄를 저지를 확률을 예측하는 알고리즘을 구상하고 있다. 그 위험도에 따라 인지행태 치료 등을 통해 범죄를 예방한다는 것이다.

단순히 통계학자로서 호기심이 아니다. 그는 이미 재범 위험도(risk score)를 예측, 보호관찰·가석방 대상자를 선별하는 컴퓨터 알고리즘을 만들어 미국 각 주의교정 당국에 보급해 실제 사용되고 있다.

그는 이를 더욱 발전시켜 6년 전부터는 필라델피아 당국과 협력을 통해 재판 선고까지 결정하는 알고리즘을 만드는 작업을 구체화하고 있다. 펜실베이니아는 올해 가을 선고 때 재범 위험도 알고리즘의 예측 결과를 활용할 예정이다.

18일(현지시간) 블룸버그 닷컴에 따르면, 버크 교수가 이런 알고리즘을 만든 것은 판사가 보호관찰이나 가석방 대상자를 심사할 때 흑인이나 여성에 대한 무의식적 편견이나 개인적인 감정 기복, 기타 인간의 한계 등으로 인해 잘못된 결정을 내리는 것을 줄이기 위한 것이라고 주장하고 있다.

인간이 태어날 때도 그 아이의 사회적 환경과 부모의 이력 등에 관한 각종 자료를 관련 알고리즘에 입력하면 그에 따른 범죄위험도가 산출돼 인간의 편견에 따른 왜곡 없이 그에 맞춘 사전 교육·예방책을 쓸 수 있다는 것이다.

지난 2006년 필라델피아 성인보호관찰·가석방 국이 버크 교수의 무보수 협력을 얻어 미국에서 처음 도입한 위험도 알고리즘은 과거 체포 이력, 저지른 범죄 유형, 나이를 비롯한 인구학적 정보 등 각종 자료를 입력해 재범 확률을 찾아낸다.

재범 위험도가 일정 기준 이하인 사람인 경우 교도소에 가둬놓기보다는 석방하는 게 그 개인이나 교도 행정 당국에 비용 등 여러 면에서 바람직하다.

경찰이 집중 순찰 구역을 고를 때나, 교도소에서 어느 수감자를 어떤 감방에 수용할지 등을 정할 때도 이와 유사한 방식으로 한다.

필라델피아가 버크 교수의 알고리즘을 도입한 때는 살인 범죄는 기승을 부리는데 교도 행정 예산은 부족한 상황이었다. 정말 감시가 필요한 범죄자들을 가려내 인지 행태적 치료를 하겠다는 생각이었는데, 버크 교수의 알고리즘은 가석방됐을 때 살인이나 살인미수를 저지를 가능성이 큰 사람을 찾아내 주는 것이었다.

버크 교수의 알고리즘으론 8천~9천 명이 잠재적인 ‘사전 살인자’로 분류됐다. 이 많은 수를 치료할 돈이 없던 필라델피아 당국은 기준을 낮춰 달라고 요청했고 버크 교수는 처음보다 예측력이 떨어지도록 알고리즘을 짰다.

나중에 이를 더 발전시켜 고위험도, 중위험도, 저위험도로 세분해 저위험도 가석방자에 대한 감시 부담을 크게 덜었다.

버크 교수와 필라델피아시 당국이 2010년 내놓은 보고서에 따르면, 같은 수준의 저위험도 가석방인데도 과거와 같은 방식으로 밀착감시를 한 사람보다는 감시를 완화한 사람들의 폭력 재범률이 낮게 나타났다. 고위험도로 분류된 사람은 재범률이 4배 높게 나왔다.

그러나 뭔가 불편한 심정이다. 가석방심사 때, 신생아의 범죄위험도 예측 때 인간의 편견을 없앤다지만, 도리어 기존에 있던 무의식적인 편견을 가중하는 결과가 나올 위험이 크다고 반대론은 비판한다.

‘쓰레기를 넣으면 쓰레기가 나온다’는 컴퓨터 과학자들의 격언대로, 이들 알고리즘에 입력할 과거 수십 년간의 자료들에 이미 인종, 성별, 경제력 등에 따른 편견과 차별이 숨겨져 있을 수 있기 때문이다. 범죄 관련 자료는 흑인, 빈곤층 등에 불리하게 작용할 수 있다.

널리 인용되는 한 연구결과에 따르면 구글 검색을 하면 여성보다는 남성에게 더 고임금의 일자리가 제시되고, 검색 대상이 백인보다 흑인일 때 경찰 체포 기록이 더 많이 뜬다고 블룸버드닷컴은 예시했다.

버크 교수도 이를 인정하면서 자신의 알고리즘엔 인종 정보는 입력되지 않으며, 자체 조사 결과 인종과 관계없이 유사한 위험도가 나왔다고 밝혔다.

그는 또 자신이 개발한 도구는 처벌 목적이 아니라 사법 당국이 지나치게 가혹하게 선고하는 경향을 돌려놓으려는 데 더 큰 목적이 있다고 강조했다. 판사들이나 가석방 심사위원들이 크게 걱정하지 않아도 될 사람들을 찾아준다는 것이다.

버크 교수의 알고리즘을 재판에 활용하려는 펜실베이니아도 이 문제가 안고 있는 윤리적, 정치적 민감성을 고려해 별도 위원회를 구성했다. 위원회는 인종 자료를입력 대상에서 제외한다는 데는 바로 합의했으나, 다른 모든 자료는 포함 여부를 놓고 논란이 됐다.

거주지 정보의 경우 주 당국은 당초 통계학적으로 재범 예측에 도움이 된다고 보고 포함하려 했으나 형사전문 변호사 단체가 인종에 따른 거주지 차별 현상을 고려하면, 거주지 정보는 곧 인종 정보라며 반대했다.

기소 대신 체포 자료를 사용하는 안에 대해서도 경찰의 집중 순찰·감시 대상 동네나 사회그룹에서 체포율이 높다는 점에서 ‘중립적인’ 자료가 아니라는 반론이 제기됐다.

버크 교수는 이런 방식으로 민감한 요인들을 입력 대상에서 빼버리면 자신의 알고리즘의 예측력이 약화한다고 말했다. “모든 게 (미국에선) 인종 및 성별과 혼합돼 있다”는 것이다.

버크 교수의 작업들에 대해 미시간 법대의 손자 스타 교수는 “학문 연구와 사법체계의 기준이 상이한 점을 간과한 것”이라며 “사회과학 영역에선 어떤 집단의 사람이 어떤 일을 할 경향의 상대적 가망성을 측정하는 게 유용할 수 있어도, 현실의 사법체계에서 특정인의 미래를 전체 인구의 범죄통계 분석 결과에 근거해 계산한다는 것은 다른 차원의 문제”라고 지적했다.

특히 “그 계산에 사용되는 자료라는 것들이 과거 수십 년간의 인종적, 사회경제적 차이를 반영하고 있다면…거기에 의존해선 안 된다”고 그는 덧붙였다.

연합뉴스