자카르타 - MIT 연구원들은 인간 판사가 편향되는 경향이 있다는 연구 결과를 바탕으로 보다 공정한 재판 전 결정을 내리기 위해 사법 시스템의 알고리즘을 사용할 것을 제안했습니다. 팀은 뉴욕시에서 발생한 100만 건 이상의 사건을 분석한 결과 판사 중 20%가 피고인의 연령, 인종 또는 범죄 기록을 바탕으로 결정을 내린다는 사실을 발견했습니다.
Quarterly Journal of Economics에 게재된 연구 결과에 따르면 판사 중 최소 32%의 결정은 피고인이 지정된 보석금을 지불할 실제 능력과 재판에 출석하지 않을 위험과 일치하지 않는 것으로 나타났습니다.
피고인이 범죄 혐의로 재판을 받기 전에 판사는 재판 전 심리를 열어 법원 사건이 시작되기 전에 피고인을 석방해야 하는지, 아니면 도주 위험이 있어 구금해야 하는지 결정합니다. 누군가를 석방하기로 결정한 경우, 그 사람이 석방되기 위해 지불해야 하는 가격, 즉 보석금을 설정합니다. 보석금 금액과 석방 여부를 결정하는 방법은 판사 개인에 따라 다르며, 연구 저자인 Ashesh Rambachan 교수에 따르면 여기서 인간의 편견이 발생한다고 합니다.
2008년부터 2013년까지 뉴욕시에서 발생한 1,460,462건의 법원 사건을 다룬 이 연구에서는 판사의 20%가 개인의 인종, 연령 또는 범죄 기록에 따라 편향된 결정을 내린 것으로 나타났습니다. 이로 인해 모든 담보 결정의 약 30%에서 오류가 발생합니다. 이는 누군가가 감옥에서 석방되어 탈출을 시도하거나 실제로 도주 위험이 없는 사람을 구금하기로 결정했다는 것을 의미할 수 있습니다.
따라서 Rambachan 교수는 재판 전 청문회에서 판사의 의사결정을 대체하거나 강화하기 위해 알고리즘을 사용하면 보석 제도를 더욱 공정하게 만들 수 있다고 주장합니다. 그러나 그는 이것이 현재 존재하지 않는 원하는 결과와 정확하게 일치하는 알고리즘을 구축하는 데 달려 있다고 지적합니다.
AI는 천천히 전 세계 법정에 진출했습니다. 2023년 말, 영국 정부는 판사가 법적 판결을 작성하는 데 ChatGPT를 사용할 수 있다고 결정했습니다. 이전에는 두 가지 알고리즘이 법적 협상, 변호사가 유효하다고 간주하는 계약 초안 작성 및 체결을 성공적으로 모방했습니다.
하지만 AI의 약점도 드러났다. 올해 초 구글은 역사적으로 부정확한 Gemini AI가 생성한 이미지에 대해 비판을 받았습니다. 예를 들어, 사용자가 나치의 이미지를 요청하면 결과 이미지는 SS 유니폼을 입은 흑인의 이미지입니다. 구글은 자사의 알고리즘이 목적에 적합하지 않다는 점을 인정했습니다.
OpenAI의 ChatGPT와 같은 다른 시스템을 방치하면 범죄를 저지르는 것으로 입증되었습니다. 가상 시나리오에서 금융 거래자 역할을 수행하라는 요청을 받았을 때 ChatGPT는 75%의 시간 동안 내부자 거래를 실행했습니다.
크리스틴 모저(Christine Moser)와 같은 학자에 따르면 알고리즘은 올바르게 설계되고 구현되면 유용할 수 있지만 인간과 동일한 표준이나 법칙의 적용을 받지는 않습니다. 네덜란드 Vrije Universiteit에서 조직 이론을 연구하는 Moser 교수는 2022년 논문에서 AI가 판단을 내리게 하는 것은 위험한 길일 수 있다고 썼습니다. 그는 더 많은 인간 시스템을 AI로 대체하면 '의사 결정에서 인간의 판단을 대체할 수 있으며 이를 통해 근본적이고 아마도 돌이킬 수 없는 방식으로 도덕성을 변화시킬 수 있다'고 말했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
