Facebook
Twitter
참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 5월24일 오후 참여연대 사무실에서 기자회견을 열어 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.
HERI 뉴스
공공정책과 자동의사결정 시스템
이탈리아 주정부들, 개인별 의료정보 활용
“알고리즘의 접종대상 선별 정확도 95%”
공공정책에 알고리즘 활용 증가
‘알고리즘 영향 평가’ 지침 등장
“인권 안전 민주주의 고려한 AI정책을”
국내 120개 사회단체 공동선언 발표
코로나19 백신 접종의 효과를 최대한 높이는 방법은 무엇일까. 한국 정부는 나이와 근무지·직무 등을 기준으로 집단별 접종 우선순위를 결정했고, 미국 오하이오 주는 접종자에게 매주 수요일 100만달러(약 11억원)의 복권 당첨 기회를 제공해 접종율을 높이려 하고 있다. 백신 접종 우선순위 결정을 알고리즘에 맡기면 합리성과 높은 효율성을 끌어낼 수 있을까. 공공정책에 인공지능 알고리즘 적용을 위해선 무엇이 요구될까.
이탈리아, 알고리즘 활용 정책결정
이탈리아는 코로나19로 인구(6036만명) 7%(420만명)가 감염돼 환자 3%(12만6천명)가 숨진 주요 피해국이다. 코로나19 예방접종이 시작되면서 롬바르디아, 발레다오스타, 피에몬트 등 일부 주정부는 백신 효과를 극대화하기 위해 접종 우선순위를 결정하는 ‘자동화된 의사결정(ADM)’ 시스템을 채택해 공개했다. 독일의 알고리즘 감시 민간단체인 알고리즘워치는 최근 이탈리아 주정부들이 채택한 백신접종 우선순위 알고리즘(ADM)에 대한 보고서를 발표했다.
보고서에 따르면, 발레다오스타 주정부는 정교한 기계학습을 활용해 연령별 인구와 보유질병 등 개인별 건강상태를 주요변수로 접종 우선순위를 결정하는 다양한 알고리즘을 개발해 결과의 일관성을 평가한 뒤 가장 보수적인 알고리즘을 채택했다. 코로나19 위협에 가장 취약한 것으로 나타난 사람들을 최우선 접종하는 알고리즘이다. 이 알고리즘은 주민들의 당뇨, 만성 폐쇄성 폐질환, 고혈압, 심부전 등 만성질환 보유와 병원 투약, 입원, 응급실 이용 등 최근 5년간 주정부에 누적된 공공의료 데이터를 기계학습했다. 하지만 만성질환자의 상당수는 병원에 가지 않거나 다른 주의 병원을 이용했다. 벨레오다스타 주정부는 이를 보완하기 위해 환자가 지속적으로 복용한 약물을 고려해 실제 질병에 걸릴 확률을 추정하는 알고리즘을 추가했고, 롬바르디아 주정부는 환자별 데이터를 분석한 ‘코로나19 취약성 지수’를 백신 접종 순위에 반영했다.
이탈리아의료연맹(FIMMG)의 파울로 미세리코르디아 정보기술(ICT) 부장은 알고리즘워치와의 인터뷰에서 “알고리즘은 연령과 환자별 취약성을 고려한 변수에 따라 백신 예약 우선순위를 지정하며 이탈리아 전역의 실무 의료진이 활용하고 있다”며 “알고리즘은 코로나19에 가장 취약한 사람을 식별하는 정확도가 95% 수준이다”고 말했다.
백신 접종 우선순위에 알고리즘을 활용하는 나라는 이탈리아만이 아니다. 영국, 독일 바이에른주, 미국에서도 비슷한 논란이 일고 있다.
‘알고리즘 영향 평가’ 속속 도입
코로라19 백신 접종 이전에도 공공 정책에 자동화된 의사결정 알고리즘을 활용한 사례는 많다.
캐나다 정부 이민국(IRCC)은 2018년 인도와 중국인들의 일시체류 비자신청을 심사·처리하는데 인공지능 알고리즘을 시범사업으로 도입했는데, 어떤 데이터를 사용했는지를 공개하라는 정보감시단체 시티즌랩의 요청에 불응했다. 뉴질랜드 이민국은 2018년 정규 이민경로 이외의 방법을 시도한 1만1000명의 출신국·성별·나이·비자종류 데이터에 대한 인공지능 알고리즘 분석을 통해 비정규 이민자가 발생시킬 비용을 추산하고 이들을 잠재적 문제 야기자로 간주해 내쫓은 사실이 현지 언론에 보도됐다. 뉴질랜드 사례는 업무의 효율성 추구를 위한 데이터와 알고리즘에 대한 투명성을 부각시켰고, 캐나다 정부는 자동화된 의사결정 시스템의 영향을 평가하기 위한 ‘알고리즘 영향 평가’ 도구를 개발해 지난 4월 공개했다.
영국에서는 2020년 코로나19 봉쇄로 인해 한국 수능에 해당하는 대학입학 시험(A레벨)이 치러지지 못하자, 대안으로 정부가 알고리즘에 의한 점수 산출을 했다가 일대 혼란에 빠진 바 있다. 알고리즘은 부유한 지역의 사립학교 학생들에게 높은 점수를 주고, 서민 지역의 공립학교 학생들에게 낮은 점수를 부여했다. 사회적 분노와 대규모 시위 끝에 알고리즘을 활용한 점수 산출은 백지화됐다.
미국 뉴욕대 에이아이나우(AI Now) 연구소는 2018년 공공 부문의 자동화된 의사결정시 고려해야 하는 ‘알고리즘 영향 평가’ 기준을 발표한 바 있다(상자 참고). 국내에서도 지난 24일 참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 기자회견을 열어 “현재 정부의 인공지능 정책은 산업계의 요구로 점철돼 있다”며 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.
글·사진/ 구본권 사람과디지털연구소장 starry9@hani.co.kr
한겨레에서 보기:
