HERI 뉴스
공공정책과 자동의사결정 시스템

이탈리아 주정부들, 개인별 의료정보 활용
“알고리즘의 접종대상 선별 정확도 95%”

공공정책에 알고리즘 활용 증가
‘알고리즘 영향 평가’ 지침 등장

“인권 안전 민주주의 고려한 AI정책을”
국내 120개 사회단체 공동선언 발표

참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 5월24일 오후 참여연대 사무실에서 기자회견을 열어 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.
참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 5월24일 오후 참여연대 사무실에서 기자회견을 열어 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.


코로나19 백신 접종의 효과를 최대한 높이는 방법은 무엇일까. 한국 정부는 나이와 근무지·직무 등을 기준으로 집단별 접종 우선순위를 결정했고, 미국 오하이오 주는 접종자에게 매주 수요일 100만달러(약 11억원)의 복권 당첨 기회를 제공해 접종율을 높이려 하고 있다. 백신 접종 우선순위 결정을 알고리즘에 맡기면 합리성과 높은 효율성을 끌어낼 수 있을까. 공공정책에 인공지능 알고리즘 적용을 위해선 무엇이 요구될까.


이탈리아, 알고리즘 활용 정책결정

이탈리아는 코로나19로 인구(6036만명) 7%(420만명)가 감염돼 환자 3%(12만6천명)가 숨진 주요 피해국이다. 코로나19 예방접종이 시작되면서 롬바르디아, 발레다오스타, 피에몬트 등 일부 주정부는 백신 효과를 극대화하기 위해 접종 우선순위를 결정하는 ‘자동화된 의사결정(ADM)’ 시스템을 채택해 공개했다. 독일의 알고리즘 감시 민간단체인 알고리즘워치는 최근 이탈리아 주정부들이 채택한 백신접종 우선순위 알고리즘(ADM)에 대한 보고서를 발표했다.


보고서에 따르면, 발레다오스타 주정부는 정교한 기계학습을 활용해 연령별 인구와 보유질병 등 개인별 건강상태를 주요변수로 접종 우선순위를 결정하는 다양한 알고리즘을 개발해 결과의 일관성을 평가한 뒤 가장 보수적인 알고리즘을 채택했다. 코로나19 위협에 가장 취약한 것으로 나타난 사람들을 최우선 접종하는 알고리즘이다. 이 알고리즘은 주민들의 당뇨, 만성 폐쇄성 폐질환, 고혈압, 심부전 등 만성질환 보유와 병원 투약, 입원, 응급실 이용 등 최근 5년간 주정부에 누적된 공공의료 데이터를 기계학습했다. 하지만 만성질환자의 상당수는 병원에 가지 않거나 다른 주의 병원을 이용했다. 벨레오다스타 주정부는 이를 보완하기 위해 환자가 지속적으로 복용한 약물을 고려해 실제 질병에 걸릴 확률을 추정하는 알고리즘을 추가했고, 롬바르디아 주정부는 환자별 데이터를 분석한 ‘코로나19 취약성 지수’를 백신 접종 순위에 반영했다.


이탈리아의료연맹(FIMMG)의 파울로 미세리코르디아 정보기술(ICT) 부장은 알고리즘워치와의 인터뷰에서 “알고리즘은 연령과 환자별 취약성을 고려한 변수에 따라 백신 예약 우선순위를 지정하며 이탈리아 전역의 실무 의료진이 활용하고 있다”며 “알고리즘은 코로나19에 가장 취약한 사람을 식별하는 정확도가 95% 수준이다”고 말했다.


백신 접종 우선순위에 알고리즘을 활용하는 나라는 이탈리아만이 아니다. 영국, 독일 바이에른주, 미국에서도 비슷한 논란이 일고 있다.


‘알고리즘 영향 평가’ 속속 도입

코로라19 백신 접종 이전에도 공공 정책에 자동화된 의사결정 알고리즘을 활용한 사례는 많다.


캐나다 정부 이민국(IRCC)은 2018년 인도와 중국인들의 일시체류 비자신청을 심사·처리하는데 인공지능 알고리즘을 시범사업으로 도입했는데, 어떤 데이터를 사용했는지를 공개하라는 정보감시단체 시티즌랩의 요청에 불응했다. 뉴질랜드 이민국은 2018년 정규 이민경로 이외의 방법을 시도한 1만1000명의 출신국·성별·나이·비자종류 데이터에 대한 인공지능 알고리즘 분석을 통해 비정규 이민자가 발생시킬 비용을 추산하고 이들을 잠재적 문제 야기자로 간주해 내쫓은 사실이 현지 언론에 보도됐다. 뉴질랜드 사례는 업무의 효율성 추구를 위한 데이터와 알고리즘에 대한 투명성을 부각시켰고, 캐나다 정부는 자동화된 의사결정 시스템의 영향을 평가하기 위한 ‘알고리즘 영향 평가’ 도구를 개발해 지난 4월 공개했다.


영국에서는 2020년 코로나19 봉쇄로 인해 한국 수능에 해당하는 대학입학 시험(A레벨)이 치러지지 못하자, 대안으로 정부가 알고리즘에 의한 점수 산출을 했다가 일대 혼란에 빠진 바 있다. 알고리즘은 부유한 지역의 사립학교 학생들에게 높은 점수를 주고, 서민 지역의 공립학교 학생들에게 낮은 점수를 부여했다. 사회적 분노와 대규모 시위 끝에 알고리즘을 활용한 점수 산출은 백지화됐다.


미국 뉴욕대 에이아이나우(AI Now) 연구소는 2018년 공공 부문의 자동화된 의사결정시 고려해야 하는 ‘알고리즘 영향 평가’ 기준을 발표한 바 있다(상자 참고). 국내에서도 지난 24일 참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 기자회견을 열어 “현재 정부의 인공지능 정책은 산업계의 요구로 점철돼 있다”며 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.


글·사진/ 구본권 사람과디지털연구소장 starry9@hani.co.kr

한겨레에서 보기:

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

주류 권력 중심의 ‘청년담론’ 그 바깥의 생생한 목소리들

<2021 아시아미래포럼> 청년포럼/ 청년들이 만드는 균열, 연결, 그리고 상상력 기성세대의 담론에 균열 내며 플랫폼 독립·소수자 문제 등 열정과 문제의식으로 삶 개척 남성·대학생·수도권만이 아닌 각양각색 ‘청년들’ 담아낼 예정...

  • HERI
  • 2021.10.13
  • 조회수 49

인간의 선함 믿는다면, 코로나는 혁명적 전환점 될 것

<2021 아시아미래포럼> 인류에 내재된 ‘협력의 스위치’를 켜라 특별강연: 뤼트허르 브레흐만 홉스의 성악설, 인류 역사와 달라 대부분이 자발적 공존·공감 택해 ‘문명’ 이후 권력자·언론의 선전 탓 왜곡돼온 인간 본성 ‘분출’...

  • HERI
  • 2021.10.13
  • 조회수 49

공정을 가장한 능력주의는 불평등을 고착시킨다

2021 아시아미래포럼 능력주의와 공정, 그리고 정의 기조강연: 마이클 샌델 “출발선의 격차 외면한 채 능력주의는 공정하다 착각 노동의 존엄성 회복하며 사회적 연대 끈 다시 매야” “한국형 능력주의 굴곡 이해못해” 비판도 ...

  • HERI
  • 2021.10.13
  • 조회수 54

스티글리츠 “친환경 인프라 투자하면 일자리 늘고 양극화 완화”

<2021 아시아미래포럼> 기후위기 시대, 불평등 넘어 공존으로 기조·특별강연: 조지프 스티글리츠 “정보 비대칭 탓 시장 불완전 국가·정치가 통제해야 공정 불평등·기후위기 심각 상황 팬데믹은 경제 재편할 기회 부유세·탄소세 부...

  • HERI
  • 2021.10.13
  • 조회수 55

코로나로 더 벌어진 격차…‘함께’에 답이 있다

<2021 아시아미래포럼> 공존을 위한 대전환: 함께 만드는 미래 코로나로 소득 양극화 작년 기아 1억1800만명 증가 대부분 아프리카·아시아·중남미 미국·유럽은 국가 부 10%나 늘어 기후위기 난제 더해져 환경문제 방치 땐 양극화...

  • HERI
  • 2021.10.13
  • 조회수 105

센델 “능력주의 오만, 공동선에 대한 책임 망각하게 해”

2021 아시아미래포럼 미리 만나보는 주요 연사 ② 마이클 샌델 마이클 샌델이 2010년 2월 미국 롱비치에서 열린 테드(TED) 강연회에서 ‘민주적 토론’을 주제로 강연하고 있다. <한겨레> 자료사진 제12회 아시아미래포럼에서 기조...

  • HERI
  • 2021.10.13
  • 조회수 96

스티글리츠 “코로나 팬데믹, 불평등·기후위기 잡을 적기”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ① 조지프 스티글리츠 “1990년대 개도국 금융 위기는 신자유주의적 세계화가 그 주범 상위 1% 위한 시장만능 자본주의 국가·정치가 적극적으로 나서야” “자본주의 또 다른 결과...

  • HERI
  • 2021.10.12
  • 조회수 111

공존을 위한 대전환: 함께 만드는 미래

더 나은 사회와 지속가능한 발전을 모색해온 ‘한겨레 아시아미래포럼’이 10월20~21일 열립니다. 12회째인 올해 주제는 ‘공존을 위한 대전환: 함께 만드는 미래’입니다. 인류가 직면한 기후위기와 불평등의 골은 코로나19 팬데믹...

  • HERI
  • 2021.10.11
  • 조회수 72

“삶터와 일터에서 지속가능한 미래, 시민이 만들어갑니다”

대한민국 지속가능발전 공모전 14개 우수사례 선정 도시문제 해결 위해 민·관 손잡은 화성시 ‘대통령상’ 수상 전남 순천 덕연동 마을계획과 지속가능발전 목표 연계 쓰레기 줍고 조깅하는 ‘플로깅’ 실천 ‘와이퍼스’ 사례 눈...

  • HERI
  • 2021.09.28
  • 조회수 266

“환경-복지-혁신이 선순환 이루는 새로운 성장 전략 마련을”

‘참성장의 시대를 열자’ LAB2050-한겨레경제사회연구원 공동기획 사람·기술·환경이 함께 하는 ‘참성장포럼’…매달 토론회 개최 GDP 중심의 성장만능주의 대체할 새로운 경제비전과 대응 전략 모색 지난 9월15일 열린 ‘참성장포...

  • HERI
  • 2021.09.23
  • 조회수 340

“절차의 공정성 넘어, 능력·경로·선택이 다원화된 사회 만들어야”

정책기획위원회 주최 ‘청년과 정의’ 토론회 남성·대학생·수도권·비장애인 아닌 고졸 이하·지방 출신·비정규직 등 우리사회 다수의 목소리 반영해야 조대엽 대통령직속 정책기획위원회 위원장이 지난 15일 오후 서울 중구 페럼타워 ...

  • HERI
  • 2021.09.22
  • 조회수 354

“기성세대 청년담론은 허구…우리를 주류 정치에 가두지 말라”

한겨레경제사회연구원 ‘청년담론’ 화상 토론회 고용불안을 기성세대와 청년간 사회격차를 남녀문제로 모는 등 대결적인 세대주의 담론 안돼 정치권에선 이대남·이대녀 표현 ‘MZ세대’도 상품 소비자로 호명 청년의 삶을 너무 쉽게...

  • HERI
  • 2021.09.22
  • 조회수 325

땅은 누구의 생산품도 아닌데…토지공개념 살려야 투기 잡는다

‘집걱정없는세상연대’ 등 공동 주최 ‘주거권보장을 위한 연속 토론회’ 개최 “토지공개념은 헌법도 인정하는 개념 사유재산권과 충돌 안해” “토지 투기 막고 효율적으로 이용하려면 토지공개념 다시 살려야” 공공토지임대제·장...

  • HERI
  • 2021.09.16
  • 조회수 442

【단독】 “남양유업 위기는 시장신뢰 상실 때문…‘선 정상화-후 매각’이 해법”

HERI 인터뷰 ‘남양유업 대표 내정’ 전격 공개한 박윤배 대표 8월말 홍원식 회장 만나 기업개선·혁신 맡기로 발표 지연에 SNS로 공개 “기회 놓치면 더 위기” 상생·투명성 등 ESG 과제…시총 1조5천억 가능 ‘연봉 1원’...

  • HERI
  • 2021.09.14
  • 조회수 380

유튜브 ‘서울시장 오세훈TV’의 “#사회주택 #극대노” 자세히 들여다보니…

‘서울시장 오세훈TV’가 서울시 내부자료 이용해 폭로 한국사회주택협회 전수조사 팩트체크와 비교해보니 검증절차 없이 사회주택에 대한 폄훼와 오해 증폭시켜 사업자들 “정치도구화 중단” 및 “왜곡·과장 사과 요구” 사실에 근...

  • HERI
  • 2021.09.13
  • 조회수 448

민주당 경선후보자 ‘사회적 경제 정책’ 톺아보기

[정당별 후보 서면 인터뷰] 주요 현안과 정책·공약에 대한 입장 질의 예비후보 전원 “관련 기본법 신속 제정” 촉구 사회적 경제 필요성 공감…활성화 방안은 제각각 민주당 대선후보 경선에 나선 이재명, 김두관, 정세균, 박...

  • HERI
  • 2021.09.13
  • 조회수 380

포스코 경영진의 자사주 매입 논란…‘ESG 경영’에 걸림돌 되나

검찰 8월12일 포스코 센터 압수수색 경영진이 미공개 정보 이용했는지 수사 포스코, “책임경영 차원에서 매입” 반박 수사결과 혐의 인정되면 윤리경영에 큰 타격 ESG 평가에도 악영향 줄 듯 서울 강남구 포스코 센터 류우종 ...

  • HERI
  • 2021.08.24
  • 조회수 486

“자동코딩, 업무환경 혁신할 ‘새로운 엑셀’될 것” 기대

인공지능이 코딩하는 ‘코파일럿’에 자연어처리 인공지능 GPT-3 결합 코딩문턱 없앤 노코드·로코드 확산 코딩기술보다 기획·판단력 중요성 “아래로부터의 혁신 가속화 전망” 오픈AI, 자연어로 자동코딩 ‘코덱스’ 공개 엘지시엔에...

  • HERI
  • 2021.08.23
  • 조회수 489

“기존 AI모델은 위험…인간의 선호 학습하게 해야”

[인터뷰] 스튜어트 러셀 UC버클리 교수 전세계 대학이 배우는 AI교과서 저자 “지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화” “사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고...

  • HERI
  • 2021.08.09
  • 조회수 641

‘코로나 스트레스’ 가중…“사회적 효능감 높이는데 힘써야”

통계개발원 ‘코로나 위기, 데이터 콘서트’ 코로나 시대 ‘건강한 사회적 삶'은 경제나 방역 강화만으로 해결 어려워 “정부·언론·전문가 협력 기반 대안 모색 등 정책과제 견인해야” 지난 3일 통계개발원이 ‘코로나19 위기 상...

  • HERI
  • 2021.08.05
  • 조회수 612