HERI 뉴스
공공정책과 자동의사결정 시스템

이탈리아 주정부들, 개인별 의료정보 활용
“알고리즘의 접종대상 선별 정확도 95%”

공공정책에 알고리즘 활용 증가
‘알고리즘 영향 평가’ 지침 등장

“인권 안전 민주주의 고려한 AI정책을”
국내 120개 사회단체 공동선언 발표

참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 5월24일 오후 참여연대 사무실에서 기자회견을 열어 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.
참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 5월24일 오후 참여연대 사무실에서 기자회견을 열어 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.


코로나19 백신 접종의 효과를 최대한 높이는 방법은 무엇일까. 한국 정부는 나이와 근무지·직무 등을 기준으로 집단별 접종 우선순위를 결정했고, 미국 오하이오 주는 접종자에게 매주 수요일 100만달러(약 11억원)의 복권 당첨 기회를 제공해 접종율을 높이려 하고 있다. 백신 접종 우선순위 결정을 알고리즘에 맡기면 합리성과 높은 효율성을 끌어낼 수 있을까. 공공정책에 인공지능 알고리즘 적용을 위해선 무엇이 요구될까.


이탈리아, 알고리즘 활용 정책결정

이탈리아는 코로나19로 인구(6036만명) 7%(420만명)가 감염돼 환자 3%(12만6천명)가 숨진 주요 피해국이다. 코로나19 예방접종이 시작되면서 롬바르디아, 발레다오스타, 피에몬트 등 일부 주정부는 백신 효과를 극대화하기 위해 접종 우선순위를 결정하는 ‘자동화된 의사결정(ADM)’ 시스템을 채택해 공개했다. 독일의 알고리즘 감시 민간단체인 알고리즘워치는 최근 이탈리아 주정부들이 채택한 백신접종 우선순위 알고리즘(ADM)에 대한 보고서를 발표했다.


보고서에 따르면, 발레다오스타 주정부는 정교한 기계학습을 활용해 연령별 인구와 보유질병 등 개인별 건강상태를 주요변수로 접종 우선순위를 결정하는 다양한 알고리즘을 개발해 결과의 일관성을 평가한 뒤 가장 보수적인 알고리즘을 채택했다. 코로나19 위협에 가장 취약한 것으로 나타난 사람들을 최우선 접종하는 알고리즘이다. 이 알고리즘은 주민들의 당뇨, 만성 폐쇄성 폐질환, 고혈압, 심부전 등 만성질환 보유와 병원 투약, 입원, 응급실 이용 등 최근 5년간 주정부에 누적된 공공의료 데이터를 기계학습했다. 하지만 만성질환자의 상당수는 병원에 가지 않거나 다른 주의 병원을 이용했다. 벨레오다스타 주정부는 이를 보완하기 위해 환자가 지속적으로 복용한 약물을 고려해 실제 질병에 걸릴 확률을 추정하는 알고리즘을 추가했고, 롬바르디아 주정부는 환자별 데이터를 분석한 ‘코로나19 취약성 지수’를 백신 접종 순위에 반영했다.


이탈리아의료연맹(FIMMG)의 파울로 미세리코르디아 정보기술(ICT) 부장은 알고리즘워치와의 인터뷰에서 “알고리즘은 연령과 환자별 취약성을 고려한 변수에 따라 백신 예약 우선순위를 지정하며 이탈리아 전역의 실무 의료진이 활용하고 있다”며 “알고리즘은 코로나19에 가장 취약한 사람을 식별하는 정확도가 95% 수준이다”고 말했다.


백신 접종 우선순위에 알고리즘을 활용하는 나라는 이탈리아만이 아니다. 영국, 독일 바이에른주, 미국에서도 비슷한 논란이 일고 있다.


‘알고리즘 영향 평가’ 속속 도입

코로라19 백신 접종 이전에도 공공 정책에 자동화된 의사결정 알고리즘을 활용한 사례는 많다.


캐나다 정부 이민국(IRCC)은 2018년 인도와 중국인들의 일시체류 비자신청을 심사·처리하는데 인공지능 알고리즘을 시범사업으로 도입했는데, 어떤 데이터를 사용했는지를 공개하라는 정보감시단체 시티즌랩의 요청에 불응했다. 뉴질랜드 이민국은 2018년 정규 이민경로 이외의 방법을 시도한 1만1000명의 출신국·성별·나이·비자종류 데이터에 대한 인공지능 알고리즘 분석을 통해 비정규 이민자가 발생시킬 비용을 추산하고 이들을 잠재적 문제 야기자로 간주해 내쫓은 사실이 현지 언론에 보도됐다. 뉴질랜드 사례는 업무의 효율성 추구를 위한 데이터와 알고리즘에 대한 투명성을 부각시켰고, 캐나다 정부는 자동화된 의사결정 시스템의 영향을 평가하기 위한 ‘알고리즘 영향 평가’ 도구를 개발해 지난 4월 공개했다.


영국에서는 2020년 코로나19 봉쇄로 인해 한국 수능에 해당하는 대학입학 시험(A레벨)이 치러지지 못하자, 대안으로 정부가 알고리즘에 의한 점수 산출을 했다가 일대 혼란에 빠진 바 있다. 알고리즘은 부유한 지역의 사립학교 학생들에게 높은 점수를 주고, 서민 지역의 공립학교 학생들에게 낮은 점수를 부여했다. 사회적 분노와 대규모 시위 끝에 알고리즘을 활용한 점수 산출은 백지화됐다.


미국 뉴욕대 에이아이나우(AI Now) 연구소는 2018년 공공 부문의 자동화된 의사결정시 고려해야 하는 ‘알고리즘 영향 평가’ 기준을 발표한 바 있다(상자 참고). 국내에서도 지난 24일 참여연대, 진보넷, 민변, 민언련 등 120개 시민사회단체는 기자회견을 열어 “현재 정부의 인공지능 정책은 산업계의 요구로 점철돼 있다”며 정부와 국회에 인권, 안전, 민주주의가 보장되는 인공지능 정책 수립을 요구하는 선언을 발표했다.


글·사진/ 구본권 사람과디지털연구소장 starry9@hani.co.kr

한겨레에서 보기:

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“환경-복지-혁신이 선순환 이루는 새로운 성장 전략 마련을”

‘참성장의 시대를 열자’ LAB2050-한겨레경제사회연구원 공동기획 사람·기술·환경이 함께 하는 ‘참성장포럼’…매달 토론회 개최 GDP 중심의 성장만능주의 대체할 새로운 경제비전과 대응 전략 모색 지난 9월15일 열린 ‘참성장포...

  • HERI
  • 2021.09.23
  • 조회수 322

“절차의 공정성 넘어, 능력·경로·선택이 다원화된 사회 만들어야”

정책기획위원회 주최 ‘청년과 정의’ 토론회 남성·대학생·수도권·비장애인 아닌 고졸 이하·지방 출신·비정규직 등 우리사회 다수의 목소리 반영해야 조대엽 대통령직속 정책기획위원회 위원장이 지난 15일 오후 서울 중구 페럼타워 ...

  • HERI
  • 2021.09.22
  • 조회수 332

“기성세대 청년담론은 허구…우리를 주류 정치에 가두지 말라”

한겨레경제사회연구원 ‘청년담론’ 화상 토론회 고용불안을 기성세대와 청년간 사회격차를 남녀문제로 모는 등 대결적인 세대주의 담론 안돼 정치권에선 이대남·이대녀 표현 ‘MZ세대’도 상품 소비자로 호명 청년의 삶을 너무 쉽게...

  • HERI
  • 2021.09.22
  • 조회수 297

땅은 누구의 생산품도 아닌데…토지공개념 살려야 투기 잡는다

‘집걱정없는세상연대’ 등 공동 주최 ‘주거권보장을 위한 연속 토론회’ 개최 “토지공개념은 헌법도 인정하는 개념 사유재산권과 충돌 안해” “토지 투기 막고 효율적으로 이용하려면 토지공개념 다시 살려야” 공공토지임대제·장...

  • HERI
  • 2021.09.16
  • 조회수 406

【단독】 “남양유업 위기는 시장신뢰 상실 때문…‘선 정상화-후 매각’이 해법”

HERI 인터뷰 ‘남양유업 대표 내정’ 전격 공개한 박윤배 대표 8월말 홍원식 회장 만나 기업개선·혁신 맡기로 발표 지연에 SNS로 공개 “기회 놓치면 더 위기” 상생·투명성 등 ESG 과제…시총 1조5천억 가능 ‘연봉 1원’...

  • HERI
  • 2021.09.14
  • 조회수 358

유튜브 ‘서울시장 오세훈TV’의 “#사회주택 #극대노” 자세히 들여다보니…

‘서울시장 오세훈TV’가 서울시 내부자료 이용해 폭로 한국사회주택협회 전수조사 팩트체크와 비교해보니 검증절차 없이 사회주택에 대한 폄훼와 오해 증폭시켜 사업자들 “정치도구화 중단” 및 “왜곡·과장 사과 요구” 사실에 근...

  • HERI
  • 2021.09.13
  • 조회수 422

민주당 경선후보자 ‘사회적 경제 정책’ 톺아보기

[정당별 후보 서면 인터뷰] 주요 현안과 정책·공약에 대한 입장 질의 예비후보 전원 “관련 기본법 신속 제정” 촉구 사회적 경제 필요성 공감…활성화 방안은 제각각 민주당 대선후보 경선에 나선 이재명, 김두관, 정세균, 박...

  • HERI
  • 2021.09.13
  • 조회수 366

포스코 경영진의 자사주 매입 논란…‘ESG 경영’에 걸림돌 되나

검찰 8월12일 포스코 센터 압수수색 경영진이 미공개 정보 이용했는지 수사 포스코, “책임경영 차원에서 매입” 반박 수사결과 혐의 인정되면 윤리경영에 큰 타격 ESG 평가에도 악영향 줄 듯 서울 강남구 포스코 센터 류우종 ...

  • HERI
  • 2021.08.24
  • 조회수 471

“자동코딩, 업무환경 혁신할 ‘새로운 엑셀’될 것” 기대

인공지능이 코딩하는 ‘코파일럿’에 자연어처리 인공지능 GPT-3 결합 코딩문턱 없앤 노코드·로코드 확산 코딩기술보다 기획·판단력 중요성 “아래로부터의 혁신 가속화 전망” 오픈AI, 자연어로 자동코딩 ‘코덱스’ 공개 엘지시엔에...

  • HERI
  • 2021.08.23
  • 조회수 469

“기존 AI모델은 위험…인간의 선호 학습하게 해야”

[인터뷰] 스튜어트 러셀 UC버클리 교수 전세계 대학이 배우는 AI교과서 저자 “지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화” “사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고...

  • HERI
  • 2021.08.09
  • 조회수 623

‘코로나 스트레스’ 가중…“사회적 효능감 높이는데 힘써야”

통계개발원 ‘코로나 위기, 데이터 콘서트’ 코로나 시대 ‘건강한 사회적 삶'은 경제나 방역 강화만으로 해결 어려워 “정부·언론·전문가 협력 기반 대안 모색 등 정책과제 견인해야” 지난 3일 통계개발원이 ‘코로나19 위기 상...

  • HERI
  • 2021.08.05
  • 조회수 596

역대급 실적에도…웃지 못하는 철강업계

포스코 등 2분기 실적 좋지만 EU 탄소국경세 ‘폭탄’ 맞을 위기 전경련 “탄소배출권 시행” 이유로 EU에 탄소국경세 면제 요구 배출권 무상할당 많아 쉽지 않아 코크스 대신 수소 사용 기술 개발 발전소 탈탄소화 등 정부 ...

  • HERI
  • 2021.08.02
  • 조회수 615

“집단감염 계기로 ‘노조’ 결성했지만 ‘원청’ 모르쇠에 답답해요”

[짬] 에이스손해보험 콜센터노조 조지훈 초대 지부장 에이스손해보험콜센터노조 조지훈 지부장이 지난 7일 사무실에서 업계에서 보기드문 ‘신입 노조 전임자’로서 겪고 있는 소회를 털어놓고 있다. 사진 양은영 연구원. “만감이...

  • HERI
  • 2021.07.15
  • 조회수 1000

부동산 값 폭등했는데…초고가 집주인 세금 더 깎아준다고?

‘종합부동산세 개정안’ 긴급토론회 “1주택자 종부세, 상위 2%에만 과세하는 안은 조세형평성과 부동산 안정에 역행하는 정책” “개정안 적용시 초고가 주택 보유자 더 많은 혜택 가진 사람 세금 깎아주는 법에 시민들 의아해...

  • HERI
  • 2021.07.14
  • 조회수 985

사회적 경제, 대전환 시대 자양분 되려면…

‘사회적 경제 혁신 심포지엄’ 개최 복지정책 한계·자본주의 위기 보완할 시민사회 주도의 사회적 경제에 주목 “지역 복지체제, 풀뿌리 사회적 경제에 기반 두고 지자체별로 사회문제 다루는 플랫폼 구축 시급 영역별 지원정책...

  • HERI
  • 2021.07.14
  • 조회수 815

사회적 경제인들 주도, ‘사회적 은행’ 주춧돌 놨다

3일 (가칭)사회연대신용협동조합 창립총회 사회적 경제 기업과 종사자들 설립한 협동조합은행 설립동의자 169명, 3억원 출자로 창립총회 열어 “사회적 금융 생태계에 생기, ‘관계 금융’ 역할 기대” 3일 홀리데이 인 광주 호텔에...

  • HERI
  • 2021.07.07
  • 조회수 915

싹 틔운 사회적농업, 농촌에 희망의 꽃 피울까

3일 ‘사회적경제 박람회’서 사회적농업 간담회 열려 취약계층 자립 돕는 사회적농장 전국 60곳 확산 “지속가능한 운영하려면 중장기 비전 갖고 농민·사회복지가·지역주민 등 협력해야” 3일 광주 서구 김대중컨벤션센터에서 열...

  • HERI
  • 2021.07.06
  • 조회수 812

광주정신과 만난 나눔과 연대의 사회적 경제 축제

2-5일 광주에서 제3회 사회적 경제 박람회 열려 연대와 협력, 혁신 추구하는 사회적 경제인 한 자리에 지난해 코로나로 연기돼 2년만에 열리는 사회적 경제 축제 온라인 스토어, 박람회 랜선투어 온오프 다채로운 이벤트 마련 ...

  • HERI
  • 2021.07.05
  • 조회수 777

“인터넷 최고의 희소자원” ‘주의력 경제’에 정보생태계 황폐화

이용자 주의력 사로잡기 경쟁 인터넷엔 교묘한 ‘설득적 기술’ 자동재생·무한스크롤 ‘기본설정’ 사회적 감시 함께 개인노력 필요 초기설정 ‘비활성화’하고 바꿔야 무한정보 환경과 주의력 2020년 넷플릭스에서 개봉한 다큐멘터리...

  • HERI
  • 2021.06.28
  • 조회수 858

공동자원 통한 수익배분…제주 마을어장 등을 눈여겨 보자

기본소득 ‘공유부’와 다른 ‘공통부’ 구성원이 마을자치 활동해 부 생산 공동체 재구성·삶의 질 향상 가능 지난 16일 제주시 애월읍의 한 영농조합법인이 만든 올바른농민상회에서 지역 주민이 친환경 상품을 소개하고 있다. ...

  • HERI
  • 2021.06.22
  • 조회수 643