HERI 칼럼
챗봇 이루다. 김재욱 화백
챗봇 이루다. 김재욱 화백

국내 인공지능 기업 스캐터랩이 개발한 채팅로봇(챗봇) ‘이루다’가 지난 27일 서비스를 재개했다. ‘스무살 여대생’ 챗봇이 이용자들의 왜곡된 성관념, 혐오 발언을 학습하고 개인정보 유출 문제를 일으켜 서비스가 중단된 지 1년9개월여 만이다. 업그레이드된 이루다는 인공지능과 기존보다 17배 확장된 언어모델을 활용해 실시간으로 대화 문맥을 파악해 답변하고 사진도 인식해 대화가 한결 자연스러워졌다. 이용자가 차별과 혐오 발언을 유도하거나 학습시키면 회피하는 기술도 익혔다.


돌아온 챗봇 이루다는 인공지능·로봇과 공존해야 하는 사회의 모습을 알려준다. 인공지능 알고리즘은 이미 만들어진 데이터를 활용하기 때문에, 우리 사회의 편향성과 차별을 반영한다는 점이다. 기계 아닌 사회의 차별이 원인이다. 기계학습 특성상 문제점이 보고되면 개선하거나 회피할 수 있고 갈수록 효율성은 높아진다. 이에 대해 수학자 캐시 오닐은 <대량살상 수학무기>에서 “공정성과 공익은 인간 머릿속에만 존재하기 때문에 정량화가 어려워 배제된다. 효율성을 희생하더라도 알고리즘에 인간적 가치를 반영해야 한다”고 말한다.

알고리즘과 데이터는 아는 만큼 사회가 통제할 수 있다. 알고리즘에 대한 투명성과 접근성이 요구되는 이유다. 교육과정에서 코딩 교육을 강조하고 있지만 그보다 중요한 것은 알고리즘과 데이터가 개인과 사회에 어떤 영향을 끼칠 수 있는지와 이를 통제하는 방법이다. 이미 ‘코파일럿’처럼 자동으로 코딩을 해주는 프로그램이 등장한 상황에서 코딩은 기계에 쉽게 대체될 기능이다.


이루다의 서비스 기치는 ‘공감과 위로’로, 모든 사람이 덜 외롭고 행복한 삶을 사는 데 도움이 되는 친구를 목표로 내걸었다. 개인화·고령화 사회에서 휴머노이드로봇·소셜로봇·챗봇에 대한 의존성은 커진다. 편리하지만 위험한 미래다. 매사추세츠공과대학의 사회심리학자 셰리 터클은 1960년대부터 왜 사람들이 로봇에 빠져드는지를 연구했다. 로봇이 사람을 속이기 때문이 아니라, 사람들이 사람에게 기대하기보다 통제 가능한 기계에 더 의존하고자 하기 때문이라는 게 연구의 결과다(<외로워지는 사람들>). 함께 살아갈 인공지능 챗봇을 어떤 존재로 만들어야 하는지는 개발자만이 아니라 사회 모두의 과제가 됐다.

구본권 사람과디지털연구소장 starry9@hani.co.kr


한겨레에서 보기 : https://www.hani.co.kr/arti/opinion/column/1065051.html

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

챗지피티 시대엔 ‘헛소리 탐지능력’이 필수 [유레카]

‘글쓰는 인공지능’ 챗지피티 시대의 필수능력. 김재욱 화백 2016년 3월 이세돌-알파고 대국이 예고편이라면, 지난해 11월30일 공개된 오픈 에이아이(Open AI)의 ‘챗지피티’(ChatGPT)는 인공지능 시대의 본격 개막 신호다. 거...

  • HERI
  • 2023.01.26
  • 조회수 95

윤석열표 에너지 정책, ‘세마리 토끼’ 다 놓친다 [아침햇발]

게티스이미지뱅크 이봉현 ㅣ경제사회연구원장 겸 논설위원 윤석열 정부가 재생에너지 발전 목표를 낮춘 것은 세계적 추세와 정확히 반대로 가는 것이자 한국 경제의 미래를 갉아먹는 일이다. 국제사회에 약속한 탄소 중립 목표를...

  • HERI
  • 2023.01.13
  • 조회수 162

디지털 시대에 필요한 ‘새해 계획’ [유레카]

시간 절약 기술과 ‘타임 푸어’. 김재욱 화백 새해를 맞아 다짐하는 계획 중에는 알찬 시간 사용법이 빠지지 않는다. 1000년 전 송나라 주희는 “늙기는 쉬워도 배움을 이루기는 어려우니, 한순간도 가벼이 보내지 말라”고 ...

  • HERI
  • 2023.01.03
  • 조회수 166

황당한 ‘통계조작’ 거짓말…진짜 사기단은 국힘과 보수언론

[아침햇발] 국민의힘 정진석 비상대책위원장이 22일 오전 국회에서 열린 비상대책위원회의에서 문재인 전 대통령을 향해 통계조작 의혹에 대해 국민에 사과할 것을 요구하고 있다. 왼쪽부터 주호영 원내대표, 정 비대위원장, 성일...

  • HERI
  • 2022.12.26
  • 조회수 247

[아침햇발] 은행알을 삶아 농약을 만들었다 / 이봉현

땅은 훌륭한 탄소저장고다. 유엔식량농업기구(FAO)에 따르면 초지 1㎡당 연간 최대 40g의 탄소를 흡수할 수 있다. 특히 콩을 재배하는 초지는 탄소흡수량이 39% 증가한다. 화학비료를 사용하지 않으면 농지의 탄소 흡수 기능은 ...

  • HERI
  • 2022.12.19
  • 조회수 365

윤 대통령의 ‘가짜뉴스’ 장사 [유레카]

윤석열 대통령과 가짜뉴스. 김재욱 화백 윤석열 대통령이 ‘가짜뉴스’를 직접 입에 올리는 일이 늘고 있다. 윤 대통령은 지난달 18일 출근길 회견에서 “엠비시(MBC)에 대한 전용기 탑승 배제는 우리 국가 안보의 핵심 축인 ...

  • HERI
  • 2022.12.13
  • 조회수 207

[아침햇발] 이재용 회장의 ‘약속’이 진심이라면 / 곽정수

이재용 삼성전자 회장이 지난 10월28일 광주광역시에 위치한 삼성전자 협력회사 디케이를 방문해 생산라인을 돌아보고 있다. 회장 승진 이후 첫 방문지로 협력업체를 선택한 것은 상생경영 의지를 보여주기 위한 포석으로 보인다...

  • HERI
  • 2022.11.30
  • 조회수 355

윤 대통령은 존슨이 선물한 ‘처칠 팩터’ 내팽개쳤나 [아침햇발]

윤석열 대통령 당선자가 지난 5월9일 서울 통의동 대통령직인수위원회 집무실에서 어맨다 밀링 영국 국무장관으로부터 보리스 존슨 당시 영국 총리가 직접 쓴 책 <처칠 팩터>를 전달받고 있다. 공동취재사진 이봉현 ㅣ 경제사회...

  • HERI
  • 2022.11.25
  • 조회수 320

[유레카] ‘머스크의 트위터’ 성패보다 중요한 것 / 구본권

머스크의 트위터. 김재욱 화백 2006년 7월 등장한 트위터는 스마트폰 시대와 맞물려 인류의 정보 이용 방식을 바꾼 소셜미디어다. 휴대전화 문자의 글자수 한도처럼 140자까지만 글을 쓸 수 있는 단문메시지 공유서비스로 출발했...

  • HERI
  • 2022.11.21
  • 조회수 304

[아침햇발] 윤석열의 ‘무능 리스크’ / 곽정수

윤석열 대통령과 김건희 여사가 31일 오전 서울광장에 마련된 이태원 사고 사망자 합동분향소를 방문, 조문을 위해 이동하고 있다. 연합뉴스 곽정수 | 한겨레경제사회연구원 선임기자 이태원에서 안타까운 참사가 일어난 지 나흘...

  • HERI
  • 2022.11.02
  • 조회수 392

[유레카] 차별마저 학습한 챗봇, ‘이루다’가 돌아왔다 / 구본권

챗봇 이루다. 김재욱 화백 국내 인공지능 기업 스캐터랩이 개발한 채팅로봇(챗봇) ‘이루다’가 지난 27일 서비스를 재개했다. ‘스무살 여대생’ 챗봇이 이용자들의 왜곡된 성관념, 혐오 발언을 학습하고 개인정보 유출 문제를 ...

  • HERI
  • 2022.11.01
  • 조회수 333

지도에도 없는 길 들어섰는데, 뒤만 보는 운전자 [아침햇발]

윤석열 대통령이 25일 오전 국회 본회의장에서 내년도 정부 예산안에 대한 시정연설을 마친 뒤 텅 빈 야당 의원석을 지나 퇴장하고 있다. 공동취재사진 이봉현 ㅣ 경제사회연구원장 겸 논설위원 강원도 태백에는 ‘삼수령’이라...

  • HERI
  • 2022.10.28
  • 조회수 484

추경호 부총리, 무지한 건가 뻔뻔한 건가? [아침햇발]

윤석열 대통령이 지난 7월8일 서울 용산 대통령실 청사에서 열린 1차 비상경제민생회의를 주재하고 있다. 왼쪽은 추경호 경제부총리 겸 기획재정부 장관. 대통령실사진기자단 곽정수 | 한겨레경제사회연구원 선임기자 “한국은 영국...

  • HERI
  • 2022.10.12
  • 조회수 424

착하지도 나쁘지도 않은 ‘봇’

[유레카] 테슬라 최고경영자 일론 머스크가 인수하기로 한 트위터와 봇 테슬라의 최고경영자 일론 머스크가 지난 4월 440억달러(약 62조원)에 소셜미디어 플랫폼인 트위터를 인수하겠다고 발표했다가 뒤집었다. 머스크는 7월 트위터...

  • HERI
  • 2022.10.11
  • 조회수 304

택시가 잡히지 않는 밤에 타다를 ‘복기’하며 / 이봉현

[아침햇발] 코로나 팬데믹 이후 택시기사가 배달 등으로 대거 이직해 수도권에서 밤 시간 택시 잡기가 매우 힘들어졌다. 지난 4월 서울 강남역 인근에서 자정이 넘은 시간에 시민들이 택시를 잡기 위해 길거리에 서 있다. 연...

  • HERI
  • 2022.10.05
  • 조회수 608

[유레카] 등반가 쉬나드가 연 ‘자본주의의 새 길’ / 구본권

파타고니아 창립자 이본 쉬나드. 김재욱 화백 한동안 극점과 8000m대 봉우리는 숱한 생명을 삼킨 모험과 과시적 국가주의의 대상이었다. 1964년 중국 시샤팡마(8027m)를 끝으로 8000m 14좌 모두에 사람 발길이 닿고, 1986년 라인홀...

  • HERI
  • 2022.09.26
  • 조회수 586

[아침햇발] 전현희 위원장에 박수를 보내는 이유 / 곽정수

전현희 국민권익위원장이 지난 8일 정부서울청사 브리핑실에서 감사원의 감사 재연장에 대한 입장을 발표하면서 눈물을 닦고 있다. 연합뉴스 곽정수 | 한겨레경제사회연구원 선임기자 “감사원은 직무상 대통령으로부터도 독립된 위...

  • HERI
  • 2022.09.16
  • 조회수 451

[아침햇발] 한가위 밤하늘을 올려다보며 / 이봉현

제임스웹우주망원경이 촬영한 용골자리 성운. 지구에서 7600광년 떨어진 이 성운은 태양보다 몇배 더 큰 무거운 별들의 고향으로, 우리은하에서 가장 크고 밝은 성운 가운데 하나다. 미 항공우주국 제공 이봉현 | 경제사회연구원...

  • HERI
  • 2022.09.13
  • 조회수 448

‘심심한 사과’ 문해력 논쟁과 ‘헤어질 결심’ 서래에게 배울 것 [유레카]

청소로봇 룸바, 지뢰탐지 로봇 팩봇 등을 개발한 미국의 로봇공학자 로드니 브룩스는 최근 창고로봇 카터를 선보였다. 작업자의 동작을 판독해 사람을 효과적으로 보조하는 이 로봇에 대해 외신들은 ‘사람의 몸짓언어를 해독하는...

  • admin
  • 2022.08.24
  • 조회수 697

[아침햇발] 유럽은 올겨울이 두렵다는데, 우리는? / 이봉현

천연가스 소비의 55%를 러시아산에 의존했던 독일은 러시아의 가스 공급 축소 등으로 올겨울 가스 소비를 20% 줄여야 할 것이란 예상이 나오고 있다. 사진은 가스 공급망의 핵심을 이루는 ‘오픈 그리드 유럽’의 가스압축 시...

  • HERI
  • 2022.08.22
  • 조회수 647