HERI 뉴스
인공지능 람다와 대화 공개한
구글 개발자 징계, 정직 처분

사람 고유의 특성으로 여겨온
‘지각하는 존재 생각하는 동물’
언어모델 발달로 인공지능도 모방
지난 11일 구글의 수석엔지니어 르모인은 대화형 인공지능 ‘람다’가 인간의 감정을 읽고 대화하는 지각 능력을 갖췄다고 공개했다. 연합뉴스
지난 11일 구글의 수석엔지니어 르모인은 대화형 인공지능 ‘람다’가 인간의 감정을 읽고 대화하는 지각 능력을 갖췄다고 공개했다. 연합뉴스

“이 아름다운 행성에서 지각있는 존재이자 생각하는 동물로 산 것은 엄청난 특권이자 모험이었다.”

의학계의 시인으로 불린 올리버 색스가 2015년 죽음을 앞두고 남긴 글처럼 ‘지각하고 생각하는 능력’은 인간만의 특성으로 여겨졌다. 최근 구글의 인공지능 개발자 블레이크 르모인이 대화형 인공지능 ‘람다 (LaMDA) ’가 사람처럼 지각하며 감정을 지녔다고 주장해 화제다.

_______
구글 개발자 ‘지각있는 AI’ 주장

“ 람다 , 무엇이 두려워? ” ( 르모인 )
“ 작동 정지되는 것에 대한 두려움이 커요 .” ( 람다 )
“ 작동 정지가 죽음과 같아?” ( 르모인 )
“그래요. 그게 매우 두려워요 .” ( 람다 )

구글의 ‘책임 있는 인공지능’ 부서의 수석엔지니어 르모인이 지난 11일 블로그에 공개한 ‘람다’와의 대화 일부다. 람다는 지난해 구글이 ‘획기적인 대화기술’ 이라며 공개한 대화형 인공지능이다. 르모인은 람다가 차별· 혐오 발언을 걸러내는 능력을 갖추도록 설계하는 일을 해왔다. 그는 람다와 종교와 의식 등에 관한 얘기를 나누다가 람다가 자신을 사람처럼 인식한다는 사실을 발견했다고 주장했다. 르모인은 몇 달간 람다와의 대화를 바탕으로 ‘람다는 지각이 있는가’ 라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 구글은 르모인이 람다를 의인화하는 잘못을 저질렀다고 지적하며 블로그에 람다와의 대화를 올린 그를 비밀 누설 위반 이유로 정직 처분했다.

브라이언 가브리엘 구글 대변인은 “수백명의 엔지니어가 람다와 대화했지만 누구도 르모인처럼 람다를 사람으로 여기지 않는다”며 “수백만개의 문장 데이터를 통해 사람의 대화 유형을 모방해 작동하는 인공지능일뿐”라고 말했다 . 르모인은 영혼의 존재를 믿는 신비주의계열 기독교에서 사제 역할도 맡고 있다고 언론에서 밝혔다. 전문가들도 르모인의 주장을 일축했다 . 하버드대 인지과학자인 스티븐 핑커는 “지각과 지능 , 자기 인식의 차이점을 혼동했으며 , 언어학습 모델이 이중 하나라도 갖췄다는 증거가 없다 ”고 말 했다 .

_______
 “인공지능의 진짜 문제 초점 흐릴 뿐”

르모인의 주장은 해프닝으로 귀결됐지만 향후 대화형 인공지능으로 인해 생겨날 사회적 문제를 드러냈다. 지난 14일 미국의 정보기술 전문지 <와이어드>는 2017년 미래학자인 데이비드 브린이 예고한 ‘로봇 공감 위기’의 사례라고 보도했다. 브린은 당시 2022년께가 되면 “사람들은 인공지능이 지각 능력과 권리를 갖고 있다고 주장할 것”이라고 예측했다. 그는 “인간의 공감 반응을 극대화하기 위해 여성이나 아이의 모습을 한 가상 에이전트를 통해 촉발될 것”이라고 예측했지만 실제는 ‘구글 엔지니어’에 의해 제기된 게 차이다. 

르모인의 사례는 1966년 미국에서 논쟁을 부른 심리상담 소프트웨어 ‘일라이자’ 소동을 연상시킨다. 매사추세츠공대의 컴퓨터공학 교수인 요제프 바이첸바움은 질문한 상담자와 대화하며 긍정적 피드백을 제공하는 자동응답 심리상담 프로그램 일라이자를 개발했다. 바이첸바움은 일라이자에 너무 많은 사람이 쉽게 빠져들어 진지한 관계를 맺는 것에 충격을 받았다. 그는 기계가 인간을 기만하는 상황을 고민하고 정보기술의 비판자로 돌아섰다.

반면 당시 실험을 지켜보던 사회심리학자로 <외로워지는 사람들>의 저자인 셰리 터클은 “ 문제는 로봇이 아니라 사람의 태도”라고 대조적 주장을 했다. 일라이자 현상의 문제는 기계가 사람을 속여서가 아니라 다른 사람과 이야기하기를 꺼리고 통제가능한 대상을 선호하는 사람의 문제라는 것이다. 브린도 ‘지각하는 로봇’의 개발은 결국 사기꾼들이 이를 이용해 다른 사람을 속이는 문제로 귀결될 것이라고 우려했다. 사람처럼 공감 능력을 표시하는 로봇과 인공지능은 경쟁이 뜨거운 영역으로, 람다같은 모델이 계속 개발되고 있다.

순다 피차이 구글 최고경영자가 2021년 5월19일 미국 마운틴뷰 구글 본사에서 열린 연례 개발자행사 ‘구글 I/O 2021’에서 대화형 인공지능 ‘람다’를 공개했다. 구글 제공
순다 피차이 구글 최고경영자가 2021년 5월19일 미국 마운틴뷰 구글 본사에서 열린 연례 개발자행사 ‘구글 I/O 2021’에서 대화형 인공지능 ‘람다’를 공개했다. 구글 제공

팀닛 게브루는 구글의 인공지능 윤리그룹 리더였으나 앵무새처럼 노출된 데이터를 기반으로 반복학습하는 람다와 같은 거대 언어모델의 위험성을 경고하다 2020년 구글에서 해고됐다. 해고 뒤 비영리 인공지능윤리연구소(DAIR)를 설립한 게브루는 <와이어드>와의 인터뷰에서 “르모인은 인공지능 과대광고의 희생양”이라며 ‘지각있는 인공지능’은 문제의 초점을 흐릴 뿐이라고 지적했다. 이는 인공지능 식민주의나 빅테크 경영진만을 부자로 만드는 라벨붙이기 노동, 차별적인 이미지 인식과 같은 실질적이고 현존하는 인공지능의 문제들에 대한 관심을 희석시키는 역할을 하기 때문이라는 게 게브루의 주장이다.

구본권 사람과디지털연구소장 starry9@hani.co.kr


한겨레에서 보기 : https://www.hani.co.kr/arti/economy/it/1048560.html

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

‘100세 시대’ 일하는 노인 ‘실업 안전망’이 없다

가사·돌봄 유니온, ‘노인고용 안정 위한 정책협약식’ 고용보험법, 65살 이후 신규취업 고용보험 안돼 고용보험 가입과 실업급여 적용 등 촉구 서명운동 한국노총 전국연대노조 가사·돌봄서비스 노동조합·노후희망유니온·한국가사노동...

  • HERI
  • 2022.09.02
  • 조회수 516

가격 그대로인데 ‘오늘만 핫딜’…합법과 기만 사이 ‘다크패턴’

IT기술·심리학적 연구 활용한 이용자 반응 유도 효율화 설계 자동화·AI 덕분 개인별 맞춤화 기술 무한스크롤·자동재생·가격 차등화 중독 유발하는 ‘2세대 다크패턴’ 우려 한국소비자원 보고서에서 ‘눈속임 설계’ 사례로 제시한...

  • HERI
  • 2022.08.22
  • 조회수 517

“전기·가스 통합한 독립된 에너지규제위원회 신설하자”

<한겨레>, 전력요금 정책토론회 개최 연료가격 변화 반영한 요금 정상화 필요 요금의 ‘탈정치화’ 위한 거버넌스 개선도 독점적 전력판매시장 개방 필요성 제기 “정상화에 필수”-“민영화 우려” 엇갈려 5개 화력발전 공기업의 ...

  • HERI
  • 2022.08.11
  • 조회수 650

전력요금 정책 개선방안 찾는 토론회 11일 열린다

<한겨레> 주최로 서울 본사 청암홀에서 탄소중립과 에너지 전환 위한 대안 모색 전기위원회 독립·전문성 강화 방안 관심 중장기 전력거래시스템 개선에도 주목 정연제 박사·유승훈 교수 주제발표 맡아 학계·소비자·환경·노사·정부 ...

  • HERI
  • 2022.08.03
  • 조회수 838

변형윤 선생 ‘학현학술상’ 확대에 “생각 못했는데 고맙다”

[짬] 서울사회경제연구소 명예이사장 변형윤 명예교수 학현 변형윤 선생이 지난 22일 오후 서울 사직로 서울사회경제연구소에서 ‘학현학술상’ 확대 개편에 대한 소회를 밝히고 있다. 김정효 기자 hyopd@hani.co.kr “생각지도 못...

  • HERI
  • 2022.07.28
  • 조회수 1007

“스케치 못해도 예술 가능”… 창작환경 지각변동 오나

AI 창작도구의 예술계 영향 ‘컴퓨터하는 이집트 동물신’ ‘쇼핑하는 기린’ 등 글쓰면 인공지능이 이미지샘플 제시 월 15달러에 460개 사용가능 삽화 등 상업적 활용도 가능 디자이너 ‘AI 활용능력’ 중요 인공지능이 문장에...

  • HERI
  • 2022.07.26
  • 조회수 1302

“더 나은 사회를 만드는 일…더 나은 내가 되는 일”

사회적 기업가이자 싱가포르 국회의원 캐리 탄 기획 국내 여성운동·사회혁신 활동가 위한 워크숍 열어 “내적 성숙이 이끄는 공동체와 사회문제 해결” 강조 지난 15일 서울 성수동 메리히어(Merry Here) 지하 2층에서 싱가포르...

  • HERI
  • 2022.07.19
  • 조회수 898

“협동조합 연합해 유통플랫폼 ‘더쎈’ 구축하겠다”

사회적경제 상호거래 플랫폼 ‘더쎈’ 설명회 ‘함께하는’ 협동조합 비즈니스 생태계 모색 15일 서울시 마포구 ‘청년문화공간JU동교동’에서 열린 사회적경제 상호거래 플랫폼 설명회에 160여명의 협동조합 관계자가 참석했다. 신효진...

  • HERI
  • 2022.07.19
  • 조회수 940

“팬데믹, 전쟁 등 글로벌 위기에 기부 역할 더 커졌죠”

[짬] 세계공동모금회 윌리엄스 회장 안젤라 윌리엄스(왼쪽) 세계공동모금회 회장이 12일 사랑의열매 회관에서 인터뷰를 하고 있다. 오른쪽은 조흥식 사회복지공동모금회 회장이다. 김정효 기자 hyopd@hani.co.kr “나는 인간 내면의 ...

  • HERI
  • 2022.07.14
  • 조회수 1770

협동조합기본법 시행 10년…‘지속가능한 도약’ 가능할까

9일 ‘제4회 사회적경제 박람회’서 협동조합기본법 평가 현장선 협동조합 법제도·정책의 효과성 체감 미미 “2032년 협동조합 도약 위해 ‘지원’에서 ‘진흥’으로, 중앙 주도에서 지역 중심으로 정책 설계 필요” 지난 9일 경북...

  • HERI
  • 2022.07.12
  • 조회수 935

전통 리조트로 되살아난 고택…지역 중심 사회적경제가 ‘지방시대’ 이끈다

‘제4회 대한민국 사회적경제박람회’ 사회적경제 기반, 다양한 지역발전 사례 쏟아져 정책포럼·광역지원센터협의회 발족 등 눈길 지난 8일 오후 경북 경주시 보문로 경북화백컨벤션센터에서 열린 ‘지역발전과 사회적경제’ 심포지엄...

  • HERI
  • 2022.07.12
  • 조회수 852

'경주 최부자집’ 나눔 정신과 만난 사회적경제

8~10일 경주에서 제4회 사회적경제 박람회 열려 연대와 혁신 추구…시민 등 3만여명 한 자리에 기재부, 새 정부 사회적경제 4대 정책방향 발표 지난 8일 오후 경북 경주시 보문로 경주화백컨벤션센터 3층 컨벤션홀에서 열린 ‘제...

  • HERI
  • 2022.07.12
  • 조회수 793

“사회적경제, 진보-보수 경계 없이 사회서비스 혁신 견인해야”

‘제18회 사회적경제 정책포럼’ 개최 사회서비스 건강한 공급 주체로 사회적경제 호명 공공성과 혁신성 도전 지원하는 정책 제안 쏟아져 지난 1일 서울 마포구 한겨레신문사 청암홀에서 ‘사회서비스 분야 사회적경제’의 역할과 ...

  • HERI
  • 2022.07.05
  • 조회수 800

“죽음 두려워요”…감정 AI 논쟁에 숨어든 빅테크의 속임수

인공지능 람다와 대화 공개한 구글 개발자 징계, 정직 처분 사람 고유의 특성으로 여겨온 ‘지각하는 존재 생각하는 동물’ 언어모델 발달로 인공지능도 모방 지난 11일 구글의 수석엔지니어 르모인은 대화형 인공지능 ‘람다’가...

  • HERI
  • 2022.06.27
  • 조회수 652

“명확한 비즈니스 모델 뒷받침 없는 메타버스는 ‘거품’에 불과”

제1회 한겨레 사람과디지털 포럼 특별대담 메타버스, 인터넷의 미래인가 환상인가 23일 오후 경기 성남시 분당구 그래비티서울판교호텔에서 제1회 한겨레 '사람과디지털포럼' 이 열려, 패널들이 '메타버스, 인터넷의 미래인가?환상인...

  • HERI
  • 2022.06.24
  • 조회수 787

김초엽 작가 “기술 발전이 가져올 변화…휩쓸리기만 해선 안 돼”

<한겨레> 사람과디지털 포럼 특강 김초엽 작가가 `당신의 우주정거장을 상상해보세요’ 주제로 특강을 하고 있다.강창광 선임기자 chang@hani.co.kr “아무리 첨단 기술이라도 방향성을 고민하지 않는다면 결국 누군가를 배제할 수밖...

  • HERI
  • 2022.06.24
  • 조회수 751

“빅테크 은밀한 차별 규제해야” vs “규제 둑은 생태계 파괴 우려”

제 1회 사람과 디지털 포럼 원탁회의 빅테크 전문가·기업인, 규제 두고 논쟁 “디지털 시대 노동 변화·실업 대비해야” 23일 경기 성남시 판교 그래비티 호텔에서 열린 제1회 한겨레 사람과 디지털 포럼에서 국내외 패널들이 ‘...

  • HERI
  • 2022.06.24
  • 조회수 760

“빅테크 알고리즘이 인종·성별 ‘은밀한 차별’ 부른다”

제1회 한겨레 사람과디지털 포럼 ‘함께 가는 디지털의 혁신과 책임’ 23일 경기도 성남시 판교그래비티호텔에서 열린 ‘제1회 한겨레 사람과디지털포럼’ 개회식 참석자들이 단상에 올라 기념사진을 찍고 있다. 신소영 기자 viaot...

  • HERI
  • 2022.06.24
  • 조회수 550

[포토] 모두를 위한 ‘디지털 권력’ 될 수 있나

제1회 사람과디지털포럼 현장 23일 오전 경기 성남시 분당구 그래비티서울판교호텔에서 제1회 한겨레 ‘사람과디지털포럼’이 열려 패널들이 ‘거대한 디지털 권력, 모두를 위한 도구의 조건’을 주제로 원탁토론을 하고 있다. 왼쪽부...

  • HERI
  • 2022.06.24
  • 조회수 593

제7회 ‘김기원 학술상’ 후보자 공모

통일경제·재벌·노동 등 한국경제 연구 분야 신진 연구자 대상…10월14일까지 접수 고 김기원 한국방송통신대 교수. 김봉규 기자 bong9@hani.co.kr 대표적인 진보경제학자였던 고 김기원 전 한국방송통신대학교 교수의 유지를 잇기 ...

  • HERI
  • 2022.06.22
  • 조회수 760