[회원칼럼-서양원 매일경제 편집전무] 게임체인저 AI가 안은 큰 숙제 > 임원진 칼럼

CES관통 AI, 전 산업에 확산
활용수준 따라 생산성 격차
`이루다` 편향…해킹 위험도
윤리 제정하고 시스템 정비해야

몇 년째 국제전자제품박람회(CES)를 미국 라스베이거스 현장에서 보다가 이번에는 온라인으로 곳곳을 탐험했다. 코로나19의 엄중함과 비대면 전시에 대한 의문으로 참가 기업 수는 1900여 개로 절반 이상 줄었다. 직접 기업 부스에 가서 보고, 만지고, 물으면서 인사이트를 얻을 수 없으니 당연한 것이었다고 본다. 다행인 것은 미국 기업 566사에 이어 한국 기업 342사가 참여했고, 많은 혁신적인 제품과 서비스를 내놓았다는 사실이다.

이번에 CES에 출품된 상품들을 보면 그동안 나온 기술들이 사람에게 좀 더 편리한 방향으로 체화된 제품들이다. TV, 청소기, 세탁기, 냉장고 등은 물론이고 다양한 헬스기구, 전기차, 자율차, 드론, 로봇 등이 디지털 기술을 활용해 크게 업그레이드됐다. 이들 기기에 공통적으로 들어가는 기술은 인공지능(AI)이다. 수많은 데이터를 기반으로 자체 판단을 하고, 주변 기기들과 5G 기술로 연결해 딥러닝하면서 생활을 더 편리하게 해준다. 특히 최근에는 AI가 판단까지 도와주는 사례가 늘고 있다. AI 펀드매니저가 편성한 펀드수익률이 일반펀드보다 높고, 일반 애널리스트가 추천한 종목보다 더 많은 투자수익을 올려주는 경우도 다반사다.

건강 식단을 추천하고 요리법을 알려준다. 식자재가 필요할 때는 자동으로 주문하고 요리까지 해줄 가능성을 보여줬다.

IBM의 AI 왓슨이 환자 상태를 일반 의사들보다 더 정확하게 진단하고, 빨리 처방해준다. AI는 이미 코로나19 백신 개발에도 큰 기여를 했다. 수많은 전염병 바이러스와 치료약, 백신들을 수없이 조합시켜 가며 치료제, 항체 등을 찾아낸다.

AI는 이미 세상을 바꾸는 `게임 체인저`가 됐다. 앞으로도 전 산업에 더 빠른 속도로 활용되면서 생산성 빅뱅을 일으킬 것이다. AI를 수용하는 수준에 따라 생사가 갈리는 세상이 됐다.

하지만 AI는 문제점도 노출했다. 20세 여대생 콘셉트의 `이루다` AI 챗봇은 성희롱이나 편견을 그대로 노출했다가 서비스가 정지됐다. 특정 데이터만으로 학습된 채 가치판단을 한 결과다. 이건 이루다의 잘못이 아니다. 이를 학습시킨 스캐터랩이 보편 타당할 정도로 광범위한 데이터를 학습 자료로 활용하지 못한 결과다.

이런 시행착오는 이미 글로벌 기업들에서도 많이 있었다. 마이크로소프트 챗봇 `테이`는 2016년 백인 우월주의와 대량학살을 옹호하는 표현을 했다가 서비스가 중단됐다. 구글, 아마존, 페이스북 등의 AI 서비스도 편견 때문에 곤욕을 치렀다.

여기서 꼭 짚고 넘어가야 할 것은 이런 문제들이 AI로 가는 대세를 거슬러서는 안 된다는 것이다. AI 활용 기기나 서비스를 확대해 나가면서 인권을 침해하지 않도록 제도적 규범을 만들어야 한다. 특히 인간에게 직접 상해를 입힐 위험요소는 시스템적으로 걸러내야 한다. AI 학습의 기본이 되는 개인정보 빅데이터와 알고리즘 등에서 그런 문제가 생기지 않도록 시스템을 만들어 나가야 한다는 얘기다.

물론 AI는 각 부분에서 인간의 계산능력을 압도하고 있지만 아직 고도의 감정과 가치판단 영역으로는 들어오지 못했다. 하지만 지금 AI 발전 속도라면 인간이 통제할 수 없는 무서운 파괴력을 지닌 괴물로 진화할 수 있다. 고도의 슈퍼 지능에다 엄청난 파워를 가진 AI 로봇이 해킹당하거나 권력 욕망을 갖게 된다면 AI 로봇이 인간을 공격하는 `트랜스포머` 영화 같은 게 현실화될 위험이 있다.

이번 CES 포럼에서 기조연설을 한 브래드 스미스 MS 최고법률책임자는 "AI 기술이 모든 것을 약속한 듯하지만 언제든 무기가 될 수 있다"고 경고했다. AI가 가진 위험요소들을 제대로 통제하고 관리할 수 있어야 인류의 재앙을 막을 수 있다는 얘기다. AI 서비스를 활용하는 국민은 이제 AI 윤리규범 제정에 대해 진지하게 생각해야 한다. 기업도 자사 생존을 위해 선도적으로 나서야 한다. 특히 정부 및 관련 기관들은 AI 위험 방지를 위해 필요하다면 민간과 데이터를 공유하고 공동 인프라스트럭처를 구축하는 데 적극 나서야 한다.