휠체어 이용자인 에밀리 애커먼은 얼마전에 식은 땀이 나는 일을 당했다. 어른 무릎 높이 정도의 크기의 상자에 바퀴가 달려있는 형태의 배달 로봇이 휠체어 진입을 위해 마련된, 낮은 턱 구간을 막고 있었던 것이다. 에밀리는 꿈쩍도 하지 않는 이 로봇 때문에 턱이 있는 연석을 넘어서 보도로 진입해야했고 그 사이에 신호가 바뀌지는 않을까 가슴을 졸여야했다.

 

인공지능 배달로봇. 사진 속의 인물들은 에밀리 애커먼이 아닙니다. 

Photos by Blake Brown, UHDS marketing manager. Date: Oct. 18, 2020. 

https://www.flickr.com/photos/oregonstateuniversity/50507267551/

이 사건으로 피츠버그 대학에서는 해당 로봇의 시험 운전을 중단하고 지도를 수정하도록 하였으나 얼마 지나지 않아 똑같은 로봇들이 다시 나타났으며, 로봇 제작사에서는 “에밀리가 로봇을 때문에 멈춰야했던 것은 아니라서 다행이다”라는 성명을 발표하며 에밀리의 우려를 별 일 아닌 일로 치부하는 반응을 보였다.

 

인공지능(AI)이 수많은 기기와 서비스에 도입되면서 인간들의 선입견이 기계학습 알고리즘에 그대로 반영되어 인종, 성 등에 기반한 차별을 오히려 확산시키고 있다는 지적이 나오고 있는 최근, 장애를 가진 사람들도 인공지능의 부작용에서 자유로울 수 없다.

 

OCAD 대학의 트레비라누스 교수는 인공지능이 “일반적인 경향에서 벗어나는 사람들”에게 어떻게 해를 끼칠 수 있는지를, 온타리오 교통국의 자율주행 실험에서 목격하였다. 개발 초기 단계의 자율주행 차량이 교차로를 지나고 있을 때 휠체어 하나를 후진하게 만들었더니 이 차량은 휠체어를 치고 지나가버렸다. 연구자들이 휠체어에 대한 기계학습을 추가한 후 다시 실험을 하였는데도 자율주행 차량은 휠체어를 치고 지나갔다. 트레비라누스 교수는, 인공지능이 휠체어에 대해서 학습을 할 때 “휠체어는 앞으로 간다”라고 배우는 바람에 휠체어가 후진하는 상황을 전혀 염두에 두지 않고 주행하게 되었다고 결론을 지었다. 즉 기계학습으로는 실제 현실의 복잡성과 다양성에 대응할 수가 없었던 것이다.

 

인공지능이 자기 예상 밖의 일에 대응하는 능력이 떨어지는 점 때문에 장애인이 손해를 보는 예시는 또 있다. 뉴욕 대학교의 AI Now Institute에 따르면 발화 패턴, 얼굴 표정, 목소리의 높낮이 등에 기반하여 면접 점수를 부여하는 인공지능 프로그램을 사용하는 회사는 언어 장애, 안면 장애, 혹은 자폐 성향이 있는 입사지원자들을 부당하게 차별할 가능성이 있다. 이 프로그램을 면접에 사용했던 유니레버 社는 “자신의 장애 때문에 정당한 면접을 치르지 못 했다고 생각하는 사람은 언제든지 장애 사실을 밝히고 인간 면접관과 면접을 치를 수 있다”고 밝혔으나, 장애 사실이 고용에 미칠 악영향을 두려워하는 지원자들이 과연 그렇게 할 수 있을 지는 의문이다.

 

[알리시아 클레그, 2020년 1월 27일, 장애 편견 걷어낸 AI 디자인하려면…(How to design AI that eliminates disability bias), 파이낸셜 타임즈]

 

[이 기사의 이후 내용은 이러한 장애 편견을 어떻게 극복해나갈 수 있을지를 다루고 있습니다]]