한 장애인이 AI에게 묻는다. “이 계약서에서 내가 꼭 알아야 할 내용을 알려줘” AI는 복잡한 문서를 요약하고 중요한 내용을 골라 알려준다. 병원에서 의사에게 무엇을 물어봐야 하는지, 낯선 장소에는 어떻게 찾아가야 하는지도 설명해준다. 이 장면에서 AI는 장애인이 정보에 접근하고 결정을 돕는 든든한 조력자다. 하지만 다른 장면도 있다. 글을 읽기 어려운 장애인 A 씨가 복잡하고 긴 문서를 AI에게 보여주며 요약을 요청한다. AI는 곧바로 요약문과 꼭 알아야 할 내용을 제시한다. 그러나 A 씨는 요약된 문장 속에서도 낯선 단어와 복잡한 문장의 뜻을 알기 어렵다. 음성으로 들려줘도 마찬가지다. 한편 말로 의사를 표현하기 어려운 B 씨는 AI에게 무엇을 원하는지 질문하는 것부터 막힌다. AI가 아무리 정확한 답을 내놓더라도 질문할 수 없고 답을 이해할 수 없다면, 그 기술은 누구를 위한 것일까?

디지털시대에 장애인이 마주한 장벽을 보여주는 대표적인 사례가 키오스크다. 상점마다 화면구성과 작동 방식이 달라 발달장애인은 새로운 키오스크를 만날 때마다 사용법을 다시 배워야 한다. 그래서 기기의 표준화와 접근성 개선이 요구되기도 한다. 이처럼 디지털 격차에 대한 대응은 주로 기기를 보급해 접근성을 높이고, 사용법을 교육해 활용능력을 키우는데 초점이 맞춰진다. 그러나 AI시대에는 새로운 문제가 더해진다. 생성형 AI를 제대로 이용하려면 질문을 구성하고 자신의 상황을 설명할 수 있어야 한다. AI가 내놓은 답을 이해하고, 잘못된 정보인지 판단하며, 부족한 답변에는 다시 질문할 수도 있어야 한다. 단순히 스마트폰을 가지고 있거나 AI사용법을 배웠다고 해서 해결되는 문제가 아니다. 장애 특성을 고려한 교육과 쉬운 인터페이스는 물론, 질문과 이해, 판단을 돕는 ‘AI 조력지원 서비스’가 필요한 이유다.

한 발 더 나아가 AI가 장애인을 제대로 학습하고 있는지도 물어야 한다. AI는 수많은 데이터를 학습해 상황을 판단하고 응답한다. 그러나 장애의 유형과 특성은 매우 다양하다. 행동을 감지하는 AI는 길을 걷던 발달장애인이 갑자기 제자리에 멈추면 단순히 ‘정지해 있다’고 판단할 수 있다. 그러나 그 사람은 주변의 소리나 낮선 상황에 불안을 느껴 몸이 굳어 있을 수도 있다. 안면근육을 움직이는데 어려움을 겪는 뇌병변장애인의 표정을 AI는 과연 정확하게 해석할 수 있을까. 평소와 다른 표정이라는 것만으로 엉뚱한 판단을 내리지는 않을까.

장애정보는 차별에 이용될 수 있어 충분히 수집되거나 공개되지 않는 경우가 많다. 결국 AI가 학습할 수 있는 장애 관련 데이터가 부족하거나, 장애인의 실제 삶과 경험을 제대로 반영하지 못할 수 있다. 이러한 데이터로 학습한 AI는 객관적이고 중립적으로 판단하는 것처럼 보이면서 기존 사회의 장애인 배제와 편견을 자동화할 위험이 있다. 사람의 편견은 겉으로 드러나지만 알고리즘의 편견은 좀처럼 보이지 않는다는 사실을 기억해야 한다.

이를 바꾸는 방법 중 하나는 AI의 개발과정에 장애인이 참여하는 것이다. 개발이 끝난 제품을 시험해보는 것만으로는 부족하다. 어떤 문제를 AI로 해결할 것인지 정하는 기획 단계부터 설계·개발·평가·개선의 전 과정에 다양한 유형의 장애인이 공동설계자로 함께 해야 한다. 정책도 달라져야 한다. 먼저 장애유형별 특성을 고려한 AI활용교육이 마련돼야 한다. 공공기관이 AI 민원창구나 복지서비스를 도입할 때는 처음부터 장애인 접근성을 평가해야 한다. AI활용에 따른 비용장벽을 낮추기 위한 정책과 정보의 이해와 의사결정을 돕는 AI조력지원서비스도 새로운 복지서비스로 검토할 필요가 있다.

이제 우리는 “AI 시대에 뒤처지지 않으려면 사용법을 열심히 배우자”고만 말해서는 안 된다. 그 말은 AI로 인해 발생한 장벽을 개인의 책임으로 전가하고 장애인 개인의 노력으로 넘으라고 요구하는 것과 다르지 않다. 질문을 바꿔야 한다. “AI는 장애인이 사용할 수 있도록 만들어지고 있는가?” AI가 장애인의 기능적 어려움을 보완하는 기술에 머물러서는 안 된다. 장애인이 정보를 이해하고 자신의 의사를 표현하며, 삶을 스스로 결정할 수 있도록 돕는 기술이어야 한다.

AI가 장애인에게 기회가 될지 새로운 장벽이 될지, 기술 자체가 발전하는 것에만 맡길 것이 아니라 무엇을 경험하고 누구와 함께 설계할지 우리사회가 같이 판단하고 요구해야 한다.