1-1. 주도권 유지 욕구
자동화를 받아들이는 사람들도 차량에 판단과 조작을 맡기는 순간까지 주도권을 완전히 내려놓지는 않는 편이었습니다. 편하게 맡기고 싶은 마음과 여전히 내가 쥐고 싶은 마음이 한 사람 안에서 함께 움직였습니다. 발화에서 반복해서 드러난 기준은 ‘통제권이 보이는가’ 였습니다. 개입할 방법이 보이지 않을수록 불안은 커지는 경향을 보였습니다. 기능이 자동으로 실행됐는데 되돌릴 방법을 찾을 수 없으면 편리함은 금세 불안으로 바뀝니다. 반대로 언제든 손댈 수 있다는 사실이 보이면 실제로 개입하지 않아도 안심한다는 반응이 이어졌습니다.
되돌릴 수 있어야 맡긴다
수치도 같은 경향을 보여 줍니다. AI에 전적으로 맡기는 방식을 신뢰한다는 응답은 17%에 그쳤지만, 사람이 개입할 수 있는 AI는 70%가 신뢰 한다고 답했습니다. 이는 자동화 도중 사람이 제어권을 되찾는 휴먼 오버라이드(Human Override), 애초에 사람의 개입 지점을 포함해 설계하는 휴먼인더루프(Human-in-the-loop)와 맞닿아 있습니다. 사용자가 기대한 것은 완전한 자동화보다도, 필요할 때 개입할 수 있는 자동화에 가까운 모습이었습니다.
1-2. 개인화의 딜레마
두 마음은 개인화에서도 드러났습니다. 사람들은 차량이 자신의 취향을 기억해 주길 바라면서도 그 기억에 갇히기는 원하지 않는 태도를 보였습니다. 어제 알맞았던 공조 온도가 오늘은 맞지 않을 수 있듯, 상황에 따라 취향과 필요가 달라지기 때문입니다.
기억은 하되, 가두지는 말 것
과거의 선택을 바탕으로 알아서 맞춰 주는 기능은 편리하지만 때로는 지금의 나와 어긋날 수 있습니다. 곽금주 서울대학교 심리학과 명예교수는 이를 다음과 같이 설명했습니다.
“개인화가 자꾸 나를 고정시켜버려요.
다른 것도 있다는 가능성을 없애면서,
우리를 점점 바보처럼 만드는 거죠.”
최근에는 알아서 제공되는 맞춤보다 사용자가 직접 고르는 맞춤 이 주목받고 있습니다. 유튜브 이용자의 78.3%가 직접 검색어를 입력해 콘텐츠를 소비한다는 조사 결과처럼, 사람들은 주어진 추천을 그대로 따르기보다 원하는 것을 직접 찾고 조합하려는 모습을 보입니다. 기본 구성에 자신의 취향과 상황에 맞는 선택을 더하는 ‘토핑 경제’ 도 이러한 흐름을 보여 줍니다. 개인화 역시 과거의 선택을 바탕으로 제안하되, 사용자가 그날의 필요에 따라 탐색하고 선택할 수 있는 여지를 넓혀 가는 방식으로 이해할 수 있습니다.
