The UX of AI: Making AI-Powered Apps Your Users Don't Hate - Kathryn Grayson Nanz, Progress Software

한 줄 핵심

AI 기능의 차별점은 모델 성능 자체보다 사용자가 신뢰·이해·통제할 수 있게 만드는 UX에 있으며, 특히 trust·clarity·control·transparency·meaningful benefit를 설계해야 사용자가 실제로 계속 쓴다.

시간별 요약

1. 0:00
   AI는 강력하지만 비결정적이고 사용 방식도 낯설어서, 개발자와 사용자 사이의 지식 격차가 그 어느 기술보다 크다. 그래서 AI 기능은 "될 수 있느냐"보다 "사용자가 싫어하지 않고 계속 쓰게 만들 수 있느냐"가 핵심 문제가 된다.
2. 4:00
   새로운 AI 인터페이스는 완전히 새로 만드는 것이 아니라 사용자가 이미 아는 소프트웨어 패턴을 빌려 점진적으로 적응시켜야 한다. 다만 채팅, 에이전트, 참조 स्रोत, 중단 기능, 도구 연동처럼 기존 UI에 없던 요소는 별도 UX로 보완해야 하며, 아직 AI 인터페이스의 표준이 충분히 성숙하지 않았기 때문에 인간이 직접 설계해야 한다.
3. 10:00
   신뢰를 얻는 가장 좋은 방법은 과장을 줄이고, 틀릴 수 있음을 인정한 뒤, 사용자가 검증할 수 있는 장치를 제공하는 것이다. citations, source 링크, side panel reference, 에이전트의 action plan 승인, AI-generated 표시 같은 패턴이 결과의 정확성과 책임성을 높인다.
4. 18:00
   명확성은 AI를 마법처럼 보이게 하는 것이 아니라, 지금 무엇이 생성·수정·실행되는지 드러내는 데서 나온다. streaming text, think-aloud, new content 강조, 큰 빨간 중단 버튼, undo/redo, checkpoint 같은 장치는 사용자가 흐름을 따라가고 실수에서 쉽게 복구하게 만든다.
5. 27:00
   사용자가 AI를 채택하게 하려면 접근 권한, 데이터 저장, 비용, 실행 상태를 투명하게 보여야 하며, 승인 범위도 읽기·쓰기·삭제처럼 세분화되어야 한다. 또한 결과를 실제 업무로 이어지게 하려면 예시, 템플릿, suggested prompts, next step action buttons, 다른 도구와의 직접 통합이 필수다.

실무 인사이트

• AI 기능을 만들 때는 먼저 정확도보다 실패 시 사용자가 회복할 수 있는 구조를 설계해야 하며, 특히 출처 표시와 되돌리기 경로를 기본값으로 넣는 것이 효과적이다.
• 빈 입력창만 주기보다 예시, 템플릿, 후속 행동 버튼을 함께 제공하면 사용자 AI 리터러시가 낮아도 실제 사용 전환율을 높일 수 있다.
• 에이전트 기능은 권한·비용·실행 중 상태를 눈에 띄게 드러내야 신뢰를 얻을 수 있고, 숨겨진 자동화는 오히려 이탈을 만든다.