눈을 뜨자마자 노트북을 열었다. 밤새 돌려둔 에이전트가 기능 하나를 통째로 만들어놓았다. 파일 열두 개가 바뀌어 있었다. 처음 몇 줄은 읽었다. 그다음부터는 스크롤을 내리며 승인 버튼을 눌렀다. 테스트가 통과했고 기능도 작동했다. 오전에는 일을 많이 했다고 생각했다.
점심 무렵 동료가 물었다. 이 부분, 왜 이렇게 짰어요? 화면을 다시 열었다. 분명 내가 승인한 코드인데 처음 읽는 코드 같았다. 어떤 선택이 있었고 왜 이 방법을 택했는지 설명할 수 없었다. 완성된 기능은 있었지만, 그 기능을 만든 이유는 설명할 수 없었다.
코드를 맡긴 건 좋은 선택이었다. 에이전트가 실제로 일을 잘했다. 그런데 일을 맡길 때 정했어야 할 기준과 결과를 받을 때 이해했어야 할 이유까지 함께 넘어가 있었다. 자동화 덕분에 처리한 일은 늘었는데, 그날 무엇을 판단했는지는 떠오르지 않았다.
소프트웨어를 사용하는 주체가 달라진다
사람은 화면을 보고 버튼을 누른다. 에이전트는 명령을 호출하고 응답을 해석한다. 같은 서비스를 쓰더라도 필요한 인터페이스가 다르다. 사람이 보기 좋은 화면을 만드는 것만으로는 에이전트가 그 서비스를 제대로 사용하는 데 필요한 조건을 채우기 어렵다.
Netlify 공동창업자 마티아스 빌만이 제안한 Agent Experience는 이 변화를 다룬다. 에이전트가 서비스를 발견하고 기능을 이해하며 필요한 작업을 수행하기 좋은 경험을 설계하는 것이다.1 Agent First라는 방향도 여기서 읽어야 한다. 에이전트가 수행할 일을 기준으로 인터페이스와 문서, 호출 규격을 설계하는 방향이다.
이 방향에는 동의한다. 에이전트에게 일을 맡길 거라면 에이전트가 다루기 좋게 만들어야 한다. 사람이 누르던 버튼을 에이전트가 화면에서 찾아 누르게 하는 것보다, 필요한 기능을 명확한 규격으로 호출하게 하는 편이 합리적이다. 에이전트가 일을 잘하도록 만드는 것은 좋은 설계의 한 조건이다.
그런데 사람용 화면은 조작 기능과 설명 기능을 함께 제공해왔다. 무엇을 하려는지 정하는 화면, 선택에 따라 결과가 어떻게 달라지는지 보여주는 화면, 잘못된 결과를 수정하는 화면이 있었다. 에이전트를 위한 인터페이스를 만들면서 이 기능들을 어디에서 제공할지도 함께 결정해야 한다.
승인 횟수로는 판단을 알 수 없다
사람이 열 번 승인했다고 열 번 판단한 것은 아니다. 이미 읽지 않고 누르는 습관이 생긴 상태라면 확인창 하나를 추가해도 이해는 그대로일 수 있다. 처음 몇 줄만 읽고 나머지를 넘겼던 그 아침에도 승인 절차는 충분히 많았다.
제품에서 확인해야 할 것은 다른 쪽이다. 일을 시작할 때 사람이 원하는 결과와 제약을 정했는가. 결과를 받을 때 어떤 가정을 사용했고 어떤 대안을 선택했는지 알 수 있는가. 이상한 부분이 있으면 그 부분을 지목해 수정할 수 있는가. 판단이 있었는지는 클릭 수보다, 사람이 무엇을 알고 무엇을 바꿀 수 있었는지에 달려 있다.
가령 기능을 맡기기 전에 성공 조건을 정해두고, 에이전트가 구현과 시험을 수행하게 할 수 있다. 결과에서는 주요 선택과 검증 결과를 먼저 보여준다. 사람이 수정한 조건은 다음 실행에 반영된다. 모든 구현 단계를 사람이 직접 수행하지 않아도, 무엇을 만들었고 왜 그 결과를 받아들였는지는 설명할 수 있는 구조다.
설명은 확인할 재료를 제공해야 한다
결과가 정확하다는 말과 그 결과를 이해한다는 말도 구분해야 한다. 테스트가 통과했다는 사실은 테스트에 적힌 조건이 충족됐다는 뜻이다. 그 조건이 처음 원했던 것과 일치하는지는 별도로 판단해야 한다. 신뢰도 숫자나 성공 표시만으로는 이 차이를 알기 어렵다.
Anthropic의 인용 기능은 답변의 근거가 된 문서의 구체적인 구절을 연결한다.2 눈여겨볼 부분은 답변 옆에 출처가 있다는 사실이다. 사용자는 그 구절을 읽고 답변이 원문에서 어떻게 도출됐는지 확인할 수 있다. 좋은 설명은 결과를 믿으라고 요구하기보다, 결과를 확인할 재료를 제공한다.
출처가 있다고 검토가 저절로 일어나는 것은 아니다. 원문이 결론을 충분히 뒷받침하는지, 빠진 조건은 무엇인지 따져야 한다. 제품은 이 확인을 쉽게 만들어야 한다. 전체 작업을 처음부터 다시 설명하는 대신, 특정 문장이나 가정을 선택해 질문하고 해당 부분만 수정할 수 있게 하는 것이다.
사람을 위한 AX도 필요하다
사람이 에이전트의 결과를 이해하고 필요할 때 개입하며, 그 결과에 책임질 수 있게 하는 경험을 나는 Accountability Experience라고 부른다. 업계에서 쓰는 Agent Experience와 약어가 같기 때문에, 처음에는 두 이름을 풀어서 설명하는 편이 정확하다.
이 경험에는 순서가 있다. 무엇이 진행되는지 이해해야 개입할 이유를 판단할 수 있다. 개입한 내용이 실제 결과에 반영되어야 결정에 책임질 수 있다. 조직에서도 그 결정을 수정하거나 거절할 권한이 있어야 한다. 이해, 개입, 책임은 같은 작업 안에서 연결되어야 한다.
에이전트에게는 작업하기 좋은 인터페이스를, 사람에게는 판단하기 좋은 인터페이스를 제공하면 된다. 둘을 같은 화면과 같은 조작으로 구현할 이유는 없다. 에이전트가 호출하는 명령과 사람이 검토하는 설명은 형태가 달라도, 같은 목표와 같은 결과를 다뤄야 한다.
다음에는 이유를 설명할 수 있어야 한다
그 아침을 다시 설계한다면 코드를 맡기기 전에 무엇이 맞는 결과인지부터 정하겠다. 결과가 도착하면 열두 개 파일을 순서대로 넘기는 대신, 주요 선택과 그 이유를 먼저 읽겠다. 다른 방법이 더 적합해 보이는 부분에서는 질문하고 수정하겠다. 동의하는 부분은 그대로 진행하면 된다.
중요한 변화는 점심때 드러날 것이다. 왜 이렇게 만들었느냐는 질문에 고려한 대안과 선택한 이유를 설명하는 것. 에이전트는 구현을 수행했고, 사람은 기준을 정하고 필요한 선택에 참여했다. 자동화가 잘된 하루와 사람이 배운 하루가 함께 성립하는 제품을 만들고 싶다.
주(註)
[1] Mathias Biilmann, Agent Experience moves upstream, Netlify, 2026-04-29. Agent Experience의 초기 제안은 Introducing AX: Why Agent Experience Matters, 2025-01-28. ↩
[2] Anthropic, Introducing Citations on the Anthropic API, 2025. 답변과 원문 구절을 연결하는 기능의 설명을 참고했다. ↩