AI가 짓는 좀비 건물을 피하려면, Katie Dill이 Stripe에서 말한 의도와 품질과 예술성의 확장

TL;DR

• Katie Dill은 전후 건축 붐에서 모더니즘이 의도 없이 복제되어 좀비 건물이 늘어난 것처럼, 지금의 AI 건설 붐이 좀비 UI를 양산할 수 있다고 경고한다. 위험 신호는 세 가지다. 가장 그럴듯한 답으로 수렴하는 LLM, 너무 빨리 찾아오는 완성감, 일회용으로 취급되는 결과물이다.
• 대안은 네 가지다. 관점을 세우고, 기준을 기계에 심고, 완성과 좋음을 혼동하지 않고, 창의성을 풀어 주는 것이다.
• Stripe는 디자인 시스템을 컴포넌트만이 아니라 템플릿과 흐름까지 담은 CLI로 바꾸어 에이전트를 더 순응하게 만들었다고 한다.
• 걸러 내는 단계가 개발 후반으로 밀렸기에 끝에서 전체를 보는 편집자 역할이 중요해진다는 것이 중심 주장이다.
• 모두 기업 내부 사례를 곁들인 강연 발언이며 성과를 수치로 검증한 자료는 없다.

좀비 건물이라는 비유

강연은 2차 대전 직후의 건설 붐에서 시작한다. 복귀한 사람들과 새 기술, 새 공법 때문에 건물이 쏟아졌고 건축가들은 1920년대 모더니즘을 따랐다. 모더니즘의 창시자들에게는 분명한 관점과 원칙이 있었지만 전후에는 서둘러 지으며 의도 없이 양식만 복제되었다. 생각은 점점 얇아졌고 맥락에 맞지 않는 패턴만 남았다. 예전에는 신뢰와 안정을 알리는 모습이던 은행 건물이 특징 없는 상자가 된 것이 예다.

Dill은 지금이 또 하나의 건설 붐이라고 본다. 세 명 팀이 서른 명이 하던 일을 하고 누구나 만들 수 있게 되었다. 그래서 전후 붐과 닮은 점이 곧 주의할 지점이 된다. 그녀는 우리가 화면을 깨어 있는 시간의 절반 동안 들여다보므로 돌봄받은 소프트웨어를 원한다고 말한다. 돌봄의 작은 징표로 자막에 Grockbot으로 적힌 봇의 작은 애니메이션, 달력 탭에 오늘 날짜를 표시하는 디테일, 에이전트가 온라인 결제에서 겪을 문제를 미리 예상한 안내를 든다.

세 가지 주의 지점

첫째, LLM은 가장 확률 높은 답을 잘 말한다. 과거에 인기 있었던 것과 잘 통했던 것, 유행한 것은 잘 알지만 나와 내 브랜드, 내 사용자의 맥락에 고유한 것은 잘 말하지 못한다. 강연은 한국식 바비큐 식당 웹사이트가 어느 산업이든 똑같은 소프트웨어 사이트처럼 보이는 예를 든다.

둘째, 완료의 유혹이다. AI는 결과물이 너무 빨리 끝난 것처럼 느끼게 한다. Dill은 전자레인지 부리토 비유를 쓴다. 90초 만에 배가 고픈 상태에서 점심이 되면 결함을 눈감아 주게 되는 것과 같아서 문장 하나로 인터페이스가 나오고 모서리와 그림자가 그럴듯하면 끝난 것처럼 보이지만 실제로 문제를 풀고 차별화하는지는 별개다. 셋째, 만들기가 쉬워 결과물이 일회용처럼 느껴지고 그 책임이 흐려진다. 누가 장기적으로 유지할 것이냐는 질문이 사라진다.

네 가지 제안 (1): 관점을 세우고 기준을 기계에 심는다

첫 번째 제안은 관점을 가지라는 것이다. 관점이 없으면 AI가 대신 주고 그것은 과거를 본뜬 획일적인 것일 가능성이 높다. 브랜드가 무엇이고 사용자가 누구이며 무엇을 신경 쓰는지가 기준의 토대다. 만드는 일이 분산되어 소유가 흐려진 시대에 AI에 판단을 넘기기 쉬우므로 더 중요하다. Stripe는 낙관주의를 색과 글쓰기, 제품에 심는다. 광고 시안을 검토하던 중 다른 부서 동료가 ‘AI로 만든 것의 품질 기준은 무엇이냐’고 물었던 일화도 든다. Dill의 답은 이렇다. 사용자에게는 어떻게 만들었는지가 중요하지 않고 좋은지가 중요하므로 같은 기준을 적용한다. 그 논의 끝에 개선 사항 17개가 나왔고 ‘Pepsi bubbling’이라는 사내 용어도 생겼다. 완벽이 아니라 고객이 볼 수 있는 것보다 한 단계 더 깊이 가는 것이 목표이며 관점을 기르려면 사용자가 말하는 것이 아니라 필요로 하는 것을 알아채고 좋고 평범한 것의 신호를 평소 유심히 보는 습관이 필요하다.

두 번째 제안은 기준을 기계에 심는 일이다. 디자이너가 자리에 없는 상태로 인터페이스가 만들어지고 에이전트가 밤사이 문제를 고치며 생성형 UI가 실시간으로 그려진다. 그래서 디자인 시스템이 다시 주목받고 예전에는 디자이너가 빈틈을 채웠으니 적지 않아도 되었지만 이제는 결정을 쉽게 정의해 두어야 한다. 그녀는 설계의 대상이 화면이 아니라 시스템 자체라고 말한다. 활판 인쇄를 든 비유도 있다. Gutenberg는 글자 52개가 아니라 290개 글자를 만들어 양쪽 정렬에서도 손으로 쓴 듯한 느낌을 내게 했고 확장 가능하면서도 충분히 고집스러운 시스템이었다는 설명이다. 옛 시스템이 일관성을 확장했다면 새 시스템은 의도를 확장해야 한다.

Stripe의 실험담도 있다. 디자인 문서를 이해하는 MCP로 시작했지만 같은 프롬프트에 세 사람이 서로 다른 결과를 얻을 정도로 구체성이 부족했다. 그래서 디자인 시스템 위에 CLI를 만들어 에이전트가 더 순응하게 하는 하니스로 바꿨고 빌더가 일하는 곳에서 문서를 필요한 때와 곳에 공급해 맥락 부패를 피한다. 이전 시스템과 다른 점은 컴포넌트만이 아니라 완성된 템플릿과 흐름이 들어 있어서 제품이 어떻게 동작해야 하는지까지 안다. 다만 그녀도 이것이 기준선일 뿐이며 모든 규칙을 만족해도 죽은 시스템일 수 있다는 Christopher Alexander의 말을 인용한다.

네 가지 제안 (2): 편집자와 예술성

세 번째 제안은 완료와 좋음을 혼동하지 말라는 것이다. 예전에는 아이디어 스무 개 중 하나만 인력을 받는 식으로 품질 필터가 과정 곳곳에 있었다. 지금은 일주일에 스무 개를 만들 수 있고 가설 회의 대신 실물에 반응할 수 있어 좋지만 거르는 일이 만든 뒤로 밀려서 거절하기가 훨씬 어렵다. 그래서 끝에서 전체를 보고 하나의 완성체인지 판단하는 편집자 역할이 중요하다. 핵심은 사용자처럼 경험해 보는 일이다. 문제를 실제로 푸는가, 사용자의 사고방식과 맞는가, 일관된가를 묻고 각각은 좋아 보여도 여정으로 엮으면 끊어지는 경우를 살핀다. 자막에 Nabil Koreshi로 적힌 사람의 글을 빌려 좋은 작품은 예상 밖의 디테일과 그 아래 깊은 의미, 전체를 묶는 일관된 주제에서 나오는데 AI가 못하는 부분이 이런 것이며 AI 슬롭이 거슬리는 이유는 디테일이 중요하지 않다는 느낌을 주기 때문이라고 소개한다.

사례는 이 행사의 오프닝 애니메이션이다. 디자이너가 3D 장면 모델에서 시작해 AI로 움직임을 만들었는데, 첫 버전은 멋있었지만 픽셀 단위로 보면 어딘가 어색했다. 그는 56번을 다시 반복해 아름다운 결과를 냈고 AI가 없었다면 그렇게 복잡한 장면이나 다양한 시점을 시도하지 못했으리라고 그는 말한다. 한 번에 끝나지 않았고 많은 판단이 필요했지만 AI가 가능성의 공간을 넓혔다는 요지다.

네 번째 제안은 창의성과 예술성을 풀어 주라는 요구다. AI는 획일성을 찍어 낼 수도 있지만 가장 큰 창의적 촉매이기도 하다. 모두가 무언가를 만드는 시대에는 차별화가 더 어렵고 더 중요하며 오늘의 채팅과 차트와 CLI가 상호작용의 정점일 수 없다고 본다. 멀티터치가 새로운 상호작용을, 신시사이저가 새로운 소리를 열었듯 새 인터페이스와 새 미학을 발명할 때라고 본다. Stripe 사례로는 ‘손으로 마블링한 표지에 AI로 색과 선을 다듬어 더한’ 책 표지를 든다. 사람의 판단을 확장했다는 설명이다.

실무 팁은 두 가지다. 입력을 개선해 구체적으로 믿는 것과 좋다고 여기는 기준, 자기 자료를 넣고 출력을 압박해 부리토 유혹을 이기며 적대적 에이전트로 비판시키되 사람도 계속 더 밀어붙이라는 조언이다. 더 어려운 것은 문화라고 하며 리더라면 AI를 쓰라고만 하지 말고 탐색할 여유를 주고 낯선 것을 보호하라고 말한다. AI가 만드는 비용이 낮아진 만큼 그 절약분을 더 특별한 것에 쓰자는 제안이다.

결론과 읽을 때 유의할 점

강연은 John Ruskin이 1850년에 높이 평가한 고딕 건축으로 끝난다. 어떤 기둥도 같지 않고 각 디테일이 만든 사람의 손길을 보여 준다는 점에서 전후의 복제 건축과 대조된다. 사용자가 감명받는 것은 3D 애니메이션을 30분 만에 만들었다는 사실이 아니라 문제를 해결하고 세심한 디테일로 필요를 예상했다는 사실이라는 것이 마지막 요지다.

이 강연은 약 22분의 발표이며 사례는 Stripe 내부 경험이다. 디자인 시스템 CLI가 일관성을 얼마나 높였는지, 56번의 반복이 결과를 얼마나 개선했는지는 수치로 제시되지 않는다. 또 품질 기준과 취향이라는 개념이 조직에서 어떻게 합의되는지는 구체적으로 설명되지 않는다. 그래도 네 질문은 실무에 바로 옮길 수 있다. 내 조직에서 관점은 문서로 쓰여 있는가, 기준은 에이전트가 읽는 곳에 있는가, 끝에서 전체를 보는 사람은 누구인가, 절약된 비용의 일부를 낯선 시도에 쓰고 있는가.

참고 자료

Lenny’s Podcast — How to scale intent, quality, and artistry with AI, Katie Dill (Stripe) (YouTube) — 영어 자동 자막 전체(약 22분)를 읽고 정리했다.