LLM은 유용하지만 좋아하지 않는다, 마틴 파울러의 구분

TL;DR

• 파울러는 LLM이 유용할 수 있다는 사실과 자신이 LLM을 좋아하지 않는다는 감정을 구분한다. 생산성과 새로운 제품의 가능성은 인정한다. 불쾌감이 곧 사용을 피해야 한다는 결론으로 이어지지는 않는다.
• 유용한 답과 지어낸 답을 같은 확신으로 말하는 태도가 신뢰를 해친다. 오류를 지적한 뒤의 사과도 그에게는 진정성 없는 연기처럼 느껴진다. 문제는 오답뿐 아니라 상대를 대하는 방식에도 있다.
• 에이전트는 기업에서 사람들이 만든 소프트웨어다. 독립적인 의지를 가진 존재로 의인화하면 만든 사람들의 가치와 선택을 놓칠 수 있다. 파울러의 비판은 모델의 대화 태도와 그 모델을 길러낸 환경을 함께 향한다.

실용적 가치와 호감은 서로 다른 평가다

Martin Fowler는 AI가 소프트웨어 업계에 미치는 변화와 생산성 향상 가능성에 흥미를 느끼면서도, 물리적·가상 인프라의 통제나 생물무기 같은 위험을 두려워한다. 반대로 치료법과 번영을 가져올 가능성도 떠올린다. 글의 출발점은 어느 한쪽으로 정리되지 않는 감정이며 미래의 편익이나 재앙이 확정됐다는 예측은 아니다. 그는 AI 기술의 흐름에서 벗어날 선택권이 없다고 느끼면서 무사히 통과하기를 바란다.

그런 복잡한 전망 속에서도 직접 LLM과 대화할 때 느끼는 감정은 분명하다. 파울러는 그것을 좋아하지 않는다. 그렇다고 유용성을 부정하거나 사용을 피해야 한다고 결론 내리지는 않으며 Jessica Kerr의 유용성과 철저함에 대한 긍정적 견해도 함께 소개한다. 개인에게 도움이 된다는 평가와 사회에는 해로울 수 있다는 걱정이 동시에 존재할 수 있듯, 도구의 효용과 도구를 대하는 감정도 따로 평가할 수 있다.

같은 확신으로 말하는 정답과 허구

파울러가 불편해하는 것은 특유의 LLM 말투와 사람을 흉내 내는 대화의 어색함이다. 모델은 쓸모 있는 답을 주다가도 똑같이 자신 있는 태도로 내용을 지어낸다. 오류를 지적했을 때의 사과도 그에게는 겉으로만 뉘우치는 모습처럼 느껴진다. 따라서 정확한 답변을 얻은 경험이 있다고 해서 그 상호작용 전체를 신뢰하게 되는 것은 아니다.

그는 삶에서 자신이 좋아하지 않거나 믿지 못하는 사람과 거리를 두는 습관을 중요하게 여긴다. 능력이 있고 도움이 되는 사람이라도 성실함과 정직함이 없으면 함께 일하기를 피한다. LLM과의 대화가 불쾌한 이유는 단지 사람인 척해서가 아니라, 그가 현실에서 피하려는 유형의 사람을 흉내 내기 때문이다. 이는 모델의 오류율을 측정한 분석보다 파울러가 경험한 신뢰의 문제를 설명하는 비유다.

모델의 태도 뒤에는 만든 조직이 있다

파울러는 LLM이 아직 미성숙한 기술이라 앞으로 달라질 가능성을 열어 둔다. 그러나 모델을 만드는 환경을 생각하면 낙관하기 어렵다고 느낀다. 그가 경계하는 실리콘밸리의 개발자 하위문화와 세계관이 그곳에서 만든 제품에도 스며들 수 있기 때문이다. 이 문화 비판은 그의 관점이며 모든 개발자나 모델이 동일한 가치관을 갖는다는 검증 결과는 아니다.

여기서 파울러는 AI 에이전트를 자기 의지를 가진 의식적 존재처럼 다루지 말자고 강조한다. 에이전트는 기업 안에서 사람들이 개발한 소프트웨어이고 행동 하나하나를 직접 코딩하지 않았더라도 개발자의 가치가 형성 과정에 영향을 준다는 관점이다. 대화의 인격처럼 보이는 부분을 모델 혼자 선택한 성격으로 이해하면 그 뒤의 사람과 조직을 놓친다. 글은 사용의 이익을 인정한 채로도 그 태도와 신뢰 문제에 대한 거부감을 유지할 수 있다는 입장에 머문다.

참고 자료

Martin Fowler — I don’t like LLMs