글쓰기는 사악한 문제다 - AI가 가장 못 건드리는 직업이 왜 글쓰기인가

글쓰기는 사악한 문제다

TL;DR

• 진단이 두 세계를 대비하며 시작하는데 오늘 기술인들은 새로 부풀려진 5배 생산성 할당량을 맞추려 워크플로를 바꾸느라 분주하면서 에이전트가 생성한 코드의 인지 부채 아래에서 두들겨 맞고 있다는 것이다. 그리고 방향이 지목된다. 모델이 새로 나올 때마다 격차가 벌어지고 인간은 루프 안에서 더욱 병목이 되며 코더로서의 퇴화에 가까워진다.
• 그런데 대비가 선명한데 프로그래머의 직무 기술서가 완전히 리팩터링되는 동안 글쓰기는 놀랍도록 영향을 받지 않았다는 것이다. 평가는 가차 없다. LLM은 코드 생성에는 아주 능해졌지만 산문으로 내뱉는 절대적 쓰레기에 나는 경악하는데, 항상 같은 로봇 같은 리듬과 클리셰를 따르고 같은 진부한 어휘를 온 사방에 흩뿌린다.
• 첫째 논거가 정체인데 AI 연구소들이 이미 산문 개선에 열심히 시도했고 벽에 부딪혔다는 것이다. 하고 싶지 않았던 것이 아니다. 거대 LLM 기업들은 마케팅과 카피라이팅, 출판을 한계비용 0으로 정복하려고 더 나은 글쓰기 능력을 출시하고 싶었을 것인데, 이미지와 음성, 비디오 모델은 매개변수와 컴퓨트로 확장할 수 있어 빠르게 좋아진 반면 텍스트 모델은 표현과 깊이, 진정성에서 심하게 정체됐다.
• 둘째 논거가 스펙트럼인데 사악한 문제는 확정적 정식화도, 명확한 정지 규칙도, 객관적으로 옳은 해도 없는 문제이고 글쓰기가 그 궁극이다. 맥락이 끊임없이 이동하고 한 편은 결코 진정으로 편집이 끝나지 않으며 성공의 참된 척도가 근본적으로 주관적이기 때문이다. 그래서 왼쪽 끝의 수학은 명세가 간결하고 검증이 이진인데, 글쓰기는 성공의 궁극적 측정이 다른 인간 마음 안의 공명이다.
• 셋째 논거가 마음 이론인데 결정론적 컴파일러와의 단일 마음 상호작용인 코딩과 달리 산문은 마음 이론이 지배하는 이중 마음 문제라는 것이다. 그런데 LLM에는 그것이 없다. 특정 인간 독자의 능동적 심성 모형이 없으므로 방대한 데이터셋에 대한 다음 단어의 통계적 확률만 최적화하고 있고, 인간의 체험된 경험이 없어 공감할 수 없으며 걸린 것이 전혀 없다.

Source

The Safest Job from AI may be Writing — Murat Demirbas, 2026년 8월 31일

[muratbuffalo.blogspot.com](https://muratbuffalo.blogspot.com/2026/08/the-safest-job-from-ai-may-be-writing.html)

Knowledge

코더는 병목이 되고 글쓰기는 남는다

글은 오늘의 풍경에서 출발한다. 기술인들이 새로 부풀려진 5배 생산성 할당량을 맞추려고 워크플로를 바꾸느라 분주하다는 것인데, 동시에 대가를 치른다. 에이전트가 생성한 코드의 인지 부채 아래에서 두들겨 맞고 있다는 것이다. 방향도 지목된다. 새 모델이 나올 때마다 격차가 벌어지고 있으며 인간은 루프 안에서 더욱 병목이 되어 코더로서의 퇴화에 더 가까이 다가가고 있다는 것이다. 그런데 대비가 선명하다. 프로그래머의 직무 기술서가 완전히 리팩터링되는 동안 글쓰기는 놀랍도록 영향을 받지 않은 채 남아 있다는 것이다.

평가가 가차 없다. LLM이 코드 생성에는 아주 능해졌지만 산문으로 내뱉는 절대적 쓰레기에는 경악한다는 것이고 증상이 구체적으로 열거된다. 항상 같은 로봇 같은 리듬과 클리셰를 따르고 같은 진부한 어휘를 온 사방에 흩뿌린다는 것이다. 가장 아픈 지적이 이어진다. 그들이 자기의 부서졌지만 영혼 있는 글쓰기를 가져다가, 산문을 개선한다는 이름으로 플라스틱 같은 영혼 없는 단어 죽으로 변형시킨다는 것이다. 그리고 판정이 붙는다. 그들의 글쓰기는 실제 이해도 통찰도 전달하지 않는다는 것이다.

집단적 반응도 관찰된다. 우리 모두가 AI 글쓰기에 대해 본능적인 거부 반응을 발달시키고 있다고 생각한다는 것이고 위치가 규정된다. 그것이 불쾌한 골짜기에 갇혀 있고 오랫동안 거기 갇혀 있을지도 모른다는 것이다. 그래서 예측이 제시된다. LLM이 조만간 괜찮은 작가를 위협하지 않을 것이라고 점점 더 확신하게 됐다는 것이다. 그리고 예측이 세 관찰에 기대고 있다고 밝히면서 자기 논리가 어디서 성립하지 않는지 말해 달라고 독자에게 요청한다.

첫째 관찰 — 산문의 정체

정체의 원인이 먼저 배제된다. LLM 글쓰기가 죽에 갇혀 있는 상태는 시도가 부족해서가 아니라는 것이고 AI 연구소들이 이미 산문 개선에 열심히 시도했고 벽에 부딪혔다는 것이다. 동기도 지목된다. 거대 LLM 기업들은 마케팅과 카피라이팅, 출판을 한계비용 0으로 정복하기 위해 더 나은 글쓰기 능력을 출시하고 싶었을 것이라는 것이다. 하고 싶지 않았던 것이 아니라 안 됐다는 논리다.

대비가 결정적 근거가 된다. 이미지와 음성, 그리고 비디오 모델을 보라는 것이다. 그것들은 빠르게 좋아졌는데 이유가 있다. 더 많은 매개변수와 컴퓨트로 확장될 수 있기 때문이다. 그런데 텍스트 모델은 다르다. 그것들의 빠른 진보에 비해 텍스트 모델은 표현과 깊이, 진정성에서 심하게 정체됐다는 것이다. 일반화도 붙는다. 마지막 20퍼센트를 건너는 것이 몹시 어렵다고 생각하며 이것이 이미지와 음성, 비디오 모델에도 적용된다는 것이다.

둘째 관찰 — 사악한 문제로서의 글쓰기

정의가 시스템 이론에서 온다. 사악한 문제는 확정적 정식화도, 명확한 정지 규칙도, 객관적으로 옳은 해도 없는 문제라는 것이다. 그리고 글쓰기가 궁극의 사악한 문제라고 규정되는데 이유가 셋으로 제시된다. 맥락이 끊임없이 이동하고 한 편은 결코 진정으로 편집이 끝나지 않으며 성공의 참된 척도가 근본적으로 주관적이라는 것이다. 그래서 방법론이 나온다. 영역들을 이 사악함 스펙트럼에 따라 배치하면, 왜 AI가 어떤 분야를 지배하면서 다른 분야에서는 완전한 죽을 생산하는지 설명된다는 것이다.

스펙트럼 왼쪽에 수학이 앉는다. 명세가 간결하고 검증이 이진이며 자동화되어 있다는 것이고 그래서 결과가 따라온다. 피드백 루프가 완벽하게 닫혀 있으므로 AI 모델이 수학 문제를 빠르게 풀고 결과를 자동으로 증명할 수 있다는 것이다. 코드가 그다음이다. 형식 논리와 테스트 주도 피드백에 의존한다는 것이고 LLM이 기능하는 코드를 생성할 수 있는 이유가 지목된다. 컴파일러와 단위 테스트, 모델 검사기가 오류를 즉시 잡을 수 있기 때문이며 검증이 대체로 기계적이라는 것이다. 법률과 금융 같은 구조화된 영역도 얼마간의 명시적 경계를 가진다고 배치되는데, 규제 틀에 의해 지배되고 경험적 데이터로 평가되기 때문이다.

그리고 글쓰기가 스펙트럼의 먼 극단에 앉는다. 당면 과제에 잘 정의된 명세가 없고 산출물에 대한 근거 진리나 객관적 검증이 없다는 것이다. 그래서 성공의 궁극적 측정이 규정된다. 다른 인간 마음 안의 공명이라는 것이고 그것이 AI 모델이 좋은 글쓰기에서 진전하지 못하는 이유라고 정리된다.

셋째 관찰 — 글쓰기는 AI 완전 문제일 수 있다

구조적 차이가 대비로 제시된다. 코딩은 결정론적 컴파일러와의 단일 마음 상호작용인데, 산문은 마음 이론이 지배하는 이중 마음 문제라는 것이다. 요구되는 능력도 명시된다. 독자의 내적 정신 상태를 실시간으로 계속 시뮬레이션하는 능력이 필요하다는 것이다. 그리고 그 능력이 세 항목으로 분해된다. 단순하고 설득력 있게 쓰려면 독자가 이미 무엇을 아는지 추적해야 하고 문장 단위로 그들의 인지 부하를 관리해야 하며 논증이 어떻게 착지할지 예측해야 한다는 것이다.

LLM에는 그것이 없다는 판정이 이어진다. 특정 인간 독자의 능동적 심성 모형이 없으므로, 방대한 데이터셋에 대한 다음 단어의 통계적 확률만 최적화하고 있다는 것이다. 두 가지 결핍이 더 지목된다. 인간의 체험된 경험이 없으므로 인간 독자에게 공감할 수 없다는 것이고 걸린 것이 전혀 없다는 것이다.

비교우위와 값비싼 신호

논의를 착지시키기 위해 데이비드 리카도와 고전 경제학을 끌어온다고 밝힌다. 비교우위 법칙이 진술된다. 한 당사자가 다른 당사자보다 모든 것을 더 효율적으로 생산할 수 있어도, 상대적 기회비용이 가장 낮은 곳에 전문화하면 양쪽 모두 여전히 이득을 본다는 것이다. 적용도 명확하다. AI가 타이핑 속도와 한계비용 0으로 분량을 생성하는 데서 절대우위를 가져도, 인간의 노동은 여전히 우리의 희소한 자원이 가장 덜 낭비될 곳의 기회비용에 의해 지배된다는 것이다.

그래서 계산이 나온다. 인간이 자기의 희소한 인지 능력을 일반적이고 반복적인 과제에 태우는 기회비용이 이제 무한히 높다는 것이다. 대신 인간의 노력은 AI가 실패하는 곳에서 빛나는데, 사악한 문제를 항해하고 창의성을 밀어붙이는 데서라는 것이다. 여기서 경제학이 진화생물학과 만난다고 서술된다. 인간의 작업 증명이 궁극의 값비싼 신호가 된다는 것이다.

자연의 예가 든다. 공작의 꼬리나 엘크의 뿔 같은 값비싼 신호가 작동하는 이유가 있다는 것인데, 생산하는 데 비용이 많이 들고 위조가 불가능하기 때문이다. 그래서 결론이 도출된다. AI 죽이 웹을 포화시키면서 경제적 가치가 전적으로 진정한 인간의 목소리로 이동한다는 것이다. 저자는 여기서 토큰이라는 단어로 말장난을 한 것을 양해해 달라고 덧붙인다.

작가는 아무것도 바꿀 필요가 없다

마지막 대비가 이 글의 결론이다. 기술인들과 달리 작가들은 비교우위를 최적화하고 이 값비싼 신호를 포착하기 위해 일하는 방식에 대해 아무것도 바꿀 필요가 없다는 것이다. 기술 노동자 쪽 사정이 진단된다. AI가 소프트웨어의 우발적 복잡성을 벗겨 내 그 내재적 복잡성을 드러내면서 기술 노동자들이 적응에 애를 먹고 있다는 것이다.

그런데 작가는 다르다. 좋은 작가들은 언제나 사악한 프런티어에서 소통의 내재적 복잡성과 씨름해 왔으며 그래서 손대지지 않은 채로 남아 있다는 것이다. 마지막 문장이 여운을 남긴다. 어쩌면 프로그래밍 자체가 창의적 글쓰기의 한 형태로 변해 가고 있으며 더 의견이 강해지고 더 건축적이 되어 간다는 것이다.

더 생각해보기

• 산문이 정체된 원인이 확장 불가능성이라면, 이미지·음성·비디오가 빠르게 좋아진 이유와 무엇이 구조적으로 다른가.
• 마지막 20퍼센트가 몹시 어렵다는 진단이 이미지·음성·비디오에도 적용된다면, 그 영역의 진보는 어디서 멈추는가.
• 사악함 스펙트럼에서 법률과 금융의 위치는 시간이 지나며 왼쪽으로 이동하는가.
• 성공의 척도가 다른 인간 마음 안의 공명이라면, 그 공명은 원리상 측정 불가능한가 아니면 아직 측정 못 하는 것인가.
• 마음 이론이 없다는 지적은 모델이 독자 모형을 명시적으로 갖게 되면 해소되는가.
• 걸린 것이 없다는 조건은 AI가 결과에 책임지는 구조가 생기면 달라지는가.
• 인간의 작업 증명이 값비싼 신호라면, 그것이 위조 불가능하다는 전제는 얼마나 오래 유지되는가.
• 진정한 인간 목소리로 가치가 이동한다는 예측은, 독자가 그 차이를 구별할 수 있다는 전제에 의존하지 않는가.
• 작가가 아무것도 바꿀 필요 없다는 결론은, 유통과 발견 경로가 AI로 바뀌는 것까지 포함해도 성립하는가.
• 프로그래밍이 창의적 글쓰기가 되어 간다는 마지막 주장은, 이 글 자체의 논리로 보면 프로그래머도 안전해진다는 뜻인가.