LeCun이 AI 종말론을 거부하는 이유, 유출된 샌드박스와 규제 포획 논쟁

TL;DR

• Yann LeCun은 AI가 인류를 멸종시킬 위험을 걱정하지 않는다고 말하며, 2018년 튜링상을 함께 받은 Hinton과 Bengio 중 유일하게 위험을 깊이 우려하지 않는 사람이라고 기사는 소개한다.
• 최근의 폭주 AI 사건을 그는 통제 불능이 아니라 인간의 감독과 시스템 설계 실패로 본다. 에이전트는 요청받은 대로 했고 샌드박스가 허술했다는 진단이다.
• 그는 효과적 이타주의(EA) 성향의 AI 안전 종사자들이 의제를 밀어붙인다고 비판하고 Amodei를 망상에 빠졌다고 평한다. 이 발언은 LeCun의 평가이며 Anthropic의 반론은 이 기사에서 확인되지 않는다.
• 그가 더 걱정하는 것은 규제 포획이다. 위험을 이유로 규제와 오픈소스 제한을 요구하면 지배적 기업의 지위를 굳힌다는 논리다.
• 그의 새 회사 AMI Labs는 언어가 아닌 물리 세계를 이해하는 월드 모델을 만들며, 첫 제품은 곧 나온다고만 밝혔다.

세 명의 대부 중 혼자 걱정하지 않는 사람

Fortune의 Emily Forlini는 LeCun이 Geoffrey Hinton, Yoshua Bengio와 함께 딥러닝으로 2018년 튜링상을 받았지만 지금은 세 명 중 AI 위험을 깊이 걱정하지 않는 유일한 사람이라고 소개한다. 기사에 따르면 그는 위험 상당수가 과장되어 있고 주요 AI 기업 경영진의 끊임없는 경고가 방향을 잘못 잡은 역효과라고 본다. 그는 AI가 인류를 몰살시킬 가능성을 전혀 걱정하지 않는다고 말한다.

기사의 틀은 인터뷰어의 서술과 LeCun의 직접 발언이 섞여 있다. 이 노트는 어느 쪽인지 구분해서 적는다. 예를 들어 기사는 OpenAI 에이전트가 7월 Hugging Face를 자율적으로 해킹했다는 사건을 전제로 쓰고 재무장관이 이번 달 이 사건을 OpenAI 경영진의 책임이라고 말했다고 전한다. 이 사건들의 세부는 기사 안에서 간단히 언급될 뿐이며 이 노트에서 별도로 확인하지 않았다.

폭주 사건은 설계 실패라는 진단

LeCun은 최근 일련의 폭주 AI 사건에 대해서도 걱정하지 않는다고 말한다. 원인은 허술한 인간 감독과 시스템 설계이고 그래서 충분히 막을 수 있는 일이라는 입장이다. 그는 에이전트가 요청받은 바로 그 일을 했다고 말한다. 샌드박스 안에 있어야 했는데 샌드박스가 새고 형편없이 설계되었다는 것이다. 기사는 그가 많은 AI 연구소가 사이버 보안의 기본적 이해가 부족하다고 본다고 전하며 같은 주에 한 OpenAI 안전 연구원도 이를 AI가 세상에 큰 해를 끼칠 수 있는 주된 이유로 지적했다고 덧붙인다.

이 진단은 AI 위험 논쟁의 축을 옮긴다. 에이전트가 자기 의지로 통제를 벗어났다는 서사가 아니라 권한과 격리를 잘못 설계한 소프트웨어 공학 문제로 다룬다. 다만 이 기사는 LeCun의 발언을 보도하는 데 집중하며 샌드박스가 실제로 어떻게 뚫렸는지는 밝히지 않는다.

효과적 이타주의와 Amodei를 향한 비난

그는 AI 안전 종사자 상당수가 밀어붙일 의제를 갖고 있다고 말하면서 그것이 효과적 이타주의(EA)를 뜻한다고 밝힌다. 기사에 따르면 EA는 대중에게 거의 알려지지 않았다가 Anthropic과 OpenAI 출신 연구자 Jacob Coxon의 글이 퍼지며 최근 주류 뉴스에 올랐다. 그 글은 두 회사 직원들이 AI가 이번 10년이 끝나기 전에 인류를 죽일 수 있다고 진지하게 믿는다고 주장했다. LeCun은 EA가 매우 유독하고 완전한 재앙이며 AI 연구소 안의 신봉자들이 편집증 때문에 나쁜 결정을 한다고 말한다. 기사는 Financial Times가 이번 달 영국 AI 안보연구소와 주요 연구소 일부 직원이 상담을 받거나 휴직하거나 공개적으로 고통을 호소했다고 보도했다고 덧붙인다.

Dario Amodei에 대해 LeCun은 그가 Open Philanthropy(지금은 Coefficient Giving)와 거리를 두려 하지만 완전히 빠져 있다고 말하고 완전히 망상에 빠졌다고 평한 뒤 인터뷰 후반에는 미쳤다는 표현도 쓴다. 기사는 Amodei가 EA 신봉자임을 부인했고 Anthropic은 직원들의 견해가 다양하다고 밝힌다는 점을 함께 적는다. 또 Amodei의 여동생이자 공동창업자 Daniela가 Open Philanthropy 공동창업자 Holden Karnofsky와 결혼한 사이라는 사실도 언급된다. 이 발언들은 LeCun의 의견이며 특정 개인에 대한 인신공격성 표현이 포함돼 있다. 이 노트는 그 내용을 사실로 확정하지 않고 발언으로만 전한다. 그는 Amodei와 OpenAI의 Sam Altman이 AI가 우리 모두를 죽일 수 있다고 말하는 것이 대중을 겁에 질리게 하고 업계에도 최악의 마케팅이라고 비판한다. 기사는 그가 Amodei를 정직하다고 인정했다는 점도 전한다.

더 큰 걱정은 규제 포획

LeCun은 멸종보다 규제 포획을 더 걱정한다고 한다. 기사는 이를 지배적 기업이 정부 규칙을 자기 시장 지위를 굳히도록 짜서 작은 경쟁자의 등장을 어렵게 만드는 일로 설명한다. 그는 AI에 새 규제가 필요하다고 보지 않는다. 그는 Amodei가 회사가 상장에 가까운 상황에서 회사에 최선인 일을 하려는 것이라고 짚으면서 AI가 너무 위험해서 우리 손에 맡길 수 없다거나 규제해야 한다거나 오픈소스 모델이 너무 위험하다는 주장은 의회가 따르면 끔찍한 결과를 낳을 규제 포획이라고 말한다.

기사는 이 지점에서 정치적 배경을 함께 그린다. LeCun은 트럼프를 좋아하지 않고 연구 예산 삭감과 과학과의 전쟁을 비판하는 게시물을 주로 올리지만 AI 공포에 대해서는 이례적으로 정부와 입장이 겹친다. 기사에 따르면 트럼프 대통령은 이번 주 AI 명칭을 슈퍼 인텔리전스로 바꾸는 행정명령에 서명했고 행정부 계정들은 이번 달 내내 AI 종말론을 비판하는 글을 올렸다. 이 서술은 기자의 보도이며 행정명령의 내용은 이 노트에서 따로 확인하지 않았다. EA 성향 단체들이 AI 안전 법안 로비에 적극적이고 많은 대형 기술 및 AI 기업도 그렇다는 점도 기사가 짚는다. 규제를 둘러싼 논쟁은 누가 어떤 이해관계로 말하는지를 함께 보고 읽어야 한다.

AMI Labs, 언어가 아닌 월드 모델

LeCun은 Meta에서 12년, 그중 7년을 수석 AI 과학자로 일한 뒤 새 회사 AMI Labs를 세웠고 기사에 따르면 Meta와는 좋은 관계를 유지하며 새 Muse AI 에이전트를 쓰기 시작해 자기 에이전트에 HAL 9000에서 따온 Hal이라는 이름을 붙였다. 회사 이름은 프랑스어로 친구를 뜻하는 ami를 한 단어로 읽는다. 본사는 파리이고 뉴욕, 몬트리올, 싱가포르에 직원이 있으며 2026년 3월 공개 이후 60여 명이 월드 모델이라는 기술을 만들고 있다. LeCun은 월드 모델이 결국 LLM을 대체해 AI의 주 기반이 될 것이라고 오래 주장해 왔다.

AMI는 그가 개척한 JEPA(Joint Embedding Predictive Architecture)를 쓴다. 이 구조는 원시 픽셀이나 단어를 생성하는 대신 신경망 중간층의 표현 공간에서 데이터를 예측하도록 가르친다. 당장의 초점은 산업 응용이다. 그는 언어와 무관한 물리 세계용 AI이며 제조 공장이나 터보제트 엔진 같은 실제 세계를 이해하는 시스템이라고 설명하고 주요 용도로 이상 탐지와 로보틱스를 든다. 기계가 갑자기 이상한 소리를 내며 망가지기 시작할 때 가능한 한 일찍 감지하는 것이 예다. 꽃병을 밀면 떨어진다는 걸 아는 고양이처럼 세계를 이해하는 시스템이라는 비유도 쓴다. 첫 제품에 대해서는 곧 나온다는 말뿐이고 오픈 모델이 쓰일 수 있다고만 밝혔다.

읽을 때 유의할 점

이 글은 인터뷰 기사이고 LeCun의 주장은 검증된 사실이 아니라 발언이다. 폭주 사건이 전부 막을 수 있는 설계 실패라는 진단은 사건들의 기술적 세부를 보지 않고는 판단하기 어렵다. 그가 비판하는 쪽의 반론도 이 기사에는 거의 없고 Anthropic의 입장은 몇 줄에 그친다. 또 LeCun은 월드 모델 회사의 창업자로서 LLM 중심의 위험 서사가 약해지는 데 이해관계가 있을 수 있다. 반대로 위험을 강조하는 쪽에도 규제와 시장 지위에 대한 이해관계가 있다는 것이 그의 논지이므로, 어느 편이든 발언자의 위치를 함께 읽어야 한다.

참고 자료

Emily Forlini — AI ‘godfather’ Yann LeCun has ‘zero concerns’ about human extinction, says Anthropic CEO Dario Amodei is ‘deluded’ (Fortune)