「X가 아니다. Y다.」

게시일: 2026년 9월 20일 | 원문 작성일: 2026년 5월 31일 | 저자: Eryk Salvaggio | 원문 보기

• • •

진실성을 계량하는 일에 반대하며

언어의 척도가 목표가 되는 순간, 그 언어는 좋은 언어이기를 그친다.

”It’s not x, it’s y.” 한국어로 옮기면 “X가 아니라 Y다”예요.

대규모 언어 모델의 출력에는 이런 구문이 유난히 자주 나타나요. 부정 대구법 (negative parallelism)T1이라고 부르는 장치죠. 쓸모가 없는 건 아니에요. 이 구문으로 대비를 세울 수 있거든요. 특히 전제를 다시 짜야 할 때 유용해요. “당신은 저런 거라고 생각하겠지만, 사실은 이런 겁니다.”

이 구문은 소셜 미디어, 그중에서도 링크드인에 넘쳐나요. 그리고 자동화된 언어 생산에 맞선 전쟁이 이어지는 가운데 반발도 일었고요. 엠 대시를 쓰면 봇일지 몰라요.T2 파고들다(delve), 조용히(quietly), 진정으로(genuinely) 같은 말을 쓰거나, 방금 이 문장처럼 셋씩 묶어 나열해도 봇일지 모르고요.

요즘 언어 모델이 이 구문을 하도 써대는 바람에 많은 사람이 이걸 나쁜 글쓰기라고 못 박았어요. 저는 잘 모르겠어요. 케네디가 “조국이 여러분에게 무엇을 해줄 수 있는지 묻지 말고, 여러분이 조국을 위해 무엇을 할 수 있는지 물으십시오”라고 했을 때 아무도 그를 게으른 작가라고 하지 않았죠. 부정 대구법은 수사법이고, 수사법이 게으른지 빛나는지는 결국 그 안에 무엇을 담느냐에 달렸어요.

• • •

자동화된 언어 생산

이제는 그 패턴을 찾아내 마녀사냥에서 당신을 지켜준다고 업체들이 내세우는 AI 탐지기까지 생겼어요. 자기 글을 그래머리(Grammarly)에 돌리면 AI 탐지기에 걸릴 만한 단어 패턴이 무엇인지, 어떻게 바꾸면 좋을지까지 분석 결과로 받아 볼 수 있어요. 그 제안대로 하면 (a) 그래머리에게 대신 글을 쓸 권한을 넘겨주게 되고, (b) 글에서 리듬과 의도가 깡그리 사라져요.

그래머리로 이 꼭지를 검토하니, 제가 기계라는 혐의를 피하려면 고쳐야 할 대목이 27군데로 나왔어요. 예를 들어 방금 쓴 “automated language production(자동화된 언어 생산)“이라는 표현은 AI가 쓴 글에서 나타날 가능성이 11배 높다는 판정을 받았고요. 사람이라면 “against mechanized language synthesis”라고 쓸 거라는 게 그래머리가 내놓은 대안이었어요. “align with”이라는 두 단어짜리 조합에는 AI가 쓴 글에서 나타날 가능성이 43배 높다는 딱지가 붙었어요. 진짜 사람은 “corresponds”라고 쓴대요. 하나하나는 사소한 제안이지만, 쌓이고 나면 결국 제가 고른 말은 한마디도 남지 않아요. 사람의 목소리가 있던 자리에 사람처럼 들리려 애쓰는 기계가 들어앉는 거죠.

그래서 저는 최근 투고한 저널 논문이 AI가 쓴 글이 아니라는 확인을 받으려고 또 다른 AI 탐지 회사인 팬그램(Pangram)T3에 20달러를 냈어요. 그 논문은 AI가 쓴 게 아니었고, 저도 그걸 알고 있었어요. 팬그램도 같은 판정을 내렸고요. 제가 돈을 주고 산 건 바로 그거예요. 제가 그 글을 썼는지 알아내려던 게 아니라, 저쪽이 저를 문제 삼지 않으리라는 통보를 받으려고 낸 돈이죠. 팬그램의 AI 시스템에서 유죄 판정이 나오면 제 경력은 거기서 끝나니까요. 이건 말 그대로 갈취예요.

만약 걸렸다면 그다음은요? 저는 제 진실성을 네 등급(확실함, 매우 유력함, 어느 정도 유력함, 인간) 가운데 하나로 매긴 점수를 받았겠죠. 우리 모두가 함께 짓고 있는 이 생태계 안에서라면 저는 모든 문장을 그래머리로 고쳐 써야 했을 거예요. 다른 기계한테 글을 맡기지 않았다는 걸 증명하려고 기계에 글을 맡기는 셈이죠.

• • •

이성에 적대적인 문화

이 기계들을 이해하려 할 때 우리는 본능적으로 학습 데이터부터 들여다봐요. 그런데 그 학습 데이터는 이제 “그냥 웹”이 아니에요. 웹은 생고기일 뿐이고, 이 소시지는 앞뒤로 손질을 거하게 거쳐요. 만드는 쪽에서는 사후 학습으로 모델을 그 쓰임새에 맞게 최적화해요. 여기에는 인간 피드백 기반 강화학습 (RLHF)과 검증된 보상 기반 강화학습 (RLVR) 같은 기법이 들어가요. RLHF에서는 사람이 응답에 순위를 매기고, 사람이 높게 평가한 부류의 응답이 강화돼요.

RLVR은 더 기묘해요. 저는 이게 “X가 아니라 Y다”가 그토록 자주 보이는 이유라고 짐작해요. 부정 대구법을 게으르다고 일축해버리면, 그게 왜 사방에 나타나는지 알아낼 길이 막혀요. 이런 언어는 사고의 틀로서 워낙 강력해서, 우리는 그걸 모델의 사고 능력이라고 착각해요. 언어로 해낸 일의 공을 연산에 돌리는 거죠.

• • •

이상한 개

RLVR은 단어를 지켜보다가 하위 프로세스를 발동시키는 장치가 아니에요. 만드는 쪽에서 여느 모델과 똑같은 방식으로 모델을 학습시킬 뿐이에요. 학습이 끝나면 그 모델은 토큰을 예측하고요. 아직도 이 사실을 받아들이지 못하는 사람이 많아요. 토큰 예측이란 학습 데이터에 나타난 수학적 분포를 바탕으로 후보 목록을 만들고, 프롬프트나 앞 시퀀스의 단어들을 놓고 봤을 때 어느 후보가 그럴듯한지 순위를 매기는 일이에요.

RLVR은 여기에 이렇게 작용해요. 만드는 쪽에서 모델에게 수학 문제를 풀게 하되, 답에 이르는 길을 글로 써 내려가게 해요. 사람이 풀이법을 소리 내어 궁리할 때 쓰는 언어를 그대로 재현하는 거죠. 모델이 정답에 닿으면, 거기까지 오는 데 가장 자주 쓰인 언어가 완성된 모델에서 강화돼요. 업계에서 추론이라 부르는 것의 (일부) 정체가 이거예요.

이렇게 생각해봐요. 당신은 친구와 마주 앉아 있어요. 두 사람 모두 휴대폰 배터리가 나갔고요. 친구가 물어요. 우리가 그 이상한 개를 본 게 무슨 요일이었지? 당신은 “목요일이었지”라고 운을 떼요. 친구가 말해요. “아니야, 목요일은 아니야. 목요일엔 내가 딴 데 가 있었거든.” 그래서 당신은 맞네, 그럼 수요일이었겠다라고 해요. 수요일이 둘 다 아는 친구의 생일이었고, 둘 다 파티에 갔고, 파티에 가는 길에 그 개를 봤으니까요. 친구가 또 말해요. “맞아, 근데 수요일이 생일이긴 했어도 파티는 금요일에 했잖아. 그러니까 개를 본 건 금요일이야.”

두 사람은 말을 주고받으며 답에 닿았고, 그 답은 검증할 수도 있어요. 휴대폰을 켜서 사진을 확인하면 그 이상한 개 사진이 정말 금요일에 찍혔다는 게 나오니까요. 인간미 없는 말로 옮기자면, 당신의 첫 직감(“목요일이야”)이 모델이 첫 시도에 뱉을 법한 답이고, 예전 모델은 딱 거기서 멈췄어요.

하지만 당신은 멈추지 않았어요. 친구가 받아쳤죠. “[목요일]이 아니라 [수요일]이야.” 말이 더 붙으면서 가능한 답의 폭이 좁아지고, 그렇게 “X가 아니라 Y다”라는 식으로 답을 좁혀 정확한 요일에 닿아요. 두 사람에게는 진짜 기억과 몸으로 겪은 경험이 있었어요. 언어는 그 경험을 주고받고 어긋난 대목을 맞춰가는 통로였고요. 반면 모델은 언어를 점점 더 길게 늘여가면서, 방금 두 사람이 해낸 추론의 패턴을 복제해요. 길어진 출력에서는 그 숙고가 언어를 통해서가 아니라 언어 안에서 재연돼요.

다음에 올 말이 쉽게 정해지지 않는 대목T4에서는 “가령…” 같은 말이 나오기도 해요. 그러면 그 뒤로 긴 추측성 서술이 이어지죠. “왜냐하면”, “생각해 보면”, “또 다른 가능성은”, 심지어 “잠깐” 같은 말도 이런 자리에 올 수 있어요. 하나같이 대비와 예외와 추상을 줄줄이 달고 오는 말들이죠. 이런 단어를 거쳐 수학 문제의 정답에 닿으면, 그 단어는 더 자주 등장하도록 밀어 올려져요.

• • •

우리가 추론하는 이유

이상한 개 이야기나 그 비슷한 대화를 나눌 때, 질문의 요점은 개를 마주친 날이 달력의 며칠인지 특정하는 데 있지 않았어요. 그건 추억담을 꺼내는 말문이었어요. 기억을 함께 되짚고, 그 언저리의 정황을 곱씹고, 같이 겪은 경험으로 둘 사이를 더 가깝게 만들려고 던진 질문이었죠.

LLM에서 써온 방식대로 추론을 정의한다는 건, 질문의 요점이 답을 얻는 데 있고, 답은 검증될 수 있으며, 곧바로 결론이 나버려도 잃을 게 없다고 전제하는 일이에요. 이건 글쓰기에 실제로 영향을 미쳐요. 언어 모델과 함께 생각을 빠르게 찍어내다 보면 우리가 잃는 게 바로 의심 앞에 열려 있는 태도예요. 어떤 사고방식에는 즉답보다 모호함과 의심과 불확실성이 훨씬 중요하거든요. 온갖 산업 복합체는 밖으로 드러난 사고의 자취까지 남김없이 거둬 가죠. 내면의 삶은 그 복합체들 사이에 남은 틈에서 자라요.

그런데도 우리가 그런 상태에서 쓰는 언어는 모델이 쓰는 언어와 똑같아요. AI 탐지기에 어떤 글이 AI 생성물로 걸리는 건, 그 글이 추론의 특정한 구조적 패턴을 따르기 때문일까요? 팬그램도 추론 모델도, 사람이 글을 쓰며 추론할 때 나타나는 구조적 패턴을 탐지해요. 팬그램은 2021년 이전 데이터로 모델을 학습시킨 다음, 같은 글의 AI 생성 버전을 학습 데이터에 집어넣어요.

그러니 기계가 썼을 법하다는 이유로, 곧 사람이 추론할 때 쓰는 언어를 닮았다는 이유로 우리가 사람들을 공개적으로 망신 준다고 해봐요. 사람들은 오탐이 무서워, 스스로 “AI 글투”라 여기게 된 방식으로는 아예 쓰지 않게 되겠죠. 그건 추론에 쓰는 당신의 언어가 단속 대상이며, 스스로 단속하지 않으면 당신도 공개적으로 도마에 오를 수 있다는 신호예요.

결국 AI로 판정된 글을 쓴 사람에게 망신을 주면, 사람들은 모델이 우리에게서 배운 구조를 피해 다니게 돼요. 논증에 효과적인 도구인 그 구조를 말이죠. 비판적 사고의 도구가 가장 필요한 때에 우리 손으로 그걸 연장통에서 빼내는 거예요.

• • •

척도라는 것

여기엔 다른 각도가 하나 더 있어요. 영국에서 AI 기반 에세이 평가 도구를 사람 채점자와 견줘보는 실험이 있었어요. 이 시스템에서 높은 점수로 이어진 글쓰기 구조는 아무리 봐도 RLVR 기반 추론과 몹시 닮아 있었어요. “에세이 길이, 어휘의 폭, 문장의 복잡성을 근거로 더 높은 점수를 줬는데, 이런 것들은 학문적 기준과 무관한 경우가 많다”는 거예요. 전부 AI 추론의 특징이죠.

다시 말해, 엔지니어가 LLM을 평가하던 잣대로, 이제는 LLM이 사람을 평가해요.

경제학에는 굿하트의 법칙이라는 오래된 격언이 있어요. 경제학자 말투로 하면 “관찰된 통계적 규칙성은 통제를 목적으로 압력이 가해지는 순간 무너지는 경향이 있다”는 거고요. 쉽게 말하면 척도가 목표가 되는 순간, 그 척도는 좋은 척도이기를 그친다는 뜻이에요. 대규모 언어 모델에 맞게 비틀 수도 있어요. “언어의 척도가 목표가 되는 순간, 그 언어는 좋은 언어이기를 그친다.”

내용이 아니라 언어 패턴을 기준으로 평가하는 데는 위험이 따르는데, 생성 모델과 탐지 모델 모두 이런 평가 방식을 부추겨요. 자동 채점은 그 둘 사이 어디쯤에 있고요. 추론 행위가 아니라 추론의 형식에 점수를 주면, 학생들은 그런 글쓰기에 더 끌리고 그런 글은 더 흔해질 뿐이에요. 그렇다고 형식을 벌하면 이성 자체를 벌할 위험이 있죠. 결국 어느 쪽이든 우리는 기계의 판단에 맡기는 대신 직접 비판적으로 생각해야 해요.

• • •

자동적 사고에 반대하며

저는 “잘못한 게 없으면 걱정할 것도 없다”는 오래된 말에 설득되지 않아요. 자동 감시 시스템의 정확도가 99.8%라는 주장을 2018년부터 봐왔어요. 아빈드 나라야난T5이 짚었듯 그건 논문 한 편 기준의 수치여서, 쓸 때마다 오차가 겹겹이 불어나요. 그래서 대학생의 최대 10%가 억울하게 고발당할 수 있어요. 우리가 다 같이 모든 글을 AI 모델에 돌려 AI가 썼는지 확인한다면, 오탐은 훨씬 더 큰 규모로 쏟아질 거예요.

이런 모델을 거치면서 실질적인 권위가 한곳에 모여요. 기업들은 모델이 우리를 대신해 추론해주겠다고 약속하고요. 두 줄짜리 문구까지 전부 AI 모델에 돌려보고 그 결과를 온라인에 올리며 “봐라, 표절이다!”라고 말할 때, 우리는 위험한 무언가를 당연한 일로 만들고 있어요.

그렇게 우리는 자기 검열의 문화를, 마녀사냥을 피하려고 AI 탐지기 눈치를 보며 문장을 고치고 바꿔 쓰는 문화를 만들어요. 그건 사람의 표현을 지키는 일의 정반대예요. 기계가 유무죄를 가려낼 수 있다는 믿음을 당연하게 여기는 흐름에 우리는 저항해야 해요. AI로 글을 쓰는 일이 최악의 경우 정신의 산업화라면, AI 탐지는 최악의 경우 사고를 향한 감시 체계가 되니까요.

• • •