「X가 아니다. Y다.」

게시일: 2026년 9월 20일 | 원문 작성일: 2026년 5월 31일 | 저자: Eryk Salvaggio | 원문 보기

• • •

진실성을 수치로 매기는 일에 반대하며

언어의 척도가 목표가 되는 순간, 그 언어는 더 이상 좋은 언어가 아니다.

”It’s not x, it’s y.” 한국어로 옮기면 “X가 아니라 Y다”예요.

대규모 언어 모델의 출력에는 이런 구문이 유난히 자주 나타나요. 부정 대구법 (negative parallelism)T1이라고 부르는 장치인데, 나름의 쓸모도 있어요. 대비를 세우거든요. 특히 상대가 당연하게 여기던 전제를 다른 각도에서 보게 할 때 요긴해요. “당신은 저런 거라고 생각하겠지만, 사실은 이런 겁니다.”

이 구문은 소셜 미디어, 그중에서도 링크드인에 넘쳐나요. 자동화된 언어 생산을 상대로 한 전쟁이 한창인 요즘에는 이 구문을 겨냥한 반발까지 일었어요. 엠 대시를 쓰면 봇일지 몰라요.T2 파고들다(delve), 조용히(quietly), 진정으로(genuinely) 같은 말을 쓰거나, 방금 이 문장처럼 셋씩 묶어 나열해도, 봇일지 몰라요.

요즘 언어 모델이 이 구문을 하도 써대는 바람에 많은 사람이 이걸 나쁜 글쓰기라고 못 박았어요. 저는 잘 모르겠어요. 케네디가 “조국이 여러분에게 무엇을 해줄 수 있는지 묻지 말고, 여러분이 조국을 위해 무엇을 할 수 있는지 물으십시오”라고 했을 때 아무도 그를 게으른 작가라고 하지 않았죠. 부정 대구법은 수사법이고, 수사법이 게으른지 빛나는지는 그 안에 무엇을 담느냐에 달렸어요.

• • •

자동화된 언어 생산

이제는 AI 탐지기까지 나왔어요. 업체들 말로는 이런 패턴을 찾아내 마녀사냥에서 당신을 지켜준대요. 자기 글을 그래머리(Grammarly)에 돌리면, 그래머리가 AI 탐지기에 걸릴 만한 단어 패턴을 분석하고 어떻게 바꾸면 좋을지 제안까지 해 줘요. 그 제안대로 하면 (a) 그래머리에게 대신 글을 쓸 권한을 넘겨주게 되고, (b) 글에서 리듬과 의도가 깡그리 사라져요.

그래머리로 이 꼭지를 검토하니, 제가 기계라는 혐의를 피하려면 고쳐야 할 대목이 27군데로 나왔어요. 예를 들어 위에 쓴 “automated language production(자동화된 언어 생산)“이라는 표현은 AI가 썼을 가능성이 11배 높다고 찍혔고, 그래머리는 사람이라면 “against mechanized language synthesis”라고 쓸 거라며 대안을 내밀었어요. “align with”라는 단순한 두 단어짜리 조합에는 AI가 생성했을 가능성이 43배 높다는 딱지가 붙었어요. 진짜 사람은 “corresponds”라고 쓴대요. 하나하나는 사소한 제안이지만, 쌓이고 나면 결국 제가 고른 것과는 전혀 닮지 않은 글이 돼요. 사람의 목소리가 있던 자리에, 사람처럼 들리려 애쓰는 기계가 들어앉아요.

그래서 저는 또 다른 AI 탐지 회사인 팬그램(Pangram)T3에 20달러를 냈어요. 얼마 전 저널에 낸 논문이 AI가 쓴 글이 아니라는 확인을 투고 전에 받아 두려고요. 그 논문은 AI가 쓴 게 아니었고, 저도 그걸 알고 있었어요. 팬그램의 판정도 같았어요. 제가 돈을 주고 산 건 바로 그거예요. 제가 그 글을 썼는지 알아내려던 게 아니라, 저쪽이 저를 문제 삼지 않으리라는 통보를 받으려고 낸 돈이죠. 팬그램의 AI 시스템에서 유죄 판정이 나오면 제 경력은 거기서 끝나니까요. 이건 말 그대로 갈취예요.

만약 걸렸다면 그다음은요? 저는 제 진실성을 네 등급(높음, 매우 유력함, 어느 정도 유력함, 인간) 가운데 하나로 매긴 점수를 받았겠죠. 우리 모두가 함께 짓고 있는 이 생태계 안에서라면 저는 모든 문장을 그래머리로 고쳐 써야 했을 거예요. 다른 기계한테 글을 맡기지 않았다는 걸 증명하려고 기계에 글을 맡기는 꼴이에요.

• • •

이성에 적대적인 문화

이 기계들을 이해하려 할 때 우리는 본능적으로 학습 데이터부터 들여다봐요. 그런데 그 학습 데이터는 이제 “그냥 웹”이 아니에요. 웹은 생고기일 뿐이고, 이 소시지는 전처리도 후처리도 거하게 거쳐요. 사후 학습은 모델을 저마다의 쓰임새에 맞게 최적화하는 과정이에요. 여기에는 인간 피드백 기반 강화학습 (RLHF)과 검증된 보상 기반 강화학습 (RLVR) 같은 기법이 들어가요. RLHF에서는 사람이 응답에 순위를 매기고, 시스템은 순위가 높은 부류의 응답을 강화해요.

RLVR은 더 기묘해요. “X가 아니라 Y다”가 그토록 자주 보이는 것도 여기서 비롯됐다고 저는 짐작해요. 부정 대구법을 게으르다고 일축해버리면, 그게 왜 사방에 나타나는지 제대로 이해하기 어려워져요. 이런 언어는 사고의 틀로서 워낙 강력해서, 우리는 그걸 모델의 사고 능력이라고 착각해요. 언어로 해낸 일의 공을 연산에 돌리는 거죠.

• • •

이상한 개

RLVR은 단어를 지켜보다가 하위 프로세스를 발동시키는 장치가 아니에요. 만드는 쪽에서 여느 모델과 똑같은 방식으로 모델을 학습시킬 뿐이에요. 학습을 마친 모델은 토큰을 예측해요. 아직도 이 사실을 받아들이지 못하는 사람이 많아요. 토큰 예측이란 학습 데이터에 나타난 수학적 분포를 바탕으로 후보 목록을 만들고, 프롬프트나 시퀀스에서 앞서 나온 단어들을 놓고 볼 때 각 후보가 얼마나 그럴듯한지에 따라 순위를 매기는 일이에요.

RLVR에서는 여기에 이렇게 개입해요. 모델에게 수학 문제를 풀게 하되, 사람이 풀이법을 소리 내어 궁리할 때 쓰는 언어를 그대로 재현하며 답에 이르는 길을 글로 써 내려가게 하죠. 모델이 정답을 맞히면, 거기까지 오는 데 가장 자주 쓰인 언어가 완성된 모델에서 강화돼요. 업계에서 추론이라 부르는 것이 (부분적으로는) 바로 이거예요.

이렇게 생각해봐요. 친구와 마주 앉아 있는데, 둘 다 휴대폰 배터리가 나갔어요. 친구가 물어요. 우리가 그 이상한 개를 본 게 무슨 요일이었지? 당신은 “목요일이었지”라고 운을 떼요. 친구가 말해요. “아니야, 목요일은 아니야. 목요일엔 내가 딴 데 가 있었거든.” 그래서 맞네, 그럼 수요일이었겠다 하고 답해요. 수요일이 둘 다 아는 친구의 생일이었고, 둘 다 파티에 갔고, 파티에 가는 길에 그 개를 봤으니까요. 친구가 또 말해요. “맞아, 근데 수요일이 생일이긴 했어도 파티는 금요일에 했잖아. 그러니까 개를 본 건 금요일이었겠네.”

두 사람은 말을 주고받으며 답에 닿았고, 그 답은 검증할 수도 있어요. 휴대폰을 켜서 사진을 확인하면 그 이상한 개 사진이 정말 금요일에 찍혔다는 게 나오니까요. 사람을 기계에 빗대어 말하자면, 당신의 첫 직감(“목요일이야”)이 모델이 첫 시도에 뱉을 법한 답이고, 예전 모델은 딱 거기서 멈췄어요.

하지만 당신은 멈추지 않았어요. 친구가 받아쳤죠. “[목요일]이 아니라 [수요일]이야.” 말이 더 붙을수록 가능한 답의 폭이 좁아지고, 그렇게 “X가 아니라 Y다”를 거듭하며 정확한 요일을 찾아내요. 두 사람에게는 진짜 기억과 몸으로 겪은 경험이 있었어요. 언어는 그 경험을 주고받고 어긋난 대목을 맞춰가는 통로였어요. 반면 모델은 언어를 점점 더 길게 늘여가면서, 방금 두 사람이 해낸 추론의 패턴을 복제해요. 길어진 출력에서는 그 숙고가 언어를 통해서가 아니라 언어 안에서 재연돼요.

다음에 올 말이 쉽게 정해지지 않는 대목T4은 이 밖에도 있어요. 그런 자리가 “가령…” 같은 말로 채워지면 그 뒤로 긴 추측성 서술이 이어져요. “왜냐하면”, “생각해 보면”, “또 다른 가능성은”, 심지어 “잠깐” 같은 말도 이런 자리에 올 수 있어요. 하나같이 대비와 예외와 추상을 줄줄이 달고 오는 말들이죠. 이런 단어를 거친 풀이가 수학 문제의 정답으로 이어지면, 그 단어는 더 자주 나오도록 강화돼요.

• • •

우리가 추론하는 이유

이상한 개 이야기나 그 비슷한 대화를 나눴을 때, 우리는 개를 마주친 날짜를 달력에서 짚어내려고 물은 게 아니었어요. 그건 추억담을 꺼내는 말문이었어요. 기억을 함께 되짚고, 그 언저리의 정황을 음미하고, 같이 겪은 경험으로 둘 사이를 더 가깝게 만들려고 던진 질문이었죠.

LLM에서 써온 방식대로 추론을 정의하고 나면, 질문은 답을 얻으려고 던지는 것이고, 답은 검증할 수 있으며, 곧바로 결론이 나버려도 잃을 게 없다고 전제하게 돼요. 그 전제는 글쓰기에 실제로 영향을 미쳐요. 언어 모델과 함께 생각의 초안을 서둘러 뽑다 보면 의심에 열려 있는 태도를 잃게 돼요. 어떤 사고방식에는 즉답보다 모호함과 의심과 불확실성이 더 중요하거든요. 밖으로 드러난 사고의 자취라면 남김없이 거둬 가는 산업 복합체들이 있고, 내면의 삶은 그 복합체들 사이에 남은 틈에서 자라요.

그런데도 우리가 그런 상태에서 쓰는 언어는 모델이 쓰는 언어와 똑같아요. 어떤 글이 AI 탐지기에 AI 생성물로 걸리는 건, 그 글이 그 추론의 어떤 구조적 패턴을 따라가기 때문일까요? 팬그램도 추론 모델도, 사람이 글을 쓰며 추론할 때 드러나는 구조적 패턴을 잡아내요. 팬그램은 2021년 이전 데이터로 모델을 학습시킨 다음, 같은 글의 AI 생성 버전을 학습 데이터에 집어넣어요.

그러니 사람이 추론할 때 쓰는 언어를 닮은 탓에 기계가 쓴 것처럼 보이는 글이 있고, 우리가 그런 글을 쓴 사람들을 공개적으로 망신 준다고 해봐요. 사람들은 오탐이 무서워, 스스로 “AI 글투”라 여기게 된 방식으로는 아예 쓰지 않게 되겠죠. 그렇게 우리는 추론에 쓰는 언어를 단속해야 한다고, 그러지 않으면 당신도 공개적으로 도마에 오를 수 있다고 일러주는 셈이에요.

결국 AI로 판정된 글을 쓴 사람에게 망신을 주면, 사람들은 모델이 우리에게서 배운 구조, 곧 논증에 효과적인 도구를 피해 다니게 될 수 있어요. 비판적 사고의 도구가 가장 필요한 때에 우리 손으로 그걸 연장통에서 빼내는 거예요.

• • •

척도라는 것

이 문제는 다른 각도에서도 볼 수 있어요. 영국에서 AI 기반 에세이 평가 도구를 사람 채점자와 견줘보는 실험이 있었어요. 이 시스템이 높은 점수를 준 글쓰기 구조는, 제 눈에는 아무래도 RLVR 기반 추론과 몹시 닮아 보였어요. “에세이 길이, 어휘의 폭, 문장의 복잡성을 근거로 더 높은 점수를 줬는데, 이런 것들은 학문적 기준과 무관한 경우가 많다”는 거예요. 모두 AI 추론에서 두드러지는 특징이에요.

다시 말해, 엔지니어가 LLM을 평가할 때 쓰는 잣대로, 이제는 LLM이 사람을 평가해요.

경제학에는 굿하트의 법칙이라는 오래된 격언이 있어요. 경제학자 말투로 하면 “관찰된 통계적 규칙성은 통제를 목적으로 압력이 가해지는 순간 무너지는 경향이 있다”는 거고요. 쉽게 말하면 척도가 목표가 되는 순간, 그 척도는 더 이상 좋은 척도가 아니다라는 뜻이에요. 대규모 언어 모델에 맞게 비틀 수도 있어요. “언어의 척도가 목표가 되는 순간, 그 언어는 더 이상 좋은 언어가 아니다.”

내용이 아니라 언어 패턴을 기준으로 평가하는 데는 위험이 따르는데, 생성 쪽이든 탐지 쪽이든 이렇게 평가할 유인이 생겨요. 자동 채점은 그 둘 사이 어디쯤에 있어요. 추론 행위가 아니라 추론의 형식에 점수를 주면, 학생들이 그 형식을 더 탐내게 되고, 형식만 갖춘 글이 더 흔해질 뿐이에요. 그렇다고 형식을 벌하면 자칫 이성 자체를 벌할 수 있어요. 결국 어느 쪽이든 우리는 기계의 판단에 맡기는 대신 직접 비판적으로 생각해야 해요.

• • •

자동적 사고에 반대하며

저는 “잘못한 게 없으면 걱정할 것도 없다”는 오래된 말에 설득되지 않아요. 자동 감시 시스템의 정확도가 99.8%라는 주장을 2018년부터 봐왔어요. 아빈드 나라야난T5이 짚었듯 그 수치는 논문 한 편 단위로 잰 정확도라서, 쓸 때마다 오차가 겹겹이 불어나요. 그래서 대학생의 최대 10%가 억울하게 부정행위로 몰릴 수 있어요. 우리가 다 같이 모든 글을 AI 모델에 돌려 AI가 썼는지 확인한다면, 오탐은 훨씬 더 큰 규모로 쏟아질 거예요.

이런 모델로 실질적인 권위가 쏠리고, 기업들은 모델이 우리 대신 추론해 줄 거라고 약속해요. 두 줄짜리 문구까지 전부 AI 모델에 돌려보고 그 결과를 온라인에 올리며 “봐라, 표절꾼들이다!”라고 말할 때, 우리는 위험한 일을 예삿일로 만들고 있어요.

우리는 자기 검열의 문화를, 마녀사냥을 피하려고 AI 탐지기 눈치를 보며 문장을 고치고 바꿔 쓰는 문화를 만들어요. 그건 사람의 표현을 지키는 일의 정반대예요. 기계가 유무죄를 가려낼 수 있다는 믿음을 당연하게 여기는 흐름에 우리는 저항해야 해요. AI로 글을 쓰는 일이 최악의 경우 정신의 산업화라면, AI 탐지는 최악의 경우 사고를 감시하는 체계가 돼요.

• • •