사기, 스팸, 지원, 그리고 콘텐츠 관리에서 나타나는 규모의 비경제

게시일: 2025년 11월 22일 | 원문 작성일: 2024년 2월 | 저자: Dan Luu | 원문 보기

실증적 증거: 작은 플랫폼들이 더 잘한다

개인적 경험을 바탕으로 여러 플랫폼에서 일관된 패턴이 나타나요:

플랫폼별 비교

• SD 카드: 동네 전자제품 가게 > Best Buy > 아마존 (위조품)
• 메시징: Signal (스팸 제로) > WhatsApp (정기적으로 스팸 옴)
• 소셜 플랫폼: 비공개 포럼 > lobste.rs > Hacker News > Mastodon > Reddit > Facebook/YouTube
• 검색 엔진: 초소형 독립 검색엔진 (시장 점유율 0.0001%) > Google/Bing (SEO 사기로 도배됨)

모든 규모에서 더 작은 옵션을 선택하면 사기, 스팸, 콘텐츠 관리 품질이 더 좋아져요. 이 패턴은 단순히 개인적인 일화가 아니라 다양한 사용자들의 보고서와 플랫폼 데이터로 확인돼요.

자원 배분의 오류

저커버그의 주장 (2019)

빅테크를 해체하면 콘텐츠 관리 능력이 손상될 것이라고 주장했어요:

• 대규모 자원을 가진 회사들만이 효과적인 콘텐츠 관리를 해낼 수 있어요
• 트위터는 메타만큼 잘할 수 없어요. 왜냐하면 “안전에 대한 우리의 투자가 그들 회사 전체 수익보다 크기” 때문이죠

현실 확인

실제로 페이스북의 사기 비율은 (인수 전) 트위터보다 훨씬 높았어요. 특히 광고 콘텐츠에서요. 쇼핑 시즌 동안 페이스북 광고 대부분이 완전한 사기였거든요.

선택 vs. 필요성

메타는 2023년에 470억 달러의 수익을 올렸어요. 그들은 이렇게 할 수 있었죠:

• 메타버스에 투입한 500억 달러를 대신 콘텐츠 관리 인프라에 투자
• 연봉 3만 달러로 160만 명의 추가 관리자/지원 인력 고용
• 사용자 수천 명당 약 1명의 관리자 비율 달성

대신 그들은 사용자 경험보다 이윤 극대화를 선택했어요. 회사들이 “우리 규모에서는 수동 검토를 감당할 수 없다”고 말할 때, 실제로 의미하는 건 “적절한 지원을 제공하기 위해 이윤을 희생하지 않겠다”는 거예요.

규모의 비경제 세 가지 핵심 요인

1. 탐지 실패가 규모와 함께 증가한다

비선형적인 공격 경제학

페이스북 공격은 작은 포럼 공격보다 훨씬 높은 ROI를 제공해요:

• 정교한 공격자들은 대형 플랫폼에 자원을 집중해요
• 작은 플랫폼들은 비례적으로 훨씬 더 적고 덜 정교한 공격에만 맞닥뜨려요
• 대형 플랫폼들은 더 많은 자원에도 불구하고 압도적인 공격 볼륨에 맞서게 돼요

미얀마 사례 연구

에린 키세인의 4만 단어 조사를 보면, 엔지니어부터 VP, 임원까지 모든 레벨에서 메타에게 반복적으로 긴급 경고가 있었어요. 그럼에도 불구하고 메타의 시스템은 정책 위반 콘텐츠 중 몇 퍼센트만 잡아냈거든요.

일반적인 예시들

• 해킹당한 페이스북 계정들이 “Kamantha” 비트코인 사기를 게시했어요 (명백한 철자 오류, 가짜 추천사)
• 매 쇼핑 시즌마다 위조 소비재 사기 광고가 떴어요
• 미성년자에게 성인 콘텐츠가 전송됐어요 (메타 내부 문서에 따르면 매일 10만 명의 미성년자가 성적 학대 이미지에 노출되고 있어요)

한편 lobste.rs 같은 플랫폼은 비트코인 사기가 한 번도 없었어요 (수석 관리자 Peter Bhat Harkins에 따르면).

2. 지원 품질이 규모와 함께 저하된다

바이럴 트윗이 유일한 방법

일반 지원 채널은 효과가 없어요. 문제를 해결하려면 결국 바이럴 소셜 미디어 게시물을 만들거나 회사 내부에 아는 사람이 있어야 한다는 뜻이죠.

카프카적인 지원의 예시들

유료 지원도 도움이 안 됨

Google One 유료 지원과 Facebook/Instagram 크리에이터 지원도 비슷한 불만이 많아요. 심지어 Google Cloud에 연간 8-9자리 수를 지출하는 회사들도 같은 우회 응답을 받는다고 보고해요.

지원이 저하되는 이유

저비용 노동으로 아웃소싱:

• 표준 요금: 일반적인 아웃소싱 국가에서 시간당 약 1달러
• 작업자들이 시스템을 이해하지 못한 채 엄격한 플로차트만 따라야 해요
• 언어 장벽이 상황을 더 악화시켜요

왜곡된 인센티브:

전직 페이스북 지원 분석가: “최악인 건 상식적인 판단으로 일하고 정책의 글자가 아니라 정신을 구현하려고 하면 품질 점수에 부정적인 영향을 받는다는 거예요.”

지원 작업자들은 사용자 만족도나 정확한 결과를 위해서가 아니라 속도와 스크립트 준수만을 최적화하는 지표로 평가받거든요.

3. 정책 합의가 불가능해진다

플랫폼이 커질수록 사용자들이 원하는 게 너무 달라져서 모두를 만족시키는 콘텐츠 정책을 만들기가 불가능해져요. 한 그룹이 필수적인 표현의 자유로 여기는 것을 다른 그룹은 해로운 혐오 발언으로 간주해요.

작은 플랫폼들은 자체 규범을 통해 합의를 달성해요: 규범에 동의하지 않는 사용자들이 스스로 떠나게 되는 거죠. 거대한 플랫폼들은 이런 자연스러운 필터링을 달성할 수 없거든요.

불가독성 문제

개념

시스템이 너무 복잡해져서 자신의 엔지니어들도 이해할 수 없게 돼요.

예시: 페이스북 디렉터 증언: “데이터가 정확히 어디로 흐르는지 추적하려면 여러 팀이 필요할 거예요.”

결과

시스템이 불가독할 때:

• 감지되지 않은 오류들이 계속 쌓여 나가요
• 거짓 양성이 급증해요
• 누구도 조사할 수 없어서 이의 제기가 불가능해져요
• 엔지니어들이 “거의 모든 이의 제기가 무효”라고 생각하다가 결국 “모든 이의 제기가 무효”로 정신적으로 반올림해버려요

반올림 오류

사기 방지 시스템에서 일하는 많은 엔지니어들은 약 95-99%의 이의 제기가 올바르게 거부되는 걸 보면서 이걸 100%로 정신적으로 반올림해버려요. “거의 모두”에서 “모두”로의 이 질적 변화는 정당한 사용자 문제를 체계적으로 무시하는 결과를 낳거든요.

한 엔지니어는 “차단된 모든 사람이 그럴 자격이 있다”고 주장했어요. 이건 명백히 사용자의 상당한 비율을 잘못 차단할 만한 오류율을 가진 시스템을 완벽하게 신뢰한다는 뜻이죠.

규모의 경제는 존재한다 (여기서는 아니지만)

규모가 도움이 되는 곳

• 아마존의 배송 네트워크 (결함이 있음에도 불구하고 다른 대안들보다 더 신뢰할 수 있어요)
• 애플의 수직 통합이 가능하게 한 세계적 수준의 성능 엔지니어링
• 대량 구매 가격 책정 (아마존에서 크래커가 동네 상점보다 훨씬 저렴)

요점: 규모의 경제가 모든 영역에서 작용한다고 당연히 여기면 안 돼요. 규모가 도움이 되는지 해가 되는지는 이론적 가정이 아니라 실증적으로 봐야 하는 질문이거든요.

역사적 맥락: 책임

현대의 현실: 사용자들의 생계와 디지털 삶에 영향을 미치는 수많은 중요한 결정에서, 이제 오직 컴퓨터만이 결정을 내려요. 그리고 책임 부재는 버그가 아니라 기능이 돼버렸거든요.

수사학적 속임수

저커버그의 주장: 페이스북이 “기숙사 방에서 시작할 때”부터 1만-4만 명의 관리자가 필요했다고 했어요.

현실: 기숙사 페이스북보다 훨씬 큰 서비스들이 단 한 명의 파트타임 관리자로 현재 페이스북보다 훨씬 나은 콘텐츠 관리를 성공적으로 운영하고 있어요. 이 비교는 부정직한 거죠. 문제는 절대적인 자원 요구사항이 아니라 규모에 비례한 자원 배분에 관한 것이거든요.

구조적 문제: 선택 vs. 능력

핵심 통찰: 문제는 대기업들이 더 나은 콘텐츠 관리를 할 수 없다는 게 아니라, 이윤을 줄여야 하니까 하지 않기로 선택한다는 거예요.

누군가 “우리 규모에서는 수동 검토를 감당할 여유가 없기 때문에 이 시스템들은 완전히 자동화되어야 한다”고 말할 때, 실제로는 “모호한 케이스를 수동으로 검토할 역량 있는 인력을 고용하면 연간 수십억 달러 이윤을 못 벌게 될 것”이라는 뜻이거든요.

이 선택을 정당화할 수는 있어요. 하지만 그게 필요성이 아니라 선택이라는 점에만큼은 솔직해야 하죠.

독점 금지 및 규제에 대한 함의

빅테크의 반독점 금지 주장: 독점 금지 조치가 현실화되면서, 기술 임원들은 회사를 해체하면 콘텐츠 관리, 보안, 사용자 안전이 재앙적으로 악화될 것이라고 계속 주장해 왔어요.

반대 증거: 이 에세이가 보여주는 광범위한 증거에 따르면, 대형 기술 회사들을 2015년이나 2010년 규모로 분할하면 콘텐츠 관리, 사기 탐지, 지원에 대한 사용자 경험이 개선될 가능성이 높아요. 임원들의 주장과 정반대죠.

결론

실증적 증거는 콘텐츠 관리, 사기 탐지, 지원에 대한 “규모의 경제” 서사와 모순돼요:

• 성능: 작은 플랫폼들이 일관되게 큰 플랫폼들을 앞질러요
• 자원: 대기업들은 자원을 가지고 있지만 사용자 이익을 위해 쓰지 않기로 선택했어요
• 지원: 의도적인 비용 절감으로 인해 플랫폼이 커질수록 지원 품질이 더 떨어져요
• 불가독성: 대형 시스템은 내부자조차 이해하거나 수정할 수 없게 돼요
• 책임: 자동화된 시스템이 사용자에게 구제 수단도 없이 중대한 오류를 만들어버려요

핵심은 기술적 역량이 아니라 비즈니스 모델 인센티브거든요. 대형 플랫폼들은 사용자 경험보다 이윤을 최적화하고, 그렇게 사용자에게 해를 끼치는 선택을 “규모가 요구하는 것”이라는 수사학적 언어로 정당화해요.