티스토리 뷰
목차
새로운 AI 도구를 도입했는데 오히려 팀 분위기가 이상해진 경험, 저도 있습니다. 메타(Meta)가 지금 딱 그 상황입니다. 직원들이 내부를 '굴라그'라고 부를 만큼 조직 문화가 무너졌고, AI 토큰 사용량을 성과 지표로 삼는 바람에 실제 업무 효율과는 전혀 다른 숫자 경쟁이 벌어지고 있습니다. 기술보다 조직이 먼저 망가지면 어떤 일이 생기는지, 메타 사례를 통해 짚어봤습니다.
자유로운 조직이 '개발자 굴라그'가 된 이유
페이스북 초창기 시절은 지금과는 전혀 달랐습니다. 엔지니어가 원하는 팀에 자유롭게 합류할 수 있었고, 실패를 감수한 빠른 배포를 오히려 권장하는 문화였습니다. 불필요한 문서 작업은 최소화하고 창의성과 속도를 최우선으로 두던 조직이었죠.
그런데 현재의 메타는 직원들이 스스로 '굴라그(Gulag)'라는 단어를 쓸 정도로 분위기가 달라졌습니다. 굴라그란 소련 시절 강제 노동 수용소를 가리키는 말입니다. 그 단어가 IT 대기업 내부에서 자연스럽게 나온다는 것 자체가 심상치 않습니다. 실제로 회의 중에 임원진을 향해 직원이 공개적으로 불만을 쏟아내는 장면이 그대로 중계되기도 했습니다.
가장 논란이 된 부분은 감시 시스템입니다. 메타는 직원들의 키보드 및 마우스 입력 데이터를 상시 수집하기 시작했습니다. 하루 30분 정도의 예외 시간을 제외하면 업무 중 모든 입력이 기록된다는 뜻입니다. 여기서 문제는 그 데이터 범위가 개인 메모나 사내 이메일까지 포함될 가능성이 있다는 점입니다. 개인정보 보호를 중시하는 기업 문화에서 이런 감시 체계를 도입한다는 것은 내부 신뢰를 스스로 무너뜨리는 행위라고 저는 봅니다.
또한 엔지니어 절반 가량이 AI 모델 학습을 위한 데이터 라벨링(Data Labeling) 업무에 강제로 투입됐습니다. 데이터 라벨링이란 AI가 학습할 수 있도록 데이터에 정답 태그를 붙이는 작업으로, 쉽게 말해 AI에게 "이건 맞고 저건 틀렸어"를 반복적으로 알려주는 과정입니다. 원래는 저임금 외주 인력이 주로 담당하던 업무입니다. 고연봉 엔지니어들이 이 작업을 하루 종일 하고 있다는 현실은, 제가 직접 겪어보지 않았어도 얼마나 지치는 일인지 충분히 상상이 됩니다.
토큰맥싱이 만들어낸 성과 지표의 함정
저도 회사에서 새로운 도구를 도입하면 처음에는 "얼마나 자주 쓰나"를 성과 기준으로 삼는 경우를 봤습니다. AI 도구도 마찬가지였는데, 그게 얼마나 위험한 발상인지 메타 사례가 적나라하게 보여줍니다.
메타는 개발자 성과 평가 지표에 AI 토큰(Token) 사용량을 반영했습니다. 여기서 토큰이란 AI 언어 모델이 텍스트를 처리할 때 사용하는 기본 단위로, 쉽게 말해 AI가 얼마나 많은 텍스트를 읽고 생성했는지를 수치화한 개념입니다. 토큰을 많이 사용할수록 성과 점수가 높아지는 구조가 만들어지자, 직원들 사이에서 '토큰 맥싱(Token Maxing)'이라는 현상이 생겨났습니다. 토큰 맥싱이란 의미 있는 결과물 생산과 무관하게 AI에게 불필요한 요청을 반복하며 사용량을 인위적으로 부풀리는 행위입니다.
그 결과는 수치로 명확히 드러납니다. 한 달간 사용된 토큰량이 60조 개를 넘어선 사례도 있었습니다. 이를 비용으로 환산하면 월 1조 원에 육박하는 규모입니다. 실제 업무 성과와는 상관없이 이 돈이 그냥 증발한 셈입니다.
솔직히 이건 예상 밖이었습니다. "AI를 많이 쓰는 사람이 일을 잘한다"는 논리 자체가 얼마나 허술한지를 메타 스스로 증명한 꼴입니다. 제 경험상 AI를 적게 써도 결과물의 질이 높으면 그게 훨씬 나은 성과입니다. 개발 업무라면 특히 그렇습니다. AI가 만들어준 코드의 양보다 그 코드가 안정적으로 작동하고 유지보수하기 쉬운지가 핵심이기 때문입니다.
토큰맥싱이 초래한 문제들
토큰 맥싱 현상은 단순한 비용 낭비를 넘어 구체적인 부작용으로 이어졌습니다.
- 불필요한 AI 호출로 월 1조 원 규모의 자원이 실질적 성과 없이 소모됨
- 성과 지표(토큰량)와 실제 업무 품질 사이의 괴리가 심화됨
- 무분별한 AI 확장 과정에서 시스템 보안 검증이 후순위로 밀림
- 메타 내부 CPO(Chief Product Officer)급 고위직조차 공개적으로 비판을 제기함
이처럼 성과 지표를 잘못 설계하면 조직 전체가 엉뚱한 방향으로 달려갑니다. 강화학습(Reinforcement Learning) 개념으로 설명하면 더 명확합니다. 강화학습이란 AI가 특정 보상 기준에 따라 행동을 학습하는 방식으로, 보상 설계가 잘못되면 AI가 엉뚱한 방법으로 점수만 높이는 현상이 발생합니다. 메타의 인간 직원들이 정확히 그 패턴을 따르고 있는 것입니다. 사람도 잘못된 보상 구조 앞에서는 AI와 다를 게 없다는 점을 이번 사례가 보여줬습니다.
무리한 AI 확장이 불러온 인스타그램 보안사고
기술을 빠르게 밀어붙이다가 보안 검증이 따라가지 못하는 상황, 저도 업무에서 비슷한 경험을 한 적이 있습니다. 새 기능을 급하게 올렸다가 권한 설정 오류 하나로 예상치 못한 문제가 생겼던 일입니다. 그때 느꼈던 아찔함이 메타의 이번 사건과 겹쳐 보입니다.
메타는 고객 센터에 AI를 도입하는 과정에서 인증 체계를 AI에게 위임했습니다. 그런데 비밀번호 재설정 시 이메일 인증을 우회할 수 있는 취약점이 그대로 방치됐고, 결국 타인이 계정을 무단으로 탈취할 수 있는 경로가 열렸습니다. 유명 인스타그램 계정들이 실제로 해킹된 사건이 이렇게 발생했습니다.
인증 우회 취약점(Authentication Bypass Vulnerability)이란, 정상적인 본인 확인 절차를 건너뛰고 시스템에 접근하거나 권한을 획득할 수 있는 보안 결함을 말합니다. 여기서 이 취약점이 위험한 이유는 공격자가 고급 해킹 기술 없이도 계정을 탈취할 수 있기 때문입니다. 메타처럼 전 세계 수억 명의 사용자 데이터를 다루는 플랫폼에서 이런 허점이 생긴다는 것은, AI 도입 속도 조절 실패가 단순한 내부 문제를 넘어 외부 피해로 번진 사례입니다.
보안 전문가들은 AI 기반 서비스 확장 시 인증·권한 관리 체계를 최우선으로 검증해야 한다고 강조합니다(출처: OWASP(Open Web Application Security Project)). AI가 아무리 뛰어난 성능을 보여줘도, 잘못된 권한 설계 한 줄이 그 모든 것을 무력화할 수 있습니다. 또한 스케일 AI(Scale AI) CEO 알렉산더 왕을 영입하며 데이터 라벨링 품질 향상에 집중하는 전략 자체는 이해할 수 있지만, 그것이 내부 조직 붕괴와 외부 보안 사고를 감수해야 할 이유가 되지는 않습니다.
주커버그가 이끈 게임, 쇼핑, 코인, 메타버스, VR 기기 등의 사업들이 기대만큼의 성과를 내지 못했다는 점은 이미 잘 알려진 사실입니다. AI 역시 그 흐름을 따라가는 것은 아닌지 우려되는 시각이 많습니다. 저는 이 우려가 단순한 비관론이 아니라고 봅니다. AI 기술 자체의 문제가 아니라 그것을 다루는 조직과 판단의 문제이기 때문입니다(출처: Wired).
자주 묻는 질문
Q. 토큰 맥싱이 실제로 성과 평가에 반영된다는 게 사실인가요?
A. 메타 내부에서 AI 토큰 사용량을 성과 지표에 포함한 것은 내부 고발과 여러 보도를 통해 알려진 사실입니다. 이를 긍정적으로 보는 시각도 있습니다. AI 도구 활용을 독려하기 위한 방편이라는 해석이죠. 하지만 실제로는 의미 없는 AI 호출을 반복하는 토큰 맥싱 현상이 발생했고, 메타 CPO급 고위직조차 공개적으로 비판했습니다. 지표 설계 자체가 잘못됐다는 증거로 보는 편이 더 타당합니다.
Q. 메타가 엔지니어를 데이터 라벨링에 투입하는 게 왜 문제인가요?
A. 데이터 라벨링 자체는 AI 개발에 꼭 필요한 과정입니다. 문제는 이 작업이 고연봉 소프트웨어 엔지니어의 전문성과는 거리가 먼 반복 작업이라는 점입니다. 창의적 문제 해결을 위해 채용한 인력을 단순 반복 업무에 강제로 투입하면, 전문성 낭비는 물론 직원들의 사기와 이직률에도 직접적인 영향을 미칩니다. AI가 사람의 반복 업무를 줄여준다는 기술의 취지와도 정반대되는 상황이라는 점에서 아이러니합니다.
Q. 인스타그램 해킹 사건이 AI 도입과 직접적인 관련이 있나요?
A. 직접적인 인과 관계를 확정하기 어렵다는 시각도 있습니다. 보안 취약점은 AI 도입 여부와 무관하게 발생할 수 있기 때문입니다. 하지만 고객 센터 AI 전환 과정에서 이메일 인증 우회 취약점이 검증 없이 방치됐다는 점은, 빠른 AI 확장 과정에서 보안 검토가 후순위로 밀렸다는 정황을 충분히 보여줍니다. 기술 도입 속도와 검증 속도가 맞지 않을 때 생기는 전형적인 인재(人災)로 보입니다.
Q. 스케일 AI(Scale AI) 알렉산더 왕 영입은 어떤 의미인가요?
A. 스케일 AI는 AI 학습용 데이터 라벨링 전문 기업으로, 알렉산더 왕은 그 CEO입니다. 메타가 스케일 AI 지분을 인수하고 왕을 AI 부서 핵심 인물로 기용한 것은, 고품질 학습 데이터 확보와 모델 벤치마크 점수 향상에 집중하겠다는 전략적 선택입니다. 이 방향 자체가 잘못됐다고 보기는 어렵습니다. 다만 그 실행 과정에서 내부 엔지니어들이 희생되고 있다는 점이 문제의 핵심입니다.
결론
메타 사례를 보면서 제가 가장 크게 느낀 것은 "기술이 나쁜 게 아니라 사용 방식이 나쁜 것"이라는 점입니다. AI 모델 성능이 뛰어나도, 그것을 쓰는 조직이 무너져 있으면 결과도 무너집니다. 토큰 맥싱처럼 지표 설계 하나가 전체 조직을 엉뚱한 방향으로 달리게 만들 수 있다는 것을 이번 사례가 잘 보여줬습니다.
AI를 얼마나 많이 쓰느냐보다 어떤 문제에, 어떤 방식으로 쓰느냐가 중요합니다. 제 경험상 이건 기업 규모와 상관없이 똑같이 적용됩니다. 빠른 AI 도입을 고민 중인 조직이라면, 성과 지표 설계와 보안 검증 체계를 먼저 점검해보는 것이 좋겠다고 봅니다.