스마트폰 앱 마켓과 엔터프라이즈 AI 생태계가 통제권이라는 키워드를 두고 극심한 혼란을 겪고 있다. 소비자 시장에서는 성적 불쾌감을 조장하는 딥페이크 앱이 빅테크의 방관 속에 천문학적인 수익을 긁어모으는 반면, B2B 시장에서는 최고 성능을 자랑하던 AI 모델이 규제 철퇴를 맞고 하루아침에 셧다운 되는 초유의 사태가 벌어졌다.
‘AI 피팅룸’의 탈을 쓴 알몸 합성 앱, 플랫폼은 수수료 잔치
비영리 감시단체 ‘기술투명성프로젝트(TTP)’의 폭로를 보면 현재 스마트폰 앱 마켓이 얼마나 통제 불능 상태인지 단적으로 알 수 있다. 애플 앱스토어와 구글 플레이스토어에는 멀쩡한 사진을 나체나 비키니 차림으로 둔갑시키는 딥페이크 앱이 무려 100여 개(애플 47건, 구글 55건)나 버젓이 유통되고 있었다.
이들의 누적 다운로드 수는 7억 500만 회를 훌쩍 넘겼고, 이 앱들이 벌어들인 수익만 무려 1억 1,700만 달러(약 1,700억 원)로 추산된다. 여기서 짚고 넘어가야 할 뼈아픈 팩트는 애플과 구글이 인앱 결제 수익의 최대 30%를 수수료로 떼어간다는 점이다. 사실상 빅테크 플랫폼들이 불법적인 성적 이미지 합성 앱을 방치하며 막대한 뒷돈을 챙기고 있었다는 TTP의 비판이 설득력을 얻는 이유다.
이 앱들의 수법은 꽤나 교묘하다. 겉으로는 가상으로 옷을 입혀보는 ‘AI 피팅룸’이나 단순 오락용으로 포장해 놓고, 실제로는 ‘옷 찢기’나 ‘엉덩이 흔들기’ 같은 노골적인 성적 콘텐츠를 찍어낸다. 약관에는 불쾌감을 주는 콘텐츠 생성을 금지한다는 면피성 조항을 박아뒀지만 실상 제재는 전무했다. 게다가 중국 기반 앱들은 사용자 데이터를 고스란히 중국 서버로 넘기고 있어 심각한 안보 및 개인정보 유출 리스크까지 안고 있다.
파장이 커지자 애플은 부랴부랴 28건의 앱을 날리며 개발자들에게 퇴출 경고장을 보냈고, 구글 역시 정책 위반 앱들을 정지시켰다고 밝혔지만 구체적인 조치 규모는 입을 싹 닫았다. 최근 일론 머스크의 xAI가 내놓은 ‘그록(Grok)’마저 비슷한 성적 이미지 합성 논란으로 각국 정부의 조사 타깃이 된 걸 보면, AI의 윤리적 고삐가 얼마나 허술하게 풀려있는지 짐작할 수 있다.
하루아침에 날아간 접속 권한, ‘오픈소스’로 눈 돌리는 기업들
그런데 흥미로운 건, 이렇게 소비자 시장에서는 통제가 풀린 AI가 돈방석에 앉는 동안, 정작 엔터프라이즈 시장에서는 빅테크의 과도하고 갑작스러운 통제가 시장의 판도를 뒤흔들고 있다는 점이다.
최근 앤스로픽(Anthropic)이 자사의 핵심 AI 모델인 ‘페이블(Fable) 5’와 ‘미토스(Mythos) 5’의 접속을 돌연 전면 차단해 버린 사건이 대표적이다. 미국 정부의 “국가 안보” 명분 수출 통제 지침을 맞추기 위한 울며 겨자 먹기식 조치였지만, 이들 모델에 회사의 명운을 걸고 있던 고객사들에게는 그야말로 날벼락이었다. 누군가의 버튼 클릭 한 번에 자사 비즈니스의 근간이 날아갈 수 있다는 서늘한 벤더 종속(Lock-in)의 진실을 목도한 것이다.
월스트리트는 이 사태를 예의주시하고 있다. 조만간 앤스로픽과 오픈AI(OpenAI)의 메가톤급 IPO가 예고된 상황에서 터진 뇌관이기 때문이다. 심지어 오픈AI의 든든한 쩐주이자 지난해 앤스로픽에도 수십억 달러를 베팅했던 마이크로소프트의 사티아 나델라 CEO조차 엑스(X)를 통해 쓴소리를 던졌다. 그는 “어느 누구도 세상의 모든 가치가 모든 것을 집어삼키는 소수의 모델에게 종속되는 세상을 원치 않는다”며, 지적재산권(IP) 통제권을 잃지 않는 독자적 시스템 구축의 필요성을 강력히 경고했다. 마침 스페이스X가 역대급 IPO를 치른 직후 일론 머스크가 AI 씬에서 목소리를 높이던 묘한 타이밍에 터진 이 일련의 사건들은 투자자들의 시선을 완전히 새로운 곳으로 돌려놓았다.
토큰포칼립스와 중국 AI의 역설적 부상
그 대안으로 급부상한 것이 바로 다운로드형 ‘오픈소스’ 모델이다. 기업 맞춤형 모델 학습을 돕는 어플라이드 컴퓨트(Applied Compute)의 야시 파텔 CEO의 말마따나, 최근 한 달 새 기업들의 마인드셋은 완전히 바뀌었다. 클로즈드 모델의 접속 차단 리스크를 겪은 개발자들은 이제 자체 인프라에 모델을 올려 입맛대로 뜯어고치고, 정치적 외풍에도 끄떡없는 멀티모달 환경을 구축하려 한다. 단일 벤더의 인질이 되는 것을 극도로 꺼리기 시작한 것이다.
아이러니하게도 이 틈새를 파고들어 최대 수혜를 입고 있는 건 다름 아닌 중국 AI 기업들이다. 앤스로픽 사태 이후 미니맥스(MiniMax)나 즈푸(Zhipu) 같은 중국 오픈소스 AI 연구소들의 가치는 폭등했다. 현재 딥시크(DeepSeek), 텐센트, 샤오미의 모델들은 쟁쟁한 클로즈드 모델들을 제치고 오픈라우터(OpenRouter) 사용량 랭킹을 도배하고 있다. 특히 즈푸는 워싱턴의 제재를 비웃기라도 하듯 “최첨단 AI가 소수 플레이어의 전유물이 되거나 그들의 변덕에 의해 하루아침에 회수되어선 안 된다”며 뼈있는 도발을 던지기도 했다.
여기에 천정부지로 치솟는 AI 이용료, 이른바 ‘토큰포칼립스(Token-pocalypse)’ 현상은 이 흐름에 기름을 부었다. 비싸고 무거운 최상위 모델은 정말 어려운 태스크에만 아껴 쓰고, 일상적이고 반복적인 작업은 가성비 좋은 오픈소스 모델에 맡기는 전략이 대세로 굳어졌다. 불과 몇 달 전만 해도 보안이나 편견을 이유로 “중국산 모델은 쳐다보지도 않겠다”던 기업들이, 이제는 “성능이 이 정도로 좋고 저렴하다면 어떻게든 자체 서버에 올려 써먹어 보겠다”며 태세를 전환하고 있다.
챗GPT가 대중에 공개된 지 고작 4년 남짓, AI 시장은 여전히 혼돈의 초기 단계에 머물러 있다. 수천억 달러의 밸류에이션을 자랑하는 소수의 폐쇄형 AI 거인들이 끝까지 왕좌를 지킬 수 있을까? 통제 불능의 딥페이크가 낳은 플랫폼의 도덕적 해이부터 예고 없는 셧다운 리스크가 촉발한 오픈소스 반란까지 겹친 작금의 상황을 보면, 최후에 웃는 승자는 우리가 예상했던 것과는 전혀 다른 얼굴을 하고 있을지도 모른다.