보수적이기로 유명한 초대형 로펌이 자체 AI 데이터센터를 짓는다는 소식을 처음 들었을 때, 솔직히 '그냥 돈 많은 곳이 서버 하나 사는 거 아닌가'라고 생각했습니다. 그런데 기사를 하나씩 뜯어보면서 생각이 완전히 바뀌었습니다. 이건 단순한 장비 구매가 아니라, 데이터 주권을 둘러싼 구조적 변화의 시작점이었습니다.
초대형 로펌이 AI를 직접 짓는 이유 — 팩트로 짚어보기
법률 업계가 AI를 꺼린다는 건 어느 정도 알려진 얘기였습니다. 그런데 이번에 미국 매출 기준 최상위권에 드는 초대형 로펌이 자체 AI 데이터센터 구축을 공식 발표하면서 분위기가 달라졌습니다. 언론이 이걸 단순 설비 투자가 아니라 '기업형 소버린 AI(Sovereign AI)의 첫 사례'로 규정한 건 이유가 있습니다.
소버린 AI란, 외부 클라우드나 빅테크 플랫폼에 의존하지 않고 국가 또는 기업이 자체적으로 AI 인프라를 구축·운영하는 방식을 말합니다. 쉽게 말해, 오픈AI나 앤트로픽 서버에 데이터를 올리는 게 아니라, 내 건물 안에서 내 서버로 직접 AI를 돌리는 구조입니다. 제가 처음 이 개념을 접했을 때는 '그게 굳이 필요한가'라는 의문이 들었는데, 로펌 사례를 보고 나서야 납득이 됐습니다.
로펌 입장에서 고객 소송 자료나 인수합병(M&A) 기밀 문서는 절대 외부로 유출될 수 없는 정보입니다. 그런데 오픈AI나 앤트로픽 같은 외부 AI 서비스에 이 데이터를 입력한다는 건, 사실상 제3자에게 기밀을 건네는 것과 다름없습니다. 여기에 더해, 제가 기사를 추가로 찾아보면서 흥미로웠던 부분은 '데이터' 자체만이 문제가 아니라는 점이었습니다. 회사가 어떤 방식으로 의사결정을 하는지, 어떤 프로세스로 팀이 움직이는지 — 이것 자체가 수십 년간 쌓아온 경쟁 우위인데, 그걸 외부 AI 플랫폼에 고스란히 노출하는 건 결국 회사의 핵심 자산을 통째로 내주는 셈입니다.
또 하나 현실적인 이유가 있습니다. 벤더 종속(Vendor Lock-in) 리스크입니다. 벤더 종속이란 특정 공급업체에 지나치게 의존한 나머지, 그 업체가 가격이나 정책을 바꿀 때 대응할 수단이 없어지는 상황을 말합니다. 외부 AI 서비스에 업무 핵심을 다 맡겨놨는데 어느 날 갑자기 구독료가 세 배로 오른다든지, 이용 약관이 바뀐다든지 하면 사실상 회사가 멈춰버립니다. 대형 로펌이나 금융권처럼 데이터 민감도가 높은 곳일수록 이 리스크를 더 크게 볼 수밖에 없습니다.
이번 구축 방식도 흥미로웠습니다. 엔비디아의 GPU를 직접 구매하고, 엔비디아가 공개한 오픈 웨이트(Open Weight) AI 모델 — 즉 모델 구조와 학습된 가중치를 공개해 누구나 내려받아 커스터마이징할 수 있는 형태의 AI — 을 자사 환경에 맞게 튜닝해서 운영하는 방식입니다. 오픈AI나 앤트로픽의 API를 쓸 필요 없이, 자사만의 전용 모델이 사내에서 돌아가는 구조가 되는 것입니다.
- 고객 기밀 및 M&A 문서를 외부 AI에 맡길 수 없는 보안 이슈
- 의사결정 프로세스 자체가 기업 핵심 경쟁력이라는 인식의 변화
- 외부 AI 업체 정책 변경에 따른 벤더 종속 리스크 회피
- 장기적으로 자체 서버가 규모의 경제 측면에서 유리하다는 판단
엔비디아의 젠슨 황은 실적 발표 때마다 "이제 AI 매출의 절반은 빅테크가 아닌 기업과 국가에서 나올 것"이라고 말해왔습니다(출처: NVIDIA Investor Relations). 저도 처음엔 '그냥 세일즈 멘트 아닌가' 싶었는데, 이번 로펌 사례가 나오고 나서야 그 말이 실제로 근거 있는 전망이었다는 걸 인정하게 됐습니다. 실제로 엔비디아 최근 실적에서 기업·국가향 매출 성장률이 처음으로 빅테크 향 성장률을 넘어섰습니다.
델·팔란티어 움직임과 제가 느낀 온도차
이번 흐름에서 가장 직접적인 수혜를 받은 곳이 델(Dell)이라는 건 주가가 말해줍니다. 올해 수익률이 350%에 달하며 신고가를 거듭 경신하고 있습니다. 델은 엔비디아 GPU와 메모리 반도체, 냉각 장치 등을 조합해 AI 서버를 납품하는 회사입니다. 사실 저도 델 하면 노트북이나 모니터 브랜드로만 떠올렸는데, AI 서버 시장에서는 이미 최상위권 공급업체입니다.
델이 실적 발표 때마다 강조한 문장이 있습니다. "기업 고객들이 클라우드를 넘어 자체 AI 서버를 구축하기 시작했다." 솔직히 이걸 처음 들었을 때 저는 '아 그런가 보다' 하고 넘겼습니다. 그런데 이번 로펌 사례처럼 구체적인 사례가 터져 나오기 시작하니, 그 말이 실제 수요 곡선을 반영한 얘기였다는 게 뒤늦게 와닿았습니다. 제 경험상 이런 '뒤늦게 납득되는 신호'가 나중에 가장 큰 흐름이 되는 경우가 많았습니다.
팔란티어(Palantir)와 엔비디아의 협업 발표도 이번 주에 나왔습니다. 팔란티어는 소버린 AI 운영 체제, 쉽게 풀면 기업이나 국가가 자체 AI 팩토리를 구축했을 때 그 위에서 실무를 돌리는 소프트웨어 관리 플랫폼을 개발하기로 했습니다. 엔비디아가 하드웨어(반도체·서버)를 담당하고, 팔란티어가 소프트웨어 운영 레이어를 맡는 구조입니다. 첫 번째 구축 사례가 다름 아닌 엔비디아 자사 공급망이라는 것도 흥미롭습니다. 세계에서 가장 복잡한 반도체 공급망을 직접 팔란티어 시스템으로 관리하면서, 이걸 다른 기업들에 쇼케이스로 제시하겠다는 전략입니다(출처: Palantir Newsroom).
여기서 제가 한 가지 냉정하게 보고 싶은 부분이 있습니다. 이 흐름을 가장 크게 말하는 곳이 엔비디아, 델, 팔란티어 모두 이 시장의 직접적인 이해당사자라는 점입니다. "소버린 AI 시대가 온다"는 전망이 그들에게 얼마나 유리한 서사인지를 감안하면, 그 전망을 100% 그대로 받아들이기보다는 다소 비판적으로 걸러볼 필요가 있다고 생각합니다. 실제로 자체 AI 데이터센터를 구축할 수 있는 곳은 초기 투자 비용과 운영 인력을 감당할 수 있는 초대형 기업에 한정될 가능성이 높습니다. 중소기업으로까지 이 흐름이 확산될지는 아직 불확실합니다.
또한 클라우드 기반 AI 서비스의 보안이 계속 개선되고 있어, 굳이 자체 구축까지 가지 않아도 충분한 시나리오 역시 배제할 수 없습니다. 제 경험상 어떤 투자 테마든 초기 사례가 화제가 될 때 가장 낙관적인 전망이 넘쳐나는데, 그 시점에 과열 신호를 같이 보는 게 결국 손실을 줄이는 방법이었습니다.
자주 묻는 질문
Q. 소버린 AI가 뭔가요? 클라우드 AI랑 뭐가 다른 건가요?
A. 소버린 AI란 외부 서비스에 의존하지 않고 자체 서버와 인프라로 AI를 직접 운영하는 방식입니다. 클라우드 AI는 오픈AI나 앤트로픽 같은 업체의 서버를 빌려 쓰는 반면, 소버린 AI는 내 건물에 내 서버를 두고 직접 모델을 돌리는 구조입니다. 데이터가 외부로 나가지 않는다는 점이 핵심 차이입니다.
Q. 로펌이 자체 AI를 구축하는 게 정말 현실적으로 가능한가요?
A. 초대형 로펌처럼 규모가 큰 곳은 충분히 가능합니다. 엔비디아 GPU를 직접 구매하고 오픈 웨이트 모델을 커스터마이징하는 방식이라면 외부 API 비용 없이 운영이 가능합니다. 다만 초기 투자 비용과 전담 운영 인력이 상당히 필요하기 때문에, 이 방식이 중소 규모 기업에까지 빠르게 확산될지는 여전히 지켜봐야 한다고 생각합니다.
Q. 델이 AI 서버 회사라고요? 컴퓨터 파는 회사 아닌가요?
A. 저도 처음엔 델을 PC 브랜드로만 알고 있었습니다. 그런데 델은 엔비디아 GPU와 각종 부품을 조합해 AI 서버를 납품하는 시장에서 이미 최상위권 공급업체입니다. 기업과 국가의 자체 AI 인프라 구축 수요가 늘어날수록 직접적인 수혜를 받는 구조라서, 올해 수익률이 350%에 달할 정도로 주목받고 있습니다.
Q. 팔란티어가 엔비디아랑 협업한다고 하던데, 팔란티어가 정확히 뭘 하는 회사인가요?
A. 팔란티어는 복잡한 데이터를 통합·분석해서 실무 의사결정에 활용할 수 있도록 돕는 소프트웨어 플랫폼 회사입니다. 이번 협업에서는 소버린 AI 운영 체제, 즉 기업이 자체 AI 팩토리를 구축했을 때 그 위에서 실무를 관리하는 소프트웨어 레이어를 담당합니다. 엔비디아가 하드웨어를 팔고, 팔란티어가 그 위에서 돌아가는 운영 플랫폼을 함께 세일즈하는 구조입니다.
결론
정리하면, 이번 초대형 로펌의 자체 AI 데이터센터 구축 발표는 젠슨 황이 계속 강조해온 '기업·국가 자체 AI 시대'가 실제 사례로 터져 나오기 시작했다는 신호로 읽힙니다. 제가 처음엔 추상적으로 느꼈던 소버린 AI 개념이, 데이터 보안과 벤더 종속 리스크라는 아주 현실적인 이유와 맞닿아 있다는 걸 이번에 확실히 납득했습니다.
다만 저는 이 테마를 장기적으로는 긍정적으로 보되, 단기 주가 급등 구간에서는 과열 여부를 함께 점검하는 방식으로 접근하고 있습니다. 이 흐름을 주도하는 기업들이 동시에 최대 수혜자라는 점을 늘 염두에 두면서, 실제 기업 도입 속도가 전망과 얼마나 일치하는지 실적 시즌마다 교차 확인해보는 것이 제가 지금 취하는 균형 잡힌 시각입니다.