--- title: "Full Stack AI 컨설팅 펌?" date: "2025.06.11" source: "naver" sourceUrl: "https://blog.naver.com/kilo_hotel_juliet/223895887871" sourcePath: "2025/0611-Full-Stack-AI-컨설팅-펌.md" --- # Full Stack AI 컨설팅 펌? :::embed {"provider":"youtube","providerId":"s-okz_-pUHo","thumbnail":"/thoughts/media/full-stack-ai-consulting/embed-01.jpg","title":"Full-stack AI Companies","url":"https://www.youtube.com/watch?v=s-okz_-pUHo"} 2025년 스크린타임 기준으로 내가 가장 많은 시간을 보낸 웹사이트는 무조건 ChatGPT와 Gemini일 것이다. 유튜브도 못 이긴다. 그만큼 나는 LLM에 절여져 사는 인간이고 궁극적으로는 극소수를 제외한 모든 인간이 이를 지향해야 한다고 본다. 왜냐하면 AI는 인간의 지능을 1)추월하여 2)대체할 것이기 때문이다. 이전에도 글을 쓰며 AI가 지능의 다양한 분과에서 인간을 앞질렀다고 이야기한 적이 있었던 것 같다. 이쯤에서 일부 정정하자면 창의력과 추론의 측면에서는 예외다. Gemini-5.0, GPT-8o-Super-Ultra가 출시되더라도 여전할 것이다. 이는 방대한 양의 데이터를 학습하여 앞의 컨텍스트로부터 다음에 올 단어의 확률 분포를 예측하는 방식인 Transformer 기반 LLM의 구조적 한계로부터 기인한다. 애초에 LLM은 Norm에 수렴하는 무언가를 만들어내는 데 특화되어 있어서 Black Swan을 원한다면 ChatGPT든, Gemini든, Claude든 (그것이 설령 추론 모델이라 할지라도) 도움이 되지 않는 것은 매한가지다. 이 관점에서 보자면 Cursor, Devin, Windsurf, Bolt, v0, Replit, Lovable... 수많은 유니콘 ~ 데카콘급 AI 기업들이 개발 도메인에서 창발했음은 결코 우연이 아닐 것이다. 이것은 개발자들이 AI를 잘 다루고 수용성이 높기 때문이기도 하지만 무엇보다 철저한 rule-base로서 일종의 norm이 존재하는 도메인이기에 현재 수준의 LLM이 만들어낼 수 있는 업사이드가 그만큼 컸기 때문이지 않았을까,라는 생각을 한다. 반대로 조니 아이브의 혁신적인 디자인, 돌고래유괴단의 독창적인 마케팅, 일론 머스크의 대범한 베팅 이런 것들은 Transformer 기반 LLM으로 따라 하려야 따라 할 수 없는 종류의 일들이다. 최근 창업 과정에서 ChatGPT와 Gemini에 아이템과 관련된 어시스턴트를 하나씩 만들어 놓았지만, 어디까지나 그들을 나보다 (미안한 얘기지만) 지식은 많으나 저능한 부하 직원 내지는 비서 정도로 취급한다. 정말 많은 지점에서 큰 도움을 받고 있지만 norm에서 벗어날 필요가 있는 경우 의도적으로 의사결정에 LLM의 역할을 배제하려 노력하고 있다. 반대로 생각하자면 (LLM이 학습할 수 있는) 과거의 데이터를 기반으로 norm에 수렴하는 것이 지상 목표인 과업이라면 지금 수준에서도 혁신을 일으킬 수 있다는 이야기가 된다. 그래서 최근 생각이 난 창업 아이디어가 Multi Agent 기반의 컨설팅 펌이다. 아직까지도 가장 핫한 개념은 특정 산업군에 포커스를 맞춘 Vertical Agent겠지만, 최근 YC의 RFS 영상과 함께 'Full Stack AI Company'가 buzzword 수준으로 주목받고 있는데, 이는 (특히 회계, 법무, 세무 등 전통적 업태에서) AI를 레버리지 삼아 아예 '펌'을 만드는 것을 의미한다. 이때 나는 컨설팅이야말로 AI에 의해 슘페터가 말했던 파괴적 혁신이 마땅히 진행되어야 하며 그러할 가능성이 높은 영역이라고 생각한다. 이유는 다음과 같다: 1. 세상에 창출하는 가치에 비해 컨설팅 펌은 너무 많은 돈을 가져간다. MBB만 합쳐도 연 매출이 50조 원쯤 되는데, 정말로 ARR $10B(약 14조 원)를 갓 달성한 ChatGPT 이상의 가치를 이들이 세상에 만들어내는가? 나는 전 세계 약 3만 명에 달하는 BCG 컨설턴트들이 만들어내는 가치가 전직 BCG 컨설턴트인 쿠팡의 김범석 의장 1인이 만들어내는 가치를 하회한다고 생각한다. 다시 말해 컨설팅이 과연 세상을 유의미하게 좋은 방향으로 이끄는 종류의 비즈니스냐 하면 잘 모르겠다. 이건 비단 컨설팅뿐만 아니라 헤지펀드와 같은 금융 도메인의 몇몇 비즈니스에도 적용되는 이야기인데, 물론 그게 잘못된 건 아니다. 2. 컨설턴트는 평균 지능지수가 가장 높은 직군 중 하나겠지만 (파트너 레벨까지 올라가지 않는 이상) 그들의 성공은 Norm에서 벗어남으로써 달성되는 종류의 것이 아니다. 오히려 그 반대다. 수십 년 간 선배 컨설턴트들이 정립한 리서치 방법, 논의 방법, 장표 제작 방법을 그대로 따르되 가장 정확하게 잘 수행하는 사람이 에이스가 된다. 이미 LLM의 딥 리서치가 RA의 리서치 퀄리티를 단위 시간당 아웃풋의 관점에서 아득히 상회한 시점에서 Multi Agent를 이용하여 논의의 정반합 구조까지 모방한다면 1)시간 2)비용 3)아웃풋의 퀄리티 모든 측면에서 레거시 펌을 압도하는 것은 어렵지 않으리라는 생각을 한다. 3. 컨설턴트는 어느 나라에서도 모종의 라이선스 하에 보호받지 못한다. AI 로펌, AI 세무법인, AI 회계법인보다 AI 컨설팅 펌이 더욱 feasible한 이유다. 4. 고객을 더 만족시킬 여지가 아주 많이 남아있다. 그러니까 대체재의 입장에서 보았을 때 상방이 열려 있다. 영국/미국의 대기업 임원들을 대상으로 실시한 2024년의 조사에 따르면 MBB를 고용한 클라이언트 사 임원/매니저의 단 13%만이 '프로젝트 진행에 있어 MBB가 도움이 됐다'는 응답을 했다고 한다. 84%는 '도움이 되지 않았다'라고 응답했고, 3%는 심지어 '부정적인 영향을 줬다'라고 응답했다. 물론 레거시 컨설팅 펌은 여전히 안심해도 되는데 Authenticity의 공고한 장벽이 남아있기 때문이다. 클라이언트사가 컨설팅 펌에 수 억, 수십 억을 아무렇지 않게 지불하는 이유는 의사결정과 전략 수립에의 도움보다는 책임 회피와 내부 정치 지형에서의 명분 확보에 놓여 있지 않던가? 제아무리 AI 모델의 성능이 좋아진들 'BCG 컨설턴트 수십 명이 4개월간 투입된 아웃풋입니다'를 'GPT-5 기반 Agent 10만 개를 돌려 API 비용으로만 수천만 원이 든 아웃풋입니다'가 넘어설 수는 없을 것이다. 이것을 깨는 것이 생각건대 유사 비즈니스가 지니는 가장 큰 숙제일 것이고, 기술적으로 깨는 미래가 잘 그려지지는 않는다. AI 모델이 근본적으로 변화함에 따라 Hallucination 문제가 기술적으로 드디어 해결되었다는 Hype이 생기고 컨센서스가 형성되는 바로 그 때 ex-MBB 파트너가 창업하여 좋은 레퍼런스를 쌓는다면 가능할지도... 그럼에도 불구하고 컨설팅 업의 지형도는 분명 변화할 것이다. 지금은 소위 'MBB'라 하여 Mckinsey, BCG, Bain이 업계를 주름잡으며 서로를 최대의 경쟁사로 간주하고 있는 상황으로 보인다. 그러나 내 생각에 2030년대 레거시 컨설팅 펌이 경쟁사로서 가장 주목해야 할 이름은 Palantir, Databricks, Snowflake, (그리고 어쩌면) Glean이다 - 이후의 논의에서는 그냥 이들을 제일 유명한 Palantir로 묶어서 퉁치겠다. 결국 '전략 컨설팅'이라는 업의 본질은 1)시장의 현황과 클라이언트의 과거 데이터를 분석하여 인사이트를 도출하고 2)현재/미래에 대한 의사결정을 내리는(돕는) 것인데, Palantir가 AIP를 출시하긴 했지만 아직까지 의사결정의 Funnel을 정복하지는 못했기에 2)를 인력을 갈아 넣어가며 잘 하고 있는 레거시 펌이 아직까지 우점적 플레이어로서 남아있을 수 있었다고 본다. 그런데 이 운동장은 기울어져 있다. 상기했듯 LLM의 힘을 빌리면 Palantir가 2)를 레거시 펌에 근접한 수준으로 수행하는 것은 (Authenticity 이슈를 차치하하면) 어렵지 않겠지만, 레거시 펌이 1)을 Palantir 수준으로 빠르고 싸게 잘 하려면 회사 구조가 아예 바뀌어야 한다. 개인 단위에서 비교하자면 AI로 무장한 Palantir의 FDE(Forward Deployed Engineer)를 산 넘고 물 건너 온 데이터로 엑셀 모델링하는 레거시 펌의 컨설턴트가 무슨 수로 이긴다는 말인가? 나는 수많은 산업군/회사/개념에 롱/숏 베팅을 마음속으로 걸곤 하는데(ex: 메타 롱, OpenAI 숏, K-푸드 롱, 바이브 코딩 롱, 국내 대기업 숏...) 이러한 연유로 전략 컨설팅 펌에 대한 요새의 생각은 무조건 숏이다. 블라인드나 에타에 올라오는 글들을 보거나, 주변 지인들과 이야기해 보거나, AI와 관련된 주요 펌의 움직임을 지켜보고 있자면 확실히 AI-savvy, Tech-savvy 한 느낌을 못 받긴 해서 더더욱. 그렇다 한들 앉아서 당하고만 있을 위인들은 아닐 것이다. 다만 최소한 리서치와 데이터 모델링에 주니어와 RA를 갈아 넣는 피라미드 Hierarchy는 조만간 무너질 게 확실해 보인다. 컨설팅 펌이 '경영 측면에서의 문제 및 의사결정 상황은 역사적으로 반복된다'라는 대전제 위에 존속하듯 '기술이 발전하면 경쟁 구도가 뒤틀리고 기성 플레이어는 새로운 경쟁자에게 위협을 받는다'라는 명제 또한 틀림없이 참이다. 컨설팅 펌은 인터넷 혁명과 모바일 혁명을 별다른 위협 없이 용케도 잘 피해 갔지만, 지능을 해자 삼았기에 인간의 지능을 대체하는 AI 파도에는 취약해져 새로운 경쟁 구도에 직면할 뿐이다. 역사를 돌아보면 기성 플레이어는 몸집이 크고 굼떠서 일반적으로 진다. 인터넷 파도 위에서 블록버스터는 넷플릭스에게 패배해 문을 닫았고, 모바일 파도 위에서 택시 회사들은 우버가 만든 게임의 규칙에 굴복해 어찌저찌 연명하고 있다. 그러나 애플워치의 등장에도 롤렉스는 여전했고, 에어비앤비의 등장 이후 메리어트의 매출이 오히려 증가했듯이 자신만의 특장점을 무기로 성공적인 공존을 꾀한 경우 또한 우리는 알고 있다. 그러니 컨설팅 펌도 1)완전히 망하거나(블록버스터) 2)치명적 타격을 입고 어찌저찌 공존하거나(택시 회사) 3)여전히 호황을 누릴 것이다(롤렉스, 메리어트). 2)로 귀결된 경우가 역사적으로 가장 많았고 그러해야 할 근거도 상술했듯 충분하기에 돈 걸라면 무조건 2)에 걸 것 같은데, 한 가지 유념해야 할 점은 기술 파도에 무참히 휩쓸렸던 이전의 조직들과 달리 컨설팅 펌은 세계 최고의 두뇌들이 모여있는 조직이라는 것이다. 나보다 훨씬 똑똑한 양반들이 이 파도를 어떻게 헤쳐 나가는지 즐겁게 지켜볼 차례다.