엔비디아의 H100, A100을 들어보셨나요?

H100은 1대에 4700만원이나 하며, 저 큰 돈을 지불해도 받기까지는 3개월(원래는 8개월)이나 기다려야 합니다. H100은 테슬라가 10,000대, 메타가 150,000만대, MS가 150,000대를 주문할 정도로, 수 천억원, 수 조원을 우습게 상회하는 엄청난 돈이 오가는 영역입니다.

스타트업 CoreWeave는 심지어 H100 GPU를 담보로 23억 달러(3.1조원)의 ​대출을 받을 수 있었을 정도로, H100은 자산으로서의 가치를 인정받고 있습니다. CoreWeave는 수요가 많은 AI 트레이닝용 GPU를 시간 당으로 빌려주는 BM을 구축하고 있습니다. 지금은 $16B 가치로 라운드를 돌고 있을 정도로 핫한 기업입니다.

2017년 이더리움 채굴을 목적으로 한 GPU 수요 확대에서 기회를 포착한 CoreWeave는 AI 시대의 개막과 함께 가격이 비싼 AWS나 Azure의 대안으로 떠오르며 폭발적인 성장을 지속하고 있습니다.

AI 스타트업들이 끼지 못하는 판이 형성 되고 있습니다.

그 동안 비즈니스 씬에서 가장 희귀한 무언가는 단연코
뛰어난 인재 였습니다.

대기업들이 정말로 모시고 싶어하는 뛰어난 인재들은 의외로 아무것도 보장되지 않은 스타트업들에 원대한 비전과 목표, 충분한 스톡옵션이라는 보상을 바라고 함께 역사를 만들기 위해서 고군분투 해 왔습니다.

그러나 AI라는 기술이 화두가 되는 현재는 그런 규칙이 그대로 먹히고 있지 않은 것 같습니다.

Why GPU?

ChatGPT 활용 사례로 알아보는, 무궁무진한 가능성과 생태계

Generative AI가 만드는 새로운 영역은 여러가지가 있는 것 같습니다. 그 중 chatGPT가 가장 큰 앞서서 새로운 지평을 열고있어, 현재 구축되고 있는 생태계와 사례들을 모아보았습니다.

낭만투자파트너스장투준(Long-term Zoon)

2022년 11월 ChatGPT이 가져다준 충격 이후 수 많은 스타트업, 예비창업자, 현업자들이 AI를 더 잘 다루기 위해서 온갖 시행착오 및 시도들을 하고 있습니다.

LLM이라는 거대언어모델을 비즈니스적으로 활용하기 위해서는 자체적인 최적화 필요한데요. 그 파인 튜닝을 하는 과정 그리고 튜닝을 한 이후에 실제 사용하는 과정에서 GPU의 사용이 필수적입니다. 단순히 LLM을 만들고 싶어하는 인프라 대기업들끼리의 전쟁이 아닌 이를 사용하려는 스타트업들도 그 경쟁의 틈바구니에 껴있게 됩니다.

비용의 구체적인 추정은 시기마다 시시각각 바뀌고 있지만, a16z에서 상세히 풀어준 계산을 따라가 보자면 GPT-3를 단일훈련하는 비용은 하드웨어에 따라 다르지만 7억원에서 60억원까지 예상된다고 하였습니다.

자체 구축 vs 클라우드 활용

당연히 OpenAI, Anthropic 등 다양한 인프라 기업들이 있기에 스타트업들이 이 인프라를 쓰면 되는 것 아닌가?라고 생각하기 쉽상이지만 결국 단순한 API사용에 그칠 수록 회사 본연의 해자를 쌓을 수는 없고, 누구나 벤치마킹 가능한 Wrapper service의 틀을 벗어날 수 없으니 GPU에 대한 고민을 계속해서 AI 스타트업 대표님들은 염두에 둘 수 밖에 없습니다.

인재, 돈 보다 귀한 GPU 이럴 때에도 스타트업은 투자만 받으면 될까요?

아니요. 현재 AI 시대의 왕은 엔비디아 인 것 같습니다.

결국 공급망 자체를 과점하고 있는 엔비디아가 도와주고 손을 내밀어주는 스타트업들이 하나하나 엄청난 각광을 받고 있습니다.

AI 기술을 개발하고, 제품을 제작할 실질적인 리소스 공급, 투자자들의 관심을 한눈에 받고, 풍족한 리소스가 있는 환경에서 일하고 싶어하는 임직원들까지 모든 면을 만족시켜주며 벤처투자사들보다 훨씬 좋은 가치를 제공해주고 있습니다.

OpenAI가 투자한 스타트업을 통해 살펴본 생성형 AI의 미래와 스타트업 확장 전략

OpenAI가 투자한 스타트업 분석을 통해 생성형 AI가 바꿔갈 미래를 엿보고, 그들의 세력 확장 전략을 알아보았습니다. 솔라나의 스테픈과 같은 대박 사례가 나올 GenAI 해커톤도 찾아보았습니다.

낭만투자파트너스장투준(Long-term Zoon)

OpenAI가 Generative AI 시장을 만들고 주도한 것은 사실이지만 1년전에 비해 비교해보자면 현재 생태계 형성으로써의 역할은 엔비디아에 비하지 못하는 것 같습니다.

어떤 VC들이 어떤 스타트업을 지원하는지가 아닌, 어떤 대기업들과 손을 잡는지가 훨씬 지켜볼만하고 사람들이 신경쓰는 경쟁 시장입니다.

엔비디아와 경쟁하려는 투자자가 할 수 있는 몸부림은?

유망한 AI 스타트업과 관계를 맺고 싶어하는 VC들이 알아서 그 해답을 들고와 여러가지 매력적인 제안들을 제시합니다.

GPU를 미리 구비해둔 VC

Index Ventures는 Oracle과의 협약으로 미리 데이터센터의 GPU 리소스를 할당받고 구매한 MOU를 발표하였습니다. 사실 모든 회사들은 오라클로 부터 GPU 리소스를 구매할 수는 있지만, 억세스를 위한 조율 과정과 장기적인 파트너십에 대한 믿음을 투자사라는 중간 위치를 활용하여 제공해줍니다.

Index Ventures의 AI 포트폴리오 회사 중 cohere가 오라클의 투자를 받고, 협업을 하고 있는 사실이 오히려 2023년 8월에 MOU에 더 큰 영향을 준 것 같습니다.

1,300억원 어치 인프라를 구축해놓은 AI Grant 인큐베이팅 프로그램

Nat Friedman(깃허브 CEO)과 Daniel Gross(유명 엔젤투자자)가 Figma, Stripe, Eleven Labs, Character.ai, deel, retool 등 유명한 스타트업을 투자한 것에 이어 AI에 집중하여 같이 $ 1~100M 사이즈로 투자하는데 그치지 않고 인큐베이팅 프로그램을 열면서 Andromeda Cluster를 만들었습니다.

위에 언급된 CoreWeave과 같은 사업으로 볼 수도 있지만 이들은 이를 파트너사들에게 제공해주기로 결정하였습니다.

$5,000~50,000 수준의 보조를 AI 프로젝트하는 기업들이나 연구자들에게 해주고 있고, 이를 활용하기 위해 수 많은 스타트업들이 신청을 하고 있습니다.

AI 인프라 기업들도 주는 리소스가 있는데 왜?

사실 OpenAI, MS, AWS 모든 인프라 기업들은 초기에 성장하려는 스타트업들이나 팀들을 고객으로 두는 것이 얼마나 중요하고 필요한지 알기에 다들 앞다퉈 보조금을 제공해 주고는 있습니다.

에릭 슈미트와의 파트너십으로 1.3억원에서 26억원까지, 그리고 학생들에게도 약 2억원의 크레딧을 제공해줍니다.

그런데 위에 이야기 한 것 처럼 이는 결국 인프라 기업의 종속을 줄이고 경쟁력 해자화 시키는 길이 아닌, 제품을 완성시키거나 테스트하는데 들어가는 초기 비용을 줄여주는 역할을 할 뿐입니다.

카카오벤처스와 한국 마이크로소프트가 하는 GenAI 창업톤도 Azure Credit으로 제공해줍니다.

AI 커뮤니티에 대한 실험들

결국 GPU, 인재, 자금 순으로 우선순위가 가지 않나 싶은데 결국 현재는 다음단계인 인재들에 대한 실험들도 많이 이뤄집니다.

AGI House

800억을 들여 구축된 AGI 하우스에서 다양한 도전을 하는 창업자, 엔지니어, 투자자들이 오가고 있습니다. 해커톤, 디너, fireside chat 들이 오갑니다. 구글의 창업자인 세리게이 브린도 3주전에 방문하고, 수 많은 사람들이 다양한 기회를 만들기 위해 모여듭니다.

Inception Studio

벤처스케일의 AI 아이디어를 발견하고 같이 해나갈 수 있는 커뮤니티의 중심이 되고 있습니다. 특히 연쇄창업가들을 중심으로 받아들이며 70%가 재창업자로 구성된 커뮤니티로 Founder 중심의 다양한 활동을 해보려 하고 있습니다.

한국의 AI 사랑방

웹이라는 엄청난 변화를 1990년대 후반에 겪어오신 분들을 중심으로 다양한 활동을 해보려고 하시는데 어떤 행보를 펼치실지 궁금합니다. 사실 Crypto라는 변화는 국내에서 논스라는 코리빙, 워킹 스페이스를 통해 응집되어 다양한 활동이 벌어졌었습니다.

현재는 엔비디아가 AI 시장을 주도하고 있지만, 과거에 구글이 웹 스타트업 시장, 애플이 모바일 스타트업 시장을 아예 과점하지 못하는 것 처럼 계속해서 생태계는 발전하고 다양한 시도들 중 주효한 것이 걸리면 또 거기서 새로운 기회들이 만들어집니다.

B2B SaaS 산업도, 클라우드라는 기술의 수혜로 생긴 산업이기에 AWS, Salesforce, Google 등 이번과 유사하게 별들의 전쟁을 벌였으나 결국 그 생태계의 헤게모니를 만들고 이끌고가는 주체들은 VC들 이었습니다.

이렇듯 새로운 기술과 시류 앞에서는 새로운 플레이들이 활발하게 이뤄지는 것 같습니다. 어떤 활동이 가장 공감이 가셨을 지 궁금하네요. 과거의 흐름을 살펴보면 결국 누군가는 엄청난 해자를 만들어 스타트업 대표님들에게 굉장한 도움을 주는 투자사로 포지셔닝하는데 어떻게 될지 지켜볼만 한 것 같습니다.