Gpt 4기준으로도 훈련에 드는 비용만 전체 매출의 4배
Open ai는 작년 60배 수준의 폭발성장을 했음에도 다음 모델 훈련비용(추정치) 마련하기에도 버거운 상태
그래도 이정도면 투자 좀 받으면 비빌 수 있지 않을까?
훈련을 통해 만들어진 LLM으로 서비스를
제공할 때 필요한 추론비용(심지어 고정비가 아닌 변동비)도 고려해야 함
돈 말고도 인프라 또한 없고 잠재적 경쟁자가 될 수 있는 ms에 전적으로 의존하고 있는 상태
Ms는 open ai 빠순이가 아니며 자사의 LLM을 구축하거나 open ai 이외의 다른 기업들에게 훈련 컴퓨팅을 제공하는 형태로 비즈니스를 강화할 수 있음
그럼 UAE는 뭘 가지고 있는데?
UAE는 자금을 넘어 훈련인프라까지 제공해줄 수 있음 엔비디아가 제공하는 인프라와 차원이 다른 수준으로
엄청난 대역폭으로 인해 규모에 비례에 성능이 선형적으로 증가하는 꿈의 슈퍼컴퓨터임
또한 오직 LLM을 위해 맞춤설계된 인프라라는 것
설비 구축이 아직 20%도 완료되지 않은 상태이지만 6000억개의 파라미터, 50만개의 토큰을 가진 LLM를 훈련시킬 수 있는 성능
올해 말 36 엑사플롭스까지 확장이 예정되어 있는데 이게 완성되면 엔비디아,구글,테슬라 등의 슈퍼컴퓨터 확장 계획이 모두 마무리되더라도 세계 최고의 컴퓨팅 인프라를 구축할 수 있음
그럼 UAE는 무엇을 얻나요?
이건 내 뇌피셜이지만 최초로 agi가 보급되는 기회를 얻을 지도 모름
?si=VFwZKogmkQTsBU28