AI 개발 플랫폼 허깅 페이스는 SambaNova를 포함한 타사 클라우드 공급 업체와 파트너십을 맺고, Hugging Face의 개발자들이 원하는 인프라를 사용하여 AI 모델을 실행할 수 있도록 설계된 기능 인퍼런스 프로바이더(Inference Providers)를 시작했습니다.
이번 노력에 참여한 다른 파트너들로는 Fal, Replicate, Together AI가 있습니다.
허깅 페이스는 파트너들이 Hugging Face 플랫폼에서 모델을 실행하기 위해 각각의 데이터 센터에 액세스하도록 작업했다고 말했습니다. 이제 Hugging Face의 개발자들은 예를 들어 Hugging Face 프로젝트 페이지에서 몇 번의 클릭만으로 SambaNova의 서버에서 DeepSeek 모델을 구동할 수 있습니다.
허깅 페이스는 오랫동안 AI 모델을 실행하기 위한 자체 솔루션을 제공해왔습니다. 그러나 화요일 블로그 게시물에서 회사는 협력, 저장 및 모델 배포 능력에 초점을 맞추고 있다고 설명했습니다.
회사는 게시물에서 '서버리스 제공 업체가 번창하고 있고, Hugging Face가 모델 중심의 서버리스 인퍼런스를 제공하기 위해 거대한 제공 업체와 협력하는 것이 자연스러웠다'고 쓰고 있다. '[나중에] 모델 중심의 서버리스 인퍼런스를 위해 다음 세대의 서버리스 인퍼런스 제공 업체와 파트너십을 맺는 것은 당연했다.'"
서버리스 인퍼런스를 사용하면 개발자들은 기존 하드웨어 구성 또는 관리 없이 AI 모델을 배포하고 확장할 수 있습니다. SambaNova와 같은 제공 업체는 필요한 컴퓨팅 리소스를 자동으로 시작하고 사용에 따라 확장 또는 축소합니다.
허깅 페이스는 플랫폼을 통해 타사 클라우드 제공 업체를 사용하는 개발자들은 현재 표준 제공 업체 API 요율을 지불해야 합니다. (허깅 페이스는 나중에 제공 업체 파트너와 수익 공유 협정을 맺을 수도 있다고 합니다.) 모든 Hugging Face 사용자는 인퍼런스를 위해 소량의 크레딧 할당을 받으며, Hugging Face의 프리미엄 티어인 Hugging Face Pro 가입자는 매월 추가 $2의 크레딧을 받습니다.
2016년 챗봇 스타트업으로 설립된 허깅 페이스는 글로벌에서 가장 큰 AI 모델 호스팅 및 개발 플랫폼 중 하나로 성장했습니다. 지금까지 허깅 페이스는 Salesforce, Google, Amazon, Nvidia를 포함한 투자자로부터 약 4억 달러를 조달했습니다. 회사는 수익성이 있다고 주장합니다.
TechCrunch는 AI에 중점을 둔 뉴스레터를 제공합니다! 매주 수요일에 받으려면 여기에 가입하십시오.
