Platform pengembang AI Hugging Face telah bermitra dengan vendor cloud pihak ketiga, termasuk SambaNova, untuk meluncurkan Inference Providers, fitur yang dirancang untuk memudahkan pengembang di Hugging Face menjalankan model AI menggunakan infrastruktur pilihan mereka.
Mitra lain yang terlibat dalam upaya baru ini termasuk Fal, Replicate, dan Together AI.
Hugging Face mengatakan mitra-mitra nya telah bekerja dengannya untuk membangun akses ke pusat data masing-masing untuk menjalankan model ke dalam platform Hugging Face. Sekarang, pengembang di Hugging Face dapat, misalnya, memutar model DeepSeek di server SambaNova dari halaman proyek Hugging Face hanya dengan beberapa klik.
Hugging Face telah lama menawarkan solusi internal nya untuk menjalankan model AI. Tetapi dalam sebuah pos blog Selasa, perusahaan ini menjelaskan bahwa fokusnya telah beralih ke kemampuan kolaborasi, penyimpanan, dan distribusi model.
“Penyedia serverless telah berkembang pesat, dan saatnya tepat bagi Hugging Face untuk menawarkan akses yang mudah dan terpadu ke inferensi serverless melalui serangkaian penyedia hebat,” tulis perusahaan itu di postingan. “[I]t was natural to partner with the next generation of serverless inference providers for model-centric, serverless inference.”
Inferensi serverless memungkinkan pengembang untuk melakukan deploy dan memperbesar model AI tanpa mengkonfigurasi atau mengelola perangkat keras yang ada. Provider seperti SambaNova secara otomatis meluncurkan sumber daya komputasi yang diperlukan dan memperbesar atau mengecilkan sesuai dengan penggunaan.
Hugging Face mengatakan bahwa pengembang yang menggunakan penyedia cloud pihak ketiga melalui platformnya akan membayar tarif API penyedia standar, setidaknya untuk saat ini. (Hugging Face mungkin akan menetapkan perjanjian pembagian pendapatan dengan mitra penyedia di masa mendatang, katanya.) Semua pengguna Hugging Face mendapatkan kuota kredit kecil untuk digunakan pada inferensi, dan pelanggan Hugging Face Pro, tingkat premium Hugging Face, mendapatkan tambahan $2 kredit setiap bulan.
Didasarkan pada tahun 2016 sebagai startup chatbot, Hugging Face telah menjadi salah satu platform pengembangan dan hosting model AI terbesar secara global. Hingga saat ini, Hugging Face telah mengumpulkan hampir $400 juta dalam bentuk modal dari investor termasuk Salesforce, Google, Amazon, dan Nvidia. Perusahaan ini mengklaim telah profitable.
TechCrunch memiliki newsletter berfokus pada AI! Daftar di sini untuk mendapatkannya langsung di inbox Anda setiap Rabu.
