[ad_1]
Dirilis hari ini, dua model inferensi AI terbuka baru Openai membawa pengembangan AI mutakhir langsung di tangan pengembang, penggemar, bisnis, startup dan pemerintah, di semua industri, pada skala apa pun, dan di lokasi mana pun.
Kolaborasi dengan Nvidia dan OpenAi pada model terbuka ini – GPT-OSS-120B Dan GPT-OSS-20B – Sebuah bukti kekuatan inovasi yang digerakkan oleh masyarakat, menyoroti peran mendasar Nvidia dalam membuat AI dapat diakses di seluruh dunia.
Siapa pun dapat menggunakan model untuk mengembangkan aplikasi inovatif Menghasilkan, kesimpulan Dan AI fisikperawatan kesehatan dan manufaktur – atau bahkan membuka kunci industri baru sebagai revolusi industri berikutnya yang didorong oleh AI.
Model bahasa besar yang baru, fleksibel, dan terbuka dengan teks (Llms) dilatih NVIDIA H100 GPU Dan Lakukan inferensi secara optimal Menjalankan ratusan juta GPU Nvidia Cuda Platform di seluruh dunia.
Model ini sekarang tersedia sebagai berikut: NVIDIA NIM MicroserviceMemberikan penempatan yang mudah di GPU apa pun– Infrastruktur yang dipercepat dengan fleksibilitas, privasi data, dan keamanan tingkat perusahaan.
Karena optimalisasi perangkat lunak Nvidia Blackwell Platform, Model memberikan inferensi yang optimal NVIDIA GB200 NVL72 Sistem, sistem yang mencapai 1,5 juta token per detik – mempromosikan efisiensi skala besar untuk inferensi.
“Kami berharap dapat melihat Anda di masa depan,” kata Jensen Huang, pendiri dan CEO Nvidia. “Model GPT-OSS memungkinkan pengembang untuk membangun fondasi open source mutakhir di mana-mana, memperkuat kepemimpinan teknologi AS AI, semua infrastruktur komputasi AI terbesar di dunia.”
Nvidia Blackwell menawarkan penalaran lanjutan
Sebagai model inferensi canggih seperti GPT-OSS menghasilkan token secara eksponensial lebih banyak, permintaan untuk infrastruktur komputasi meningkat secara dramatis. Untuk memenuhi permintaan ini, Anda akan memerlukan pabrik AI khusus yang dilengkapi dengan Nvidia Blackwell. Ini adalah arsitektur yang dirancang untuk memberikan skala, efisiensi, dan pengembalian investasi yang diperlukan untuk melakukan inferensi di level tertinggi.
Nvidia Blackwell mencakup inovasi seperti: NVFP4 Akurasi 4-bit. Hal ini memungkinkan inferensi yang sangat efisien dan akurat, secara signifikan mengurangi kebutuhan daya dan memori. Ini memungkinkan Anda untuk menggunakan 1 triliun parameter LLM secara real time, membuka miliaran dolar di organisasi Anda.
Terbuka pengembangan jutaan pembangun AI di seluruh dunia
Nvidia Cuda adalah infrastruktur komputasi yang paling banyak tersedia di dunia, memungkinkan pengguna untuk menggunakan dan menjalankan model AI di mana saja dari yang kuat NVIDIA DGX Cloud Platform nvidia geforce rtx– Dan NVIDIA RTX Pro– PC Power Supply dan Workstation.
Sejauh ini ada lebih dari 450 juta unduhan NVIDIA CUDA, dan mulai hari ini, komunitas besar pengembang CUDA telah memperoleh akses ke model terbaru ini dan dioptimalkan untuk berjalan di tumpukan teknologi NVIDIA yang sudah mereka gunakan.
OpenAI dan NVIDIA menunjukkan komitmen mereka untuk membuka perangkat lunak sumber dan bekerja dengan penyedia kerangka kerja terbuka teratas untuk memberikan optimisasi model untuk FlashInfer, Hugging Face, Llama.cpp, Ollama dan VLLM. NVIDIA TENSOR-RT LLM Oleh karena itu, pengembang dapat membangunnya dengan kerangka pilihan mereka.
Berdasarkan sejarah kolaborasi, open source
Rilis model hari ini menyoroti bagaimana pendekatan full-stack NVIDIA mengarah ke basis pengguna seluas mungkin dari proyek AI paling ambisius di dunia.
Ini adalah kisah yang kembali ke hari-hari awal kolaborasi Nvidia dengan Openai, yang dimulai pada 2016, ketika Huang mengambil superkomputer Nvidia DGX-1 AI pertamanya di markas Openai di San Francisco.
Sejak itu, perusahaan telah bekerja bersama untuk mendorong batas-batas apa yang dapat dilakukan AI, memberikan teknologi inti dan keahlian yang diperlukan untuk melakukan pelatihan skala besar.
Selain itu, dengan mengoptimalkan model GPT-OSS OpenAI untuk NVIDIA Blackwell dan RTX GPU, bersama dengan tumpukan perangkat lunak NVIDIA yang luas, NVIDIA menggunakan 900+ kit pengembangan perangkat lunak NVIDIA dan model AI untuk memungkinkan pengembang AI yang lebih cepat, lebih hemat biaya di 250 negara.
Baca dan Baca untuk lebih detailnya Blog Teknis Nvidia Dan Pekerjaan terbaru dalam seri blog NVIDIA RTX AI Garage. Mulailah membangun dengan Model GPT-OSS.