OpenAI, Broadcom Bekerja Mengembangkan Chip AI yang Berfokus pada Inferensi
OpenAI bekerja sama dengan Broadcom Inc. untuk mengembangkan chip kecerdasan buatan baru yang secara khusus berfokus pada menjalankan model AI setelah mereka dilatih, menurut dua orang yang mengetahui masalah tersebut.
Startup AI dan pembuat chip ini juga berkonsultasi dengan Taiwan Semiconductor Manufacturing Co., produsen kontrak chip terbesar di dunia, kata orang yang meminta untuk tidak disebutkan namanya karena diskusi tersebut bersifat pribadi. OpenAI telah merencanakan sebuah chip khusus dan mengerjakan penggunaan teknologi tersebut selama sekitar satu tahun, kata sumber tersebut, namun diskusinya masih pada tahap awal.
OpenAI menolak berkomentar. Perwakilan Broadcom dan TSMC tidak menanggapi. Reuters melaporkan pembicaraan OpenAI yang sedang berlangsung dengan Broadcom dan TSMC pada hari Selasa. Informasi melaporkan pada bulan Juni bahwa Broadcom telah membahas pembuatan chip AI untuk OpenAI.
Proses pengambilan chip mulai dari desain hingga produksi memakan waktu lama dan mahal. OpenAI kurang fokus pada unit pemrosesan grafis, chip yang digunakan untuk melatih dan membangun model AI generatif – pasar yang telah dipojokkan oleh Nvidia Corp. Sebaliknya, OpenAI mencari chip khusus yang akan menjalankan perangkat lunak dan merespons permintaan pengguna. sebuah proses yang disebut inferensi. Investor dan analis memperkirakan kebutuhan chip untuk mendukung inferensi akan meningkat seiring dengan semakin banyaknya perusahaan teknologi yang menggunakan model AI untuk melakukan tugas yang lebih kompleks.
OpenAI mungkin terus melakukan penelitian untuk membangun jaringan pabrik pengecoran atau pabrik chipnya sendiri, kata salah satu sumber, namun startup tersebut menyadari bahwa bekerja sama dengan mitra dalam pembuatan chip khusus adalah jalur yang lebih cepat dan dapat dicapai untuk saat ini. Reuters sebelumnya melaporkan bahwa OpenAI menarik diri dari upaya membangun kapasitas produksi chipnya sendiri.
Saham Broadcom ditutup naik 4,2% menjadi $179,24 di perdagangan New York pada hari Selasa. Bahkan sebelum kenaikan terbaru, mereka sudah naik 54% tahun ini. Saham TSMC yang diperdagangkan di AS ditutup lebih tinggi lebih dari 1%.
Broadcom adalah perancang terbesar sirkuit terpadu khusus aplikasi — chip yang dirancang untuk memenuhi satu tujuan yang ditentukan oleh pelanggan. Pelanggan terbesar perusahaan di bidang ini adalah Google milik Alphabet Inc. Broadcom juga bekerja sama dengan Meta Platforms Inc. dan pemilik TikTok, ByteDance Ltd.
Ketika ditanya bulan lalu apakah ia memiliki pelanggan baru untuk bisnisnya, mengingat besarnya permintaan untuk pelatihan AI, Chief Executive Officer Broadcom Hock Tan mengatakan bahwa ia hanya akan menambah daftar pendek pelanggannya ketika proyek mencapai volume pengiriman.
“Ini bukan produk yang mudah untuk diterapkan pada pelanggan mana pun, jadi kami tidak menganggap pembuktian konsep sebagai volume produksi,” katanya saat panggilan konferensi pendapatan.
Layanan OpenAI memerlukan daya komputasi dalam jumlah besar untuk dikembangkan dan dijalankan — yang sebagian besar berasal dari chip Nvidia. Untuk memenuhi permintaan tersebut, industri berusaha mencari alternatif selain Nvidia. Itu termasuk menggunakan prosesor dari Advanced Micro Devices Inc. dan mengembangkan versi in-house.
OpenAI juga secara aktif merencanakan investasi dan kemitraan di pusat data, yang pada akhirnya akan menjadi rumah bagi chip AI tersebut. Kepemimpinan startup ini telah menyampaikan kepada pemerintah AS mengenai perlunya pusat data yang lebih besar dan CEO Sam Altman telah mengajak investor global, termasuk beberapa di Timur Tengah, untuk membiayai upaya tersebut.
“Ini benar-benar sebuah tantangan,” Chief Financial Officer OpenAI Sarah Friar mengatakan kepada Bloomberg Television pada hari Senin. “Meregangkan dari segi permodalan tetapi juga pembelajaran saya sendiri. Sejujurnya kita semua belajar di bidang ini: Infrastruktur adalah takdir.”
Satu hal lagi! Kami sekarang ada di Saluran WhatsApp! Ikuti kami di sana agar Anda tidak ketinggalan update apa pun dari dunia teknologi. Untuk mengikuti saluran HT Tech di WhatsApp, klik Di Sini untuk bergabung sekarang!