OpenAI Luncurkan API ChatGPT, Versi Ekonomis dari Chatbot AI untuk Pengembang Aplikasi
JAKARTA - OpenAI meluncurkan Application Programming Interface (API) untuk ChatGPT, memudahkan pihak ketiga atau bisnis apa pun membangun teknologi ChatGPT ke dalam aplikasi, situs web, produk, dan layanan mereka.
API chatbot itu ditenagai GPT-3.5 turbo, model yang sama digunakan untuk produk web ChatGPT. Pengembang dapat dengan mudah berinteraksi dengannya melalui titik akhir sederhana dan menggunakannya untuk tugas apa pun yang dapat dilakukan oleh ChatGPT, dari dalam situs web atau aplikasi mereka.
Model ini berjalan pada infrastruktur komputasi Microsoft Azure yang terhubung ke titik akhir pengguna. Ini dapat membuatnya berjalan secara independen dari beban server di situs web ChatGPT, menawarkan bisnis jalur khusus untuk pemrosesan AI.
Namun, yang terpenting dari API ChatGPT adalah biayanya. Chatbot bertenaga AI biasanya membutuhkan pusat data untuk berjalan, memaksa penyedia menghabiskan banyak uang untuk perangkat keras dan listrik untuk melayani jutaan pengguna.
Tetapi melalui pengoptimalan perangkat lunak, OpenAI telah berhasil mengurangi biaya untuk menjalankan ChatGPT hingga 90 persen.
Secara khusus, OpenAI berencana menagih pengguna API 0,002 dolar AS (Rp30 ribuan) untuk setiap 1.000 token, atau 750 kata, yang dihasilkan oleh ChatGPT.
Biayanya 10 kali lebih murah daripada akses API perusahaan untuk model bahasa besar Daviinci GPT-3.5 sebelumnya, yang juga dapat mendukung layanan chatbot.
Dinyatakan OpenAI, versi API ini mungkin yang paling ekonomis bagi pengembang yang mengharapkan permintaan lebih dari 450 juta token per hari, dan dapat disetujui melalui kontak langsung dengan perusahaan.
Baca juga:
Lebih lanjut, data yang diproses melalui API tidak digunakan untuk pelatihan model atau peningkatan lain pada layanannya kecuali jika organisasi memilih untuk ikut serta.
OpenAI juga telah menangguhkan kebijakan peninjauan pra-peluncuran yang mengharuskan pengembang untuk menandai apa yang mereka gunakan pada model tersebut sebelum dapat diintegrasikan dalam aplikasi mereka.
“Data yang dikirimkan ke API OpenAI tidak digunakan untuk pelatihan, dan kami memiliki kebijakan retensi 30 hari yang baru dan terbuka untuk lebih sedikit berdasarkan kasus per kasus,” tweet CEO OpenAI Sam Altman, seperti dikutip dari ITPro, Jumat, 3 Maret.
"Kami juga telah menghapus ulasan pra-peluncuran kami dan membuat ketentuan layanan dan kebijakan penggunaan kami lebih ramah bagi pengembang," imbuhnya.
Model terbaru, gpt-3.5-turbo-0301, akan didukung hingga Juni dan rilis stabil baru dari gpt-3.5-turbo diharapkan pada April mendatang. Pengembang akan diberikan pilihan untuk mengadopsi model stabil atau model khusus sesuai dengan kebutuhannya.