OpenAI Bentuk Tim "Collective Alignment" untuk Proses Demokratis Pengaturan AI

JAKARTA - Laboratorium kecerdasan buatan OpenAI tengah membentuk tim baru, "Collective Alignment," yang bertujuan menciptakan proses demokratis untuk mengatur perangkat lunak kecerdasan buatannya guna mengatasi bias dan faktor lainnya. Hal  ini disampaikan oleh perusahaan yang didukung oleh Microsoft melalui sebuah pos blog pada Selasa, 16 Januari.

Tim "Collective Alignment" merupakan kelanjutan dari program hibah untuk mendanai eksperimen proses demokratis yang diumumkan pada Mei 2023, seperti diungkapkan oleh perusahaan yang berbasis di San Francisco tersebut. Program tersebut baru-baru ini diakhiri.

"Seiring dengan terus mengejar misi kami menuju model superintelejen yang potensial dapat dianggap sebagai bagian integral dari masyarakat kita... penting memberi orang kesempatan untuk memberikan masukan secara langsung," kata Tyna Eloundou, seorang insinyur riset dan anggota pendiri tim baru OpenAI, dikutip VOI dari Reuters.

"Untuk memastikan, misalnya, bahwa hanya manusia yang dapat memberikan suara, OpenAI bisa bermitra dengan Worldcoin, sebuah proyek mata uang kripto yang didirikan oleh CEO OpenAI, Sam Altman, yang menyediakan cara untuk membedakan antara manusia dan bot AI," kata Teddy Lee, seorang product manager yang merupakan anggota lain dari tim berdua tersebut.

Lee menekankan bahwa tim ini belum membuat rencana konkret untuk mengintegrasikan Worldcoin.

Sejak diluncurkan oleh OpenAI pada akhir 2022, teknologi kecerdasan buatan generatif ChatGPT, yang mampu menghasilkan tulisan yang sangat meyakinkan dari rangsangan teks, telah mencuri perhatian publik dan menjadi salah satu aplikasi yang paling cepat berkembang sepanjang masa.

Namun, ada kekhawatiran tentang kemampuan AI untuk menciptakan gambar "deepfake" dan informasi palsu lainnya, terutama seiring kampanye pemilihan AS 2024 yang semakin memanas. Para kritikus mengatakan bahwa sistem AI seperti ChatGPT memiliki bias inheren karena masukan yang digunakan untuk membentuk pandangan mereka, dan pengguna telah menemukan contoh keluaran AI yang rasialis atau seksis.

Tim baru OpenAI saat ini aktif mencari seorang insinyur riset dan seorang ilmuwan riset, ungkap Eloundou. Tim ini akan bekerja sama erat dengan tim "Human Data" OpenAI, yang membangun infrastruktur untuk mengumpulkan masukan manusia pada model AI perusahaan, dan tim riset lainny