Cegah Misinformasi, OpenAI akan Berikan Tanda untuk Gambar yang Dihasilkan oleh AI

JAKARTA - Di saat kemampuan teknologi kecerdasan buatan khususnya AI generatif makin meluas, banyak orang yang menggunakannya untuk penipuan, khususnya dari gambar yang dihasilkan oleh AI.

Alat pendeteksi gambar yang dihasilkan AI kini menjadi perhatian banyak raksasa teknologi dunia, seperti Meta, OpenAI, atau perusahaan lainnya.

Since the metadata can be removed, its absence doesn’t mean an image is not from ChatGPT or our API.

Broader adoption of methods for establishing provenance and encouraging users to look for these signals are steps towards increasing the trustworthiness of digital information.

— OpenAI (@OpenAI) February 6, 2024

Sekarang, OpenAI mengumumkan bahwa mereka menyertakan metadata dalam gambar yang dihasilkan dengan ChatGPT di web dan API DALL-E 3.

“Gambar yang dihasilkan di ChatGPT dan API kami sekarang menyertakan metadata menggunakan spesifikasi C2PA,” tulis perusahaan dalam pengumumannya di X.

Jadi fungsinya adalah, ketika salah satu gambar tersebut diunggah ke alat Content Credentials Verify, Anda akan dapat melacak dari mana gambar itu berasal.

Misalnya, jika gambar yang dihasilkan menggunakan ChatGPT, maka akan ditampilan informasi metadata awal yang menunjukkan asal API DALL-E 3, diikuti dengan manifes metadata kedua yang menunjukkan bahwa gambar tersebut muncul di ChatGPT.

Meskipun demikian, OpenAI sendiri mengakui bahwa alat ini bukanlah solusi jitu dalam menghadapi misinformasi.

Namun, mereka percaya bahwa langkah ini akan mendorong pengguna untuk secara mencari kebenaran informasi lebih lanjut tentang konten yang mereka temukan di internet.

Metadata ini hanya akan muncul dalam gambar yang dibuat dengan ChatGPT versi web, sedangkan versi selulernya akan menerima peningkatan yang sama pada tanggal 12 Februari mendatang.