OpenAI telah memiliki sistem untuk memberi watermark atau tanda air pada teks yang dibuat chatbot AI ChatGPT dan alat untuk mendeteksi watermark yang sudah siap selama sekitar satu tahun. Namun, fitur tersebut hingga saat ini belum diterapkan.

OpenAI disebut terbagi secara internal mengenai apakah akan merilis fitur tersebut atau tidak. Di satu sisi, fitur ini tampak seperti bentuk tanggung jawab yang harus dilakukan, tetapi di sisi lain, ini bisa merugikan keuntungannya.

Melansir The Verge, watermarking OpenAI digambarkan sebagai penyesuaian bagaimana model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, menciptakan pola yang dapat dideteksi.

ADVERTISEMENT

SCROLL TO CONTINUE WITH CONTENT

OpenAI sendiri menemukan bahwa watermarking tidak memengaruhi kualitas output teks chatbot-nya.

OpenAI mengonfirmasi bahwa mereka telah membuat teks watermarking dalam sebuah pembaruan posting blog. Di dalamnya, perusahaan tersebut mengatakan metodenya sangat akurat dengan akurasi 99 persen dan tahan terhadap "gangguan, seperti parafrase."

Di sisi lain, OpenAI khawatir penggunaan watermarking dapat mematikan pengguna ChatGPT. Pasalnya, dalam survei yang mereka danai ditemukan hampir 30 persen pengguna yang mengaku akan lebih jarang menggunakan ChatGPT jika watermarking diterapkan

Meski demikian, beberapa karyawan masih merasa bahwa watermarking efektif.

Melihat sentimen pengguna yang membuat resah, sejumlah karyawan ChatGPT menyarankan untuk mencoba metode yang tidak terlalu kontroversial.

Dalam pembaruan posting blognya pada Senin (5/8), OpenAI mengatakan mereka sedang "dalam tahap awal" mengeksplorasi penyematan metadata.

Mereka menambahkan bahwa masih "terlalu dini" untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, tidak akan ada false positif.