Jakarta, jurnalpijar.com –
OpenAI memiliki sistem watermarking berdasarkan AI chatbot ChatGPT dan alat pendeteksi watermark yang telah berfungsi selama sekitar satu tahun. Namun fitur ini belum diterapkan.
OpenAI dikatakan terpecah secara internal atas peluncuran fitur ini. Di satu sisi, fitur ini terkesan sebagai hal yang bertanggung jawab, namun di sisi lain dapat merugikan tujuan utama.
Menurut The Verge, watermarking OpenAI digambarkan sebagai penyesuaian terhadap cara model memprediksi kata dan frasa yang lebih mungkin mengikuti kata dan frasa sebelumnya, sehingga menciptakan pola yang dapat dideteksi.
Cara mengidentifikasi materi yang ditulis oleh AI merupakan keuntungan potensial bagi guru dalam upaya mencegah siswa menyerahkan tugas menulis mereka kepada AI.
OpenAI sendiri telah menetapkan bahwa watermark tidak mempengaruhi kualitas keluaran teks chatbot.
OpenAI mengonfirmasi bahwa postingan blog yang diperbarui berisi teks yang diberi watermark. Di dalamnya, perusahaan mengatakan metodenya sangat akurat, 99 persen akurat, dan tahan terhadap “intervensi seperti parafrase”.
Di sisi lain, OpenAI khawatir penggunaan watermark dapat mematikan pengguna ChatGPT. Hal ini karena penelitian yang mereka danai menemukan bahwa hampir 30 persen pengguna mengatakan mereka akan mengurangi penggunaan ChatGPT jika watermarking diterapkan.
Namun, beberapa pekerja masih percaya bahwa tanda air itu efektif.
Melihat sentimen pengguna yang memprihatinkan, sejumlah staf ChatGPT menyarankan untuk mencoba metode yang tidak terlalu kontroversial.
Dalam postingan blog terbarunya pada Senin (5/8), OpenAI mengatakan pihaknya sedang dalam “tahap awal” menyelidiki penyematan metadata.
Mereka menambahkan bahwa “terlalu dini” untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, tidak akan ada kesalahan positif. (lom/dmi)
Tinggalkan Balasan