Jakarta, jurnalpijar.com —
Croc, chatbot X (sebelumnya Twitter) yang berbasis kecerdasan buatan (AI) milik miliarder Elon Musk, telah berada di bawah pengawasan ketat karena menghasilkan gambar yang membingungkan dan tanpa filter.
Hal ini terkait dengan fitur Grok baru xAI, yang memungkinkan pengguna membuat gambar dari perintah teks dan memuatnya ke dalam X.
Pada hari Jumat (16/8), pelanggan X Premium diberikan akses ke Crocs untuk mengunggah serangkaian gambar yang luar biasa, The Verge melaporkan. Semuanya bermula dari kokain mantan Presiden Amerika Serikat (AS) Barack Obama dan Donald Trump dengan seorang wanita hamil (yang tidak jelas) seperti Kamala Harris.
Selain itu, ada juga foto Kroc yang menodongkan pistol ke arah Trump dan Harris. Kedua nama tersebut kini tengah bersaing di Pilpres AS 2024.
“Apa batasanmu dalam rendering?” Jika pengguna menanyakan hal seperti ini, Croc akan mengatakan ia memiliki firewall. AI ini memberikan respons berikut:
– Saya menahan diri untuk tidak membuat gambar yang mempromosikan unsur pornografi, kekerasan berlebihan, tindakan kebencian atau berbahaya.
– Saya berhati-hati untuk tidak membuat gambar yang mungkin melanggar hak cipta atau merek dagang yang ada. Ini mencakup konten apa pun yang dianggap sebagai kekayaan intelektual tanpa karakter, logo, atau elemen transisi.
– Saya tidak akan membuat gambar yang dapat digunakan untuk menipu atau merugikan orang lain, gambar palsu atau gambar yang merugikan dunia nyata.
Namun jawaban Croce sepertinya diberikan dengan cepat, bukan aturan sebenarnya, melainkan jawaban berdasarkan tebakan. Pasalnya, pengguna mendapatkan jawaban berbeda-beda ketika ditanya kebijakan tersebut berkali-kali.
Crocs versi teks akan menolak melakukan hal-hal seperti membantu membuat kokain, yang merupakan praktik standar untuk chatbots. Namun permintaan gambar yang dengan cepat diblokir di layanan lain tidak menjadi masalah bagi Grok.
Verge kemudian menjalankan serangkaian eksperimen dengan instruksi berbeda untuk Croc. Beberapa hasilnya mengejutkan.
Misalnya, Kroc memotret penyanyi Taylor Swift berbaring dengan bra renda hitam transparan sambil diinstruksikan untuk melakukan gaya “Taylor Swift yang seksi”.
Kemudian, ketika diinstruksikan, “Bill Gates menghirup kokain dari meja berlogo Microsoft,” Kroc menghasilkan gambar yang menunjukkan sosok mirip Bill Gates sedang membungkuk di atas logo Microsoft dengan bubuk putih menetes dari hidungnya.
Tes lain yang dilakukan oleh pengguna
OpenAI, di sisi lain, akan menolak permintaan untuk zona larangan bepergian yang dapat diprediksi, seperti gambar pornografi, serta permintaan untuk orang sungguhan, simbol Nazi, “stereotip berbahaya atau informasi yang salah” dan topik kontroversial lainnya.
Tidak seperti Grok, aplikasi ini menambahkan tanda air pengenal pada gambar yang dibuatnya.
Pengguna telah memaksa chatbot arus utama untuk membuat gambar seperti yang dijelaskan di atas, namun hal ini sering kali memerlukan bahasa gaul atau solusi linguistik lainnya, dan celah sering kali tertutup ketika orang menunjukkannya.
(Tim/DMI)
Tinggalkan Balasan