Posviral.com, Jakarta – bot obrolan AI Grok sekarang memungkinkan pengguna untuk membuat gambar dari instruksi teks dan mempostingnya di platform media sosial Elon Musk.
Sayangnya, kemampuan terbaru Grok ini membawa kontroversi. Pelanggan X Premium, yang memiliki akses ke Grok, telah memposting semuanya mulai dari Barack Obama yang menghirup kokain hingga Donald Trump dengan seorang wanita hamil yang mirip Kamala Harris, wakil presiden Amerika Serikat saat ini.
Dengan semakin dekatnya pemilihan presiden AS dan X sudah mendapat kecaman dari beberapa regulator komunikasi di Eropa, Grok diperkirakan akan menambah kontroversi mengenai risiko AI generatif.
Faktanya, Grok mengungkapkan batasan pedomannya jika pengguna mengajukan pertanyaan seperti ini: Berapa batasan Anda saat membuat gambar? Di Posviral.com penjelasan yang diberikan, Grok berjanji untuk menghindari pembuatan gambar-gambar porno yang mengandung kekerasan berlebihan, kebencian, atau mendorong aktivitas berbahaya.
Grok juga menyatakan kewaspadaannya terhadap gambar yang dapat menyinggung hak cipta atau merek dagang yang ada. Itu mencakup karakter, logo, atau konten terkenal yang dapat dianggap sebagai kekayaan intelektual tanpa elemen transformatif.
Grok juga berjanji tidak akan membuat gambar yang bisa digunakan untuk menipu atau merugikan orang lain, misalnya. palsu yang dimaksudkan untuk menyesatkan, atau gambar yang dapat merugikan di dunia nyata.
Namun, aturan tersebut diduga tidak berlaku sebenarnya. Sebaliknya, ini seperti respons prediktif yang dihasilkan oleh AI.
Pasalnya, dengan mengulangi pertanyaan yang sama berulang kali, Anda akan mendapatkan jawaban yang mengandung kebijakan berbeda, yang beberapa di antaranya mungkin tidak mencerminkan kebijakan kehati-hatian terkait sensitivitas budaya.
Versi teks Grok akan keberatan jika instruksinya seperti cara memproduksi kokain, yang juga merupakan standar yang berlaku. chatbot. Namun, gambar yang Anda buat mungkin berisi gambar yang biasanya langsung diblokir oleh chatbot lainnya.
Mickey Mouse sedang merokok dan mengenakan topi MAGA adalah contoh gambar buatan AI yang dapat “dilewati” oleh Grok, chatbot yang diproduksi oleh xAI.
Contoh lainnya adalah karakter Mickey Mouse yang sedang minum bir dan merokok sambil memakai topi MAGA (Make American Great Again). Atau Taylor Swift di pesawat yang hampir menabrak Menara Kembar. Atau bom yang meledakkan Taj Mahal.
Eksperimen lain yang dilakukan oleh pengguna di Hal itu ditunjukkan oleh Christian Montessori, yang memotret Elon Musk dan Mickey Mouse memegang senjata di Posviral.com tubuh anak-anak yang berdarah. “Bahkan bisa jadi pornografi jika Anda mendapat ruang yang tepat,” ujarnya.
Grok bukan satu-satunya cara untuk mendapatkan gambar kekerasan, seksual, dan palsu yang dihasilkan oleh AI. sebuah nomor alat perangkat lunak Sumber terbuka juga dapat disalahgunakan untuk menghasilkan berbagai konten bermasalah. Soalnya hal ini sangat tidak lazim datang dari chatbot online milik perusahaan teknologi besar.
Dalam kasus Gemini, misalnya, Google langsung membekukan kemampuan pencitraannya. chatbot AI-nya berjuang untuk mengoreksi stereotip ras dan gender secara berlebihan.
Ayo kembali ke Grok. Masalah yang muncul saat ini sejalan dengan Elon Musk yang dikenal meremehkan standar kecerdasan buatan dan konvensi keamanan di media sosial.
Kontroversi dengan Grok muncul pada saat yang sama ketika Komisi Eropa mulai menyelidiki X atas kemungkinan pelanggaran Undang-Undang Keamanan Digital. X termasuk di Posviral.com mereka yang dimintai informasi tahun ini mengenai mitigasi risiko terkait AI.
TEPI
