“Apple Harus Bertindak Saat 37 Negara Bagian AS Mengatasi Masalah Grok CSAM”

Jasmin2 minggu ago

2 2 minutes read

“Apple Harus Bertindak Saat 37 Negara Bagian AS Mengatasi Masalah Grok CSAM”

Saat 37 negara bagian AS merespons masalah Grok CSAM, Apple benar-benar perlu bertindak | Citra konseptual persembunyian anak

Setidaknya 37 jaksa agung negara bagian di AS mengambil tindakan sebagai tanggapan terhadap isu yang sedang berlangsung mengenai chatbot Grok yang menghasilkan materi pelecehan seksual terhadap anak (CSAM).

Hal ini menyusul pelarangan aplikasi tersebut di dua negara, dengan penyelidikan dibuka di Inggris dan UE. Meskipun demikian, Apple dan Google belum memenuhi permintaan untuk menghapus sementara Grok dan X dari toko aplikasi masing-masing.

Tantangan Grok CSAM

Banyak chatbot AI sekarang mampu menghasilkan gambar dari perintah teks, dan Grok xAI tidak terkecuali. Itu dapat menghasilkan gambar seperti itu langsung di dalam aplikasi, online, atau melalui platform X.

Hebatnya, Grok memiliki pagar pembatas yang sangat minim, sehingga sering digunakan untuk menghasilkan gambar-gambar telanjang yang secara efektif menampilkan individu sungguhan, termasuk anak-anak, tanpa persetujuan. Perkiraan menunjukkan sekitar 23.000 gambar CSAM dibuat hanya dalam 11 hari.

Akibatnya, aplikasi tersebut telah dilarang di dua negara, dan penyelidikan sedang berlangsung di Inggris dan UE.

Tanggapan dari 37 negara bagian AS

Komentar teratas oleh OrangeCloud

Disukai oleh 12 orang

Ini harus mudah. Semua pengembang aplikasi harus diperlakukan sama. Mereka melanggar kebijakan App Store, jadi mereka tidak boleh mengirimkan versi baru sampai masalah tersebut diperbaiki. Jika mereka gagal mengatasinya dalam waktu yang wajar, aplikasi tersebut harus ditarik dari toko (namun masih dapat diakses di perangkat pengguna). Setelah itu, hapus izin aplikasi hingga terselesaikan. Mengingat keseriusan masalah ini, jangka waktunya harus singkat. Jika mereka memperbaiki masalahnya, mereka dapat kembali ke toko. Secara politis, hal ini juga sederhana: “Kami harus menghapus X untuk sementara karena pelanggaran CSAM. Kami menyambut X kembali ke toko setelah masalah ini diperbaiki.”

Kabel melaporkan bahwa setidaknya 37 negara bagian dan teritori AS mendesak perusahaan tersebut untuk mengatasi masalah ini, menyusul surat terbuka yang ditandatangani oleh sebagian besar pejabat tersebut.

Setidaknya 37 jaksa agung negara bagian mengambil sikap menentang xAI setelah chatbotnya, Grok, digunakan untuk membuat banyak sekali gambar seksual pada awal tahun ini. Selain 35 orang yang menandatangani surat tersebut, Jaksa Agung California dan Florida juga telah mengambil tindakan.

Surat tersebut menguraikan enam tindakan utama yang harus diambil xAI:

Menerapkan langkah-langkah yang diperlukan untuk mencegah Grok memproduksi gambar-gambar intim tanpa persetujuan, termasuk gambar-gambar yang tidak menggambarkan ketelanjangan penuh atau tindakan seksual yang mencolok namun tetap menampilkan gambar yang menjurus ke individu, terutama anak-anak;
Hapus konten yang sudah ada yang telah dibuat;
Mendisiplinkan pengguna yang membuat materi tersebut;
Laporkan pencipta dan pengguna yang melakukan pelanggaran kepada pihak yang berwenang;
Memberi pengguna X kendali atas apakah Grok dapat mengedit konten mereka, termasuk kemampuan untuk dengan mudah memblokir akun @Grok agar tidak berinteraksi dengan postingan mereka atau mengedit gambar mereka;
Memastikan bahwa pengamanan yang diumumkan baru-baru ini secara efektif membatasi produksi NCII di seluruh platform X dan Grok, bukan hanya menempatkan mereka di balik penghalang berbayar.

Dibutuhkan Tindakan dari Apple dan Google

Bulan ini, tiga senator AS mendesak CEO Apple Tim Cook untuk menghapus sementara X dan Grok dari App Store karena “pembuatan konten yang mengganggu.” Namun, perusahaan belum mengambil tindakan.

Jelas bahwa xAI tidak akan mengambil tindakan signifikan sampai mereka terpaksa melakukannya. Titik tekanan yang paling efektif adalah bagi Apple dan Google untuk menghapus Grok dan X dari toko aplikasi masing-masing untuk sementara.

Toko Apple Resmi di Amazon
Pemegang dan aksesori AirTag
Casing Mac mini bergaya Mac Pro
Adaptor CarPlay nirkabel
NordVPN – VPN yang mengutamakan privasi tanpa log dan audit independen untuk memverifikasi
Casing iPhone resmi: iPhone 17 | iPhone 17 Pro dan Pro Max | iPhone Udara