loading...
Aplikasi AI Pembuat Video Pornografi. FOTO/ Viet
MENLO PARK - Appledikenal dengan proses peninjauan aplikasi yang ketat sebelum mengizinkannya muncul di App Store iPhone, yang membantu mencegah aplikasi yang melanggar kebijakan atau mengandung malware.
Namun, surat kabarThe Independentmenemukan sejumlah aplikasi di App Store yang menggunakan kecerdasan buatan untuk mengubah potret seseorang menjadi video pornografi, bahkan membuat video yang menggambarkan pemerkosaan atau pelecehan seksual dengan tingkat realisme yang sangat tinggi.
Surat kabarThe Independentmelaporkan bahwa aplikasi-aplikasi ini mencantumkan puluhan skenario bagi AI untuk membuat konten pornografi dari gambar yang disediakan oleh pengguna.
Aplikasi-aplikasi tersebut memungkinkan pengguna untuk membuat beberapa konten secara gratis sebelum kemudian dikenakan biaya.
Yang perlu diperhatikan, aplikasi-aplikasi ini tidak hanya muncul di App Store. Situs teknologiWiredjuga menemukan beberapa aplikasi yang membuat konten pornografi dan menayangkan iklan di platform media sosial Meta seperti Facebook dan Instagram. Ini berarti aplikasi-aplikasi ini juga telah melewati proses moderasi konten iklan Meta.
Apple telah menghapus aplikasi yang menghasilkan pornografi menggunakan AI setelah menerima laporan dariThe Independent, yang menyatakan bahwa aplikasi tersebut melanggar kebijakan perusahaan.
“Aplikasi yang ‘menampilkan ketelanjangan’ melanggar kebijakan perusahaan. Kami telah secara proaktif menolak dan menghapus banyak aplikasi ini, termasuk yang dilaporkan oleh pengguna,” kata perwakilan Apple.
Kebijakan App Store menyatakan bahwa aplikasi tidak boleh menyertakan “konten yang menyinggung, tidak sensitif, menyedihkan, atau sengaja menjijikkan atau sekadar menakutkan.” Namun, Apple belum menjelaskan mengapa konten pornografi yang dihasilkan AI lolos dari proses peninjauan perusahaan dan muncul di App Store.
