Facebook dan Instagram Akan Beri Label Beresiko Tinggi pada Konten yang Diubah Secara Digital 'dengan AI'

 

REPORTASENTT.COM- Meta, pemilik Facebook dan Instagram, mengumumkan perubahan besar pada kebijakannya mengenai media yang dibuat dan diubah secara digital pada hari Jumat, sebelum pemilu bersiap untuk menguji kemampuannya dalam mengawasi konten menipu yang dihasilkan oleh teknologi kecerdasan buatan.

Raksasa media sosial ini akan mulai menerapkan label “Dibuat dengan AI” pada bulan Mei pada video, gambar, dan audio yang dihasilkan AI yang diposting di Facebook dan Instagram, memperluas kebijakan yang sebelumnya hanya menangani sebagian kecil video yang direkayasa, kata wakil presiden bidang konten. kebijakan, Monika Bickert, mengatakan dalam sebuah posting blog.

 

Bickert mengatakan Meta juga akan menerapkan label terpisah dan lebih menonjol pada media yang diubah secara digital yang menimbulkan “risiko yang sangat tinggi untuk menipu publik mengenai suatu hal yang penting”, terlepas dari apakah konten tersebut dibuat menggunakan AI atau alat lainnya. Meta akan segera mulai menerapkan label “berisiko tinggi” yang lebih menonjol, kata seorang juru bicara.

 

Baca Juga: Miliaran Catatan Penjelajahan Pribadi Akan Dihancurkan Google, Ada Apa?

Pendekatan ini akan mengubah perlakuan perusahaan terhadap konten yang dimanipulasi, beralih dari fokus pada penghapusan sejumlah postingan menjadi menjaga konten tetap up-to-date sambil memberikan informasi kepada pemirsa tentang cara pembuatannya.

 

Meta sebelumnya mengumumkan skema untuk mendeteksi gambar yang dibuat menggunakan alat AI generatif perusahaan lain dengan menggunakan penanda tak terlihat yang ada di dalam file, tetapi tidak memberikan tanggal mulai pada saat itu.

Seorang juru bicara perusahaan mengatakan pendekatan pelabelan akan berlaku untuk konten yang diposting di Facebook, Instagram, dan Threads. Layanan lainnya, termasuk WhatsApp dan headset realitas virtual Quest, dilindungi oleh aturan yang berbeda.

 

 

Perubahan ini terjadi beberapa bulan sebelum pemilihan presiden AS pada bulan November, yang diperingatkan oleh para peneliti teknologi dapat diubah oleh teknologi AI generatif. Kampanye politik telah mulai menerapkan alat AI di negara-negara seperti Indonesia, mendorong batasan pedoman yang dikeluarkan oleh penyedia seperti Meta dan pemimpin pasar AI generatif OpenAI.

 

Pada bulan Februari, dewan pengawas Meta menyebut peraturan perusahaan yang ada mengenai media yang dimanipulasi “tidak koheren” setelah meninjau video Joe Biden yang diposting di Facebook tahun lalu yang mengubah rekaman sebenarnya menjadi secara keliru memberi kesan bahwa presiden AS telah berperilaku tidak pantas.

 

Rekaman tersebut diizinkan untuk tetap ditayangkan, karena kebijakan “media yang dimanipulasi” yang ada di Meta melarang perubahan video yang menyesatkan hanya jika video tersebut diproduksi oleh kecerdasan buatan atau jika video tersebut membuat orang tampak mengucapkan kata-kata yang sebenarnya tidak pernah mereka ucapkan.

 

Baca Juga: Pengguna Instagram Akan Melihat Lebih Sedikit Konten yang Dianggap Meta Sebagai Konten Politis  

Dewan tersebut mengatakan bahwa kebijakan tersebut juga harus diterapkan pada konten non-AI, yang “belum tentu kurang menyesatkan” dibandingkan konten yang dihasilkan oleh AI, serta konten audio saja dan video yang menggambarkan orang melakukan hal-hal yang sebenarnya tidak pernah mereka katakan atau lakukan.