Facebook mengatakan bahwa mereka telah menghapus ratusan akun yang memiliki kaitan dengan Epoch Media Group. Perusahaan ini adalah induk dari publikasi yang berhubungan dengan Falun Gong dan outlet berita konservatif The Epoch Times. Akun-akun itu termasuk page, grup, dan feed Instagram yang dimaksudkan untuk dilihat di Amerika Serikat dan Vietnam. Mereka menyajikan kerutan baru bagi para peneliti. Ada banyak foto profil palsu yang dihasilkan dengan bantuan kecerdasan buatan (AI).
Gagasan bahwa kecerdasan buatan dapat digunakan untuk membuat kampanye informasi skala luas telah lama menjadi ketakutan para ilmuwan komputer. Dan mereka mengatakan khawatir melihat itu sudah digunakan dalam upaya terkoordinasi di Facebook. Sementara teknologi yang digunakan untuk membuat foto profil palsu kemungkinan besar jauh dari sistem AI canggih. Karena hal itu hanya bisa dibuat di laboratorium di perusahaan teknologi besar seperti Google.
Para ilmuwan telah menunjukkan bahwa mesin dapat menghasilkan gambar dan suara yang tidak dapat dibedakan dari hal yang nyata. Ini bisa digunakan untuk menyebar volume besar teks palsu, yang dapat mempercepat pembuatan informasi yang salah dan menyesatkan. Tahun ini, para peneliti di sebuah perusahaan Kanada bahkan membangun sebuah sistem yang belajar meniru suara podcaster Joe Rogan dengan menganalisis audio dari podcast lamanya. Itu adalah tiruan yang sangat akurat.
Facebook Menjadi Tempat Para utama Bagi Pembuat AI Ini
Orang-orang di belakang jaringan akun Facebook sejumlah 610, 89 Halaman, 156 Grup, dan 72 akun Instagram. Akun-akun itu memposting tentang berita dan masalah politik di Amerika Serikat. Ini termasuk pemakzulan Presiden Donald Trump, ideologi konservatif, kandidat politik, perdagangan dan agama.
“Ini adalah jaringan besar, kurang ajar yang memiliki beberapa lapisan akun palsu dan otomatisasi yang secara sistematis memposting konten dengan dua fokus ideologis. Yaitu dukungan untuk Donald Trump dan oposisi terhadap pemerintah China,” kata Brookie dalam sebuah wawancara.
Orang-orang di belakang jaringan menggunakan kecerdasan buatan untuk menghasilkan gambar profil. Mereka mengandalkan jenis kecerdasan buatan yang disebut jaringan permusuhan generatif. Jaringan ini dapat, melalui proses yang disebut pembelajaran mesin, belajar sendiri untuk membuat gambar wajah yang realistis, meskipun mereka bukan milik orang sungguhan.
Nathaniel Gleicher, kepala kebijakan keamanan Facebook, mengatakan dalam sebuah wawancara bahwa “menggunakan foto yang dihasilkan AI untuk profil” telah dibicarakan selama beberapa bulan. Tetapi ini adalah “pertama kalinya kami melihat penggunaan sistemik dari ini oleh aktor atau sekelompok aktor untuk membuat akun terlihat lebih otentik.“
Comments