Mantan staf Google dan Palantir bersama-sama meluncurkan startup Elevenlabs, yang bertujuan untuk membuat selebritas palsu audio berkualitas tinggi melalui alat kloning suara AI mereka. Namun peluncuran beta mereka segera menjadi bumerang dengan banyak yang menyalahgunakan suara selebritas, termasuk Emma Watson, melalui alat kloning suara AI.
Banyak penggemar dibuat marah oleh penggunaan alat AI yang tidak etis dan tidak bermoral setelah beberapa troll telah menyalahgunakan suara selebritas favorit mereka untuk menyampaikan komentar yang keterlaluan. Tetapi startup telah meyakinkan semua orang bahwa mereka akan mengubah modelnya untuk menghindari masalah lebih lanjut.
Baca juga: “Karena saya berusia 18 tahun, itu legal”: Emma Watson Dibiarkan Trauma oleh Paparazzi Setelah Mereka Mencoba untuk Mengklik Foto Ke Atas Roknya Dengan Berbaring di Trotoar Ketika Bintang Harry Potter Berusia 18 tahun
Emma Watson di Noah
Penggemar marah setelah pengguna 4Chan menyalahgunakan suara Emma Watson melalui alat AI
Pengantar alat kloning suara AI dari Elevenlabs telah membakar internet setelah banyak troll mengeksploitasi penggunaan alat gratis ini. Meskipun banyak yang telah menggunakan perangkat lunak untuk menghasilkan konten yang bermanfaat, sebagian internet telah menyalahgunakan alat tersebut untuk membuat selebritas memuntahkan cercaan rasial dan komentar yang keterlaluan, dan penyalahgunaan suara Emma Watson adalah yang terakhir.
Baru-baru ini. Motherboard melaporkan penyalahgunaan ekstrim dari perangkat lunak AI untuk membuat audio palsu yang dalam dan ofensif. Tapi sedotan yang mematahkan punggung unta adalah pengguna 4Chan, yang membuat klip bintang Harry Potter Emma Watson membaca Mein Kampf, otobiografi diktator Nazi Adolf Hitler.
Penggemar sangat marah dengan tindakan tidak etis ini. penggunaan perangkat lunak tentang Emma Watson dan selebritas terkenal lainnya termasuk Joe Rogan, Robin Williams, dll. Elevenlabs, yang membuat teknologi tersedia untuk umum, telah mengatasi masalah yang berkembang ini dan telah bersumpah untuk melawan penyalahgunaan alat kloning suara mereka.
Baca juga: Sutradara’Prisoner of Azkaban’Meminta Trio Harry Potter Untuk Menulis Esai tentang Karakter Mereka-Emma Watson Menulis 16 Halaman, Daniel Radcliffe Memiliki Ringkasan 1 Halaman, Rupert Grint Tidak Menulis Satu
Emma Watson sebagai Hermione Granger dari franchise Harry Potter
Elevenlabs bersumpah untuk menghindari penyalahgunaan lebih lanjut dari alat AI
Startup kewalahan oleh tanggapan positif terhadap mereka juga di awal, karena banyak yang menggunakan alat kloning suara AI untuk keseluruhan beberapa kreasi. Tetapi perusahaan segera menghadapi masalah setelah troll mulai mengeksploitasi perangkat lunak untuk tujuan jahat. Elevenlabs telah meyakinkan internet bahwa mereka menyelidiki masalah ini secara mendalam dan mencari solusi yang memungkinkan.
Meskipun pembuat Elevenlabs mengakui bahwa mereka dapat melacak kembali ke pengguna yang menyalahgunakan kekuatan alat AI , mereka mencari tindakan keamanan tambahan untuk menghindari masalah ini. Pencipta berbagi ide yang berbeda untuk mengatasi masalah ini, termasuk pengenalan verifikasi manual untuk setiap kloning dan verifikasi ID lengkap pengguna melalui pembayaran atau metode lainnya.
Baca juga: “Mereka harus membiarkannya memiliki pendapatnya”: Helena Bonham Carter Bukan Penggemar Emma Watson dan Daniel Radcliffe Memprotes J.K. Rowling untuk Melindungi Basis Penggemarnya
ElevenLab mengambil tindakan aktif untuk menghindari penyalahgunaan alat AI lebih lanjut
Meskipun pengujian beta Startup dimulai dengan campuran, banyak penggemar yang marah atas penggunaan suara selebritas yang tidak etis melalui alat AI, terutama Emma Watson. Tetapi orang-orang juga mengakui startup karena tidak mengabaikan situasi dan mengambil tindakan aktif untuk menangani troll internet ini.
Sumber: Wakil