De tidligere Google-og Palantir-ansatte lanserte sammen oppstarten Elevenlabs, som hadde som mål å lage høykvalitets lyddyp forfalskninger av kjendiser gjennom deres AI-stemmekloningsverktøy. Men deres beta-lansering slo snart tilbake med mange som misbrukte stemmene til kjendiser, inkludert Emma Watson, gjennom AI-stemmekloningsverktøyet.
Mange fans har blitt rasende over den uetiske og umoralske bruken av AI-verktøyet etter noen troll har misbrukt sine favorittkjendisstemmer for å sende opprørende kommentarer. Men oppstarten har forsikret alle om at de kommer til å endre modellen for å unngå flere problemer.
Les også:”Fordi jeg ble 18, var det lovlig”: Emma Watson ble etterlatt traumatisert av paparazzi etter at de prøvde å klikke bilder opp i skjørtet ved å legge seg på fortauet da Harry Potter-stjernen fylte 18
Emma Watson i Noah
Fans raste etter at 4Chan-bruker misbrukte Emma Watsons stemme gjennom AI-verktøyet
Introduksjonen av AI-stemmekloningsverktøyet fra Elevenlabs har satt internett i brann etter at mange troll har utnyttet bruken av dette gratisverktøyet. Selv om mange har brukt programvaren til å generere sunt innhold, har en del av internett misbrukt verktøyet for å få kjendiser til å spy ut rasebeskjeftigelser og opprørende kommentarer, og misbruk av Emma Watsons stemme var dråpen.
Nylig. Hovedkortet rapporterte ekstremt misbruk av AI-programvaren for å lage støtende dyp falsk lyd. Men strået som brakk kamelens rygg var en 4Chan-bruker, som laget et klipp av Harry Potter-stjernen Emma Watson som leste Mein Kampf, selvbiografien til nazistenes diktator Adolf Hitler.
Fansen har blitt rasende over denne uetiske bruk av programvaren om Emma Watson og andre kjente kjendiser, inkludert Joe Rogan, Robin Williams, etc. Elevenlabs, som gjorde teknologien tilgjengelig for publikum, har tatt opp dette økende problemet og har lovet å kjempe mot misbruk av deres stemmekloningsverktøy.
Les også: Regissøren av’Prisoner of Azkaban’ba Harry Potter Trio om å skrive et essay om karakteren deres – Emma Watson skrev 16 sider, Daniel Radcliffe hadde en sammendrag på 1 side, Rupert Grint skrev ikke en
Emma Watson som Hermione Granger fra Harry Potter-serien
Elevenlabs lover å unngå ytterligere misbruk av AI-verktøyet
Oppstarten ble overveldet av den positive responsen til deres også i begynnelsen, da mange brukte AI-stemmekloningsverktøyet for helheter om skapelse. Men selskapet sto snart overfor et problem etter at troll begynte å utnytte programvaren til ondsinnede formål. Elevenlabs har forsikret internett om at de ser grundig på saken og finner ut mulige løsninger.
Selv om skaperne av Elevenlabs innrømmet at de kan spore tilbake til brukerne som misbruker kraften til AI-verktøyet , de ser etter ytterligere sikkerhetstiltak for å unngå dette problemet. Skaperne delte forskjellige ideer for å håndtere saken, som inkluderer en introduksjon av manuell verifisering for hver kloning og full ID-verifisering av brukeren gjennom betaling eller en annen metode.
Les også: «De burde la henne ha sine meninger»: Helena Bonham Carter er ikke fan av Emma Watson og Daniel Radcliffe som protesterer mot J.K. Rowling for å beskytte sin fanbase
ElevenLabs iverksetter aktive tiltak for å unngå ytterligere misbruk av AI-verktøyet
Selv om beta-testingen av Startup startet med en blandet start, med mange fans i raseri for uetisk bruk av kjendisstemmer gjennom AI-verktøyet, spesielt Emma Watson. Men folk har også erkjent oppstarten for ikke å børste av situasjonen og ta aktive tiltak for å håndtere disse internett-trollene.
Kilde: Vice