Die ehemaligen Mitarbeiter von Google und Palantir gründeten gemeinsam das Startup Elevenlabs, das darauf abzielte, mithilfe ihres KI-Tools zum Klonen von Stimmen hochqualitative Audio-Deep-Fakes von Prominenten zu erstellen. Aber ihr Beta-Start ging bald nach hinten los, da viele die Stimmen von Prominenten, einschließlich Emma Watson, durch das KI-Tool zum Klonen von Stimmen missbrauchten.
Viele Fans waren nach einiger Zeit wütend über die unethische und unmoralische Verwendung des KI-Tools Trolle haben ihre Lieblingsstimmen von Prominenten missbraucht, um unverschämte Kommentare abzugeben. Aber das Startup hat allen versichert, dass sie ihr Modell ändern werden, um weitere Probleme zu vermeiden.
Lesen Sie auch: „Weil ich 18 wurde, war es legal“: Emma Watson wurde von Paparazzi traumatisiert, nachdem sie es versucht hatten Fotos auf ihren Rock zu klicken, indem sie sich auf den Bürgersteig legte, als der Harry-Potter-Star 18 Jahre alt wurde
Emma Watson in Noah
Fans sind wütend, nachdem der 4Chan-Benutzer Emma Watsons Stimme über ein KI-Tool missbraucht hat
Die Einführung des AI Voice Cloning Tools von Elevenlabs hat das Internet in Brand gesetzt, nachdem zahlreiche Trolle die Nutzung dieses kostenlosen Tools ausgenutzt haben. Obwohl viele die Software verwendet haben, um gesunde Inhalte zu erstellen, hat ein Teil des Internets das Tool missbraucht, um Prominente dazu zu bringen, rassistische Beleidigungen und unverschämte Kommentare auszuspucken, und der Missbrauch von Emma Watsons Stimme war das Fass zum Überlaufen.
Vor kurzem. Motherboard berichtete über den extremen Missbrauch der KI-Software, um anstößige Deep-Fake-Audiodaten zu erstellen. Aber der Strohhalm, der das Fass zum Überlaufen brachte, war ein 4Chan-Nutzer, der einen Clip mit dem Harry-Potter-Star Emma Watson generierte, der Mein Kampf, die Autobiografie des Nazi-Diktators Adolf Hitler, las.
Fans waren wütend über diese Unethik Nutzung der Software über Emma Watson und andere berühmte Persönlichkeiten, darunter Joe Rogan, Robin Williams usw.
Lesen Sie auch: Der Regisseur von „Der Gefangene von Askaban“ bat das Harry-Potter-Trio, einen Essay über ihre Figur zu schreiben – Emma Watson schrieb 16 Seiten, Daniel Radcliffe hatte eine 1-seitige Zusammenfassung, Rupert Grint schrieb keine
Emma Watson als Hermine Granger aus der Harry-Potter-Franchise
Elevenlabs schwört, weiteren Missbrauch des KI-Tools zu vermeiden
Das Startup war von der positiven Resonanz zu Beginn auch überwältigt, da Viele verwendeten das KI-Voice-Cloning-Tool für Whole ome Schöpfung. Aber das Unternehmen stand bald vor einem Problem, nachdem Trolle begannen, die Software für schändliche Zwecke auszunutzen. Elevenlabs hat dem Internet versichert, dass sie sich intensiv mit der Angelegenheit befassen und mögliche Lösungen finden.
Obwohl die Schöpfer von Elevenlabs zugaben, dass sie zu den Benutzern zurückverfolgen können, die die Leistungsfähigkeit des KI-Tools missbrauchen , suchen sie nach zusätzlichen Sicherheitsmaßnahmen, um dieses Problem zu vermeiden. Die Ersteller teilten verschiedene Ideen mit, um mit der Angelegenheit umzugehen, was die Einführung einer manuellen Überprüfung für jedes Klonen und eine vollständige ID-Überprüfung des Benutzers durch Zahlung oder eine andere Methode beinhaltet.
Lesen Sie auch: „Sie sollten sie lassen ihre Meinung haben”: Helena Bonham Carter ist kein Fan von Emma Watson und Daniel Radcliffe, die gegen J.K. Rowling zum Schutz ihrer Fangemeinde
ElevenLabs ergreift aktive Maßnahmen, um einen weiteren Missbrauch des KI-Tools zu verhindern
Obwohl der Beta-Test des Startups einen gemischten Start hatte, waren viele Fans in Rage über die unethische Verwendung von Prominentenstimmen durch das KI-Tool, insbesondere Emma Watson. Aber die Leute haben das Startup auch dafür gewürdigt, dass es die Situation nicht wegwischt und aktive Maßnahmen ergriffen hat, um mit diesen Internet-Trollen fertig zu werden.
Quelle: Vice
