Internet on relvastuses, kui 4Chani kasutaja kasutab tehisintellekti häälesimulaatorit Emma Watsoni hääle võltsimiseks, paneb ta lugema Hitleri autobiograafiat
Google'i ja Palantiri endised töötajad käivitasid koos idufirma Elevenlabs, mille eesmärk oli luua oma tehisintellekti häälkloonimise tööriista abil kuulsustest kvaliteetseid sügavaid võltsinguid. Kuid nende beetaversiooni käivitamine andis peagi tagasilöögi, kuna paljud kuritarvitasid kuulsuste, sealhulgas Emma Watsoni häält tehisintellekti hääle kloonimise tööriista kaudu.
Pärast seda, kui mõned trollid on kuritarvitanud oma lemmikkuulsuste hääli ennekuulmatute kommentaaride edastamiseks, on paljud fännid vihaseks saanud tehisintellekti tööriista ebaeetilisest ja ebamoraalsest kasutamisest. Kuid startup on kõigile kinnitanud, et kavatsevad oma mudelit edasiste probleemide vältimiseks muuta.
Fännid vihastasid pärast seda, kui 4Chani kasutaja kuritarvitas Emma Watsoni häält tehisintellekti tööriista kaudu
Elevenlabsi tehisintellekti hääle kloonimise tööriista kasutuselevõtt on pannud Interneti põlema pärast seda, kui paljud trollid on selle tasuta tööriista kasutamist ära kasutanud. Kuigi paljud on seda tarkvara kasutanud tervisliku sisu loomiseks, on osa Internetist seda tööriista kuritarvitanud, et panna kuulsused rassilisi solvanguid ja ennekuulmatuid kommentaare välja paiskama ning Emma Watsoni oma hääl oli viimane piisk karikasse.
Hiljuti. Emaplaat teatas AI tarkvara äärmisest kuritarvitamisest solvava sügava võltsheli loomiseks. Kuid õlekõrs, mis kaameli selja murdis, oli 4Chani kasutaja, kes lõi klipi Harry Potter staar Emma Watson loeb minu võitlus , natsidiktaatori Adolf Hitleri autobiograafia.
Fännid on Emma Watsoni ja teiste tuntud kuulsuste, sealhulgas Joe Rogani, Robin Williamsi jne tarkvara ebaeetiline kasutamine raevunud. Elevenlabs, kes tegi selle tehnoloogia avalikkusele kättesaadavaks, on selle kasvava probleemiga tegelenud ja on lubanud võidelda oma hääle kloonimise tööriista kuritarvitamist.
Loe ka: Filmi 'Azkabani vang' režissöör palus Harry Potteri triol kirjutada oma tegelaskujust essee – Emma Watson kirjutas 16 lehekülge, Daniel Radcliffe'il oli 1-leheküljeline kokkuvõte, Rupert Grint ei kirjutanud ühte
Elevenlabs lubab vältida tehisintellekti tööriista edasist kuritarvitamist
Startup oli alguses rabatud positiivsest vastusest ka neile, sest paljud kasutasid AI häälkloonimise tööriista tervisliku loomingu tegemiseks. Kuid ettevõte seisis peagi silmitsi probleemiga pärast seda, kui trollid hakkasid tarkvara pahatahtlikel eesmärkidel ära kasutama. Elevenlabs on internetile kinnitanud, et uurib asja põhjalikult ja nuputab võimalikke lahendusi.
Kuigi Elevenlabsi loojad tunnistasid, et suudavad tuvastada AI tööriista jõudu kuritarvitavaid kasutajaid, otsivad nad selle probleemi vältimiseks täiendavaid ohutusmeetmeid. Loojad jagasid erinevaid ideid asjaga tegelemiseks, mis hõlmab käsitsi kontrollimise kasutuselevõttu iga kloonimise korral ja kasutaja täielikku ID-kontrollimist makse või mõne muu meetodi abil.
Kuigi Startupi beetatestimine algas segaselt, paljud fännid olid raevukad kuulsuste häälte ebaeetilise kasutamise pärast tehisintellekti tööriista kaudu, eriti Emma Watson. Inimesed on aga tunnustanud startuppi ka selle eest, et ta ei ole olukorraga maha löönud ja võtnud aktiivseid meetmeid nende Interneti-trollide lahendamiseks.
Allikas: Vice
