Vall-e 2 kan met akelig realisme menselijke stemmen nabootsen. Zo goed dat de tool wellicht nooit het labo van Microsoft zal verlaten.
Microsoft Vall-e is een AI-generator voor stemmen. Een eerste versie werd in januari 2023 onthuld en kon op basis van een fragment van enkele seconden iemands stem kan nabootsen. Vall-e 2 is nog straffer en kan zelfs stemmen nabootsen waarop het niet specifiek getraind is. Na het horen van een kort fragment neemt Vall-e 2 ook variaties in uitspraak en intonatie over om kunstmatige spraak te produceren.
lees ook
Microsoft’s VALL-E heeft slechts drie seconden nodig om je stem na te bootsen
Iedereen die al eens met een AI-assistent in gesproken taal heeft proberen converseren, zal beamen dat dergelijke tools vaak zeer robotachtig klinken. Dat is bij Vall-e 2 lang niet meer het geval. Onderzoekers van Microsoft die het model trainden, beweren dat Vall-e 2 het eerste tekst-naar-spraak-model is dat ‘menselijke gelijkwaardigheid’ bereikt.
Risico op misbruik
Net daarom vinden de onderzoekers van Microsoft het wijselijk het model binnenskamers te houden. Hoewel de onderzoekers mogelijke toepassingen zien binnen onderwijs, entertainment, journalistiek en andere domeinen, zou het risico op misbruik te groot zijn. ‘Vall-e 2 is puur een onderzoeksproject’, staat zwart op wit geschreven.
Al bij de eerste versie van Vall-e vrezen doemdenkers voor wat zou kunnen gebeuren als een realistisch spraakmodel publiek beschikbaar zou komen. Met dergelijke technologie kan je mensen op een geloofwaardige manier dingen laten zeggen die ze nooit gezegd hebben, of aan de telefoon doen geloven dat je iemand anders bent. Een werknemer van een bedrijf in Hong Kong liet zich al eens in de luren leggen door een AI-kopie van zijn baas; een foute inschatting die miljoenen euro’s kostte.