Het eerste algoritme dat zelfstandig zaken kan aanleren, zou ontwikkeld zijn. De eer zou zijn weggelegd voor Meta.
Onderzoekers bij Meta zeggen een algoritme te hebben ontwikkeld dat zichzelf met meerdere informatiebronnen kan trainen. Zowel tekst, afbeeldingen als spraakfragmenten kan het algoritme gebruiken als leerstof. De weg zou hierdoor open komen te liggen voor meer geavanceerde AI, die meerdere verschillende taken kan uitvoeren.
Combinatie eerder niet mogelijk
Volgens de onderzoekers is het ontwikkelde algoritme uniek omdat het alles uit de omgeving kan gebruiken om zichzelf te trainen. Eerder was het niet mogelijk om voor één algoritme zowel tekst, geluid als afbeeldingen te gebruiken en moest een keuze worden gemaakt. Met het nieuw ontwikkelde algoritme, data2vec, is dat volgens de onderzoekers verleden tijd.
Bovendien was het voor data2vec altijd nodig om bergen gelabelde invoergegevens te voorzien. Dat kon dan gaan om gelabelde tekst- of geluidsfragmenten, waarmee het algoritme leerde om te focussen op bepaalde zaken. Na dat leerproces kon het algoritme woorden voorspellen voor tekstfragmenten of geluiden voorspellen voor geluidsfragmenten.
Data2vec
Bij data2vec hebben de onderzoekers van Meta een nieuwe methode ontwikkeld. In plaats van het AI-model te laten focussen op woorden, geluiden of afbeeldingen, laat het algoritme AI-modellen hun eigen representaties van de invoergegevens voorspellen. Mensen schatten eveneens hun omgeving in door verschillende prikkels te combineren. Een nachtscène in een film ervaren wij bijvoorbeeld pas als spannend als de muziek dat aan ons duidelijk maakt.
Mark Zuckerberg, oprichter van Meta, laat zich op Facebook enthousiast uit over data2vec: “Meta AI-onderzoek heeft een systeem gebouwd dat leert van spraak, zicht en tekst zonder dat er gelabelde trainingsgegevens nodig zijn.” Volgens hem kan het algoritme in de toekomst perfect worden ingebouwd in AR-brillen om de AI-assistent aan te sturen.
De code en verschillende reeds getrainde modellen delen Meta onderzoekers nu met andere onderzoekers uit het veld. Op die manier kan data2vec als vertrekpunt dienen en verder worden verfijnd door onderzoekers.
lees ook