Facebook’s artificiële intelligentie (AI) onderzoeksafdeling geeft de code vrij voor Pythia op GitHub. Het modulair plug-en-play-framework stelt data scientists in staat AI-modellen te bouwen, reproduceren en benchmarken.
Pythia is bovenop het PyTorch machine learning framework van Facebook gebouwd en hoofdzakelijk bedoeld voor beeld- en taaltaken. Zo helpt Pythia bij het beantwoorden van vragen met betrekking tot visuele gegevens en het automatisch genereren van beeldbijschriften. Volgens Venturebeat wordt de eerste open source-release van Pythia uitgebreid met toekomstige tools, taken, datasets en referentiemodellen.
LoRRA
Bovendien is het modulair plug-en-play-framework voorzien van elementen van LoRRA. Het vision– en language-model won zowel de VQA Challenge 2018 als de Vizwiz Challenge 2018 en wordt gezien als een van de belangrijkste inzendingen van Facebook AI Research in AI-wedstrijden. Daarnaast laat Pythia zien hoe eerdere geavanceerde AI-systemen bijdroegen aan benchmarkresultaten. Deze prestaties worden vervolgens weer vergeleken met die van nieuwe modellen.
Verder ondersteunt Pythia ook gedistribueerde training, een verscheidenheid aan datasets, aangepaste verliezen, statistieken, planning en optimizers. Bovendien zijn er ook modules aanwezig met implementaties voor vaak gebruikte visie- en taallagen. Ook gedistribueerde training wordt ondersteund, inclusief ingebouwde corpora als VQA, VizWiz, TextVQA en VisualDialog. Multitasking functies zorgen ervoor dat er samen op meerdere corpora getraind kan worden.
Ontwikkelen adaptieve AI
“Pythia maakt het proces van het betreden van het groeiende subveld van vision en language soepel en bevrijdt onderzoekers om zich te concentreren op snellere prototyping en experimenten. Ons doel is om de voortgang te versnellen door de reproduceerbaarheid van deze modellen en resultaten te vergroten”, aldus Facebook in een blogpost.
“Hierdoor wordt het voor de gemeenschap eenvoudiger om succesvolle systemen te gebruiken en te vergelijken met succesvolle systemen. We hopen dat het verwijderen van enkele van de obstakels onderzoekers in staat zal stellen sneller nieuwe manieren te ontwikkelen, Dit zodat mensen en intelligente machines kunnen communiceren. Dit werk zou ook onderzoekers moeten helpen adaptieve AI te ontwikkelen. Eén die meerdere soorten inzichten synthetiseert in een meer op context gebaseerd, multimodaal begrip.”
PyTorch 1.1
Enkele weken geleden onthulde Facebook tijden de Facebook’s F8 developer summit in San Francisco PyTorch 1.1. De nieuwe versie van het machine learning framework voegt ondersteuning voor Google’s TensorBoard en prestatieverbeteringen toe vanaf de just-in-time (JIT) -compile. Bovendien volgt het vrijgeven van Pythia op de eerdere open-sourcing van de beeldverwerkingsbibliotheek Spectrum afgelopen januari. Eind vorig jaar werden ook al het natuurlijke taalverwerkingsmodelraamwerk PyText en het AI-versterkingslerenplatform Horizon vrijgegeven.
Lees ook: Facebook maakt tool voor beheer grote hoeveelheden data opensource