Meta’s Toolformer kan met API’s gekoppeld worden aan externe programma’s. Zo kan het taalmodel zonder menselijke tussenkomst zijn kennis bijschaven.
Na OpenAI en Google komt nu ook Meta op de proppen met een AI-taalmodel. Onderzoekers van de AI-divisie van het bedrijf doen in een paper Toolformer uit de doeken. Toolformer mag dan wel gebaseerd zijn op een model dat veel kleiner is dan GPT-3 dat de basis vormt voor ChatGPT, Meta heeft een slimme truc voorzien om de beperkingen van AI-taalmodellen te omzeilen.
Toolformer kan namelijk met API’s leren van externe programma’s waarmee het geconnecteerd wordt. Voorbeelden van externe programma’s die Meta geeft zijn zoekmachines, kalenders en rekenmachines. Aan de hand van zoekmachines kan het model bijvoorbeeld zijn actuele kennis uitbreiden, met een rekenmachine de wiskundige capaciteiten verbeteren en via integraties met kalenderapps kan je Toolformer afspraken laten noteren in je agenda.
Bing
De integratie van ChatGPT in Bing werkt volgens hetzelfde idee. De tool is getraind om op basis van je vragen op autonome basis relevante zoekopdrachten uit te voeren en indien nodig bijkomende info opvragen om de resultaten zo precies mogelijk te maken.
Het verschil is dat Toolformer niet getraind is om één specifieke taak goed uit te voeren. Je kan bij wijze van spreken willekeurige API’s aan het model hangen. Toolformer kan autonoom bepalen welke API nodig is om een bepaalde vraag te beantwoorden. Er is op deze manier ook maar een beperkte menselijke tussenkomst nodig om de capaciteiten van het model te verbeteren. Dit moet ervoor zorgen dat chatbots in de toekomst een veel bredere kennis hebben en dus veelzijdiger kunnen worden ingezet.