Het taalmodel achter de vernieuwde zoekmachine Bing blijkt meer te zijn dan een verbeterde versie van GPT3. Prometheus integreert nieuwe en relevante informatie in het model en reduceert zo de foutenmarge.
Toen Microsoft op 7 februari de nieuwe, door AI-aangedreven zoekmachine Bing, aankondigde gaf het bedrijf bitter weinig details over het gebruikte taalmodel. Enkele dagen later dook de naam Prometheus voor het eerst op. Veel meer dan dat het een verbeterde versie was van het taalmodel GPT-3, waarop ook ChatGPT is gebouwd, wisten we niet. Nu geeft CVP Search & AI Jordi Ribas meer inzichten in wat Prometheus is en doet.
Game-changer
Ribas neemt in een blogpost op LinkedIn ruim de tijd om Prometheus te beschrijven. Hij schrijft onder meer dat het GPT-model van de nieuwste generatie een heuse game-changer is. “Vorige zomer schreef ik dat het implementeren van deep learning modellen een significante verbetering kon zijn voor de gebruikerservaring in zoekmachines”, aldus Ribas. “Ik ben enthousiast omdat ik vast stel dat we nu een enorme stap hebben gezet in die verbetering.”
“Vorige zomer deelde OpenAI hun nieuwste GPT-model met ons en dat was absoluut een game-changer. Het nieuwe model was veel krachtiger dan GPT-3.5 met meer mogelijkheden tot synthetiseren, samenvatten, chatten en ontwerpen. Dat nieuwe model heeft ons geïnspireerd om het te integreren in Bing zodat we volledigere en accuratere zoekresultaten konden voorzien, ongeacht de lengte en complexiteit van de zoekopdracht.”
Getraind op recente data
Het grote verschil met eerdere taalmodellen is dat Prometheus ook is getraind op nieuwe data. “Prometheus maakt gebruik van de kracht van Bing en GPT om iteratief een reeks interne query’s te genereren via een component (Bing Orchestrator). Daardoor krijgt de gebruiker een nauwkeurig en uitgebreid antwoord binnen de contextconversatie. Het resultaat van die onderlinge interactie, die plaatsvindt in milliseconden, is het uiteindelijke chatantwoord”, aldus Ribas.
De CVP van Microsoft gaat in zijn blog dieper in op de manier waarop het taalmodel is geïntegreerd in de zoekmachine. “Een deel van de onderzoekers wilde dezelfde gebruikerservaring krijgen als bij een klassieke zoektocht. Anderen zagen het als een kans om het zoekparadigma te veranderen en resultaten te beantwoorden op nieuwe interactieve, op chat gebaseerde manier van zoeken. Uiteindelijk is een model uit de bus gekomen dat soepel overgaat tussen beide opties. In de huidige manier kunnen de gebruikers schakelen tussen chat en zoeken, en terug.”
Feedback verzamelen
Volgens Jordi Ribas was een belangrijk doel van de nieuwe Bing-preview om feedback te verzamelen om deze basistechnieken op verantwoorde wijze toe te passen. “In de eerste twee weken hebben we meer geleerd van de echte gebruikers dan enkele maanden in het lab. De verandering om lange sessies in te perken, is een voorbeeld van de lessen die we trokken. Het is duidelijk dat de nieuwe Bing het nieuwste niveau van innovatie is. Ik geloof echt dat zoeken nooit meer hetzelfde zal zijn.”
lees ook