OpenAI optimaliseert AI-aangestuurde contentfilter

OpenAI logo

OpenAI heeft haar contentfilter vernieuwd en verbeterd. De tool scant naar mogelijk schadelijke content en is vanaf nu gratis voor elke gebruiker.

Ontwikkelingsplatform OpenAI introduceert met Moderation endpoint een vernieuwde en verbeterde versie van de vorige content filter. Met de tool moet het gemakkelijker worden om inhoud te scannen en flaggen. Alle OpenAI API-ontwikkelaars krijgen via de filter gratis toegang tot een AI-getrainde database.

Profiteren van infrastructurele investeringen

OpenAI wil met het vernieuwen en open stellen van Moderation endpoint ontwikkelaars helpen om hun applicaties te beschermen tegen mogelijk misbruik. Ze krijgen daarvoor toegang tot een AI-getrainde database die als extra bescherming dient bovenop de menselijke supervisie. OpenAI, dat eerder ook onder andere het GPT3-taalmodel beschikbaar stelde, schreef een paper over de vernieuwde toepassing.

lees ook

AI-beeldgenerator van DALL-E beschikbaar in bèta

Moderation endpoint laat ontwikkelaars profiteren van de infrastructurele investeringen die OpenAI voordien al deed. In plaats van hun eigen database op te bouwen, krijgen ontwikkelaars nu via een simpele API-call toegang tot constant bijgewerkte bestanden.

Hoe werkt het precies? Bij elke tekstinput schat Moderation endpoint in of het om content van seksuele, haatdragende, gewelddadige of zelfdestructieve aard gaat. De tool is getraind om snel en accuraat te reageren. Dit vermindert volgens OpenAI de kans dat er verkeerde dingen worden gezegd door applicaties.

Veiligere AI-ecosysteem

OpenAI stelt Moderation endpoint open voor alle OpenAI API-gegenereerde content om hun AI-ecosysteem veilig te houden. De nonprofit geeft graag een paar voorbeelden. Zo gebruikt Inworld de tool om hun op AI-gebaseerde virtuele karakters niet te bezoedelen door foute content. Het anonymous messaging platform NGL profiteert dan weer van de toepassing om haat-en pestberichten uit hun applicatie te filteren.

Voorlopig is Moderation endpoint enkel toepasbaar voor OpenAI API-gebruikers. Voor niet- API’s is de tool in bèta en die zal wel betalend zijn.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home