De wereld is een betere plek dankzij open source-code, dus je reflex is misschien dat generatieve AI-modellen ook open moeten zijn. OpenAI is van dat idee afgestapt en Mikko Hyppönen, security-coryfee en generatiegenoot van Linus Torvalds, begrijpt waarom.
AI is de belangrijkste gast op ieder technologie-event sinds de explosie van de hype vorig jaar, en WithSecure Sphere in Helsinki is geen uitzondering. Het Finse beveiligingsbedrijf gebruikt zijn jaarlijkse conferentie om de geboorte van Luminen in de verf te zetten, maar ook de bredere evolutie en impact van AI op de wereld komt aan bod.
Hippe uil
Luminen, visueel gerepresenteerd door een hippe uil, is de generatieve AI-oplossing van WithSecure zelf. Net als andere GenAI-oplossingen is Luminen een Large Language Model, en net als andere professionele implementaties van generatieve AI gaat Luminen voorzichtig om met je bedrijfsdata. De AI-uil gebruikt je data enkel om je te helpen, niet om zichzelf te trainen.
WithSecure Luminen onderscheidt zich door de restrictieve implementatie ervan in het Elements Cloud-platform. WithSecure zet het LLM niet in als chatbot, maar als technologie die functionaliteit achter specifieke knoppen aandrijft. Als gebruiker klik je op een knop die meer context belooft, en krijg je die netjes gepresenteerd in mensentaal.
Veilig en gericht
“Achter de knop schuilt een prompt”, legt Leszek Tasiemski, verantwoordelijk voor Foundation Product Management bij WithSecure uit. “Prompt engineering is het nieuwe programmeren. Wij nemen de verantwoordelijkheid om de prompt te bouwen en te verbeteren, zodat de gebruiker zichzelf niet in de voet schiet.” WithSecure hoopt klanten zo met een druk op de knop de juiste info te bieden, zonder risico op hallucinaties van het LLM.
lees ook
GenAI, maar geen chatbot: WithSecure lanceert Luminen
Paulo Palumbo, VP en Hoofd van WithSecure Intelligence, ziet nog een ander voordeel: “Zomaar generatieve AI over een oplossing strooien, biedt geen soelaas”, merkt hij op. “Een chatbot die op een tool wordt geplakt, creëert eigenlijk vooral afleiding en verwarring. Andere vormen van AI zoals machine learning draaien al vele jaren achter de schermen. Generatieve AI voegt aan dergelijke capaciteiten toe.”
Een gesloten aanpak, met reden
WithSecure hanteert zo een erg gesloten aanpak voor zijn generatieve AI-tool. Niet alleen het LLM zelf is gesloten en enkel als een dienst beschikbaar, ook de prompts worden afgeschermd. Dat creëert eenvoud voor de klant, maar ook voordelen voor WithSecure zelf. Wanneer gebruikers niet vrij vragen kunnen stellen, is er immers geen echt risico dat Luminen zich onverwachts zal misdragen.
De gesloten aanpak staat een beetje haaks op de visie van Mikko Hyppönen. Hij is vandaag CRO bij WithSecure en ontpopte zich in zijn lange carrière tot een Finse security-rockster, paardenstaart incluis. Hyppönenis generatiegenoot van Linus Torvalds en staat principieel achter open source.
Open source: wereldverbeteraar, maar niet altijd
“Linux is open source, en het heeft de wereld beter gemaakt”, zegt hij. “Het open besturingssysteem is het meest gebruikte OS hier op aarde. En ook op Mars. Daar vind je niet veel Windows-computers.”
“In het geval van AI ervaar ik een tweestrijd in mezelf”, geeft Hyppönen aan. “Ik ben grote fan, maar als er limieten zijn aan open source, dan is het misschien wel bij AI.”
In het geval van krachtige LLM’s is open source problematisch en mogelijk gevaarlijk.
Mikko Hyppönen, CRO WithSecure
OpenAI had tot vier jaar geleden de intentie om zijn modellen open te delen met de mensheid, maar is op die ambitie teruggekomen. Het bedrijf achter ChatGPT stelde vast dat LLM’s te gevaarlijk zijn om open met de wereld te delen.
“Dat is waar”, aldus Hyppönen. “Alle beperkingen rond beveiliging, privacy of auteursrecht die je in een open model integreert, kan iemand anders er opnieuw uithalen.”
Te gevaarlijk
“Er is een reden dat modellen die misbruikt worden voor bijvoorbeeld deepfake-porno niet gebaseerd zijn op de GPT-LLM’s van OpenAI, maar op open source-alternatieven”, gaat hij verder. “OpenAI stelt zijn model enkel als een service beschikbaar via API’s. Niemand heeft toegang tot de code, dus niemand kan de ingebouwde beveiligingen en beperkingen verwijderen. Je kan ChatGPT niet downloaden, het is closed source.”
Voorlopig vreest Hyppönendat die aanpak toch de veiligste is. “Ik wens dat we overal open source kunnen hebben”, lamenteert hij. “Maar in het geval van krachtige LLM’s is open source problematisch en mogelijk gevaarlijk.”
De visie van Hyppönenzien we terug in de manier waarop WithSecure met GenAI omgaat. Alle experts op Sphere bevestigen de kracht van de technologie en het nut ervan. Generatieve AI is een belangrijke tool voor WithSecure zelf om het eigen beveiligings-aanbod behapbaar te maken voor IT’ers in de middelgrote ondernemingen waar het bedrijf op focust. Voorzichtigheid is echter troef.
“Daarom was het nooit onze ambitie om generatieve AI als eerste uit te rollen”, besluit Tasiemski. “We hebben onze tijd genomen om de technologie te implementeren, simpelweg omdat het alternatief te gevaarlijk was.”