Root Signals heeft Root Judge aangekondigd. Dat is een model voor de evaluatie van grote taalmodellen (LLM’s). De training vond plaats op de Europese LUMI-supercomputer, waaraan ook België meewerkte.
Het Amerikaanse bedrijf Root Signals introduceert Root Judge. Dat is een LLM met een unieke functionaliteit. Het model moet de uitvoer van andere modellen beoordelen om daar fouten en hallucinaties uit te halen.
Root Judge is een aangepaste versie van Meta’s Llama-3.3-70B. De training werd uitgevoerd op 384 AMD Radeon Instinct MI250X GPU’s binnen de LUMI-supercomputer. Dat systeem staat in Finland en behoort tot de snelste supercomputers ter wereld. Ook België bouwde mee aan LUMI.
Beoordeling
Root Judge is ontworpen als een beoordelingsmodel voor LLM’s en helpt organisaties met het detecteren van hallucinerende antwoorden in AI-toepassingen. Het model kan ook gebruikt worden voor het vergelijken van verschillende modeluitvoeringen en ondersteunt implementaties waarbij privacy een belangrijke rol speelt.
Volgens Root Signals biedt Root Judge transparante en uitlegbare beoordelingen, waardoor bedrijven AI-modellen betrouwbaarder kunnen inzetten. Het model is toegankelijk onder een open licentie.
Het LLM valt verder op omdat het getraind is op een Europees systeem met AMD-hardware. Al te veel LLM’s zijn immers het product van training op Amerikaanse HPC-clusters, meestal voorzien van Nvidia-accelerators. Deze innovatie toont dat ook in Europa systemen staan die krachtig genoeg zijn voor AI-training, en dat er ook alternatieven bestaan voor Nvidia.