Samsung claimt dat het samen met Naver een AI-chip heeft gebouwd die acht keer efficiënter is dan de Nvidia H100. Veel details over de chips zijn echter niet gekend.
Samsung is in zee gegaan met Koreaanse webreus Naver voor de bouw van een eigen AI-chip. Daarvan claimen de bedrijven dat die wel acht keer efficiënter is dan marktleider Nvidia H100. Details over de chip zijn schaars, maar het ding zou vooral bedoeld zijn voor inferentie. De chip is gebaseerd op een FPGA en geoptimaliseerd voor het Naver HyperCLOVA X Large Language Model. Hoe schaalbaar de capaciteiten naar andere modellen en toepassingen zijn, is niet duidelijk.
Prototype
Op dit moment is de chip niet meer dan een prototype, zonder duidelijke roadmap richting algemene beschikbaarheid. Ook over de specificaties weten we weinig, al claimt Samsung wel dat de efficiëntie afkomstig is van het gebruik van LPDDR-geheugen. Samsung heeft veel expertise in de productie van geheugen, dus het is niet verwonderlijk dat het zwaartepunt van de nieuwe inferentiechip daar ligt.
Naver en Samsung werken sinds 2022 samen. De chip-expertise komt van Samsung, terwijl Naver AI-toepassingen bouwt. De twee partijen denken dat maatoplossingen gericht op actuele AI-noden de toekomst zijn.