Qualcomm AI Stack laat applicaties draaien op verschillende toestellen

Qualcomm Snapdragon 8 Gen 1

Qualcomm introduceert met zijn nieuwe AI Stack een software-framework waarmee ontwikkelaars modellen kunnen trainen en uitrollen die werken op verschillende omgevingen.

Qualcomm lanceert de AI Stack: een set van tools die populaire AI-frameworks zoals TensorFlow, PyTorch en ONNX ondersteunt. De AI Stack laat ontwikkelaars toe om AI-modellen te trainen en vervolgens applicaties uit te rollen op verschillende locaties. Qualcomm hoopt ontwikkelaars te verleiden tot zijn platform door hen de tools te geven om één toepassing met minimale aanpassingen op meerdere plaatsen te draaien.

Eén platform voor meerdere markten

Qualcomm zelf is vooral bekend van zijn Snapdragon-processors voor smartphones, maar de chipdesigner heeft ook processors voor laptops en is actief in de auto-industrie. Alle chips van de fabrikant zijn op eenzelfde fundering gebaseerd. De AI Stack volgt hetzelfde principe. Dankzij de uniforme hard- en software-omgeving wordt het in theorie eenvoudiger om te ontwikkelen voor smartphones, pc’s of zelfs auto’s zonder dat een ontwikkelaar een app telkens moet herwerken.

Eenvoud moet de troef van Qualcomm zijn, aangezien het bedrijf met zijn ARM-gebaseerde hardware concurreert met grote namen zoals Intel, AMD en Nvidia. Die partijen staan sterker in hun respectievelijke focusdomeinen, maar bieden geen ééngemaakte stack om verschillende markten in één keer mee te bedienen.

Het stokpaardje van de Qualcomm AI Stack is de AI Model Efficiency Toolkit. Die kan complexe 32 bit floating point-modellen converteren naar 8 bit integer-modellen die veel minder verbruiken en dus vlotter inferentie draaien op minder krachtige hardware.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home