Analytics: nieuws van de week tot 19 september

Samenvatting

MLPerf Inference v6.1 brengt nieuwe tests en hardwareresultaten voor complexe AI-inferentie naar real-time analytics.

MLPerf Inference v6.1 breidt benchmark uit

MLCommons publiceerde nieuwe resultaten voor MLPerf Inference v6.1. De benchmark telt meer deelnemende organisaties dan eerdere edities en rapporteert prestatieverbeteringen tot 5,7 keer ten opzichte van een jaar eerder.

De nieuwe versie voegt twee tests toe. End-to-End RAG meet een keten waarin meerdere AI-modellen samenwerken voor vraagbeantwoording. Edge Agentic Inference richt zich op meerstapsinteracties, zoals agentic coding, aan de rand en in datacenters.

De resultaten omvatten vijf nieuwe processors of accelerators: AMD Ryzen AI Max+ 395, AMD Instinct MI350P, Intel Arc Pro B70, NVIDIA Rubin en NVIDIA Vera Rubin NVL72. De laatste twee staan als preview vermeld. Ook bevat de benchmark het grootste ingezonden systeem tot nu toe, met 512 accelerators, plus twee heterogene systemen.

Real-time analytics verschuift naar ketens en agents

De uitbreiding maakt een verschil voor BI-teams die inferentie niet langer alleen als één modelaanroep bekijken. RAG en meerstapsinteracties testen de complete verwerking van een taak. Daarmee worden modelkeuze, accelerator, systeemarchitectuur en de samenwerking tussen modellen onderdeel van dezelfde vergelijking.

De overige berichten plaatsen dit naast infrastructuur voor AI en analytics. Acceldata lanceerde xFactory, een private softwarefabriek voor het bouwen, testen en uitrollen van AI-agents, applicaties en analytics in hybride bedrijfsomgevingen. xFactory draait op xLake, dat data- en agentwerklasten over lokale, cloud-, soevereine en edge-infrastructuur verenigt.

Alation kondigde zes AIOS-componenten aan voor governance van data, context en agents. De onderdelen zijn AI Governance, Ontologies, Intelligent Feeds, Console, Governed Collections en Semantic Model Mastering.

Concrete takeaway voor MLPerf Inference v6.1

Gebruik MLPerf Inference v6.1 als controlelijst bij evaluaties: vergelijk niet alleen losse modelprestaties, maar kijk ook naar RAG-ketens, meerstapsinteracties, hardwaretype en de plek waar inferentie draait. Volg daarnaast welke governance- en platformfuncties nodig zijn wanneer agents data over meerdere infrastructuren gebruiken.