Nieuws over realtime analytics voor week eindigend op 5 september

Samenvatting

Realtime analytics krijgt nieuwe benchmarkdata: MLCommons publiceert MLPerf Storage v3.0 met KV Cache-, VDB- en S3-tests.

MLPerf Storage v3.0 breidt benchmark voor realtime analytics uit

MLCommons heeft de resultaten gepubliceerd van MLPerf Storage v3.0. Deze benchmark meet opslagprestaties voor machine-learningworkloads op een architectuurneutrale, representatieve en reproduceerbare manier.

Versie 3.0 voegt tests toe voor KV Cache en vector databases. De KV Cache-test meet lees- en schrijfbewerkingen voor caches bij LLM-inferentie. De nieuwe Vector Database-test richt zich op indexeren en bevragen van vectoren voor toepassingen die ongestructureerde tekst en media opslaan.

De benchmark ondersteunt naast de bestaande POSIX-laag ook S3-objectopslag. Daardoor kunnen opslagopties met dezelfde workload worden vergeleken, zowel in eigen datacenters als bij gehoste diensten. Negentien organisaties leverden resultaten aan.

MLPerf Storage maakt opslagkeuzes specifieker

De nieuwe tests sluiten aan op onderdelen die AI-systemen daadwerkelijk gebruiken: LLM-inferentie, vectorzoekopdrachten en objectopslag. Dat geeft BI- en data-infrastructuurteams een fijnmaziger beeld dan één algemene opslagscore.

De resultaten laten bovendien zien dat prestaties per workload uiteenlopen. Bij de on-premises checkpointing-writetest lag de mediaan op 14 GB per seconde per watt, met een maximum van 201. Voor de UNet3D-readtest bedroeg de mediaan 34 GB per seconde per watt en het maximum 277.

Naast MLPerf Storage meldde AWS de algemene beschikbaarheid van Amazon EC2 R9g- en R9gd-instances met de AWS Graviton5-processor. AWS noemt in-memory databases, caches, realtime analytics, Kubernetes, containerapplicaties en gedistribueerde dataverwerking als geschikte workloads. Boomi kondigde platformvernieuwingen aan rond enterprise-AI, met Agent Control als onderdeel van de updates.

Concrete takeaway voor MLPerf Storage

Gebruik MLPerf Storage v3.0 om opslag niet alleen op capaciteit of algemene snelheid te beoordelen. Vergelijk POSIX en S3 met dezelfde KV Cache-, VDB- of andere workload en leg vast welke test het dichtst bij je eigen AI- en analytics-pijplijn ligt.