AI Runtime is nu algemeen beschikbaar

Samenvatting

AI Runtime van Databricks is algemeen beschikbaar met beheerde GPU-infrastructuur, governance en lanceringen binnen enkele seconden.

AI Runtime brengt GPU-training naar Databricks

Databricks maakt AI Runtime, kortweg AIR, algemeen beschikbaar. De dienst brengt volledig beheerde GPU-infrastructuur rechtstreeks naar Databricks, zodat teams modellen trainen waar hun bedrijfsdata al staat. Serverless toegang tot GPU’s, multinode-training en ondersteuning voor eigen code, containers en Ray-workloads behoren tot de mogelijkheden.

AIR biedt daarnaast GPU’s met RDMA-ondersteuning, omgevingscaching en ingebouwde foutopsporing. Databricks noemt lanceringen binnen enkele seconden en verwijst naar meer dan 100.000 GPU-uren aan trainingsruns. Robinhood, PicPay, Merck, Flo Health, TinyFish en FactSet gebruiken AIR al voor deep-learningmodellen.

Waarom AI Runtime telt

GPU-training buiten het Lakehouse vraagt om apart capaciteitsbeheer, clusterconfiguratie, netwerkbeheer en monitoring. Het creëert ook een extra grens tussen de trainingsomgeving en de data. AIR plaatst die infrastructuur binnen de governance-perimeter van Databricks en Unity Catalog.

Daardoor vallen GPU-workloads onder toegangsbeleid, isolatie en controleerbare registratie binnen dezelfde omgeving. Databricks verzorgt de provisioning van GPU’s, het onderhoud van de infrastructuur en netwerkconfiguratie. Teams kunnen hun eigen containers en Ray-code meenemen, zonder een afzonderlijk GPU-platform te beheren.

De toepassing gaat verder dan experimenten. Databricks gebruikt AIR zelf voor de modellen achter KARL en AI Parse, terwijl genoemde bedrijven de dienst inzetten in onder meer gezondheidszorg, productie en consumentgerichte agents.

Concrete takeaway voor AI Runtime

Breng bestaande modeltraining in kaart en vergelijk de operationele stappen met AIR: GPU-capaciteit, netwerkconfiguratie, foutopsporing en toegangsbeheer. Test daarna een representatieve workload met eigen code of containers en controleer vooraf de Unity Catalog-regels, workloadisolatie en auditregistratie. Let ook op Ray- en RDMA-vereisten; die bepalen of een bestaande trainingsworkflow direct past.