Databricks AI Runtime en NVIDIA: eenvoudiger open modellen aanpassen

Samenvatting

Databricks AI Runtime is nu algemeen beschikbaar voor het trainen en verfijnen van open modellen op serverless NVIDIA-GPU’s.

Databricks AI Runtime ondersteunt NVIDIA NeMo

Databricks heeft AI Runtime, kortweg AIR, algemeen beschikbaar gemaakt. Teams kunnen modellen trainen en fine-tunen op serverless NVIDIA-GPU’s, zonder zelf GPU-infrastructuur te beheren.

AIR ondersteunt NVIDIA NeMo en NGC-containers. De omgeving koppelt die software aan beheerde bedrijfsdata, zodat teams toegang tot data, trainingsjobs en modelontwikkeling vanuit Databricks kunnen organiseren. Met Genie Code krijgen ontwikkelaars bovendien ondersteuning bij het automatisch opsporen en oplossen van fouten.

Na training en evaluatie kunnen teams modellen via Databricks Model Serving inzetten voor real-time inferentie. Unity Gateway biedt daarnaast beheerde toegang tot frontier-modellen en open-source modellen.

Waarom Databricks AI Runtime belangrijk is

Het nieuws raakt een praktisch knelpunt bij modelaanpassing: GPU-toegang regelen is slechts één stap. Teams moeten ook trainingsjobs configureren, datatoegang beheren en de infrastructuur onderhouden. AIR verplaatst die taken naar serverless GPU’s binnen het Databricks-platform.

De samenwerking met NVIDIA voegt daar NeMo, NGC-containers en Nemotron-cookbooks aan toe. Dat geeft teams een vaste route van bedrijfsdata naar aangepaste modellen. NVIDIA Kumo-modellen ondersteunen voorspellingen op gestructureerde data, terwijl Nemotron Retriever relevante informatie uit ongestructureerde data zoekt.

Daarmee ontstaat een onderscheid tussen algemene modeltoegang via Unity Gateway en maatwerktraining via AIR. Databricks positioneert beide functies binnen dezelfde werkomgeving, inclusief modeldeployment en agents die met bedrijfsdata, workflows en expertise werken.

Concrete takeaway voor Databricks AI Runtime

Breng eerst in kaart welke modellen maatwerk vereisen en test die met AIR, NVIDIA NeMo of een Nemotron-cookbook op beheerde data. Controleer daarbij dat datatoegang, evaluatie en deployment via Unity Gateway en Model Serving aansluiten op je bestaande Databricks-werkwijze.