Sam Altman: ram in pc's is zorgelijk

Samenvatting

Sam Altman noemt lokaal RAM-gebruik zorgelijk en pleit ervoor schaarse DRAM-capaciteit vaker via de cloud te gebruiken.

Sam Altman en lokaal RAM

OpenAI-ceo Sam Altman vindt het problematisch dat gebruikers geheugen in hun eigen pc plaatsen voor lokaal gebruik. In de Cheeky Pint-podcast stelt hij dat schaarse DRAM-capaciteit beter centraal via cloudcomputing kan worden ingezet.

Altman richt zich daarmee op gebruikers die thuis AI-modellen draaien. Zij willen niet volledig afhankelijk zijn van gesloten modellen zoals die van OpenAI. Volgens Altman wordt lokaal geheugen vaak nauwelijks benut: hij noemt als voorbeeld dat een deel van de DRAM-voorraad in computers slechts vijf procent van de tijd wordt gebruikt.

De uitspraak valt op omdat AI-modellen en grote datacenters volgens de berichtgeving zelf een grote rol spelen in de beperkte DRAM-voorraad. Altman draagt als OpenAI-ceo bovendien verantwoordelijkheid voor een bedrijf dat onderdeel is van deze vraag naar AI-infrastructuur.

Cloudmodellen versus lokaal RAM

Voor BI-professionals raakt dit aan een concrete infrastructuurkeuze. Lokale modellen geven organisaties controle over hardware en gebruik, terwijl cloudmodellen de benodigde rekenkracht en het geheugen centraal beschikbaar stellen. Die keuze gaat niet alleen over capaciteit, maar ook over afhankelijkheid van aanbieders zoals OpenAI.

De discussie laat twee tegengestelde belangen zien. Cloudgebruik kan schaarse hardware centraliseren, maar lokale AI voorkomt dat iedere toepassing uitsluitend op een gesloten model steunt. Voor BI-teams die AI aan rapportages, notebooks of dataplatforms koppelen, blijft de locatie van het model daarom een architectuurbeslissing.

Concrete takeaway voor BI-professionals

Breng per AI-toepassing in kaart hoeveel lokaal geheugen nodig is, hoe vaak dat geheugen wordt gebruikt en welke afhankelijkheid van een cloudmodel acceptabel is. Neem daarbij zowel DRAM-gebruik als controle over het model mee voordat je lokale hardware of cloudcapaciteit vastlegt.