OpenAI: aankoop Google-chips om minder afhankelijk van Nvidia

Samenvatting

OpenAI plant Google-TPU’s te kopen om minder afhankelijk te worden van Nvidia voor training en inferentie.

OpenAI en Google-TPU’s: wat er gebeurt

OpenAI is van plan tensor processing units van Google te kopen, melden Bloomberg en The Information op basis van ingewijden. OpenAI gebruikt nu vooral Nvidia-gpu’s voor het trainen en draaien van AI-modellen.

De omvang van de mogelijke aankoop blijft onbekend. Ook is niet duidelijk waarvoor OpenAI de TPU’s precies wil inzetten. Bloomberg meldt alleen dat het bedrijf de chips wil gebruiken voor zijn AI-infrastructuur.

OpenAI huurde vorig jaar al Google-TPU’s. Nadat dat nieuws bekend werd, sprak Nvidia met OpenAI over een nieuwe deal. OpenAI zei later dat het geen plannen had om TPU’s te gebruiken. De nieuwe berichtgeving wijst daarom op een veranderde of opnieuw onderzochte inkooprichting, maar bevestigt nog geen definitieve overeenkomst.

Waarom Google-TPU’s belangrijk zijn

De stap raakt aan de verdeling tussen training en inferentie. Nvidia-gpu’s ondersteunt OpenAI momenteel voor beide taken: het trainen van modellen en het verwerken van nieuwe data met een afgetraind model. De eigen Jalapeño-chip van OpenAI krijgt volgens het artikel een ander profiel en is vooral bedoeld om modellen te draaien, niet om ze te trainen.

Google levert TPU’s sinds kort ook aan andere bedrijven. Eerder waren deze chips alleen voor intern gebruik bestemd. Oracle koopt TPU’s en verhuurt ze via Oracle Cloud Infrastructure aan zijn cloudklanten. Daarmee krijgt Google een verkoopkanaal naast het eigen gebruik van de chips.

Voor BI-teams zit de betekenis vooral in de infrastructuurkeuze achter AI-diensten. Training en inferentie kunnen verschillende chipvereisten hebben. Een organisatie die AI-functies bouwt, moet daarom niet alleen naar modelkwaliteit kijken, maar ook naar beschikbaarheid, contracten en de verdeling van rekenwerk over chiptypen.

Concrete takeaway voor BI-professionals

Volg bij AI-projecten afzonderlijk welke hardware de training en inferentie draagt. Leg daarnaast vast welke leverancier, cloudomgeving en contractvorm bij elke stap horen. OpenAI’s mogelijke aankoop van Google-TPU’s, naast Nvidia-gpu’s en de Jalapeño-chip, laat zien dat één modelomgeving meerdere hardwarepaden kan krijgen.