Samenvatting
Octopus Energy: kostenbesparing van 50x in data-engineering zet sector op zijn kop.
Reconstructie van data-pipelines bij Octopus Energy
Octopus Energy herstructureerde zijn data-pipelines op Databricks om te voldoen aan de Britse MHHS-regulering. Met MHHS steeg het aantal datapunten voor elk huishouden van twee meterstanden per maand naar 48 per dag, wat zonder aanpassing zou leiden tot een extra jaarlijkse kostenpost van ongeveer $1 miljoen. Het bedrijf wist de kosten per afrekeningsdatum terug te brengen van $23,63 naar slechts $0,48 door gebruik te maken van Delta Lake en Databricks Serverless, wat resulteerde in een kostenbesparing van 50x.
Belang voor de BI-markt
Deze drastische kostenreductie biedt een leidraad voor de energiesector en daarbuiten. Terwijl concurrenten worstelen met stijgende datavolumes en complexe reguleringen, toont Octopus Energy aan dat herziening van de data-architectuur efficiënter kan zijn dan simpelweg meer computerkracht inzetten. Dit voorbeeld kan navolging vinden in sectoren die te maken hebben met soortgelijke datagroei en complexiteit door regulering.
Concrete takeaway
BI-professionals moeten overwegen hun data-architectuur te herzien in plaats van te vertrouwen op extra rekencapaciteit. Het is van belang om te kijken naar hoe nieuwe technologieën zoals Delta Lake en serverloze oplossingen kunnen helpen bij het effectief en kostenefficiënt beheren van groeiende datavolumes.
Verdiep je kennis
Data lakehouse uitgelegd — Het beste van twee werelden
Wat is een data lakehouse en waarom combineert het het beste van data warehouses en data lakes? Vergelijking, architectu...
KennisbankETL uitgelegd — Extract, Transform, Load in gewone taal
Wat is ETL? Leer hoe Extract, Transform en Load werkt, het verschil met ELT, en welke tools je kunt gebruiken. Helder ui...