Malware Triage: domeinkennisinjectie voor LLM in npm

Samenvatting

Malware triage in npm krijgt domeinkennisinjectie: Databricks onderzoekt waarom LLM’s binaire payloads missen.

Malware triage in npm: wat er gebeurt

Databricks onderzocht npm-malware met 11.413 gescande en via OSV-bevestigde package-versies. In 96,2% van die dataset zat de payload in broncode of werd die van een externe server opgehaald. De overige 3,8%, oftewel 432 package-versies, bevatten een binair bestand.

Juist die kleine groep levert de lastigste triage op. Een gestript binair bestand geeft een LLM weinig leesbare context, terwijl de rest van het pakket er schoon uit kan zien. Binary-bevattende pakketten bereikten daardoor meer dan twee keer zo vaak geen beslissend kwaadaardig oordeel als pakketten zonder binary: 14,4% tegenover 6,2%.

Databricks bouwde een scanner die de npm Registry real-time bewaakt. De statische analyse combineert YARA op het tarball, Semgrep en de npm Registry API voor JavaScript en metadata, plus een module voor binaire analyse. De scanner zet die signalen in een gestructureerde prompt. De LLM geeft vervolgens een oordeel en onderbouwing en kan gedurende maximaal drie rondes aanvullende bestanden opvragen.

Waarom domeinkennisinjectie relevant is

Het onderzoek vergelijkt LLM’s die binaire payloads beoordelen bij verschillende niveaus van obfuscatie en onduidelijkheid. Databricks verplaatst expertkennis niet naar modelgewichten, maar levert die tijdens inferentie aan als vooraf berekende statische informatie in de prompt. Daardoor blijft de aanpak toepasbaar op gesloten, gehoste modellen en hoeft een model niet opnieuw te worden getraind zodra de dreiging verandert.

Voor BI- en analyticsprofessionals ligt de les vooral in de keten rond AI-beoordeling. Een LLM-oordeel krijgt pas betekenis wanneer scanners, broncode, metadata en binaries samen een controleerbaar dossier vormen. De gebruikte combinatie maakt zichtbaar welk bewijs de beslissing ondersteunt.

Concrete takeaway

Controleer bij een LLM-pipeline voor npm-pakketten afzonderlijk op binaries en voeg statische signalen vóór de modelbeoordeling toe; alleen broncode en metadata laten een relevante blinde vlek bestaan.