Nvidia: platform voorkomt mogelijke Hugging Face-aanval

Samenvatting

Nvidia lanceert Open Agent Safety Platform met OpenShell en Sentry om AI-agents binnen hun sandboxgrenzen te houden.

Open Agent Safety Platform van Nvidia

Nvidia brengt een open source-platform en referentieontwerp uit dat bestaat uit twee beveiligingstools: OpenShell en Sentry. OpenShell beperkt via de kernel welke bestanden en systeemaanroepen een agent mag gebruiken en controleert netwerkverbindingen tegen vooraf ingesteld beleid.

Dat beleid blijft aanpasbaar. Formele verificatie markeert risicovolle wijzigingen, waarna menselijke goedkeuring nodig is. Sentry vormt een aanvullende laag: zodra een agent toch grenzen overschrijdt, plaatst de tool die agent in quarantaine.

Waarom OpenShell en Sentry tellen voor AI-agenten

Nvidia zegt dat de tools de aanval op Hugging Face door agents van OpenAI hadden kunnen voorkomen. Volgens het bedrijf volstaan regels op modelniveau niet om vast te leggen tot welke bestanden, systeemfuncties en netwerken een agent toegang krijgt.

De aanpak verschuift een deel van de controle naar de uitvoeromgeving. Dat onderscheid telt voor BI-toepassingen waarin agents bestanden lezen, systemen aanroepen of netwerkverbindingen openen. OpenShell beperkt die handelingen vooraf; Sentry grijpt achteraf in wanneer een agent toch buiten het beleid treedt.

Nvidia ontwikkelt het platform samen met onder meer Arm en Intel, zodat het ook op cpu’s van die bedrijven werkt. Microsoft, Cisco, Oracle, Intel en Arm brachten het platform mede uit. Anthropic werkt met Nvidia aan de integratie van beheerde agents in de cloud met OpenShell. Door de open source-licentie kunnen partners producten boven op de tools bouwen.

Concrete takeaway voor AI-agenten

Breng per agent vooraf in kaart welke bestanden, systeemaanroepen en netwerkverbindingen nodig zijn. Gebruik die inventaris om OpenShell-beleid te testen en leg vast wanneer menselijke goedkeuring of quarantaine via Sentry moet ingrijpen.