ANALYSE: NVIDIA giver NOOA i gave og stifter “Open Secure AI Alliance” med 37 andre. Hvem bliver mon udelukket?
Hvem mangler på deltagerlisten?
Det interessante ved NVIDIAs nye Open Secure AI Alliance er ikke kun, hvem der er med. Det er, hvem der ikke er. Tre navne springer i øjnene, fordi de netop er de laboratorier, som er mest identificeret med lukkede frontier modeller: OpenAI, Google og Anthropic. Ingen af dem står på listen over stiftende deltagere. Heller ikke Amazon Web Services, Meta, Apple og Oracle optræder i den offentliggjorte deltagerkreds. Jesper Christiansen, ICARE SECURITY A/S.
Man kan læse det på to måder. Enten som at de lukkede modelleverandører ikke ønsker at binde sig til en åben sikkerhedsstandard, som gør deres egne systemer sammenlignelige og reviderbare. Eller som at alliancen bevidst er bygget som en modvægt til netop dem. NVIDIA selv formulerer det diplomatisk: sikkerheden må ikke alene afhænge af nogle få lukkede leverandører.
For danske virksomheder er det pointen. Digital suverænitet handler om, hvem der kan lukke for hanen, og hvem der kan kontrollere, hvad der faktisk sker inde i systemet. Et er at danske virksomheder er under konstant spionage, ikke kun fra Kina og Rusland men også USA. F.eks. overvåger USA al dansk internet trafik i store krydsfelter som ingåede aftaler med skiftende regeringer, men også via dataindsamling fra amerikanske produkter.
Hvad alliancen er
Open Secure AI Alliance blev offentliggjort af NVIDIA den 27. juli 2026. Den samler mere end 37 virksomheder og organisationer inden for kunstig intelligens, cybersikkerhed, cloud, softwareudvikling og kritisk infrastruktur.
Formålet er at udvikle og dele åbne sikkerhedsværktøjer, modeller, agentrammer og tekniske standarder til beskyttelse af AI agenter og software. Alliancen bygger videre på Linux Foundations Akrites initiativ og Open Source Security Foundation, OpenSSF.
Deltagerkredsen
| Område | Deltagere |
|---|---|
| AI og modeller | NVIDIA, Mistral, Hugging Face, Perplexity, Nous Research, SpaceXAI, vLLM |
| Cybersikkerhed | CrowdStrike, Fortinet, Palo Alto Networks, Zscaler, Elastic, Synopsys |
| Cloud og dataplatforme | Microsoft, IBM, Cloudflare, Databricks, Snowflake, Box |
| Softwareudvikling | GitHub, LangChain, Red Hat, SAP, ServiceNow, Salesforce |
| Infrastruktur | Cisco, Dell Technologies, HPE, Nokia, NetApp, Siemens |
| Øvrige sektorer | Palantir, Capital One, Uber, Adobe, NAVER, SK Telecom |
| Organisationer | Linux Foundation, Open Source Security Foundation OpenSSF |
Hvorfor nu
AI systemer bruges ikke længere kun til at skrive tekst eller kode. Agentbaserede systemer får adgang til filer, databaser, e mail, programmeringsværktøjer, cloudplatforme, betalingssystemer, administrative systemer, sikkerhedssoftware og kommandolinjer.
En AI agent er derfor mere end en sprogmodel. Den omfatter også den software, der giver modellen adgang til data, værktøjer, tilladelser og handlinger. Den software kaldes en agentramme, på engelsk agent harness. Den afgør, hvad modellen kan se, hvad den må gøre, hvordan dens hukommelse fungerer, og hvornår en opgave er slut.
Systemet skal kunne opdage problemet, før handlingen udføres. Det er en anden logik end klassisk antivirus, der finder fejl ved en scanning bagefter.
Sikkerheden skal vurderes på hele stakken
| Sikkerhedsområde | Funktion |
|---|---|
| Identitet | Fastslår, hvilken agent eller tjeneste der handler |
| Adgangsrettigheder | Begrænser, hvilke data og systemer agenten må tilgå |
| Isolation | Adskiller agenten fra øvrige systemer og kritiske ressourcer |
| Sikkerhedsbegrænsninger | Begrænser uønskede, skadelige eller ulovlige handlinger |
| Logning | Registrerer agentens beslutninger og handlinger |
| Evaluering | Tester agentens adfærd, præcision og sikkerhed |
| Modelkontrol | Undersøger modelvægte og filer for manipulation |
| Softwareforsyningskæde | Kontrollerer komponenter, biblioteker og opdateringer |
Det er altså utilstrækkeligt alene at spørge, om en model er åben eller lukket. Virksomheden skal også vide, hvordan agenten er integreret, hvilke privilegier den har, og om dens handlinger kan spores og standses.
Hvad de enkelte deltagere lægger på bordet
| Bidragyder | Bidrag | Hvad det gør |
|---|---|---|
| NVIDIA | NOOA, Labs Object Oriented Agents | Agentramme, hvor en agent struktureres som en Python klasse, så adfærd kan testes, spores og revideres |
| HPE | SPIFFE og SPIRE | Kryptografisk verificerbar identitet til arbejdsbelastninger og AI agenter i zero trust miljøer |
| Hugging Face | Safetensors, NVIDIA burde vide at de er overdraget til PyTorch Foundation | Filformat til modelvægte, der adskiller modeldata fra eksekverbar kode |
| IBM og Red Hat | Lightwell | Digitalt signerede sikkerhedsrettelser i open source forsyningskæden |
| Microsoft | MDASH | Flere specialiserede AI agenter, der i fællesskab finder og dokumenterer udnyttelige sårbarheder |
| SpaceXAI | Grok Build | Terminalbaseret AI kodeagent frigivet som open source |
NOOA og de seks centrale funktioner
| Funktion | Betydning |
|---|---|
| Typesikrede input og output | Agentens svar og handlinger skal følge definerede dataformater |
| Referencebaseret adgang | Agenten arbejder med afgrænsede visninger frem for komplette datakopier |
| Kode som handling | Agentens handlinger gennemføres som kontrollerbar programkode |
| Programmerbar styringssløjfe | Udvikleren definerer, hvordan agenten planlægger og udfører opgaver |
| Eksplicit tilstand | Agentens hukommelse og status opbevares struktureret |
| Kontrollerbare API er | Agentens adgang til kontekst og historik kan begrænses og revideres |
Ifølge NVIDIA kan selve agentrammens udformning give betydelige forskelle i præcision, tokenforbrug og sikkerhed, selv om den underliggende model er den samme.
Akrites skal koordinere rettelser
Linux Foundations Akrites initiativ blev lanceret den 25. juni 2026 og skal koordinere opdagelse, rettelse og ansvarlig offentliggørelse af sårbarheder i kritisk open source software.
Akrites etablerer et fælles Security Incident Response Team, en standardiseret proces for koordineret offentliggørelse, fortrolig koordinering med udviklere, fælles test af rettelser, støtte til projekter uden aktive vedligeholdere samt koordinering med myndigheder.
Pointen er, at AI nu finder sårbarheder hurtigere, end de kan verificeres og lukkes. En populær softwarepakke kan modtage den samme sårbarhed beskrevet på fem forskellige måder fra fem forskellige indberettere på en uge.
| Forkortelse | Betydning |
|---|---|
| CVE | Common Vulnerabilities and Exposures, identificerer kendte sårbarheder |
| CWE | Common Weakness Enumeration, klassificerer typer af softwaresvagheder |
| CVSS | Common Vulnerability Scoring System, vurderer sårbarheders alvor |
| EPSS | Exploit Prediction Scoring System, vurderer sandsynligheden for udnyttelse |
| SSVC | Stakeholder Specific Vulnerability Categorization, understøtter prioritering |
| VEX | Vulnerability Exploitability eXchange, beskriver om et produkt er påvirket |
| TLP | Traffic Light Protocol, styrer fortrolighed i informationsdeling |
Open source er ikke automatisk sikkert
At en model eller agentramme er open source, betyder ikke, at den er sikker. Åbne systemer kan misbruges til automatiseret sårbarhedssøgning, udvikling af malware, phishing, fjernelse af sikkerhedsbegrænsninger og automatiserede angreb.
NVIDIA anerkender risikoen, men anfører, at tilsvarende misbrug også sker med lukkede systemer, og at lukkethed samtidig fjerner muligheden for uafhængig kontrol. Åbenhed skal derfor kombineres med adgangsstyring, tekniske begrænsninger, test, overvågning, ansvarlig offentliggørelse og hurtig fejlretning.
Det centrale synspunkt er, at hemmeligholdelse ikke i sig selv skaber sikkerhed. Et lukket system kan indeholde alvorlige sårbarheder, som hverken kunder eller uafhængige forskere kan undersøge.
Open Source servere og desktop er dog langt mere sikkert en Windows tilsvarende.
Betydning for danske virksomheder
| Kontrolpunkt | Spørgsmål virksomheden bør kunne besvare |
|---|---|
| Dataplacering | Hvor behandles og opbevares virksomhedens oplysninger? |
| Modeladgang | Kan leverandøren eller tredjemand tilgå data og prompts? |
| Agentrettigheder | Hvilke filer, databaser og systemer kan agenten læse, ændre eller slette? |
| Identitet | Har hver agent en entydig og verificerbar identitet? |
| Logning | Registreres alle handlinger, kommandoer og dataadgange? |
| Godkendelse | Kræver kritiske handlinger menneskelig godkendelse? |
| Isolation | Kører agenten i et afgrænset og kontrolleret miljø? |
| Nødstop | Kan agentens adgang afbrydes øjeblikkeligt? |
| Leverandørafhængighed | Kan løsningen fortsat fungere ved leverandørsvigt? |
| Modelkontrol | Kan modellen og dens filer undersøges og verificeres? |
| Opdateringer | Hvordan testes og godkendes nye versioner? |
| Hændelser | Findes der en procedure for sikkerhedsbrud og rapportering? |
Princippet om mindst mulige rettigheder gælder også for AI agenter. En agent, der læser dokumenter, behøver normalt ikke rettigheder til at slette filer, overføre penge eller ændre sikkerhedsindstillinger.
Forholdet til AI forordningen
Forordning (EU) 2024/1689 af 13. juni 2024 fastsætter fælles regler for udvikling og anvendelse af kunstig intelligens i EU. For højrisikosystemer stilles der blandt andet krav om risikostyring, datastyring, teknisk dokumentation, logning, menneskeligt tilsyn, nøjagtighed, robusthed og cybersikkerhed.
| Bestemmelse | Indhold |
|---|---|
| Artikel 9 | Risikostyringssystem |
| Artikel 10 | Data og dataforvaltning |
| Artikel 11 | Teknisk dokumentation |
| Artikel 12 | Automatisk registrering og logning |
| Artikel 14 | Menneskeligt tilsyn |
| Artikel 15 | Nøjagtighed, robusthed og cybersikkerhed |
| Artikel 17 | Kvalitetsstyringssystem |
| Artikel 72 | Overvågning efter markedsføringen |
| Artikel 73 | Indberetning af alvorlige hændelser |
Alliancens arbejde med sporbarhed, evaluering, identitetsstyring og tekniske kontrolmekanismer kan blive praktisk relevant for opfyldelsen af kravene. Deltagelse eller anvendelse af værktøjerne medfører dog ikke i sig selv, at en virksomhed overholder forordningen. Det skal vurderes konkret ud fra rollen som udbyder, idriftsætter, importør eller distributør.
Forholdet til NIS 2 og Cyber Resilience Act
NIS 2 direktivet, direktiv (EU) 2022/2555 af 14. december 2022, stiller i artikel 21 krav om passende og proportionale tekniske, operationelle og organisatoriske cybersikkerhedsforanstaltninger. Kravene omfatter risikoanalyse, hændelseshåndtering, driftskontinuitet, forsyningskædesikkerhed, adgangskontrol, kryptografi og multifaktorautentifikation.
Når en virksomhed anvender AI agenter i centrale processer, bliver agenten og dens leverandører en del af virksomhedens net og informationssystemer samt den digitale forsyningskæde. Ledelsen kan derfor ikke overlade sikkerhedsvurderingen til AI leverandøren.
Cyber Resilience Act, forordning (EU) 2024/2847 af 23. oktober 2024, fastsætter cybersikkerhedskrav til produkter med digitale elementer, herunder sikkerhed gennem design, håndtering af kendte sårbarheder, sikkerhedsopdateringer, teknisk dokumentation, EU overensstemmelseserklæring og rapportering af aktivt udnyttede sårbarheder. Anvendelsesområdet afhænger af, om løsningen udgør et produkt med digitale elementer, og om undtagelsen for visse former for fri og open source software finder anvendelse.
Konklusion
AI sikkerhed flytter sig fra generelle etiske principper til konkrete tekniske kontrolforanstaltninger. Virksomheder skal i stigende grad kunne dokumentere, hvilken model der anvendes, hvilken agentramme den arbejder gennem, hvilke data agenten kan tilgå, hvem der har godkendt dens rettigheder, hvordan hændelser registreres, og hvordan agenten standses.
Open source værktøjer gør den kontrol lettere, fordi kode, modeller og sikkerhedsmekanismer kan undersøges af flere aktører. Åbenhed erstatter ikke governance, risikostyring og juridisk compliance. Den er et teknisk grundlag, som gør uafhængig kontrol og dokumentation mulig.
Og så er der spørgsmålet, vi startede med. Når OpenAI, Google og Anthropic ikke er med, skal virksomheder, der bygger deres kritiske processer på netop de leverandører, kunne svare på, hvordan de så selv dokumenterer det, alliancen forsøger at standardisere.
Kilder
- NVIDIA, Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security, 27. juli 2026: https://blogs.nvidia.com/blog/open-secure-ai-alliance/
- NVIDIA, Six Agent Harness Capabilities for Higher Model Performance: https://developer.nvidia.com/blog/six-agent-harness-capabilities-for-higher-model-performance/
- NVIDIA NOOA kildekode på GitHub: https://github.com/NVIDIA-NeMo/labs-OO-Agents
- StorageReview, NVIDIA’s Open Secure AI Alliance Launches With 35+ Members and Three Notable Absences, 29. juli 2026: https://www.storagereview.com/news/nvidias-open-secure-ai-alliance-launches-with-35-members-and-three-notable-absences
- Linux Foundation, Launch of Akrites, 25. juni 2026: https://www.linuxfoundation.org/press/linux-foundation-and-industry-leaders-launch-akrites-to-defend-critical-open-source-software-against-ai-enabled-cyber-threats
- Akrites officielle hjemmeside: https://akrites.org/
- Open Source Security Foundation, OpenSSF: https://openssf.org/
- SPIFFE og SPIRE: https://spiffe.io/
- Hugging Face Safetensors: https://github.com/huggingface/safetensors
- Red Hat, Lightwell: https://www.redhat.com/en/lightwell
- IBM Newsroom, IBM and Red Hat Expand Lightwell, 8. juli 2026: https://newsroom.ibm.com/2026-07-08-ibm-and-red-hat-expand-lightwell-with-new-commercial-offerings-to-build-the-trust-infrastructure-for-ai-era-open-source
- Microsoft Security Blog, Defense at AI speed: https://www.microsoft.com/en-us/security/blog/2026/05/12/defense-at-ai-speed-microsofts-new-multi-model-agentic-security-system-tops-leading-industry-benchmark/
Juridiske kilder:
- EUR Lex, forordning (EU) 2024/1689 om kunstig intelligens: https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32024R1689
- EUR Lex, direktiv (EU) 2022/2555, NIS 2: https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32022L2555
- EUR Lex, forordning (EU) 2024/2847, Cyber Resilience Act: https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32024R2847
| Kilde: | NVIDIA, Linux Foundation, StorageReview, Microsoft, IBM, Red Hat, Hugging Face, EUR Lex, Jesper Christiansen for ICARE.DK |
| Fotokredit: | Nvidia |
| Personer/Firmaer/Emner/#: | NVIDIA, OpenSecureAIAlliance, OpenAI, Google, Anthropic, KunstigIntelligens, AI, AIAgenter, Cybersikkerhed, OpenSource, DigitalSuverænitet, Microsoft, IBM, RedHat, HuggingFace, HPE, Palantir, SpaceXAI, LinuxFoundation, OpenSSF, Akrites, NOOA, SPIFFE, SPIRE, Safetensors, Lightwell, MDASH, NIS2, AIForordningen, CyberResilienceAct, CRA, Compliance, Datasikkerhed |
| Copyrights: | Ⓒ 2026 Copyright by https://ICARE.DK – ICARE SECURITY A/S |
