Man kan vinde, hvis man kan “identificere og løse sårbarheder i software med AI,” meddeler Det Hvide Hus. DARPA siger selv: Skab en model, der sikrer software, og der er $25M til jer. Hvis du er så klog, så bevis det ved at beskytte vores infrastruktur platform I en overraskende meddelelse ved åbningen af Black Hat-keynoten i dag afslørede DARPA, hvad de kalder en AI Cyber Challenge (AIxCC). Det er en to-årig konkurrence for at udvikle beskyttende maskinlærings-systemer, der kan sikre software og dermed kritisk infrastruktur.

Konkurrencen, som begynder onsdag, vil sætte hold mod hinanden for at bygge modeller, der kan identificere risici i koden, blokere angreb mod disse sårbarheder og håndtere disse fejl. Det håbes, at disse modeller, når de først er i stand til at beskytte applikationer generelt, derfor vil være i stand til at forsvare IT-infrastrukturen på softwareniveau.

Anthropic, OpenAI, Google og Microsoft har lovet at give rådgivning og software, som deltagerne kan bruge, og Open Source Security Foundation (OpenSSF) er også med på holdet.

I en stadig mere sammenkoblet verden understøtter software alt fra finansielle systemer til offentlige forsyningsselskaber. Da denne kodemuliggør det moderne liv og driver produktiviteten, skaber den også en ekspanderende angrebsflade for ondsindede aktører.

Men fremskridt inden for moderne teknologi giver en vej til at tackle cybersikkerhedsdilemmaet. I det seneste årti er der udviklet nyeAI-aktiverede kapaciteter. Når denne nye teknologi anvendes ansvarligt, har den et betydeligt potentiale til at bidrage til at tackle vigtige samfundsmæssige udfordringer såsom cybersikkerhed.

Her ses DARPA’s hovedkvarter i Arlington, Viginia:

Artificial Intelligence Cyber Challenge (AIxCC) er en toårig konkurrence, der beder de bedste og  klogeste inden for AI og cybersikkerhed om at forsvare den software, som alle amerikanere stoler på. AIxCC vil  bede konkurrenter om at designe nye AI-systemer for at sikre denne kritiske kode og vil tildele en kumulativ $ 18.5 millioner i præmier til hold med de bedste systemer. For at styrke iværksætterinnovation vil DARPA desuden finansiere op til syv små virksomheder med op til $ 1 million hver for at konkurrere i den indledende fase af AIxCC.

AIxCC vil samle førende AI-virksomheder, der vil arbejde sammen med DARPA for at gøre deresc utting-edge-teknologi tilgængelig for at udfordre konkurrenter. Anthropic, Google, Microsoft og OpenAI vil samarbejde med DARPA for at gøre det muligt for konkurrenter at udvikle state-of-the-art cybersikkerhedssystemer.

AIxCC arbejder tæt sammen med Open Source Security Foundation (OpenSSF), et projekt under Linux Foundation, for at vejlede teams i at skabe AI-systemer, der er i stand til at løse vitale cybersikkerhedsproblemer, såsom sikkerheden i kritisk infrastruktur og softwareforsyningskæder. Det  meste software, og dermed det meste af den kode, der har brug for beskyttelse, er open source-software, der ofte er udviklet af samfundsdrevne frivillige. Desuden omfatter open source-software det meste af den kode, der kører på kritisk infrastruktur i USA i dag, herunder elektrificerings-og telekommunikationssektorerne.

 AIxCC-konkurrencer finder sted på en af verdens bedste cybersikkerhedskonferencer, DEF CON. Semifinalekonkurrencen bliver ved DEF CON 2024, og den endelige konkurrence ved DEF CON 2025, med hovedpræmien på $4 mio.

De 3 DARPA konkurrencer

AIxCC vil bestå af tre konkurrencer:

• Sent forår 2024: AIxCC kvalifikationskonkurrence (AQC)
• August 2024: AIxCC semifinale konkurrence (ASC)
• August 2025: AIxCC Final Competition (AFC)
  
  

AIxCC vil tillade to spor for deltagelse: det finansierede spor og det åbne spor. Finansierede Track-konkurrenter vil blive udvalgt blandt forslag, der indsendes til en anmodning, og op  til syv små virksomheder vil modtage støtte til at deltage. Open Track-konkurrenter registrerer sig hos DARPA via konkurrencewebstedet og fortsætter uden DARPA-finansiering.

Hold på alle baner vil konkurrere i AQC, der kulminerer med u p til20 hold, der går videre til ASC. Af disse vil op til de fem mest scorende hold, der viser deres evne til at overgå ikke kun de andre hold, men en præstationstærskel baseret på den nuværende state-of-the-art inden for softwaresikkerhed, modtage monetære priserog avancere til AFC. De tre mest scorende konkurrenter i den endelige konkurrence vil modtage yderligere pengepræmier, efter at have overgået de andre hold og en præstationstærskel. Præmier på i alt $18,5 mio. vil blive uddelt på tværs af ASC og AFC.

Hver AIxCC-konkurrence vil indeholde udfordringer designet og evalueret af et team af fageksperter. Teams får en lang række udfordringer baseret på kritisk open source- og kritisk infrastruktursoftware fra den virkelige verden. Teams vil designe AI-d-riven-systemertil at finde og rette sårbarheder inden for disse udfordringer.

AIxCC vil samarbejde med førende inden for AI for at gøre banebrydende AI-teknologi tilgængelig for konkurrenter, så konkurrenter kan udnytte den inden for deres løsninger.

HVORFOR x?

“X” i AIxCC henviser ikke kun til en krydsning mellem AI og Cyber, men til INT 3-instruktionen i x86-processorer. INT 3 er en almindeligt kendt instruktion kaldet til fejlfindingsformål. INT 3 er repræsenteret af det hexadecimale tal 0xCC. Når processoren støder på det nummererede0xCC, afbryder den udførelsen for at fejlfinde computerprogrammet.

Hexadecimale (base 16) tal er en grundlæggende del af datalogi. De er stylet med et 0x foran tallet, og cifrene spænder fra 0-9, A, B, C, D, E, F. En “byte” repræsenteresmed to cifre (f.eks. 0x1A).

Der er mange softwareafbrydelsesinstruktioner, INT #, og de fleste har en to-byte opkode (f.eks. INT 16 er repræsenteret af 0x58 0x5B). INT 3 er speciel: den har en genkendelig en-byte opcode: 0xCC.

For computereksperten er 0xCC en velkendt instruktion, der bruges til et afgørende formål: at fjerne fejl fra computerprogrammer, hvilket naturligvis er målet med AIxCC.

Kilde: Darpa
Fotokredit: Darpa