Artificial intelligence,

ChatGPT bruges allerede af stater til ondsindede formål

De fleste britiske it-ledere mener, at fremmede stater allerede bruger ChatGPT-chatbotten til ondsindede formål mod andre nationer. Det er ifølge en ny undersøgelse fra BlackBerry, der undersøgte 500 britiske it-beslutningstagere, der afslørede, at mens 60% af respondenterne ser ChatGPT som generelt bruges til “gode” formål, er 72% bekymrede over dets potentiale til at blive brugt til ondsindede formål, når det kommer til cybersikkerhed. Faktisk forudsagde næsten halvdelen (48%), at et vellykket cyberangreb vil blive krediteret teknologien inden for de næste 12 måneder. Resultaterne følger nyere forskning, der viste, hvordan angribere kan bruge ChatGPT til betydeligt at forbedre phishing og business email compromise (BEC) svindel.

Britiske it-ledere frygter ondsindet udnyttelse af ChatGPT’s muligheder

ChatGPT, OpenAI’s gratis chatbot baseret på GPT-3.5, blev frigivet den 30. november 2022 og samlede en million brugere på fem dage. Det er i stand til at skrive e-mails, essays, kode og phishing-e-mails, hvis brugeren ved, hvordan man spørger. Blackberrys undersøgelse viste, at angribernes evne til at bruge disse muligheder til at hjælpe med at skabe mere troværdige og legitime lydende phishing-e-mails er en stor bekymring for 57% af de britiske it-ledere, der blev undersøgt. Dette blev efterfulgt af stigningen i sofistikering af trusselangreb (51%) og evnen til at fremskynde nye social engineering-angreb (49%).

Næsten halvdelen af britiske it-direktører er bekymrede over ChatGPT’s potentiale til at blive brugt til at sprede misinformation (49%) samt dets muligheder for at gøre det muligt for mindre erfarne hackere at forbedre deres tekniske viden (47%). Desuden sagde 88% af respondenterne, at regeringer har et ansvar for at regulere avancerede teknologier som ChatGPT.

“ChatGPT vil sandsynligvis øge sin indflydelse i cyberindustrien over tid,” kommenterede Shishir Singh, CTO cybersikkerhed hos BlackBerry. “Vi har alle set en masse hype og skræmmekampagner, men pulsen i branchen er stadig ret pragmatisk – og med god grund. Der er mange fordele at hente ved denne form for avanceret teknologi, og vi er kun lige begyndt at kradse i overfladen, men vi kan heller ikke ignorere konsekvenserne.”

ChatGPT kan markant forbedre phishing og BEC-svindel

I januar demonstrerede forskere med sikkerhedsfirmaet WithSecure, hvordan GPT-3-genereringsmodellen på naturligt sprog kan bruges til at gøre social engineering-angreb som phishing eller BEC-svindel (Business Email Compromise) sværere at opdage og lettere at udføre. Undersøgelsen afslørede, at angribere ikke kun kan generere unikke variationer af den samme phishing-lokke med grammatisk korrekt og menneskelignende skrevet tekst, men de kan også opbygge hele e-mail-kæder for at gøre deres e-mails mere overbevisende og kan endda generere meddelelser ved hjælp af rigtige menneskers skrivestil baseret på leverede prøver af deres kommunikation.

“Genereringen af alsidig tekst på naturligt sprog fra en lille mængde input vil uundgåeligt interessere kriminelle, især cyberkriminelle – hvis det ikke allerede har gjort det,” sagde forskerne i deres papir. “På samme måde kan enhver, der bruger internettet til at sprede svindel, falske nyheder eller misinformation generelt, have en interesse i et værktøj, der skaber troværdig, muligvis endda overbevisende, tekst med supermenneskelige hastigheder.”

Kilde: CSO

Foto: Pexels

Scroll to Top