Hva er promptware? Opprinnelse, definisjon, farer og sikkerhetstiltak
Hvis du på noen måte er i nærheten av IT‑feltet nå om dagen — i ordets videste forstand — “prompt” er sannsynligvis noe du hører oftere enn du helst ville. Fremveksten av store språkmodeller (LLM‑er), ofte omtalt som KI, har brakt dette enkle ordet i rampelyset, siden prompting er måten en bruker forteller disse modellene hva de skal gjøre og hvordan resultatet skal være.
Rekkevidden til kunstig intelligens gjennom alle aspekter av hverdagen vår øker. Selv om du tar høyde for markedsføringsknep som utnytter begrepet KI når det egentlig ikke er KI involvert, er spredningen av teknologien imponerende. Og den gjør ting mer naturlige og nyttige også: å skrive eller si forespørsler (prompter) på vanlig språk og få dem etterkommet eller utført er i de fleste tilfeller en behagelig opplevelse.
Det finnes selvsagt en bakside av medaljen. Det virker som jo smartere systemet er, desto flere inngangspunkter tilbyr det for ondsinnede aktører, og desto større skade kan de gjøre når de får kontroll. Og en av måtene å komme dit på er ved å ta i bruk et promptware‑angrep.
Så, hva er promptware?
Begrepet promptware ble introdusert av en gruppe kinesiske forskere i artikkelen “Promptware Engineering: Software Engineering for LLM Prompt Development” (publisert 4. mars 2025), som, som tittelen antyder, utforsker prompting som et kodeverktøy som kan brukes med LLM‑er, og foreslår å formalisere promptware‑ingeniørfaget til en fullverdig disiplin med egen metodikk og eget system.
Trusselen fra promptware‑angrep
En annen fersk studie, med tittelen “Invitation is All You Need,” viste hvordan et promptware‑angrep faktisk fungerer. I bunn og grunn klarte teamet bak denne artikkelen å lure Googles Gemini‑KI til å gjøre en rekke skadelige ting, fra å tukle med smarthusoppsettet via å utnytte det nettbaserte økosystemet (spamming, generering av giftig innhold, sletting av kalenderhendelser, eksfiltrering av e‑poster, osv.) til å spore brukerens posisjon. KI‑en ble tvunget til å gjøre alt dette av en enkel kalenderinvitasjon; det viser seg at (enhver?) handling brukeren foretar som svar på en slik hendelse, som å be Gemini sende et takkebrev, kan være en utløser som låser opp ondsinnede instruksjoner innebygd i tittelen på invitasjonen. De sier at dette fungerer med emnelinjer i e‑post også.
Prompt hacking (injection, hijacking) vs. promptware‑angrep
Du har kanskje hørt om prompt hacking, injection eller hijacking før (disse er i stor grad utskiftbare og skiller seg i noen ganske intrikate detaljer). Hvordan skiller den teknikken seg fra et promptware‑angrep?
Prompt hacking handler om å utforme prompter på en måte som gjør det mulig å manipulere en LLM til utilsiktet eller skadelig atferd. Instruksjonene som er designet for å overstyre/omgå KI‑ens innebygde begrensninger settes inn i prompten. Begrepet ble skapt i 2022; i dag er det en samlebetegnelse for ondsinnede forsøk på å få KI‑modeller til å gjøre noe de ikke skal.
Promptware‑angrep beskriver den typen angrep som utnytter naturlige språkprompter brukt som programmeringsgrensesnitt med det formål å kontrollere LLM‑atferd. Det er dypere og bredere enn prompt hacking eller injection, og kan faktisk inkorporere denne teknikken som en av komponentene i et kaskadeangrep. Promptware‑angrep er neste evolusjonstrinn i ondsinnet virksomhet designet for å kompromittere og utnytte integrerte KI‑økosystemer.
Slik beskytter du deg mot promptware‑angrep
Prompt‑injeksjoner er ikke noe nytt, noe som betyr at utviklerne av KI‑systemer allerede har kommet opp med forsvar som også kan avverge promptware‑angrep. I tillegg finnes det nye regler for digital hygiene som hjelper til med å forebygge uheldige hendelser.
- Velg KI‑leverandører med godt rykte. Ja, eksperimentet nevnt ovenfor utnytter Googles Gemini‑KI, men slike lærdommer tas som regel raskt til etterretning. Hvis du vil utruste hjemmet ditt med en KI‑drevet assistent, velg leverandører som er nøye med å beskytte kundene sine.
- Skjerm systemet mot uautorisert tilgang. De fleste smarthusoppsett og andre forbrukersystemer som bygger på LLM‑er, lar deg justere sikkerhetsnivået fra slapt til strengt. Velg strengt, selv om det begrenser funksjonene i det aktuelle systemet.
- Skjerm alt annet fra KI‑en. Det meste av programvare i dag vil lære så mye som mulig om deg, siden det kan tjenes penger på slik informasjon. LLM‑drevne systemer vil sannsynligvis opptre på lignende måte, uavhengig av tiltenkt formål. Bruk prinsippet om minste privilegium: begrens KI‑ens tilgang til bare de dataene eller kontrollene som er nødvendige for den konkrete oppgaven den er satt til å gjøre.
- Overvåk KI‑interaksjoner og atferd. Ethvert brukbart system fører logger (hvis det ikke gjør det, er det et rødt flagg); gå gjennom dem innimellom, og nøl ikke med i det minste å slå opp mistenkelige oppføringer på nettet, eller, bedre, kontakt kundestøtte og spør hva som er hva.
- Hold bare nødvendige funksjoner i gang. I en smarthus‑situasjon trenger du kanskje for eksempel ikke lenger en automatisk kattemater. Når du kvitter deg med den fysiske enheten, ikke glem å koble den fra KI‑en også.
Hvis det er informasjon du kan miste gjennom et promptware‑angrep, er det fornuftig å implementere en solid sikkerhetskopieringsplan. Les disse innleggene for råd og programvareanbefalinger:
