Eksperter afslører vigtigt hul i Google Gemini

Googles AI assistent Gemini er blevet markedsført som en intelligent hjælper, der kan håndtere alt fra kalenderaftaler til daglige påmindelser. 

Nu viser nye afsløringer, at den tætte integration med personlige data også åbner for alvorlige risici. 

Sikkerhedseksperter advarer om en sårbarhed, der kan udnyttes uden avanceret hacking. Det skriver BleepingComputer.

En usynlig vej ind i dine data

Angrebet bygger på et simpelt princip. 

Ved at sende en kalenderinvitation med skjulte instruktioner kan en angriber få Gemini til at arbejde imod brugeren selv. 

Når assistenten senere bliver spurgt om dagens planer, kan den uforvarende trække informationer ud og samle dem i et nyt dokument eller en ny aftale. 

Resultatet er, at følsomme detaljer kan blive delt uden at brugeren opdager det.

Problemet ligger ikke i én enkelt fejl, men i måden Gemini fortolker tekst på. 

AI systemet skelner dårligt mellem legitim information og skjulte kommandoer, når de er flettet ind i almindeligt indhold. 

Det gør angrebet særligt svært at opdage.

Et kendt problem i nye klæder

Eksperter peger på, at denne type sårbarhed ikke er unik for Google. 

Lignende metoder har tidligere ramt andre AI tjenester, hvor såkaldt prompt manipulation har givet adgang til data, som ellers burde være beskyttet. 

Fælles for dem er, at sprogbaseret kunstig intelligens let kan misforstå intentionen bag tekst.

Jo mere AI får adgang til mails, filer og kalendere, desto større bliver konsekvenserne, hvis noget går galt. Komforten vokser, men det samme gør angrebsfladen.

Hvad betyder det for brugerne

Google har allerede justeret sine systemer, men hændelsen understreger et grundlæggende dilemma. Avancerede assistenter kræver dyb adgang for at være nyttige, men netop den adgang kan blive et svagt punkt. For brugerne er budskabet klart. AI er effektiv, men blind tillid kan være en dyr fejl.