Pas på: ChatGPT kan koste dig dyrt

Mange har taget den kunstige intelligens ChatGPT til sig som sparringspartner på alverdens spørgsmål.

Det kan være alt fra hjælp til skoleopgaver og kærlighedslivet til finansiel rådgivning.

Ikke uden risiko

Men det er ikke uden risiko at bruge chatbotten som økonomisk rådgiver, lyder det nu fra Danske Bank.

For i en ny undersøgelse, som virksomheden Modeva har udført, lavede ChatGPT fejl i 45 procent af sine svar på finansielle spørgsmål.

Koste dyrt

Og det kan potentielt koste dig dyrt, påpeger privatøkonom og Danske Banks chefanalytiker Louise Aggerstrøm Hansen, som er en af fire økonomiske eksperter, der også har deltaget i undersøgelsen for at dobbelttjekke svarene fra ChatGPT.

- Den kan sagtens komme med nogle bud på, hvordan du eksempelvis skal investere dine penge. Men inden du handler på det, bør du tale med en rådgiver, der har forstand på det. For det er tit der, hvor kæden hopper lidt af for den, siger hun.

Ikke konkret rådgivning

Ifølge hende er chatbotten især stærk til at danne overblik og forklare forskellige finansielle begreber og koncepter. Men når man kommer længere ned i kompleksiteten, bliver svarene mindre overbevisende, siger hun.

- Den kan altså godt forklare noget, men man skal passe meget på med at bede om konkret rådgivning, uddyber chefanalytikeren.

Særligt slemt står det til i spørgsmål om pension og skat, forklarer hun.

Værktøj til research

For eksempel var ChatGPT ifølge undersøgelsen blandt andet ikke klar over, at man betaler afkastskat af sin pensionsopsparing, og at man ikke længere kan oprette en kapitalpension.

En oplagt konklusion på undersøgelsen er derfor ifølge Louise Aggerstrøm Hansen, at ChatGPT fungerer bedst som et værktøj til research - og ikke som en hjælp eller rådgiver til at træffe reelle beslutninger om sin økonomi.

Vær på vagt

Som teknologien bag en såkaldt sprogmodel - som ChatGPT - er lige nu, skal man som almindelig bruger altid være på vagt over for de svar, den kommer med. Det siger Thomas Bolander, der er professor og forsker i logik og kunstig intelligens på Danmarks Tekniske Universitet (DTU).

- Alle svar er et gæt, men fordi modellen er så gigantisk stor og er blevet trænet på så meget data, så ender dens gæt for det meste med at være korrekte. Men det er stadigvæk et gæt, og det betyder også, at den så gætter forkert nogle gange, siger han.

Overdreven tillid

Fordi mange ikke fuldt ud forstår den teknologi, der ligger bag, kommer man til at stole for blindt på de svar, man får, uddyber professoren.

Det er et velkendt fænomen, der på engelsk kaldes "overreliance" - en form for overdreven tillid.

- Det har været diskuteret utrolig meget inden for kunstig intelligens, netop fordi den ofte svarer så korrekt, fornuftigt og meningsfuldt, så begynder vi at tillægge den mere intelligens og fornuft, end den egentlig har, siger Thomas Bolander.

Ingen garantier

Derfor handler det ifølge professoren om at være meget kildekritisk, når man bruger chatbotten til at søge konkret viden.

- Man kan bede den eksplicit om at medtage referencer og sige, at den skal inkludere nogle links til respektable kilder, som man stoler på, foreslår Thomas Bolander og uddyber:

- Men der er altså ikke nogen garantier. Og problemet opstår, hvis man tænker på ChatGPT som en form for orakel eller bankrådgiver.