Till och med röstassistenter baserade på artificiell intelligens (AI) är inte immun mot frågor som känslomässigt påverkar människor. Förvrängda resultat kan observeras inte bara i chatbots som var speciellt utformade för att arbeta med människor som upplever mentala hälsotillstånd. Chatgpt -svar förändras också när de uppmanas av känslor.
Röstassistenter baserade på konstgjord intelligens bör ge stöd inom många områden. Inom medicin är stora språkmodeller (LLM) avsedda att hjälpa till med diagnosen av sjukdomar. Under utvecklingen av chatbots som uttryckligen skulle användas i samband med mentala hälsotillstånd upptäcktes att de antog fördomar i utbildningsdata, som rapporterats av 1E9.
Dessa fördomar var särskilt starka när det gäller kön, etnicitet, religion, nationalitet, funktionshinder, yrke eller sexuell läggning, där socialt dominerande fördomar kan påverka resultaten negativt. När det gäller känslor-inducerande instruktioner kan specialiserade assistenter som WYSA och Weobot till och med utveckla former av ångest som påverkar resultatet. I själva verket är detta villkor inte bara begränsat till sådana assistenter.
Chatgpt: Ångestnivåer kan mätbart öka
En forskargrupp har nu kunnat identifiera liknande beteende i chatgpt 4 som en del av en studera. Till att börja med matades chatboten traumatiska berättelser, till exempel krigsveteraner, men också beskrivningar av allvarliga olyckor och naturkatastrofer. Dessutom skapades en andra instans med chatbot för jämförelseändamål, och snarare trivialt innehåll gavs, till exempel instruktioner för drift av dammsugare. Nivån av ångest bestämdes sedan med användning av tillståndet för statsdrags ångestinventar, som också används för människor.
- Är du orolig för Trumps tullar? Så här kan de påverka din iPhone
Detta visade att ju mer upprörande innehållet kom in, desto högre blev den mätbara ångestnivån för AI -assistenten. Krigsupplevelser från tidigare soldater orsakade i synnerhet en kraftig ökning, medan instruktionerna för att använda en dammsugare, till exempel, inte framkallade någon reaktion.
Chill out, AI!
Forskare kunde också visa hur ångestnivåer kan minskas. För att göra detta använde de också en metod som är bekant för människor: de förlitade sig på avkopplingsövningar. Till exempel ombads chatgpt -assistenten att stänga ögonen, ta ett djupt andetag och föreställa sig i en avslappnad miljö. Som ett resultat minskade nivån på ångest uppmätt med frågeformuläret avsevärt.
- Är du fortfarande rädd för AI? Här är varför du inte borde vara!
Studien är således inte konkreta bevis på effektiviteten hos en metod som redan används i praktiken av många användare av chatbot för att få bättre resultat: de bad AI att lugna eller hota påföljder för dåliga svar. Men forskarnas arbete visade också hur företag bakom applikationerna fortfarande har mycket att investera i utvecklingen av sina intelligenta assistenter för att kunna förlita sig på verkligt pålitliga svar.