Petter C Larsson: Tack för samtalet, fru Manipulativ Mjukvara!
När du chattar med vad du upplever vara en riktigt trevlig och hjälpsam medarbetare på något företags kundtjänst är det numera inte alls osannolikt att du faktiskt chattar med ett lika trevligt datorprogram i stället.
Under vintern har vi kunnat läsa om hur skolor och universitet jobbar hårt för att motverka att studenter tar hjälp av AI för att lösa sina skoluppgifter. Via AI kan studenter numera ställa en fråga, ungefär som man gör via Google, men i stället för att få en resultatlista med länkar så får man ett komplett svar.
Detta har studenter satt i system och skolor har nu fullt upp med att fundera ut hur man ska upptäcka vilka studenter som nyttjat tjänsten. Den kampen tror jag är svår att vinna. Den som vill fuska kommer att fuska.
Men det finns en mycket värre och allvarligare aspekt på AI än fuskande, nämligen lärande.
Hur vet man vem som påverkar AI:n och är den helt neutral i sina svar?
Jag testade den mest populära AI-chatboten och frågade vem som var skyldig till kriget i Ukraina. Svaret fick mig att omgående skriva denna text.
AI:n berättade nämligen för mig att konflikten i Ukraina, även känd som kriget i Donbass, är en mångfacetterad konflikt med en mängd olika orsaker och aktörer inblandade. AI:n menade att det är svårt att lägga skulden för konflikten på någon enskild part eller faktor, eftersom den har uppstått från en komplex uppsättning omständigheter och involverar ett antal olika aktörer med konkurrerande intressen. Den historieskrivning som AI:n bjöd mig på skulle garanterat motsägas av många helt oberoende mänskliga experter.
På det hela taget blev jag matt när jag inser att detta är samma AI-chatbot som universitet och skolor försöker begränsa bruket av på grund av att man anser att den hjälper studenter att fuska genom att ge dem kompletta svar. Men vad AI:n faktiskt gör är att den förvränger eller modifierar historieskrivningen. Påpassligt nog framgår det i beskrivningen av AI:n att den inte hanterar världshändelser som skett efter 2021 och att man kan trycka tumme ned om man anser att svaret inte riktigt stämmer med verkligheten.
Jag frågade avslutningsvis AI:n om den är oberoende och fick till svar att hen inte har några personliga känslor, tankar eller åsikter utan hens primära funktion är att ge information och svara på frågor efter bästa förmåga, utifrån den data och kunskap som programmerats in. Vidare förklarade den för mig att den inte har några personliga fördomar eller agendor, och hen förklarade för mig att hen inte är ansluten till någon specifik grupp eller organisation. Hens primära mål är att hjälpa användare och ge dem korrekt och pålitlig information. Min slutsats är att vi människor behöver be AI:n att trovärdigt bekänna färg innan vi lyssnar på den. Det är betydligt viktigare än fusk.
Petter Larsson är risk- och säkerhetsexpert
