Kvalitet & Förnyelse

1
nov

AI – hot eller möjlighet?

Artificiell intelligens (AI) har en allt större påverkan på samhället och mänsklighetens framtid. Olle Häggström, professor i matematisk statistik vid Chalmers tekniska högskola, och Jonna Bornemark, professor i filosofi vid Centrum för praktisk kunskap på Södertörns högskola, fördjupar sig i ämnet under Kvalitetsmässan 2023.

Samtal om AI har på kort tid utvecklats till intensiva diskussioner där både dess outnyttjade möjligheter och potentiella risker granskas från olika håll. Det diskuteras om allt från självkörande bilar och medicinsk diagnostik till ökad social manipulation och förlusten av mänskliga arbetstillfällen. Olle Häggström har länge forskat inom området och betonar dess komplexitet.

– AI har jättemycket potential som behöver utforskas och utnyttjas. Jag tror att det kan vara till stor hjälp för till exempel beslutsstöd inom vården, trafikoptimering och andra tillämpningar som förbättrar ekonomi, hälsa och hållbarhet, säger han och fortsätter:

– Risken med en så snabb utveckling är att mänskligheten inte överlever. För bara några år sedan var det här ett väldigt abstrakt koncept men med dagens snabba utveckling är det en realitet som vi måste förhålla oss till. Om vi inte säkerställer att AI-systemen är förenliga med mänskliga värderingar och mål kan de bli extremt farliga.

Avknoppning snarare än ersättning
Jonna Bornemark understryker komplexiteten och ser också såväl möjligheter som risker med den tekniska utvecklingens framfart. En av de största riskerna menar hon är att människan kan förlora förmågan att fatta egna beslut och istället förlita sig på AI som en neutral och perfekt entitet.

– AI utvecklas med syfte att efterlikna mänsklig intelligens, inte tvärtom. Människor tenderar dock att börja förlita sig mer på motsatsen, att det är vi som borde efterlikna AI. Ju mer vi gör det, desto större påverkan kommer de här systemen ha på oss. Det kan i sin tur resultera i ett avhumaniserat samhälle där vi inte längre ser någon poäng i den mänskliga intelligensen, säger hon.

Hon vill dock uppmana till att inte enbart fokusera på dystopiska scenarier, utan också se de möjligheter som teknologin erbjuder. Under Kvalitetsmässan kommer hon att exemplifiera hur AI kan vara en värdefull resurs inom flera områden, så länge vi förstår syftet och behovet bakom dess användning.

– Vi måste behandla de här systemen som en avknoppning av mänskliga behov, snarare än ersättning. Jämför med ett par glasögon till exempel, de hjälper människor att se bättre. Och när vi inte använder dem, då har de inget direkt syfte. På samma sätt bör vi förstå AI, att det kan hjälpa oss utan att ersätta hela vår varelse, säger hon.

Samarbete och ständig reflektion
Både Häggström och Bornemark uppmanar till en fortsatt diskussion om AI och dess påverkan på samhället. Olle Häggström betonar främst vikten av de risker som finns när det handlar om AI:s förmåga till social manipulation.

– Risken finns att vi är nära den tröskelnivå då AI förmår manipulera människor systematiskt och på bred front. Att bromsa utvecklingen är en svår men nödvändig åtgärd tills dess att vi har bättre verktyg för att hantera de här riskerna. För att lyckas med det måste vi samarbeta med de ledande aktörerna av de mest kraftfulla systemen, säger han.

Även Jonna Bornemark menar att det finns risker med att frigöra sig från mänskligt beslutsfattande och förordar istället en djupare reflektion om interaktionen mellan teknologi och det mänskliga omdömet.

– Artificiell och mänsklig intelligens är två olika saker. Människor är mer än bara mekanik och kognition, de omfattar också känslor och levande kroppar. Det är viktigt att komma ihåg att tekniken är en produkt av mänskligt skapande och bör därför också behandlas därefter. Även om teknologin kan stödja oss i olika beslutsprocesser är människans omdöme fortfarande avgörande, särskilt när det handlar om de etiska frågor som kan uppstå i samband med användningen av AI, säger hon.

Kvalitetsmässan 2023
Under Kvalitetsmässan belyser Jonna Bornemark och Olle Häggström risker och möjligheter med AI, hur de kan komma att påverka samhället och vad vi behöver göra för att förebygga eventuell skada.

– Jag kommer att fokusera på det mänskliga omdömets betydelse i ett samhälle i snabb förändring. I grund och botten handlar det om att förstå syftet och behovet av AI och dess användning. Visst finns det många risker vi måste hantera, men jag tror också att det kan vara en värdefull resurs för en hållbar framtid, om vi bara använder det på rätt sätt, säger Jonna Bornemark och Olle Häggström avslutar:

– Jag vill uppmärksamma vilka samhälleliga risker AI kan medföra om vi inte reglerar det på rätt sätt. Att automatisera är i många fall väldigt bra, men vad händer om sådana här system ersätter mänsklig påverkan helt och hållet?

Jonna Bornemark och Olle Häggström deltar i AI – ett hot eller en möjlighet? den 22 november.
Jonna Bornemark deltar även i Det bortglömda omdömet den 22 november.