Artificiell Intelligence - behövs reglering?

[sten@proetica.se]

Hej. Jag har skrivit en artikel med inbjudan till att diskutera den snabba utveckling av AI. Vore kul med en diskussion i detta forum.

[Per]

Grattis Sten! Du är den förste som på egen hand tagit din in i sstemet! Jag har upptagen hela dagen igår och kunde därför ite hjälpa dig.

Betr AI anser jag att farorna är överdrivna. Det handlar om mekanisk inlärning baserat på mönster i en gigantiskt mängd information. Genom att justera vikter i ett nätvverk kan man få ett neuralt nätverk att producera utsagor som i stort sett stämmer med inmatad information som man vet är korrekt. Det sista är viktigt: Frågorna måste vara sådana att de har en entydig lösning. Det intressanta är också att du kan använda samma neurala nät till olika tillämpingar, det är bara att nollställa vikterna och träna det igen. Vi har många sådana nät omkring oss. T ex avstavningen i Word och andra program görs av ett neuralt näterk. OCR, att omvandla en  bild av en text till redigerbar text görs också med ett neuralt nätverk. Det är fenomenalt på att hitta mönster i sin indata, n.b. det mönster det är tränat att hitta.

Jag skrev härförleden en kort ddebattartikel om ChatGPT och jag ska hålla föredrag om det på Rotary i Strömstad i samband med vår vetenskapsfestival. Jag bifogar den här.

PS, Glöm inte kessa i rutan "Subscribe and receive email notification of new replies" strax under ditt ursprungliga inlägg om du inte redan gjort det.

[sten@proetica.se]

Den som vill veta mer om den oron för och problemen med Artificiell Intelligens kan läsa två stora artiklar i dagens (6/4) DN Kultur samt Lisa Irenius (kulturchef) krönika i dagens SvD. Se också The European Union’s Artificial Intelligence Act, explained på denna länk: https://www.weforum.org/agenda/2023/03/t...explained/

---

[sten@proetica.se]

Intressant och tänkvärd ledare av Peter Wolodarski i Påskdagens DN:

Vi är alla ¬försökskaniner för ett otestat och revolutionerande läkemedel.

Tycker du att det senaste decenniet varit turbulent? AI-revolutionen talar för mer storm.
För någon månad sedan frågade min mamma om jag kunde hjälpa till att besvara ett formellt brev på engelska. Det som skulle ta henne någon timme kunde jag som van skribent lösa på 20 minuter, tänkte hon.

I själva verket tog det en minut.

Jag testade att klistra in mejlet som hon fått i Chat GPT och förklarade i ett par punkter hur det skulle besvaras. ”Skriv i vänlig stil”, avslutade jag instruktionen.

Förslaget från AI-roboten kom inom några sekunder. Det var i det närmaste felfritt. Där fanns även en artig hänvisning till att brevskrivaren precis blivit mamma – och en förstående formulering om hur detta påverkade hennes möjligheter att klara en deadline.
Några små detaljer i brevutkastet behövde jag rätta till. Men sedan kunde det skickas i väg. Tid sparades.

Det har gått ungefär fyra månader ¬sedan GPT lanserades som prototyp. Det känns som fyra år sedan. Under denna period har nämligen en upp¬daterad version av AI-verktyget presenterats, som är markant bättre.

Framsteg som många trodde att vanliga konsumenter skulle få vänta på i decennier, ser nu dagens ljus. Och radikala förbättringar sker på några månader.

Jag skrev ”framsteg”, och det förutsätter ju att detta är en teknisk revolution som är till gagn för mänskligheten.

Att det är ett slags omvälvning kan vi utgå ifrån. Vi har nu tillgång till hjälpmedel som – redan i dag – presterar ungefär lika väl på en tenta i biologi, kemi och juridik som en toppstudent.

Men vad betyder det? Vi kan utgå ifrån att en betydande del av arbetsmarknaden för framför allt tjänstemän påverkas på ett genomgripande sätt.
Artificiell intelligens kan ersätta, komplettera eller snabba på mängder av arbetsuppgifter som i dag utförs av människor.

Trött på att producera powerpoint-bilder? Låt AI göra jobbet.
Ta fram ett utkast till avtal? Be roboten.

Få hjälp med medicinska frågor? Svaren kommer blixtsnabbt, och ger utrymme för resonerande följdfrågor.

I 25 år har vi levt med sökmotorn Google. Det här är Google 2.0.

Entreprenören Kristian Rönn, som driver företaget Normative, berättar för mig hur hans programmerare tar hjälp av den senaste versionen av Chat GPT för att skriva kod. Uppgifter som fram till nyligen tog en månad att utföra, klaras nu av på en dag.
Jag träffade Kristian Rönn under ett möte i Davos med Googles högsta ledning. Det som utmärkte honom var att han var den ende i rummet som avbröt hallelujastämningen med kritiska frågor till Googles koncerndirektörer.

Ja, vad vi bevittnar nu är en mil¬stolpe. Den kan jämföras med när smartphonen hamnade i var mans hand.

Ja, rätt använd kommer den här innovationen inte bara att förenkla vardagen för oss alla på ett genom¬gripande sätt. Den kommer att leda till en global produktivitetsboom och spara massor av resurser.

Ja, det är otroligt viktigt att det är världens mäktigaste demokrati, USA, som leder utvecklingen via Google och Microsoft, inte diktaturen Kina.

Men om det är något vi erfarit under 2000-talets inledande digitaliseringsoptimism, så är det att vara vaksamma.

Under det senaste decenniet har vi fått uppleva hur sociala medier utnyttjats för desinformation, uppvigling och manipulation av demokratiska val.

Till en början tvådde techjättarna sina händer, och försökte göra gällande att de bara tillhandahöll en global, demokratisk plattform. De tog inget som helst ansvar för hur deras system påverkade till exempel unga människors hälsa.

Den senaste tekniken är fantastisk, men hur hanterar vi farorna?

Bara för att ge ett exempel: AI kan redan nu ge detaljerade instruktioner för att tillverka vapen och sprängämnen. Teknologin har redan använts för att upptäcka 40 000 nya kemiska stridsmedel på mindre än sex timmar.

Be AI att ta fram ett rekryteringsmaterial för al-Qaida – och det finns inget i själva tekniken som sätter stopp.

Om vi de senaste åren bekymrat oss för spridning av falsk information på internet, är det vi hittills sett en västan¬fläkt mot vad AI kan spotta ur sig. Och det behöver inte ens ske medvetet. Det inträffar därför att systemen, med sina inbyggda brister, hallucinerar och hittar på. När jag frågade om mig själv på Chat GPT fick jag som svar att jag tidigare arbetade som korrespondent för Svenska Dagbladet i Washington och att jag rapporterat från krigen i både Irak och Afghanistan.

Hedrande, förvisso. Men allt¬sammans är hittepå.

Det pågår ett race mellan Microsoft och Google om ledarpositionen här, och hetsen har tilltagit sedan Chat GPT lanserades. Med flåset ökar också risken för misstag.

Det blev nyligen känt att Microsoft i en större nedskärning beslutat sig för att säga upp hela det interna team som ägnat sig åt AI och etik. De verkar ha fungerat för mycket som en broms. Samtidigt cirkulerar ett upprop med ledande techprofiler som efter¬lyser en tankepaus för hela branschen på sex månader.

Festina lente; skynda långsamt. De gamla romarna förstod saker utan att ta hjälp av någon chatbot.

Vem tar ansvar för etiken? Den amerikanska regeringen sitter på läktaren och avvaktar, EU tar initiativ och försöker, kanske mest för att vår del av världen saknar den amerikanska innovationskraften. Då ägnar vi oss i stället åt att uppfinna lagstiftning, som tidigare med GDPR.

Jag vet inget annat fält med så genomgripande samhällskonsekvenser som tillåter några techbolag att reglera och övervaka sig själva – samma globala giganter som för övrigt äger de datacenter runt om i världen som spelar en nyckelroll i utvecklingen.

Även om 95 procent av det vi nu ser är positivt, är det hög tid att också intressera sig för de 5 procent som kan orsaka enorma skador på våra demokratier.

Alla förstår varför kärnvapen är inlåsta, strikt kontrollerade och ytterst hemliga.
Inom forskningen finns tydliga etiska ramverk – och möjlighet till sanktioner.
Nya banbrytande mediciner får inte släppas till allmänheten utan omfattande testning och godkännande från myndigheter.

När det gäller AI råder fortfarande låt-gå-principen, som Elsa Kugelberg påpekade i veckan i en krönika i DN Kultur. Har vi otur styr autopiloten oss rakt ned i avgrunden.

PS om journalistik och AI:
Gärna AI som ett viktigt hjälpmedel i vårt arbete. Men ju fler AI-robotar som visar upp sig, desto mer övertygad blir jag om behovet av äkta avsändare – inte minst reportrar och fotografer som ¬möter människor, undersöker saker, ¬lyser upp verkliga skeenden och platser.

[Per]

Tänkvärda tankar utan tvekan. En chatbot kan utan vidare generera standardiserade texter. T.ex. testade jag ChatGPT med att be om en mångfalssplan för Strömstad akademi. Det kom en alldeles förträfflig sådan, väldigt lik de planer jag settt tidigare i mina jobb. Men när jag bad om en jämlikhetsplan vägrade roboten att skriva en sådan. Skyllde faktiskt på att den okunnig de etiska förhållandena som gällde. 

Beslutsteori är ett område man forskat inom i informatiken. Där kan man ju få fram alldeles utmärrkta underlag ur affärssystemen t ex för lagerstyrning och även produktionsstyrning. Många av dessa processerna är redan automatiserade så att tex produktionen snabbt kan läggas om när en maskin fallerar. Turen har nu kommit till administrativt arbete ch precis som vid datoriseringen ser man massarbetslöshet om hörnet. Jag tror dock inte det, precis som Voldarski skriver på slutet: Behovet av äkta avsändare kommer att öka. 

Beträffande möjligheten att låta en AI tenta, ja om det lyckas säger det minst lika mkt om examenssystemet som om roboten. Universitetens viktigaste uppgift är att lära de studerande självständigt tänkande, att inte bara redovisa standardsvar på standardfrågor utan komma med väl genomtänkta och kreativa förslag. Då kan man inte ha tentor som baseras på några tiotal frågor de studerande kan plugga in i förväg. Jag hpller just på att utvärdera et program på Hlgskolan Väst och i en kursvärdering klagade en struderande på att frågorna på tentamen inte var desamma som tidigare! Vi har också den tråkiga historien med en studerande från Pakistan som blev fälld för fusk, för han hade ordgrannt citerat stora stycken ur läroboken. Senare visade det sig att han hade lärt hela boken utantill! Vad är det för fel på en gammaldags hederlig mjuntlig tentamen egentligen?