Kan man lita på AI?
Tillit till AI är inget ja eller nej. Den gäller en viss modell och en viss typ av uppgift, och den går inte att läsa sig till. Det är ett hantverk du bygger genom att testa dina gränser där det är säkert att misslyckas.
Efter ett föredrag på en konferens ställde någon i publiken frågan som många verkar bära på just nu: kan man lita på AI?
Svaret var ungefär: ja, det skulle jag säga, men du måste testa själv. Lär känna den, testa dig fram och bli trygg.
Jag tror att han hade rätt, och att svaret säger något viktigt om vad det innebär att jobba med AI. Det går inte att läsa sig till. Det är ett hantverk.
Men “testa dig fram” är lätt att säga. Vad betyder det i praktiken? Här är vad jag själv har lärt mig.
Du lär känna en modell
Tillit till AI är inget ja eller nej. Den gäller en viss modell och en viss typ av uppgift.
Det blev tydligt för mig i ett samtal med en kollega. Om jag är van vid en modell och råkar starta en session med en annan blir jag osäker. Plötsligt vill jag granska jobbet i sessionen.
Arbetet behöver inte ha blivit sämre, men jag har tappat känslan för hur jag ska läsa det. Det är som med en kollega: efter ett tag vet du vad du kan lita på och vad du behöver dubbelkolla. Den kunskapen får du bara genom att jobba tillsammans.
AI hittar alltid något
Fler granskningar ger inte automatiskt bättre resultat. Allt oftare låter verktygen en AI granska en annan AI:s jobb, och vi har märkt att den som granskar nästan alltid hittar något.
Därför säger en lista med anmärkningar inte så mycket om huruvida arbetet är bra nog. Ber du en AI leta fel, så letar den fel. Någon måste fortfarande ta ställning till vad som faktiskt spelar roll.
Där kommer människan in. Du behöver veta vad du ska ta hänsyn till, vad du kan bortse från och när det är good enough, och sedan styra arbetet därefter. Det omdömet är kärnan i hantverket.
Det blir extra tydligt när du jobbar inom ett område där du själv inte är expert, som juridik eller ekonomi. När jag gick igenom min egen deklaration med AI kom den fram till att jag borde skicka in en självrättelse. Så jag gjorde det. När svaret från Skatteverket kom insåg jag att det nog inte hade behövts. Det blev bara onödigt jobb, både för mig och för dem.
Problemet var inte att AI:n hittade något. Problemet var att jag inte kunde bedöma om det var värt att agera på, för jag har inte tillräcklig kompetens inom området. Det omdömet behöver fortfarande komma från en människa, och ibland från någon som kan ämnet bättre än du.
Så blir du trygg
Tryggheten kommer av att du testar dina gränser, och det går att göra utan att riskera något på riktigt. Två saker har hjälpt mig.
Fråga AI:n först
I början var jag ganska dålig på att testa själv. Jag fastnade och tänkte att jag måste fråga någon som kan det här.
Nu ser jag den tanken som en signal: ställ frågan till AI:n och resonera med den. Den kan låta säker även när den har fel, så den ersätter inte experter. Men du kommer längre på egen hand, och behöver du ändå fråga någon har du en bättre fråga.
Lös riktiga problem där det får gå fel
Du behöver avsätta tid, men jag har svårt att bara sitta och labba med något för labbandets skull. Det som funkar för mig är att låtsas att jag ska lösa ett verkligt problem, fast på testdata. Då har jag lärt mig något som jag sedan kan använda på riktigt.
Är du orolig för att röra verklig data kan du be AI:n bygga en replika av er miljö att öva i. Använd testdata i stället för kunddata. Och kom ihåg att en replika bara är så bra som det den känner till. Att något funkar där betyder inte att det är klart för skarpt läge.
Så, kan man lita på AI?
Ja, när du har lärt dig vad du kan lita på den med. Det är därför ingen annan kan ge dig hela svaret.
Avsätt tid, välj ett riktigt problem och börja där det är säkert att misslyckas. Testa dina gränser, lär känna modellen och träna upp känslan för när det är bra nog. Så bygger du hantverket.
Vi som skriver här heter Hanna och Tobias. Vi testar själva allt vi skriver om, och hjälper team som vill göra detsamma. Har du en fråga efter att ha läst? Skicka den till oss.
Ja, vi har skrivit den här tillsammans med Claude. Det vore lite märkligt annars, men vi vet vad vi vill säga, och har läst, petat och ratat tills formuleringarna, åsikterna och valen är våra.