Tänk om AI främst skalar dåligt omdöme

I takt med att kapaciteten och förväntningarna på AI ökar växer en större utmaning fram: vad händer om det inte främst är kompetens, kvalitet och affärsnytta som skalas upp, utan suboptimeringar, en falsk känsla av kompetens och bristande omdöme?

I dag används AI i de flesta delar av marknads- och kommunikationsarbetet, från analys, research och planering till idéutveckling, kreativ förstärkning, innehållsproduktion och olika former av beslutsunderlag. Hastighet och produktivitet har blivit en hygienfaktor.

Men när allt fler får tillgång till verktyg som kan formulera resonemang, strukturera analyser och producera övertygande svar förändras gränserna för vem som uppfattas ha kompetens. Det som tidigare krävde erfarenhet kan nu simuleras på några sekunder. I teorin kan detta förstärka kompetens genom bättre analyser, snabbare processer och nya ingångar i det kreativa arbetet. Rätt använd fungerar AI som en kvalificerad second opinion.

När simulerad expertis blir svår att skilja från den äkta

I praktiken syns dock ofta en annan utveckling. Resultatet blir inte alltid bättre. Förenklade perspektiv och otillräckligt prövade underlag får i stället större genomslag än de förtjänar. Det som ser genomarbetat ut saknar ofta djup, kvalitet och relevans. Det som sparas i ett led återkommer som merarbete i nästa.

Workslop: När verktyget förstärker organisationens svagheter

Workslop från AI-användning är inte ett tekniskt problem, utan ett organisationsproblem. Det uppstår när styrning, ansvar och kompetens inte utvecklas i samma takt som kapaciteten, eller när kvaliteten inte säkerställs innan material förs vidare.

Diskussionen om AI-styrning utgår ofta från en idealbild av organisationer. Tydliga roller, klara ansvarsområden och kvalitetssäkrade strukturer, processer och system. I praktiken ser organisationer sällan ut så. Kompetens är ojämnt fördelad, ansvar flyter och beslut fattas under tidspress. Suboptimeringar och särintressen är en del av vardagen. När AI läggs ovanpå befintliga arbetssätt riskerar den därför att förstärka både det som fungerar och det som inte gör det.

Det gör att frågan om styrning blir mer komplex än vad som ofta beskrivs. Den avgörande kompetensen finns sällan samlad i en del av organisationen, utan är spridd. Samtidigt förändras organisationer över tid, vilket innebär att en modell för styrning som fungerar i ett läge snabbt kan bli otillräcklig i ett annat.

Styrning handlar därför mindre om att fastställa en enskild struktur och mer om att säkerställa hur beslut formas, prövas och korrigeras i praktiken. Vem sätter riktning, vem granskar och var finns den kompetens som avgör kvaliteten? Och kanske viktigast: vilka resonemang är det som faktiskt får genomslag när tempot ökar och produktionen blir enklare? När detta är otydligt fylls utrymmet snabbt av det som är lätt att producera och lätt att använda.

Inom kommunikationsarbetet blir utmaningarna särskilt tydliga. Det är ett fält som bygger på erfarenhet, omdöme och känsla för sammanhang, men som också öppnar upp för fler att tycka. Det är inte lika tekniskt definierat som exempelvis juridik eller ekonomi. När chefer och beställare får tillgång till verktyg som snabbt genererar analyser och formuleringar som bekräftar deras egna uppfattningar, även när de är felaktiga, förstärks risken. Genom sina agenter kan de få svar som upplevs som träffsäkra och övertygande, trots att de kan bygga på felaktiga tolkningar, antaganden eller rena hallucinationer. AI får därmed en funktion som både bekräftar och förstärker uppfattningar, oavsett om de är välgrundade eller inte.

I praktiken innebär det att personer i roller långt från hantverket kan börja påverka innehåll, strategi och riktning på ett sätt som tidigare var ovanligt och oönskat. Det gäller både internt och i relationen till kund.

Snabbare fel i större skala

Det är positivt att beställare och kunder kan göra mer kvalificerade bedömningar, men det förutsätter att beställaren har förmåga att bedöma och värdera underlagen. Utmaningen uppstår när perspektiv från delar av organisationen som saknar specialistkompetens inom exempelvis strategi, analys, kommunikation och varumärkesbyggande med stöd av AI får ett större genomslag i arbetet och processer. Underlag som framstår som välgrundade kan då börja styra riktningen, utan tillräcklig prövning.

Konsekvensen är att både arbete och relationer förändras. AI kan förstärka det som redan finns, även det som inte håller måttet. Mindre tid går till att skapa något som är genomarbetat från början. Mer tid går till att hantera sådant som redan satts i rörelse.

I organisationer med tydligt ansvar och utrymme för invändningar kan detta hanteras inom processerna. I svagare strukturer, där styrningen är mer toppdriven och återkopplingsloopar brister, drivs underlag vidare utan tillräcklig prövning. När chefer och beslutsfattare, med stöd av AI-verktyg, fattar beslut inom områden där de tidigare förlitade sig på specialistkompetens, finns en risk att både ansvar och kvalitet förskjuts. I värsta fall förstärker AI de processer som gör att bristande underlag inte ifrågasätts.

AI gör det möjligt att agera snabbare. Den gör det också möjligt att göra fel snabbare och i större skala.

Det är därför AI-styrning inte i första hand handlar om verktyg, utan om hur organisationer och kulturer säkerställer omdöme, ansvar och prövning i en miljö där produktion blivit trivial.

Vi behöver säkerställa att det inte blir bristande omdöme och lekmannamässiga tolkningar som sätter agendan. För i den här utvecklingen finns en uppenbar risk: att verktyg som var tänkta att förstärka kompetens i stället ger den en skenbar ersättning. Samtidigt behöver organisationer säkerställa att AI faktiskt förstärker befintliga kompetenser, och inte underminerar förtroendet genom att användas fritt utan tydlig förankring i ansvar, roll och kunnande.

AI ger oss superkrafter. Frågan är vilka krafter den förstärker.

Läs hela artikeln i Resumé här ➚

Joakim Lind
Kommunikationskonsult på Cloudberry och filosofie doktor i företagsekonomi