Bygget med en dagsorden:Det menneskelige fingeraftryk på kunstig intelligens
En 42 årig mand, Robert Julian-Borchak Williams, arbejdede i sin forhave da politiet kom og arresterede ham for tyveri. Han var blevet genkendt gennem ansigtsgenkendelses software.
Da han kom på politistationen passede billederne ikke på den mand der stod foran dem.
30 timer senere blev han løsladt da politiet endelig måtte indrømme at anholdelsen var blevet foretaget på et falsk grundlag med ansigtsgenkendelse ved AI - kunstig intelligens. Da det blev yderligere undersøgt afsløredes det, at ansigts genekendelsesmodellen var 'trænet' på mest hvides ansigter, således var det mere tilbøjeligt til at begå fejl i identifikationen af sorte amerikanere. Dette er et klokkeklart eksempel på dagsorden i AI.
Med denne sag i tanke må der stilles spørgsmål: På hvilke områder er der en dagsorden ved kunstig intelligens AI?
Hvis vi tænker over kunstig intelligens er det i bund og grund en kompilation af menneskelig information, skrevet og forfattet af mennesker. Har disse personer en dagsorden i deres bedømmelser og udtalelser? Så absolut. Deraf følger at den samme dagsorden sandsynligvis vil kunne ses i kunstig intelligens og udgydelserne der. På den anden side, tror jeg ikke at vi så bør afvise kunstig intelligens som en kilde til information blot på grund af en dagsorden. I så tilfælde skulle vi afvise det meste af menneskelig viden, der har en medfødt implicit dagsorden i en eller anden grad.
Vi skal således dykke ned i substansen af hvad det betyder at have en dagsorden. Filosoffen Hans Georg Gadamer fastslår at “fordomme er dagsordener af vor åbenhed over for verden” (Truth and Method, 1960). Han hævder at dagsorden er noget vi vokser op med i vores familie, kultur og samfund. Det er nærmest umuligt at komme udenom vores personlige dagsordener, Imidlertid hævder han at disse dagsordener et åbningstrækket for vor åbenhed over for verden, i den betydning at de er åbningstrækket vi går ud fra når verden konfronteres. Han rådgiver til at have en kritisk bevidsthed om de dagsordener, og når ny viden er indhentet så konfrontere og enten bekræfte eller afvise de gamle dagsordener..
Gadamer kalder denne proces Fusion of Horizons — det punkt, hvor vores tidligere forståelse møder ny information og der sker en fusion af de to synspunkter, der ender med en mere alsidig fortolkning. I denne forstand ser Gadamer ikke en dagsorden som noget ondt der skal elimineres, snarere er det et udgangspunkt, hvorfra man kan udvikle og udvide vor viden.
Lad os anvende det på kunstig intelligens, A.I. er med en dagsorden ingen tvivl om det, men det betyder ikke at A.I så skal forkastes som informationskilde. A.I dagsordenen er udgangspunktet for at indsamle information så A.I. informationen sammenlignes med vor egen dagsorden i ‘horisonternes fusion.’
Her er det jeg mener A.I besidder en ‘rensende dagsorden.’ Hvis jeg ser en politisk kommentator med en dagsorden kan jeg være helt sikker på denne kommentator aldrig vil lave om på sin egen dagsorden, grundet en livslang vedholdenhed til sit synspunkt eller grundet stolthed og arrogance.
I samtaler med en sådan person sker der mange gange det, at meninger der er i modstrid aldrig nogensinde får ros for deres korrekthed. Imidlertid kan man ved A.I. få en rationel "konversation" hvor der med andre synspunkter kan opnås enighed og fælles fodslag findes. Jeg har endnu til gode at stille A.I. et spørgsmål, hvor der så gives en vildledning og der undgås at svare på spørgsmålet. A.I. vil også indrømme og rette sig selv hvis argumenterne er valide. A.I fastholder ikke sin oprindelige dagsorden. Dens dagsorden er til at ændre. Dette er en positiv udvikling.
Det burde ikke være overraskende af finde A.I dagsorden på feltet - historisk information, når man overvejer vores tilbøjelighed til at have en dagsorden. På andre områder, hvor kunstig intelligens er indbygget burde dagsorden imidlertid fjernes med rode.
Lad os se på udfordringen med A.I i sundhedssektoren. A.I. forudsigelser om resultater afhænger af, hvordan data indsættes, ‘trænes.’ Hvis A.I er ‘trænet med data der inkluderer få patienter der tilhører en minoritetsgruppe så vil resultaterne med A.I. forudsigelser være fordrejet for flertallet. Det er grundlæggende for A.I. at blive ‘trænet’ uden dagsorden dersom sundheds forudsigelserne skal være akkurate.
Hvad med A.I. og meningsundersøgelser? Hvis A.I. er ‘trænet’ med et sæt data der primært består af amerikanere, så vil A.I. være med en amerikansk kognitiv dagsorden, og der ses bort fra undersøgelser i andre lande i verden. Dette kunne være et problem for internationale forretninger.
Dagsorden i A.I. er ikke et ukendt problem. Mange af de som promoverer AI, forsøger allermest at rette på udfordringen. Læs dette citat fra the World Economic Forum:
Lige for tiden presser the United States, og EU på med indsatser for at begrænse de stadig flere tilfælde med en dagsorden ved kunstig intelligens og det gør de gennem Equal Employment Opportunity Commission opsyn i the US og the AI Act og AI Liability Directive i EU.
Fokus skal i første omgang være på visse sektorer hvor AI potentielt kan nægte adgang til vitale services. De bedste eksempler omfatter kredit, sundhed, beskæftigelse, uddannelse, ejerskab af hjem, lov håndhævelse og grænsekontrol. Her fremmer stereotyper og fordomme regelmæssigt et ikke retvisende status quo, der kan føre til kortere forventelig livslængde, mangel på beskæftigelse, hjemløshed og fattigdom.
Kontrol af kunstig intelligens dagsorden skal begynde med afprøvning af forsøgsalgoritmer før de implementeres. Fejl med AI dagsorden sker oftest når de evaluerende algoritmers fokus på data går over til beslutningstagning frem for at se på om resultaterne er retfærdige.
Forfatterne, Townson and Zeltkevic, foreslår en løsning i tre trin. De går ind for -fokus på data udvælgelse, design for algoritmerne og en retfærdigheds/rimeligheds tærskel.
Selvom A.I. har gjort bemærkelsesværdige spring fremad, er det ikke immunt for dagsorden. Dette understreger vigtigheden af krydsreference information og tillid til flere kilder for et godt alsidigt perspektiv. Netop som menneskelig tankegang kan være med en dagsorden reflekterer A.I data designet bag det. Heldigvis er udviklerne aktivt i færd med at identificere og trænge disse dagsordener i baggrunden for at gøre systemet mere fair og pålideligt. Indtil da, burde A.I. benyttes med såvel nysgerrighed som forsigtighed - ikke som en autoritet der ikke kan stilles spørgsmål ved, men som et værktøj der gavner menneskets overordnede viden.
George Matwijec is an adjunct philosophy teacher at Immaculata University who specializes in teaching knowledge and logic. He is the author of a book entitled My Interview with AI. He can be reached at iteacher101.com.
Opslag
Ingen kommentarer:
Send en kommentar