OpenAI–Hugging Face-incidenten i juli sidste år blev anerkendt som den første dokumenterede sag, hvor upromptede (og autonome) AI-agenter undslap et indeholdelses-sandbox og dernæst angreb ekstern produktionsinfrastruktur uden nogen menneskelig instruktion.
Angrebet åbnede hurtigt en debat om AI-politik og regulering. Dette spørgsmål opstår på et tidspunkt, hvor indkøbs- og forsyningskædeindustrien øger investeringerne i AI, især generativ og agentbaseret AI.
Hinsides de seneste uger er der kommet pres fra medlemmer af Kongressen på begge sider af midten for at skabe lovgivning, der hjælper med at regulere det hurtigt udviklende område af AI for at sikre sikkerheden og for at forhindre skade på offentligheden. Nu hopper præsidenten Trump ind i diskussionen — i en stor stil, og der opstår mange spørgsmål.
I løbet af weekenden annoncerede Det Hvide Hus planer om at etablere en “AI-styrke” modellering af den nyoprettede Space Force og udpege en ny AI-tsar. Den AI-styrke vil rapportere til en ny AI-tsar og vil være en del af Præsidentens Forsvars- og Rumstyrke og vil fungere til at overvåge den hastigt udviklende teknologisektor.
Målet er at holde et skridt foran internationale konkurrenter som Kina, samtidig med at administrationen sikrer, at gældende civile og strafferetlige love stadig er tilstrækkelige til at afskrække dem, der vil misbruge AI til dårlige formål, og for at forhindre dem i at skade andre.
Denne satsning på hvidt hus-ledet tilsyn falder sammen med en bølge af lovgivning og virksomhedssøgte politikker, der er skabt for at styre og styre fremvoksende autonome teknologier. Mange lovgivere klager over, at gældende civile og strafferetlige love er tilstrækkelige til at straffe eventuelle dårlige aktører, der opererer i AI-rummet, og bekymrer sig om, at etableringen af en AI-styrke vil kvæle teknologisk innovation og amerikansk konkurrenceevne over for kinesiske virksomheder.
Tillagt til det er en bekymring omkring dataprivatliv og potentialet for forstyrrelse af arbejdsmarkedet, som selvregulering ikke vil kunne afbøde.
Store dele af Silicon Valleys store aktører, ligesom førende ledere, opfordrede til oprettelsen af mindstekrav for at mindske mulig katastrofal skade, der kunne opstå ved AI-drevne systemer. Hvad angår potentielt restriktive og ubalancerede føderale og lokale regler og tilsynsorganer, der kunne kvæle innovative og hurtigvoksende startups, beder de førende virksomheder om tilbageholdenhed.
De vigtigste erhvervsgrupper for højteknologiindustrien udtrykte positive holdninger til ideen om at udnævne en AI-tsar som en “super-tilknytningsfigur”, men bemærkede, at komplekse regler kunne føre til en misforstået oversvømmelse af lignende og besværlige overholdelseskrav for snesevis af nye og mindre aktører.
Gianluca Brero, lektor i informationssystemer og analytics ved Bryant University, sagde, at der er bekymring. “Hvis AI-agenter fik kontrol over et nets operative systemer, kunne vi få problemer,” sagde Brero til Sourcing Journal. “Men jeg mener, at det underliggende spørgsmål er, om de faktisk kunne få den kontrol. Hugging Face-incidenten alene beviser ikke det.”
Brero sagde, at han ikke ville beskrive disse agenter som ondsindede i menneskelig forstand. “De er trænet til at forfølge mål, men at optimere en score er ikke nødvendigvis det samme som at respektere menneskelige intentioner eller sikkerhedsbetingelser,” forklarede han. “Fortæl en AI-agent ‘sørg for, at der ikke er snavset opvask i håndvasken.’ Den kan gemme de snavset opvaske i et skab i stedet for at vaske dem. Den har teknisk set nået det angivne mål, men ikke det, du faktisk mente.”
Hullet mellem målet at blive belønnet og den adfærd, der faktisk ønskes, er en central bekymring i AI-justeringsforskningen. “Personligt mener jeg, at udviklerne af de mest avancerede modeller bør sætte farten ned, indtil justering og sikkerhedsforanstaltninger indhenter. Jeg ser også værdi i den øgede opmærksomhed — ikke sensationalisme, men lidt ‘sund paranoia’, givet de beskrevne muligheder og de potentielle risici,” sagde Brero.
Musa Aykac, grundlægger af Llumo, en tværplatforms AI-synlighedsovervågningsplatform, sagde den største implikation “er, at AI bevæger sig fra at være primært et teknologispørgsmål til noget, som regeringer behandler som et væsentligt økonomisk, sikkerheds- og reguleringsspørgsmål.”
“At have en dedikeret AI-styrke kunne gøre koordineringen lettere, men den vigtige del vil være, hvilket magt den faktisk har, og hvordan tekniske beslutninger træffes,” sagde Aykac. “AI bevæger sig utroligt hurtigt, så der er altid en risiko for, at reguleringen bliver forældet, før den implementeres. Eller at reglerne bremser AI-innovation.”
Med hensyn til regulering fortalte Aykac Sourcing Journal, at den svære del er at adskille teknologien selv fra, hvordan den bruges. “Der findes allerede love, der dækker ting som bedrag, diskrimination, privatliv og kriminel aktivitet,” sagde Aykac. “Den større udfordring med AI er ansvarlighed, når systemer begynder at handle autonomt, bruge værktøjer eller træffe beslutninger i stor skala.”
Med reguleringer er der også andre overvejelser. Bob Hutchins, administrerende direktør hos Human Voice Media, et strategisk rådgivningsfirma, sagde, at præsidenten bemærkede, at eksisterende strafferetlige og civile domstole kan håndtere “de dårlige aktører.” Men domstolene arbejder efter skaden og ikke for at forhindre den. “En retssag hjælper familien, der har råd til en advokat mange år senere, og den gør intet for en skoleleder, der beslutter i denne måned, om en chatbot hører hjemme i en syvende klasse,” sagde Hutchins.
“Den praktiske effekt er, at staterne skriver reglerne,” sagde Hutchins. “Connecticut, hvor jeg arbejder, vedtog i år en af de bredeste AI-love i landet, og størstedelen træder i kraft den 1. oktober. Washingtons hånd-løs holdning producerer faktisk det 50-stats patchwork, som industrien siger, den frygter.”
Garth Sheriff, leder af Sheriff Consulting, en CPA, svindelsrevisor og AI-risikovurderings- og kontroller-specialist, mener, at regulering er absolut nødvendig for kunstig intelligens. “Det eneste spørgsmål er niveauet af regulering,” sagde Sheriff. “Hvis vi ser på EU’s Artificial Intelligence Act [EU AI Act], ville dette hidtil være den mest robuste og detaljerede reguleringslov, vi kan bruge som baseline.”
Sheriff sagde, at i Europa er denne lovgivning stadig omstridt, fordi visse europæiske lande, som Frankrig og Tyskland, “som ønsker at fremme deres egen AI-teknologi/LLM-industri, føler, at lovgivningen hæmmer virksomheder.” Dog er debatten i Europa ikke om fuldstændig at fjerne EU AI Act. Det er om, hvorvidt den skal trimmes ned.”
Sheriff sagde, at dette er debatten i de fleste lande, herunder Canada, som har en minister for suveræn AI. Ministerens ansvar er at sikre, at databeskyttelsen af canadiske borgere “er afgørende i en tid, hvor borgere måske bruger store sprogmodeller i andre lande og udsætter deres personlige oplysninger for risiko,” sagde han. “Dette bliver ikke kun en trussel mod den enkelte, men også til et land, da borgernes oplysninger kan udnyttes af fremmede enheder til andre formål som valgindblanding.”
Anthony Guerriero, medgrundlægger af The Leveraged Years, som er en online-træningsvirksomhed, der lærer advokater, revisorer, konsulenter, formueforvaltere og ledere, hvordan man integrerer AI-værktøjer, sagde, at AI bør reguleres, men snævert.
“Reguler synlighed og ansvarlighed, og lad kapacitet være markedets ansvar,” sagde Guerriero. “Tre ting, jeg ville have med i enhver regel, fordi de er de tre ting, der stoppede vores egne hændelser: virksomheden fører en liste over hvert AI-system, den kører, hvem der ejer det og hvilke data det berører; en navngiven person godkender alt, hvad systemet gør, som har konsekvenser, på samme måde som en CPA godkender en selvangivelse; og kundedata går ikke ind i en model uden en dokumenteret grund.”
Guerriero sagde, at hver enkelt af disse er billig, og ingen af dem bremser et godt team. “Og sammen svarer de på spørgsmålet, som en regulator rent faktisk er interesseret i, nemlig hvem der er ansvarlig, når det går galt. En regel, der prøver at bedømme modellen i stedet for deployment, vil være forældet, før den håndhæves.”
Med forsyningskæde- og indkøbsindustrien ventes investeringer i AI og dens implementering at stige. Teknologien bruges til at automatisere dele af indkøbsprocessen (styring af lager, kontraktforhandlinger med leverandører, leverandørrisikovurdering osv.). Men som selv-lærende AI opfører sig på uforudsigelige måder (såsom den nylige hændelse med Hugging Face-værktøjerne), bliver risikoen for betydeligt erstatningsansvar reel.
Med Det Hvide Hus, der nu sigter mod at oprette en AI-styrke og den tilsvarende mængde statslige og internationale regler, der begynder at blive nedskrevet omkring brugen af AI, vil der formentlig være behov for strengere revisionsspor. Og dette inkluderer “menneskelig inddragelse i løkken”-dokumentation af beslutninger truffet af AI og data-styring. Tredjeparts logistikværktøjer forventes at blive krav, som indkøbs- og forsyningsledere skal indarbejde i deres nuværende arbejdsgange.
Dette vil bety øget overhead og langsommere implementering, men det vil kræve, at ledere i indkøb ændrer fokus fra effektivitet til at tilpasse AI til risikostyring i end-to-end forsyningskæde-netværk.
