Indhold
- Affyret af maskinen
- Automation og afbrydelse af job
- Ingen fejl, ingen stress - Din trinvis vejledning til oprettelse af livsændrende software uden at ødelægge dit liv
- Ansøgninger fra forbrugerelektronik
- Genvinder kontrol
- Sådan fungerer det
Kilde: Artinspiring / Dreamstime.com
Tag væk:
For at automatisering skal arbejde med og for menneskeheden snarere end imod den, har vi brug for sikkerhedsforanstaltninger og informerede mennesker, der er bemyndiget til at stoppe eller rette en systemfejl.
”At fejle er menneske; for virkelig at ødelægge ting kræver en computer. ”William E. Vaughan gjorde denne observation tilbage i 1969. At give kontrol over et automatiseret system medfører potentiale for, at systemet kan gå galt og forårsage alvorlig skade, før det kontrolleres.
Automation er ikke ny, men den bliver meget mere udbredt takket være integrationen af digitale og fysiske systemer. Ulempen med automatisering i skala er stor effektivitet. Men ulempen ved at stole på et sæt-det-og-glem-det-system er, at nogen muligvis undlader at indstille det ordentligt.
Med et system, der simpelthen følger uden indgreb og ingen måde at stoppe maskinen, kan du have ødelæggende virkninger. Følgelig kan tech skabe den type situation, der er afbildet i ”Troldmandens lærling”, når det, der ser ud til at gøre livet lettere rent faktisk løber tør for kontrol.
Affyret af maskinen
Automation uden indgriben er, hvad der resulterede i, at en teknisk arbejdstager i Storbritannien befandt sig ude af et job uden grund sidste år. Ibrahim Diallo bemærkede, at hans sikkerhedsklareringskort ikke virkede på arbejdet og opdagede, at det var fordi han var ude af et job. “Maskinen fyrede mig” er den titel, han gav til hans udvidede blogindlæg om begivenheden.
I sidste ende var årsagen til Diallos ophør ikke en slags algoritmes vurdering, der bestemte, hvem der skulle fjernes. Problemet var ikke inden for systemet, men var en menneskelig fejl. I dette tilfælde var det al den automatiske reaktion på et menneskes manglende indsættelse af Diallos kontraktfornyelsesinformation.
Det er ikke, at maskinen besluttede, at han skulle fyres for noget specielt. Den udførte simpelthen de trin, der var programmeret til det, for en person, hvis status viste sig som ikke længere ansat. Som han præciserer i kommentarerne, er dette ikke rigtig AI men "automatiseret script." (For at lære om, hvordan AI kan hjælpe (i stedet for at skade) i virksomheder, skal du tjekke, hvad AI kan gøre for virksomheden.)
Automation og afbrydelse af job
Denne form for effekt er ikke nøjagtigt, hvad folk ser for dem, når de beskriver de vidunderlige fordele, vi kan forudse i en automatiseret fremtid. De sædvanlige optimistiske udsigter for et skift i job, når opgaver overtages af automatisering, job omdefineres - ikke afsluttet af automatiserede systemer. Men virkeligheden er, at nogle job vil blive elimineret, og de mennesker, der har dem, ikke nødvendigvis er i stand til at foretage en problemfri overgang til de nye karrierer i en stort set automatiseret branche.
Jobforstyrrelse er en af de mere mindre risici, som Elon Musk forudså for fremkomsten af AI, skønt hans egen vision om virkningen på job er langt mere pessimistisk end Fitzgeralds. Efter Musks opfattelse har AI brug for streng regulering, fordi det udgør "en grundlæggende, eksistentiel risiko for menneskelig civilisation."
Ingen fejl, ingen stress - Din trinvis vejledning til oprettelse af livsændrende software uden at ødelægge dit liv
Du kan ikke forbedre dine programmeringsevner, når ingen er interesseret i softwarekvalitet.
Ansøgninger fra forbrugerelektronik
På trods af Musks egne tech-legitimationsoplysninger, er nogle eksperter inden for området som Rodney Brooks, der fungerede som grundlægger af MITs computervidenskab og kunstig intelligenslaboratorium, og indbød både iRobot og Rethink Robotics, siger Musk er forkert med den trussel om AI og hvordan robotik faktisk fungerer.
I et interview med TechCrunch indikerede Brooks, at det er dumt at kræve regler uden at få teknologien modnet til det punkt, hvor vi kan identificere nøjagtigt, hvad der skal reguleres. Han udfordrede Musk: "Fortæl mig, hvilken adfærd vil du ændre, Elon?"
Brooks indrømmede, at robotter vil medføre forskydning af job. Men han mener også, at det er muligt at skifte paradigme i industrien til at følge forbrugerelektronik.
Den måde, han udtrykte det til i TechCrunch-interviewet, var: ”Vi har tradition for at fremstille udstyr, at det har forfærdelige brugergrænseflader, og det er svært, og du er nødt til at tage kurser, mens vi inden for forbrugerelektronik har lavet de maskiner, vi bruger, til at lære folkene hvordan man bruger dem. “
Det var, hvad han sagde skulle være målet for at ændre den måde, vi forholder os til "industrielt udstyr og andet udstyr, for at få maskinerne til at lære folk, hvordan de bruger dem."
Genvinder kontrol
Hvad Brooks foreslår, kan pege os i retning af en løsning på problemet med menneskelig fejl, der udløser den automatiserede proces, der ser ud til at være ude af kontrol. For at henvise tilbage til Mickey's misadventure i "Troldmandens lærling", stammer problemet alt sammen fra den person, der aktiverer systemet, men ikke har nogen reel måde at kommunikere med det for at få det til at stoppe eller ændre retning.
Men hvis grænsefladen er lavet på linje med forbrugerelektronik snarere end traditionelle industrimodeller, kunne det bogstaveligt talt sætte kontrollen tilbage i menneskelige hænder. For virkelig at være effektiv skal grænsefladen ikke bare være tilgængelig, men designet til at holde folk i løkken om, hvad der sker, levere data om de opdateringer, den har modtaget, og hvilke handlinger den har taget.
Sådan fungerer det
I tilfælde af Diallos utilsigtede opsigelse, ville det betyde, at det automatiserede system ikke bare låste ham ud af systemet og derefter give en rekrutterer, at han blev opsagt. Det erkender først, at fornyelsen af kontrakten ikke blev indført på den forventede dato. Før den påbegynder afslutningsforanstaltninger, ville den tilbyde krybbe og rekrutterer opdateringen om den manglende fornyelse og de konsekvenser, der vil følge inden for dagen, hvis der ikke træffes noget.
Den slags alarm giver folk mulighed for at tage informerede beslutninger om, hvorvidt de skulle lade automatiseringen fortsætte eller gribe ind for at rette op på den menneskelige fejl, der var den oprindelige årsag til problemet. Men folk er også nødt til at gøre deres del, svare på alarmen og tage den rigtige handling. Med andre ord svaret på det spørgsmål, som Brooks stillede om adfærd, gælder mennesker; de skal være mindre passive i lyset af automatisering. (Se Kanalisering af det menneskelige element: politik, procedure og proces for mere om, hvordan mennesker og maskiner kan samarbejde.
Som Diallo skrev i kommentarafsnittet på sin blog, var grunden til, at dette var i stand til at komme til det punkt, det gjorde, at folk nægtede at gå imod maskinen:
En anden ting, der overses, er, at selvom alle vidste, at det var en menneskelig fejl, der udløste den, og at det udelukkende var en fejl, valgte de at følge s. Det er som at sætte et 'rygning tilladt' tegn på hospitalet, og folk respekterer tegnet i stedet for at bruge sund fornuft.
Følgelig er de politikker, vi er nødt til at vedtage for at automatisering skal arbejde med og for menneskeheden snarere end imod den, at være to gange: På maskinsiden har vi brug for grænseflader, der er tilgængelige og informative, og på den menneskelige side har vi brug for, at folk skal være bemyndiget til at identificere, når noget ikke er rigtigt, og til at træde ind for at rette det op.