Indhold
Præsenteret af: AltaML
Q:
Hvorfor overvejer nogle virksomheder at tilføje "human feedback-kontroller" til moderne AI-systemer?
EN:
Nogle virksomheder, der arbejder med avanceret AI-teknologi, arbejder på at indføre menneskelige kontroller til disse systemer, hvilket giver maskinlæring og dyb læringsværktøjer noget direkte menneskeligt tilsyn. Disse virksomheder er heller ikke små aktører - Googles DeepMind og Elon Musk's OpenAI er to eksempler på større virksomheder, der får fat på fremskridt med kunstig intelligens. Med dette i tankerne er resultaterne forskellige - for eksempel har DeepMind været genstand for kontrovers for sin opfattede manglende vilje til at levere nøgledata til offentligheden, mens OpenAI er meget mere, ja, åben om sit arbejde med at kontrollere kunstig intelligens.
Selv sådanne bemærkninger som Bill Gates har tænkt på spørgsmålet, siger Gates, at han er en af mange, der er bekymrede for fremkomsten af en kunstig superintelligens, der på nogle måder kan bevæge sig ud over menneskelig kontrol. Musk har på sin side også fremsat et alarmerende sprog om muligheden for ”rogue AI.”
Det er sandsynligvis den mest presserende årsag til, at virksomheder arbejder med at anvende menneskelige kontroller på AI - ideen om, at en vis teknologisk entualitet vil resultere i en superkraftig, sentient teknologi, som mennesker simpelthen ikke kan kontrollere mere. Lige siden morgenens menneskelige ambitioner har vi sat værktøjer på plads for at sikre, at vi kan kontrollere de kræfter, som vi udøver - hvad enten det er heste med tøjler og seler, elektricitet i isolerede ledninger eller enhver anden form for kontrolmekanisme, der har kontrol er en medfødt menneskelig funktion, og så det giver al den mening i verden, at når kunstig intelligens kommer tættere på reel funktionalitet, anvender mennesker deres egne direkte kontroller for at holde denne magt i skak.
Frygt for super-intelligente robotter er imidlertid ikke den eneste grund til, at virksomheder anvender menneskelige kontroller til maskinindlæring og AI-projekter. En anden væsentlig årsag er maskinforstyrrelse - dette er tanken om, at kunstige intelligenssystemer ofte er begrænsede i, hvordan de evaluerer de pågældende data - så de forstærker enhver bias, der ligger i systemet. De fleste fagfolk, der beskæftiger sig med maskinlæring, kan fortælle horrorhistorier om it-systemer, der ikke var i stand til at behandle menneskelige brugergrupper ens - uanset om det var køn eller etnisk forskel eller en anden fiasko i systemet til virkelig at forstå nuancerne i vores menneskelige samfund og hvordan vi interagerer med mennesker.
På en måde kan vi muligvis lægge menneskelige kontroller på systemer, fordi vi er bange for, at de måske er for magtfulde - eller skiftevis, fordi vi er bange for, at de måske ikke er magtfulde nok. Menneskelige kontroller hjælper med at målrette datasæt til maskinlæring for at give mere præcision. De hjælper med at forstærke ideer om, at computeren simpelthen ikke kan lære på egen hånd, enten fordi modellen ikke er sofistikeret nok, fordi AI ikke er kommet langt nok, eller fordi nogle ting bare ligger i provinsen for menneskelig erkendelse. Kunstig intelligens er fantastisk til nogle ting - for eksempel tillader et belønning-og-score-baseret system en kunstig intelligens at slå en menneskelig spiller på det utroligt komplekse brætspil "Go" - men for andre ting er dette incitamentbaserede system helt utilstrækkelig.
Kort sagt er der adskillige tvingende grunde til at holde menneskelige brugere direkte involveret i, hvordan kunstig intelligens-projekter fungerer. Selv de bedste kunstige intelligensteknologier kan tænke meget på egen hånd - men uden en faktisk biologisk menneskelig hjerne, der kan behandle ting som følelser og sociale former, kan de simpelthen ikke se det store billede på en menneskelig måde.
En dygtig maskinuddannelsesvirksomhed kan hjælpe med at finde denne balance med en blanding af forretnings- og emneeksperter og maskinlæringsudviklere med evnerne til at løse store forretningsproblemer.
