Kan AI registrere falske nyheder?

Indhold

• At fange en tyv. . .
• Ingen fejl, ingen stress - Din trinvis vejledning til oprettelse af livsændrende software uden at ødelægge dit liv
• Stop af spredningen

Kilde: Mast3r / Dreamstime.com

Tag væk:

Forskere henvender sig til AI for at bekæmpe falske nyheder. Men kan det virkelig hjælpe, eller vil det bare forværre tingene?

Falske nyheder forventes at være en stor torn i siden af ​​det kommende præsidentvalg, for ikke at nævne dets samlede korrosive virkning på vores offentlige diskurs generelt. I nutidens forbundne samfund er det mere og mere vanskeligt at se faktum fra fiktion, hvilket er grunden til, at nogle forskere begynder at fokusere på kraften i kunstig intelligens til at løse dette problem.

Håbet er selvfølgelig, at maskiner, eller mere præcist algoritmer, vil være bedre end mennesker til at opdage løgne. Men er dette en realistisk forventning, eller bare et andet tilfælde af at kaste teknologi til et tilsyneladende ufravigeligt problem?

At fange en tyv. . .

En af måderne, som dataforskere planlægger at skærpe AI's skarphed på dette område er ved at lade den generere falske nyheder. Allen Institute for AI ved University of Washington har udviklet og offentliggjort Grover, en naturlig sprogbehandlingsmotor designet til at skabe falske historier om en lang række emner. Selvom dette kan virke kontraproduktivt i starten, er dette faktisk en ret almindelig AI-træningstaktik, hvor en maskine analyserer output fra en anden. På denne måde kan analysesiden bruges meget hurtigere end at stole på faktiske falske nyheder. Instituttet hævder, at Grover allerede kan operere med en 92% nøjagtighedsklassificering, men det er vigtigt at bemærke, at det kun er dygtig til at skelne mellem AI-genereret indhold kontra menneskeligt genereret indhold, hvilket betyder, at en smart person stadig kunne snige sig en falsk historie forbi det. (Se Teknologierne omkring bekæmpelse af falske nyheder for at lære mere.)

I de rigtige hænder kan selvfølgelig Grover hurtigt fremme vores forståelse af, hvordan falske nyheder oprettes, og hvordan de spreder sig, og dette kan teoretisk bruges til at modvirke det i den virkelige verden. Men som Futurism.com bemærkede for nylig, er nogle eksperter, der har taget systemet til en testkørsel, bange for, hvor effektiv det er til at skabe troværdige løgne, og endda efterligne skrivestilerne til legitime nyhedsudbydere som Wall Street Journal og New York Times.

Men da løgn er en iboende intuitiv og følelsesdrevet handling, er det muligt, at selv de smarteste maskiner, der stadig drives af kold, hård logik, nogensinde kan nå det niveau af konisk forståelse, der er nødvendig for at få en løgn? Unbabels Maria Almeida bemærkede for nylig, at selvom nogle iterationer kan blive temmelig gode til dette, kan ingen algoritme håbe på at opnå fuld menneskelig forståelse. Dette betyder, at AI muligvis kan foretage dramatiske forbedringer i faktakontrol og sammenlignende analyse, men det endelige opkald overlades bedst til uddannede eksperter.

Ironisk nok vil denne kapacitet imidlertid være mest nyttig til at opdage de dybe falske videoer, der er begyndt at gøre runderne på sociale medier. Med AI, der er i stand til at analysere visuelle data helt ned til individuelle pixels, vil det være meget bedre til at se ændrede billeder end ændrede ord og begreber.

Stadig, argumenterer Forbes 'Charles Towers-Clark, er det centrale problem med falske nyheder ikke, at nogle få mennesker skaber det, men at så mange mennesker er påvirket af det. Folk har en tendens til at tro på, hvad de vil tro, ikke på hvad fakta får dem til at tro. Så selv hvis en højtudviklet AI-motor erklærer, at deres tro er forkert, vil folk være mere tilbøjelige til at tvivle på maskinen end dem selv.

”Implementering af maskinlæring til bekæmpelse af spredning af falske nyheder er beundringsværdig,” siger han, ”og der er et behov for at løse dette problem, da troværdigheden af ​​større medie-nyhedssteder sættes spørgsmålstegn ved. Men med spredningen af ​​forkert information, der er sammensat af sociale medier, kan detektering og afsløring af kilderne til falske nyheder overvinde det menneskelige instinkt til at tro, hvad vi får at vide? ”

Ingen fejl, ingen stress - Din trinvis vejledning til oprettelse af livsændrende software uden at ødelægge dit liv

Du kan ikke forbedre dine programmeringsevner, når ingen er interesseret i softwarekvalitet.

Den egentlige udfordring er altså ikke at identificere og fordøbe falske nyheder, men at forstå, hvorfor det har en tendens til at sprede sig på tværs af sociale medier så meget hurtigere end virkelige nyheder. Til dels skyldes dette beskaffenheden af ​​falske nyheder i sig selv, som har en tendens til at være spændende og sparsomme mod virkelighedens komparative tedium. I sidste ende er det realistisk at forvente, at teknologi korrigerer det, der i det væsentlige er et ikke-teknisk problem? (Se 5 AI-fremskridt inden for udgivelse og medier for mere information om, hvordan AI ændrer medier.)

Stop af spredningen

Derfor er det vigtigt at fokusere AI på det tekniske aspekt af falske nyheder og ikke det menneskelige aspekt, siger ZDNets Robin Harris. Og de fleste forskere træner faktisk AI til at indtaste ting som at skelne mellem naturlige og kunstige formeringsmønstre gennem sociale netværk. Nøglemetrik som konverteringstræfrekvens, retweet-timing og generelle svardata kan bruges til at identificere og neutralisere disinformation-kampagner, selvom dens kilde er skjult under lag af digital underfuel. Samtidig kan AI bruges til at styre andre teknologier, såsom blockchain, til at opretholde sporbare, verificerbare informationskanaler.

Faktum er, at falske nyheder ikke er et nyt fænomen. Fra den myldrende journalistik i de tidlige 20^th århundrede helt tilbage til propagandaen fra de tidligste civilisationer, er det at hænge sammen offentligheden en tidshøj tradition for både siddende regeringer og revolutionære. Forskellen i dag er, at digital teknologi har demokratiseret denne kapacitet til det punkt, at næsten enhver kan lægge en løgn og se den spredt over hele kloden i løbet af få timer.

Teknologier som AI kan bestemt hjælpe med at bringe en vis klarhed i denne forvirring, men kun mennesker kan fuldt ud forstå og bedømme sandheden.