Vurderer Googles administrerende direktør Sundar Pichais opfordring til fair AI-regler

Hvordan våben AI har skabt en ny race af cyberangreb IBM sikkerhedsforskere har opdaget invasive og målrettede kunstige intelligens-drevne cyberangreb udløst af geolokalisering og ansigtsgenkendelse.

Googles administrerende direktør Sundar Pichai og andre ledere, der arbejder med kunstig intelligens, opfordrer nu til begrænset regeringsregulering, da Den Europæiske Union mister mulige fem-årige forbud mod ansigtsgenkendelsessoftware.

Pichai opfordrede regeringerne til at tage en større rolle i reguleringen af ​​brugen af ​​kunstig intelligens (AI), og han offentliggjorde sin tro i en Financial Times-redaktion, mens han talte om emnet i taler over hele verden.

Dette er i skarp modstand mod kommentarer, han fremsatte i et interview med Financial Times i september, der opfordrede til forsigtighed med enhver potentiel regeringsintrusion om, hvordan teknologiselskaber implementerer AI.

"Der er reelle bekymringer om de potentielle negative konsekvenser af AI, fra dybfake til uærlige anvendelser af ansigtsgenkendelse. Selvom der allerede er arbejdet på at tackle disse bekymringer, vil der uundgåeligt være flere udfordringer, som ingen virksomhed eller industri kan løse alene, ”skrev Pichai i The Financial Times.

"EU og USA er allerede begyndt at udvikle lovgivningsmæssige forslag. International tilpasning vil være kritisk for at få globale standarder til at fungere. For at komme dertil, har vi brug for en aftale om kerneværdier. Virksomheder som vores kan ikke bare bygge lovende ny teknologi og lade markedskræfter beslutte, hvordan den skal bruges. Det påhviler os ligeledes at sørge for, at teknologi udnyttes til gode og tilgængelig for alle, ”sagde han i redaktion.

60 måder at få mest muligt ud af dine big data-initiativer (gratis PDF) (TechRepublic)

Bekymringer om ansigtsgenkendelse

Siden Pichai kom med sine kommentarer, har tilsynsmyndigheder, analytikere, videnskabsmænd og udviklere støttet hans erklæring og opfordret til målrettede regler for meget specifikke AI-brugssager, især omkring ansigtsgenkendelsesprogrammer. Selvom Google er blevet det største AI-selskab på jorden, har de lovet at ikke bruge AI i applikationer relateret til våben, overvågning, der krænker internationale normer, mens andre store virksomheder som Amazon og Microsoft har gjort milliarder på at sælge mere risikable AI-værktøjer til mere uærlige formål.

Men nogle, der arbejder i softwarepladsen til ansigtsgenkendelse, har stillet spørgsmålstegn ved, om tilbageslag til ansigtsgenkendelse handler om selve softwaren eller mere om dataindsamling, hvilket har mere at gøre med spredning af kameraer i samfundet. Jon Gacek, regeringschef, juridisk og overholdelse hos Veritone, citerede snesevis af brugssager til ansigtsgenkendelse, som han mente ville være til gavn for samfundet, som at hjælpe politiet med at scanne gennem tusinder af timers ringekameraoptagelser eller kasinoer, der bruger AI til at sortere gennem billeder, der kommer fra snesevis af kameraer.

"Hvis det allerede er gjort af mennesker, men kan gøres mere effektivt eller effektivt med AI, tror jeg, det ville være en fejltagelse at indføre regler, der begrænsede denne fremgang. Det er vigtigt, at uanset lovgivningen er, er det meget specifikt for hvad som helst problemet er, at man prøver at blive løst, ”sagde Gacek.

"Der er mange anvendelser af AI, som offentligheden vil være en stor tilslutning til og ville være super nyttig til at forbedre samfundet. Vi bør ikke begrænse vores vækst og vores forbedringer af vores liv, fordi vi ikke har tænkt igennem reguleringen, så at gøre noget hurtigt og altomfattende virker som en fejl for mig. "

Pichais kommentarer om AI-regulering kom kun to dage efter, at lækager fra Europa-Kommissionen antydede, at de overvejede et midlertidigt forbud mod teknologier til ansigtsgenkendelse, der blev brugt af både offentlige og private aktører. Lækagen forårsagede stødbølger i Europa, fordi snesevis af lande som Tyskland og Frankrig havde planer om at rulle ansigtsgenkendelsessoftware i togstationer, stadioner og lufthavne.

"Brug af ansigtsgenkendelsesteknologi af private eller offentlige aktører i offentlige rum ville være forbudt i en bestemt periode (f.eks. Tre – fem år), hvor en sund metodologi til vurdering af virkningerne af denne teknologi og mulige risikostyringsforanstaltninger kunne identificeres og udvikles, "sagde det lækkede udkast til hvidbog om AI.

Ansigtsgenkendelsessoftware har været et særligt ømt sted for bagmændene til AI og har fortsat problemer med nøjagtighed på trods af fortsat implementering. I 2018 stod politibetjente i Syd Wales over for et bjerg af kritik for, hvordan de implementerede ansigtsgenkendelsessoftware i UEFA Champions League-finalen i juni 2017 i Cardiff.

De blev tvunget til at indrømme, at programmet havde en fejlprocent på 92%, hvilket betyder, at kun 8% af de "identificerede" mennesker var faktiske kampe med navne og ansigter i den kriminelle database.

"Hvad Google sagde er rigtigt. AI er en voksende klasse af teknologier, der bestemt er meget magtfulde. Som med enhver ny kraftfuld teknologi, skal vi være forsigtige med, hvordan vi bruger den, og hvordan vi ikke bruger den. Der er en mange fordele for AI-teknologi i verden, der bliver anvendt hele tiden, men der er overforbrug, der opstår, og virksomheder, der sandsynligvis skubber tingene i den forkerte retning, ”sagde Eric Sydell, ph.d. og koncerndirektør for innovation på Modern Hire . Virksomhedens ansættelsesplatform bruger teknologi til at forudsige ydeevne og forbedre ansættelsesresultater.

"Et af problemerne med AI er, at hype-motoren for mange af disse virksomheder kom ca. et årti foran virksomhedernes videnskabsmotorer. Det er meget meget magtfuldt, men lige nu er der sandsynligvis mere skade end fordel ved at prøve at bruge ansigtsbehandling anerkendelse. Det føles invasivt, og gyldigheden eller anvendeligheden af ​​det er uprøvet, ”tilføjede han SEE:

EU's almindelige databeskyttelsesforordning (GDPR) -politik (TechRepublic Premium)

Lovgivning for AI

Pichai sagde, at reglerne for AI ikke behøver at starte fra bunden og kan bygge ud af succes med GDPR, mens de stadig fremmer innovation. Både Pichai og Sydell sagde, at målet altid er at afbalancere beskyttelsen mod behovet for at støtte innovation.

I sin redaktion sagde Pichai, at enhver lovgivning, der regulerer AI, måtte overveje "sikkerhed, forklarbarhed, retfærdighed og ansvarlighed", når de regulerer, hvordan tech-virksomheder bruger deres systemer, og hvor de implementerer dem.

Juan José López Murphy, AI og Big Data Tech-direktør hos Globant, sagde, at havændringen mod AI opstod, efterhånden som der kom flere rapporter om ansigtsgenkendelsens vilde unøjagtighed og skræmmende dybder. Hans firma har oprettet deres eget AI-manifest og etiske retningslinjer for, hvordan de bruger AI.

”Hele samfundet af AI-forskere mener, at der er et stort potentiale for misbrug og sociale problemer. Holdningen har ændret sig i de sidste par år fra 'Dette er bare et værktøj, så det er ikke vores problem' mod 'Vi er nødt til at være forsigtige .' Disse opfordringer til AI-specifik regulering er meget sunde, ”sagde Murphy.

"Der har været nok bevis for, at vi er nødt til at tage et seriøst kig på virkningen af ​​AI, og hvordan vi bruger det og grundene til, at vi bruger det. Folk er enige om, at det er nødvendigt at tænke over retningslinjer, vi skal følge."

Han citerede snesevis af sager, hvor AI-systemer utilsigtet diskriminerede en gruppe, ofte uden nogen skyld af de mennesker, der oprettede systemet. Et specifikt tilfælde nævnte han, der lavede nyheder i oktober, involverede et navngivet amerikansk hospital, der viste sig at have brugt en AI-algoritme, der systematisk diskriminerede afroamerikanske patienter. Programmet skubbede i det væsentlige hvide patienter til toppen af ​​listen for plejeprogrammer og screenede andre løb.

På trods af disse tilfælde sagde Murphy, at direkte forbud ikke ville være effektive, fordi disse programmer allerede er i brug. Men der var behov for at beskytte folk mod partiske datasæt, der understøttede AI, og regulatorer på begge sider af Atlanterhavet måtte se grundigt på, hvad der kunne gøres.

"I EU handler den største bekymring om individet, og i USA handler det om forretningen. De kommer fra to modsatte ender. EU ønsker at beskytte den enkeltes privatliv, deres sikkerhed og hvordan det kan anvendes til dem. I USA forsøger de at fremme innovation, ”tilføjede Murphy.

Amerikanske muller over lovgivning

Lige nu overvinder De Forenede Stater, EU og Australien forskellige former for lovgivning, idet de hver især indtager en anden tilgang.

Tjenestemænd i USA har gentagne gange presset EU til at undgå forbud eller tunge regler. Tidligere denne måned frigav Det Hvide Hus et notat, der advarede stater og føderale lovgivere mod enhver regulering, der ville være "inkonsekvent, byrdefuld og duplikativ."

"Føderale agenturer skal undgå lovgivningsmæssige eller ikke-lovgivningsmæssige handlinger, der unødvendigt hæmmer AI-innovation og vækst. Hvor det er tilladt i loven, når de beslutter, om og hvordan de skal regulere på et område, der kan påvirke AI-applikationer, bør agenturer vurdere virkningen af ​​den potentielle regulering på AI innovation og vækst, "skrev fungerende direktør for kontoret for administration og budget Russell Vought.

Andre regeringsorganer i USA har opfordret EU til at undgå alt for hårdt hånd med hensyn til, hvordan AI bruges eller indsættes.

På den anden side sagde Pichai, at regler kunne give teknologivirksomheder bred vejledning såvel som branche-specifikke regler for ting som selvkørende køretøjer og ansigtsgenkendelse. Gennem hele hans redaktion, sagde Googles administrerende direktør, at han ville have virksomheden til at samarbejde med tilsynsmyndigheder for at finde et lykkeligt medium, der gjorde det muligt både at beskytte offentligheden og sprede fordelene ved AI.

Sydell sagde, at det generelt var sværere for lovgivere at følge med i udviklingen af ​​teknologi, men at det påhviler folk, der arbejder inden for teknologi, at bruge AI på de rigtige måder i et forsøg på at undgå problemer, der ville skræmme eller skade offentligheden.

"Reglerne, retningslinjerne og lovene er alle langsommere at oprette end selve teknologien. Så de har nogle indhentning at gøre. Tankevækkende mennesker, der arbejder på AI, ønsker at hjælpe det, der sker, og hjælpe det med at blive brugt på den rigtige måde, " tilføjede Sydell . "Ellers vil der være mere blowback for det, og samfundet drager ikke fordel af den gode del af det, fra de ting, som AI kan gøre for os, der hjælper os med at leve og føre et bedre liv."

Data, Analytics og AI-nyhedsbrev

Få eksperttips til at mestre de grundlæggende elementer i big data-analyse, og følg med den seneste udvikling inden for kunstig intelligens. Leveres mandage

Tilmeld dig i dag

© Copyright 2021 | mobilegn.com