Googlere siger, at Bards AI er “værre end ubrugelig”, og etiske overvejelser ignoreres

Fra Googles perspektiv ligner Bard et kapløb med at konkurrere med ChatGPT, og nogle Googlere er enige. En ny rapport fra Bloomberg undersøgte 18 nuværende og tidligere ansatte, og den er fuld af fordømmende kommentarer og bekymringer om, at AI-etikhold er “frataget stemmeretten og demoraliseret”, så Google kunne sparke Bard ud af døren.

Ifølge rapporten blev Google-medarbejdere bedt om at teste en pre-release-version af Bard for deres feedback, som stort set blev ignoreret, så Bard kunne starte hurtigere. Interne diskussioner set af Bloomberg kaldte Bard “værdig til at jiggle” og en “patologisk løgner”. Da han blev spurgt om, hvordan han skulle lande flyet, gav han ukorrekte instruktioner, der ville have ført til styrtet. En medarbejder bad om dykkerinstruktioner og modtog et svar, som han sagde, ville “sandsynligvis resultere i alvorlig personskade eller død”. En af medarbejderne beskrev Bards problemer i et indlæg i februar med titlen “Bard er værre end ubrugelig: lad være med at lancere.” Bard blev lanceret i marts.

Du kan sikkert sige det samme om AI-konkurrenten Google jagter, OpenAI’s ChatGPT. Begge kan give forudindtaget eller falsk information og hallucinere forkerte svar. Google er langt bagefter ChatGPT, og virksomheden er i panik over ChatGPTs evne til at svare på spørgsmål, som folk ellers kunne indtaste i Google-søgninger. Skaberen af ​​ChatGPT, OpenAI, er blevet kritiseret for sin slappe tilgang til AI-sikkerhed og etik. Nu er Google i en vanskelig situation. Hvis en virksomheds eneste bekymring er at berolige aktiemarkedet og indhente ChatGPT, vil den sandsynligvis ikke være i stand til det, hvis det bremser etiske spørgsmål.

Meredith Whittaker, tidligere Google-manager og præsident for Signal Foundation, fortalte Bloomberg, at “etikken i AI er gået i bagsædet” hos Google og siger, at “hvis etik ikke prioriteres over profit og vækst, ender de ikke med at arbejde.” I de senere år er flere af Googles AI-etiske ledere blevet fyret eller forladt virksomheden. Bloomberg rapporterer, at Googles AI-etiske anmeldelser er “næsten helt frivillige” i dag.

Selvom du kunne gøre noget hos Google for at forsøge at bremse udgivelserne på grund af etiske problemer, vil det sandsynligvis ikke være godt for din karriere. Rapporten siger: “En af de tidligere medarbejdere sagde, at han bad om at arbejde med retfærdighed i maskinlæring, og han blev jævnligt frarådet – i den grad, at det påvirkede deres vurdering af ydeevne. Ledere protesterede over, at dette forstyrrede deres “rigtige arbejde”. “