Googlers säger att Bards AI är ”värre än värdelös” och etiska överväganden ignoreras

Från Googles perspektiv ser Bard ut som en bråttom att konkurrera med ChatGPT, och vissa Googlers håller med. En ny rapport från Bloomberg tillfrågade 18 nuvarande och tidigare anställda, och är full av fördömande kommentarer och oro över att AI-etikteam ”befrias från rösträtt och demoraliseras” så att Google kunde sparka ut Bard genom dörren.

Enligt rapporten ombads Google-anställda att testa en pre-release-version av Bard för deras feedback, som till stor del ignorerades så att Bard kunde lansera snabbare. Interna diskussioner som ses av Bloomberg kallade Bard ”värdig att jiggle” och en ”patologisk lögnare”. På frågan hur han skulle landa planet gav han felaktiga instruktioner som skulle ha lett till kraschen. En anställd bad om dykinstruktioner och fick ett svar som han sa skulle ”troligen resultera i allvarlig skada eller dödsfall”. En av de anställda beskrev Bards problem i ett februariinlägg med titeln ”Bard är värre än värdelös: snälla lansera inte.” Bard lanserades i mars.

Du kan förmodligen säga detsamma om AI-konkurrenten Google jagar, OpenAI:s ChatGPT. Båda kan ge partisk eller falsk information och hallucinera felaktiga svar. Google ligger långt efter ChatGPT, och företaget är i panik över ChatGPT:s förmåga att svara på frågor som folk annars skulle kunna skriva in i Google-sökningar. Skaparen av ChatGPT, OpenAI, har kritiserats för sin slappa inställning till AI-säkerhet och etik. Nu är Google i en svår situation. Om ett företags enda oro är att lugna börsen och komma ikapp ChatGPT, kommer det förmodligen inte att kunna göra det om det bromsar etikfrågorna.

Meredith Whittaker, tidigare Google-chef och ordförande för Signal Foundation, sa till Bloomberg att ”etiken kring AI har hamnat i baksätet” hos Google och säger att ”om etik inte prioriteras framför vinst och tillväxt kommer de inte att sluta fungera.” Under de senaste åren har flera av Googles AI-etiska ledare fått sparken eller lämnat företaget. Bloomberg rapporterar att Googles AI-etikrecensioner är ”nästan helt frivilliga” idag.

Även om du kan göra något på Google för att försöka bromsa utsläppen på grund av etiska problem, kommer det förmodligen inte att vara bra för din karriär. Rapporten säger: ”En av de tidigare anställda sa att han bad om att få arbeta med rättvisa i maskininlärning, och han blev regelbundet avrådd – till den grad att det påverkade deras bedömning av prestanda. Chefer protesterade mot att detta stör deras ”riktiga arbete”. ”