Googlers zeggen dat de AI van Bard “erger dan nutteloos” is en ethische overwegingen worden genegeerd

Vanuit het perspectief van Google ziet Bard eruit als een haast om te concurreren met ChatGPT, en sommige Googlers zijn het daarmee eens. Een nieuw rapport van Bloomberg ondervroeg 18 huidige en voormalige werknemers en staat vol met veroordelende opmerkingen en zorgen over AI-ethiekteams die “rechteloos en gedemoraliseerd” zijn, zodat Google Bard de deur uit zou kunnen schoppen.

Volgens het rapport werden Google-medewerkers gevraagd om een ​​pre-releaseversie van Bard te testen op hun feedback, die grotendeels werd genegeerd zodat Bard sneller kon lanceren. Interne discussies die door Bloomberg werden bekeken, noemden Bard “een grap waard” en een “pathologische leugenaar”. Toen hem werd gevraagd hoe hij het vliegtuig moest landen, gaf hij onjuiste instructies die tot de crash zouden hebben geleid. Een personeelslid vroeg om duikinstructies en kreeg een antwoord dat volgens hem “waarschijnlijk zou leiden tot ernstig letsel of de dood”. Een van de medewerkers beschreef de problemen van Bard in een bericht in februari met de titel “Bard is erger dan nutteloos: start alsjeblieft niet.” Bard is in maart gelanceerd.

Hetzelfde zou je waarschijnlijk kunnen zeggen over de AI-concurrent waar Google op jaagt, OpenAI’s ChatGPT. Beide kunnen bevooroordeelde of valse informatie geven en verkeerde antwoorden hallucineren. Google loopt ver achter op ChatGPT en het bedrijf is in paniek over het vermogen van ChatGPT om vragen te beantwoorden die mensen anders zouden typen in Google-zoekopdrachten. De maker van ChatGPT, OpenAI, is bekritiseerd vanwege zijn lakse benadering van AI-veiligheid en -ethiek. Nu bevindt Google zich in een moeilijke situatie. Als de enige zorg van een bedrijf is om de aandelenmarkt te kalmeren en ChatGPT in te halen, zal het waarschijnlijk niet kunnen als het ethische kwesties vertraagt.

Meredith Whittaker, voormalig Google-manager en president van de Signal Foundation, vertelde Bloomberg dat “de ethiek van AI op de achtergrond is geraakt” bij Google, en zegt dat “als ethiek niet voorrang krijgt op winst en groei, ze uiteindelijk niet zullen werken”. Bloomberg meldt dat de AI-ethiekbeoordelingen van Google tegenwoordig “bijna geheel vrijwillig” zijn.

Hoewel je bij Google iets zou kunnen doen om releases te vertragen vanwege ethische kwesties, zal het waarschijnlijk niet goed zijn voor je carrière. Het rapport zegt: “Een van de voormalige werknemers zei dat hij vroeg om te werken aan eerlijkheid in machine learning, en hij werd regelmatig ontmoedigd – zozeer dat het hun beoordeling van de prestaties beïnvloedde. Managers protesteerden dat dit hun ‘echte werk’ in de weg stond. “