Los empleados de Google dicen que la IA de Bard es «peor que inútil» y se ignoran las consideraciones éticas

Desde la perspectiva de Google, Bard parece tener prisa por competir con ChatGPT, y algunos empleados de Google están de acuerdo. Un nuevo informe de Bloomberg encuestó a 18 empleados actuales y anteriores, y está lleno de comentarios de condena y preocupaciones sobre los equipos de ética de IA que están «privados de sus derechos y desmoralizados» para que Google pueda echar a Bard por la puerta.

Según el informe, se pidió a los empleados de Google que probaran una versión preliminar de Bard para obtener sus comentarios, que se ignoraron en gran medida para que Bard pudiera lanzarse más rápido. Las discusiones internas vistas por Bloomberg llamaron a Bard «digno de una sacudida» y un «mentiroso patológico». Cuando se le preguntó cómo aterrizar el avión, dio instrucciones incorrectas que habrían provocado el accidente. Un miembro del personal solicitó instrucciones de buceo y recibió una respuesta que dijo que «probablemente resultaría en lesiones graves o la muerte». Uno de los empleados describió los problemas de Bard en una publicación de febrero titulada «Bard es peor que inútil: por favor no lo lance». Bard se lanzó en marzo.

Probablemente podría decir lo mismo sobre el competidor de IA que persigue Google, ChatGPT de OpenAI. Ambos pueden dar información sesgada o falsa y alucinar respuestas equivocadas. Google está muy por detrás de ChatGPT, y la empresa está en pánico por la capacidad de ChatGPT para responder preguntas que, de lo contrario, las personas podrían escribir en las búsquedas de Google. El creador de ChatGPT, OpenAI, ha sido criticado por su enfoque laxo con respecto a la seguridad y la ética de la IA. Ahora Google está en una situación difícil. Si la única preocupación de una empresa es calmar el mercado de valores y ponerse al día con ChatGPT, probablemente no podrá hacerlo si frena los problemas de ética.

Meredith Whittaker, ex gerente de Google y presidenta de Signal Foundation, le dijo a Bloomberg que “la ética de la IA ha pasado a un segundo plano” en Google y dice que “si no se prioriza la ética sobre las ganancias y el crecimiento, no terminarán funcionando”. En los últimos años, varios de los líderes de ética de la IA de Google han sido despedidos o han dejado la empresa. Bloomberg informa que las revisiones de ética de la IA de Google son “casi completamente voluntarias” en la actualidad.

Si bien podría hacer algo en Google para tratar de ralentizar los lanzamientos debido a problemas éticos, probablemente no sea bueno para su carrera. El informe dice: “Uno de los ex empleados dijo que pidió trabajar en la equidad en el aprendizaje automático, y lo disuadieron regularmente, hasta el punto de que afectó su evaluación del desempeño. Los gerentes protestaron porque esto interfería con su “trabajo real”. “