Працівники Google кажуть, що штучний інтелект Барда «гірше, ніж марний», а етичні міркування ігноруються

З точки зору Google, Bard виглядає як поспішна конкуренція з ChatGPT, і деякі співробітники Google погоджуються. Новий звіт Bloomberg опитав 18 нинішніх і колишніх співробітників і сповнений засуджуючих коментарів і занепокоєння щодо того, що команди з питань етики штучного інтелекту «позбавлені прав і деморалізовані», щоб Google міг вигнати Барда за двері.

Згідно зі звітом, співробітників Google попросили протестувати попередню версію Bard для отримання відгуків, які здебільшого проігнорували, щоб Bard міг запуститися швидше. Внутрішні дискусії, які переглянуло Bloomberg, назвали Барда «вартим тряски» та «патологічним брехуном». Коли його запитали, як посадити літак, він дав неправильні вказівки, які б призвели до катастрофи. Один із співробітників попросив інструкції щодо занурення та отримав відповідь, яка, за його словами, «ймовірно призведе до серйозних травм або смерті». Один із співробітників описав проблеми Bard у лютневому дописі під назвою «Bard гірше, ніж марний: будь ласка, не запускайте». Bard був запущений у березні.

Ви, напевно, можете сказати те саме про конкурента зі штучним інтелектом, якого переслідує Google, ChatGPT від OpenAI. Обидва можуть давати упереджену або неправдиву інформацію та галюцинувати неправильні відповіді. Google значно відстає від ChatGPT, і компанія в паніці через здатність ChatGPT відповідати на запитання, які люди інакше могли б ввести в пошук Google. Творця ChatGPT, OpenAI, критикували за його слабкий підхід до безпеки та етики ШІ. Зараз Google у складній ситуації. Якщо єдиним завданням компанії є заспокоїти фондовий ринок і наздогнати ChatGPT, вона, ймовірно, не зможе цього зробити, якщо це сповільнить проблеми етики.

Мередіт Уіттакер, колишній менеджер Google і президент Signal Foundation, сказала Bloomberg, що «етика штучного інтелекту відійшла на другий план» у Google, і каже, що «якщо етика не ставиться в пріоритет над прибутком і зростанням, вони не працюватимуть». За останні роки кілька керівників Google з етики штучного інтелекту були звільнені або покинули компанію. Bloomberg повідомляє, що сьогодні етичні перевірки AI в Google є «майже повністю добровільними».

Хоча ви могли б зробити щось у Google, щоб спробувати уповільнити випуски через етичні проблеми, це, ймовірно, не піде на користь вашій кар’єрі. У звіті йдеться: «Один із колишніх співробітників сказав, що він просив попрацювати над справедливістю в машинному навчанні, і його регулярно відмовляли — до того, що це вплинуло на їхню оцінку продуктивності. Менеджери запротестували, що це заважає їхній «справжній роботі». «