Cúpula privada de IA com senadores e titãs da tecnologia gera polêmica

Na quarta-feira, o senador norte-americano Chuck Schumer (DN.Y.) organizou um “AI Insight Forum” no edifício de escritórios do Senado sobre a potencial regulamentação da IA. Os participantes incluíram bilionários e titãs da indústria moderna, como Elon Musk, Bill Gates, Mark Zuckerberg, Sam Altman da OpenAI e Jensen Huang da Nvidia. Mas esta lista de convidados fortemente corporativos – com 14 dos 22 sendo CEOs – fez com que alguns coçassem a cabeça.

“Esta é a sala que você reúne quando sua equipe quer fotos com celebridades da indústria de tecnologia da IA. Não é a sala que você montaria quando quisesse entender melhor o que é IA, como (e para quem) ela funciona e o que fazer a respeito”, escreveu a presidente da Signal, Meredith Whittaker, no X.

A lista repleta de CEOs tinha outros questionando a perspicácia técnica de IA dos participantes. “Espero que Schumer e outros se esforcem para ouvir contrapontos de muitos técnicos que são bons em explicar tecnologia”, disse a Dra. Margaret Mitchell, da plataforma de IA Hugging Face, cujo CEO participou da reunião. “Em grande parte, esses CEOs não o são. E eles são muito incentivados a ocultar detalhes críticos, na medida em que eles próprios os compreendem.”

Mitchell também levantou preocupações sobre a falta de mulheres tecnicamente qualificadas na reunião. No geral, sete dos 22 convidados eram mulheres, mas nem todas ocupam cargos técnicos em IA, incluindo representantes da AFL-CIO e do Writers Guild. “As mulheres são técnicas, mas você não saberia disso pelos convidados de Schumer – e isso é um grande problema se quisermos criar uma regulamentação de IA que ajude a IA a funcionar para todos”, disse Mitchell.

Alguns senadores também criticaram a natureza da reunião. “Acho ridículo que todos esses monopolistas estejam aqui para dizer aos senadores como moldar a estrutura regulatória para que possam ganhar o máximo de dinheiro”, disse o senador Josh Hawley (R-Mo.).

Apesar da polêmica, o encontro atraiu interesse bipartidário, com a participação de mais de 60 senadores. O líder da maioria democrata no Senado, Schumer, e o senador Todd Young (R-Ind.) Expressaram otimismo sobre a prontidão do Senado para considerar propostas legislativas. No entanto, o Senador Mike Rounds (RS.D.) salientou que o processo de elaboração de legislação apropriada levaria tempo. “Estamos prontos para sair e escrever legislação? Absolutamente não”, teria dito Rounds, segundo a Reuters . “Não estavam lá.”

Embora a reunião tenha sido fechada à mídia e ao público, a Reuters e o The New York Times relataram parte da discussão, conduzida em privado para que ninguém “brincasse para a imprensa”, disse Schumer.

Segundo a Reuters, Musk defendeu a necessidade de um “árbitro” no espaço de IA. Ele descreveu a regulamentação da IA ​​como semelhante a um jogo desportivo, onde as regras garantem um jogo limpo e protegem os participantes. “É importante para nós termos um árbitro para garantir que as empresas tomem medidas seguras e no interesse do público em geral”, disse Musk.

O multimilionário, que gere vários empreendimentos tecnológicos, incluindo a plataforma de redes sociais X, enquadrou a reunião como um “serviço à humanidade”, sugerindo que as suas ramificações “podem ficar na história como muito importantes para o futuro da civilização”. ecoam seus apelos anteriores para uma pausa de seis meses no desenvolvimento de sistemas de IA mais poderosos do que o GPT-4 da OpenAI, que alguns críticos dizem que ignorou os danos atuais da IA ​​​​em favor de perigos hipotéticos e não comprovados.

Por outro lado, Zuckerberg da Meta supostamente pressionou por uma abordagem colaborativa entre o governo e as empresas de tecnologia. Ele instou o Congresso a “se envolver com a IA para apoiar a inovação e as salvaguardas”, destacando a vantagem estratégica de ter empresas americanas estabelecendo padrões globais.

O apelo à regulamentação da IA ​​tornou-se cada vez mais global, com países de todo o mundo a lutar para estabelecer regras sobre reconhecimento facial, deepfakes, conjuntos de dados de formação e muito mais. Esta semana, as empresas Adobe, IBM e Nvidia anunciaram que aderiram aos compromissos voluntários de IA do presidente Joe Biden, que exigem medidas como marcas d’água em conteúdo gerado por IA para sinalizar suas origens artificiais.

Com tanto entusiasmo por aí – e tantos dólares voando por aí – especialistas do setor como Mitchell estão preocupados que os detalhes técnicos possam se perder na conversa. “A coisa certa a fazer teria sido comunicar primeiro com pessoas que sejam tecnicamente qualificadas e que possam falar sobre os direitos das pessoas”, disse Mitchell. “Eles teriam estabelecido a base do entendimento de Schumer. Em vez disso, a base do seu entendimento está agora alinhada com a maximização do lucro a curto prazo.”