Cumbre privada de IA con senadores y titanes de la tecnología genera controversia

El miércoles, el senador estadounidense Chuck Schumer (DN.Y.) organizó un “Foro de información sobre IA” en el edificio de oficinas del Senado sobre una posible regulación de la IA. Entre los asistentes se encontraban multimillonarios y titanes de la industria moderna como Elon Musk, Bill Gates, Mark Zuckerberg, Sam Altman de OpenAI y Jensen Huang de Nvidia. Pero esta lista de invitados fuertemente corporativa (con 14 de 22 directores ejecutivos) hizo que algunos se rascaran la cabeza.

“Esta es la sala que reúne cuando su personal quiere fotografías con celebridades de la inteligencia artificial de la industria tecnológica. No es la sala que uno reuniría cuando quisiera comprender mejor qué es la IA, cómo (y para quién) funciona y qué hacer al respecto”, escribió la presidenta de Signal, Meredith Whittaker, en X.

La lista repleta de directores ejecutivos hizo que otros cuestionaran la perspicacia técnica de los asistentes en materia de IA. “Espero que Schumer y otros giren para escuchar los contrapuntos de muchos técnicos que son buenos explicando la tecnología”, dijo la Dra. Margaret Mitchell de la plataforma de inteligencia artificial Hugging Face, cuyo director ejecutivo asistió a la reunión. “Estos directores ejecutivos en gran medida no lo son. Y están muy incentivados a ocultar detalles críticos, en la medida en que ellos mismos los comprendan”.

Mitchell también expresó su preocupación por la falta de mujeres técnicamente capacitadas en la reunión. En total, siete de los 22 invitados eran mujeres, pero no todas desempeñan funciones técnicas en IA, incluidos representantes de la AFL-CIO y el Writers Guild. «Las mujeres son técnicas, pero los invitados de Schumer no lo sabrían, y este es un problema enorme si queremos crear una regulación de la IA que ayude a que la IA funcione para todos», dijo Mitchell.

Algunos senadores también criticaron la naturaleza de la reunión. «Creo que es ridículo que todos estos monopolistas estén aquí para decirles a los senadores cómo configurar el marco regulatorio para que puedan ganar la máxima cantidad de dinero», dijo el senador Josh Hawley (republicano por Missouri).

A pesar de la controversia, la reunión atrajo el interés bipartidista y participaron más de 60 senadores. El líder de la mayoría demócrata del Senado, Schumer, y el senador Todd Young (R-Ind.) expresaron optimismo sobre la disposición del Senado a considerar propuestas legislativas. Sin embargo, el senador Mike Rounds (RS.D.) señaló que el proceso de redacción de una legislación adecuada llevaría tiempo. “¿Estamos listos para salir y redactar legislación? Absolutamente no”, citó Reuters a Rounds. «No estaban ahí.»

Si bien la reunión estuvo cerrada a los medios y al público, Reuters y The New York Times informaron sobre parte de la discusión, realizada en privado para que nadie «jugara con la prensa», dijo Schumer.

Según Reuters, Musk defendió la necesidad de un «árbitro» en el espacio de la IA. Describió la regulación de la IA como algo similar a un juego deportivo, donde las reglas garantizan el juego limpio y protegen a los participantes. «Para nosotros es importante tener un árbitro que garantice que las empresas tomen medidas que sean seguras y en beneficio del público en general», dijo Musk.

El multimillonario, que gestiona varias empresas tecnológicas, incluida la plataforma de redes sociales X, enmarcó la reunión como un «servicio a la humanidad», sugiriendo que sus ramificaciones «podrían pasar a la historia como muy importantes para el futuro de la civilización». Se hace eco de sus llamados anteriores para una pausa de seis meses en el desarrollo de sistemas de IA más poderosos que el GPT-4 de OpenAI, que según algunos críticos pasó por alto el daño actual de la IA en favor de peligros hipotéticos no probados.

Por otro lado, Zuckerberg de Meta supuestamente impulsó un enfoque de colaboración entre el gobierno y las empresas de tecnología. Instó al Congreso a “comprometerse con la IA para apoyar la innovación y las salvaguardias”, destacando la ventaja estratégica de que las empresas estadounidenses establezcan estándares globales.

El llamado a la regulación de la IA se ha vuelto cada vez más global, y países de todo el mundo luchan por establecer reglas sobre reconocimiento facial, deepfakes, conjuntos de datos de entrenamiento y más. Esta semana, las empresas Adobe, IBM y Nvidia anunciaron que se habían sumado a los compromisos voluntarios de IA del presidente Joe Biden, que exigen medidas como poner marcas de agua en el contenido generado por IA para señalar sus orígenes artificiales.

Con tanta expectación y tantos dólares circulando por ahí, a los expertos de la industria como Mitchell les preocupa que los detalles técnicos se pierdan en la conversación. «Lo correcto habría sido comunicarse primero con personas técnicamente capacitadas y que puedan hablar de los derechos de las personas», dijo Mitchell. “Habrían sentado las bases del entendimiento de Schumer. En cambio, la base de su comprensión ahora está alineada con la maximización de ganancias a corto plazo”.