Soukromý summit o umělé inteligenci se senátory, titány technologií sbírá kontroverze

Ve středu uspořádal americký senátor Chuck Schumer (DN.Y.) v kancelářské budově Senátu „AI Insight Forum“ o potenciální regulaci AI. Mezi účastníky byli miliardáři a novodobí titáni průmyslu jako Elon Musk, Bill Gates, Mark Zuckerberg, Sam Altman z OpenAI a Jensen Huang z Nvidie. Ale tento silně korporátní seznam hostů – se 14 z 22 generálními řediteli – je trochu poškrábal na hlavě.

„Toto je místnost, kterou spojíte, když vaši zaměstnanci chtějí fotky s celebritami AI z technologického průmyslu. Není to místnost, kterou byste sestavili, když chcete lépe porozumět tomu, co je AI, jak (a pro koho) funguje a co s tím dělat,“ napsal prezident Signal Meredith Whittaker na X.

Na seznamu plném generálních ředitelů byli další, kteří zpochybňovali technickou prozíravost AI účastníků. „Doufám, že se Schumer a další otočí, aby slyšeli kontrapunkty od mnoha technických lidí, kteří jsou dobří ve vysvětlování technologií,“ řekla Dr. Margaret Mitchellová z platformy AI Hugging Face, jejíž generální ředitel se setkání zúčastnil. „Tito generální ředitelé z velké části nejsou. A jsou velmi motivováni k tomu, aby zakrývali kritické detaily, pokud jim sami rozumí.“

Mitchell také vyjádřil obavy z nedostatku technicky kvalifikovaných žen na setkání. Celkově bylo sedm z 22 pozvaných žen, ale ne všechny zastávají technické role v AI, včetně zástupců AFL-CIO a Writers Guild. „Ženy jsou technické, ale to byste od Schumerových pozvaných nepoznali – a to je obrovský problém, pokud chceme vytvořit regulaci umělé inteligence, která pomůže umělé inteligenci fungovat pro každého,“ řekl Mitchell.

Někteří senátoři kritizovali i charakter jednání. „Myslím, že je směšné, že všichni tito monopolisté jsou tady, aby senátorům řekli, jak utvářet regulační rámec, aby mohli vydělat maximální množství peněz,“ řekl senátor Josh Hawley (R-Mo.).

Navzdory kontroverzi setkání vyvolalo zájem obou stran a zúčastnilo se ho více než 60 senátorů. Vůdce demokratické většiny v Senátu Schumer a senátor Todd Young (R-Ind.) vyjádřili optimismus ohledně připravenosti Senátu posuzovat legislativní návrhy. Senátor Mike Rounds (RS.D.) však upozornil, že proces přípravy vhodné legislativy bude nějakou dobu trvat. „Jsme připraveni vyrazit a napsat legislativu? Rozhodně ne,“ citovala agentura Reuters Rounds. „Nejsme tam.“

Zatímco schůzka byla pro média a veřejnost uzavřena, agentury Reuters a The New York Times informovaly o některých diskusích vedených v soukromí, aby si nikdo „nehrál do tisku“, řekl Schumer.

Podle Reuters Musk argumentoval nutností „rozhodčího“ v prostoru AI. Popsal regulaci AI jako obdobu sportovní hry, kde pravidla zajišťují fair play a chrání účastníky. „Je pro nás důležité mít rozhodce, který zajistí, že společnosti budou podnikat kroky, které jsou bezpečné a v zájmu široké veřejnosti,“ řekl Musk.

Multimiliardář, který řídí různé technologické podniky, včetně platformy sociálních médií X, zarámoval setkání jako „službu lidstvu“, přičemž naznačil, že jeho důsledky „mohou vstoupit do historie jako velmi důležité pro budoucnost civilizace.“ Muskovy komentáře opakují jeho předchozí výzvy k šestiměsíční pauze ve vývoji systémů umělé inteligence, které jsou výkonnější než GPT-4 OpenAI, které podle některých kritiků přehlížely současné škody způsobené umělou inteligencí ve prospěch neprokázaných, hypotetických nebezpečí.

Na druhou stranu Zuckerberg z Meta údajně prosazoval přístup založený na spolupráci mezi vládou a technologickými společnostmi. Vyzval Kongres, aby se „zapojil s AI na podporu inovací a ochranných opatření“, přičemž zdůraznil strategickou výhodu toho, že americké společnosti stanovují globální standardy.

Požadavek na regulaci umělé inteligence je stále globálnější a země po celém světě se snaží stanovit pravidla pro rozpoznávání obličejů, deepfakes, tréninkové datové sady a další. Tento týden společnosti Adobe, IBM a Nvidia oznámily , že se připojily k dobrovolným závazkům prezidenta Joe Bidena v oblasti umělé inteligence, které nařizují opatření, jako je vodoznakování obsahu generovaného umělou inteligencí, k označení jeho umělého původu.

S tolika humbukem – a tolika dolary létajícími kolem – se průmysloví experti jako Mitchell obávají, že se technické detaily mohou v konverzaci ztratit. „Správná věc by byla nejprve komunikovat s lidmi, kteří jsou technicky zdatní a mohou mluvit o lidských právech,“ řekl Mitchell. „Byli by položili základy Schumerova porozumění.“ Místo toho je nyní základ jeho chápání v souladu s krátkodobou maximalizací zisku.“