OpenAI otevírá bug bounty program pro ChatGPT

OpenAI otevírá bug bounty program pro ChatGPT s odměnou 200 až 20 000 dolarů.

OpenAI se rozhodla apelovat na veřejnost, aby našla chyby v ChatGPT, a to vyhlášením „Programu odměn za chyby“ zaměřeného na odměňování lidí, kteří nahlásí bezpečnostní chyby, zranitelnosti nebo jiné problémy se systémem umělé inteligence (IA).

OpenAI otevírá bug bounty program pro ChatGPT

Tento program je otevřený všem, od výzkumníků a vývojářů až po obyčejné lidi, kteří mají zájem se o této technologii dozvědět. Odměny jsou poskytovány v hotovosti v rozmezí od 200 USD za „nevýznamné výsledky“ do 20 000 USD za „mimořádné výsledky“. Toto je specializovaná platforma Bugcrowd, která zpracovává podání a platby.

Google a Apple patří mezi technologické společnosti, které již implementovaly programy odměn za chyby. V roce 2019 společnost Mountain View vyplatila nejméně 6,5 milionu dolarů těm, kteří našli a nahlásili chyby, až do a včetně podepsání šeku na 201 337 dolarů za jedinou odměnu. Společnost se sídlem v Cupertinu jde ještě dále a účtuje až 2 miliony dolarů každému, kdo najde způsoby, jak „obejít speciální uzamčení ochrany“.

S odměnami v rozmezí od 200 do 20 000 USD.

Během několika posledních týdnů se ChatGPT setkal s řadou chyb. Minulý měsíc musel být celý systém vypnut poté, co uživatelé nahlásili, že viděli názvy konverzací někoho jiného. Jen o několik dní později uživatel Twitteru tvrdil, že objevil více než 80 tajných pluginů, když hackoval ChatGPT.

Jakékoli chyby nahlášené OpenAI nebudou mít nárok na finanční odměny, včetně útěku z vězení, nebo dokonce za to, že model řekne něco negativního. Toto oznámení o tomto bug bounty programu se také pokouší ukázat, že společnost dbá na soukromí a bezpečnost, ale také dodává, že „zatímco tvrdě pracujeme na omezení rizik, nemůžeme předvídat všechny způsoby, jejichž uživatelé budou [tuto] technologii používat v reálném světě.“ Čas ukáže, zda tato iniciativa přinese ovoce.