Google Bard drīzumā pāries uz “progresīvāku” valodas modeli

Google drīz pārtulkos Bard daudz progresīvākā valodas modelī. Atšķirībai starp LaMDA un PaLM ir jābūt pārsteidzošai.

Plašā sabiedrība nav pārāk pārsteigta par Google “eksperimentālā sarunu pakalpojuma” Bard palaišanu. Saskaroties ar OpenAI ChatGPT un Microsoft Bing Chat, kas darbojas arī ar OpenAI GPT-4, lietotāji atklāja, ka atbildes no Mountain View risinājuma nebija tik detalizētas kā konkurentu atbildes. Tomēr tas drīz var mainīties. Google izpilddirektors Sundars Pichai apstiprināja The New York Times “Hard Fork” aplādei, ka Bārds tuvāko dienu laikā pāries no sava pašreizējā LaMDA modeļa uz lielāku PaLM datu kopu.

Google drīz atjauninās Bard uz daudz progresīvāku valodas modeli.

Jautāts par atsauksmēm pēc Barda aiziešanas, Sundars Pichai atbildēja: “Mums nepārprotami ir modeļi, kas spēj vairāk. Ļoti drīz, varbūt tieši tagad, mēs jaunināsim Bardu uz vienu no mūsu daudz funkcionālākiem PaLM modeļiem, lai sniegtu viņam vairāk iespēju, strukturētāku domāšanu, tostarp programmēšanu.

Lai labāk novērtētu atšķirības, Google paziņoja, ka ir apmācījis LaMDA ne mazāk kā 137 miljardus parametru, kad pagājušajā gadā atklāja informāciju par saviem valodu modeļiem. Savukārt PaLM ir apmācīts ar aptuveni 540 miljardiem parametru. Kopš 2022. gada sākuma abi ir daudz mainījušies, taču kontrasts skaidri parāda, kāpēc Google tagad vēlas pārcelt Bardu uz PaLM, izmantojot plašāku datu kopu un daudzveidīgākas atbildes.

Sundars Pichai saka, ka viņš nav noraizējies par Google AI attīstības ātrumu salīdzinājumā ar konkurentiem. Kad Bards februārī spēra savus pirmos soļus, viņš atzina, ka LaMDA izmantošana ir nedaudz ierobežojusi viņa iespējas, taču piebilda, ka mazāka apstrādes jauda ir priekšrocība, ļaujot lietotājiem testēt un gūt peļņu. Sundars Pichai arī vēlējās pārliecināties, ka Google veiks savu Bard drošības un kvalitātes pārbaudi, tiklīdz tas tiks izlaists reālajā pasaulē.

Atšķirībai starp LaMDA un PaLM ir jābūt pārsteidzošai.

Lai to izdarītu, Sundars Pichai paskaidroja, ka Google nevēlas palaist “jaudīgāku modeli, pirms nav pilnībā pārliecināts, ka var to pareizi pārvaldīt. Mēs esam tikai pašā sākumā. Laika gaitā mums būs labāki modeļi, ko pieslēgt, bet es nevēlos, lai tās būtu sacensības, lai noskaidrotu, kurš pirmais nokļūst, mums ir ļoti svarīgi to izdarīt pareizi.

Šis noskaņojums ir vairāk nekā 1800 cilvēku (tostarp tehnoloģiju vadītāju un citu AI pētnieku) prātos, kuri ir parakstījuši atklātu vēstuli, aicinot uz vismaz sešu mēnešu pārtraukumu AI tehnoloģiju izstrādē, kas ir “jaudīgākas par GPT-4”.

Sundars Pichai neuzskata, ka to var veiksmīgi izdarīt bez valdības līdzdalības, taču piekrīt, ka ir nepieciešama vadība: “AI ir pārāk svarīga, lai to regulētu. Tas ir arī pārāk svarīgi, lai būtu slikti regulēts. Tāpēc es priecājos, ka šīs sarunas notiek.