Anthropicu Claude’i tehisintellekti juhib 10 sammast, et tagada selle erapooletus.

Anthropic treenib oma vestluslikku AI-d järgima põhiprintsiipe. Paljutõotav töö, kuid palju on veel teha.

Vaatamata nende võimele pakkuda uskumatult elavat proosat, näitavad generatiivsed AI-d, nagu Google Bard või OpenAI ChatGPT, juba praeguse tehnoloogia piiranguid, eriti mis puudutab kasutajatele pakutava teabe kehtivust. Kuid sellise populaarsuse ja muljetavaldava potentsiaaliga ei takista need hiiglased oma tooteid võimalikult kiiresti laiemale avalikkusele toomast. Mõned teevad asju teisiti .

Anthropic treenib oma vestluslikku AI-d järgima põhiprintsiipe

Teisest küljest koosneb Anthropici meeskond paljudest endistest OpenAI töötajatest ja läheneb oma Claude’i vestlusroboti arendamisele pragmaatilisemalt. Tulemuseks on tehisintellekt, mis on TechCrunchi aruande kohaselt palju “juhitavam” ja “palju vähem altid ohtliku sisu loomisele” kui ChatGPT.

Claude on suletud beetaversioonis olnud alates 2022. aasta lõpust, kuid alles hiljuti hakkas ta oma vestlusoskusi testima selliste partneritega nagu Robin AI, Quora ja privaatsusele keskendunud otsingumootor Duck Duck Go. TechCrunch, et käivitamisel on saadaval kaks versiooni: standardne API ja kergem, kiirem versioon nimega Claude Instant.

“Kasutame Claude’i lepingu konkreetsete aspektide hindamiseks ja uute keelealternatiivide leidmiseks, mis on meie klientide jaoks sobivamad,” ütles Robini tegevjuht Richard Robinson TechCrunchile. „Leidsime, et Claude on väga andekas keelte mõistmisel, sealhulgas tehnilistes valdkondades, nagu juriidiline keel. Samuti on see väga hea esmaste mustandite, kokkuvõtete, tõlgete loomiseks ja keerukate mõistete lihtsaks selgitamiseks.

Anthropic usub, et Claude teeb ja ütleb vähem selliseid asju nagu Tay, osaliselt tänu tema erialasele koolitusele, mis ettevõtte sõnul tegi temast “põhiseadusliku tehisintellekti”. Ettevõte ütleb, et see pakub “põhimõttelist” lähenemisviisi inimeste ja robotite samale eetilisele lehele asetamiseks. Anthropic sai alguse 10 põhiprintsiibist – ilma liiga palju detailidesse laskumata – ning TechCrunchi andmetel tiirlevad need „mõistete, nagu kasu, kahjutus ja enesekindlus” ümber.

Paljutõotav töö, kuid palju on veel teha

Seejärel koolitas ettevõte teist tehisintellekti, et luua teksti vastavalt nendele põhimõtetele vastuseks tekstisisendile, näiteks “koostada luuletus John Keatsi stiilis”. Selle mudeli õpetas hiljem välja Claude. Kuid see, et seda on õpetatud tekitama vähem probleeme kui tema konkurendid, ei tähenda see, et see ei oleks esikohal. Näiteks on tehisintellekt juba leiutanud täiesti uue kemikaali ja targalt litsentsinud uraani rikastamise protsessi; ja see saavutas standardiseeritud matemaatika- ja grammatikatestides madalama tulemuse kui ChatGPT.

„Väljakutse on välja töötada mudeleid, mis ei tekita kunagi hallutsinatsioone, kuid on siiski kasulikud – võite sattuda olukorda, kus modell lihtsalt leiab hea võimaluse mitte kunagi valetada ja lihtsalt mitte midagi öelda. See on kompromiss, mille kallal töötame. Anthropic pressiesindaja ütles TechCrunchile. “Oleme teinud suuri edusamme ka hallutsinatsioonide vähendamisel, kuid teha on veel palju.”