Anthropicin Clauden tekoälyä ohjaa 10 pilaria sen puolueettomuuden varmistamiseksi.

Anthropic kouluttaa keskustelun tekoälyään noudattamaan perusperiaatteita. Lupaavaa työtä, mutta paljon on vielä tehtävää.

Huolimatta kyvystään tarjota uskomattoman eloisaa proosaa, generatiiviset tekoälyt, kuten Google Bard tai OpenAI ChatGPT, osoittavat jo nykyisen tekniikan rajoitukset, erityisesti mitä tulee käyttäjille tarjotun tiedon pätevyyteen. Mutta tällaisella suosiolla ja niin vaikuttavalla potentiaalilla, nämä pienet koukut eivät estä näitä jättiläisiä tuomasta tuotteitaan suurelle yleisölle mahdollisimman nopeasti. Jotkut tekevät asioita eri tavalla .

Anthropic kouluttaa keskustelun tekoälyään noudattamaan perusperiaatteita

Toisaalta Anthropic-tiimi koostuu monista entisistä OpenAI-työntekijöistä ja ottaa pragmaattisemman lähestymistavan oman Claude-chatbotin kehittämiseen. Tuloksena on AI, joka on TechCrunchin raportin mukaan paljon ”hallittavampi” ja ”paljon vähemmän altis vaarallisen sisällön luomiselle” kuin ChatGPT.

Claude on ollut suljetussa beta-vaiheessa vuoden 2022 lopusta lähtien, mutta on vasta äskettäin alkanut testata keskustelukykyään sellaisten kumppaneiden kanssa, kuten Robin AI, Quora ja yksityisyyteen keskittyvä hakukone Duck Duck Go. TechCrunch, että kaksi versiota on saatavilla julkaisun yhteydessä: standardi API ja kevyempi, nopeampi versio nimeltä Claude Instant.

”Käytämme Claudea arvioidaksemme tiettyjä sopimuksen näkökohtia ja keksiäksemme uusia kielivaihtoehtoja, jotka sopivat paremmin asiakkaillemme”, Robinin toimitusjohtaja Richard Robinson kertoi TechCrunchille. ”Huomasimme Clauden olevan erittäin lahjakas kielen ymmärtämisessä, mukaan lukien tekniset osa-alueet, kuten lakikieli. Se on myös erittäin hyvä luomaan ensimmäisiä luonnoksia, tiivistelmiä, käännöksiä ja selittämään monimutkaisia ​​käsitteitä yksinkertaisesti.”

Anthropic uskoo, että Claude tekee ja sanoo vähemmän todennäköisemmin Tayn kaltaisia ​​asioita, osittain hänen erikoiskoulutuksensa vuoksi, mikä yhtiön mukaan teki hänestä ”perustuslaillisen tekoälyn”. Yhtiö sanoo, että tämä tarjoaa ”periaatteellisen” lähestymistavan yrittää asettaa ihmiset ja robotit samalle eettiselle sivulle. Anthropic aloitti 10 ydinperiaatteella – menemättä liian yksityiskohtiin – ja ne pyörivät TechCrunchin mukaan ”hyvyyden, harmittomuuden ja itseluottamuksen kaltaisten käsitteiden ympärillä”.

Lupaavaa työtä, mutta paljon muutakin tehtävää

Tämän jälkeen yritys koulutti toisen tekoälyn luomaan tekstiä näiden periaatteiden mukaisesti vastauksena tekstinsyöttöön, kuten ”säveltää runo John Keatsin tyyliin”. Tämän mallin koulutti myöhemmin Claude. Mutta se, että sen on opetettu luomaan vähemmän ongelmia kuin sen kilpailijat, ei tarkoita, etteikö se menestyisi. Esimerkiksi tekoäly on jo keksinyt täysin uuden kemikaalin ja taitavasti lisensoinut uraanin rikastusprosessin; ja se sai alhaisemmat pisteet kuin ChatGPT standardoiduissa matematiikan ja kieliopin testeissä.

”Haasteena on kehittää malleja, jotka eivät koskaan aiheuta hallusinaatioita, mutta ovat silti hyödyllisiä – saatat päätyä tilanteeseen, jossa malli vain löytää hyvän tavan olla koskaan valehtelematta ja vain sanoa mitään. Se on kompromissi, jota työskentelemme. Anthropicin tiedottaja kertoi TechCrunchille. ”Olemme myös saavuttaneet suuria harppauksia hallusinaatioiden vähentämisessä, mutta paljon on vielä tehtävää.”