Dabar galite mokyti ChatGPT naudodami savo dokumentus naudodami API

Antradienį „OpenAI“ paskelbė apie GPT-3.5 Turbo – AI modelio, kuris maitina nemokamą „ ChatGPT“ versiją – patikslinimą per savo API. Tai leidžia apmokyti modelį naudojant pasirinktinius duomenis, pvz., įmonės dokumentus ar projekto dokumentus. „OpenAI“ teigia, kad tam tikrais scenarijais tiksliai sureguliuotas modelis gali veikti taip pat gerai kaip GPT-4 su mažesnėmis sąnaudomis.

Taigi iš esmės tikslinimas moko GPT-3.5 Turbo apie pasirinktinį turinį, pvz., projekto dokumentaciją ar bet kokią kitą rašytinę nuorodą. Tai gali būti naudinga, jei norite sukurti AI padėjėją, pagrįstą GPT-3.5, kuris yra gerai susipažinęs su jūsų produktu ar paslauga, bet neturi žinių apie tai savo mokymo duomenims (kurie, kaip priminimas, buvo išbraukti iš žiniatinklio prieš 2021 m. rugsėjo mėn.).

„Nuo GPT-3.5 Turbo išleidimo kūrėjai ir įmonės prašė suteikti galimybę pritaikyti modelį, kad sukurtų unikalią ir skirtingą patirtį savo vartotojams“, – savo reklaminiame tinklaraštyje rašo OpenAI . „Šiuo paleidimu kūrėjai dabar gali atlikti prižiūrimą koregavimą, kad šis modelis geriau veiktų jų naudojimo atvejais.

Nors GPT-4 , galingesnis GPT-3.5 pusbrolis, yra gerai žinomas kaip universalus, kuris yra pritaikomas daugeliui dalykų, jis yra lėtesnis ir brangesnis. „OpenAI“ siūlo 3.5 koregavimą, kaip būdą pasiekti GPT-4 panašų našumą konkrečioje žinių srityje už mažesnę kainą ir greitesnį vykdymo laiką. „Ankstyvieji bandymai parodė, kad tiksliai sureguliuota GPT-3.5 Turbo versija gali prilygti arba net pranokti pagrindines GPT-4 lygio galimybes atliekant tam tikras siauras užduotis“, – rašo jie.

Be to, „OpenAI“ teigia, kad sureguliuoti modeliai užtikrina „geresnį valdomumą“, o tai reiškia, kad geriau sekti instrukcijas; „patikimas išvesties formatavimas“, kuris pagerina modelio gebėjimą nuosekliai išvesti tekstą tokiu formatu, kaip API iškvietimai arba JSON; ir „priskirtas tonas“, kuris pokalbių robotui gali suteikti individualų skonį ar asmenybę.

„OpenAI“ teigia, kad koregavimas leidžia vartotojams sutrumpinti raginimus ir sutaupyti pinigų OpenAI API skambučiuose, kurie apmokestinami už prieigos raktą. „Ankstyvieji bandytojai sumažino raginimo dydį iki 90 %, patikslindami instrukcijas pačiame modelyje“, – sako OpenAI. Šiuo metu tikslaus derinimo konteksto ilgis yra 4K žetonų, tačiau OpenAI teigia, kad patikslinimas bus taikomas 16k žetonų modeliui „vėliau šį rudenį“.

Savo duomenų naudojimas kainuoja

Iki šiol jums gali kilti klausimas, kaip veikia savo duomenų naudojimas mokant GPT-3.5 ir kiek tai kainuoja. „OpenAI“ savo tinklaraštyje pateikia supaprastintą procesą, kuriame rodomas sistemos raginimo nustatymas naudojant API, failų įkėlimas į „OpenAI“ mokymui ir koregavimo užduoties sukūrimas naudojant komandinės eilutės įrankio „curl“ užklausą API žiniatinklio adresui . Baigus koregavimo procesą, „OpenAI“ teigia, kad pritaikytą modelį galima naudoti nedelsiant su tokiomis pačiomis greičio ribomis kaip ir bazinis modelis. Daugiau informacijos rasite oficialioje OpenAI dokumentacijoje .

Visa tai, žinoma, turi savo kainą ir yra padalinta į mokymo ir naudojimo išlaidas. Mokyti GPT-3.5 kainuoja 0,008 USD už 1000 žetonų. Naudojimo fazės metu API prieiga kainuoja 0,012 USD už 1 000 teksto įvesties žetonų ir 0,016 USD už 1 000 teksto išvesties žetonų.

Palyginimui, bazinis 4K GPT-3.5 Turbo modelis kainuoja 0,0015 USD už 1 000 žetonų įvestį ir 0, 002 USD už 1 000 žetonų išvestį, todėl tiksliai suderinto modelio eksploatavimas yra maždaug aštuonis kartus brangesnis. Ir nors GPT-4 8K kontekstinis modelis taip pat yra pigesnis – 0,03 USD už 1 000 žetonų įvestį ir 0,06 USD už 1 000 žetonų išvestį, „OpenAI“ vis dar teigia, kad pinigų galima sutaupyti dėl sumažėjusio raginimo poreikio tiksliai suderintame modelyje. Tai yra ruožas, bet siaurais atvejais tai gali būti taikoma.

Net ir už didesnę kainą GPT-3.5 mokymas apie pasirinktinius dokumentus kai kuriems žmonėms gali būti vertas kainos – jei neleisite modeliui nieko negalvoti. Tinkinimas yra vienas dalykas, tačiau pasitikėjimas GPT-3.5 Turbo išėjimų tikslumu ir patikimumu gamybos aplinkoje yra visiškai kitas dalykas. GPT-3.5 yra gerai žinomas dėl savo tendencijos sumaišyti informaciją.

Kalbant apie duomenų privatumą , OpenAI pažymi, kad, kaip ir visose jos API, duomenų, siunčiamų į koreguojančią API ir iš jos, OpenAI (ar kas nors kitas) nenaudoja dirbtinio intelekto modeliams mokyti. Įdomu tai, kad OpenAI siųs visus klientų tikslinimo mokymo duomenis per GPT-4 moderavimo tikslais, naudodama neseniai paskelbtą moderavimo API. Tai gali sudaryti dalį išlaidų, susijusių su koregavimo paslauga.

Ir jei 3.5 jums nepakanka, OpenAI sako, kad GPT-4 koregavimas bus atliktas šį rudenį. Remiantis mūsų patirtimi, GPT-4 nesudaro tiek daug, tačiau to modelio (arba 8 modelių, kurie, kaip gandai , veikia kartu po gaubtu) patikslinimas greičiausiai bus daug brangesnis. Reikės pažiūrėti, kada ateis laikas.