Tokenid aitavad teil kontrollida, kuidas ChatGPT reageerib. Siin on, mis need on ja kuidas neid kasutada.
ChatGPT on tehnoloogilise maailma vallutanud ning edusammudest ja uuendustest pole puudust. Kuid hoolimata arenenud tehnoloogia kasutamisest on praeguses versioonis mitmeid piiravaid tegureid.
Üks selline tegur on märgisüsteem, mis jätkab evolutsioonitsükli katkestamist, viies rakenduse utiliidi põlvili. Kui kasutate ChatGPT-d, võiksite teada saada ChatGPT žetoonidest ja sellest, mida teha, kui žetoonid otsa saavad.
Astume sammu tagasi ja anname teile ülevaate kõigest, mida on rakenduse aluseks olevate töömehhanismide kohta teada.
Mis on ChatGPT-märk?
Kui vaatate rakenduse fassaadist mööda, näete ainult arvutikeelt, mis järgib teie käske ja annab teile soovitud vastused. Taustaprogramm koosneb aga lihtsalt paljust koodist, mis õpib iga minut ja saab küsimustega, millele see vastused annab.
ChatGPT teisendab iga sõna loetavaks märgiks, kui küsite küsimust. Selle edasiseks jaotamiseks on märgid tekstifragmendid ja iga programmeerimiskeel kasutab nõuete mõistmiseks erinevat märgiväärtuste komplekti.
Kuna arvutid ei mõista tekstiväärtusi otseselt, jagavad nad need numbrikombinatsioonideks, mida sageli nimetatakse manusteks. Võite isegi kaaluda selliseid manuseid nagu Pythoni loendid, mis meenutavad seotud numbrite loendit, näiteks [1.1,2.1,3.1,4.1…n].
Kui ChatGPT võtab esialgse sisendi, proovib see eelneva teabe põhjal ennustada järgmist võimalikku sisendit. See valib kogu eelnevate märkide loendi ja püüab oma kodeerimise sünteesi kasutades ennetada kasutaja järgnevat sisendit. See kasutab ja ennustab üht tunnust korraga, et keelel oleks kasutusest lihtsam aru saada.
Prognooside parandamiseks ja täpsuse parandamiseks kogub see üles kogu manuste loendi ja edastab selle sõnade vahel seoste loomiseks läbi transformaatorikihtide. Näiteks kui esitate sellise küsimuse nagu "Kes on Thomas Edison?", valib ChatGPT loendist kõige väärtuslikumad sõnad: WHO ja Edison.
Trafokihtidel on kogu protsessis oma roll. Need kihid on närvivõrgu arhitektuuri vorm, mis on koolitatud sõnajadast kõige asjakohasemate märksõnade leidmiseks. Treeningprotsess pole aga nii lihtne, kui tundub, sest trafokihtide treenimine gigabaitidel andmetel võtab kaua aega.
Kuigi ChatGPT ennustab korraga ainult ühte luba, on selle automaatregressiivne tehnoloogia programmeeritud ennustama ja andma tagasi esmasele mudelile väljundi vabastamiseks. Mudel on häälestatud töötama ainult üks kord iga märgi kohta, nii et tulemus trükitakse üks sõna korraga. Väljund peatub automaatselt, kui rakendus kohtab käsku stop token.
Näiteks kui vaatate ChatGPT veebisaidil olevat märgikalkulaatorit, saate oma küsimuste põhjal oma märgi kasutamise arvutada.
Sisestame näidisteksti, näiteks:
Kuidas selgitada žetoonide kasutamist sisse ChatGPT?
Kalkulaatori järgi on selles stringis 46 märki, mis kulutavad 13 märki. Kui jagate selle Token ID-deks, näeb see välja umbes selline:
[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]
Vastavalt OpenAI märgi kalkulaator:
Kasulik rusikareegel on see, et tavalise ingliskeelse teksti puhul vastab üks märk üldiselt ~4 tähemärgile. See tähendab umbes ¾ sõnast (seega 100 märki ~ = 75 sõna).
Tasuta vs. Tasulised märgid
Et anda teile ülevaade sellest, mis ChatGPT rakenduses on, pakub OpenAI teile tasuta piiratud loa tellimust. Kui soovite katsetada ChatGPT API-ga, kasutage tasuta $5 krediiti, mis kehtib kolm kuud. Kui limiit on ammendatud (või prooviperiood on lõppenud), saate maksta jooksvalt, mis suurendab maksimaalset kvooti 120 dollarini.
ChatGPT Plus: kas tasuline tellimus on seda väärt?
Selle paremaks muutmiseks võite isegi registreeruda ChatGPT Plus pakkumine, mis annab teile 20 dollarit kuus tagasi. Arvestades kogu AI mudeli laialdast kasutust ja populaarsust, on siin tasulise tellimusmudeli peamised funktsioonid:
- Juurdepääs ChatGPT-le isegi siis, kui veebisaidil on kasutajate sissevoolu tõttu seisakuid
- Parem reageerimismäär
- Vahetu juurdepääs uutele funktsioonidele ja väljalasetele
Kui arvate, et need funktsioonid on seda igati väärt, saate registreeruda tasulisele tellimusele ja neist kohe kasu saada.
ChatGPT märgi hinnastruktuur
Saadaval on mitu erinevat rakendusmudelit, mille saate valida vastavalt oma vajadustele:
Mudel |
Hind 1000 märgi kohta (viip) |
Hind 1000 märgi kohta (täidetud) |
---|---|---|
Ada |
$0.0004 |
$0.0004 |
Babbage |
$0.0005 |
$0.0005 |
Curie |
$0.0020 |
$0.0020 |
DaVinci |
$0.0200 |
$0.0200 |
ChatGPT |
$0.0020 |
$0.0020 |
GPT-4 8k kontekst |
$0.0300 |
$0.0600 |
GPT-4 32k kontekst |
$0.0600 |
$0.1200 |
Ada on kiireim, DaVinci aga võimsaim mudel sellest mudeliloendist. Viip on küsimus, lõpetamine aga vastustega.
Maksimaalsed märgipiirangud
Iga mudel võimaldab teil määrata igas päringus maksimaalse žetoonide arvu. See meetod kontrollib maksimaalset žetoonide arvu, mida rakendus ühe kõnega genereerib, piirates väljundit. Funktsioon max_token on üsna kasulik, eriti kui soovite kontrollida oma väljundi pikkust, vältides samal ajal oma märgikasutuse ja krediitide ülekasutamist. Vaikimisi pikkus on fikseeritud 2048 märgile, samas kui maksimaalseks saab määrata 4096 märgi.
Märgi kasutamise piiramine võib kaasa tuua lühikesed vastused, mis võib piirata väljundit ja rikkuda teie kasutuskogemust.
ChatGPT3 ülempiir on 4096; aga ChatGPT4 kasutuselevõtuga suurendatakse lubade piiranguid järgmiselt:
Mudel |
Hind 1000 märgi kohta (viip) |
---|---|
Ada |
2048 |
Babbage |
2048 |
Curie |
2048 |
DaVinci |
4096 |
ChatGPT |
4096 |
GPT-4 8k kontekst |
8192 |
GPT-4 32k kontekst |
32768 |
Kui teie väljund on kärbitud, peate suurendama armatuurlaual määratud maksimumlimiiti. Pidage meeles, et viipade ja maksimaalsete märkide summa peaks alati olema väiksem kui võrdne mudeli maksimaalse märgipiiranguga.
Näiteks ChatGPT mudelis on prompt_tokens + max_tokens <= 4096 märgid.
Parimate tulemuste saavutamiseks õppige oma ChatGPT viipasid juhtima
Olenemata sellest, kuidas te AI-põhist rakendust kasutate, peate tõenäoliselt välja mõtlema viisid, kuidas oma küsimuste ja fraasidega nutikalt mängida. Sõltuvalt teie kasutusharjumustest kasutate ChatGPT-d tõenäoliselt iga ülesande jaoks laialdaselt.
Parimate tulemuste saavutamiseks peate õppima, kuidas töötada token-metoodikaga, ja täiustama oma oskusi, et tagada, et teie kasutuspiirangud jäävad samaks, andes teile parimaid võimalikke vastuseid.