See on uuem, kuid aeglasem. Mis annab?
2023. aasta märtsis välja antud ChatGPT uusim versioon GPT-4 mõtleb nüüd paljudele, miks see nii aeglane on võrreldes eelkäija GPT-3.5-ga. Niisiis, mis on siin peamine põhjus?
Miks on ChatGPT-4 nii loid ja kas peaksite selle asemel GPT-3.5 juurde jääma?
Mis on ChatGPT-4?
ChatGPT-4 on uusim mudel OpenAI vestlusbot, mis on üldiselt tuntud kui ChatGPT. ChatGPT toiteallikaks on tehisintellekt, mis võimaldab sellel vastata teie küsimustele ja viipadele palju paremini kui varasemad vestlusrobotid. ChatGPT kasutab suurt keelemudelit, mida toidab GPT (Generative Pre-train Transformer), et pakkuda kasutajatele teavet ja sisu, võimaldades samal ajal ka vestelda.
ChatGPT-l on lai valik võimalusi, mistõttu on see kasulik miljonite jaoks. Näiteks saab ChatGPT kirjutada lugusid, sõnastada nalju, tõlkida teksti, harida kasutajaid ja palju muud. Kuigi ChatGPT-d saab kasutada ka ebaseaduslikumateks tegudeks, näiteks pahavara loomine, on selle mitmekülgsus mõnevõrra revolutsiooniline.
ChatGPT GPT-4 mudel ilmus 14. märtsil 2023. See ChatGPT versioon on loodud selleks, et paremini mõista emotsionaalset keelt teksti kaudu, samal ajal mõista paremini erinevaid keelemurdeid ja pilditöötlust. GPT-4 suudab pidada ka pikemaid vestlusi ja vastata tõhusalt pikematele kasutajaviipadele.
Lisaks ületavad GPT-4 parameetrid suurel määral GPT-3.5 parameetrid. ChatGPT parameetrid määravad, kuidas AI teavet töötleb ja sellele reageerib. Lühidalt, parameetrid määravad oskuse, mida vestlusrobot peab kasutajatega suhtlemiseks. Kui GPT-3.5-l on 175 miljardit parameetrit, siis GPT-4-l on uskumatud 100 kuni 170 triljonit (kuulujutud – OpenAI pole seda arvu kinnitanud).
See oli OpenAI GPT-3.5, mida kasutati ChatGPT toiteks, mis on nüüd maailma populaarseim AI vestlusbot. Seega on GPT-3.5 teinud tehisintellekti valdkonnas vaieldamatu jälje. Kuid asjad arenevad tehnoloogiatööstuses pidevalt, seega pole üllatav, et GPT-3.5-l on nüüd GPT-4 järeltulija.
GPT-4 pole aga sugugi täiuslik. Tegelikult põhjustavad GPT-4 pikad reageerimisajad üsna segadust. Nii et uurime seda probleemi ja miks see võib juhtuda.
ChatGPT-4 on aeglane
Paljud märkasid GPT-4 väljalaskmisel, et OpenAI uus vestlusbot oli uskumatult aeglane. See põhjustas paljudele kasutajatele pettumuse, kuna GPT-4 pidi olema samm GPT-3.5-st ülespoole, mitte tagasi. Selle tulemusena on GPT-4 kasutajad käinud veebiplatvormidel, nagu Reddit ja OpenAI kogukonna juhatus, et seda probleemi arutada.
Peal OpenAI kogukonna foorum, on mitmed kasutajad avaldanud oma GPT-4 viivituse pettumusi. Üks kasutaja väitis, et GPT-4 oli nende jaoks "äärmiselt aeglane" ja et isegi väikesed vestlusbotile tehtud taotlused põhjustasid ebatavaliselt pikki, üle 30-sekundilisi viivitusi.
Teised kasutajad jagasid kiiresti oma kogemusi GPT-4-ga, üks kommenteeris postituse all, et "sama kõne samade andmetega võib võtta kuni 4 korda aeglasemalt kui 3,5 turbo".
Teises OpenAI kogukonna foorumi postitus, kommenteeris kasutaja, et nende viipadele vastatakse mõnikord "viga kehavoolus" sõnum, mille tulemusel vastust ei saadud. Samas lõimes väitis teine isik, et nad ei saa panna GPT-4 "edukalt vastama täielik skript." Teine kasutaja kommenteeris, et neil tekkis kasutamise ajal pidevalt võrguvigu GPT-4.
Viivituste ja ebaõnnestunud või pooleliolevate vastuste tõttu tundub, et GPT-4 on täis probleeme, mis panevad kasutajad kiiresti eemale.
Miks see siis täpselt juhtub? Kas GPT-4-ga on midagi valesti?
Miks on GPT-4 aeglane võrreldes GPT-3.5-ga?
Eespool viidatud OpenAI kogukonna foorumi postituses vastas üks kasutaja, kes viitas sellele, et viivituse põhjuseks oli "praegune probleem kogu infrastruktuuriga ülekoormus", lisades, et nii lühikese aja jooksul mastaapsuse vastu võitlemine on väljakutseks nii vestluse kui ka sellise populaarsuse ja kasutajate arvu tõttu. API."
Sees Redditi postitus R/singularity subreddit'is üles laaditud kasutaja tõi välja mõned GPT-4 aegluse võimalikud põhjused, alustades suuremast konteksti suurusest. GPT ökosüsteemis viitab konteksti suurus sellele, kui palju teavet antud vestlusroboti versioon suudab töödelda ja seejärel teavet toota. Kui GPT-3.5 konteksti suurus oli 4K, siis GPT-4 oma on kaks korda suurem. Seega võib 8K konteksti suurus mõjutada GPT-4 üldist kiirust.
Redditi autor soovitas ka, et GPT-4 täiustatud juhitavus ja juhtimine võivad mängida rolli vestlusroti töötlemisaegades. Siin märkis autor, et GPT-4 suurem juhitavus ja hallutsinatsioonide kontroll ning sobimatu keel võib olla süüdlane, kuna need funktsioonid lisavad GPT-4 töötlemismeetodile täiendavaid samme teavet.
Lisaks tehti ettepanek, et GPT-4 võime pilte töödelda võib asju aeglustada. Seda kasulikku funktsiooni armastavad paljud, kuid see võib kaasa tuua. Arvestades, et kuulduste kohaselt kulub GPT-4-l esitatud pildi töötlemiseks 10–20 sekundit, on tõenäoline, et see komponent venitab reageerimisaega (kuigi see ei selgita viivitusi, mida kogevad kasutajad, kes esitavad ainult tekstiviipasid).
Teised kasutajad on väitnud, et ChatGPT-4 uudsus mängib nendes viivitustes suurt rolli. Teisisõnu, mõned arvavad, et OpenAI uusim vestlusrobot peab kogema kasvuvalu, enne kui kõik vead saab kõrvaldada.
Kuid suurim põhjus, miks GPT-4 on aeglane, on parameetrite arv, mida GPT-4 saab kasutada võrreldes GPT-3.5-ga. The parameetrite fenomenaalne tõus tähendab lihtsalt seda, et uuemal GPT mudelil kulub teabe töötlemiseks ja reageerimiseks kauem aega täpselt. Saate paremaid vastuseid keerukamalt, kuid nendeni jõudmine võtab veidi kauem aega.
Kas peaksite valima GPT-3.5 GPT-4 asemel?
Seega, neid probleeme silmas pidades, kas peaksite kasutama GPT-3.5 või GPT-4?
Selle artikli kirjutamise ajal näib, et GPT-3.5 on GPT-4 ees parem variant. Nii paljud kasutajad on kogenud viivitusi, et tõenäoliselt on ajaprobleem olemas kõikjal, mitte ainult mõne inimese puhul. Seega, kui ChatGPT-3.5 vastab praegu kõigile teie ootustele ja te ei soovi lisafunktsioonide eest vastust oodata, võib olla mõistlik praegu selle versiooni juurde jääda.
Siiski peaksite arvestama, et GPT-4 pole mitte ainult GPT-3.5, vaid aeglasem. Sellel OpenAI vestlusroboti versioonil on oma eelkäijaga võrreldes mitmeid eeliseid. Kui otsite täiustatud AI-vestlusbotit ja te ei viitsi vastuseid kauem oodata, tasub GPT-3.5-lt GPT-4-le üle minna.
Aja jooksul võivad GPT-4 viivitused väheneda või täielikult laheneda, nii et kannatlikkus võib siin olla eeliseks. Ükskõik, kas proovite nüüd GPT-4-le üle minna või ootate veidi kauem, et näha, kuidas selle versiooniga asjad käivad, saate OpenAI vahvast väikesest vestlusbotist siiski palju kasu.
GPT-4 on täiustatud, kuid sellel on viivitus
Kuigi GPT-4-l on palju täiustatud võimalusi võrreldes GPT-3.5-ga, on selle märkimisväärsed viivitused ja reageerimisvead muutnud selle mõne jaoks kasutuskõlbmatuks. Need probleemid võivad lähitulevikus laheneda, kuid praegu on GPT-4-l kindlasti mõned takistused, mis tuleb ületada, enne kui see laiemalt aktsepteeritakse.
