Miljonite ChatGPT kasutajate puhul võite küsida, mida OpenAI kõigi oma vestlustega teeb. Kas see analüüsib pidevalt asju, millest te ChatGPT-ga räägite?
Vastus sellele on jah, ChatGPT õpib kasutaja sisendist, kuid mitte nii, nagu enamik inimesi arvab. Siin on põhjalik juhend, mis selgitab, miks ChatGPT vestlusi jälgib, kuidas neid kasutab ja kas teie turvalisus on ohus.
Kas ChatGPT mäletab vestlusi?
ChatGPT ei võta viipasid vastu nimiväärtusega. See kasutab kontekstimälu, et meeles pidada ja viidata eelnevatele sisenditele, tagades asjakohased ja järjekindlad vastused.
Võtke näiteks allolev vestlus. Kui küsisime ChatGPT-lt retseptiideid, võttis see arvesse meie eelmist sõnumit maapähkliallergiate kohta.
Siin on ChatGPT ohutu retsept.
Kontekstuaalne mälu võimaldab AI-l ka mitmeastmelisi ülesandeid täita. Alloleval pildil on näha, et ChatGPT jääb oma iseloomu ka pärast uue viipa andmist.
ChatGPT suudab vestlustes meelde jätta kümneid juhiseid. Selle väljundi täpsus ja täpsus paranevad, kui pakute rohkem konteksti. Lihtsalt selgitage oma juhiseid selgelt.
Samuti peaksite juhtima oma ootusi, sest ChatGPT kontekstuaalsel mälul on endiselt piiranguid.
ChatGPT-vestlustel on piiratud mälumaht
Kontekstuaalne mälu on piiratud. ChatGPT-l on piiratud riistvararessursid, nii et see mäletab ainult praeguste vestluste konkreetseid punkte. Platvorm unustab varasemad viibad, kui saavutate oma mälumahu.
Selles vestluses andsime ChatGPT-le ülesandeks mängida väljamõeldud tegelast nimega Tomie.
See hakkas vastama viipadele kui Tomie, mitte ChatGPT.
Kuigi meie taotlus töötas, rikkus ChatGPT pärast 1000-sõnalise viipa saamist iseloomu.
OpenAI pole kunagi avalikustanud ChatGPT täpseid piiranguid, kuid kuulujutud räägivad, et see suudab korraga töödelda vaid 3000 sõna. Meie katses tekkis ChatGPT talitlushäire juba pärast 2800+ sõna.
Saate oma viipad jagada kaheks 1500-sõnaliseks komplektiks, kuid tõenäoliselt ei säilita ChatGPT kõiki teie juhiseid. Alustage lihtsalt uut vestlust. Vastasel juhul peate vestluse jooksul mitu korda kordama konkreetseid üksikasju.
ChatGPT jätab meelde ainult teemakohased sisendid
ChatGPT kasutab kontekstimälu, et parandada väljundi täpsust. See ei säilita teavet ainult selle kogumise eesmärgil. Platvorm unustab peaaegu automaatselt ebaolulised üksikasjad, isegi kui te pole kaugeltki märgilimiidi saavutamisest.
Alloleval pildil püüame AI segadusse ajada erinevate ebajärjekindlate ja ebaoluliste juhistega.
Hoidsime oma kombineeritud sisestused alla 100 sõna, kuid ChatGPT unustas ikkagi meie esimese juhise. See murdis kiiresti iseloomu.
Samal ajal jätkas ChatGPT selle vestluse ajal rollimänge, kuna küsisime ainult teemakohaseid küsimusi.
Ideaalis peab iga dialoog järgima konkreetset teemat, et säilitada täpsed ja asjakohased väljundid. Saate siiski sisestada mitu käsku korraga. Lihtsalt veenduge, et need ühtiksid üldise teemaga, vastasel juhul võib ChatGPT loobuda juhistest, mida ta peab ebaoluliseks.
Koolitusjuhised Ületage kasutaja sisend
ChatGPT eelistab alati etteantud juhiseid kasutaja loodud sisendile. See peatab piirangute kaudu ebaseadusliku tegevuse. Platvorm lükkab tagasi kõik viiped, mida ta peab ohtlikuks või kahjustab teisi.
Võtke näitena rollimängutaotlused. Kuigi need alistavad teatud keele- ja fraasipiirangud, ei saa te neid kasutada ebaseaduslike tegevuste sooritamiseks.
Muidugi ei ole kõik piirangud mõistlikud. Kui jäigad juhised muudavad konkreetsete ülesannete täitmise keeruliseks, jätkake oma viipade ümberkirjutamist. Sõnavalik ja toon mõjutavad väljundeid tugevalt. Inspiratsiooni saab ammutada kõigest tõhusad ja üksikasjalikud juhised GitHubis.
Kuidas OpenAI kasutajate vestlusi uurib?
Kontekstuaalne mälu kehtib ainult teie praeguse vestluse kohta. ChatGPT olekuta arhitektuur käsitleb vestlusi iseseisvate juhtumitena; see ei saa viidata varasemate andmetele. Uute vestluste alustamine lähtestab alati mudeli oleku.
See ei tähenda, et ChatGPT jätab kasutajate vestlused koheselt välja. OpenAI kasutustingimused öelda, et ettevõte kogub sisendeid mitte-API tarbijateenustelt, nagu ChatGPT ja Dall-E. Võite isegi küsida oma vestlusajaloo koopiaid.
Kuigi ChatGPT pääseb vestlustele vabalt juurde, OpenAI privaatsuspoliitika keelab tegevused, mis võivad kasutajaid ohustada. Koolitajad saavad teie andmeid kasutada ainult tooteuuringuteks ja -arenduseks.
Arendajad otsivad lünki
OpenAI otsib vestlustest läbi lünki. See analüüsib juhtumeid, kus ChatGPT demonstreerib andmete kallutatust, toodab kahjulikku teavet või aitab toime panna ebaseaduslikke tegevusi. Platvormi eetilisi juhiseid uuendatakse pidevalt.
Näiteks esimesed versioonid ChatGPT vastas avameelselt küsimustele pahavara kodeerimise kohta või lõhkeainete ehitamine. Need juhtumid tekitasid kasutajates tunde OpenAI-l pole ChatGPT üle kontrolli. Avalikkuse usalduse taastamiseks õpetas see vestlusrobot tagasi lükkama kõik küsimused, mis võiksid olla vastuolus selle juhistega.
Koolitajad koguvad ja analüüsivad andmeid
ChatGPT kasutab juhendatud õppetehnikaid. Kuigi platvorm jätab kõik sisendid meelde, ei õpi ta neist reaalajas. OpenAI koolitajad koguvad ja analüüsivad need kõigepealt. See tagab, et ChatGPT ei võta kunagi vastu saadud kahjulikku ja kahjustavat teavet.
Juhendatud õppimine nõuab rohkem aega ja energiat kui juhendamata tehnikad. Tehisintellekti jätmine ainult sisendi analüüsimiseks on aga juba osutunud kahjulikuks.
Võtke näiteks Microsoft Tay – üks neist korda läks masinõpe valesti. Kuna see analüüsis pidevalt säutse ilma arendaja juhendamiseta, õpetasid pahatahtlikud kasutajad selle lõpuks rassistlikele stereotüüpsetele arvamustele sülitama.
Arendajad jälgivad pidevalt eelarvamusi
Mitu välistegurid põhjustavad tehisintellekti eelarvamusi. Teadmatud eelarvamused võivad tuleneda koolitusmudelite erinevustest, andmekogumi vigadest ja halvasti üles ehitatud piirangutest. Näete neid erinevates AI-rakendustes.
Õnneks pole ChatGPT kunagi näidanud diskrimineerivat või rassilist eelarvamust. Võib-olla on halvim eelarvamus, mida kasutajad on märganud, ChatGPT kalduvus vasakpoolsete ideoloogiate poole. New York Post aruanne. Platvorm kirjutab avatumalt liberaalsetel kui konservatiivsetel teemadel.
Nende eelarvamuste lahendamiseks keelas OpenAI ChatGPT-l poliitiliste arusaamade esitamise. See võib vastata ainult üldistele faktidele.
Moderaatorid vaatavad üle ChatGPT toimivuse
Kasutajad saavad anda tagasisidet ChatGPT väljundi kohta. Iga vastuse paremalt küljelt leiate nupud "Meeldib" ja "Ei meeldi". Esimene viitab positiivsele reaktsioonile. Pärast meeldiva või mittemeeldiva nupu vajutamist avaneb aken, kus saate oma sõnadega tagasisidet saata.
Abiks on tagasiside süsteem. Andke OpenAI-le veidi aega kommentaaride läbi sõelumiseks. Miljonid kasutajad kommenteerivad ChatGPT-d regulaarselt – selle arendajad eelistavad tõenäoliselt tõsiseid kõrvalekaldeid ja kahjulikku väljundit.
Kas teie ChatGPT vestlused on turvalised?
Arvestades OpenAI privaatsuspoliitikat, võite olla kindel, et teie andmed jäävad turvaliselt. ChatGPT kasutab vestlusi ainult andmete treenimiseks. Selle arendajad uurivad kogutud teadmisi, et parandada väljundi täpsust ja usaldusväärsust, mitte varastada isikuandmeid.
Seda arvestades pole ükski AI-süsteem täiuslik. ChatGPT ei ole oma olemuselt kallutatud, kuid pahatahtlikud isikud võivad siiski ära kasutada selle turvaauke, nt andmekomplekti vigu, hooletut koolitust ja turvalünki. Oma kaitseks õppige nende riskidega võitlema.