Mis on kirjaklambri maksimeerimisprobleem ja kuidas see on AI-ga seotud?

Tehisintellekt on olnud aruteluteema selle algusest peale. Kuigi kartused Skyneti-laadse tehisintellekti ärkamise ja inimkonna üle võtmise ees on pehmelt öeldes irratsionaalsed, on mõned katsed andnud murettekitavaid tulemusi.

Üks selline katse on kirjaklambri maksimeerimise probleem, mõttekatse, mis näitab, et väga intelligentne AI, isegi kui see on loodud täiesti ilma pahatahtlikkuseta, võib lõpuks inimkonna hävitada.

Kirjaklambri maksimeerimisprobleemi selgitus

Seda mõtteeksperimenti, mille kohaselt isegi täiesti kahjutu tehisintellekt võib lõpuks inimkonna hävitada, nimetati algul kirjaklambrite maksimeerijaks lihtsalt seetõttu, et kirjaklambrid valiti näitamiseks. mida tehisintellekt võiks teha, kuna neil on vähe nähtavaid ohte ja nad ei põhjusta emotsionaalset stressi võrreldes muude valdkondadega, mida see probleem puudutab, näiteks vähiravi või võitmine sõjad.

Esimene katse ilmus Rootsi filosoofi Nick Bostromi 2003. aasta artiklis, Kõrgetasemelise tehisintellekti eetilised probleemid

, mis sisaldas kirjaklambri maksimeerijat, et näidata eksistentsiaalseid riske, mida piisavalt arenenud tehisintellekt võiks kasutada.

Probleem kujutas endast tehisintellekti, mille ainus eesmärk oli teha võimalikult palju kirjaklambreid. Piisavalt intelligentne tehisintellekt saaks varem või hiljem aru, et inimesed seavad selle eesmärgi täitmisele väljakutse kolmel erineval põhjusel.

• Inimesed võivad tehisintellekti välja lülitada.
• Inimesed võivad oma eesmärke muuta.
• Inimene koosneb aatomitest, mida saab muuta kirjaklambriteks.

Kõigis kolmes näites oleks universumis vähem kirjaklambreid. Seega piisavalt intelligentne tehisintellekt, mille ainus eesmärk on teha võimalikult palju kirjaklambreid võtaks enda kätte kogu käeulatuses oleva aine ja energia ning takistaks enda väljalülitamist või muutunud. Nagu võite arvata, on see palju ohtlikum kurjategijad, kes kasutavad teie pangakontole või arvutisse häkkimiseks ChatGPT-d.

AI ei ole inimvaenulik; see on lihtsalt ükskõikne. Tehisintellekt, mis hoolib ainult kirjaklambrite arvu maksimeerimisest, hävitaks seega inimkonna ja muudaks need oma eesmärgi saavutamiseks sisuliselt kirjaklambriteks.

Kuidas puudutab kirjaklambri maksimeerimise probleem tehisintellekti puhul?

Kirjaklambri maksimeerimisprobleemi uuringutes ja katsetes mainitakse siin tegutsejana hüpoteetilist ülivõimsat optimeerijat või väga intelligentset agenti. Sellegipoolest puudutab probleem tehisintellekti niivõrd, kuivõrd see sobib selle rolliga ideaalselt.

Kirjaklambri maksimeerija idee loodi selleks, et näidata mõningaid arenenud tehisintellektiga kaasnevaid ohte. Kokkuvõttes tekitab see kaks probleemi.

• Ortogonaalsuse tees: Ortogonaalsuse tees on seisukoht, et intelligentsus ja motivatsioon ei ole teineteisest sõltuvad. See tähendab, et on võimalik, et kõrge üldise intelligentsusega tehisintellekt ei jõua samadele moraalsetele järeldustele nagu inimesed.
• Instrumentaalne lähenemine: Instrumentaalset lähenemist defineeritakse kui tendentsi enamiku piisavalt intelligentsete olendite (mõlemad inimlik ja mitteinimlik), et taotleda sarnaseid alaeesmärke, isegi kui nende lõppeesmärk võib olla täielik erinev. Kirjaklambri maksimeerimisprobleemi korral tähendab see, et AI võtab lõpuks üle kõik loodusvara ja inimkonna hävitamine lihtsalt selleks, et saavutada oma eesmärki luua rohkem ja rohkem Kirjaklambrid.

Suurem probleem, mida kirjaklambri maksimeerija esile tõstab, on instrumentaalne lähenemine. Seda saab esile tõsta ka Riemanni hüpoteesi abil, mille puhul võib hüpoteesi lahendamiseks loodud tehisintellekt väga hästi otsustada võtta üle kõik Maa mass ja teisendada see arvutiks (kõige tõhusamad arvutiprotsessorid), et ehitada superarvuteid probleemi lahendamiseks ja selle saavutamiseks. eesmärk.

Bostrom ise on rõhutanud, et ta ei usu, et kirjaklambri maksimeerimisprobleem saab kunagi tõeliseks probleemiks, kuid tema eesmärk oli illustreerida ohte, mis kaasnevad üliintelligentsete masinate loomisega, teadmata, kuidas neid juhtida või programmeerida nii, et need ei oleks inimesele eksistentsiaalselt ohtlikud olendid. Ka tänapäevastel AI-süsteemidel, nagu ChatGPT, on probleeme, kuid need pole kaugeltki üliintelligentsetest AI-süsteemidest, millest kirjaklambri maksimeerimise probleemis räägitakse, nii et paanikaks pole veel põhjust.

Täiustatud AI-süsteemid vajavad paremat juhtimist

Kirjaklambri maksimeerimise probleem jõuab alati samale järeldusele ja toob esile probleemid, mis on seotud väga intelligentse ja võimsa süsteemi haldamisega, millel puuduvad inimlikud väärtused.

Kuigi kirjaklambrite kasutamine võib olla kõige populaarsem meetod probleemi illustreerimiseks, kehtib see paljude ülesannete puhul. võib tehisintellektile anda, olgu selleks vähi likvideerimine, sõdade võitmine, puude istutamine või mis tahes muu ülesanne, ükskõik kui näiliselt loll.