Tehisintellektil põhineva tehnoloogia uusimad uuendused nihutavad piire sellele, mida me kunagi pidasime tehisintellektiga võimalikuks. Kuid kuna vestlusrobotid, nagu ChatGPT ja Bing Chat, on paljudes asjades peaaegu sama head kui inimesed, kas on aeg mõneks ajaks pidurit vajutada?
Elon Musk ja mitmed AI-uurijad on nende 1188 inimese hulgas (kirjutamise ajal), kes nii arvavad. Mittetulundusühingu Future of Life instituudi avaldatud kirjas nõutakse kuuekuulist pausi GPT 4-st paremate AI-tehnoloogiate koolitamisel, kuid kas paus on tõesti vajalik?
Mis on elu tulevik avatud kiri?
The kiri, mille avaldas Future of Life Instituut juhib tähelepanu sellele, et tehisintellekti laborid on "lukustunud kontrolli alt väljunud võidujooksus", et arendada ja kasutusele võtta rohkem ja võimsamad AI mudelid, mida keegi, sealhulgas nende loojad, ei saa "aru saada, ennustada ega usaldusväärselt". kontroll".
Samuti juhib see tähelepanu sellele, et tänapäevased AI-süsteemid muutuvad nüüd üldiste ülesannete täitmisel inimestele konkurentsivõimeliseks ja küsib kas me peaksime arendama "mitteinimlikke mõistusi, mis võivad lõpuks ületada arvu, olla kavalamad, vananenud ja asendada meie".
Kirjas kutsutakse lõpuks kõiki tehisintellekti laboreid viivitamatult peatama GPT-4-st võimsamate AI-süsteemide koolitus vähemalt kuueks kuuks. Paus peaks olema avalik ja kontrollitav ka kõigi peamiste osalejate jaoks. Samuti öeldakse selles, et kui sellist pausi ei saa kiiresti jõustada, peaksid valitsused sekkuma, et keelata ajutiselt tehisintellekti mudeli koolitus.
Kui paus on aktiivne, palutakse tehisintellekti laboritel ja sõltumatutel ekspertidel seda kasutada, et ühiselt välja töötada ja rakendada a "jagatud turvaprotokollide komplekt" tagamaks, et nendele reeglitele vastavad süsteemid on "turvalised üle mõistliku piiri kahtlema".
Sellele kirjale on alla kirjutanud üsna mitu nimetut isikut, sealhulgas Elon Musk, Steve Wozniak ning tehisintellekti teadlased ja autorid. Tegelikult on allakirjutanute nimekiri praegu suure nõudluse tõttu peatatud.
Millised on Muski mured Advanced AI Tech ja OpenAI pärast?
Kuigi Future of Life kirja allkirjastamine võib viidata sellele, et Musk on mures selliste arenenud tehisintellektisüsteemidega kaasnevate ohutusriskide pärast, võib tegelik põhjus olla milleski muus.
Musk asutas OpenAI koos praeguse tegevjuhi Sam Altmaniga 2015. aastal mittetulundusühinguna. Kuid hiljem 2018. aastal lõi ta Altmaniga pead, kui sai aru, et pole ettevõtte edusammudega rahul. Musk tahtis väidetavalt arenduse kiirendamiseks üle võtta, kuid Altman ja OpenAI juhatus lasid selle idee maha.
Musk lahkus OpenAI-st varsti pärast seda ja võttis oma raha endaga kaasa, rikkudes lubadust panustada 1 miljard ja anda enne lahkumist vaid 100 miljonit. See sundis OpenAI-d varsti pärast seda 2019. aasta märtsis eraettevõtteks saama, et koguda oma uurimistöö jätkamiseks raha.
Teine põhjus, miks Musk lahkus, oli see, et Tesla tehisintellekti arendamine põhjustab tulevikus huvide konflikti. On ilmne, et Tesla vajab oma toiteks täiustatud AI-süsteeme Täielikud isejuhtimise funktsioonid. Pärast seda, kui Musk OpenAI-st lahkus, on ettevõte oma tehisintellektimudelitega minema jooksnud ja käivitanud GPT3.5 toega ChatGPT aastal 2022 ja hiljem GPT-4-ga 2023. aasta märtsis.
Asjaolu, et Muski AI-meeskond pole OpenAI-le lähedal, tuleb arvestada iga kord, kui ta ütleb, et kaasaegsed AI-mudelid võivad kujutada endast riske. Samuti polnud tal probleeme Tesla Full Self-Driving beetaversiooni kasutuselevõtt avalikel teedel, muutes sisuliselt tavalised Tesla draiverid beetatestijateks.
Ka see ei lõpe siin. Musk on ka Twitteris OpenAI suhtes üsna kriitiline olnud, kuna Altman on hiljuti podcastis "On with Kara Swisher" esinedes öelnud, et ründab neid.
Praegu tundub, et Musk kasutab lihtsalt Future of Life kirja, et peatada OpenAI arendus ja mis tahes muu ettevõtte järelejõudmine GPT-4-le, et anda oma ettevõtetele võimalus järele jõuda, selle asemel et muretseda nende tehisintellekti mudelite võimalike ohtude pärast poos. Pange tähele, et kirjas palutakse ka tehisintellektisüsteemide "koolitus" pooleks kuuks pausile panna, millest saab suhteliselt lihtsalt kõrvale hiilida, et vahepeal arendada.
Kas pausi on tõesti vaja?
Pausi vajadus sõltub AI mudelite edasisest olekust. See kiri on kindlasti pisut dramaatilise tooniga ja me ei riski sellega, et kaotame kontrolli oma tsivilisatsiooni üle tehisintellektile, nagu selles nii avalikult öeldakse. See ütles, AI-tehnoloogiad kujutavad endast mõningaid ohte.
Arvestades, et OpenAI ja teised tehisintellekti laborid võivad pakkuda paremaid ohutuskontrolle, teeks paus rohkem kahju kui kasu. Kirjas esitatud soovitus ühiste ohutusprotokollide komplekti kohta, mida "sõltumatute välisekspertide poolt rangelt auditeeritakse ja mida kontrollivad", kõlab siiski hea ideena.
Kuna sellised tehnoloogiahiiglased nagu Google ja Microsoft investeerivad tehisintellekti arendamiseks ja oma toodetega integreerimiseks miljardeid, on ebatõenäoline, et kiri mõjutab tehisintellekti arendamise praegust tempot.
AI on siin, et jääda
Kuna tehnoloogiahiiglased edendavad tehisintellekti integreerimist oma toodetes ja investeerivad miljardeid dollareid teadus- ja arendustegevusse, on AI siin, et jääda, olenemata opositsiooni sõnadest.
Kuid pole halb mõte rakendada ohutusmeetmeid, et vältida nende tehnoloogiate rööbastelt väljalangemist ja potentsiaalselt kahju tekitamise tööriistadeks muutumist.