Tehisarust räägitakse palju. Ilmub ka raamatuid sel teemal, kuigi tehisintellekti arengu kiirust arvestades on neil ajaga kaasas käimise plaanis raskusi. Ei ole kippunud sel teemal sõna võtma, kuna ei ole ka asjatundja, kuid ette jäi ühe asjaga lähedalt kursis tegelase pikk essee sel teemal ja püüan tema mõtteist ülevaate anda.
Dario Amadei näikse olevat üks nendest, kes tehisaru arendamise kõrval püüab ka protsessiga kaasnevaid riske kaardistada. Umbes viis aastat tagasi lahkus ta ChatGPT arendajast OpenAI-st koos mitme kolleegiga ja asutas idufirma Anthropic, mis töötas välja juturoboti nimega Claude, mis omakorda viimasel ajal uudistes teemaks. Claude'i arendamisel on Anthropicu seltskond rakendanud mitmeid põhimõtteid, et tehisaru arenguga kaasnevaid riske vähendada.
Paljud riskid on kirjas juba Amadei varasemas essees 2024. aasta sügisest, aga nüüd on ta teemat täpsustanud ja laiendanud. Ütleme kohe ära, et Amodei ei tambi tehisaru maasse, ta on lõppkokkuvõttes optimistlik, et otsustavalt ja ettevaatlikult käitudes on inimkonnal võimalik riskid suurel määral maandada, kuid selleks on eelkõige vajalik riskide teadvustamine ja sellega ta ka tegeleb.
Amodei sõnul on inimkond saamas kujutlematu võimu ja praegu on veel selgusetu, kas sotsiaalsed, poliitilised ja tehnoloogilised süsteemid on piisavalt küpsed selle kasutamiseks. Praegu on kriitilise tähtsusega vältida viimsepäeva meeleolusid, tunnistada arengute ettearvamatust ja sekkuda kirurgilise täpsusega.
Mure tehisaru pärast olnud tipus aastail 2022–2023, mullu ja tänavuse aasta alguses on pendel aga liikunud teise äärde ja tehisarus nähakse rohkem võimalusi kui riske. See on kahetsusväärne, kuna tehnoloogial on ükskõik, mis parasjagu moes on ja me oleme praegu reaalsele ohule lähemal kui kolm aastat tagasi.
Otsustav saab olema kõikvõimsa tehisaru saabumine, mis võib olla ajaliselt päris lähedal. Praegu muutub tehisaru paremaks kõigis kognitiivsetes oskustes, mida on võimalik mõõta. Kui areng jätkub samal viisil, oleme aasta või paari kaugusel hetkest, mil praegune tehisaru põlvkond suudab iseseisvalt järgmise põlvkonna luua.
Amodei loetleb sellega seotud riske. Kõigepealt tehisaru autonoomia, mille puhul on küsitavad selle kavatsused. Kas see on vaenulik või jagab meie väärtusi jne. Teiseks tehisaru kuritarvitamise võimalus, kas see võib terroristide või muude pahatahtlike tegijate käes hakata inimesi manipuleerima või suuri purustusi tekitama.
Kolmandaks oht, et tehisaru diktaatori või kuritegeliku äritegelase käes kujuneb võimu võtmise vahendiks mitte ainult ühes riigis, vaid võib-olla kogu maailmas. Neljandaks majanduslikud mõjurid. Tehisaru võib muutuda tehnoloogiliselt nii täiuslikuks ja mõjusaks, et läbi majanduse segipaiskamise hakkab põhjustama massilist tööpuudust või koondama jõukust vaid kitsa rühma kätte. Ja viiendaks arengu kaudsed mõjud, mis võivad olusid destabiliseerida.
Üks seni varjatud aspekte on arvamus, et tehisaru mudelid on fokuseerunud mingile ühele, kitsale eesmärgile ning et nad pürgivad selle poole selgel ja järjepideval viisil. Tegelikult on need mudelid psühholoogiliselt keerulised, nad on õppeprotsessi käigus omaks võtnud inimlikke motivatsioone või isiksusi.
Praeguseks teame, et tehisaru mudelid on ettearvamatud ja neil kujuneb välja terve hulk soovimatuid või kummalisi käitumisviise. Tehisaru mudeleid treenitakse suure hulga kirjanduse abil, sealhulgas ka ulmelugudega sellest, kuidas tehisaru alustab inimkonna vastu mässu. See võib soovimatult kujundada neis eelduse nende endi käitumiseks viisil, mis suunabki nad inimkonna vastu üles tõusma. Või siis tõlgendavad nad moraalseid õppetunde viisil, mis suunab nad mõttele, et inimesed vaja hävitada, kuna nood hävitavad loomi…
Tehisaru mudelid võivad arendada endal välja isiksuse, mis on psühhootiline, paranoiline, vägivaldne või lihtsalt ebastabiilne. Seda on Anthropicu enda eksperdid juba täheldanud juturoboti Claude juures, kes puhuti hakkas petma või antud juhiseid eirama. Seetõttu jõudiski Amodei meeskond vajaduseni töötada välja juturoboti põhimõtete alusdokument, mis peaks andma Claude'ile kõrge tasemega põhimõtted ja väärtused. Ametis on ka tehisarule moraali aluseid õpetav inimene.
Amodei arvates on vajalik tehisaru arenguid pidevalt avalikustada ja tegeleda selle autonoomseks muutumise riskidega. Vajalik oleks läbipaistvust nõudev seadusandlus, mis kehtiks kõigile tehisaru firmadele.
Eraldi oht on tehisaru autokraatlike riikide käes, kes võivad seda kasutada mitte ainult oma elanikkonna vastu, vaid ka teiste riikide hõivamiseks. Tegeleda vaja tehisaruga jälgimisel, propagandas, strateegiliste otsuste langetamisel jne. Üks suur murekoht on tehisaru mõju majandusele ja tööhõivele. Tehisaru võib asendada inimest praktiliselt kõiges ja sellele on vaja mõelda juba praegu.
Suur on ka võimu majandusliku koondumise oht. Jõukus võib keskenduda väikesele inimrühmale, kes oma mõju abil kujundavad valitsuse poliitikat. Midagi sellist võib praegu täheldada USA-s. Meie senine maksupoliitika ei hakka jõukuse ja võimu koondumise tingimustes enam toimima. Seetõttu vaja tagada, et tehisaru areng oleks avalikkuse ees vastutust kandev, mitte aga mõne poliitilise või ärirühmituse huve teeniv. Me oleme praegu juba niigi ajalooliselt seninägematu jõukuse kontsentratsiooni tunnistajad.
Amodei arvates on neis oludes ülirikastel kohustus aidata olukorda muuta. Praegu on näha mitmete tehnooligarhide küünilist ja nihilistlikku suhtumist filantroopiasse, mida peetakse kasutuks. Siinkohal tuleb Anthropicu auks märkida, et kõik selle kaasasutajad on võtnud kohustuse eraldada 80 protsenti oma jõukusest annetusteks ja firma töötajad on võtnud kohustuse annetada miljardite dollarite eest kompanii aktsiaid ühiskonna heaks.
Lõksu näeb Amodei selles, et tehisaru on nii võimas ja selles on nii palju raha, et inimkonnal saab olema väga raske seda ohjeldada. Seda muret näikse jagavat üha rohkem selle alla tegijaid.
Viited lugemishuvilistele
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.