Pistlar:

Í kvikmyndinni Ex Machina er áhrifamikið atriði þegar ein aðalsöguhetja myndarinnar, forritarinn Caleb Smith, fyllist skyndilega miklum ótta um hver hann sé. Eftir að hafa átt mikil og náin samskipti við vélmenni hellist yfir hann tilvistarleg óvissa sem leiðir til þess að hann ákveður að skera í hold sitt til að þess að athuga hvort undir yfirborðinu leynist vél. Á því augnabliki gerir hann engan greinarmun á verund sinni og þeirra vélmenna sem hann umgengst í því afskekkta umhverfi sem umlykur sögusvið myndarinnar.

Hlutverk Caleb Smith var meðal annars að framkvæma Turing-prófið en það fellst í að sannreyna hvort tölva getur sýnt greind við ákveðnar aðstæður. Samkvæmt Wikipediu kom hugmyndin fyrst fram í grein stærðfræðingsins Alan Turing, „Computing machinery and intelligence“, sem kom út árið 1950. Ekki er langt síðan ævi Turing birtist á hvíta tjaldinu í myndinni The Imitation Game sem sagði sögu hans sem lykilmanns í því að ráða hið svokallaða „Enigma“ dulmál Þjóðverja í seinni heimsstyrjöldinni.

Turing-prófið gengur út á að setja upp einhverskonar hermileik þar sem spyrill leggur spurningar fyrir mann og tölvu en tölvan er þá forrituð til að þykjast vera maður. Spyrillinn á síðan að álykta út frá svörum viðmælendanna hvor þeirra er tölva! Turing vildi meina að ef tölvu tækist að herma svo vel eftir manni að spyrillinn léti blekkjast þá væri það nægjanleg sönnun þess að hún hugsaði. Til þess að komast í gegnum prófið þyrfti tölvan að geta beitt tungumálinu, rökvísi, þekkingu og vera fær um að læra í ferlinu sjálfu, rétt eins og maður sem kann að taka mið af aðstæðum. Turing taldi sjálfur að tölva myndi standast prófið í framtíðinni og þannig yrði engin munur á manni og vél. Í dag sjáum við mörg merki þess að það sem einu sinni var talin vísindaskáldskapur sé veruleiki sem er við það að hellast yfir okkur.

Tekur manninum fram

Nú kann að vera að mörgum hugnist ágætlega að þróa gervigreind (e. artificial intelligence) þannig að hún taki smám saman manninum fram. Það sem er varasamast við slíka hugsun er að sumir nálgast viðfangsefnið eins og þeim sé sama þegar þeim tímamótum sé náð. Það segir okkur að þau geta náðst án þess að menn almennilega átti sig á afleiðingunum. Við slíkri þróun hefur áður verið varað í pistlum hérna. Gera má þó ráð fyrir að eftir því sem tækninni vindur fram muni siðferðilegar spurningar verða áleitnari. En duga þær til að hemja kappsfulla vísindamenn sem oftar en ekki eru fjármagnaðir af aðilum sem sjá mikla ágóðavon í þróun gervigreindar?

Nú má ekki skilja þessi varnaðarorð þannig að lagst sé gegn þróun gervigreindar. Vissulega er það svo að í gervigreind felst mörg tækifæri og vélræn hugsun og viðbragð getur án efa bætt líf mannkynsins á mörgum sviðum En margir gera sér einnig grein fyrir því að þróun þessarar greindar getur hugsanlega leitt til endaloka mannkynsins eins og við þekkjum það nú. 

Ólík sýn vísindamanna

Fjórir heimsfrægir vísindamenn með sjálfan Stephen Hawking í fararbroddi birtu í fyrir þremur árum grein um áhættuna sem mun fylgja vitundarvakningu vélanna. Þar segir m.a.: „Ávinningurinn sem kann að fylgja [þróun gervigreindar] er gríðarlegur. Allt það sem siðmenningin hefur upp á að bjóða er afrakstur mannlegra vitsmuna. Ómögulegt er að ímynda sér hversu hátt við gætum teygt okkur ef aðstoðar yfirburðagreindra véla nyti við. Að útrýma stríði og vinna bug á fátækt og sjúkdómum eru meðal hins hugsanlega. Takist að skapa vélar með gervigreind teldist það merkasti viðburður mannkynssögunnar. Því miður kynni hann einnig að vera sá síðasti.“ (Stephen Hawking, Frank Wilczek, Max Tegmark, Stuart Russell, „Transcending Complacency on Superintelligent Machines“, Huffington Post, 19. apríl, 2014.)

Um þetta er deilt sem gefur að skilja. Í sérstöku áramótablaði Morgunblaðsins var komið inn á þessi mál. Þar var stutt viðtal við Kristinn R. Þórisson, prófessor í gervigreind við Háskólann í Reykjavík og stjórnandi Vitvélastofnunar Íslands. Kristinn virðist afslappaðri en margir erlendir kollegar og sagði:  

„Af frétta­flutn­ingi sumra fjöl­miðla mætti ætla að gervi­greind vél­menni með mik­il­mennsku­brjálæði gætu tekið yfir heim­inn inn­an ör­fárra ára. Heil­brigð skyn­semi seg­ir okk­ur að taka slík­um spám af gagn­rýni. Sum­ir taka slík­ar framtíðarspár al­var­lega en harðir efa­hyggju­menn sjá eng­an mun á „svo­kallaðri gervi­greind“ og venju­leg­um hug­búnaði. Sann­leik­ur­inn ligg­ur lík­lega ein­hvers staðar þarna á milli – en hvar?”

Að baki þessum orðum býr væntanlega sú trú að engan eðlislægan greinarmun sé að finna á færustu gervigreindarforritum og öðrum tölvuforritum. En þrátt fyrir orð Kristins er það svo að umræða um þróun gervigreindar er mörgum áhyggjuefni. Þorbjörn Þórðarson, leiðarahöfundur Fréttablaðsins, vakti í haust athygli á orðum Nick Bostrom, prófessors við Oxford-háskóla, sem hefur gengið svo langt að segja að þessi tækniþróun geti þýtt endalok mannkyns ef ekki er haldið rétt á spöðunum. Ótti Bostrom byggir á möguleikanum á því að gervigreind taki á einhverjum tímapunkti fram úr mannlegri greind en það geti mögulega leitt til þess að maðurinn verði undir í samkeppni við eigið sköpunarverk. Unnendur vísindamynda myndu líklega kalla þetta Skynet-atburðarásina!

Í áramótablaði Morgunblaðsins var viðtal við Ray Kurzweil sem er kannski sá maður sem hefur mest með þróun gervigreindar að gera í heiminum. Ray Kurzweil er framtíðarfræðing­ur og stýr­ir verk­fræðistarfi hjá Google þar sem hann fer fyr­ir hópi sem þróar greind í tækj­um og nátt­úru­leg­an málskiln­ing. Hans sýn er sannarlega einhverstaðar á milli eins og Kristin tala um en Kurzweil styðst við svokallaða sérstæðukenningu sem felur í sér að maðurinn munu að lokum renna saman við tæknina og útkoman verður nokkurs konar ofurgreind sem mun skara fram úr öllu sem hingað til hefur þekkst. Við erum nú þegar farin að sjá vísi að slíkri þróun með nýjum hjálpartækjum sem sum hver eru grædd í menn. 

Í bókmenntaheiminum eru til menn sem vilja koma ímyndunaraflinu til valda og í skáldskapnum er sannarlega falið mikið vald. Getur verið að í heimi tækni og vísinda séu menn sem vilji koma tækninni til valda? Ef svo er, er ekki rétt að þeir útskýri mál sitt vel og vandlega áður en stokkið er til.

Það skal tekið fram að þau viðhorf sem birtast í þessum pistli eru eingöngu höfundar og á hans ábyrgð.