Makina kontzienteak… Ez dakit ba….

Zientzia Fikzioak bere hasieratik elikatu gaitu kontzienteak diren makinekin. Liburuetatik hasi, gero film eta komikietan, gaurko serieak arte, askotan agertu dira horrelakoak eta HAL, Roy Batty edo Arale bera kultura popularrean dira jada. Errealitatea berriz, horietatik oso urrun dago.

Hasteko, arazo teknologiko purua dago. Adimen artifizialak azkeneko urteetan aurrerapauso itzelak eman arren, oraindik bide luzea dauka egiteko. Eta, egia esateko, garatzaileen ildo nagusiak ez doaz hortik. Zer gehituko lioke adimen artifizial bati kontzientea izateak?

Bestalde, zer da kontzientzia? Gai al gara izaki bizidun bat, igel bat kasu, kontzientea den esateko? Horretarako kontzientziaren teoria on bat beharko genuke eta horren arabera erabaki. Tamalez, ez da horrelakorik. Kontzientziaren zenbait adituei egindako inkesta baten arabera, %58ak baino ez du uste babes zabalena duen “Global Workspace” teoria esperantzagarria denik. Hedatuen dauden hiru teoriak hartzen baditugu, ez lirateke ados jarriko konputagailu bat zein baldintzetan kontzientea izango litzatekeen erabakitzeko. Ez hori bakarrik, bat edo bestea hartuta, esan genezake adimen artifizialak ez direla inoiz kontzienteak izango, egunen baten izan zitezkeela, edo batzuk honezkero badirela.

Baina, suposa dezagun badaukagula horrelako “zeozer”. Etika dator orain. Isaac Asimoven liburuetan bere roboten hiru lege ezagunak agertzen dira, eta hauek sortzen dituzten paradoxak. Kotxe autonomo batek istripu bat gertatzea ezin duenean ekidin, bere kalkuluak egingo ditu eta bere algoritmoan dituen legeen arabera, Asimovenak izan zein beste batzuk izan, erabaki bat hartuko du, tartean dauden gizakiengan ondorio arinenak izanez.

Hemen ez da etikarik. Horrelako adimen artifizialek datu mordoa eta algoritmo piloa jokoan jarriko dituzte erabakia hartzeko. Ordea, erabakia ez da emozionala, ez da euren aldetik hartutako erabaki moralik (naiz eta algoritmoan programatzaileen morala bai egongo dela, noski, baina programatzaileena).

Baina kontzientea den izaki artifizial baten kasuan (ez litzake ba orduan izaki bat izango?)? Algoritmo bat baino gehiago egongo zen tartean?

Dena den, ez dut uste arazo honek epe motz edo ertainera buruhausterik sortuko digunik. Adimen artifiziala, batik bat, nahi ez ditugun lanak, neketsuak direnak edo egin ezin ditugunak burutzeko garatzen gabiltza. Nork nahiko lituzke horietako batzuk egiteko kontzientzia duten robotak? Lan miserableak dituzten robot kontzienteak nahi ditugu? Haien betebeharra zalantzan jarri edo egitera uko egingo luketena?

Nik behintzat, ez nuke nahi Bender moduko robot kontziente baten inguruan jardun. Arriskutsuegia haragi-poltsa batentzat.