Jendetzaren artean ahotsa goratuz, galdera luzatu zuen Wilhelm Von Osten-ek: gaur, hilak zortzi, asteartea bada, ze egun izango da datorren ostirala? Adi-adi zen publikoak inguraturik, oinarekin lurra kolpatzen hasi zen Hans: bat, bi, hiru, lau… eta hamaikagarren kolpean geratu zen. 8a asteartea izanik, ostiralak 11 behar baitzuen izan. Txundituta geratu zen mundu guztia. Eta ez zen gutxiagorako, zer eta zaldi bat baitzen gure Hans.

Hans zaldiaren ikuskizuna. Iturria: Wikipedia (domeinu publikoa)

Matematika irakaslea ogibidez, behin erretiroa hartuta institutoko ikasleen partez bere Hans zaldiari hasi zen klaseak ematen Von Osten. Abako baten laguntzaz kontatzen erakusten zion, hizkien taula bat erabiliz irakurtzen, eta jostailuzko harmonika baten bidez musika. Lau urteren ondoren, zaldiaren gaitasunak ezagutarazteko erakustaldiak egiten hasi zen bere landetxean. Hans ez zen hitz egiteko gai, noski, baina ahoz edo idatziz egindako galderak arazorik gabe erantzuten zituen burua mugituz edo oinarekin lurra kolpatuz. Egutegia erabiltzeaz gain, eragiketa matematikoak egiten, ordua esaten eta musika-notak bereizten ere ederki asko moldatzen zen.

XX. mende hasiera zen, eta egun feriante baten ikuskizun merkea eman lezakeenak izugarrizko arreta bereganatu zuen garai hartan. Mundu osoko egunkarien bidez lau haizeetara zabaldu zen istorioa, eta Carl Stumpf filosofo eta psikologoak 13 laguneko batzorde bat eratzea erabaki zuen zaldi haren gaitasunen atzean zer zegoen argitzeko helburuarekin.

Von Osten tranpetan ari zela pentsa zitekeen hasiera batean, zaldiari erantzun zuzena esaten ziola nolabait ezkutuan. Baina adituen batzordeak ondorioztatu zuen erakustaldiaren atzean ez zegoela inolako iruzurrik. Izan ere, galderak edonork egiten zituela ere, Hans erantzun zuzena asmatzeko gai zela egiaztatu zuten, baita Von Osten bertan ez zegoenean ere.

Baina ikerketarekin aurrera egiteko ardura Oskar Pfungst gaztearengana iritsi zenean, Hansen mitoa zapuzten hasi zen. Pfungst konturatu zen begiak estaliz gero Hans ez zela gai erantzun bat bera ere asmatzeko. Eta, are bitxiagoa zena, aldez aurretik idatzitako galdera bat erakutsiz gero, galdetzaileak berak zehazki zein zen ikusi gabe, Hansek oker erantzun ohi zuen. Galdetzaileak lehendabizi galdera begiratzen bazuen, berriz, Hans zuzen erantzuteko gai zen.

Eta lortu zuen misterioa argitzea azkenean. Ohartu zen galdera egin ostean zaldiaren oinetara begiratu ohi zuela galdetzaileak, eta oinarekin lurra kolpatzen hasteko agindutzat interpretatzen zuen hori Hansek. Galdetzaileak mentalki kontatu ohi zituen Hansen kolpeak jarraian, erantzun zuzena asmatuko ote zuen jakin-minez. Kolpe kopuru zuzenera iristen zenean, galdetzailearen tentsioak gora egiten zuen azkena izango ote zen esperoan, eta bere begirada gorantz zuzendu ohi zuen oharkabean. Hans gai zen keinu hori antzemateko, eta kolpeak ematen geratzeko seinalea zela ikasi zuen. Eta, modu horretara, bete-betean asmatzen zuen kolpe kopuru zuzena ematen. Pikutara Hansen adimena: aritmetika, musika edo alemana beharrean, galdetzailearen gorputz-hizkuntza interpretatzen baino ez zuen ikasi zaldi hark. Gizakiaren mailako adimena zirudienaren atzean, ezin portaera inozoagoa zegoen errealitatean.

XX. mende hasieran zaldi itxuraz adimentsuarekin gertatukoa, XXI. mende hasieran makina itxuraz adimentsuekin gerta dakiguke. Adimen artifizialak izugarrizko aurrerapausoak eman ditu azken urteotan, geroz eta ataza gehiagotan gizakion mailara helduz. Baina, Hans zaldiarekin gertatzen zen legez, adimen artifizialak gizakiaren pareko emaitzak lortzeak ez du esan nahi erantzun zuzenera heltzeko bidea ere berdina denik. Emaitza gordinei begiratuta hala eman balezake ere, makinek ez dute pentsatzen gizakiok egiten dugun moduan. Eta horrek baditu bere arriskuak.

Emaitza gordinei begiratuta hala eman balezake ere, makinek ez dute pentsatzen gizakiok egiten dugun moduan. Eta horrek baditu bere arriskuak. Txioka nazazu!

Mehatxurik zuzenena berariazko erasoak (“adversarial attack” direlakoak) dira. Har dezagun adibiderik ezagunena: irudien sailkapena. Objektu baten argazki bat emanda, objektu hori zer den asmatzea da helburua. Adimen artifizialeko sistemak nahiko gaizki moldatu ohi ziren lan horretan, baina ikasketa sakonaren eskutik gizakion maila gainditzera iritsi dira berriki. Baina, irudietan berariazko aldaketa txikiak eginez, gizaki batentzat erabat ikusezinak direnak, makinak erabat huts egitea lor dezake erasotzaile batek, ilusio optikoek gizakiok engainatzen gaituzten antzera. Erasoak mundu fisikoan ere egin daitezke. Berariaz diseinatutako pegatina psikodeliko bat jarri, eta banana bat dagoen tokian ogi xigorgailu bat ikusten du makinak. Beste pegatina psikodeliko bat, eta semaforo gorri bat dagoen tokian farola bat ikus lezake. Ez da txantxetako kontua gidaririk gabeko autoak ate joka ditugunean. Errepideak halako pegatinez josi, eta ehundaka istripu eragin litzake edozein ergelek.

Berariazko eraso baten adibide klasikoa, 2014an lehen aldiz arazoa ezagutarazteko erabili zena. Ezkerreko irudia panda hartz bat dela aurreikusten da adimen artifizialeko sistemak %57,7ko konfidantzaz. Aldaketa ia ikusezin batzuk aplikatuta ostean, baina, eskuineko irudia tximino bat dela aurreikusten du %99,3ko konfidantzaz. Iturria: https://arxiv.org/abs/1412.6572 

Baina arriskua ez dator asmo txarrez egindako erasoetatik bakarrik. Adimen artifizialeko sistema gehienak ikasketa automatikoan oinarritzen dira gaur egun. Datu-multzo handietatik ikasten dute modu automatikoan. Datuak, baina, guregandik datoz, eta gure artean bizi ditugun bidegabekeriak ere islatzen dituzte. Zer ikusi, hura ikasi. Hans zaldiak bezala, emandako ataza ebazteko modurik errazena topatuko du makinak. Eta errazagoa izango zaio datuek islatzen duten portaera sexista, arrazista edo bestelako -istak bere egitea, horren atzean dagoen bidegabekeria ulertu eta zuzentzea baino.

Arriskurik handiena, baina, arriskuen pertzepzio okerra bera dela esango nuke nik. Zientzia fikzioak, clickbait garaietako kazetaritza negargarriaren laguntzaz, adimentsuegi egiten diren makinen mehatxuaz ohartarazten digu behin eta berriz. Uneren batean kontzientzia hartu eta gu baino gehiago dela ohar omen daiteke adimen artifiziala. Makinen matxinada. Robot hiltzaileak kalean kaosa eragiten. Fikzio hutsa gaur-gaurkoz, txorakeria bat dela ez esatearren.

Bien bitartean, gizartea ez da konsziente adimen artifizialaren benetako arriskuez. Lanaren automatizazioak ekarriko duen eredu ekonomikoaren eraldaketa, eta klase xumeengan horrek izan dezakeen eragina. Datuen jabetza, zaintza masiboa, pribatutasuna. Teknologia hau guztia boteretsu gutxi batzuen kontrolpean geratzearen mehatxua. Eta gaurkoan hizpide izan duguna: gizakiaren antzeko emaitzen atzean gizakiaren antzeko adimena dagoela sinetsiz, erabilera arduragabe bat egitea. Makinen adimen txundigarriaz mintzo zaizkizun hurrengoan, gogora zaitez Hans zaldiaren istorioaz.

Aurreko bidalketa

[PODCAST] Mundu guztiarentzako, Haritu laborategia

Hurrengo bidalketa

[PODCAST] Facebook eta hedabideak

Egilea

Mikel Artetxe

Mikel Artetxe

@artetxem
Doktoratu aurreko ikertzailea EHUko IXA taldean. Google, DeepMind eta Facebooken egonaldiak egina, azken honen fellowship baten baitan ari naiz lanean egun. Adimen artifiziala eta, bereziki, hizkuntzaren prozesamendua dira nire ikerketa arloak.

Iruzkinik ez

Utzi erantzun bat

Zure e-posta helbidea ez da argitaratuko. Beharrezko eremuak * markatuta daude