Adimen artifizialeko sistemek gero eta arrakasta handiagoa dute, testuak edota galderak «ulertu» eta sortzeko gaitasuna erakusten ari direlako eta, modu horretara, giza elkarrizketa bat simulatzea lortzen dutelako. Baina benetan ulertzen al dugu sistema hauen funtzionamendua? Ondo erabiltzen al ditugu teknologia hauek?

Hizkuntza-ereduetan oinarritutako adimen artifizialeko sistemak datu kopuru handiak prozesatzeko eta patroiak ikasteko diseinatuak daude. Sistema hauek ez dute "ulertzen" gizakiok ulertzen dugun moduan, baizik eta hitzen eta esaldien arteko erlazio estatistikoak identifikatzen dituzte, erantzun koherenteak sortzeko. Hori sare neuronal sakonen bitartez lortzen dute. Elkarrizketa adimentsua dirudien hori aurretik ikusitako datuetan oinarritutako iragarpen bat besterik ez da. Beren erantzunak oso gizatiarra badirudi ere, ereduak ez du ez kontzientziarik ez ulermenik ezta denbora errealeko informaziorik ere. Beraz, emandako testuinguruaren arabera, esanguratsuenak diruditen hitzak hautematen dituzte eta probabilitateetan oinarritutako erantzunak sortzen dituzte, bilaketarik egin gabe.

Zer esan nahi dugu honekin? Askotan sortutako erantzunak zehatzak, xeheak eta erabilgarriak badira ere, aurretik ikusitako datuetan oinarrituak direla eta ezin dutela ezagutza berririk sortu, ezta gizakion sentimenduak edota asmoak interpretatu ere. Bere "adimena" informazioa modu eraginkorrean prozesatzeko gaitasunean datza, baina arrazoibide kritikorik edo ikasitako patroiez haratago errealitatea ulertzeko gaitasunik gabe.

Beraz, tresna hauen erabilera ona erabiltzaileen hezkuntza teknologikoaren baitakoa ere bada. Ezinbestekoa da beren mugak ulertzea: adimen artifizialeko eredu batek ez du sentimendurik, ezta jokabide etikorik ere, eta ez luke izan behar pentsamendu kritikoaren ordezkoa. Erabiltzaileek sistemek sortutako erantzunak baloratu eta beren testuingurua kontuan hartu behar dute, baliagarritzat hartu aurretik. Erantzun bakarra ikusteak ez du esan nahi erantzun egokia denik.

Hemen bukatu nezake idatzia, baina testu hau idazten nabilen unean bertan, ChatGPTk webean bilaketak eginez emaitzak emateko aukera eskaintzen duela ikusi dut. Uneko informazioa kontsultatzeko aukera eskaintzen hasi bada, hemen azaldutakoak eta bere funtzionamenduak ez dute zertan bat etorri. Hala ere, ezin dugu guztiz ulertu bere benetako funtzionamendua, sistema itxia delako. Baina Txinatik DeepSeek datorkigu, egun gutxi batzuetan oihartzun handia izan duena. Ikusi beharko da zer-nolako ibilbidea egiten duen, baina kode irekikoa izanik eta artikulu zientifiko zabala eskuragarri izanik, ikertzaileen lana da berriz ere haren funtzionamendua ulertzea eta gizarte osoari helaraztea zer diren eta zertarako diren puri-purian dauden sistema hauek. •