[#LaCrònica] Ramon López de Mántaras: “La intel·ligència artificial no comprèn res del que fa”

Conferència “La intel·ligència artificial. Progressos, desafiaments i riscos” de Ramon López de Mántaras el 13 d’abril de 2021 al Casal Popular

Unes trenta-cinc persones s’aplegaren al teatre del Casal per seguir la primera xerrada Àgora del mes d’abril, que van seguir en directe unes deu persones més des de casa. Després que la Mercè Tricàs presentés el ric bagatge del conferenciant com a investigador pioner en la matèria, aquest va començar la seva exposició advertint que només ens podia explicar alguns progressos, alguns desafiaments i alguns riscos de la intel·ligència artificial (IA). I començà diferenciant entre la IA feble o específica (aquella que tan sols pot realitzar una tasca ben precisa) i la IA general (que podia realitzar múltiples tasques), per concloure que la única intel·ligència general, de moment, és la humana.

Els pioners en la recerca de la IA pensaven que tan sols podria dur a terme activitats molt simples, però no les més complicades. Amb el pas del temps el resultat ha estat el contrari: La IA realitza tasques molt complexes, com guanyar els millors jugadors d’escacs, però és incapaç de fer-ne de molt simples, com entendre el que veiem a cada moment. Les coses més òbvies per nosaltres són les més complexes per les màquines. I és que la IA no comprèn res del que fa.

El professor López de Màntaras presentà alguns exemples de progressos de la IA específica: Màquines que guanyen de molt els millors jugadors de Go o d’escacs, màquines capaces de pintar un Rembrandt “autèntic”, o màquines que ajuden els metges a fer diagnòstics més precisos. En aquest punt destacà una idea que havia de ser central en la seva exposició: Quan la IA col·labora amb la persona (en aquest cas, el metge) es produeix una sinèrgia que millora el resultat que podrien obtenir un i altre per separat.

Entrant en el capítol de desafiaments, el gran desafiament és aconseguir una IA general, una Intel·ligència capaç de fer moltes coses diferents (multitasca), sense haver de reprogramarla. I assenyalà que, en aquest terreny, es necessiten molts progressos significatius en pràcticament totes les àrees de la IA, i en particular en llenguatge i percepció. I és que els cercadors d’informació no entenen els significats de les frases, els assistents  intel·ligents no entenen res del que diuen, els mecanismes de reconeixement visual no entenen res del que veuen, i els traductors automàtics no entenen res del que tradueixen. Els falta quelcom fonamental en la intel·ligència humana: el Sentit comú.

Tot seguit ens mostrà múltiples exemples de les dificultats d’ensenyar a les màquines el que per nosaltres és de sentit comú. Coses òbvies per a nosaltres com ara que si et diuen “vaig punxar una poma amb una agulla i quan la vaig treure hi havia un forat”, saps immediatament que el forat és a la poma i no a l’agulla. Sentit comú per entendre el llenguatge (ple de coses que no es diuen però que estan implícites en el que es diu) i sentit comú per entendre les escenes (plenes de coses que no es veuen però que sabem que hi són). Va concloure aquest apartat mostrant-nos un exemple de recerca avançada que estava realitzant el seu equip: l’aprenentatge de relacions causa efecte per part d’un robot capaç d’identificar en una superfície el lloc on ha de pitjar perquè sonin notes  i finalment aprenent a tocar la seqüència de les quatre notes que se li han demanat.

I, pel que fa als riscos de la IA, el professor López de Mántaras en destacà tres: La Privacitat, l’Autonomia i l’Atur. Pel que fa a la privacitat posà l’exemple dels assistents intel·ligents personals (tipus Siri). Per aconseguir que aquests assistents personals contestin adequadament les preguntes que els fem cal que es corregeixin les respostes incorrectes, i per això hi ha un munt de persones  -mal pagades- que registren i analitzen les nostres “converses” amb els assistents). 

En el capítol de l’Autonomia l’anàlisi del conferenciant girà entorn dels cotxes autònoms i les armes autònomes. Dels primers va dir que no creia que s’aconseguís mai una autonomia total, però que en la recerca d’aquesta autonomia total s’han aconseguit avenços molt significatius que han fet la conducció més segura. I aquí assenyalà una idea que va aparèixer al llarg de la conferència: En la recerca per aconseguir un objectiu “utòpic” no importa si s’arriba mai a aquest objectiu: l’important són els beneficis que s’acaben obtenint en el camí gràcies a la recerca. Les armes autònomes les va descartar com un autèntic despropòsit que cal evitar de totes totes. El perill de la IA autònoma no és la Intel·ligència sinó l’autonomia. Per definició, allò que és autònom és incontrolable.

I finalment, pel que fa a l’Atur, insistí en què la IA sovint complementa, en lloc de substituir, la intel·ligència humana, de manera que en la majoria dels llocs de treball només una part de les tasques (les més rutinàries) les faran les màquines. Tal com ja havia avançat anteriorment, insistí en què els equips persona-màquina produeix millors resultats dels que s’obtindrien per separat. El que es necessitaran són persones per programar i controlar els robots.

Com a conclusió de la seva exposició López de Mántaras va fer referència a la Declaració de Barcelona pel desenvolupament i l’ús adequat de la Intel·gència Artificial (https://www.iiia.csic.es/barcelonadeclaration/) del 2017, on els científics reclamen: 1. Prudència en la recerca, 2. Fiabilitat dels resultats, 3. Necessitat que es retin comptes d’aquesta recerca i dels seus resultats, 4. Responsabilitat, 5. Autonomia limitada de la IA i 6. No prescindir de l’ésser humà.

L’acte acabà, com és habitual, amb un ampli i extens diàleg amb els assistents.

Deixa un comentari

Fill in your details below or click an icon to log in:

WordPress.com Logo

Esteu comentant fent servir el compte WordPress.com. Log Out /  Canvia )

Google photo

Esteu comentant fent servir el compte Google. Log Out /  Canvia )

Twitter picture

Esteu comentant fent servir el compte Twitter. Log Out /  Canvia )

Facebook photo

Esteu comentant fent servir el compte Facebook. Log Out /  Canvia )

S'està connectant a %s

Create your website with WordPress.com
Per començar