IMAGEN: La habitación china de Searle. Fuente: wikicommons.
➔ Reseña del artículo publicado en el nº 127 de la Revista Ábaco
Carlos M. Madrid Casado
Profesor de Matemáticas, Universidad Complutense de Madrid
Investigador asociado de la Fundación Gustavo Bueno
Hay un anticipo perfecto de este artículo en las viejas máquinas expendedoras de tabaco, que al recibir una moneda decían con voz humana «Su tabaco, ¡gracias!» sin que nadie, ni por un segundo, pensara que la máquina era amable. Carlos M. Madrid Casado abre con esa imagen su artículo en el nº 127 de la Revista Ábaco para preguntarse por qué, en cambio, cuando ChatGPT escribe «estoy triste» sí sentimos la tentación de creer que hay alguien ahí dentro. Frente a las declaraciones de ingenieros y premios Nobel —de Blake Lemoine a Geoffrey Hinton— que dan por hecho que las máquinas ya piensan o están a punto de sentir, el autor propone abrir la caja negra de la IA con el bisturí de la habitación china de Searle, y no deja títere con cabeza.
El recorrido es tan riguroso como entretenido: muestra cómo una red que clasifica gatos y perros no ve orejas ni bigotes, sino matrices de píxeles; cuenta el caso real del algoritmo de Facebook que aprendió a censurar fotos por la presencia de una cama en vez de por contenido sexual; y prueba, con capturas de pantalla incluidas, cómo ChatGPT es incapaz de resolver el clásico acertijo de las bolas de billar o cómo —anécdota que el propio autor vivió en primera persona— llegó a atribuirle uno de sus libros a Gustavo Bueno en lugar de a él mismo. De ahí extrae una tesis incómoda pero muy bien argumentada desde el materialismo filosófico: no puede haber pensamiento ni conciencia sin cuerpo, y por eso ni los modelos de lenguaje más sofisticados dejan de ser, en el fondo, calculadoras lingüísticas sin semántica.
Este es uno de los artículos que, dentro de la revista, conectan la actualidad tecnológica con la tradición filosófica, y supone un contrapeso necesario al entusiasmo con el que suele hablarse de la IA.
El artículo completo está disponible en el número 127 de la Revista Ábaco.
Pincha en el botón inferior para adquirir la revista.