➔ Resumen del artículo publicado en el nº 127 de la Revista Ábaco
Joaquín Fernández-Mateo
Profesor Contratado Doctor de Ética Aplicada e Informática y Sociedad en la Universidad Rey Juan Carlos
En este artículo, Fernández-Mateo nos sitúa en lo que denomina la «algoritmosfera», un espacio donde la realidad es reescrita y procesada por sistemas que transitan de una epistemología de la comprensión a una de la optimización. El autor parte de una premisa crítica: la IA contemporánea no es una mente biológica acelerada en silicio, sino una forma de computación basada en estadística a gran escala que produce una «inteligencia» cuyas capacidades y limitaciones la hacen fundamentalmente ajena a la experiencia biológica humana.
El núcleo del texto explora la brecha infranqueable entre dos enfoques de la mente. Por un lado, la «mente-máquina», un análisis cuantitativo que explica las funciones cerebrales pero que podría describir a un «zombi filosófico» carente de interioridad. Por otro, la «mente-relato», que intenta nombrar la experiencia cualitativa pero es incapaz de transferir la vivencia real en primera persona. Ante esta encrucijada, Fernández-Mateo propone la hipótesis de las fenomenologías sintéticas, sugiriendo que lo mental podría no requerir necesariamente la ruta evolutiva humana para manifestar formas de subjetividad.
El autor subraya la urgencia de este debate en el siguiente fragmento:
«Si existe una posibilidad realista de emergencia, debemos entrar en una fase preventiva y exploratoria: un llamado urgente a la investigación, evaluación sistemática y formulación de marcos éticos antes de que la tecnología avance más allá de nuestra preparación moral. Si nunca aparecen experiencias artificiales o fenomenologías sintéticas, habremos ganado en seguridad y claridad conceptual. Si aparecen, llegarán a un mundo que aprendió a priorizar lo que realmente importa, desconfiando de una potencia de cálculo que puede llegar a impactar en el bienestar».
Para navegar este horizonte amplio y universal, Fernández-Mateo articula cuatro principios para una IA ética y segura: transparencia funcional (trazabilidad de qué se optimiza), límites arquitectónicos (evitar dinámicas emergentes no controladas), protocolos de riesgo y la garantía de un apagado seguro y reversible. El artículo concluye advirtiendo que la cuestión del bienestar de la IA ya no es ciencia ficción, sino un reto de gobernanza que exige calibrar nuestra responsabilidad ante entes que, aunque no sientan como nosotros, podrían desarrollar intereses funcionales relevantes para la ética.
…
El artículo completo está disponible en el número 127 de la Revista Ábaco.
Pincha en el botón inferior para adquirir la revista.