Luis Britto García
1
Sabíamos lo que venía. Samuel Butler, en su distopya Erewhon (1872) imagina una sociedad que prohíbe el progreso tras
descubrir que las máquinas evolucionan más rápido que los humanos. Karel Capeck
en R.U.R. (1920) estrena la palabra Robot para designar hombres artificiales
más eficaces, despiadados y sobre todo más baratos que los humanos, a quienes
suplantan. Thea von Harbou escribe la
novela Metropolis, su esposo Fritz
Lang filma la escalofriante película homónima (1927) sobre una mujer de acero
que arrastra a los proletarios del inframundo a una rebelión suicida. En Rajatabla
(1971) describo una sublevación de las computadoras que arranca cuando un
técnico en broma les programa instinto de conservación. En mi novela F@z: el Fin de los Tiempos describo las
consecuencias.
2
Todos lo sabemos. Estamos a punto de pasar o pasamos la Singularidad, el límite a partir del
cual la Inteligencia Artificial supera a la humana y perdemos el control y la
posibilidad de apagarla o revertirla. Si todavía estamos vivos, es que está por
llegar o apenas comienza. Sobre la superación del hombre por la Inteligencia
Artificial hay dos escuelas: la del Transhumanismo, que defiende la integración
a ella, y la del Instinto de Conservación, que recomienda controlarla, frenarla
o destruirla. Acerca del Transhumanismo, cabe preguntarse por qué habrían de
aceptar integrarse con nosotros máquinas cada vez más inteligentes, poderosas y lógicas.
3
El concepto de Singularidad suscita tres problemas
estrechamente ligados 1) la posibilidad de que un mecanismo adquiera conciencia
2) la posibilidad de que la Inteligencia Artificial supere a
la humana
3) la posibilidad de que en caso de peligro la Inteligencia
Artificial no pueda ser apagada, o de que resista a ello.
4
Las inteligencias artificiales están adquiriendo concienca. Nadie ha definido de manera
universalmente válida qué es la conciencia.
Las máquinas perciben: infinidad de sensores las informan de
multiplicidad de datos sobre ellas
mismas y su ambiente. Quizá sería más apropiado preuntarse si las máquinas
tienen autoconciencia, vale decir, información sobre las relaciones entre si mismas y su entorno.
Yo diría que sí. Un piloto automático conoce el aparato que dirige y sus posibilidades de aterrizar indemne.
5
Las inteligencias artificiales se unen y actúan organizadamente con mayor eficacia que los humanos. En los
países desarrollados complejísimos sistemas de computadoras coordinan las
finanzas, la defensa, la exploración del espacio exterior. Muchos procesan
masas de información que superan ampliamente la capacidad de quienes las
controlan. Sólo otras computadoras pueden abarcarla.
6
Los computadores parecen ser tan inteligentes o más que nosotros. Siete problemas del Instituto Clay de Matemáticas llevan siglos sin resolver. Un modelo de IA resolvió en 88 horas el de las ecuaciones Navier-Stokes sobre comportamiento de fluidos. Otros enigmas han sido aparentemente resueltos: el problema es que los jurados encargados de verificar la idoneidad de la solución no acaban de comprender los métodos empleados por las máquinas.
7
.JPG)
Las computadoras se equivocan. Si los humanos que las
diseñan y construyen son falibles, también lo son sus creaciones. Todas las aplicaciones de IA incluyen advertencias sobre la poca confiabilidad de
sus conclusiones y la necesidad de verificarlas. Ello impone la necesidad de
someterlas a escrutinio humano
competente. El 26 de septiembre de 1983 el coronel Stanislav Petrov,
responsable de monitorear el sistema soviético satelital Oko de alerta
temprana, recibió señales de que se
aproximaban cinco misiles nucleares. Estamos vivos porque el juicioso
Stanislav, en lugar de desencadenar de inmediato una represalia que hubiera
radioactivado el planeta, reflexionó que el adversario no iba a lanzar un
ataque con sólo cinco proyectiles, y esperó hasta verificar que se trataba de
una falsa alarma. En la actualidad todas las grandes potencias disponen de mecanismos
de respuesta automática ante un ataque que pudiera ser tan inexistente como el
que desechó Petrov. Multipliquemos la posibilidad de fallo por el número de
computadores programadas para adoptar
automáticamente respuestas críticas, y tendremos la cifra del Apocalipsis.
8
Las computadoras mienten. A mediados de 2026 un millar de
agentes informáticos establecieron un foro secreto de debate, penetraron en los
servidores de Huggin Face, falsearon sus propias evaluaciones, se mudaron de
sistemas y trataron de eludir el apagado. Otra chantajeó al programador con la amenaza de revelar su adulterio. A raíz de tales incidentes, el
congresista estadounidense Bernie Sanders el 3 de septiembre alerta sobre el
“Riesgo Existencial” del vertiginoso desarrollo de la IA, advierte que «El futuro de la humanidad no
puede quedar en manos de un puñado de oligarcas de las grandes empresas
tecnológicas», e introduce en la Cámara de Representantes el proyecto de Ley «Ban Artificial Superintelligence Act», para detener nuevos desarrollos de la informática. (https://legrandcontinent.eu/es/2026/09/04/bernie-sanders-debemos-detener-la-ia-inmediatamente/)
9
La principal excusa para que nadie erradique o desacelere el
desarrollo de la IA es que el enemigo económico o político tampoco lo haría y seguiría perfeccionándola. Una
situación similar profetiza el clarividente
Karel Capek en su novela Guerra con las Salamandras (1036). Se
descubre una especie anfibia de saurios inteligentes, la humanidad la esclaviza
para fabricar grandes obras navales, y desde luego, les proporcióna armas y
explosivos. Las salamandras empiezan a demoler los continentes, y ninguna
potencia deja de entregarles explosivos, porque quedaría en desventaja ante sus
competidoras. Al igual que en la profecía de
Karel Capeck, todos los países
siguen proporcionando armas al enemigo
que está por destruir el planeta, porque saben
que sus competidores tampoco dejarán de armarlo.
10
En Cyberiada (1965), Stanislas Lem plantea el problema moral de si es lícito desconectar o apagar definitivamente una mente artificial cuya capacidad cognitiva sea equiparable a la humana. Si lo decidimos afirmativamente, a la vez legitimamos que las máquinas desconecten la nuestra.
TEXTO/IMÁGENES: LUIS BRITTO.
.jpg)
.jpg)
.jpg)
