En la introducción a esta serie utilicé la definición de singularidad de la Mecánica en Wikipedia : «posición o configuración de un mecanismo en el cual el comportamiento subsiguiente no puede ser predicho, o las fuerzas u otras magnitudes se vuelven infinitas o indeterminadas”. Es decir, un punto espaciotemporal en el que la secuencia de eventos no puede ser explicada mediante las reglas conocidas. Referida a la tecnología, Wikipedia define la singularidad como “un hipotético punto a partir del cual una civilización tecnológica sufriría una aceleración del progreso técnico que provocaría la incapacidad de predecir sus consecuencias”.
Sospecho que los hipotéticos lectores de letras no han entendido nada. Pues bien, de eso precisamente se trata. Hay una singularidad cuando no tenemos ni idea de qué está pasando, qué reglas siguen esos sucesos que están ocurriendo, y mucho menos qué ocurrirá después. ¿Queda claro ahora?
Puesto que no podemos saber qué ocurrirá, hay versiones para todos los gustos, incluida una que incluye uno de los Filtracos más ampliamente reconocidos y aceptados. De todas ellas hablaremos un poco, aunque sin pasarnos con eso de las matemáticas, como debe ser en un blog que no pretende ser de ciencias. Bueno, de ciencias sociales sí, al menos un poco.
Para situarnos en la materia, recomiendo visionar esta versión del cuento La Respuesta (he incluido el cuento original al final del texto) de Fredric Brown:
NB: dedicado con todo mi cariño a los tecno-escépticos(mi joven yo entre ellos) que no nos creímos demasiado aquello de que en el año 2000 los coches serían atómicos y volarían, se habría erradicado la pobreza, y todas esas maravillas que nos anunciaron. Sin nosotros, probablemente la singularidad tecnológica hubiese pillado por sorpresa al mundo.
Uno de los culpables.
Creo que es importante que conozcáis desde el principio a uno de esos individuos que parecen brotar espontáneamente de los garajes norteamericanos de tanto en cuando: Ray Kurzweil. Nacido en 1948, cuando este tipo, a los 15 años, decía que se iba a computar, hablaba de ordenadores y no de güisquerías, como llamaban por entonces a los burdeles… En su segundo año en el MIT fundó una empresa que permitía relacionar perfiles de estudiantes con universidades, la revendió dos años más tarde con 100.000$ de la época. Y eso fue sólo el principio.
Ya os podéis hacer una idea de la clase de tipo de la que hablamos: inventor, músico, ingeniero, … aunque aparece aquí como uno de los gurús de la singularidad tecnológica, y lo que ésta representa. Si tenéis un rato echadle un vistazo a su biografía, da miedo.
Obviamente no es el único genio protagonista, ni se ha inventado él solito lo de la singularidad, pero es quien mejor ha interpretado la canción, por así decirlo.
La importancia de ser exponencial.
El punto de mayor importancia para comprender el impacto de la singularidad es el cambio de crecimiento lineal a exponencial de la tecnología.
Los posibles escenarios en los que tendemos a basar nuestras visiones de futuro son proyecciones lineales, en las que asumimos que lo que vivimos hoy se proyectará en el futuro, sólo que con magnitudes mayores. Pero no es así, porque cada pocos años (cada vez menos) aparece una tecnología disruptiva que pone nuestro mundo boca abajo. Entre la escritura manual y la imprenta pasaron varios siglos, pero desde la aparición del ordenador personal de uso común – el conocido PC – hasta el teléfono móvil con procesador y pantalla táctil sólo unos pocos años.
Por eso, cuando asumimos un cambio lineal, si las cosas son algo menos brillantes de como las imaginamos, sufrimos una decepción. Pero cuando aparece una tecnología disruptiva que crea una encrucijada histórica, la reacción suele ser de sensación de caos, de asombro, de incertidumbre en definitiva. Es la liquidez de la que hablaba Bauman, ese momento en que se siente que las perspectivas de futuro que nos hemos forjado se nos escapan de entre los dedos.
Bueno, pues una singularidad es todavía peor, porque no sólo es una encrucijada histórica, una disrupción entre el pasado y el futuro, es la incertidumbre en estado puro.
La singularidad tecnológica, esa cosa con plumas.
Pero vayamos al grano. Supongo que habréis oído hablar de la Ley de Moore, que en realidad no es una ley sino la simple constatación empírica de un hecho. Cito a Wikipedia:
“Entre 1986 y 2007, la capacidad específica de la aplicación de las máquinas para computar la información per cápita, se ha duplicado cada 14 meses; la capacidad per cápita de ordenadores de uso general en el mundo se ha duplicado cada 18 meses; la capacidad mundial de telecomunicaciones per cápita se duplicó cada 34 meses; y la capacidad de almacenamiento del mundo per cápita se duplicó cada 40 meses.”
En un ensayo de 2001, Kurzweil publica su Ley de rendimientos acelerados en la que plantea que la Ley de Moore no explica en realidad un crecimiento lineal, sino exponencial, y que este carácter debe extenderse a todas las tecnologías, entendidas como un progreso conjunto, y no sólo a la informática. Según su lógica, es posible comprobar que cuando se alcanza algún tipo de barrera, aparece una nueva tecnología más compleja que la supera. Es decir que la tecnología se realimenta, lo que permite avanzar cada vez con mayor rapidez entre lo que Hawkins (1983) denomina mindsteps: cambios dramáticos e irreversibles en los paradigmas que muestran visiones concretas del mundo.
Esta gráfica, cortesía de Kurzweil, muestra el tiempo necesario para incrementar el número de cálculos por segundo que un procesador es capaz de realizar por un precio constante. Notad que hay una notable acumulación entre 1950 y 1990, pero que posteriormente el crecimiento parece haberse frenado. Ahora utilizad la memoria y recordad que vuestro teléfono móvil tiene la capacidad de procesamiento de un ordenador que ocupaba un armario en 1990. No se ha frenado el progreso, se ha concentrado en la comunicación y la miniaturización.
¿Para cuándo?
Bien, supongamos que efectivamente el progreso tecnológico se ha acelerado y crece siguiendo una función exponencial. Entre las tecnologías afectadas – principalmente informática, genética, biotecnología y nanorobótica – destaca la Inteligencia Artificial (AI por sus siglas en inglés). Es lo que se conoce como el Bang[1] (sin Big): bits, átomos, neuronas y genes.
Supongamos ahora que facilitamos la autonomía de la AI para auto-mejorarse. Se producirá una espiral de crecimiento tal y como pronostica Kurzweil: frente a cada barrera, la propia tecnología desarrollará nueva tecnología, que a su vez…
Llegará un momento en que la potencia de cálculo y la inteligencia de los ordenadores superará al de los cerebros humanos. Sé que suena a ciencia ficción, pero recordad que en 1997 Kasparov fue derrotado por el ordenador Deep Blue, y en 2016 otro ordenador venció al maestro de Go. Todavía son juegos, pero el progreso es claro.
Ahora bien, ¿cuándo consideramos que la máquina supera al humano? Otro autor, Vernor Vinge, un escritor de ciencia ficción involucrado en este tema, predice un crecimiento progresivo de la AI y cifra el momento cuando los cambios se produzcan antes de que los humanos sepamos siquiera que están ocurriendo, o ya han ocurrido: “me sorprendería si se produce antes de 2005, o después de 2030”. En cambio, Kurzweil cree que se producirá una “explosión de inteligencia” hacia 2045.
Esta sería el momento de la singularidad tecnológica, cuando los humanos no seamos capaces de entender qué está ocurriendo, porque nuestra capacidad de comprensión biológica será mucho más lenta que el pensamiento diseñado por una AI con autonomía para hacerlo. Y nada podemos predecir sobre qué ocurrirá después porque ya no será la humanidad quien lidere el progreso.
Creo que ahora se entienden mejor las palabras de Hawking: “La Inteligencia Artificial augura el fin de la raza humana… Los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados”. Posiblemente a alguien le suene todo esto a Terminator, pero que no se preocupe: ¿de verdad cree alguien que las máquinas necesitarían luchar para extinguir a la especie humana?
Movimientos sociales (¿o religiones? Pues casi).
Este tema del que la mayoría lo ignora todo, o casi todo, se está siguiendo con mucha atención no sólo por tecnólogos, científicos y escritores de ciencia-ficción, también por movimientos sociales que han hecho del crecimiento tecnológico su – no me atrevo a decir religión – filosofía de vida. Hablaré rápidamente de algunos de ellos.
El singularitarianismo asume que la singularidad tecnológica es no sólo probable a medio plazo, sino incluso deseable, y trabaja para asegurar que beneficia a los seres humanos. Consideran que la AI con capacidad para mejorar su propio diseño – lo que llaman la semilla AI – llevará rápidamente a la superinteligencia, y que la mejor forma de minimizar cualquier riesgo es trabajar para verificar que la alcanzamos de forma rápida y segura.
El posthumanismo aspira a la superación de las corrientes nacidas en el Renacimiento. Pretenden actualizar los conceptos humanistas asumiendo las limitaciones de la inteligencia humana, pero proponiendo superarlas mediante la aplicación de la tecnología – hablamos sobre todo de ingeniería genética humana – al control de la evolución humana. Actualmente se apoya en las tecnologías de la comunicación como facilitadores del conocimiento, mientras reflexionan sobre el posible surgimiento de un nuevo prototipo humano.
Y llegamos al movimiento más importante: el transhumanismo, un movimiento cultural, político e intelectual internacional. Su objetivo es trascender la humanidad mediante la tecnología, mejorando tanto las capacidades físicas como intelectuales de los individuos. El nombre fue acuñado por el biólogo T.H.Huxley en 1957, aunque las ideas proceden del genetista J.B.S.Haldane en 1923. Como veis no es precisamente una ocurrencia de cuatro colgados en Woodstock.
Tiene fervientes defensores y detractores: Francis Fukuyama la definió como “la idea más peligrosa del mundo”, mientras que Bailey la considera un “movimiento que personifica las más audaces, valientes, imaginativas e idealistas aspiraciones de la humanidad”. Mientras tanto se debate si Nietzsche influencia el movimiento con su exaltación del superhombre.
Y como no cabía esperar otra cosa, dice el Vaticano[2] que eso es competencia desleal porque “esto significaría que el hombre tiene pleno derecho a disponer de su naturaleza biológica… Un hombre puede verdaderamente mejorar solo realizando más plenamente la imagen de Dios en él, uniéndose a Cristo e imitando a Cristo.” En resumen, si de lo que se trata es de superar aquello que nos hace humanos, basta con esperar a la otra vida, esa que precisamente venden las religiones del libro[3].
Un batiburrillo de ideas que también tiene su vertiente política. De un lado, el transhumanismo democrático que considera la igualdad por encima de todo y desea que cualquier humano pueda acceder a la superación de las miserias humanas, mientras que el transhumanismo libertario lo fía todo a la eficiencia del mercado.
Algunas incredulidades.
Obviamente no toda la comunidad científica cree a pies juntillas que la singularidad tecnológica vaya a ocurrir, aunque algunas de las razones son más bien deprimentes. Citaré algunas:
En muchos casos, de fallos anteriores se deducen errores presentes: si no acertamos con los coches que vuelan, ¿por qué íbamos a acertar ahora? Pues porque ahora lo que se afirma es que es imposible saber lo que ocurrirá, al contrario de las imaginaciones desbocadas del siglo XX. Es lo que tiene haber llegado a la conclusión de que el crecimiento es exponencial, que ahora sabemos que no podemos saber, como mucho imaginar y acojonarnos o ilusionarnos según nos venga.
Martin Ford transita por caminos más realistas. Postula que se producirá la paradoja tecnológica cuando la producción se mecanice casi por completo, cunda el desempleo masivo y se hunda la demanda, lo que destruirá el incentivo para seguir desarrollando tecnología. Es decir, pronostica que no habrá singularidad porque se habrá producido antes el colapso de la economía.
Por ese camino también transita Paul Allen, que frente al planteamiento de Kurzweil de un proceso de realimentación de soluciones tecnológicas complejas, plantea que la complejidad es un freno debido precisamente a la ley de rendimientos decrecientes. Se apunta por tanto al colapso general de los sistemas antes de alcanzar la singularidad.
En la misma línea pronostica Jared Diamond (al que ya mencionamos en el capítulo dedicado al colapso de las civilizaciones), aunque éste se basa en el sobrepaso de la capacidad de carga del entorno (déficit ecológico). Ambos suenan realistas, pero no sabría decir qué es peor, que fallen o que acierten.
Slonczewski y Gopnik argumentan que no habrá singularidad porque la externalización de nuestra capacidad a las máquinas será gradual. Aunque acaban llegando al mismo punto: el humano podría acabar sirviendo sólo para encender la máquina. ¡Qué bien, mucho mejor, no vaya usted a comparar!
Otra idea es que en realidad los ciclos de retroalimentación dejaron de afectar a las tendencias mundiales en 1970. Eso me suena muchísimo a lo que declaraba el ínclito – y místico – gobernador de la Reserva Federal (Fed) estadounidense Alan Greenspan entre 1986 y 2006. Ya sabemos lo que pasó luego -¡Sorpresa! – que el sistema capitalista se vino abajo en 2007.
En fin, también hay críticas al procedimiento seguido por Kurzweil, incluido quién tacha la singularidad de mal gusto, una solución falta de elegancia intelectual. Sin duda un gran argumento.
¿Y quiénes son los ingenuos que se lo han creído?
Sólo citaré unas pocas empresas y organizaciones que presumo nos suenan a todos. Por ejemplo, la Universidad de la Singularidad está financiada por Google, Autodesk, ePlanet Ventures y tiene el apoyo del Ames Research Center de la NASA. Luego ya Stephen Hawking y tal…
Casi nada.
La explosión de Inteligencia Artificial, ¿Filtraco?
Ya hemos visto que Hawking y otros muchos creen que sí, e incluso los transhumanistas asumen que es un riesgo enorme, y por tanto hay que supervisar el crecimiento tecnológico con muchísimo cuidado. Tampoco cabe mucha duda de que siguiendo el camino actual la probabilidad de vivir una Singularidad antes de 2050 es muy alta.
Por otra parte, las críticas más realistas son aquellas que predicen que si no ocurre la Singularidad, es porque la civilización colapsa antes. O, dicho de otra forma, tropezaríamos con un Filtraco anterior, lo que sólo nos deja elegir entre susto (singularidad) o muerte (colapso).
Pero no quiero cerrar el tema sin insistir en una reflexión, si somos una especie inteligente, ¿de verdad necesitamos desarrollar otra inteligencia? Ahí lo dejo.
En cualquier caso, con la Singularidad Tecnológica creo haber caminado por los Grandes Filtros más probables que nuestra civilización se encontrará en su camino a corto y medio plazo, ya sólo nos queda revisar los posibles escenarios que se desarrollarán durante ese período. Eso será en el próximo (y último) capítulo de esta serie antes de las conclusiones de nuestros autores.
Amén, hermanos y hermanas.
NB: Antes de concluir con las notas, dejadme incluir aquí el cuento breve de Fredric Brown del que os hablé al principio, porque ahora le encontraréis algo más de sentido.
LA RESPUESTA – FREDRIC BROWN
DWAR EV soldó ceremoniosamente la última conexión con oro. Los ojos de una docena de cámaras de televisión le contemplaban y el sub-éter transmitió al universo una docena de imágenes sobre lo que estaba haciendo.
Se enderezó e hizo una seña a Dwar Reyn, acercándose después a un interruptor que completaría el contacto cuando lo accionara. El interruptor conectaría, inmediatamente, todo aquel monstruo de máquinas computadoras con todos los planetas habitados del universo — noventa y seis mil millones de planetas — en el súper-circuito que los conectaría a todos con una súper-calculadora, una máquina cibernética que combinaría todos los conocimientos de todas las galaxias.
Dwar Reyn habló brevemente a los miles de millones de espectadores y oyentes. Después, tras un momento de silencio, dijo:
—Ahora, Dwar Ev.
Dwar Ev accionó el interruptor. Se produjo un impresionante zumbido, la onda de energía procedente de noventa y seis mil millones de planetas. Las luces se encendieron y apagaron a lo largo de los muchos kilómetros de longitud de los paneles.
Dwar Ev retrocedió un paso y lanzó un profundo suspiro.
—El honor de formular la primera pregunta te corresponde a ti, Dwar Reyn.
—Gracias — repuso Dwar Reyn—, será una pregunta que ninguna máquina cibernética ha podido contestar por sí sola.
Se volvió de cara a la máquina.
—¿Existe Dios?
La impresionante voz contestó sin vacilar, sin el chasquido de un solo relé.
—Sí, ahora existe un Dios.
Un súbito temor se reflejó en la cara de Dwar Ev. Dio un salto para agarrar el interruptor.
Un rayo procedente del cielo despejado le abatió y produjo un cortocircuito que inutilizó el interruptor.
[1] O NBIC (de nano, bio, info y cogno). Fuente: B(it) + Á(tomo) + N(eurona) + G(en)= ¡Bang!
[2] Comisión teológica internacional (2004): Comunión y servicio: la persona humana creada a imagen de Dios.
[3] Es decir, aquellas de las que dice el islam que merecen algo más de respeto, no como politeístas, idólatras, y ya ni te digo de los ateos: https://es.wikipedia.org/wiki/Gente_del_Libro
Blog del Gran Baladre 