Vida 3.0
Editorial: Taurus Ciencia (2018). Autor: Max Tegmark.
El artículo de hoy va dirigido a incrementar nuestra biblioteca sobre Inteligencia Artificial (IA). Se trata de un libro valiente y profundo, como suele decirse, de “fondo de biblioteca”, ya que la mayor parte de su contenido difícilmente quedará obsoleto con el tiempo.
Su autor es Max Tegmark, un físico cosmólogo del famoso MIT de Estados Unidos, que además es uno de los fundadores del Instituto del Futuro de la Vida (Future of Life Institute), a cuya creación dedica el epílogo del libro y que merece la pena no perderse. Además de físico, por sus trabajos en el MIT, Tegmark puede ser considerado también una autoridad en IA.
Pues con esta tarjeta de presentación tan atractiva, pasemos a comentar el libro
Desde el prólogo ya captura el interés del lector con una intrigante historia ficticia (pero muy creíble) de Prometeo, la primera IA de nivel humano, que llega a fabricar el equipo Omega (perteneciente a una empresa privada de IA), mediante un programa que mantienen secreto para el resto del mundo. Todas las precauciones que toman para mantener el control de Prometeo y sin conexión posible a Internet para que no se produzca una “explosión de inteligencia” (este concepto se desgrana en el libro) y todas las decisiones que toman para que el resto del mundo (incluidos los gobiernos) no sepan de su existencia, se corresponden con decisiones que todo equipo cauteloso y prudente adoptaría y aún más allá (algunas son hasta paranoicas) y sin embargo…..el escenario final donde deja el relato a Prometeo y al equipo Omega que lo diseñó, resulta sorprendente e incierto al mismo tiempo. Esto es así por la cantidad de cosas que podrían ir mal o no como se deseaba, como se desvela posteriormente en el libro (lo dejo aquí para no hurtaros el placer de su lectura).
A partir de este punto en el capítulo I, el autor descubre sus intenciones de forma cruda: la conversación del futuro de la vida con el IA es la conversación más importante de nuestro tiempo. ¿Lo es realmente? La primera idea potente que se transmite es su definición de lo que es la Vida y su evolución desde la vida 1.0 pasando por la 2.0 hasta la 3.0. Lo bueno de estas definiciones es que no necesariamente implican un sustrato biológico. También hace un interesante avance sobre el grado de especulación que hace sobre cada uno de los capítulos siguientes del libro, en los que va a abordar desde el futuro próximo, pasando por los próximos 10.000 años hasta llegar al futuro a escala cósmica (los siguientes miles de millones de años).
En el capítulo II, el autor discute acerca de cómo la materia se vuelve inteligencia, los fundamentos de la inteligencia. Especial atención para los aspirantes a expertos generalistas es su explicación sobre que la memoria, la computación, el aprendizaje y la inteligencia son independientes del sustrato. Estos conceptos se usarán magistralmente en la parte final del libro.
El capítulo III, relativo al futuro próximo es el que puede sufrir un mayor desgaste por el tiempo, ya que habla de cómo afectará la IA a las leyes, a las armas y a la economía en general y al trabajo en particular, añadiendo algunos matices interesantes a lo que ya hemos visto en Crónicas de un humano en la era digital en artículos anteriores. Mención especial merece el desdoblamiento en tres preguntas que hace de la cuestión ¿Cuándo se alcanzará una IA de nivel humano?
En el capitulo IV el autor explora las posibilidades de que se produzca una “explosión de inteligencia” y para ilustrarlo plantea algunos escenarios de evolución del caso de Prometeo expuesto en el prólogo. Lo más interesante de este capítulo es su reflexión sobre cómo la historia de la vida muestra que ésta se autoorganiza en una jerarquía cada vez más compleja moldeada por la colaboración, la competencia y el control y cómo esto podría influir en la explosión de la inteligencia.
En el capítulo V, habla de lo que sucederá en los próximos 10.000 años tras la explosión de la inteligencia que la mayoría de los expertos sitúan entre dentro de unas décadas hasta más de 100 años (una minoría dice que nunca). Se trata de un capítulo ciertamente bestial pues el autor plantea 12 escenarios (hay más) de evolución futura tras la explosión de la IA que resume en una tabla junto con otra tabla donde se condensan las principales características de cada escenario en términos de quien está al mando (si la IA o los humanos), si se llega a constituir una superinteligencia (que se define como una inteligencia general mucho mayor que la de cualquier ser humano), si los humanos están contentos, si existen humanos en absoluto, o si la superinteligencia desarrolla la consciencia. De cada escenario plantea su plausibilidad, los inconvenientes y analiza por qué puede o no puede suceder dicho escenario y para algunos de ellos usa como referencia alguna novela de ciencia ficción o alguna película o serie de televisión sobre IA.
El capítulo VI, habla sobre la herencia cósmica, es decir los próximos mil millones de años y más allá y paradójicamente, aquí la certidumbre es mayor de la que nos ha acompañado en un futuro más próximo o al analizar los escenarios de evolución de la IA, ya que sus límites vienen impuestos por las leyes físicas. Este capítulo es donde brilla con luz propia de gran intensidad el cosmólogo que es Tegmark. El lector se verá transportado a un universo de dispositivos para capturar la energía de las estrellas y las galaxias y cómo podría organizarse una superinteligencia que se extendiera por toda la galaxia y el universo conocido con el límite de la velocidad de la luz (o sin él a través de agujeros de gusano como en la película ya comentada en Crónicas: Interstellar), ya que la humanidad como civilización está condenada a extinguirse si se queda en la Tierra (esta es la misma idea que impulsa a Elon Musk en su exploración espacial con Space X, especialmente la terraformación de Marte), así como el papel de la misteriosa materia oscura en todo ello. Es posible que por momentos pueda llegar a perderse en algunos de los detalles, pero sin duda le quedará la sensación de estar leyendo un relato extraordinario pero contado con palabras sencillas, especialmente teniendo en cuenta la profundidad de muchos de los conceptos que maneja.
Hasta aquí el libro ha hablado de la historia de la inteligencia, pero esto cambia en los dos últimos capítulos donde explora la historia del significado de la inteligencia y es donde el libro, desde el punto de vista el punto de vista que nos interesas en Crónicas, alcanza una intensidad extraordinaria.
El capítulo VII está dedicado a hablar de los objetivos, comenzando por la termodinámica a través de la disipación y la entropía y su relación con la vida como fenómeno inverso que tiende a reducir la cantidad de entropía (i.e. desorden) al menos localmente. De ahí examina los objetivos de la evolución darwiniana y define la inteligencia en sentido amplio (no biológico) como la capacidad de lograr objetivos complejos. Finalmente en este capítulo se acerca a la problemática de qué propiedades debe contener la definición de objetivos que no sean indefinidos, ni conduzcan a la destrucción de la humanidad, para lo cual es necesario resolver, ahora que aún estamos a tiempo, algunas de las cuestiones filosóficas más espinosas que han ocupado a la Humanidad a lo largo de su historia como ¿qué es el “sentido”?, ¿qué es la “vida”? o, ¿cuál es el imperativo ético único?
El último capítulo del libro es el VIII, está dedicado a la consciencia y es a mi modo de ver, el diamante en bruto que esconde este gran libro. Está basado en sus investigaciones actuales en el MIT sobre IA y plantea que significa exactamente la consciencia, que el autor define nuevamente de modo amplio y no antropomórfico como experiencia subjetiva, es decir, sentir algo ahora mismo. ¿Siente algo Prometeo o un coche autónomo de Tesla?. Se puede ver un resumen de unos 16 minutos en la siguiente charla TED de Tegmark.
La IA actual, gracias al aprendizaje profundo (Deep Learning), ha probado por primera vez en la historia que la inteligencia y la consciencia no tienen porque darse conjuntamente como sucede en los animales (sustrato biológico), sino que en otros sustratos (como se examinó en el capítulo II), puede existir inteligencia e intencionalidad sin consciencia (por ejemplo, de forma muy limitada aún con AlphaGo).
La importancia de si las IA son conscientes es relevante de cara a los problemas éticos y filosóficos que deben resolverse de cara a la irrupción de la IA en nuestras vidas. ¿pueden las IA sufrir? ¿Deben tener derechos? (recordad que ya dimos derechos a las empresas y que son éstas las que gobiernan el mundo en buena medida, las llamamos “personas jurídicas”).
Pero donde verdaderamente el lector puede sentir que está bordeando la aprehensión de una Verdad Fundamental es cuando presenta las teorías actuales de la consciencia avaladas por los últimos avances en neurociencia, así como cuando define la consciencia en términos del sustrato, es decir en términos físicos y por tanto medibles y objetivables, como explicación alternativa del dualismo clásico (cuerpo y alma) y qué diferencias puede presentar la consciencia de una IA respecto de las humanas precisamente por tener un diferente sustrato.
El autor como ya he dicho presenta a la inteligencia como la gran discusión de nuestro tiempo, pero después de leer este capítulo la pregunta que flota en el ambiente es:
¿No será la discusión de la consciencia la pregunta más importante de nuestro tiempo y la inteligencia la segunda?
Yo así lo creo y me encantará conocer la opinión de aquellos lectores que se animen a leer este libro sencillamente colosal, como su autor, un gran exponente de lo que en Crónicas hemos venido a llamar experto generalista. Estoy seguro de que no quedarán decepcionados y probablemente volverán, como yo, a releer el libro más de una vez.
