Inteligencia Concluimos en el presente post las consideraciones hechas sobre la Inteligencia Artificial y su estado actual de desarrollo. Son notas muy corrientes destinadas a un debate entre amigos, como se dijo al principio. En el anterior post hemos distinguido entre IA Normal e IA Fuerte e informado sobre las diferencias básicas entre ellas. En este nos referimos al debate internacional de hace unos años sobre la super inteligencia de las máquinas y su peligrosidad y nos adentramos algo en los avances recientes en el terreno de la IA.
La última noticia que se recoge procedente de la revista Nature resulta espectacular por tener que ver con la simulación en ordenador de la sinapsis y por el uso de transistores especiales en los que se utilizan polímeros químicos.
Al final se han dejado las preguntas que se plantearon en la tertulia de amigos para las que se prepararon estas notas.
(Imagen de arriba, tres cimas de lavaredo, una perspectiva adicional)
6.- El debate sobre la superinteligencia
Pensando en nuestros debates quizá convenga hacer referencia al que ha tenido lugar en los últimos años, a raíz de la publicación del libro de Nick Bostrom, Superintelligence. Paths, Dagers, Strategies.[1]
Se trata de un conocido filósofo y matemático sueco, nacido en 1973, que en 2011 fundó el Programa Oxford Marton Sobre los Impactos de la Tecnología Futurista y es el director fundador del “Instituto Futuro de la Humanidad” en la Universidad de Oxford.
Señala en su libro y en los múltiples artículos que ha publicado, lo siguiente: «El hombre es la mayor promesa y la mayor amenaza para el hombre». «Estamos en medio del mayor proceso transformativo de la Humanidad, el que tal vez nos abra las puertas del post-humanismo. Pero las mismas tecnologías que nos van a posibilitar ese salto entrañan también grandes riesgos. En cierto modo, somos como bebés jugando con explosivos»[2].
Según él, tres tecnologías ofrecen la gran promesa o la gran amenaza: la nanotecnología molecular, la biología sintética y la super inteligencia.
El libro, como se sabe, puso en marcha un gran debate internacional en el que participaron personalidades como Bill Gates (nacido en 1955) Stephen Hawking (1942-2018), Elon Musk (nacido en 1971) o el mismo Fukuyama (nacido en 1952), todos insistiendo en el peligro de que la humanidad termine construyendo una super inteligencia capaz de controlar al hombre creando una sociedad distópica como la descrita en 1984.
Bostrom fue cofundador con David Pearce, en 1998, de la Asociación Transhumanista Mundial y es, por tanto, un buen conocedor de este movimiento, de la obra de Ray Kurzweil (nacido en 1948) y del concepto de Singularidad.
Su obra posterior muestra haberse distanciado de ese movimiento y de sus postulados en cuanto a la aparición de un ser posthumano que se separe cada vez más de la actual humanidad.
La IA se relaciona muchísimo con tal proceso y tal fenómeno. Fue Kurzweil el que dejó muy claro el tema en su libro, The Singularity Is Near: When Humans Transcend Biology[3]
Otro libro posterior de este autor, Cómo crear una mente, que tuve el honor de presentar en Madrid hace unos años, entra todavía más a fondo en el tema sugiriendo que el pensamiento no es otra cosa que una sucesión de capas neuronales capaces de reconocer patrones[4].
Justo ahora estamos esperando el nuevo libro de Kurzweil, The Singularity is Nearer
7.- Situación actual
En la actualidad hay avances muy destacados en forma de redes neuronales computacionales, el perceptrón, el machine learning el deep learning y otros, así como, en el terreno del Big Data y el Google Analytics. Existiendo también las promesas del ordenador cuántico, de la tecnología 5 G y otros impresionantes avances tecnológicos.
La IA Fuerte también está siendo objeto de nuevas consideraciones y puede avanzarse algo en ella si la llamada Integrated Information Theory de Giulio Tononi da de sí todo lo que se espera de ella. Este es un tema muy distinto a nuestras consideraciones sobre la IA, del que en otro momento hablaremos.
En los últimos años hay muchos avances también en cuanto al manejo de fotos, uso de imágenes, reconocimiento de patrones, reconocimiento de las facciones humanas, etc… Así como en el uso de robots de ayuda a las personas, aparatos de comunicación mediante la voz, interpretación de textos, automatización de los hogares y muchas cosas más. Todas típicas de la IA Normal en las que no hay ningún peligro de que las máquinas actúen por su cuenta ni tomen el control de nada.
Lo cierto es que la actividad en relación con esa IA no hace más que aumentar. Todos sus indicadores crecen exponencialmente, como se puede ver en el último “AI Index Report 2019” publicado por la Universidad de Stanford. (https://www.xataka.com/inteligencia-artificial/este-estado-actual-inteligencia-artificial-a-nivel-mundial-ai-index-report-2019).
Damos solo un cuadro relativo a las inversiones en esta materia:
El informe, por cierto, no distingue entre IA Normal e IA Fuerte, lo cual en mi opinión indica que solo se refiere a la IA Normal.
Recoge bastante información, por otro lado, sobre las preocupaciones éticas en relación con la IA en todo el mundo.
Avances recientes
Aunque entre la gente bien preparada y con experiencia tanto en ciencias naturales, como en ciencias sociales y en humanidades prevalece la asunción generalizada de existir diferencias fundamentales entre la parte material del hombre y la parte mental o intelectual, los centros de investigación relacionados con la IA siguen intentando sacar de los ordenadores actuaciones cada vez más cercanas a las de la verdadera inteligencia humana.
La revista virtual Tendencias 21 que desarrolla una labor importante en cuanto a recogida y difusión de los avances científicos de todo tipo, dedica mucha atención a los avances en IA. En los últimos números ha recogido noticias muy destacadas sobre esta cuestión. Recogemos a continuación algunas de ellas, tal como han sido publicadas:
A) La Inteligencia Artificial y la nanotecnología revolucionan el universo biomolecular
«La Inteligencia Artificial aporta la posibilidad de descubrir patrones y esquemas en las biomoléculas con mayor rapidez y eficacia, organizando la información obtenida y aportándole el valor necesario para poder viabilizar avances concretos en el campo médico y farmacológico». Ver.
B) Crean un robot con IA que es consciente del entorno
«Un robot dotado de Inteligencia Artificial es consciente del entorno: puede reconocer a cada trabajador del equipo y coordinar sus movimientos para evitar colisiones con las personas que lo rodean». Ver.
C) Crean el primer robot que siente empatía por otro robot
«Robots que aprenden a predecir visualmente el comportamiento de otro robot asociado, demostrando un primer esbozo de empatía, ya son una realidad. Todo indica que en breve dejarán de ser artefactos pasivos: podrán anticipar el pensamiento humano y quizás controlarlo». Ver.
D) Un algoritmo reconoce las emociones que suscitan las obras de arte
«Un nuevo algoritmo puede capturar las emociones que evoca una obra de arte visual: el sistema permite que los ordenadores generen respuestas emocionales frente a una imagen artística y las justifiquen mediante el lenguaje». Ver.
E) La Inteligencia Artificial resucita a Einstein
«La primera versión digital de Einstein encarna su personalidad y conocimiento, habla inglés con acento alemán y mantiene una conversación sobre temas científicos, aparentando incluso reflexionar sobre las respuestas». Ver.
F) Crean el primer cerebro electrónico que aprende como el humano
«Por primera vez en la historia, un equipo científico ha creado una máquina capaz de aprender como lo hace un cerebro humano, abriendo una nueva era de la computación». Ésta una noticia aparecida en El Confidencial del pasado 30 de abril.
La noticia original de Nature lleva por título «Mimicking associative learning using an ion-trapping non-volatile synaptic organic electrochemical transistor» y se anuncia en ella el uso de transistores sinápticos orgánicos. El artículo se refiere a la intensificación de las investigaciones en las sinapsis y su funcionamiento, recordando al principio que en el cerebro humano hay del orden de 10 elevado a 11 neuronas y del orden de 10 elevado a 15 sinapsis.
Explican el uso de productos químicos orgánicos en la simulación del funcionamiento de las sinapsis, lo cual son ya palabras mayores. Los ordenadores empiezan a combinarse con la química, lo cual siempres se ha considerado un paso imprescindible para acercarse a lo que de verdad es el hombre.
Klara y Sol de Kazuo Ishiguro
A todo lo anterior hay que unir el éxito de la última novela del Premio Nobel Kazuo Ishiguro (nacido en 1954), Klara y el Sol, la cual juega con la idea de lo que llama una AA (Amiga Artificial), un robot femenino que se hace continuamente preguntas «muy humanas».
El reportaje sobre el autor y sobre su novela, la primera después de recibir el Nobel de literatura, que hemos visto en XL Semanal de ABC comienza con la frase, «El siguiente premio Nobel puede ser para una Inteligencia Artificial», y en su interior Ishiguro se refiere insistentemente al tema de los algoritmos que generan sentimientos.
Todo un poco extraño para los que creemos en componentes más complejos del hombre y su intelecto. Para los que nos sigue pareciendo que entre lo físico y lo espiritual hay un salto cualitativo, el cual, al parecer, no es fácil de distinguir por muchas personas con poca capacidad introspectiva. El yo profundo puede que no sea algo experimentado por muchas personas, las cuales se quedan en la superficie de lo que es el pensamiento y la reflexión y son bastante autómatas en la forma de vivir y actuar.
Y, por supuesto, llegando al punto de determinar lo que es la inteligencia y la consciencia, el Test de Turing, al que nos hemos referido antes, no es definitivo por un lado, y depende de la persona que haga las preguntas a una máquina por otro. Respecto a lo primero, ya hemos dicho que aunque una máquina superara el test, podría hacerlo, perfectamente, sin ser consciente, y en cuanto a lo segundo, si la persona que hace las preguntas a la máquina no tiene demasiadas luces cualquier respuesta le parecerá muy inteligente.
Uso masivo de la IA
Los avances mencionados no son cualquier cosa, desde luego, y señalan la necesidad de seguir investigando y actuando en estos temas ya que da la impresión de existir un acercamiento cada vez mayor entre la Inteligencia Artificial Normal y la verdadera inteligencia del hombre. Por supuesto que yo no estoy en contra de este proceso y reconozco que cada día utilizamos más la IA y cada vez nos es más útil, independientemente del tema de la consciencia al que nos estamos refiriendo
Uno de los últimos informes de Scientific Reports Nature, lleva el título, «Humans rely more on algorithms than social infuence as a task becomes more difc.ult« y se refiere a la confianza mostrada por las personas en los algoritmos de IA. Se dedica a explicar un experimento sobre la confianza de las personas en la información recibida a través de un algoritmo y la recibida a través de una fuente alternativa.
En el caso de la evaluación del número de personas existente en un grupo numeroso captado por una foto, se les daba el número determinado por un algoritmo y el obtenido por el recuento realizado por un número elevado de personas, mostrando los resultados que las personas tenían más confianza en las respuestas de los algoritmos que en las de las personas.
Este resultado se confirmaba especialmente en el caso de tareas difíciles. Cuando había más dificultades intrínsecas en el calculo o la evaluación, las personas tenían más confianza en los algoritmos de Inteligencia Artificial.
8.- Posibles temas de debate
— ¿Si los hombres son los que les dicen a las máquinas lo que tienen que hacer y las programan, de dónde viene la preocupación de que las máquinas tomen el control?
— ¿Será un verdadero problema una superinteligencia fuera de control?
— ¿Llegarán a desatarse y volverse locos los sistemas de IA?
— ¿Hay algo serio en la Singularidad?
— ¿Será una realidad el hombre posthumano?
— ¿Qué hay de los cerebros, con sus recuerdos, sus conocimientos y sus sentimientos volcados en un ordenador?
— ¿Cómo minimizar los futuros riesgos?
— ¿Cuáles son las ventajas y los beneficios de fabricar ordenadores y robots que actúen como personas?
— ¿Cómo contemplarán probablemente nuestros hijos la IA?
[1] Nick Bostrom, Superintelligence, Paths, Dangers, Strategies, Oxford University Press, Oxford, 2014 (Existe versión en español de 2018)
[2] Ver, https://www.elmundo.es/ciencia/2013/12/08/52a237e30ab740c70c8b4594.html
[3] Ray Kurzweil, Singularity is Near. When Humans Transcend Biology, Duckworth Ovrlook, 2006
[4] Ray Kurzwei, Cómo crear una mente. El secreto del pensamiento humano, lolabooks, Berlin, 2013.
Also published on Medium.