Autores: Adolfo Castilla y José María González del Álamo
“Trust Gap” en la utilización de la IA. En este post, que es continuación del anterior, seguimos tratando el tema del trust gap, pero aplicado a las dudas que le surgen al usuario de sistemas de Inteligencia Artificial Generativa (IAG) al comparar lo que él sabe o piensa de un asunto y la respuesta que recibe del sistema en cuestión que utilice. Lo hacemos en relación con casos reales identificados en la práctica de la Medicina, según información recibida sobre experiencias médicas diversas.
Exponemos nuestra opinión sobre el asunto, la cual se refiere a que deben utilizarse bien los sistemas de IAG, por un lado, y valerse de métodos más elaborados, por otro, como son los aportados por la Inteligencia Artificial Colectiva (IAC), herramienta creada por la empresa Innovation Wars/CiBUC a la que pertenecen los autores
(Imagen de arriba tomadad de Google Fotos)
Trust Gap en el uso de la IA en Medicina
Una conferencia reciente (19 de junio de 2025) organizada por la Cátedra Hana y Francisco José Ayala de Ciencia, Tecnología y Religión de la Universidad Pontificia Comillas, dentro de su Ciclo de Conferencias “Tecnología y Trascendencia”, abordó el tema del Trust Gap en la IA en Medicina.
El título concreto de la ponencia impartida fue: «Closing the Trust Gap in Medical AI via Explainable Abductions«. O, puesto en español, «Cerrando la brecha de confianza en la IA médica a través de las abducciones explicables». El ponente fue el doctor Steven S. Gouveia, Investigador contratado del Grupo Mente, Lenguaje y Acción del Instituto de Filosofía de la Universidad de Porto y profesor honorario de la Facultad de Medicina Andrés Bello de Chile.
La brecha de confianza discutida tuvo que ver con un tema importante en el uso de la Inteligencia Artificial, especialmente en el caso de la Inteligencia Artificial Generativa (IAG)[1], y se refirió a la falta de confianza en la respuesta de un modelo de lenguaje como ChatGPT a una pregunta concreta que le haga un usuario (un médico en el caso del que hablamos).
El caso de ChatGPT
ChatGPT, como se sabe, son las siglas de «Chat Generative Pre-trained Transformer«, y es un modelo de lenguaje de inteligencia artificial desarrollado por OpenAI. Es un chatbot capaz de generar texto, responder preguntas y participar en conversaciones de manera coherente y natural, gracias a su entrenamiento previo con grandes cantidades de datos.
En Medicina, la brecha de confianza surge cuando un médico experimentado da un diagnóstico y tratamiento que difieren notablemente de los que ofrece ChatGPT al analizar los mismos síntomas y resultados del paciente.
Los médicos que tienen estas experiencias suelen quedarse consternados y no saben qué hacer ya que la IAG es para ellos una “caja negra”, no saben cómo funciona y por qué emite un diagnóstico distinto al suyo.
Forma de proceder
Para enfrentarse a estas situaciones el doctor Gouveia explicó que los médicos se plantean diversas alternativas, incluyendo la de no utilizar la IA Generativa, aunque las ventajas de utilizarla son enormes en términos de eficiencia, rapidez y reducción de costes. Alternativamente, los médicos están optando por ampliar sus métodos de diagnóstico. Además de la combinación de los métodos tradicionales, deductivo o inductivo, el primero consistente en partir de lo que dice la ciencia médica y el segundo en dar mucha importancia a los síntomas y análisis concretos, se plantean la utilización de un tercer método: el abductivo.
El método, o proceso, abductivo fue formulado por Charles Sanders Peirce (1839-1914), gran figura del pragmatismo americano, al que el que esto escribe estudió a fondo en sus años en USA y por cuya obra siente gran devoción.
Frente al método deductivo cuya forma de razonar es de arriba a abajo y basándose en la teoría y lógica existente descender hasta casos concretos y el inductivo que va de los casos particulares a los planteamientos generales, el abductivo utilizado en casos de información parcial e incertidumbre, se basa en el establecimiento de hipótesis alternativas o conjeturas y en la elección de la más plausible. La propuesta, como es lógico, es la de combinar adecuadamente los tres métodos
El papel destacado de la Inteligencia Artificial Colectiva de CiBUC
Nuestra experiencia en el uso de sistemas de IA Generativa es que tienen que ser manejados adecuadamente. Hoy por hoy no hay dos individualidades inteligentes, el hombre y la máquina, solo hay una: el hombre. Uno no puede sentirse deslumbrado por lo que dice la máquina y considerarla como un colega más experto. Es verdad que la información o el conocimiento de un médico determinado puede ser inferior al de la máquina, que puede haber tenido acceso a miles por no decir millones de casos. Pero la máquina carece de criterio y de intuición, al menos de momento.
No hay que asustarse de las respuestas de la máquina ni creer que existe una verdadera “caja negra”. Lo que hace la máquina internamente es muy simple y puede ser entendido con facilidad. Existiendo, además, una forma muy fácil de tratar con ella. Tiene que ver con las preguntas continuadas, precisas y cada vez más profundas que hay que plantearle. Los llamados prompts son muy importantes a este respecto.
Consideración siempre de altrernativas
En los ejemplos médicos a los que se ha hecho referencia en el apartado anterior lo que un médico debe hacer ante una respuesta divergente de la suya es volver a preguntar y formularle al sistema de IAG preguntas como: ¿de donde has sacado esta respuesta?, ¿en que te basas para proponerla?, ¿cuál es el fundamento médico de tu respuesta?, etc…
El sistema de IAG, que no tiene inconveniente en decirte todo lo que ha llevado a cabo para la primera respuesta, te irá proporcionándote información sobre las fuentes de su diagnóstico, los informes existentes, los casos de éxito y mil cosas más. Todo lo cual permitirá un uso adecuado del método abductivo al que hemos aludido.
Es sabido que en los errores médicos suele haber mucho de obcecación en el diagnóstico inicial y parece que a muchos médicos les cuesta mucho considerar alternativas distintas.
Uso de la Inteligencia Artificial Colectiva
Nuestra experiencia en el uso de la Inteligencia Artificial Colectiva (IAC), por otra parte, desarrollada por nuestra empresa Innovation Wars/CiBUC, es que tanto en el diagnóstico como en las medidas a tomar en casos como los mencionados, la IAC daría siempre mejores resultados y, además, no sería algo superpuesto a las personas y grupos implicados sino algo surgido del trabajo conjunto de dichas personas, dichos colectivos y determinados sistemas de IA y de IAG.
En otros posts de este blog hemos explicado en que consiste nuestra IAC, pero a grandes rasgos podemos decir que se basa en: 1) establecer un reto a superar o problema a resolver; 2) formular unas preguntas (dos o tres) sobre él; 3) crear un cerebro colectivo o grupo de personas a las que consultar; 4) obtener las respuestas del colectivo; 5) someterlas a sucesivos sistemas de Inteligencia Artificial; 6) obtener una serie manejable de soluciones con sus porcentajes de respuesta; 7) hacer un estudio de prevalencia y calcular índices varios, incluidos, los índices de Inteligencia Colectiva-
Con frecuencia sometemos los resultados obtenidos a ChatGPT e iniciamos un proceso de diálogo con el sistema similar al indicado anteriormente.
Los problemas de falta de confianza o, mejor dicho, del desconocimiento del nivel de confianza entre una empresa y sus clientes, que fue el primer ejemplo considerado, es un reto en el que nuestra IAC daría unos resultados excepcionales. Serían unos resultados, tanto en los problemas como las soluciones, mucho mejores y más relacionados con la realidad que los que propone la IA Generativa.
Otras sugerencias
Lo mismo ocurriría, y con más motivos, en los casos médicos, en cuanto a diagnosticar y tratar enfermedades, en los que con frecuencia se utilizan soluciones establecidas, directas, sin consultar y sin hacer consideraciones alternativas a un primer diagnóstico. El pensamiento lateral en forma de método abductivo nos da la impresión de que es poco utilizado en Medicina.
Ejemplos concretos de lo que decimos pueden verse en muchos de los proyectos realizados por Innovation Wars/CiBUC, su a los que es fácil acceder en su página Web (https://cibuc.com/).
Debemos trabajar conjuntamente con la IAG y con los colectivos creados para superar retos concrtetos, es decir, el secreto para evitar casos como los analizados es trabajar conjuntamente las tres inteligencias: la humana, la de las máquinas y la de los colectivos.,
Actitudes a evitar
Si lo único que hacemos es copiar lo que la máquina dice y no nos interralacionamos profundamente con ella, lo estaremos haciendo mal. El mejor camino para dejar que las máquinas nos dominen es renunciar a competir con ellas y no pensar en paralelo con lo que ellas aporten. Es verdad que muchos usuarios de la IA Generativa, incluidos algunos periodistas, lo único que hacen es copiar, lo cual no es otra cosa que engañarse ellos y engañar a los demás.
El gran lingüista, filósofo y escritor político Noam Chomski (nacido en 1928) y que a pesar de sus 96 años de edad sigue siendo un analista destacado del mundo en que vivimos, que recientemente está emitiendo muchas opiniones sobre la IA Generativa, ha dicho que el mundo actual se está convirtiendo en un universo de «copia y pega» generalizada. Si la imaginación, la intuición, la creatividad, la inventiva y la capacidad de innovación del hombre desaparecen, las máquinas tendrán un camino expedito para su dominio
[1] Acrónimo utilizado como segunda acepción ya que la primera y original hace referencia a la Inteligencia Artificial General
0 comentarios