Sesgo en la IA para atención de salud

Les damos la bienvenida al podcast de Breastcancer.org, en el que podrán enterarse de lo último sobre tratamientos, efectos secundarios e investigaciones sobre el cáncer de mama, además de cuestiones relacionadas con la supervivencia, por medio de entrevistas con expertos e historias de pacientes contadas en primera persona. Soy Jamie Deolo, presentadora del pódcast y editora sénior de Breastcancer.org.

Jamie DePolo: Hola. Como siempre, gracias por escucharnos.

Nuestra invitada de hoy es Meredith Broussard, periodista de datos, profesora asociada del Instituto de Periodismo Arthur L. Carter de la Universidad de Nueva York, directora de investigación de la Alianza para la Tecnología de Interés Público de esa universidad y autora de varios libros, entre ellos More Than a Glitch: Confronting Race, Gender, and Ability Bias in Tech y Artificial Unintelligence: How Computers Misunderstand the World.

A finales de 2019, una mamografía de rutina mostró un área preocupante. A continuación, Meredith se sometió a una ecografía diagnóstica. Tanto la persona que le brinda cuidados médicos como la IA ―un programa de inteligencia artificial― leyeron su mamografía. Su médico observó las imágenes y supo que tenía cáncer, mientras que la lectura de la IA no estaba tan clara. 

Hoy nos acompaña para hablarnos sobre la IA en la atención de salud y de cómo discrimina, así como para compartirnos algunas preguntas que los pacientes podrían hacerles a sus médicos sobre cómo se está utilizando la IA en su atención médica. Meredith, bienvenida al pódcast.

Meredith Broussard: Muchas gracias por invitarme.

Jamie DePolo: Quisiera que nos adentremos ya en el tema, porque esto es Breastcancer.org y el pódcast de Breastcancer.org. Quisiera hablar sobre cómo la IA leyó tu mamografía y cómo te diste cuenta de que se había utilizado inteligencia artificial y si esta leyó tu ecografía. ¿Ha leído todas las imágenes?

Meredith Broussard: Bueno, hay que recordar que era 2019, y no habíamos tenido la explosión de interés en la IA. No había ChatGPT en ese momento. Y además de investigadora de la IA, soy sobreviviente de cáncer de mama. Cuando recibes el diagnóstico, te desesperas. Y la forma en que lo haces es muy coherente con tu personalidad, ¿verdad? Así que la forma en que me desesperé fue leyendo absolutamente todo lo que encontré sobre el tema.

Leí todo, incluida mi historia clínica electrónica. Y ahí, escondida en una especie de nota a pie de página, en algún lugar de la historia clínica, encontré esta línea que decía que la prueba había sido leída por personal médico y, también, por una IA. Y pensé: ¿quién configuró esta IA, qué encontró la IA? ¿Cuál es el sesgo de esta IA? Y tenía estas preguntas, de nuevo, porque soy investigadora de IA. Pero como también tenía cáncer, lo olvidé.

Así que, unos meses después, una vez recuperada, estoy totalmente agradecida con los profesionales médicos que me trataron, volví e intenté aprender más sobre la IA en el diagnóstico de cáncer de mama. Así que diseñé un experimento en el que tomaba mis estudios, que sabía que indicaban la presencia del cáncer, porque ya me habían hecho una mastectomía.

Sabía que los estudios indicaban que había cáncer. Iba a pasar estos estudios por una IA de código abierto para escribir sobre el estado actual de la detección del cáncer basada en IA. Por lo tanto, la forma en que funcionan estos programas, ahora mismo, la mayoría de ellos, es que son programas que evalúan imágenes estáticas de tu mamografía. Entonces, no están leyendo los resultados de las ecografías. La mayoría leen las mamografías.

Jamie DePolo: De acuerdo, ¿podría hablarnos un poco de tu experimento? Porque leí que escribiste sobre él en un artículo para Wired y, como dije en la introducción, parecía que la lectura de la IA no era tan clara y, si no recuerdo mal, creo que tu médico no tenía nada bueno que decir sobre las lecturas de la IA de las mamografías.

Meredith Broussard: Bueno, al principio, estaba muy confundida. Fui a un consultorio médico, luego a otro, a buscar una segunda opinión y hasta fui con la persona que se burló de la IA.

Jamie DePolo: Bien.

Meredith Broussard: Y le dije que había visto una nota que decía que una IA había leído mis pruebas de detección, y me respondió que no necesitaba una IA para hacerlo, que era obvio que era cáncer. Miré las imágenes y se veían como manchas para mí, pero pensé: “Bueno, fue a la Facultad de Medicina, sabe de lo que habla”.

Se trataba de una persona con muchísima experiencia y conocimiento. Confío mucho más en los profesionales médicos que en un programa de inteligencia artificial escrito por una persona cualquiera. Así que decidí volver con la persona que era un poco más escéptica en relación con las IA.

Desde 2019 hasta la fecha, ha habido mucho más interés en la IA, y cada año, la tecnología sí mejora un poco más. Una de las cosas que he oído recientemente es que ahora la gente no solo recibe un informe de lo que ha encontrado la IA ―si esta se está utilizando para leer sus imágenes―, sino que también se le ofrece un complemento, como un recargo, por otros USD 40, para que una IA lea sus mamografías, lo que, para mí, no merece la pena, porque no creo que la tecnología esté tan avanzada como quieren hacernos creer.

Una de las cosas interesantes es que, en realidad, este tipo de tecnología que lee las pruebas de detección después de que el médico lo hace e identifica las áreas de preocupación ha existido desde la década de 1990, y los proveedores especializados en cáncer de mama no la han encontrado muy útil desde entonces.

Jamie DePolo: Bien. Cuéntanos un poco sobre tu experimento. Sé que no era el mismo programa de IA que había leído tu mamografía, pero, por lo que recuerdo, también parecía que la IA no funcionaba como pensabas que iba a funcionar.

Meredith Broussard: Exacto. Tenía muchas ideas equivocadas sobre cómo funcionaría esta IA, sobre las que escribí porque, en realidad, todos tenemos ideas equivocadas sobre la IA.

Jamie DePolo: Claro.

Meredith Broussard: La mayoría de nosotros, cuando pensamos en IA, pensamos en Hollywood, ¿verdad? Pensamos en “Terminator”, en “WALL•E” y en “La guerra de las galaxias” o “Star Trek”, lo que tiene sentido, porque nuestros cerebros son mejores recordando historias que recordando hechos y estadísticas, y Hollywood cuenta historias estupendas.

Tenemos estas ideas hollywoodienses sobre la IA, sobre computadoras que sienten y demás, y esperamos que, cuando usemos la IA, nos sintamos especiales, ¿verdad? Que vaya a ser algo transformador. Pero la realidad es que la IA no es más que matemáticas. Matemáticas hermosas pero complicadas, y lo que los programas de IA están haciendo es trabajar en estadísticas muy muy complicadas, ya sabes, análisis estadístico.

Hacen análisis estadísticos que muestran la probabilidad de que haya un área de preocupación en una prueba concreta, lo cual es mucho más aburrido que decir que la IA está transformando mi mamografía, ¿verdad? Por lo tanto, es muy importante detenerse en el ámbito de lo que es real sobre la IA en contraposición a lo que es imaginario sobre ella.

Así que, cuando hice este experimento, cuando realmente profundicé en lo que esperaba, creía que iba a tomar todo mi historial médico e introducirlo en este programa. Que iba a hacer un análisis sumamente sofisticado y, luego, me iba a dar como, ya sabes, una ventana emergente o algo así, que dijera: “Felicitaciones, usted no tiene cáncer” u “Ouch, es probable que tenga cáncer, aquí lo tiene”.

Tenía expectativas muy poco razonables. Una de las cosas sobre las que escribí en el artículo de Wired y en mi libro More Than a Glitch es la realidad de la detección del cáncer basada en la IA. Lo que hice fue tomar mis pruebas de detección e introducirlas en un programa que descargué de internet, creado por alguien a quien se respeta mucho en la investigación sobre el cáncer de mama, con tecnología de primer nivel, y encontré un montón de discrepancias.

Primero que nada, no había mucha documentación para el programa; por eso, la primera vez que introduje las pruebas, me sorprendió mucho que no tomara todo mi historial médico y que solo mirara una o dos imágenes estáticas. Resultó que la versión que yo tenía era de muy baja resolución, y el programa exigía imágenes de alta resolución. Traté de descargar una versión de mayor resolución, sabes, si has buscado tu historia clínica electrónica, sabes que, haces clic en el botón de descarga, y así como así tienes los archivos y los puedes llevar a donde sea.

Pero no, no tienen la resolución suficiente para utilizarse en sistemas de diagnóstico médico de alta gama. Así que intenté conseguir versiones de mayor resolución, y resulta que solo pude conseguirlas en CD. Ahora, no sé tú, pero yo no tengo ninguna computadora que tenga lector de CD-ROM, porque tengo computadoras modernas. Pero, ¿sabes en dónde hay lectoras de CD-ROM? En los consultorios médicos.

Jamie DePolo: En los consultorios médicos y los estudios de abogados.

Meredith Broussard: Claro. Fue un problema muy interesante y muy retro a la vez. Así que tuve que usar el correo para conseguir un CD. Tuve que comprar un lector de CD-ROM para obtener estas versiones de alta resolución de mis propios estudios. Me resultó bastante chocante que hubiera, ya sabes, esta parte del proceso con muy baja tecnología, y parte del motivo es que nadie hace esto, ¿verdad? 

Hacemos muchas cosas de autocuantificación, ¿verdad? Tenemos un Fitbit, los relojes de Apple y nos fijamos en los gráficos de, ya sabes, cuántos pasos hicimos. Pero si te pones más complicado que eso, o sea si tratas de meterte con el podómetro dentro de tu reloj de Apple, no te permiten acceder a él, ¿verdad? Diseñan deliberadamente estas cosas para que no puedas acceder a esta información.

Y yo fui la primera persona en hacer este tipo de experimento de autocuantificación. Fui la primera persona en escribir sobre la lectura de mi mamografía a través de una IA de código abierto, en parte porque los investigadores computacionales del cáncer de mama suelen ser hombres, que no suelen realizarse mamografías, ¿verdad?

Jamie DePolo: Sí.

Meredith Broussard: Fui lo suficientemente terca como para querer abrir el paso a machetazos en este proceso. Otra cosa que aprendí en este experimento, después de luchar con este problema de los formatos de archivo, es que pensé que iba a ser una gran cosa, pero no. Simplemente dibujó un círculo alrededor de un área de la mamografía y me dio una puntuación con la probabilidad de que sea maligno.

Luego hablé con el investigador que creó el programa y me dijo que no, que solo era una puntuación. Bien. Entonces, el motivo de las complicaciones tiene que ver con el panorama médico y jurídico que hay detrás de la IA y también con el dinero, ¿verdad? Está todo un poco mezclado. Entonces, si la IA da un diagnóstico, se trata de algo de otra categoría, ¿no? Por ejemplo, la FDA regula los dispositivos médicos.

Por lo tanto, si proporciona un diagnóstico, entonces hay que considerarlo como un tipo diferente de dispositivo de diagnóstico, por ejemplo, mientras que, si es solo una puntuación que el médico puede o no utilizar a su discreción, entonces estamos hablando en un marco jurídico diferente. De nuevo, en este punto ya era el año 2020 y la FDA no había desarrollado sus normas en torno a la IA y los diagnósticos médicos. Así que todo sigue siendo legalmente ambiguo. 

Jamie DePolo: Bien.

Meredith Broussard: Y aquí está la parte financiera, que también me parece muy interesante. Cuando un médico de un hospital lee los resultados de un estudio, el hospital cobra por el trabajo del médico. Cuando una IA lee un estudio en un hospital, el hospital no cobra. Pensemos en quién tiene interés en que la IA lea los estudios en lugar de los médicos. Bueno, las compañías de seguros son las que pagan, en su mayor parte, para que los médicos lean los estudios, ¿no?

No se trata solo de progreso tecnológico, sino también del impulso hacia el uso de más IA en la atención médica. También se trata de que varios participantes están interesados en reducir costos. Y personalmente, como alguien a quien le diagnosticaron cáncer y pasó por todo este proceso, no quiero que se utilice más IA. 

No quiero que nos dirijamos hacia esa utopía, o esa situación que mucha gente imagina, en la que la IA realiza el diagnóstico y luego recibes una pequeña nota en tu historia clínica que dice que tienes o no cáncer. Quiero hablar con un médico. Quiero hablar con un profesional médico. Quiero que me ayuden y me entrenen para superarlo.

Jamie DePolo: Bien. Y tengo una pregunta. Lo que entiendo es que, no estoy segura del programa original que leía tu mamografía, pero el software de código abierto por el que luego pasaste tus estudios solo estaba analizando las imágenes. Por lo tanto, no se tuvo en cuenta nada más sobre tu historial médico, si presentas antecedentes familiares de cáncer de mama, si presentas, digamos, una mutación genética vinculada al cáncer de mama, todas las cosas que potencialmente podrían influir en cómo se podría leer o si deberías hacerte más seguimientos porque... Y no lo sé con seguridad. Obviamente, no soy diagnosticadora, pero si alguien supiera que presenta una mutación genética en relación con el cáncer de mama y hubiera un área de preocupación, tendría mayor interés en ello debido a la mayor probabilidad de que tuviera cáncer de mama en ese caso.

Meredith Broussard: Tal cual, y esto habla de la diferencia entre cómo diagnostica una máquina y cómo lo hace un médico, porque una máquina no está diagnosticando en realidad. Se limita a observar una imagen estática, una especie de imagen semicircular de una mama con algunas manchas, e identifica las zonas que, por estadística, tienen más probabilidades de estar fuera del rango normal.

Y eso es completamente distinto de lo que hace un médico. El médico examina las pruebas de detección, pero también la historia clínica completa, habla contigo, analiza tu genética y tus factores de riesgo. Por tanto, la IA no hace todo lo que hace el médico. Tampoco se toma la decisión de la misma manera, así que se trata de una discontinuidad en la que la mayoría de las personas no piensan.

Casi todos creen que la IA es superior a los humanos, porque tenemos esta idea de Hollywood. Pero, en realidad, cuando profundizamos en eso y vemos lo que está ocurriendo, paso a paso, la realidad es bastante diferente de lo que la mayoría de la gente imagina, y no es tan sofisticada como casi todos creen.

Jamie DePolo: Entiendo. La otra cosa que quiero preguntarte es esto: eres investigadora de IA, y mi impresión es que un programa de IA solo va a ser tan bueno como los datos que ingresan en él. Por lo tanto, si los datos no reflejan las mamografías de la sociedad en su conjunto, la capacidad de la IA para detectar el cáncer o resaltar un área de preocupación, en lugar de detectar o diagnosticar, va a ser defectuosa, porque no tiene toda la información.

Meredith Broussard: Tienes toda la razón. Por lo tanto, hay dos cuestiones aquí. Una es..., bueno, hay varias cuestiones aquí. Una tiene que ver con la diversidad del conjunto de datos de entrenamiento y la otra, con la actualización del conjunto de datos.

Así que lo que sucede en una situación de aprendizaje automático es que la mayor parte de la IA que utilizamos hoy es aprendizaje automático: tomar un montón de datos, volcarlos en la computadora y decirle: “Computadora, haz un modelo”.

Ella crea un modelo, que muestra los patrones matemáticos de los datos, y, luego, se puede utilizar ese modelo para hacer todo tipo de cosas interesantes, como predecir, tomar decisiones o generar nuevos textos, imágenes, audio, video, lo que sea, ¿bien? Eso es lo que ocurre en ChatGPT. Eso es lo que ocurre en el texto predictivo de tu correo electrónico o en tus búsquedas en Google. Eso es lo que ocurre cuando el aprendizaje automático te evalúa para un préstamo bancario. Es el mismo proceso subyacente.

Entonces, podemos pensar: “Bien, ¿cuáles son los datos que se utilizan para entrenar el modelo de IA que identifica las áreas preocupantes en las mamografías?”. La IA concreta que utilicé era un conjunto de datos increíblemente extenso. En aquel momento, era el mayor conjunto de datos de imágenes de mamografías, pero, como sabemos, los conjuntos de datos de imágenes médicas no tienen necesariamente suficiente diversidad, ¿verdad?

Suelen proceder de un sistema hospitalario, no de varios. Bueno, la ubicación del sistema hospitalario va a influir en la composición de la población que termine en ese conjunto de datos, ¿no? Porque, en especial en Estados Unidos, tendemos a la segregación residencial. Tendemos a tener, ya sabes, poblaciones homogéneas en ciertos lugares. Así que puede que no contemos con la diversidad de datos que necesitamos.

El otro factor tiene que ver con la vigencia del conjunto de datos. Cuando entrenas un modelo de IA, lo entrenas con los datos hasta el punto X, ¿verdad? Así, ChatGPT, la primera iteración que se hizo popular, se entrenó con datos de hasta septiembre de 2021. Por lo tanto, no tenía datos sobre nada que ocurriera después de septiembre de 2021.

Si se descubriera un nuevo tipo de cáncer, no aparecería en el conjunto de datos o podría no estar etiquetado e identificable en el conjunto de datos. Por eso, hay que volver atrás y reentrenarla para que se adapte a esta nueva información, lo cual es totalmente posible. Lo que ocurre es que es muy muy caro y laborioso, y todos sabemos lo buenas que son las personas actualizando sus datos informáticos, es decir, para nada buenas.

Jamie DePolo: Eso me lleva a preguntarte algo. Supongo que tenía la impresión de que, si tienes un programa de inteligencia artificial, se le introducen continuamente nuevos datos. Pero, por lo que acabas de decir, parece que no es el caso. Hay un punto de corte, y entonces el programa se utiliza y no necesariamente se actualiza, si esa es la palabra correcta.

Meredith Broussard: Claro. Tienes que actualizarlo, quiero decir, no en forma manual, pero, básicamente, los programas de IA requieren mucho más cuidado y alimentación de lo que la mayoría de la gente imagina. Es un proceso humano. No es que la IA se limite a absorber nuevos datos de todas las personas que se hacen una mamografía o de todas las personas cuyos datos pasan por ella. Quiero decir, a menos que esté construida específicamente así y, en general, no lo está, porque, ya sabes, existe la Ley de Portabilidad y Responsabilidad del Seguro de Salud, etc.

Jamie DePolo: Bien. Bueno, leo muchos estudios sobre el cáncer de mama y, en muchos casos, los datos proceden de la Base Nacional de Datos sobre el Cáncer, y siempre se me ocurre que, quizá, debería ser más amplia, porque esta base proviene, creo, no lo recuerdo bien, de una serie de hospitales acreditados por la Comisión Nacional del Cáncer de todo el país. Pero supongo que algunos de los hospitales de la comunidad local, donde es probable que reciban atención las personas con ingresos muy bajos, no están acreditados de esa manera. Así que, como has dicho, hay grupos enteros de personas cuyos datos no se reflejan en estos programas de IA. ¿Lo entiendo bien?

Meredith Broussard: Sí, y también hay mucho que no sabemos sobre el cáncer. Hay tanto que no sabemos sobre genética, sobre factores ambientales, y uno de los aspectos arrogantes en torno a la IA es la idea de que podemos crear esta máquina que sabe todo lo que sabemos ahora mismo y puede tomar decisiones, ¿verdad? Pero, cuando pensamos en el campo del cáncer, los sistemas inmunitarios o la genética, hay tanto que no sabemos.

Y en un ámbito en el que las cosas son profundamente desconocidas, y la ciencia cambia cada año, no tiene sentido codificar lo que sabemos hoy, ya que el sistema de códigos es en realidad menos flexible que el cerebro humano, en ciertos sentidos. El código no va a estar necesariamente actualizado con la información más reciente, ¿verdad?

Así que es mucho más fácil actualizar el cerebro que un sistema de aprendizaje automático valuado en miles de millones de dólares. Hoy en día, la IA se utiliza, en general, como asistente de los médicos en el diagnóstico, después de que estos hayan dado su diagnóstico, ¿cierto? Así que, supongamos que yo fuera un radiólogo que está leyendo una mamografía. La leo, introduzco mis notas, el resumen de la visita o lo que sea y, luego, obtendría la puntuación o la evaluación de la IA.

Esto se puede configurar de diferentes formas, y es posible que los diferentes sistemas de salud no estén haciendo las cosas de esta manera, pero, según mi investigación en el momento en que estaba escribiendo, los médicos recibían los resultados de la IA después de que ingresaran sus propias evaluaciones.

Y uno de los artículos interesantes que encontré analizaba los diferentes tipos de oncólogos y lo que hacían. Y los médicos especializados en cáncer de mama ignoraron en su mayoría los resultados de la IA porque no les parecían útiles, mientras que los médicos especializados en cáncer de pulmón pensaban que era genial, que la IA validaba lo que ellos ya pensaban. Y eso me pareció superinteresante, porque uno tiende a pensar que todo el mundo utiliza la computadora de la misma manera. 

No. Las personas usan las computadoras de distintas maneras, y la IA no es necesariamente válida o útil en ciertos sistemas. Pero tal vez lo sea en otros sistemas del cuerpo.

Jamie DePolo: Desde luego. En tu último libro, More Than a Glitch, hablas del sesgo en la inteligencia artificial y la tecnología. ¿Crees que hay formas de eliminar el sesgo en la IA?

Meredith Broussard: Depende de la IA y del contexto, ¿no? Uno de los ejemplos de los que hablo en el libro es un experimento que hicieron algunos periodistas de The Markup sobre las aprobaciones automáticas de hipotecas. Es decir, los sistemas que tomarían tus datos financieros y dirían si puedes o no tener una hipoteca.

Y lo que descubrieron fue que los sistemas automatizados de aprobación de hipotecas eran entre un 40 y un 80 % más propensos a denegar préstamos a los prestatarios de color que a sus homólogos blancos, y en algunas áreas metropolitanas, la disparidad era de más del 200 %.

Así que hay mucho sesgo en la IA porque hay muchos prejuicios en el mundo, y el sesgo preexistente se integra en los sistemas de IA, ¿verdad? Entonces, los sistemas automatizados de aprobación de hipotecas estaban reproduciendo siglos de discriminación financiera. 

Ahora bien, sabemos que es fácil entender cómo puede estar ocurriendo esto en las finanzas. Porque estamos mirando los datos sobre quién ha conseguido hipotecas en el pasado, poniéndolos en una computadora, haciendo un modelo y esperando que el modelo tome decisiones basadas en quién ha conseguido hipotecas en el pasado. Es bastante fácil de ver.

En el cáncer de mama, es mucho más complicado. No es tan fácil intuir lo que está ocurriendo, así que me gusta utilizar ejemplos más sencillos para que la gente pueda reflexionar sobre los posibles sesgos. En la situación de las hipotecas, podríamos cambiar la IA para que ofrezca más hipotecas a los prestatarios de color, ¿no? Sería una forma de equilibrar la balanza, ¿verdad? ¿Alguien lo hace? No lo sé, pero, en teoría, es posible.

Así que, a veces, es posible reducir ciertos tipos de sesgo en la IA, y otras veces no. Uno de los estudios con los que me topé cuando investigaba sobre el diagnóstico de cáncer de mama es el que descubrió que los resultados de la IA entrenada con datos de un sistema hospitalario concreto eran altamente precisos.

Pero, cuando se añadieron datos sobre la raza de los pacientes, los resultados se volvieron muy muy imprecisos para ciertos grupos. Así que tuvimos una precisión diferencial basada en la raza. ¿Por qué? Nadie lo sabe porque son imágenes de diagnóstico, ¿verdad? Se trata de exploraciones de órganos internos. Para el ojo humano, no hay diferencia, pero lo que hace el aprendizaje automático es fijarse en los patrones matemáticos.

Por ejemplo, en algo tan sencillo como el nombre del paciente o si el nombre del hospital está en la esquina superior derecha o en la esquina superior izquierda. Como si eso pudiera tener alguna influencia en su diagnóstico. No lo sabemos, porque utiliza millones y millones de puntos de datos matemáticos que el cerebro humano no puede comprender.

Jamie DePolo: Pero, como dijiste, es interesante porque la raza no es biológica. Es una especie de construcción social. Así que, el hecho de que, cuando se añadió la raza, los resultados se volvieran inexactos, tal vez haya sido solo porque el nombre del hospital estaba en la esquina superior derecha, pero, para mí, fue muy interesante que eso sucediera.

Meredith Broussard: Exactamente. Exactamente. Así pues, la raza es una construcción social. No es una realidad biológica, pero suele utilizársela como sinónimo de biología. Como una especie de atajo cognitivo para los médicos y, te repito, a veces se integra en estos programas tecnológicos como si fuera una realidad biológica, ¿no? Así que existe una complicada interacción entre la genética y la predisposición a ciertas enfermedades.

Es algo que sabemos que es cierto. Bueno, solemos utilizar la raza como sustituto de la genética, que no lo es, pero en medicina, todas estas cosas están mezcladas entre sí.

Mi origen es mestizo. Mi padre era negro y mi madre, blanca. Mi hijo parece blanco y, cuando era bebé, lo llevé a revisar por un sarpullido. Y quien nos atendió dijo: “Es extraño que tenga ese sarpullido, solemos verlo solo en bebés negros”. Le dije: “Bueno, somos negros”, por lo que se disculpó y, luego, me recetó un ungüento con cierta vergüenza en la cara.

Por eso siempre recuerdo ese momento cuando pienso en la forma en que se incluye la raza en la medicina diagnóstica, porque cuando me diagnosticaron cáncer de mama, me pregunté cómo afectaba eso mis probabilidades de supervivencia. Las mujeres negras tienen un 40 % más de probabilidades de morir a causa del cáncer de mama que las mujeres blancas.

Entonces, ¿se me considera blanca o negra a efectos de esa probabilidad estadística concreta? Pero, bueno, en realidad, como que no tiene sentido utilizar la raza de esa manera, porque todo es un tanto complicado. Creo que es muy interesante analizar estas cuestiones, desentrañarlas y utilizar la inteligencia artificial para descifrar todas esas cuestiones técnicas, sociales y biológicas tan complicadas.

Jamie DePolo: Sí. Lo que dijiste sobre las mujeres negras y que tienen 40 % más de probabilidades de morir a causa del cáncer de mama que las mujeres blancas..., eso me hizo pensar en algo. Sabemos que las mujeres negras tienen más probabilidades de que se les diagnostique cáncer de mama triple negativo. Entonces, ¿hay algo biológico que desconocemos y que agrupa a estas mujeres en lugar de la raza y que, como dijiste, la raza sea un sinónimo de lo que sea ese algo biológico? 

Es interesante pensar en eso, porque, por supuesto, no todas las personas diagnosticadas con cáncer de mama triple negativo son mujeres negras. Claro que hay algunas coincidencias biológicas en las que la raza no tiene nada que ver, pero es interesante pensar, como dijiste, en cómo esto se ha convertido en un sinónimo.

Meredith Broussard: Claro. Es muy interesante, de verdad. Otro mito que circula por ahí y con el que te encuentras a menudo es la idea de que las mujeres negras tienen las mamas muy densas.

Jamie DePolo: Oh, no he oído sobre eso. Bien.

Meredith Broussard: Claro. A una amiga mía le diagnosticaron cáncer de mama en Tennessee, fue a una visita médica y le dijeron que tenía las mamas muy densas y que era sorprendente que no fuera negra, porque las mujeres negras tienen mamas densas. Eso es un mito total. Las mamas de las mujeres negras no son diferentes de las mamas de otras personas, ¿y adivina qué? El tejido mamario es denso. No conozco a nadie que no haya ido al médico y este le haya dicho, casi con tono acusador, algo como: “Ah, es que es muy difícil leer estas imágenes porque tienes el tejido mamario muy denso”. Es difícil, ¿verdad? Es difícil ver cosas en el tejido denso. Las mamas tienden a ser densas. Así son las cosas. 

Ese fue otro ejemplo de toparse con una noción pseudocientífica muy anticuada en el mundo moderno. Todos tenemos prejuicios inconscientes. Todos tenemos nociones un tanto ignorantes en la cabeza que hemos recogido en el camino.

Y todos intentamos superarlo. Todos intentamos ser mejores personas, cada día, y aprender más y cambiar. Pero, con el sesgo inconsciente o con las cosas en las que nos equivocamos, no podemos ver el sesgo inconsciente. Precisamente, es inconsciente. Así que siempre nos vamos a encontrar con estas cosas, y los propios desarrolladores de IA también tienen prejuicios inconscientes que luego incorporan en los sistemas tecnológicos que crean.

Jamie DePolo: Sí. Bueno, por último, y muy en concreto para nuestra audiencia, estoy pensando en las mujeres que van a hacerse una mamografía. El Grupo de Trabajo de Servicios Preventivos de EE. UU. acaba de actualizar sus recomendaciones. Por fin recomiendan, y digo “por fin” porque tengo mis prejuicios sobre cuándo deben empezar las mamografías y con qué frecuencia deben hacerse, pero ahora hay mujeres que cumplen 40 años y van a hacerse su primera mamografía.

En tu opinión, como investigadora de IA, ¿estas mujeres deberían hacer preguntas sobre la IA y cómo se está utilizando para leer una mamografía? Ya sé, suele pasar, al menos cuando voy yo, que no tengo la oportunidad de hablar con el radiólogo, pero puedo hablar con el técnico.

Y suelen ser bastante abiertos sobre cómo se leen las cosas, si es una mamografía 3D, si se utiliza IA y ese tipo de cosas. ¿Hay cosas que las mujeres deberían preguntar? ¿Deberían ver su historia clínica y averiguarlo? ¿Qué les dirías?

Meredith Broussard: No estoy segura de que sea tan común, ahora mismo, como para que la gente deba preocuparse. Lo importante es hacerse una mamografía. Lo importante es hacerse la mamografía de manera temprana, en forma periódica, ya sabes, a tiempo, porque una de las cosas que realmente me sorprendió cuando pasé por mi experiencia con el cáncer de mama fue que pudieran detectar cosas tan pronto utilizando una mamografía.

Una mamografía es una tecnología fantástica que salva vidas. Yo no pagaría USD 40 para que una IA leyera mis pruebas de detección. No es tan increíble. Por otro lado, si tienes mucha ansiedad y te va a hacer sentir mejor pagar ese dinero, pues págalo entonces. Pero no es tan buena como para sentir que tiene que ser un complemento esencial de la experiencia de todo el mundo.

Sin dudas, no voy a ser la persona que diga que sí, que deberíamos usar más IA. Y si quieres hacer preguntas sobre la IA, genial, pero es importante recordar que es probable que se utilice como complemento después de que el médico haga su evaluación. Por lo tanto, es probable que no sea la primera línea de diagnóstico.

Jamie DePolo: ¿Y quizás es un programa de IA diferente según el centro de mamografía? Ahora mismo no hay ningún programa universal que lea las mamografías, ¿verdad?

Meredith Broussard: Exactamente.

Jamie DePolo: Bien.

Meredith Broussard: No. Va a ser diferente en cada situación. Si te fijas en la tecnología de servidor de los distintos sistemas de salud, verás que son diferentes. Por ejemplo, Epic o MyChart se utiliza en muchos lugares. A veces, vas a un hospital y están utilizando Epic y, luego, vas a otro hospital y te dan una cuenta de Epic distinta.

Entonces, todos los que usan Epic quizás emplean la misma tecnología de servidor, pero si vas a un hospital, cada uno tiene su propio conjunto de contratos y su propio sistema de tecnología médica. Es el contrato el que regula la tecnología y, en última instancia, determina la disponibilidad de la información para otros sistemas.

Por eso, suele pasar que, cuando vas a hacerte pruebas de detección, te dan una copia de las imágenes en CD en el punto de servicio, porque los sistemas informáticos no necesariamente pueden hablar entre sí. Volvemos a esa extraña característica retro de los sistemas de tecnología médica.

Jamie DePolo: Sí.

Meredith Broussard: Sí. Así que, en realidad, es muy idiosincrático. Puedes hacer preguntas al respecto. Sin dudas. Quizás el personal no sepa cuáles son los matices del servidor de los sistemas de tecnología médica, ¿sabes? Así que puedes hacer preguntas. No sé hasta dónde llegarás. No es una tecnología muy eficaz. Tus médicos son tus médicos, tus profesionales médicos, por lo general hacen un gran trabajo.

Jamie DePolo: Muchas gracias, Meredith. Fue una charla muy útil e informativa y realmente agradecemos tus aportes. 

Meredith Broussard: Muchas gracias.

Gracias por escuchar el podcast de Breastcancer.org. Por favor, suscríbete en Apple Podcasts. Para compartir opiniones sobre este episodio o cualquier otro, puedes escribirnos a podcast@breastcancer.org o dejarnos tus comentarios en la página de episodios del podcast en nuestro sitio web. Recuerda que puedes encontrar mucha más información sobre el cáncer de mama en Breastcancer.org. Además, puedes contactarte con miles de personas afectadas por el cáncer de mama uniéndote a nuestra comunidad en línea.