¿Es un efecto de cámara de eco una amenaza para la salud impulsada por la IA?

¿Qué es una “cámara de eco”?

Imagínese vivir en un sistema cerrado, donde la información, las creencias y las opiniones que cumplen con las preferencias personales son aumentadas y reforzadas.

Es importante destacar que cualquier punto de vista opuesto o controvertido, es marginado o abiertamente descuidado de cualquier tipo de proceso de pensamiento o aspecto de la vida.

Así es como se crean las cámaras de eco en Facebook

Tómalo del presidente de los Estados Unidos: Los seres humanos son criaturas de consuelo. No estamos particularmente inclinados… mashable.com

¿Por qué es peligroso?

Una exposición a información sesgada fortalece nuestras creencias personales, mientras que otras perspectivas se vuelven subrepresentadas, pueden disminuir enormemente nuestra comprensión de los diferentes temas, e incluso socavar nuestra voluntad y necesidad de tratar de entender al “otro lado”.

Un verdadero problema surge cuando se introduce deliberadamente información falsa en una cámara de eco. En lugar de evaluar críticamente los hechos y cuestionar la confiabilidad de lo que se presenta, la información es fácilmente aceptada siempre y cuando se ajuste a la forma y narrativa preferida de la cámara.

Por qué los cambios en Facebook son buenas noticias para las noticias falsas y la Cámara del Eco

El ascenso de la fuente de noticias de Facebook como la principal fuente de noticias para muchos estadounidenses fue un desastre, y a su… www.forbes.com

Pero, ¿cómo se relaciona esto con la atención sanitaria?

Hagamos un pequeño experimento de pensamiento.

Imagínese un sistema nacional de información sanitaria, en el que la mayoría de las recomendaciones médicas estén basadas en datos y sean casi totalmente autónomas.

Imaginemos un escenario idealista, en el cual los pacientes siguen tratamientos estrictamente prescritos y el progreso de su terapia es monitoreado y registrado.

Finalmente, supongamos que el sistema es recursivo y de aprendizaje continuo, de modo que el resultado del tratamiento de una cohorte se utiliza para refinar el pronóstico y los escenarios terapéuticos para el siguiente grupo de pacientes.

Ahora, extendamos nuestro experimento de pensamiento distópico a millones de pacientes y ejecutemos este programa hipotético durante, por ejemplo, 10 años .

Sin una inclusión exhaustiva de la diversidad de la muestra; por ejemplo, datos de medicina de precisión, medidos a intervalos diferentes (y probablemente aleatorios) y con un cierto nivel de estocástico (introducido por médicos humanos), el sistema propuesto está condenado a realizar diagnósticos erróneos, y es probable que se cobren muchas vidas humanas.

Por qué?

Un sistema de información cerrado, como el modelo de atención sanitaria distópico y basado en la IA presentado anteriormente, sufrirá una granularidad de datos y una autocorrelación prohibitivas.

Después de un número definido de rondas de diagnóstico y tratamiento, nuestra asistencia sanitaria automatizada e hipotéticamente eficiente basada en la IA se asemejará a una “cámara de eco” de los medios sociales, en la que la diversidad fenotípica es sustituida por una definición granular y “difusa” de los trastornos médicos.

Tal sistema, estará en gran conflicto con (probablemente) la tendencia médica más importante y perturbadora de principios del siglo XXI – medicina de precisión. ¡Un movimiento que trabaja para abrazar nuestra diversidad genética y construir soluciones de salud a su alrededor!

¿Podemos construir una asistencia sanitaria sostenible impulsada por la IA?

Los últimos 50 años han sido testigos de un tremendo progreso en casi todos los aspectos de la medicina moderna. Así, el espectro de enfermedades curables, es una variable dinámica, que evoluciona con el tiempo y nuestra comprensión general de la fisiología humana.

En última instancia, los ajustes en el estilo de vida y la genética poblacional semi-correlacionada (imaginemos un futuro, cuando la CRISPR pueda arreglar los genes humanos, lo que influye en gran medida en el proceso de selección natural), darán lugar a una sociedad que se enfrentará a problemas médicos completamente diferentes a los de las primeras generaciones. Esta noción ha sido cubierta muy elegantemente por Niamh McKenna, en su breve y sugerente artículo.

AI: Real-time Aging Citizen Healthcare Transformation | Accenture

¿Cómo gestionar la asistencia sanitaria cuando millones de personas tienen más de 100 años? AI nos enseñará sobre la marcha. Leer más. www.accenture.com

Por lo tanto, creo firmemente que la clave para una atención sanitaria completa e inclusiva basada en la IA está en los datos y en la forma en que deben recopilarse.

Tendremos que abarcar la diversidad genética de la población humana y tomar muestras de ella de acuerdo con un protocolo estandarizado (para asegurar la compatibilidad de los datos y la reproducibilidad de nuestros procedimientos).

Dado que la genética poblacional es espacio-temporal (evoluciona con el tiempo e hipotéticamente con nuestras intervenciones médicas), necesitaremos aprender a tomar muestras de ella a intervalos (probablemente) aleatorios a un ritmo que supere los cambios evolutivos esperados en toda la población.

Por último, un sistema sanitario coherente y autoajustable recurrirá a los médicos humanos como fuente de estocástico y diagnóstico ortogonal.

Resumiendo

Puedo imaginar un futuro en el que construyamos un sistema de salud inclusivo y completo impulsado por la IA, en el que los médicos complementen el tratamiento de los trastornos médicos basado en datos, pero también lo desafíen.

SaludAiSaludFuturismoFuturistaContinuar la discusión