Es posible que los pacientes no reciban consejos de médicos de IA que sepan sus nombres

0


Con el crecimiento del uso de inteligencia artificial (IA) en aplicaciones de atención médica, los profesionales de la salud están buscando formas de mejorar la experiencia de los pacientes con su mecánica médica.

Investigadores de Penn State y la Universidad de California, Santa Bárbara (UCSB) han descubierto que es menos probable que las personas reciban consejos de salud de un médico de IA cuando el robot conoce su nombre y su historial médico. Por otro lado, los pacientes quieren estar por su nombre con sus médicos humanos.

Cuando el médico de IA usó el nombre de los pacientes y se refirió a su historial médico en la conversación, los participantes del estudio tenían más probabilidades de considerar un chatbot de salud de IA intrusivo y también era menos probable que prestaran atención a los consejos. Doctores de IA, agregaron los investigadores. Sin embargo, esperaban que los médicos humanos los diferenciaran de otros pacientes y era menos probable que obedecieran cuando un médico humano no podía recordar su información.

Los hallazgos ofrecen más evidencia de que las máquinas caminan por una delgada línea al servir como médicos, dijo S. Shyam Sundar, profesor James P. Jimirro de Efectos de Medios en el Donald P. Bellisario College of Communications y codirector del Laboratorio de Investigación de Efectos de Medios en Penn State. .

«Las máquinas no tienen la capacidad de escuchar y experimentar, así que cuando preguntan a los pacientes cómo se sienten, en realidad son solo datos para ellos», dijo Sundar, quien también es afiliado del Penn State Institute for Computational and Data Sciences. (ICDS). «Quizás esa sea una de las razones por las que la gente se ha resistido a la IA médica en el pasado».

Las máquinas tienen ventajas como proveedores de atención médica, dijo Joseph B. Walther, profesor distinguido de comunicaciones y presidente presidencial de tecnología y sociedad de Mark y Susan Bertelsen en UCSB. Dijo que, al igual que un médico de familia que ha tratado a un paciente durante mucho tiempo, los sistemas informáticos podrían, hipotéticamente, conocer el historial médico completo de un paciente. En comparación, ver a un nuevo médico o especialista que solo conozca sus últimas pruebas de laboratorio podría ser una experiencia más común, dijo Walther, quien también es director del Centro de Tecnología y Sociedad de la Información en UCSB.

“Esto nos llamó la atención con la pregunta: ‘¿Quién realmente nos conoce mejor: una máquina que puede almacenar toda esta información, o un ser humano que nunca nos ha conocido antes o que no ha desarrollado una relación con nosotros, y lo que apreciamos? ¿una relación con un médico experimentado? ”, dijo Walther. «Así que esta investigación pregunta, ¿quién nos conoce mejor y quién nos gusta más?»

El equipo diseñó cinco chatbots para el estudio de dos fases, reclutando un total de 295 participantes para la primera fase, 223 de los cuales regresaron para la segunda fase. En la primera parte del estudio, los participantes fueron asignados al azar para interactuar con un médico humano, un médico de IA o un médico asistido por IA.

En la segunda fase del estudio, se indicó a los participantes que volvieran a interactuar con el mismo médico. Sin embargo, cuando el médico inició la conversación en esta etapa, identificó al participante por su nombre y recordó la información de la última interacción o volvió a preguntar cómo prefería el paciente que se le abordara y repetía preguntas sobre su historial médico.

En ambas fases, los chatbots se programaron para hacer ocho preguntas sobre los síntomas y comportamientos de COVID-19 y ofrecer diagnósticos y recomendaciones, dijo Jin Chen, estudiante de doctorado en comunicaciones masivas, Penn State y primer autor del artículo.

«Elegimos centrarnos en COVID-19 porque fue un problema de salud destacado durante el período de estudio», dijo Jin Chen.

Aceptando médicos con inteligencia artificial

A medida que los proveedores de atención médica buscan formas económicas de brindar una mejor atención, los servicios médicos de IA pueden brindar una alternativa. Sin embargo, los médicos de IA deben brindar atención y consejos que los pacientes estén dispuestos a aceptar, según Cheng Chen, estudiante de doctorado en comunicaciones masivas en Penn State.

«Una de las razones por las que hicimos este estudio es que leímos muchos informes en la literatura sobre cómo las personas son reacias a aceptar la IA como médico», dijo Chen. “Simplemente no se sienten cómodos con la tecnología y no sienten que la IA reconozca su singularidad como paciente. Por lo tanto, pensamos que debido a que las máquinas pueden contener tanta información sobre una persona, pueden proporcionar detección y reparación. este problema de la unicidad «.

Los resultados sugieren que esta estrategia puede resultar contraproducente. «Cuando un sistema de IA reconoce la singularidad de una persona, se presenta como intrusivo, lo que refleja una mayor preocupación por la IA en la sociedad», dijo Sundar.

En un hallazgo desconcertante, alrededor del 78 por ciento de los participantes en la condición experimental que presentaba a un médico humano creían que estaban interactuando con un médico de inteligencia artificial, dijeron los investigadores. Sundar agregó una explicación tentativa para este hallazgo es que las personas pueden haberse acostumbrado a las plataformas de salud en línea durante la pandemia y pueden haber esperado una interacción más rica.

En el futuro, los investigadores esperan una mayor investigación sobre los roles que la autenticidad y la capacidad de las máquinas para participar en preguntas de ida y vuelta pueden desempeñar en el desarrollo de una mejor relación con los pacientes.

Los investigadores presentaron sus hallazgos hoy en la conferencia virtual 2021 CHI ACM sobre factores humanos en sistemas informáticos, la conferencia internacional líder para la investigación de la interacción humano-computadora.

También podría gustarte
Deja una respuesta

Su dirección de correo electrónico no será publicada.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More