Las aplicaciones de inteligencia artificial basadas en modelos de lenguaje a gran escala (IAML) parecen destinadas a tener un impacto significativo en la práctica de la medicina, tanto positivo como negativo, razón por la cual les dedicamos tanta atención. Las IAML ofrecen resultados impresionantes al evaluar conocimientos médicos, siendo capaces de aprobar exámenes de opción múltiple diseñados para la certificación médica general y especializada. De hecho, muchas de las IAML más avanzadas no tardaron en superar a los médicos humanos en dichos exámenes.
Sin embargo, cualquiera que haya utilizado IAML probablemente pueda afirmar que estas no pueden pensar realmente. Comprender las fortalezas y debilidades de estos modelos es fundamental para su incorporación a la medicina, ya sea en la educación, la investigación o la atención al paciente.
¿A qué me refiero cuando digo que no pueden pensar? Son chatbots muy sofisticados capaces de regenerar el lenguaje humano, creando así una imitación del pensamiento humano, pero no son conscientes ni poseen una comprensión genuina. Por lo tanto, las respuestas iniciales de un LLM pueden ser impresionantes: tienen a su disposición todos sus datos de entrenamiento, pueden buscar en ellos e incluso conectarse a internet en tiempo real, y formular los resultados en un discurso coherente. Esto crea la poderosa ilusión de que han comprendido la pregunta.
Pero si profundizas, descubrirás que algunas de sus respuestas son un completo disparate. Los LLM pueden «alucinar», lo que significa que inventan respuestas que no son reales. Siguen el formato de una respuesta (con referencias falsas pero perfectamente formateadas), pero no son reales. Esto es fatal para cualquier aplicación médica. Además, si empiezas a presionarlos con preguntas de seguimiento, sus respuestas pueden empezar a fallar. Se contradicen, olvidan instrucciones anteriores y, en general, simplemente no «entienden» el contexto.
Fuente: Science-Based Medicine | Steven Novella
Para leer más ingresa a: https://sciencebasedmedicine.org/new-study-on-ai-clinical-decision-making/?utm_source=flipboard&utm_content=topic/technology