Por qué la IA inventa cosas con tanta seguridad

Lo más difícil de la IA es que puede estar completamente equivocada y, aun así, sonar completamente segura. No adopta un tono dubitativo ni dice «quizá». Presenta un dato inventado con la misma naturalidad que uno verdadero.

Estos errores expresados con seguridad se llaman alucinaciones. Comprender por qué ocurren es su primera defensa para no dejarse engañar.

Recuerde cómo funciona la IA: predice las palabras más probables, una tras otra. No está consultando datos en una base de datos. Está generando texto que suena correcto.

La mayoría de las veces, sonar correcto y serlo coinciden. Pero a veces la frase que suena más natural es sencillamente falsa, y la IA no tiene ninguna alarma interna que se lo indique.

La IA no sabe realmente qué es verdad. No tiene conciencia ni un verificador de datos interno. Simplemente produce lenguaje plausible.

Por eso puede inventar una estadística, una fecha o una cita con total seguridad. Para la IA, una mentira convincente y un dato verdadero tienen el mismo aspecto: ambos son solo patrones de palabras probables.

Cuando la IA no sabe algo, a menudo no lo reconoce. En su lugar, rellena el vacío con algo que encaja con el patrón de una respuesta.

Si pregunta por un dato poco conocido que nunca aprendió, en vez de admitir su ignorancia puede inventar tranquilamente una respuesta plausible. Ese impulso de rellenar vacíos es precisamente donde nacen las alucinaciones.

Le pide a la IA una cita de un libro concreto. Le proporciona una cita elegante y adecuada, atribuida con precisión. Suena perfecta, salvo por el hecho de que la cita no existe.

La IA generó algo que sonaba como una cita de ese libro. No hubo malicia ni conciencia, solo una coincidencia de patrones que salió mal con total seguridad. Esto ocurre más de lo que los principiantes esperan.

Las alucinaciones se concentran en ciertos elementos: datos concretos, cifras, fechas, nombres, fuentes y citas. Cuanto más preciso y poco conocido sea el detalle, mayor será el riesgo.

Las explicaciones generales suelen ser fiables. El riesgo de que la IA invente algo con seguridad es mayor en la cita exacta, la estadística precisa o el nombre especializado. Saberlo le indica cuándo debe tener especial cuidado.

Los modelos de IA aprenden a partir de datos disponibles hasta cierto momento y quizá no conozcan bien los acontecimientos recientes. Si se les pregunta por algo nuevo, pueden adivinar y presentar la suposición como un hecho.

Sea especialmente escéptico con las respuestas sobre noticias recientes, precios o temas que cambian rápidamente. La IA puede describir con total seguridad un mundo que ya no existe o que nunca existió.

Es útil saber que la IA no intenta engañarle. No tiene ninguna intención. Una alucinación es un efecto secundario de su funcionamiento, no una decisión de inducirle a error.

Esto importa porque significa que no puede solucionarlo pidiéndole a la IA que sea honesta. Ella ya cree que está siendo útil. La protección tiene que venir de usted.

Si acepta todas las respuestas expresadas con seguridad sin cuestionarlas, tarde o temprano actuará basándose en algo falso: un dato incorrecto en un informe, una fuente inventada o una fecha errónea.

La solución no es dejar de usar la IA, sino usarla con criterio: apóyese en ella para razonar y redactar, y verifique los datos concretos que importan antes de confiar en ellos.

Adopte una mentalidad sencilla: la IA es una asistente brillante y rápida, pero a veces se equivoca con total seguridad. Confíe en ella para orientarse, pero compruebe los detalles.

No se trata de paranoia, sino de aplicar la misma cautela que aplicaría a cualquier fuente única. Saber que existen las alucinaciones ya le coloca por delante de la mayoría de los usuarios.

Pida a la IA algo específico y poco conocido, como una estadística precisa o una cita de una fuente menos conocida. Después, intente verificarlo en otro lugar.

Es posible que descubra que se lo inventó con total seguridad. Ver una alucinación por sí mismo una vez hace que la lección se recuerde mucho mejor que si simplemente le dijeran que puede ocurrir.

Probemos la idea central.

Las alucinaciones son respuestas inventadas expresadas con seguridad. Ocurren porque la IA predice palabras plausibles y no tiene un sentido real de lo verdadero y lo falso, por lo que rellena los vacíos en lugar de admitir que no sabe algo.

El riesgo es mayor con datos concretos, cifras, citas, fuentes y acontecimientos recientes. No está mintiendo; no tiene ninguna intención. La protección depende de usted: confíe en la orientación, pero verifique los detalles.