Cómo leer lo que te devuelve la IA

037

Hazle la pregunta dos veces, en sesiones distintas.

ilustración · apunte 037

Una técnica más barata que consultar dos IAs y casi tan útil: pregúntale lo mismo, dos veces, en sesiones distintas. Sin el historial de la primera. Con la misma redacción exacta.

Si las respuestas son parecidas en estructura y contenido, lo que el modelo te dice no depende del azar de la generación. Está apoyado en patrones estables: o conoce el tema, o repite consistentemente un sesgo. Cualquiera de las dos es información sobre la estabilidad del output.

Si las respuestas difieren en cosas importantes (recomienda decisiones distintas, cita autores distintos, llega a conclusiones distintas) lo que recibiste la primera vez no era una respuesta. Era una entre varias posibles. El modelo no sabía: completaba.

La generación de las IAs incluye una componente aleatoria controlada por temperatura. Cuando hay información sólida detrás, esa aleatoriedad afecta el fraseo, no el contenido. Las dos respuestas dicen lo mismo, con palabras distintas. Cuando no hay información sólida detrás, la aleatoriedad escoge entre opciones que el modelo considera igualmente plausibles. Y "igualmente plausible" puede incluir respuestas que se contradicen entre sí.

La técnica delata especialmente bien las afirmaciones inventadas. Las citas falsas suelen cambiar de autor entre sesiones. Las cifras inventadas oscilan. Los nombres alucinados se sustituyen por otros parecidos. Lo que es estable suele ser real. Lo que se mueve, no.

foto
José

José Betancur

Ingeniero, escritor y arquitecto de futuros educativos. Escribe sobre tecnohumanismo enCódigo Humanoy dirige Imaginar Futuros EAFIT. Explora la intersección entre IA, creatividad humana y los futuros que podemos diseñar juntos.

inConectemos en LinkedIn →