036
Cuando dos IAs te dan la misma respuesta, no es consenso. Es correlación de entrenamiento.
La práctica anterior tiene un precio escondido. Cuando consultas dos modelos y dicen lo mismo, es tentador concluir que la respuesta es robusta. Acuerdan, luego es verdad.
No exactamente.
Los modelos comerciales de IA se entrenan sobre cuerpos de texto que se superponen masivamente: la web pública, libros, papers, conversaciones. Las decisiones de filtrado y curado difieren, pero el material base no. Cuando dos modelos coinciden, es posible que ambos hayan leído el mismo texto erróneo y ambos lo hayan absorbido como fuente. Hay errores famosos que viven en Wikipedia desde hace una década y que cualquier IA contemporánea repite con la misma seguridad.
Eso no es consenso. Es correlación de entrenamiento. Lo que ambas saben suele venir del mismo lugar. Lo que ambas afirman puede estar igualmente equivocado.
El consenso real exige independencia. Dos personas que llegaron a la misma conclusión por caminos distintos te dan información. Dos modelos que leyeron los mismos textos te dan estabilidad estadística. No son lo mismo.
Esto no anula el valor de contrastar IAs. Sigue siendo útil, porque sus errores no son perfectamente correlacionados, y las diferencias entre respuestas son informativas. Pero lo que las dos dicen igual no merece la confianza de "lo dijeron dos fuentes". Merece la confianza de "lo dijo una fuente, dos veces".
Cuando importa de verdad, la verificación tiene que salir del ecosistema de los modelos. Una fuente primaria. Un experto. Algo que no haya estado en el corpus.
José
José Betancur
Ingeniero, escritor y arquitecto de futuros educativos. Escribe sobre tecnohumanismo enCódigo Humanoy dirige Imaginar Futuros EAFIT. Explora la intersección entre IA, creatividad humana y los futuros que podemos diseñar juntos.
inConectemos en LinkedIn →