# Por qué avisar que la IA puede equivocarse no cambia lo que hace la gente

Un estudio de Carnegie Mellon con 45 usuarios mostró que las alertas aumentaron la conciencia del riesgo, pero no cambiaron el comportamiento.

Avisarle a alguien que la IA puede equivocarse no alcanza para cambiar lo que hace.

Un estudio de Carnegie Mellon probó durante dos semanas un sistema que marcaba señales de alucinación, exceso de confianza, complacencia y antropomorfismo en conversaciones reales. Participaron 45 usuarios frecuentes.

Casi todos dijeron que las alertas aumentaron su conciencia sobre los riesgos. Pero esa mayor conciencia no produjo cambios claros en su comportamiento.

Es un resultado pequeño y preliminar, pero incómodo.

## Del cartel al control

Muchas estrategias de adopción y seguridad descansan en la misma idea: si explicamos el riesgo, la persona va a actuar distinto. A veces no pasa.

Si una falla es predecible, el diseño no puede terminar en un cartel. También necesita buenos defaults, permisos, confirmaciones o un workflow que haga fácil la conducta correcta.

La capacitación sirve para entender. El producto y el proceso deciden qué ocurre cuando llega el apuro.

¿En qué punto de tu proceso una advertencia debería convertirse en un control?

## Explorar otras ideas

- [Qué pasa con el criterio cuando automatizamos las tareas junior](/automatizar-tareas-junior-y-formar-criterio.html.md)
- [Cuando construir es barato, el cuello de botella es el juicio](/cuando-construir-es-barato-el-cuello-de-botella-es-el-juicio.html.md)
- [De programador a socio de una startup](/de-programador-a-socio-de-una-startup.html.md)