En 2024, un cliente de Air Canada consultó a un chatbot sobre tarifas especiales por duelo. El bot le proporcionó una política de reembolso que no existía, y la aerolínea se negó a cumplirla. Finalmente, un tribunal falló a favor del cliente. La máquina, en realidad, no había tomado una decisión sino que sólo predijo una respuesta basada en patrones de sus datos de entrenamiento. La empresa trató esa predicción como una política oficial, un error de fondo que revela los riesgos de diseñar con IA hoy en día: sistemas probabilísticos cubiertos con interfaces deterministas.
Los humanos pensamos de forma determinista, buscando certezas y resultados claros. Por ejemplo, si lanzas una moneda 999 veces y siempre sale cara, asumimos que está trucada. Sin embargo, el pensamiento probabilístico reconoce que la próxima tirada puede ser cualquiera de las dos caras. Este segundo enfoque, aunque más complejo, es imprescindible para diseñadores en la era de la IA.
Los productos digitales modernos operan en ambientes complejos y no lineales, y la IA acelera esta complejidad. Interpretar las salidas de la IA como respuestas definitivas y no como probabilidades puede crear experiencias frágiles o incluso peligrosas, especialmente en ámbitos críticos como la medicina o las finanzas.
Pensamiento Probabilístico y IA
Las respuestas que brinda la IA rara vez son binarios claros; suelen ser probabilidades basadas en datos históricos. Por ejemplo, al preguntar «¿Existen los extraterrestres?» la respuesta será un rango entre plausible e incierto, no una afirmación categórica. De la misma manera, los diseñadores deben leer las salidas de IA como señales que deben interpretarse según objetivos, usuarios y restricciones de negocio.
Ejemplos como Netflix lo demuestran: el sistema recomienda series como «Superstore» porque estima una alta probabilidad de que te guste si viste «The Office», pero nunca lo sabe con certeza. Este mismo principio puede aplicarse a decisiones de diseño: si el análisis indica un 60% de probabilidad de que un usuario complete una compra, conviene usar estrategias más persuasivas, testimonios o comparativas. Si es del 90%, entonces la prioridad es simplificar y acelerar el proceso.
More Read
La IA puede incluso simular resultados antes de avanzar. Estas simulaciones dependen de cómo se estructuran las preguntas, el contexto, la hipótesis que se evalúa y los casos extremos que se quieren resaltar. Por ejemplo, para evaluar diseños desde la perspectiva de usuarios neurodivergentes se pueden formular instrucciones específicas para detectar barreras cognitivas, sensoriales o técnicas, y analizar fortalezas, debilidades y recomendaciones.
No obstante, las simulaciones no sustituyen la validación real con usuarios, ya que los modelos reflejan comportamientos pasados más que innovaciones futuras. Por ejemplo, un modelo entrenado en datos sobre interacción móvil puede predecir baja adopción de una interfaz vocal para personas mayores, no porque el concepto sea malo sino porque refleja datos no actualizados.
Cuidado con el Pensamiento Probabilístico Sesgado
Los modelos de IA se entrenan con datos históricos y, por tanto, reproducen los sesgos inherentes a esas fuentes. Un ejemplo sencillo expuesto en la Cumbre de IA en Francia por el primer ministro indio Narendra Modi es que si se pide a una IA que genere la imagen de alguien escribiendo con la mano izquierda, a menudo aparecerá alguien escribiendo con la derecha, porque la mayoría de personas son diestras y el modelo refleja esa realidad estadística.
More Read
Por ello, la información entregada por la IA no es una verdad absoluta sino el resultado estadísticamente más probable. Es fundamental añadir contexto para mejorar predicciones, y no tratar como certeza una única respuesta. Además, confiar ciegamente en sistemas con alta confianza puede causar errores graves, como el caso de Air Canada, mientras que ignorar salidas con baja confianza puede hacer perder señales importantes.
La transparencia es clave para permitir que los usuarios y equipos evalúen por sí mismos los resultados y sus fundamentos, fomentando la confianza en lugar del rechazo.
Practicar el Diseño Probabilístico con IA
El diseño determina la experiencia final, y está lleno de hipótesis y apuestas con distintos niveles de probabilidad de éxito. Pensar probabilísticamente implica entender que los resultados casi nunca son blanco o negro, y navegar entre diversas alternativas para maximizar el valor.
Por ejemplo, una decisión de diseño debe optimizar la probabilidad de éxito y no buscar certezas absolutas. El chatbot de Air Canada ilustra cómo una interfaz que transmite confianza absoluta en una respuesta probabilística puede causar problemas legales y de confianza.
Esto exige interfaces que muestren incertidumbre visible, opciones para recurrir a soporte humano, y etiqueten claramente contenidos generados por IA. También es clave evitar el pensamiento binario, analizar diversas probabilidades y casos límite, y aprovechar que la IA puede actuar como motor que genera escenarios múltiples, evalúa riesgos y sugiere recomendaciones estructuradas, siempre orientadas al valor real que se crea.
En lugar de preguntar «¿tendrá éxito esta función?» conviene solicitar a la IA estimaciones sobre la probabilidad de éxito para utilizar esos datos como brújula, no como mapa rígido. Además, es fundamental comprender por qué un modelo arroja una determinada predicción: los datos, las hipótesis implícitas, y el comportamiento detectado.
More Read
Muchos casos muestran que ignorar estos aspectos conduce a sesgos graves, como en la herramienta de reclutamiento de IA de Amazon que discriminaba currículos de mujeres debido a sesgos en los datos históricos de contratación.
Experimentar como Sistema de Aprendizaje Continuo
Los experimentos no deben solo confirmar ideas sino reducir incertidumbre. En lugar de probar si una función tiene éxito, deben enfocarse en validar las suposiciones detrás de ella. La simulación con IA puede filtrar ideas débiles antes de inversión en desarrollo, haciendo el proceso más ágil.
También es positivo aceptar multi-versiones concurrentes para atender distintos perfiles de usuario, fallar rápido para aprender y ajustar, y visualizar claramente las probabilidades predichas.
Comunicar la Incertidumbre de Forma Clara
Ocultar la incertidumbre lleva a que los usuarios interpreten las recomendaciones como hechos; mostrarla aumenta la confianza. Indicadores de rango, confianza y explicaciones ayudan a establecer expectativas realistas. Por ejemplo, contar con ventanas de entrega en lugar de fechas exactas o preguntar confirmación en reconocimiento facial son formas de mostrar transparencia.
Además, diferentes tipos de usuarios reaccionan distinto ante la incertidumbre: desde quienes confían demasiado y deben ver avisos claros, hasta quienes desconfían y requieren datos de precisión y contextos.
Mantener al Humano en el Proceso
La IA debe amplificar el juicio humano, no sustituirlo. Los sistemas más confiables incluyen siempre puntos claros para que las personas revisen, corrijan o rechacen sugerencias. El enfoque «human-in-the-loop» es un motor de refinamiento constante, pues cada corrección proporciona datos valiosos para mejorar el modelo.
El control y la transparencia fomentan la adopción, dejando claro quién toma la decisión final y cómo actuar ante un error. Ejemplos cotidianos son GitHub Copilot y Gmail Smart Compose que sugieren pero no imponen texto. En contextos de alto riesgo, como la medicina o la prevención de fraudes, la supervisión humana es esencial para preservar la responsabilidad y la confianza.
Optimizar para la Resiliencia en Lugar de Só para la Conversión
El diseño efectivo debe adaptarse a cambios constantes en usuarios, datos y contexto, evitando soluciones rígidas y concentrándose en sistemas confiables a largo plazo. Esto implica prever efectos secundarios, permitir ajustes dinámicos, y mantener la transparencia.
Por ejemplo, sistemas de recomendación deben incorporar novedades y diversidad para no saturar al usuario, y apps como Duolingo establecen limitaciones conscientes para preservar la motivación a largo plazo, aun a costa de sacrificar métricas de conversión inmediatas. Empresas como Meta reconocen públicamente que centrarse solo en «tiempo de uso» produjo efectos negativos.
Planificar para la incertidumbre implica contemplar la degradación de la confianza de la IA, diseñar alternativas, medir indicadores de salud a largo plazo y mantener la capacidad de adaptación.
En definitiva, la transformación clave es dejar de preguntarse «¿Funcionará?» para comenzar a plantear «¿Qué probabilidades hay de que funcione y qué hacemos cuando no?» Esta nueva visión invita a nombrar claramente las suposiciones que acompañan cada recomendación de IA, reformular la presentación de los resultados, y anticipar soluciones cuando los sistemas probabilísticos fallen.
Así, el diseño probabilístico con IA no es solo una cuestión técnica sino un cambio en la actitud: la incertidumbre siempre estuvo ahí, la IA la hace visible. Aunque puede predecir y simular escenarios, solo el juicio humano puede decidir qué importa, quién queda fuera, o qué idea audaz merece defenderse. En un mundo donde la predicción es barata y el juicio escaso, los diseñadores más valiosos son los que persisten preguntando: ¿Qué más podría ser verdad?
