Desafíos del MACHINE LEARNING

    En su libro "Spurious Correlations", el científico de datos y estudiante de posgrado de Harvard Tyler Vigan señala que "no todas las correlaciones apuntan a una relación causal subyacente". Para ilustrar su punto de vista, proporciona un gráfico que muestra una correlación aparentemente fuerte entre el consumo de margarina y las tasas de divorcio en el estado estadounidense de Maine. Sin embargo, lo más grave es que las aplicaciones de aprendizaje automático son susceptibles de sesgos y errores humanos y algorítmicos. Debido a su propensión a aprender y adaptarse, los errores y las correlaciones espurias pueden propagarse rápidamente y contaminar los resultados de las redes neuronales.

Los modelos de aprendizaje automático presentan un problema adicional cuando el algoritmo y sus resultados son tan complejos que no pueden ser explicados o comprendidos por los humanos. Esto se conoce como un modelo de "caja negra", que supone un riesgo para las empresas cuando no pueden determinar cómo o por qué un algoritmo llegó a una conclusión o decisión concreta.

Afortunadamente, a medida que aumenta la complejidad de los conjuntos de datos y los algoritmos de aprendizaje automático, también lo hacen las herramientas y los recursos disponibles para gestionar el riesgo. Las mejores empresas están trabajando para eliminar los errores y los sesgos mediante el desarrollo de políticas de auditoría de IA sólidas y actualizadas y protocolos de mejores prácticas.

SIGUIENTE