La mayoría de las organizaciones comprenden la importancia de mitigar el problema de la parcialidad en los datos (data bias) y creen que está muy extendido en sus empresas, pero tienen dificultades para abordarlo con eficacia.

Progress, proveedor de software de infraestructura y desarrollo de aplicaciones líder en la región, anunció los resultados de su encuesta mundial “Data Bias: The Hidden Risk of AI” (Sesgo en los datos: el riesgo oculto de la inteligencia artificial). Realizada por la firma de investigación independiente Insight Avenue, la encuesta de Progress se basa en entrevistas con más de 640 profesionales de negocios y TI, de nivel de director y superior, que utilizan datos para tomar decisiones y están utilizando o planean utilizar la inteligencia artificial (IA) y el aprendizaje automático (ML) para apoyar su toma de decisiones. El informe completo y las conclusiones pueden consultarse aquí.

Los prejuicios suelen heredarse de experiencias culturales y personales. Cuando se recogen datos y se utilizan en el entrenamiento de modelos de aprendizaje automático, los modelos heredan los sesgos de las personas que los construyen, produciendo resultados inesperados y potencialmente perjudiciales. Sin embargo, a pesar de los posibles riesgos legales y financieros asociados al sesgo en los datos, existe una falta de comprensión sobre la formación, los procesos y la tecnología necesarios para abordar con éxito esta parcialidad.

La encuesta de Progress indicó que el 73% de los responsables de la toma de decisiones empresariales y de TI en Latinoamérica creen que el sesgo de datos se convertirá en una preocupación mayor a medida que aumente el uso de la inteligencia artificial y el machine learning, pero solo el 22% lo está abordando actualmente y cuenta con un proceso de evaluación continuo. Los mayores obstáculos que observan son la falta de conciencia sobre los posibles sesgos, la comprensión de cómo identificarlos y la falta de recursos expertos disponibles, como el acceso a científicos de datos.

Los resultados de la encuesta en la región también muestran que:

• El 69% de las organizaciones de Latinoamérica prevé depender cada vez más de la inteligencia artificial y el machine learning para la toma de decisiones en los próximos años.

• El 59% cree que actualmente existe un sesgo de datos en su organización.
• El 75% cree que necesita hacer más para abordar el sesgo de datos.
• El 51% considera que la falta de conciencia y subestimación de los sesgos son un obstáculo para abordarlos.

“A medida que la inteligencia artificial y el aprendizaje automático desempeñan un papel más importante en la toma de decisiones, las organizaciones deben ser conscientes del riesgo oculto de la parcialidad de los datos. Nuestra investigación muestra que, si las organizaciones no abordan el sesgo de datos, puede sufrir consecuencias legales, de seguridad y de reputación irreversibles a largo plazo. Con estos conocimientos y datos, queremos ayudar a nuestros clientes y al sector a comprender mejor el problema y tomar medidas”, dijo Francisco Larez, VP de Latinoamérica para Progress.