• Unisys recopila cuatro consejos para innovar asumiendo criterios éticos y de conformidad con la legislación presente y futura

Si hemos aprendido algo de la pandemia, es que las empresas, cuando quieren, pueden ser ágiles. Observamos cómo algunas organizaciones que parecían ancladas en el pasado se transformaron en cuestión de semanas y, prácticamente, sin esfuerzos. Incluso cientos de miles de departamentos de finanzas cerraban la contabilidad de cada mes sin intercambiar un solo papel. Y todo gracias a las infraestructuras cloud.

“Haciendo un paralelismo con las películas del oeste, hemos pasado del ‘la bolsa o la vida’ a ‘el cloud o la muerte’: la nube facilita a los negocios de cualquier tamaño el acceso a bajo coste a tecnologías impensables hace unos años, como el Machine Learning o la Inteligencia Artificial”, afirma José Ramón Travé, director comercial de Unisys en España. “Pero eso que parece tan sencillo, no siempre lo es: que las nuevas tecnologías vayan acompañadas de seguridad o incluso que cumplan con la legislación local o con criterios éticos no se debe dar por supuesto”.

Muchas tecnologías disruptivas pueden estar totalmente desconectadas de la regulación, que siempre llega un poco más tarde. “En Europa, por ejemplo, aunque existen reglas sobre la nube no hay una regulación concreta aún sobre infraestructuras cloud”, continúa Travé.

Esta situación, sin embargo, no debe afectar a las organizaciones innovadoras. La clave está en entender cuáles son los asuntos más relevantes que pueden surgir en la creación de nuevas tecnologías y prever cuáles pueden ser las regulaciones más estrictas que podrían afectar al desarrollo. Para ello, es fundamental la flexibilidad y el establecimiento de un modelo de costes que permita responder de forma ágil cuando se debata la normativa.

Desde Unisys, se plantean cuatro cuestiones para dar respuesta a esta situación.

• Expectativas sobre la explicabilidad. Este concepto surge de los resultados que puede ofrecer un modelo de Machine Learning. Se busca que sean explicables para que tengan sentido desde un punto de vista humano. En muchas industrias como la banca o la sanidad, se necesita trazabilidad completa en cada decisión que se toma. Por eso, cuando se despliega una tecnología de inteligencia artificial, no se pueden utilizar “cajas negras” que tomen decisiones que no podamos explicar. “Es probable que en estos sectores no se pueda desplegar cualquier tipo de tecnología”, apuntan desde Unisys. En las innovaciones de este tipo de organizaciones se debe incluir la transparencia y la consistencia para cualquier desarrollo por encima de cualquier otro factor.

• Protección del consumidor. Muchos ciudadanos han mostrado su temor a las nuevas tecnologías porque las asocian a una pérdida del control sobre sus actividades e incluso pensamientos. El regulador sabe que el sesgo puede distorsionar las decisiones y provocar resultados injustos para los consumidores, por lo que buscan reforzar que la tecnología cumpla con estándares éticos. “El problema aquí no se encuentra en el cumplimiento de cualquier legislación relacionada con la protección de los consumidores, sino en que esas normas varían enormemente entre países”, alertan desde Unisys. En Europa, por ejemplo, las leyes antidiscriminación prevén prohibir el uso de inteligencia artificial para diferentes usos como en sistemas de vigilancia, en biometría o en calificaciones sociales… Y precisamente esos son los usos más habituales en China. En algunos desarrollos se está dejando la decisión final a una persona: por ejemplo, en algunos hospitales se usa Inteligencia Artificial para optimizar las camas y propone recomendaciones para situar a los pacientes en lugares óptimos, pero es el médico el que toma la decisión final.

• Protección de datos y privacidad. El cloud son datos. Y la regulación sobre datos es complicada. El ecosistema de legislación sobre privacidad es muy heterogéneo y complejo. Desde las más estrictas normas en la UE, donde se asume el derecho a la privacidad de los datos como un derecho humano absolutamente en manos de cada individuo, hasta las más laxas de EEUU, donde se tratan como un derecho del consumidor sin más. “El desafío en este caso se encuentra en crear soluciones que puedan funcionar en cualquier lugar del mundo en lugar de adaptarse a legislaciones específicas”, admiten desde Unisys.

• Atención a conflictos futuros relacionados con los datos. La propiedad intelectual es otro de los grandes desafíos a la hora de desarrollar nuevas tecnologías. En EEUU ya ha surgido la duda de si un algoritmo puede ser patentado como un invento o no. La respuesta del juez allí fue que no, pero en Australia, sin embargo, fue que sí. La cuestión es si esa patente es propia de la organización o de la herramienta. Y, más allá, un algoritmo no tiene sentido sin datos, así que, ¿qué hace útil al modelo? ¿El algoritmo o los datos que utiliza?

En definitiva, la innovación no debe detenerse a pesar de los problemas que se puedan encontrar en el camino, y sin regulaciones claras que afecten a cualquier desarrollo, la mejor opción es la autorregulación para anticipar cambios normativos y la agilidad para poder cambiar cualquier aspecto afectado de la tecnología.