Los 5 riesgos de la Inteligencia Artificial que deberían preocuparnos

La ONU alerta de la  llegada de armas autónomas, el reconocimiento facial produce errores que van más allá de una broma, y el fraude de datos a gran escala está sobre la mesa

Rafa Mingorance describe en su canal de YouTube Tecnología y estilos de vida, las cinco desventajas de la IA que deberían preocuparnos.

Texto de Rafa Mingorance:

La inteligencia artificial está cada vez más presente en nuestras vidas y superará a la inteligencia humana en un plazo de entre 5 y 10 años.

Se habla mucho de las grandes ventajas que aporta al desarrollo de las sociedades modernas, pero convendría reflexionar sobre las posibles desventajas que su uso puede suponer para las personas.

Las armas autónomas

En un futuro próximo, las armas autónomas podrían decidir quién vive y quién muere. Y esto supondría un serio problema porque las máquinas carecen de características humanas como la compasión a la hora de tomar decisiones éticas complejas. La ONU ya ha alertado, en varias ocasiones, del peligro que supone que países como Estados Unidos, Rusia y China desarrollen armas capaces de funcionar sin soldados que las supervisen. ¿Qué garantiza que estas armas inteligentes no puedan cometer errores que cuesten la vida a miles de inocentes? Según los expertos, nada en absoluto. De hecho, advierten que es muy grande el riesgo de accidentes a gran escala. Si a esto se le añade que un arma autónoma es incapaz de distinguir si un soldado ataca, se rinde o está herido, hace que el futuro dibuje un horizonte bélico complicado.

Uso fraudulento de los datos personales

Hay una preocupación creciente por los datos que las personas cedemos cuando aceptamos usar una aplicación en el teléfono móvil. Todos hemos leído noticias sobre cómo Facebook y otras redes sociales trafican con nuestros datos para ganar grandes sumas de dinero. Y lo hacen mediante el uso de herramientas inteligentes. Dan un poco de miedo porque pueden predecir lo que haremos en el futuro basándose en lo que hicimos en el pasado.

Pero hay algo más: no se trata solo de predecir lo que la gente hará, sino también de pronosticar lo que no hará. Por ejemplo, digamos que tienes una empresa que vende zapatos. Podrías utilizar un algoritmo que te dijera qué colores debes almacenar y qué colores no debes guardar basándote en datos históricos. Si ya sabes que tus clientes no te van a comprar zapatos rojos, no tiene sentido que tengas en el catálogo zapatos rojos, aunque tu competidor sí lo haga. Los algoritmos son seres vivos que evolucionan gracias a su capacidad para aprender de la experiencia. Con el tiempo, se convierten en inteligencias artificiales muy sofisticadas que pueden emplearse con fines delictivos. Por eso, es clave que existan herramientas de control, como ocurre en Estonia, donde los ciudadanos tienen acceso a la información sobre cuándo y cómo se usan sus datos.

Errores del reconocimiento facial

Este punto genera debate y situaciones contradictorias. Y aquí me gustaría explicar cómo se está enfocando en Europa. En un reciente proyecto de reglamento, la Comisión de la UE clasificó el reconocimiento facial como una tecnología de alto riesgo que podría repercutir en la libertad y la privacidad de los ciudadanos. Las empresas que quieran usar el reconocimiento facial deberán obtener la aprobación de los órganos reguladores antes de empezar a trabajar. También tendrán que establecer códigos de conducta para sus empleados. Hasta aquí todo bien. Pero, al mismo tiempo que la Comisión Europea se preocupa por los derechos de sus ciudadanos, quiere crear una gran base de datos de todos los no europeos, mediante el escaneo facial. Esta información se contrastará, en tiempo real, con las listas de personas peligrosas buscadas por la policía. Pero, ¿podrá la inteligencia artificial evitar cometer errores con personas inocentes? Y, por otro lado, ¿hasta qué punto la inteligencia artificial será capaz de evitar engaños, con técnicas de maquillaje y disfraz, por parte de los delincuentes?

Presencia creciente de la inteligencia artificial en el mercado laboral

La inteligencia artificial ya no se limita a ejecutar trabajos repetitivos. También empieza a hacer tareas creativas como fotografías o textos. Un ejemplo de ello es Dall-E 2, un programa de inteligencia artificial que puede dibujar retratos de personas o escenas de paisajes. Al ver cómo funciona, nos preguntamos si esta IA dejará sin trabajo a miles de ilustradores o, por el contrario, se convertirá en un gran aliado. Pero su presencia no solo se limita a ocupar puestos de trabajo, la inteligencia artificial también decide si eres apto para un empleo o no. Son los llamados programas de contratación predictiva que aplican criterios de selección automática y no siempre aciertan. Este tipo de algoritmos también aplica sesgos como el género, la edad o la raza porque están entrenados para trabajar con patrones de éxito que se repiten en el tiempo. Si, en el pasado, los seleccionados para un puesto de trabajo eran hombres blancos de 25 años y con un MBA de la Universidad de Harvard, un algoritmo repetirá ese patrón a la hora de elegir nuevos empleados y quizá esas personas no siempre serán las más adecuadas para el puesto en cuestión. Este problema de sesgo enlaza con el siguiente punto.

Los jueces en manos de la Inteligencia Artificial

En el pasado, los jueces se basaban en el conocimiento de la ley y el razonamiento personal para decidir quién debía ir a la cárcel. Pero ahora, algunos jueces utilizan la inteligencia artificial (IA) para tomar estas decisiones. El software se llama Compas y es un sistema que analiza el historial delictivo de los acusados. Les dice qué probabilidad hay de que una persona cometa otro delito tras salir de la cárcel. Algunos expertos advierten que esto puede dar lugar a la discriminación, ya que los afroamericanos tienen más probabilidades que los blancos de ser detenidos por determinados delitos, como la posesión de drogas. Por ahora, la IA ha demostrado que es especialmente eficaz en tareas menores, como reservar una habitación de hotel o solicitar un crédito. Sin embargo, los humanos nos encontraremos más adelante con que la inteligencia artificial estará presente en muchas otras tareas consideradas creativas para automatizarlas. Somos protagonistas de un cambio de paradigma comparable al invento de la rueda o de la imprenta sin saber adónde nos lleva. Por eso es necesario reflexionar sobre qué papel queremos que la inteligencia artificial desempeñe en nuestro futuro.