Decenas de científicos, expertos y líderes tecnológicos, entre ellos Elon Musk, consejero delegado de Twitter y Tesla, han firmado recientemente una carta en la que piden a los laboratorios que generan inteligencia artificial que frenen
Los motivos que esgrimen los expertos para pedir que se ralentice la producción de nuevos sistemas de inteligencia artificial durante seis meses es para poder tener tiempo de estudiar e investigar los posibles riesgos.
Los programas de IA como ChatGPT y el nuevo GPT-4 han captado rápidamente el interés público por sus elevadas capacidades, y por su potencial para sustituir millones de trabajadores humanos en campos como la abogacía, el periodismo, el marketing o la programación. Los grandes líderes de la tecnología piensan que la sociedad está preparada para estos cambios.
Entre los firmantes están el fundador de Tesla y actual dueño de Twitter Elon Musk, el cofundador de Apple Steve Wozniak, el candidato presidencial en EE UU en 2020 Andrew Yang, y más de 1.000 personas. La petición es una carta abierta a los laboratorios de inteligencia artificial, especialmente a la empresa OpenAI, instándoles a «pausar inmediatamente» la producción de modelos más potentes que GPT-4, la actualización más reciente de su motor generador de texto, durante al menos seis meses.
Según afirma la carta, «Esto no significa una pausa en el desarrollo de la IA en general», sino «un paso atrás en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes y con capacidades emergentes». Un modelo de caja negra de IA es aquél en el que los mecanismos internos por los que el sistema llega a dar respuestas y tomar decisiones no están claramente determinados. Esto hace que, por ejemplo, los actuales modelos sufran «alucinaciones» y se inventen hechos y datos.
«Si tal pausa no puede llevarse a cabo rápidamente, los gobiernos deberían intervenir e instituir una moratoria», añade la carta, que procede del Future of Life Institute, una organización sin ánimo de lucro que aboga por un uso responsable de la inteligencia artificial. La carta menciona específicamente GPT-4, una herramienta de IA generativa que se considera más potente que el modelo inicial de ChatGPT de OpenAI.
GPT-4 puede aprobar la mayoría de los exámenes de Acceso Avanzado para estudiantes preuniversitarios en EE UU, y obtener una puntuación en el percentil 90 del examen estándar del colegio de abogados en este país. Según un estudio reciente, esto no le impide soltar información errónea, eso sí, de forma más convincente que el modelo anterior.
He aquí algunas líneas clave de la carta abierta:
La carta instaba a los laboratorios y expertos en IA a trabajar juntos «para desarrollar e implementar conjuntamente» protocolos de seguridad para el diseño y desarrollo de la IA, que luego deberían ser «auditados y supervisados por expertos externos independientes.»
Según algunos expertos, la IA puede convertirse en una fuerza imparable que desestabilice los mecanismos de la sociedad actual, con consecuencias potencialmente catastróficas si no se controla su uso. Los expertos piensan que un acercamiento a los responsables políticos seguramente caiga en saco roto, dado el atraso de los legisladores en asumir los cambios tecnológicos.
REFERENCIA
La clave está en cuánto somos capaces de predecir de la pieza, y hasta qué…
Un nuevo estudio prevé un fuerte aumento de la mortalidad relacionada con la temperatura y…
Los investigadores ha descubierto un compuesto llamado BHB-Phe, producido por el organismo, que regula el…
Un nuevo estudio sobre la gran mancha de basura del Pacífico Norte indica un rápido…
Una nueva teoría que explica cómo interactúan la luz y la materia a nivel cuántico…
Pasar dos horas semanales en un entorno natural puede reducir el malestar emocional en niños…
Ver comentarios
YA ERA HORA
De qué? La carta solo denota el miedo y la desesperación de sus firmantes en quedarse atrás en la carrera de las IAs. Hasta ahora Apple y Musk no habían anunciado ninguna novedad en sus empresas respecto a modelos generativos. Incluso Musk fundó recientemente su nueva empresa de este tipo de IA y le está echando tierra a OpenAI "por usar sin permiso contenidos de Twitter", todo porque no tiene la capacidad de aceptar lo grande que se ha vuelto dicha empresa sin él y bajo el cobijo de Microsoft.
Los puntos de la carta son buenos e invitan a una buena reflexión. Pero las intenciones de quizá ninguno de sus firmantes son honestas (si acaso, las de los políticos ignorantes).