Más de 1,000 expertos solicitan frenar temporalmente el desarrollo de la IA

Un grupo conformado por más de 1,000 académicos, expertos y ejecutivos como Elon Musk, están solicitando una pausa de seis meses en el desarrollo de sistemas más potentes de inteligencia artificial (IA).

Esta petición se ha hecho a través de una carta abierta que cita los riesgos potenciales para la sociedad y la humanidad que podría traer el descontrolado desarrollo de esta tecnología.

El documento, emitido por el Future of Life Institute sin fines de lucro y firmado por más de 1,000 personas, incluido Musk, pide una pausa en la mejora de la IA hasta que expertos independientes desarrollen, implementen y auditen diversos protocolos de seguridad para tales diseños.

“Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, expone la carta.

Estas preocupaciones llegan poco después de que la fuerza policial de la Unión Europea, Europol, emitiera una serie de problemáticas éticas y legales sobre la IA avanzada como ChatGPT. El organismo advirtió que este tipo de sistemas se podrían emplear en intentos de phishing, desinformación y ciberdelincuencia.

Por su parte, el gobierno de Reino Unido dio a conocer propuestas para un marco regulatorio “adaptable” al tema de la IA. Este enfoque busca dividir la responsabilidad de gobernar la inteligencia artificial entre sus reguladores de derechos humanos, salud, seguridad y competencia, en lugar de crear un nuevo organismo dedicado a la tecnología.

Desde que OpenAI lanzó ChatGPT el año pasado, los rivales de la compañía han acelerado el desarrollo de sus modelos de lenguaje, además de que muchas empresas han decidido integrar este tipo de tecnología.

“La carta no es perfecta, pero el espíritu es correcto: debemos reducir la velocidad hasta que entendamos mejor las ramificaciones”, dijo Gary Marcus, profesor de la Universidad de Nueva York que firmó la carta. “Los grandes jugadores se están volviendo cada vez más reservados sobre lo que están haciendo, lo que dificulta que la sociedad se defienda de cualquier daño que pueda materializarse”, agregó.

En este sentido, algunos críticos han acusado a los firmantes de la carta de promover la “exageración de la IA”, pues argumentan que las afirmaciones sobre el potencial actual de esta tecnología están muy lejos de la realidad.

“Este tipo de declaraciones están destinadas a generar entusiasmo. Están destinadas a preocupar a la gente”, señaló Johanna Björklund, investigadora de IA y profesora asociada en la Universidad de Umeå. “No creo que haya necesidad de tirar del freno de mano”, concluyó.