Expertos en inteligencia artificial como Elon Musk; el profesor de ciencias de la computación de la Universidad de California en Berkeley, Stuart Russell; y el cofundador de Apple Inc., Steve Wozniak; están pidiendo a los desarrolladores que hagan una pausa en la creación de modelos de inteligencia artificial (IA), más potentes.
Más de 1.100 personas en la industria firmaron una petición para detener el entrenamiento de sistemas de inteligencia artificial más potentes que el último modelo detrás de ChatGPT de OpenAI durante al menos seis meses. Esto permitiría desarrollar protocolos de seguridad compartidos.
En una carta abierta publicada en el sitio web del Future of Life Institute, se menciona que los laboratorios de inteligencia artificial están compitiendo para crear mentes digitales cada vez más poderosas que nadie puede entender, predecir o controlar de manera confiable. Los expertos creen que solo debemos desarrollar sistemas de IA más potentes cuando estemos seguros de que sus efectos serán positivos y los riesgos manejables.
Esta petición llega después de que se lanzaran varios proyectos de inteligencia artificial en los últimos meses que realizan tareas humanas, como escribir correos electrónicos y crear arte. OpenAI, respaldada por Microsoft Corp., lanzó su GPT-4 este mes, una mejora importante de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes de alta complejidad en materias como derecho.
La carta pide a los desarrolladores que trabajen con los responsables políticos para crear nuevos sistemas de gobernanza y supervisión de la inteligencia artificial. También insta a los gobiernos a intervenir en el desarrollo de sistemas de IA si los principales actores no acuerdan una pausa pública y verificable.
Los firmantes de la petición desean que la investigación y el desarrollo de IA se centren en hacer que los sistemas actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.