El dueño de Twitter, Elon Musk, junto a un grupo de ejecutivos y expertos en la industria de la Inteligencia Artificial (IA), plantearon una pausa para los proyectos en desarrollo de los sistemas que buscan crear máquinas con las capacidades de los seres humanos.
Por medio de una carta, los empresarios destacaron los potenciales riesgos que la IA representa para la sociedad, en medio del reciente lanzamiento de GPT-4 (Generative Pre-trained Transformer) de OpenAI, que cautivó a los usuarios al involucrarlos en conversaciones similares a las humanas, presentando noticias, componiendo canciones y resumiendo extensos documentos.
«Los potentes sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables», dice la carta emitida por el Future of Life Institute.
“¡Hacemos un llamado a los laboratorios de IA para que detengan temporalmente el entrenamiento de modelos poderosos! (…) Las capacidades de los sistemas de IA están escalando rápidamente. Los modelos más grandes son cada vez más capaces de superar el rendimiento humano en muchos dominios. Ninguna empresa por sí sola puede pronosticar lo que esto significa para nuestras sociedades”, refiere la misiva.
With more data and compute, the capabilities of AI systems are scaling rapidly.
The largest models are increasingly capable of surpassing human performance across many domains.
No single company can forecast what this means for our societies. (2/8) pic.twitter.com/fXo903NOFE
— Future of Life Institute (@FLIxrisk) March 29, 2023
La organización sin fines de lucro es financiada principalmente por la Fundación Musk, así como por el grupo Founders Pledge con sede en Londres y la Fundación Comunitaria del recién colapsado Silicon Valley, de acuerdo con el registro de transparencia de la Unión Europea.
La agencia informativa Reuters destaca que Musk ha manifestado su aceptación hacia los esfuerzos para regular el sistema de piloto automático y está interesado en buscar una autoridad reguladora para garantizar que el desarrollo de la IA sirva al interés público.
«Es profundamente hipócrita que Elon Musk se inscriba dado lo mucho que Tesla ha luchado contra la rendición de cuentas por la IA defectuosa en sus autos autónomos», declaró James Grimmelmann, profesor de derecho digital y de la información en la Universidad de Cornell, y consideró que «una pausa es una buena idea, pero la carta es vaga y no toma en serio los problemas regulatorios».
• Degree to which it's advantageous for companies producing these systems to be exposed to liability
• How to think about the intellectual property questions around training data & the outputs of these systems
• Balance between potential promise & peril of AI generally
— Steven Strobl (@str0b1) March 24, 2023
Empresas de Musk
En febrero de este año, Tesla retiró más de 362,000 vehículos de del mercado estadounidense para actualizar el software después de que los reguladores de EE. UU. dijeran que el sistema de asistencia al conductor podría causar accidentes, lo que llevó a Musk a tuitear que la palabra «retirar» para una actualización de software inalámbrica es «anacrónica y justa». Completamente mal!».
Por su parte, OpenAI, compañía de investigación sobre Inteligencia Artificial, no respondió de inmediato a una solicitud de comentarios sobre la carta abierta, refiere Reuters, que instó a una pausa en el desarrollo avanzado de IA hasta que se desarrollaran protocolos de seguridad compartidos por expertos independientes y pidió a los desarrolladores que trabajaran con los legisladores en materia de gobernanza.
La carta fue firmada por más de mil personas, incluido Musk, sin embargo, Sam Altman, director ejecutivo de OpenAI, no se encontraba entre las personas que firmaron la carta, así como tampoco Sundar Pichai y Satya Nadella, directores ejecutivos de Alphabet y Microsoft.
Las preocupaciones surgen cuando ChatGPT atrae la atención de los legisladores estadounidenses con preguntas sobre su impacto en la seguridad nacional y la educación, además, la fuerza policial de la UE, Europol, advirtió este lunes sobre el posible uso indebido del sistema en intentos de phishing, desinformación y ciberdelincuencia.
Microsoft se negó a comentar sobre la carta y Alphabet no respondió a las llamadas y correos electrónicos en busca de comentarios desde la agencia informativa.
