La Autoridad de Protección de Datos de Italia (GPDP en italiano) anunció el bloqueo provisional del ChatGPT de la compañía especializada en inteligencia artificial (IA) OpenAI “hasta que respete a privacidad”, debido a una filtración de datos de los usuarios, mientras investiga una posible violación de las normas de protección de información de la Unión Europea (UE).
El organismo de control italiano dijo que OpenAI debe informar dentro de 20 días sobre sus medidas para garantizar la privacidad de los datos de los usuarios o enfrentar una multa de hasta 20 millones de euros (casi 22 millones de dólares) o el 4% de los ingresos globales anuales, detalló La Stampa.
El comunicado del ente regulador citó el Reglamento General de Protección de Datos de la UE y señaló que ChatGPT sufrió una violación de datos el 20 de marzo que involucraba «conversaciones de usuarios» e información sobre pagos de suscriptores.
Good meeting with @echo_pbreyer, Member of European Parliament, on @Europarl_EN fingerprint system, and key legislative files for #privacy and #dataprotection such as the political advertising regulation and child sexual abuse #CSAM pic.twitter.com/yPQpjaiS2Q
— EDPS (@EU_EDPS) March 29, 2023
La GPDP lamentó la falta de una base legal para justificar la «recopilación y procesamiento masivos de datos personales» de OpenAI que se utilizan para el entrenamiento de los algoritmos de la plataforma y que la empresa con sede en Estados Unidos (EE.UU.) no notifica a los usuarios sobre la información que recopila de ellos.
La agencia añadió que ChatGPT no dispone de un sistema para verificar la edad de los usuarios, lo que potencialmente puede exponer a los menores a respuestas “absolutamente inapropiadas para su edad y conocimiento”, y también puede generar y almacenar información falsa sobre individuos.
🔵Stop a #ChatGPT finché non rispetterà la disciplina privacy. Il Garante per la protezione dei dati personali ha disposto, con effetto immediato, la limitazione provvisoria del trattamento dei dati degli utenti italiani nei confronti della società Usa #OpenAI pic.twitter.com/ksqkTOG4bv
— Rai Radio1 (@Radio1Rai) March 31, 2023
OpenAI informó este viernes sobre la inhabilitación de ChatGPT en el país europeo «a pedido del organismo de control de la privacidad italiano», y sostuvo que sus políticas cumplen con las leyes de privacidad europeas, por lo que espera que su chatbot esté disponible nuevamente.
Alp Toker, director del grupo de defensa NetBlocks, que monitorea el acceso a Internet en todo el mundo, dijo que esta iniciativa es “la primera restricción a escala nacional de una plataforma de inteligencia artificial convencional por parte de una democracia”, citó ABC.
📰 OpenAI has temporarily withdrawn its ChatGPT service from #Italy by order of authorities amid investigations into an apparent data breachhttps://t.co/1DD5bW1pC6
— NetBlocks (@netblocks) March 31, 2023
Filtraciones previas
El pasado 20 de marzo, OpenAI anunció que tenía que desconectar ChatGPT para corregir un error que permitía a algunas personas ver los títulos o líneas de asunto del historial de chat de otros usuarios.
“Nuestra investigación también encontró que el 1.2% de los usuarios de ChatGPT Plus podrían haber revelado datos personales a otro usuario. Creemos que la cantidad de usuarios cuyos datos se revelaron a otra persona es extremadamente baja y nos hemos puesto en contacto con aquellos que podrían verse afectados”, dijo la compañía, citada por AP.
Raccolta illecita di dati, Il Garante per la protezione dei dati personali blocca ChatGPT finché non rispetterà la disciplina privacy #ANSA https://t.co/7H4pSTYxxF
— Agenzia ANSA (@Agenzia_Ansa) March 31, 2023
Piden regulaciones
La empresa se mostró de acuerdo con la necesidad de regular la IA, por lo que “esperamos trabajar en estrecha colaboración con la GPDP y educarlos sobre cómo se construyen y usan nuestros sistemas”, indicó OpenAI.
Un grupo de científicos y líderes de la industria tecnológica publicaron este miércoles una carta pidiendo a empresas como OpenAI que detuvieran el desarrollo de modelos de IA más potentes hasta el otoño para dar tiempo a la sociedad a sopesar los riesgos.
Mientras tanto algunas escuelas públicas y universidades de todo el mundo han bloqueado ChatGPT de sus redes locales por preocupaciones por posible plagio de estudiantes.
