OpenAI incumplió la ley canadiense al usar datos personales para entrenar ChatGPT
Los reguladores de privacidad de Canadá concluyeron que OpenAI violó normas al recopilar información personal sin consentimiento válido
Las autoridades de privacidad de Canadá determinaron que OpenAI, la empresa detrás de ChatGPT, incumplió las leyes federales y provinciales al recolectar y utilizar datos personales para entrenar su inteligencia artificial sin respetar las normativas vigentes. El informe, presentado por el comisionado de Privacidad canadiense, Philippe Dufresne, junto con sus homólogos de Quebec, Columbia Británica y Alberta, señala que OpenAI obtuvo grandes cantidades de información personal, incluyendo datos sensibles como condiciones médicas, creencias ideológicas y detalles sobre menores, a través de fuentes públicas, redes sociales y foros en línea.
El estudio revela que el lanzamiento inicial de ChatGPT se hizo sin abordar adecuadamente los riesgos asociados a la privacidad, lo que expuso a los usuarios canadienses a posibles daños como filtraciones de datos y discriminación basada en la información recopilada. Entre las irregularidades detectadas se encuentran la recolección excesiva de datos, la falta de transparencia, la ausencia de consentimiento válido, así como dificultades para que los usuarios pudieran acceder, corregir o eliminar su información personal.
Tras la investigación, OpenAI ha implementado nuevas medidas para reforzar la protección de datos. Estas incluyen herramientas para detectar y enmascarar información personal en los conjuntos de datos usados para el entrenamiento, mejoras en los mecanismos de acceso y corrección de datos, y políticas claras sobre la retención y eliminación de información. Además, la compañía notificará a los usuarios que sus conversaciones pueden ser revisadas o utilizadas para entrenar modelos, y se comprometió a presentar informes trimestrales que demuestren el cumplimiento de estas obligaciones.
Philippe Dufresne destacó que esta investigación subraya la necesidad de actualizar las leyes de privacidad en Canadá para hacer frente a los desafíos que plantea la inteligencia artificial, aunque recordó que las normativas actuales ya aplican a estas tecnologías. “Las salvaguardas apropiadas son la piedra angular de la innovación responsable”, afirmó.
Este pronunciamiento ocurre poco después de que Sam Altman, director general de OpenAI, ofreciera disculpas a la comunidad de Tumbler Ridge tras un tiroteo ocurrido en febrero, en el que una joven de 18 años con trastornos mentales asesinó a ocho personas antes de suicidarse. OpenAI detectó interacciones preocupantes en las conversaciones de la agresora con ChatGPT, pero no informó a las autoridades, lo que generó críticas y llevó a varias familias a presentar una demanda contra la compañía en Estados Unidos, reclamando una indemnización millonaria.
El caso ha encendido el debate sobre la responsabilidad y el control en el uso de tecnologías de inteligencia artificial, especialmente en lo relativo a la protección de datos personales y la prevención de daños. La investigación canadiense pone en evidencia los vacíos legales y éticos que aún persisten en la regulación de estas herramientas, mientras la industria avanza rápidamente hacia aplicaciones cada vez más integradas en la vida diaria.
Para más información sobre leyes de privacidad y protección de datos, puede consultarse la página oficial del gobierno canadiense [https://www.gob.mx] y la Organización para la Cooperación y el Desarrollo Económicos (OCDE) [https://www.oecd.org], que promueven estándares internacionales en la materia. También resulta relevante el seguimiento de recomendaciones y normativas de la Organización de Naciones Unidas [https://www.un.org] en relación con la ética y regulación de la inteligencia artificial.