LGPDInteligencia artificial

LGPD en proyectos de IA: la lista de verificación del DPO

En las empresas que se toman la LGPD en serio, el responsable de protección de datos —DPO— entra tarde en los proyectos de IA: muchas veces, cuando el modelo ya está entrenado, la API publicada y marketing listo para anunciarlo. Es entonces cuando aparecen las preguntas que deberían haberse formulado durante la primera semana del proyecto.

Este artículo es una lista práctica de lo que el DPO necesita validar antes de aprobar cualquier sistema de IA para producción. No es un manual jurídico: es una lista de verificación operativa.

Pregunta: ¿con qué datos se entrenó el modelo y cuál fue la base legal para tratar esos datos?

Tres escenarios posibles:

  • Modelo entrenado con datos públicos genéricos, como los LLM de terceros de OpenAI, Anthropic o Google: la responsabilidad corresponde al proveedor. Evalúa los contratos, las políticas de uso y si el modelo ha memorizado datos personales específicos.
  • Modelo ajustado con datos de la empresa: la base legal para utilizar esos datos en el entrenamiento debe estar clara. ¿Consentimiento específico? ¿Ejecución de un contrato? ¿Interés legítimo con una evaluación adecuada? El titular debería saber que sus datos se utilizaron para entrenar el modelo.
  • Modelo entrenado desde cero con datos sensibles —salud, biometría—: entorno de mayor riesgo. Exige una DPIA —evaluación de impacto— antes de empezar.

2. Datos personales durante la inferencia

Pregunta: ¿qué se incluye en el prompt cuando el sistema se utiliza en producción?

Muchos proyectos ignoran que, al enviar el CPF, la dirección o los datos clínicos de un usuario a la API de un LLM de terceros, se produce una transferencia internacional de datos personales, con todos los requisitos que ello implica.

Qué validar:

  • ¿Los campos sensibles se enmascaran o tokenizan antes del envío externo?
  • ¿El contrato con el proveedor establece que los datos no se usarán para entrenar modelos —exclusión del entrenamiento—?
  • ¿El proveedor ofrece residencia de datos en una región compatible —UE y EE. UU. no son indiferentes para la autoridad brasileña—?

3. Derecho a revisar las decisiones automatizadas

Pregunta: ¿el sistema toma decisiones que afectan al titular sin intervención humana?

Si es así, se aplica el artículo 20 de la LGPD. El titular tiene derecho a:

  • Ser informado de que la decisión se tomó de forma automatizada.
  • Solicitar una revisión humana.
  • Comprender los criterios generales de la decisión, sin obligación de revelar los pesos internos del modelo, pero sí su lógica.

Las aprobaciones de crédito, la priorización de la atención y la puntuación de riesgos encajan en este supuesto. El flujo de revisión humana debe estar implementado y documentado antes del despliegue, no después de la primera reclamación.

4. Retención de registros y prompts

Pregunta: ¿durante cuánto tiempo se almacenan los prompts y las respuestas?

Los sistemas de IA generan un tipo nuevo de registro: conversaciones completas entre el usuario y el modelo. Estos registros suelen contener datos personales, a veces sensibles, y se guardan de forma predeterminada para depuración.

Qué validar:

  • ¿Existe una política clara de retención de estos registros?
  • ¿Los registros se eliminan o anonimizan después del período necesario?
  • ¿El acceso a los registros está restringido por función y cuenta con auditoría?

Un registro con 18 meses de conversaciones que no se han considerado desde la perspectiva de la LGPD es una bomba de tiempo.

5. Contratos con proveedores de LLM

Pregunta: ¿el contrato del proveedor del modelo aborda cada uno de estos puntos?

  • ¿Encargado o responsable del tratamiento? ¿El proveedor actúa como encargado —procesa según las instrucciones de la empresa— o como responsable —utiliza los datos para sus propios fines, como entrenar el siguiente modelo—?
  • Subencargados declarados: infraestructura en la nube y proveedores de supervisión.
  • Notificación en caso de incidente.
  • Derecho de auditoría.
  • Ubicación del procesamiento y transferencia internacional.

Los planes gratuitos o de bajo costo suelen reservarse el derecho de utilizar los datos para entrenar modelos. Para un uso corporativo, esto es casi siempre inaceptable y exige migrar a un plan empresarial.

6. DPIA: evaluación de impacto en la protección de datos

Pregunta: ¿el proyecto exige una DPIA?

La ANPD todavía está consolidando criterios, pero la buena práctica es elaborar una DPIA siempre que el sistema:

  • Trate datos sensibles: salud, biometría, origen racial.
  • Trate datos de niños y adolescentes.
  • Realice inferencias a gran escala sobre los titulares.
  • Tome decisiones con efectos jurídicos significativos sobre los titulares.

La DPIA debe preceder al despliegue y actualizarse cuando el sistema cambie de manera sustancial.

7. Transparencia con el titular

Pregunta: ¿el titular sabe que está interactuando con IA?

Chatbots, sistemas de recomendación, puntuación automatizada: identificar claramente que hay IA involucrada ha dejado de ser una buena práctica y se ha convertido en una exigencia en varias jurisdicciones. En Brasil todavía no es obligatorio por una ley específica, pero es una exigencia creciente de las autoridades sectoriales —Bacen, ANS y CFM—.

La regla práctica

Un proyecto de IA que no puede responder de forma concreta a estos siete puntos no está listo para producción, independientemente del rendimiento de los modelos en las métricas técnicas. Ignorarlo es, en la práctica, uno de los 5 errores más comunes en los proyectos de IA que fallan.

El DPO no es el freno del proyecto. Es quien evita que el proyecto se convierta en un pasivo. En los proyectos de IA a medida, estos siete puntos se incluyen en el alcance desde la fase de diseño, no después del primer incidente.


Este artículo fue escrito por el equipo técnico de Allogic Tecnologia. Para conversar sobre proyectos de IA con cumplimiento de la LGPD desde el diseño, agenda una conversación de 15 minutos.