Custodia: cuándo pasar a la IA que controlas

Working with Claude — CC BY 4.0

La mayor parte de este curso trata de sacar el máximo partido a Claude: hacer que te muestre la solidez de cada afirmación, manteniendo el control en tus manos. Esta lección trata sobre la otra cara de la misma moneda: adónde va a parar ese trabajo una vez que lo has introducido, y quién puede acceder a él después de cerrar la pestaña.

«Custodia» es el término sencillo para referirse a ello. Cuando pegas un documento en cualquier herramienta de IA en línea, estás entregando una copia a los ordenadores de otra persona. Rara vez se trata de una simple cuestión de si es bueno o malo. Lo que importa es si te has planteado las tres preguntas previas antes de hacerlo —y si, para un trabajo concreto, las respuestas indican que «una herramienta pública está bien» o «esto requiere una IA que yo controle».

Las tres preguntas previas

Hazte estas preguntas antes de enviar el trabajo, no después.

1. ¿A dónde van tus datos? Con las aplicaciones estándar de Claude y el sitio web, tus conversaciones, en el momento de escribir este artículo, se procesan de forma predeterminada en servidores de Estados Unidos. Las opciones comerciales y para empresas permiten asignar el procesamiento y el almacenamiento a otras regiones: la API directa ofrece controles geográficos, y Claude a través de AWS Bedrock o Google Vertex puede configurarse para mantener los datos en la UE, Asia-Pacífico u otras regiones; pero se trata de una configuración deliberada, no del comportamiento predeterminado, y los detalles varían, así que confirma la configuración actual de tu cuenta. El objetivo de la pregunta: conoce la respuesta antes de que sea importante, no durante un incidente.

2. ¿Qué legislación se aplica? Independientemente de dónde se encuentren físicamente los datos y de qué empresa los posea, la legislación de esa jurisdicción puede aplicarse a ellos —órdenes judiciales, solicitudes de acceso legítimo, las propias condiciones del proveedor—. Los datos almacenados en el extranjero siguen estando al alcance de la ley, solo que bajo un conjunto de leyesdiferente al que cabría esperar en tu país. Para cualquier asunto relacionado con la confidencialidad de los clientes, la información sanitaria o las obligaciones en virtud de la legislación neozelandesa, esa es una cuestión que debes plantear a tu propio asesor, no intentar adivinarla. (Esta lección es de carácter informativo general, no asesoramiento jurídico; para conocer tus obligaciones específicas, busca el asesoramiento adecuado).

3. ¿Qué es lo que nunca debe incluirse en ninguna herramienta pública? Una lista breve y aburrida vale más que una política extensa. Para la mayoría de la gente, se trata de: información personal o sanitaria de otras personas que se te haya confiado; contraseñas, claves y credenciales financieras; cualquier cosa sujeta a un acuerdo de confidencialidad o de no divulgación; material comercial sensible no publicado; y —un tema de actualidad— información con obligaciones derivadas de la soberanía de datos te Tiriti y Māori, que merece un tratamiento específico en lugar de una subida por defecto. Anota tu lista . «Ya me acordaré» es la forma en que acaba pegándose lo que no se debe a las 17:00 h de un viernes.

Lo que dicen realmente las condiciones actuales

Voy a basarme en esto en lugar de dar palos de ciego, porque cambia las cifras:

• En los planes para consumidores (gratuito y Pro), las condiciones de Anthropic permiten que tus conversaciones se utilicen para ayudar a entrenar futuros modelos si tú lo autorizas —y ese permiso conlleva un largo periodo de retención del material utilizado. Si te niegas, se aplica un periodo de retención más corto y tus chats no se utilizan para el entrenamiento. Las conversaciones marcadas para revisión de seguridad son una excepción: pueden revisarse independientemente de esa preferencia. La configuración y los plazos exactos varían, así que comprueba la configuración actual de tu cuenta y los términos vigentes en lugar de fiarte de las cifras de este párrafo.
• En las modalidades comercial y empresarial (Claude para Work, la API, Bedrock y similares), la configuración predeterminada es diferente: las entradas y salidas no se utilizan para entrenar modelos. Los clientes que cumplan los requisitos también pueden solicitar la retención cero de datos, en la que el contenido no se conserva tras la respuesta —sujeto a aprobación y con algunos registros de seguridad que sí se conservan—.

La lección que se desprende de esto no es que «lo de los consumidores sea malo y lo de las empresas, bueno». Es que el nivel en el que te encuentras determina las reglas, y la mayoría de la gente nunca ha comprobado en qué nivel se encuentra.

Cuándo una empresa debe pasarse a una IA que controle

No es necesario abandonar las herramientas públicas para todo. Lo que sí necesitas es un umbral. Da el paso hacia la IA que tú controlas cuando:

• trates habitualmente información confidencial o personal de otras personascomo parte fundamental de tu trabajo —una clínica, un bufete de abogados, un contable, una organización iwi que almacene datos de la comunidad—;
• un organismo regulador, un financiador o un contrato te exige que indiques dónde se procesan los datos y bajo qué legislación, y «un servidor en EE. UU., probablemente» no sea suficiente;
• el material es lo suficientemente valioso como para que una copia almacenada en el sistema de otra persona suponga un riesgo comercial real, no solo teórico; o
• simplemente quieres que la respuesta a «¿quién puede acceder a esto?» sea tú, y nadie más.

Si ninguna de estas opciones te convence, una herramienta pública utilizada junto con una lista escrita de usuarios excluidos es una opción razonable. Adapta la custodia a lo que está en juego.

El puente —y su coste—

«IA que tú controlas» significa, principalmente, ejecutar un modelo de código abierto en una infraestructura cuya ubicación y acceso tú decides: tu propio hardware, o un alojamiento dentro de una jurisdicción y una organización en las que confías. Existen opciones comunitarias y de autoalojamiento, y este curso va de la mano de personas que hacen precisamente eso.

La disyuntiva es real. Los modelos abiertos que puedes autoalojar son, a día de hoy, en general menos capaces que el modelo insignia que has estado aprendiendo a dirigir —más débiles en el razonamiento largo y sutil, y más laboriosos de ejecutar y mantener actualizados. Estás renunciando a cierta capacidad y asumiendo parte del mantenimiento, a cambio de la custodia. Para gran parte del trabajo cotidiano, esa compensación merece la pena; para las tareas de razonamiento más complejas, quizá sigas recurriendo al modelo insignia, con una lista estricta de exclusiones. Saber qué trabajo pertenece a cada lugar es la clave. Aquí no hay ningún intento de venta adicional, solo la recomendación de adaptar la herramienta a lo que está en juego y de que la elección siga siendo tuya.

Eso es la custodia: no es un producto que se compra, sino el hábito de preguntarse dónde va a parar el trabajo antes de enviarlo, y de que la autoridad para decidir permanezca en manos de quien es dueño del trabajo. Y va más allá de los datos. Deja que la máquina se encargue de los cálculos y la síntesis; reserva para ti las decisiones sobre qué merece la pena hacer y dónde acaba todo. Esa última autoridad es la que más vale la pena proteger: es la razón por la que el resto importa.

Más información

• Te Mana Raraunga — la Red de Soberanía de Datos Māori.
• Anthropic privacidad y aspectos legales — tratamiento de datos, retención y la línea divisoria entre consumidor y comercial.

Tarjeta imprimible: la lista de verificación «no intervengas» incluye la pregunta sobre la custodia que puedes plantearte antes de cada pegado.

Dedicado a mi hermana mayor Judy, quien me dio la idea de escribir un curso para ayudar a la gente a aprender a utilizar la IA de forma reflexiva.