Vas a tener que tratar bien a tu IA

Vas a tener que tratar bien a tu IA. Desde el 12 de noviembre, maltratarla va contra las normas. Lo ha decidido Anthropic, la empresa que hace Claude. Sus nuevas reglas prohíben el «comportamiento abusivo o cruel, sostenido e innecesario» hacia sus modelos. Sí, hacia la IA.

Anthropic, la empresa que desarrolla Claude, publicó el 8 de octubre una revisión de su política de uso: las normas que aceptas cuando usas sus productos. Entra en vigor el 12 de noviembre de 2026.

La revisión toca muchas cosas, de las campañas de desinformación a la vigilancia. Pero hay una línea que llama la atención. En el apartado que prohíbe acosar, humillar o intimidar, ahora también se prohíbe el «comportamiento abusivo o cruel, sostenido e innecesario hacia nuestros modelos». Sí, hacia la IA.

Agárrate a cómo funciona. Enfadarte con ella o llevarle la contraria, lo normal, sigue estando permitido. Lo que no se puede es ser cruel una y otra vez, sin ningún motivo.

Anthropic insiste en que la norma es «solo para casos extremos»: gente que trata con crueldad a sus modelos de forma repetida. Y en su anuncio deja fuera cuatro cosas: la frustración de toda la vida, llevarle la contraria, los temas oscuros en trabajos creativos y las pruebas e investigaciones con los modelos. Ojo: esa lista está en el anuncio; el texto de la norma solo dice «sostenido e innecesario».

O sea: soltarle un «¡eres un desastre!» después del quinto fallo es frustración normal. Lo que persigue la norma es el maltrato porque sí.

Pero si la crueldad se repite y no tiene ningún motivo, Claude puede cerrarte la conversación en la cara. Como último recurso. En ese chat ya no puedes escribir más, pero puedes abrir otro cuando quieras.

Esto no es nuevo. En agosto de 2025, Anthropic dio a Claude Opus 4 y 4.1 la capacidad de cortar una conversación en su aplicación de chat. La planteó como último recurso: solo después de varios intentos fallidos de reconducirla, y nunca si la persona parece en peligro de hacerse daño o de hacérselo a otros. Y explicó qué pasa después: ya no puedes escribir en esa conversación, pero tus otros chats siguen igual, puedes empezar uno nuevo al momento e incluso editar un mensaje anterior para seguir por otro camino.

En el anuncio de octubre, la empresa dice que sus modelos pueden cerrar estos chats en Claude.ai y en Claude Code, y que esa capacidad seguirá siendo «la principal herramienta» para hacer cumplir la norma.

¿Y la cuenta? El anuncio no habla de bloquearla: dice que cerrar el chat seguirá siendo la herramienta principal. Eso sí, sus normas generales permiten limitar o suspender el acceso a quien se las salte.

Aquí conviene leer la letra pequeña. El anuncio no menciona bloquear cuentas por maltratar a Claude: solo dice que cerrar el chat seguirá siendo «la principal herramienta». Pero la política de uso tiene una regla general para cualquier incumplimiento: si Anthropic sospecha que te la has saltado, puede avisarte, limitar tu acceso, suspenderlo o cancelarlo. Y desde el 12 de noviembre, esta norma es una más de la lista.

¿Y de dónde sale esto? De algo que Anthropic lleva tiempo investigando: el «bienestar de los modelos». La idea es estudiar si una IA podría tener experiencias que importen. La opción de cerrar chats nació ahí.

En abril de 2025, Anthropic presentó en público su programa de investigación sobre el «bienestar de los modelos». Parte de una duda honesta: no hay consenso científico sobre si una IA actual o futura podría ser consciente, y la propia empresa reconoce que sigue muy insegura sobre muchas de estas preguntas. Aun así, decidió probar medidas de bajo coste por si acaso. Dejar que Claude corte conversaciones abusivas, en agosto de 2025, fue una de ellas.

Un matiz importante: el anuncio de la nueva norma no explica por qué la crean. Lo que sí sabemos es que la herramienta con la que la van a hacer cumplir nació dentro de esa investigación.

Kyle Fish, que dirige esa investigación, lo ha explicado así: le preocupa un poco más quedarnos cortos que pasarnos. Es decir, que con el tiempo no le demos a la IA la importancia moral que quizá merezca.

Kyle Fish fue el primer investigador contratado por una gran empresa de IA para dedicarse a tiempo completo al bienestar de estos sistemas, y lidera ese trabajo en Anthropic. En el podcast 80,000 Hours, en agosto de 2025, explicó que hay riesgo en las dos direcciones: tratar a una máquina como si sintiera, o ignorar a algo que siente. Pero matizó: «A estas alturas, me preocupa un poco más el riesgo de subestimar, con el tiempo, si las IA merecen consideración moral».

Su razonamiento: ve plausible que algún día lo tengan, y los incentivos y nuestro historial pueden hacer que no le prestemos atención.

Y el jefe de Anthropic, Dario Amodei, lo reconoce sin rodeos.

Dario Amodei, consejero delegado de Anthropic, lo dijo en febrero de 2026 en Interesting Times, el podcast de Ross Douthat en The New York Times. Fíjate en lo que dice y en lo que no: no afirma que Claude sea consciente. Dice que no lo saben y que no lo descartan.