Anthropic impone límites a las interacciones abusivas con Claude y reaviva el debate sobre el bienestar de la IA

2–3 minutos

Anthropic, la empresa responsable del chatbot Claude, anunció el jueves 8 una nueva norma que prohíbe los comportamientos persistentes, abusivos o innecesariamente crueles dirigidos a sus modelos de inteligencia artificial. La medida entrará en vigor el 12 de noviembre y establece que las conversaciones repetidamente hostiles podrán ser interrumpidas por el sistema, sin que ello impida al usuario expresar quejas o críticas comunes.

Las conversaciones abusivas podrán ser interrumpidas por el sistema

El principal mecanismo para hacer cumplir esta política será la capacidad de Claude de finalizar la interacción cuando detecte un abuso continuo. Esta funcionalidad ya existe en las versiones de Claude.ai y Claude Code, pero la actualización convierte el comportamiento inadecuado en una prohibición explícita para el usuario, ampliando así el control sobre el diálogo.

La medida refleja incertidumbres sobre la conciencia de los modelos

En agosto de 2025, Anthropic ya había planteado la posibilidad de interrumpir las conversaciones, justificando la decisión como una precaución ante la falta de consenso sobre si los modelos de IA poseen conciencia o experiencias subjetivas. La empresa afirmó que no hay pruebas de que Claude tenga estatus moral y describió la acción como una intervención de bajo costo para hacer frente a un conjunto raro de interacciones persistentemente abusivas.

Las nuevas restricciones también afectan a la desinformación y al armamento

La política prohíbe el uso de redes de cuentas falsas y la difusión de mensajes anónimos para simular apoyo independiente. Además, prohíbe la integración de software de orientación y control de armas, así como el uso de armamento en drones, ampliando así el alcance de los contenidos no permitidos.

Las recomendaciones de alto riesgo requieren supervisión humana

En el caso de orientaciones que impliquen decisiones médicas, jurídicas o financieras, la empresa establece que un profesional cualificado debe revisar y tener autoridad para modificar el resultado, y que el usuario debe ser informado de que se ha utilizado la IA en el proceso.

Preguntas frecuentes

¿Ya no puedo quejarme de Claude?

La norma no se aplica a las manifestaciones comunes de frustración o desacuerdo. Las quejas y críticas siguen estando permitidas.

¿Cuándo entra en vigor la norma?

La nueva política entrará en vigor el 12 de noviembre y el sistema podrá interrumpir las interacciones que violen la norma.

¿Significa esto que Claude tiene sentimientos?

La medida no demuestra que el modelo tenga emociones. Anthropic mantiene su posición de que aún no hay pruebas de que los sistemas de IA tengan conciencia.