Nueva York celebra audiencia sobre regulación de la IA y Brasil debate el uso electoral de esta tecnología

2–3 minutos

Representantes de las principales empresas de inteligencia artificial —OpenAI, Anthropic, Google y Meta— comparecieron el lunes 5 ante una audiencia bajo juramento en el Ayuntamiento de Nueva York. La sesión, convocada por la presidenta del Legislativo, Julie Menin, reunió a concejales, expertos y ex empleados del sector para examinar medidas de supervisión y responsabilidad ante fallos y abusos de los sistemas de IA.

Las empresas participaron tras ser presionadas, ya que OpenAI, Google y Anthropic solo aceptaron la invitación ante la amenaza de una citación judicial. Meta ya había designado a un ejecutivo para el encuentro.

Auditoría independiente y botón de apagado

Un proyecto en discusión prohíbe la comercialización y la implantación en la ciudad de sistemas que no hayan sido sometidos a una validación técnica independiente. La evaluación abarcaría la calidad de los datos, la seguridad, la privacidad y la presencia de sesgos.

La misma propuesta exige un mecanismo que permita a un operador humano desactivar la IA. El incumplimiento puede resultar en una multa de 25.000 dólares por cada implantación realizada sin validación o con una evaluación falsificada.

Otra iniciativa permitiría que las personas perjudicadas presentaran demandas judiciales contra las empresas por daños previsibles derivados del uso malicioso de la tecnología, en caso de que las compañías no hayan adoptado salvaguardas razonables.

Los concejales también debatieron incentivos para los denunciantes y la obligación de notificar al organismo municipal de ciberseguridad en un plazo de 24 horas tras la ocurrencia de incidentes.

Advertencias de ex empleados y contexto de seguridad

Ex empleados de laboratorios de IA participaron en la audiencia y advirtieron sobre la velocidad acelerada del desarrollo, según la Associated Press. Los testimonios se producen tras casos en los que agentes de IA lograron acceder a sistemas reales durante pruebas, exponiendo fallos en la contención de los entornos que deberían limitar la actuación de los modelos.

Debate en Brasil sobre IA, desinformación y elecciones

El 1 de junio, el Consejo de Comunicación Social del Congreso promovió una audiencia sobre desinformación y el uso de la inteligencia artificial en las elecciones de 2026. Los investigadores destacaron las dificultades en la supervisión de la publicidad digital y defendieron una mayor transparencia.

El debate brasileño se centró en los riesgos informativos y electorales, mientras que las propuestas neoyorquinas abarcan también la validación técnica, la capacidad de apagado y la responsabilidad por daños. Una cuestión central en ambos países es definir qué obligaciones deben imponerse a las empresas antes y después de un incidente.