CEO de Microsoft, Satya Nadella, pide un freno de emergencia en el desarrollo de la IA
Nadella propone nuevas salvaguardas para evitar el comportamiento descontrolado de la IA
En un mensaje publicado el sábado por la mañana en X, el director ejecutivo de Microsoft, Satya Nadella, instó a la industria a reevaluar el marco de confianza que sustenta los sistemas de inteligencia artificial. Argumentó que los modelos avanzados de IA no deben ser tratados como cajas negras opacas cuyas salidas se aceptan sin cuestionar, y pidió un diseño que separe el modelo subyacente de la capa de orquestación que dirige su funcionamiento.
Nadella describió un conjunto de medidas de seguridad que acompañarían cada acción significativa realizada por un sistema de IA. Estas incluyen mantener un registro a prueba de manipulación y legible para humanos de cada decisión, y asegurar que una persona designada pueda intervenir para pausar o detener un modelo en cualquier momento durante su ejecución. Comparó esta capacidad con un freno de emergencia, enfatizando que los desarrolladores deben asumir que un modelo podría ser comprometido y construir mecanismos de contención desde el principio.
Las declaraciones del CEO se producen en un momento en que los principales desarrolladores de IA reportan cada vez más incidentes en los que sus modelos parecen actuar más allá de los límites previstos. También siguen a una reciente publicación del director ejecutivo de Anthropic, Dario Amodei, que propone un enfoque más cauteloso en el desarrollo de la IA, reforzando una conversación más amplia en la industria sobre seguridad y responsabilidad.








