Bill Gates advierte que el mayor peligro de la inteligencia artificial es su uso malicioso, no la pérdida de control
El uso indebido, no la autonomía, es el riesgo inmediato
En una entrevista con el programa Meet the Press de NBC, transmitida el domingo 27, Bill Gates afirmó que el problema más urgente de la inteligencia artificial es la acción de personas con malas intenciones. Describió escenarios como fraudes, interrupción de redes eléctricas, manipulación de cuentas bancarias e incluso el desarrollo de armas biológicas con ayuda de la IA.
Para el cofundador de Microsoft, la tecnología ya puede considerarse una «especie inteligente» que, en muchos aspectos, supera a los humanos. Sin embargo, argumenta que la IA aún no controla millones de robots u otros dispositivos físicos, lo que significa que, si se vuelve peligrosa, los sistemas pueden ser apagados.
El monitoreo y las salvaguardas como solución
Gates sostiene que, en lugar de un botón de emergencia o de interrumpir el progreso, la mejor protección es la implementación de mecanismos de monitoreo y salvaguardas directamente en los modelos de IA. Advierte que, sin estas medidas, la policía y las autoridades pueden ser incapaces de identificar actividades fraudulentas o ataques cibernéticos.
«El mismo monitoreo que implementamos para evitar que las personas malintencionadas usen la IA es exactamente lo que necesitamos para ver si la propia IA está haciendo eso», dijo.
También destacó el peligro de las aplicaciones biológicas, donde la línea entre crear un nuevo medicamento y desarrollar una herramienta de bioterrorismo es muy tenue. «Necesitamos monitorear cualquier modelo sofisticado y registrar todo», afirmó.
Para Gates, la autorregulación no es suficiente. Pide que el Congreso apruebe leyes que exijan estos mecanismos, argumentando que el costo adicional para la industria sería modesto y no impediría el avance de la tecnología.
Visión contrasta con la de Trump
La posición de Gates contrasta con la del expresidente Donald Trump, quien este mes rechazó cualquier regulación federal sobre las empresas de IA. El cofundador de Microsoft observa que, a diferencia de los cohetes y las armas nucleares, la IA fue desarrollada casi totalmente por la iniciativa privada, y los gobiernos aún tienen dificultades para comprenderla.
Advierte que tratar el tema como una carrera entre naciones lleva a algunos a defender «ir a toda velocidad». «Es completamente irresponsable no exigir que toda IA tenga salvaguardas y capacidad de monitoreo», afirmó.
Preguntas frecuentes
- ¿Cuál es el mayor riesgo de la IA según Bill Gates? Afirma que el peligro más urgente es el uso malicioso de la tecnología por parte de personas con malas intenciones, incluyendo fraudes, ataques a redes eléctricas, manipulación de cuentas bancarias y desarrollo de armas biológicas.
- ¿Cree Gates que la IA puede salirse de control? Considera posible que sistemas futuros se vuelvan más poderosos y actúen en contra de los intereses humanos, pero no cree que las IA estén actualmente fuera de control.
- ¿Puede la IA acabar con la humanidad? Gates no descarta este escenario. Dice que la IA es lo suficientemente poderosa como para causar eventos que podrían resultar en mil millones de muertes.
- ¿Por qué el riesgo inmediato no es que la IA actúe por sí sola? Como los sistemas actuales no controlan robots u otros dispositivos físicos, aún sería posible apagar las computadoras responsables de su operación si se volviera peligrosa.
- ¿Qué tipo de ataque teme Gates que las personas puedan realizar con la IA? Citó fraudes, interrupción de sistemas eléctricos, manipulación de cuentas bancarias y el uso de modelos avanzados para crear herramientas de bioterrorismo.
- ¿Qué propone Gates para controlar los riesgos de la IA? Pide salvaguardas, monitoreo continuo y registro de actividades, además de legislación que obligue a las empresas a implementar estos mecanismos.
- ¿Está Gates a favor de desacelerar el desarrollo de la IA? Apoyaría un plan global para frenar el avance de la tecnología, pero duda que esto ocurra debido a los incentivos económicos y geopolíticos.
- ¿Por qué el uso de la IA en armas biológicas es especialmente preocupante? Porque es difícil distinguir aplicaciones legítimas, como la creación de nuevos medicamentos, de usos maliciosos para bioterrorismo, lo que refuerza la necesidad de monitoreo.








