Sam Altman defiende el acceso amplio a la IA, pero advierte sobre riesgos catastróficos
Sam Altman, director ejecutivo de OpenAI, afirmó en entrevistas con Politico y Vanity Fair que los beneficios de la inteligencia artificial justifican aceptar algunos riesgos, pero no la pérdida de control sobre los sistemas. Esta postura se expuso durante una conversación en el programa Decoded de Politico, difundida a principios de semana.
Altman sostuvo que la sociedad debe “aceptar algunas cosas malas” a cambio de los avances que ofrece la IA y de la libertad para utilizarla. Explicó que la tecnología debe democratizarse, permitiendo que las personas usen los sistemas y participen en las decisiones sobre su futuro.
Acceso amplio, pero con límites para los riesgos
Entre los problemas que pueden acompañar a la difusión de la IA, el ejecutivo mencionó los ciberataques, los fraudes y los usos indebidos. Sin embargo, considera que los impactos positivos superarán a los negativos, aunque no haya garantía de eliminar todos los abusos.
Altman diferenció estos casos de un escenario en el que la humanidad dejara de poder controlar los sistemas. En este caso, abogó por cautela con la velocidad del avance, advirtiendo que aceptar riesgos conocidos no significa tolerar amenazas realmente catastróficas.
La regulación debe centrarse en los modelos más avanzados
En la entrevista, Altman defendió que las normas y las pruebas se concentren en los modelos de vanguardia, los más avanzados. Dijo que no apoyaría un régimen de licencias para sistemas de una o dos generaciones por detrás de esa frontera, aunque reconoce que también pueden causar problemas.
Ao discutir a possibilidade de que a tecnologia fique concentrada em um único laboratório, o CEO destacou a autonomia dos usuários como uma prioridade, descrevendo esse cenário como um risco de concentração.
Mecanismos de seguridad propuestos
En otra entrevista, publicada por Vanity Fair el lunes 5, Altman explicó que su visión sobre la regulación “no es una cuestión binaria”. Defendió combinar espacio para la innovación con salvaguardas para los sistemas de mayor capacidad.
Entre los mecanismos mencionados están la transparencia sobre los incidentes, el aprendizaje de los accidentes, “los estándares antes del lanzamiento” y “un régimen de responsabilidad”. También afirmó que las evaluaciones deben abarcar el período de entrenamiento de los modelos.
Altman añadió que el nivel de seguridad exigido por OpenAI deberá aumentar a medida que los modelos se vuelvan más capaces.
Preguntas frecuentes
¿Considera Altman aceptable perder el control de la IA?
No. Él distingue entre usos indebidos y riesgos conocidos, y amenazas catastróficas, como una grave pérdida de control sobre los sistemas.
¿Está en contra de cualquier regulación?
No. Altman defiende normas centradas en los modelos más avanzados y menciona pruebas, transparencia sobre incidentes y mecanismos de responsabilidad como elementos esenciales.








