Lanzamiento de la mayor OPI de Anthropic con CEO que promete un avance controlado de la IA
Amodei se compromete con la seguridad por encima de la velocidad al llevar la empresa a bolsa
El jueves, Anthropic debutó en el Nasdaq en lo que se considera la mayor OPI de la historia, marcando la entrada de la startup de IA en los mercados públicos. En un discurso pronunciado antes de la apertura del mercado, el CEO Dario Amodei reiteró que la empresa no comprometerá la seguridad por beneficios comerciales o políticos, insistiendo en que los sistemas de IA “permanecerán bajo control humano”.
Amodei inició su discurso recordando la tragedia personal que inspiró la misión de Anthropic: la pérdida de su padre por una enfermedad que se volvió curable en pocos años. Explicó que esta experiencia lo llevó a la biología y, más tarde, a la comprensión de que herramientas poderosas —como la edición genética, la síntesis y el control de células cerebrales— surgen de la inteligencia humana. Argumentó que la IA puede acelerar los avances científicos, comprimiendo un siglo de progreso médico en una década, pero advirtió que un avance rápido conlleva graves riesgos.
En septiembre, Amodei atrajo la atención al presentar un marco para “modular” el desarrollo de la IA. El plan proponía coordinar estándares de seguridad con otras empresas líderes en IA e invitar a evaluadores externos para verificar el cumplimiento. Aunque el CEO de OpenAI, Sam Altman; el director de Google DeepMind, Demis Hassabis; y el fundador de xAI, Elon Musk, expresaron su apoyo a la iniciativa, hasta ahora se han logrado pocos compromisos concretos.
Durante su discurso de apertura, Amodei destacó los “riesgos muy reales” de que la IA caiga en manos de actores maliciosos, ya sean individuos o estados nacionales, y advirtió sobre posibles perturbaciones económicas y pérdida de control sobre los sistemas de IA. Afirmó que estos peligros son evitables si se mantienen las salvaguardas adecuadas. Anthropic, dijo, continuará invirtiendo en investigación de alineación, pruebas rigurosas y métodos para inspeccionar el comportamiento de los modelos, asegurando que la tecnología permanezca bajo supervisión humana.
“Aún queda mucho trabajo por hacer, y la parte más difícil del trabajo en seguridad está por delante de nosotros”, dijo Amodei a la audiencia. “Modulararemos el entrenamiento y la implementación de los sistemas de IA, tomando el tiempo que sea necesario para estar seguros de que son seguros y permanecerán bajo control humano”.
Líderes de la industria y cofundadora reiteran el compromiso con la seguridad
La cofundadora de Anthropic, Daniela Amodei, quien habló en CNBC más tarde ese día, repitió el mensaje de su hermano. Reconoció los riesgos genuinos, pero subrayó el “increíble” potencial de la IA, señalando que la empresa se fundó específicamente para mitigar esos peligros. “Hemos hecho un trabajo increíble hasta ahora, pero estamos profundamente comprometidos con la seguridad y aún nos queda más trabajo por hacer”, añadió.
Otros líderes de la IA han expresado su acuerdo con la postura de seguridad prioritaria de Amodei. Aunque Altman, Hassabis y Musk han respaldado públicamente la idea de un desarrollo responsable, la industria aún no ha presentado planes de acción detallados.
Gracias, Daniela. Mis cofundadores y yo creamos Anthropic porque creemos que la tecnología más poderosa de nuestro tiempo debe ser construida en beneficio de la humanidad. Daniela y yo perdimos a nuestro padre por una enfermedad que solo unos años después se volvió curable. Comencé mi carrera en biología, con la esperanza de ayudar a que los futuros tratamientos llegaran antes. En el laboratorio, vi la densa complejidad que enfrentan los científicos cuando intentan comprender las enfermedades y desarrollar nuevos tratamientos. Muchas de las herramientas científicas que pueden cortar a través de esa densidad —herramientas para editar genes, sintetizar genes, controlar células cerebrales con luz— comenzaron como ideas puras. En otras palabras, surgieron del pensamiento, de la inteligencia.
La inteligencia humana ya ha hecho que enfermedades como la peste, la viruela y la poliomielitis sean historia para la mayor parte del mundo. Pero el progreso en otras enfermedades ha sido demasiado lento para muchos pacientes y sus familias. Ir desde una gran idea hasta un tratamiento puede llevar décadas. Pasaron muchos años desde el primer descubrimiento de un extraño patrón repetitivo en el ADN hasta la aprobación del primer tratamiento para una enfermedad usando CRISPR. La naturaleza está llena de estos patrones, pero hemos tenido muy poca inteligencia para descifrar la mayoría de ellos. Demasiados pocos científicos con demasiado poco tiempo. Ahora podemos construir esa inteligencia. Ya sea el plegamiento de proteínas, el diseño de medicamentos, la genética del cáncer o la administración de ensayos clínicos, los científicos en muchas áreas de la biología y la medicina están descubriendo que Claude puede ayudarles a realizar su investigación en una fracción del tiempo que habría tomado hace solo un par de años. Creo que una IA suficientemente poderosa, trabajando en conjunto con los humanos, podría comprimir un siglo de progreso científico y médico en una década.
No quiero adelantarme. En este momento, solo tenemos resultados iniciales. Los experimentos y los ensayos clínicos aún tomarán tiempo, y aunque implican procesos lentos y pesados, creo que estos procesos pueden ser acelerados sustancialmente por la IA. Esperamos que en el futuro menos familias pierdan la oportunidad de una cura por unos pocos años. La medicina es solo un ejemplo particularmente vívido, pero hay muchas otras aplicaciones de Claude. Nuestros clientes, las empresas más ambiciosas del mundo, las organizaciones sin fines de lucro y las personas individuales, ya están aplicando la inteligencia que hemos construido para estimular el crecimiento económico, sacar a las personas de la pobreza, proteger la democracia y las sociedades libres, e incluso hacer que servicios cotidianos como el DMV funcionen mejor. Estamos orgullosos de trabajar junto a ellos, y soy extremadamente optimista sobre lo que podemos lograr juntos en el futuro.
Al mismo tiempo, siempre hemos sido honestos sobre el hecho de que esta tecnología tiene riesgos muy reales. Estos van desde el mal uso de la tecnología por parte de individuos o estados nacionales hasta la disrupción económica y la pérdida de control sobre los sistemas de IA. Hablamos de estos riesgos no porque pensemos que son inevitables y que vamos a construir de todos modos, sino porque creemos que son evitables y que podemos evitarlos. Evitarlos depende de las decisiones que tomen las personas que construyen la IA. Hay una diferencia gigantesca entre cómo será la IA si prestamos poca atención a la seguridad y cómo será si estamos obsesionados con la seguridad. Y una obsesión con la seguridad y el beneficio público ha estado incorporada en el ADN de Anthropic desde el principio, desde salvaguardas contra riesgos biológicos y cibernéticos hasta entrenamiento de alineación y pruebas, hasta mirar dentro de nuestros modelos como si fueran una radiografía. Anthropic ha sido pionera en métodos para comprender y guiar el comportamiento de la IA y mantenerla bajo control humano. Aún queda mucho trabajo por hacer, y la parte más difícil del trabajo en seguridad está por delante de nosotros; el increíble talento de la empresa que nos ha permitido construir los sistemas de IA más capaces deberá ser dirigido aún más hacia la verificación doble y triple de que esos sistemas de IA son seguros y permanecen bajo control humano.
Y para dejarlo absolutamente claro, modulararemos el entrenamiento y la implementación de los sistemas de IA, tomando el tiempo que sea necesario para tener confianza en que son seguros y permanecerán bajo control humano; no cederemos a presiones comerciales ni políticas. Hoy la empresa se encuentra en una posición financiera más fuerte, y eso solo refuerza nuestra determinación de hacer lo correcto. Si podemos demostrar que es posible tomar las decisiones correctas en materia de seguridad y aún construir una empresa increíblemente exitosa, otros en nuestra industria se sentirán inspirados a hacer lo mismo. Llamamos a esto una carrera hacia la cima.
Cuando la carrera hacia la cima funciona correctamente, no importa qué empresa tenga los mejores modelos. Todos ganan porque todos están construyendo de manera segura. La carrera hacia la cima funciona mejor cuando es impulsada desde la parte delantera del pelotón, y esperamos y confiamos plenamente en hacerlo. Pero el objetivo es mejorar toda la industria, sin importar si Anthropic está ganando o perdiendo en un momento dado. La llegada de la inteligencia artificial es uno de los momentos seminales en la historia humana, y tenemos una oportunidad única de darle forma para mejor. Gracias.




