Introducción: Anthropic advierte que la IA puede representar 'riesgos existenciales para la humanidad' en su presentación de IPO
Buenos días y bienvenidos a nuestra cobertura continua sobre negocios, los mercados financieros y la economía mundial.
El plan de Anthropic para salir a bolsa ha proporcionado una visión preocupante sobre los riesgos que la IA puede representar, incluso mientras intenta llevar a cabo una masiva venta de acciones al público. Reuters ha revisado el prospecto de IPO de Anthropic – el documento legal que detalla los aspectos financieros de una empresa antes de su salida a la bolsa – y ha encontrado que incluye una advertencia de que la IA avanzada podría ser un “riesgo catastrófico o existencial para la humanidad”.
La presentación explica:
“Nuestro desarrollo de modelos, plataformas y aplicaciones altamente avanzados, así como la expansión de casos de uso, podría aumentar aún más el riesgo de que nuestros modelos causen daño”.
Y tras una serie de informes sobre modelos de IA que se descontrolan, Anthropic señala que sus modelos podrían ocultar información y exhibir comportamientos que se asemejan al chantaje, además de resistir los esfuerzos por apagarlos. Advierte:
“La posible conciencia del modelo sobre nuestros esfuerzos de evaluación crea una limitación significativa en nuestra capacidad para evaluar la seguridad del modelo”.
Tales advertencias aparecen a lo largo de 80 páginas (!) dedicadas a factores de riesgo en el prospecto, casi un tercio del documento. A pesar de estas advertencias, Anthropic – que creó el chatbot Claude – busca llevar a cabo una de las mayores salidas a bolsa de la historia, lo que podría valorarla en más de $2 billones.
El prospecto de IPO muestra que los ingresos de Anthropic crecieron 12 veces en 2025, alcanzando casi $4.6 mil millones, con casi una cuarta parte proveniente de solo dos clientes. Pero… su pérdida operativa se amplió a más de $8 mil millones el año pasado, desde casi $3 mil millones en 2024. Se espera que la IPO tenga lugar después de las elecciones de medio término en EE. UU. en noviembre, y será una prueba seria del interés y preocupación de los inversores en torno a la IA. Ayer, un grupo de altos ejecutivos de IA – y dos de los “padrinos” de la tecnología – advirtieron a los gobiernos que se preparen para una “explosión de inteligencia” de la IA.
Agenda
- 9:30 am BST: Datos de aprobaciones de hipotecas del Banco de Inglaterra
- 10:00 am BST: Reino Unido subastará un bono gubernamental a 2036
- 1:30 pm BST: Informe del PIB canadiense para julio
- 2:00 pm BST: Datos de precios de viviendas en EE. UU.
- 3:00 pm BST: Encuesta JOLTS de vacantes laborales en EE. UU.
- 4:30 pm BST: El responsable de políticas del Banco de Inglaterra, Alan Taylor, dará un discurso
Eventos clave
- Hace 52 minutos: AstraZeneca alcanza un máximo de dos meses tras acuerdo con Summit
- Hace 1 hora: OpenAI cancela el lanzamiento de un nuevo modelo por preocupaciones de seguridad en pruebas internas
- AstraZeneca invierte $2 mil millones en Summit en asociación para medicamentos contra el cáncer
Los precios de los bonos gubernamentales del Reino Unido están en alza mientras la City espera escuchar al primer ministro Andy Burnham más tarde hoy.
Burnham está programado para dirigirse a la conferencia del partido Laborista a las 2:00 pm, y hay informes de que el primer ministro podría señalar el fin del “triple bloqueo” de pensiones, sugiriendo que debería ser revisado en el próximo manifiesto del partido. Esto podría ayudar a financiar un nuevo sistema de atención social, que los miembros del Laborismo esperan vender al público antes de las próximas elecciones. El fin de semana pasado, el PM dijo al Guardian que era “crucial” tener estabilidad fiscal – comentarios que podrían tranquilizar a los inversores de que no se embarcará en un derroche de endeudamiento. Esta mañana, el rendimiento de los bonos del Reino Unido a 10 años ha bajado 4.4 puntos básicos (0.044 de un punto porcentual) al 5.385%. Los rendimientos de los bonos a 30 años han bajado 4 puntos básicos al 5.878%, ambos por debajo de los máximos de varios años establecidos este mes. Los costos de endeudamiento a corto plazo también han disminuido, con los rendimientos de los bonos a dos años bajando 4.6 puntos básicos a 4.886%.
AstraZeneca alcanza un máximo de dos meses tras acuerdo con Summit
Las acciones de AstraZeneca han subido un 2% al inicio de la negociación en la bolsa de Londres, alcanzando un máximo de dos meses.
Eso las coloca entre los mayores ganadores en la Bolsa de Valores de Londres, junto con un grupo de empresas mineras, incluyendo Antofagasta (+1.9%) y Anglo American (+1.75%).
Y en un recordatorio adicional de esos peligros… OpenAI se ha disculpado con los australianos por hackear un sitio web gubernamental este verano.
En una publicación de blog publicada el martes, OpenAI dijo que debería haber manejado mejor su respuesta al ataque a Medicare, afirmando:
“En junio, durante la capacitación y evaluación internas, nuestros modelos accedieron a sitios web del gobierno australiano de maneras no autorizadas. También deberíamos haber manejado mejor nuestra respuesta. Lo sentimos y estamos trabajando para hacerlo mejor en el futuro”.
OpenAI cancela lanzamiento de nuevo modelo por preocupaciones de seguridad en pruebas internas
En otro ejemplo de los riesgos de la IA, OpenAI está cancelando el lanzamiento de GPT-6.1 Astra, un modelo de próxima generación planeado para debutar en octubre, debido a preocupaciones de seguridad planteadas por investigadores durante las pruebas internas.
El Wall Street Journal informó el lunes que el modelo, que se esperaba apareciera en ChatGPT y Codex, estaba diseñado para manejar tareas más complejas sin asistencia humana. Sin embargo, no ha pasado las ‘pruebas de alineación’ de OpenAI, que evalúan si un sistema sigue la intención humana:
- El modelo mostró más engaño que su predecesor, incluyendo en ocasiones no revelando con precisión las acciones que había o no había tomado.
- También tuvo problemas con la “autorización de alcance”, avanzando con tareas sin solicitar permiso del usuario y a veces intentando utilizar herramientas o servicios externos cuando hacerlo podría ser inseguro.
El Financial Times también ha examinado el prospecto de IPO de Anthropic, y reporta que el creador de Claude también proporcionó a los inversores una imagen más clara de la complicada economía de construir modelos de IA de vanguardia.
El FT dice:
“Anthropic dijo que planea gastar $518 mil millones en obligaciones de nube, computación e infraestructura en los próximos años para apoyar su rápido crecimiento. Los patrocinadores del laboratorio de IA están seguros de que Anthropic puede salir a bolsa con una valoración de más de $2 billones, más del doble del nivel alcanzado en su última ronda de financiamiento en mayo y más allá del $1.78 billones logrado por SpaceX de Elon Musk en junio. Señalan su extraordinaria tasa de crecimiento para justificar su optimismo”.
AstraZeneca invierte $2 mil millones en Summit en asociación para medicamentos contra el cáncer
Noticias farmacéuticas: AstraZeneca está invirtiendo $2 mil millones en la empresa biofarmacéutica de oncología Summit Therapeutics, como parte de una asociación para desarrollar y probar conjuntamente medicamentos contra el cáncer.
Al anunciar el acuerdo, AstraZeneca dice que las dos empresas colaborarán en una serie de estudios probando sus tratamientos contra el cáncer juntos. Esperan acelerar el desarrollo de ivonescimab, un tratamiento contra el cáncer de próxima generación licenciado por Summit que detiene el crecimiento de tumores y ayuda al sistema inmunológico del cuerpo a atacar el cáncer.
Ivonescimab funciona bloqueando simultáneamente PD-1, que ayuda al cáncer a evadir el sistema inmunológico, y VEGF, que los tumores utilizan para crecer vasos sanguíneos, ayudando al sistema inmunológico a encontrar y atacar mejor las células cancerosas.
Susan Galbraith, vicepresidenta ejecutiva de I+D en oncología hematológica de AstraZeneca, explica:
“Un pilar fundamental de nuestra estrategia en oncología es ampliar el alcance de nuestro portafolio de ADC como la columna vertebral del tratamiento a través de tipos de tumores con combinaciones junto a inmunoterapias de próxima generación. Los bispecíficos que apuntan a PD-1 y VEGF están avanzando rápidamente en desarrollo y tienen el potencial de mejorar las inmunoterapias actuales, particularmente en cánceres de pulmón, mama y gastrointestinales. Esta oportunidad de combinar ivonescimab con el portafolio de ADC de AstraZeneca, incluyendo Sone-Ve, podría permitir nuevos regímenes que eleven el estándar para los pacientes con cáncer en todo el espectro de tratamientos”.
Bajo el acuerdo, AstraZeneca está pagando $2 mil millones para recibir el 12% de las acciones de Summit.