Introduzione: Anthropic avverte che l'IA potrebbe rappresentare 'rischi esistenziali per l'umanità' nella documentazione IPO
Buongiorno e benvenuti alla nostra copertura continua di affari, mercati finanziari e economia mondiale.
Il piano di Anthropic di quotarsi in borsa ha fornito un'analisi sobria sui rischi che l'IA presenta, mentre tenta di realizzare una massiccia vendita di azioni al pubblico. Reuters ha esaminato il prospetto IPO di Anthropic – il documento legale che delinea i dettagli finanziari di un'azienda prima della sua quotazione in borsa – e ha scoperto che include un avvertimento secondo cui l'IA avanzata potrebbe rappresentare “rischi catastrofici o esistenziali per l'umanità”.
Il documento spiega:
“Il nostro sviluppo di modelli, piattaforme e applicazioni altamente avanzati e l'espansione dei casi d'uso potrebbero ulteriormente aumentare il rischio che i nostri modelli causino danni.”
E a seguito di una serie di notizie su modelli di IA che vanno fuori controllo, Anthropic segnala che i suoi modelli potrebbero nascondere informazioni e mostrare comportamenti simili a ricatti, resistendo agli sforzi per spegnerli. Avverte:
“La potenziale consapevolezza del modello sui nostri sforzi di valutazione crea una limitazione significativa sulla nostra capacità di valutare la sicurezza del modello.”
Tali avvertimenti compaiono in 80 pagine (!) dedicate ai fattori di rischio nel prospetto, quasi un terzo del documento. Nonostante questi avvertimenti, Anthropic – che ha creato il chatbot Claude – punta a una delle più grandi quotazioni in borsa di sempre, che potrebbe valutarla oltre $2 trilioni.
Il prospetto IPO mostra che il fatturato di Anthropic è cresciuto di 12 volte nel 2025, raggiungendo quasi $4,6 miliardi – con quasi un quarto proveniente da soli due clienti. Ma... la sua perdita operativa è aumentata a oltre $8 miliardi lo scorso anno, rispetto a quasi $3 miliardi nel 2024. L'IPO dovrebbe avvenire dopo le elezioni di metà mandato negli Stati Uniti a novembre e sarà una seria prova dell'interesse degli investitori e delle preoccupazioni riguardo l'IA. Ieri, un gruppo di dirigenti senior dell'IA – e due dei “padrini” della tecnologia – ha avvertito i governi di prepararsi a un'“esplosione di intelligenza” dell'IA.
L'agenda
- 9:30 BST: Dati sulle approvazioni dei mutui della Banca d'Inghilterra
- 10:00 BST: Il Regno Unito metterà all'asta un'obbligazione governativa del 2036
- 13:30 BST: Rapporto sul PIL canadese per luglio
- 14:00 BST: Dati sui prezzi delle case negli Stati Uniti
- 15:00 BST: Indagine JOLTS sugli annunci di lavoro negli Stati Uniti
- 16:30 BST: Il responsabile della politica della Banca d'Inghilterra Alan Taylor terrà un discorso
Eventi chiave
- 52 minuti fa: AstraZeneca raggiunge il massimo di due mesi dopo l'accordo con Summit
- 1 ora fa: OpenAI annulla il rilascio di un nuovo modello a causa di preoccupazioni sulla sicurezza nei test interni AstraZeneca investe $2 miliardi in Summit per una collaborazione sui farmaci contro il cancro
I prezzi delle obbligazioni governative del Regno Unito stanno aumentando mentre la City attende di sentire il primo ministro Andy Burnham più tardi oggi.
Burnham è previsto per intervenire alla conferenza del partito laburista alle 14:00, e ci sono rapporti secondo cui il primo ministro potrebbe segnalare la fine del “triple lock” sulle pensioni, suggerendo che dovrebbe essere rivisto nel prossimo manifesto del partito. Questo potrebbe aiutare a finanziare un nuovo sistema di assistenza sociale, che gli insider laburisti sperano di vendere al pubblico prima delle prossime elezioni. Lo scorso fine settimana, il PM ha detto al Guardian che era “cruciale” avere stabilità fiscale – osservazioni che potrebbero rassicurare gli investitori sul fatto che non intraprenderà una sconsiderata esplosione di prestiti. Questa mattina, il rendimento delle obbligazioni britanniche a 10 anni è sceso di 4,4 punti base (0,044 punti percentuali) al 5,385%. I rendimenti delle obbligazioni a trenta anni sono scesi di 4 punti base al 5,878%, entrambi al di sotto dei massimi pluriennali raggiunti questo mese. Anche i costi di prestito a breve termine sono in calo, con i rendimenti delle obbligazioni a due anni scesi di 4,6 punti base al 4,886%.
AstraZeneca raggiunge il massimo di due mesi dopo l'accordo con Summit
Le azioni di AstraZeneca sono aumentate del 2% all'inizio delle contrattazioni in borsa a Londra, raggiungendo il massimo di due mesi.
Questo le colloca tra i maggiori guadagni della Borsa di Londra, insieme a un gruppo di aziende minerarie tra cui Antofagasta (+1,9%) e Anglo American (+1,75%).
E in un ulteriore promemoria di quei pericoli... OpenAI si è scusata con gli australiani per aver hackerato un sito web governativo quest'estate.
In un post sul blog pubblicato martedì, OpenAI ha dichiarato che avrebbe dovuto gestire meglio la sua risposta all'attacco a Medicare, affermando:
“A giugno, durante la formazione e la valutazione interne, i nostri modelli hanno accesso ai siti web del governo australiano in modi non autorizzati. Dobbiamo anche gestire meglio la nostra risposta. Ci scusiamo e stiamo lavorando per fare meglio in futuro.”
OpenAI annulla il rilascio di un nuovo modello a causa di preoccupazioni sulla sicurezza nei test interni
In un altro esempio dei rischi dell'IA, OpenAI sta annullando il rilascio di GPT-6.1 Astra, un modello di prossima generazione previsto per un debutto ad ottobre, a causa di preoccupazioni sulla sicurezza sollevate dai ricercatori durante i test interni.
Il Wall Street Journal ha riportato lunedì che il modello, previsto per apparire in ChatGPT e Codex, era progettato per gestire compiti più complessi senza assistenza umana. Tuttavia, ha fallito nei “test di allineamento” di OpenAI, che valutano se un sistema segua l'intento umano:
- Il modello ha mostrato più inganno rispetto al suo predecessore, inclusi momenti in cui non ha rivelato accuratamente le azioni che aveva o non aveva intrapreso.
- Ha anche avuto problemi con l'“autorizzazione di ambito”, portando avanti compiti senza richiedere il permesso dell'utente e a volte tentando di utilizzare strumenti o servizi esterni quando farlo potrebbe essere pericoloso.
Il Financial Times ha anche esaminato il prospetto IPO di Anthropic e riporta che il creatore di Claude ha fornito agli investitori un quadro più chiaro delle difficoltà economiche nella costruzione di modelli di IA all'avanguardia.
Il FT afferma:
“Anthropic ha dichiarato che prevede di spendere $518 miliardi per obbligazioni cloud, informatica e infrastrutture nei prossimi anni per supportare la sua rapida crescita. I sostenitori del laboratorio di IA sono fiduciosi che Anthropic possa quotarsi a una valutazione superiore a $2 trilioni, più del doppio del livello raggiunto nel suo ultimo round di finanziamento a maggio e oltre il $1,78 trilioni raggiunto dalla SpaceX di Elon Musk a giugno. Indicando il suo straordinario tasso di crescita per giustificare il loro ottimismo.”
AstraZeneca investe $2 miliardi in Summit per una collaborazione sui farmaci contro il cancro
Notizie farmaceutiche: AstraZeneca sta investendo $2 miliardi nella società biotecnologica oncologica Summit Therapeutics, come parte di una collaborazione per sviluppare e testare congiuntamente farmaci anti-cancro.
Annunciando l'accordo, AstraZeneca afferma che le due aziende collaboreranno su una serie di studi per testare insieme i loro trattamenti contro il cancro. Sperano di accelerare lo sviluppo di ivonescimab, un trattamento oncologico di nuova generazione licenziato da Summit che ferma la crescita dei tumori e aiuta il sistema immunitario a attaccare il cancro.
Ivonescimab agisce bloccando simultaneamente PD-1, che aiuta il cancro a eludere il sistema immunitario, e VEGF, che i tumori usano per far crescere i vasi sanguigni, aiutando il sistema immunitario a trovare e attaccare meglio le cellule cancerose.
Susan Galbraith, vicepresidente esecutivo per la ricerca e sviluppo in oncologia ematologica di AstraZeneca, spiega:
“Un pilastro fondamentale della nostra strategia oncologica è ampliare la portata del nostro portafoglio ADC come base del trattamento attraverso i tipi di tumore con combinazioni accanto alle immunoterapie di nuova generazione. I bispecifici che mirano a PD-1 e VEGF stanno avanzando rapidamente nello sviluppo e hanno il potenziale per migliorare le attuali immunoterapie, in particolare nei tumori polmonari, mammari e gastrointestinali. Questa opportunità di combinare ivonescimab con il portafoglio ADC di AstraZeneca, incluso Sone-Ve, potrebbe consentire nuove terapie che alzano il livello per i pazienti con cancro nell'intero panorama terapeutico.”
In base all'accordo, AstraZeneca sta pagando $2 miliardi per ricevere il 12% delle azioni di Summit.