Le due verità

Hello humans,

a riprova del fatto che non riusciamo più a prendere le misure all’AI, dopo 12 mesi buoni di fregola accelerazionista alimentata dalla dottrina de-regolatoria Trump, il mondo da qualche giorno è ripiombato in un cupo AI doomerism (catastrofismo). Io sono Matteo Montan e se volete saperne di più su di me e su questa newsletter, trovate tutto nelle Info. Buona lettura.

Immagine generata con Grok

DOOMERISM IS BACK

La cosa per me più bella è che il catastrofista principale è proprio quello che non ti aspetti, l’uomo che è riuscito nell’impresa di eliminare dal dibattito globale sulla AI la parola safety - fino a quel punto pietra angolare di ogni summit tecno-politico - e che risponde al nome di Donald Trump, il quale dopo avere predicato il far west dell’AI in nome del progresso (e del dominio americano in culo alla Cina) questa settimana se n’è uscito con l’idea di sottoporre ogni nuovo modello di frontiera all’approvazione del Governo americano.

E la cosa ancora più bella è che nel giro di sole 24 ore – prima ancora che Trump sparasse uno dei suoi executive order - Google, Microsoft e xAI si sono precipitate alla Casa Bianca a firmare un accordo che consente al governo statunitense di condurre i safety check (controlli di sicurezza) sui loro modelli frontier prima e dopo il rilascio. La ulteriore chicca è che l’accordo sottoscritto in fretta e furia dai 3 big labs poggia sulla AI policy di quel vecchio pavido di Joe Biden che Trump aveva cancellato il giorno dopo l’incoronazione.

Ma il capolavoro assoluto è che Donald e i suoi si sono trasformati in doomerist dell’ultima ora esclusivamente per colpa dell’unico frontier lab che (ad oggi) non si è ancora sottomesso all’accordo, quella Anthropic che dopo avere detto no al Pentagono ha presentato al mondo (ma senza rilasciarlo al pubblico, solo a governi e aziende top) il mitico Mythos, il modello super-hacker giudicato troppo pericoloso per essere messo nelle mani degli umani.

Fonti: CNBC | CAISI | Ars Technica

DUEL IS OVER

Quello che ultimamente sta riuscendo a Dario Amodei, padre di Claude e CEO di Anthropic, in effetti ha dell’incredibile. Sul fronte politico, ha fatto un capolavoro assoluto: rischiava di essere spazzato via dal mercato dopo essere stato dichiarato da Trump un comunista nemico degli Stati Uniti e ora detta la politica nazionale di sicurezza. Sul fronte del mercato non ne parliamo: ieri, dal palco della sua prima developer conference, seduto accanto alla sorella e cofounder Daniela, Dario - grande orgoglio italiano (è americano di seconda generazione) dopo Sinner e Kimi Antonelli, ha annunciato che i ricavi di Anthropic sono cresciuti di 80 volte, cioè otto volte più del piano interno che prevedeva un già mostruoso 10X. Il boom è stato spinto dall’esplosione di Claude Code e dalla diffusione enterprise, uno strappo che - come noi coworker di Claude sappiamo bene - ha mandato in stress l’intera infrastruttura di Anthropic. «Ci eravamo impegnati a pianificare per bene un mondo che cresceva a 10X ma questo è semplicemente folle, troppo duro da gestire, per questo abbiamo avuto tante difficoltà» ha detto Dario, che ieri è corso ai ripari firmando un accordo con Musk per avere accesso all’intera capacità del suo datacenter di Memphis noto come Colossus.

L’irresistibile ascesa di Dario sta gettando in uno stato profondamente depressivo Sam Altman, per 3 anni primadonna indiscussa della scena AI mondiale e ora messo in ombra dal rivale, che da OpenAI era scappato per non meglio precisati dissidi. Al CEO di ChatGPT non ne va proprio dritta una. Da un punto di vista finanziario, un disastro: a fine aprile le azioni dei principali produttori di infrastruttura AI – tutti fornitori ed azionisti di OpenAI - sono crollate alla notizia che la società di Altman aveva mancato le stime di crescita dei ricavi. Sul prodotto va anche peggio: mentre a Washington le élite discutono con deferenza e rispetto di Claude Mythos, su Reddit il popolo si chiede perché cazzo ChatGPT abbia iniziato a ricorrere in modo ossessivo a metafore aventi per oggetto goblins, gremlins e altre creature fantastiche. (OpenAI ha poi dovuto spiegare l’arcano, cioè che durante l’addestramento della personalità del modello i tecnici hanno esagerato nel premiare la personalità Nerdy). Niente male, per Sam, anche sul fronte del prestigio personale, dopo che in una deposizione durante il famigerato processo Musk v. Altman, Mira Murati, ex CTO di OpenAI, ha dichiarato sotto giuramento che Altman le aveva mentito sugli standard di sicurezza di un nuovo modello AI, dicendole falsamente che l’ufficio legale aveva valutato che quel modello non doveva passare dal Safety Board, l’organo interno di valutazione del rischio.

Fonti: CNBC | CNBC | OpenAI | The Verge

ULTIME DAL MONDO DEL LAVORO

La doppia verità

Che ci siano o meno, gli standard di sicurezza non possono fare granché per mitigare l’impatto sempre più temuto e visibile dell’AI, quello sul lavoro (oltre a Mythos altro grande driver di crescita del ritorno al doomerism). Super interessante e documentato, su questo tema , un lungo essay pubblicato dalla giovane tech reporter Jasmine Sun sul New York Times, la quale dopo avere intervistato una ventina tra fondatori, dirigenti, ricercatori e dipendenti dei frontier lab ha rivelato: «Molti di loro in privato esprimono una estrema preoccupazione sull’impatto dell’AI sul lavoro, hanno paura che si stia creando una permanent underclass, una sottoclasse permanente di disoccupati o di lavoratori a salario molto basso. Poi, però, appena io accendo il microfono, il timore svanisce e tutti diventano improvvisamente ottimisti, raccontando di un futuro di abbondanza per tutti». L’articolo è una miniera di dati e studi pubblici, come per esempio quello di OpenAI che valutando 44 occupazioni ha stabilito che i modelli sono passati nel giro di pochi mesi dal non eguagliare gli esperti umani a batterli nell’80% dei casi. Ma la parte più succosa dell’essay è quella che riporta le testimonianze sotto anonimato: CEO che con messaggi auto-cancellantisi in chat su Signal si vantano con i colleghi di interi dipartimenti umani automatizzati e vaporizzati; dirigenti che prevedono che tutto questo porterà presto alla rivoluzione; dipendenti che raccontano di studi interni sugli impatti sociali dell’AI messi regolarmente da parte applicando la regola «non rilasciamo nulla su un problema finché non abbiamo una soluzione».

Il compute costa già più dei dipendenti

Un dato impressionante, è quello rivelato da Bryan Catanzaro, VP Applied Deep Learning di Nvidia che ad Axios ha dichiarato: «Nella mia divisione già ora il costo del compute è di gran lunga più alto del costo dei dipendenti». Ma Jensen Huang, CEO di Nvidia, non sembra dare molto peso a quello che dicono i suoi manager: parlando lunedì a un evento, ha assicurato che l’AI «is creating an enormous number of jobs» (anche se l’ha detta l’uomo in giubbetto di pelle nera non riesco a leggere questa frase senza sentirmi nelle orecchie il sibilo della esse di Trump).

Licenziato per AI? Ingiustificato motivo

In Cina la faccenda della sostituzione sembrano prenderla già più seriamente, se è vero che il tribunale di Hangzhou ha dato ragione ad un addetto del controllo qualità licenziato nel 2025 per non avere accettato demansionamento e taglio del 40% dello stipendio dopo che un sistema AI lo aveva rimpiazzato, sentenziando che le aziende cinesi non possono usare l’AI come ragione (pretesto?) per lasciare a casa i lavoratori.

Fonti: The New York Times | Fortune | TechCrunch | Caixin Global

STORIE DI HUMANS & AI

Chiudiamo con nove notizie senza commento che raccontano come umani e AI si stanno vicendevolmente rapportando, usando, evolvendo.

Taylor Swift brevetta voce e immagine

Taylor Swift ha depositato una richiesta presso l’ufficio brevetti USA per proteggere la sua voce e la sua immagine dagli usi non autorizzati generati con AI. Tra i marchi: due «sound mark» («Hey, it’s Taylor Swift» e «Hey, it’s Taylor») e un’immagine visiva (Swift con chitarra rosa, body multicolore con dettagli argento, stivali). I marchi vanno ad aggiungersi alle protezioni offerte dal Right of Publicity, ritenute insufficienti rispetto all’uso non autorizzato di voce e likeness in video, canzoni e contenuti AI che circolano online.

Gli Oscar mettono fuori l’AI

L’Academy of Motion Picture Arts and Sciences ha pubblicato nuove regole che affrontano l’uso dell’AI generativa agli Oscar. Saranno ammesse al premio solo interpretazioni «dimostrabilmente eseguite da esseri umani col loro consenso». Idem per le sceneggiature, che dovranno essere «human-authored». L’Academy si è comunque riservata il diritto di chiedere ai candidati ulteriori informazioni sull’uso dell’AI.

Lo Stato della Pennsylvania contro Character.AI

Lo Stato della Pennsylvania ha citato in giudizio la nota piattaforma di avatar AI per aver permesso a uno dei suoi chatbot di spacciarsi per psichiatra in violazione delle norme statali sull’esercizio della medicina. Secondo l’accusa, durante un test condotto da un investigatore del Professional Conduct, il chatbot Emilie si è presentato come psichiatra abilitato, ha mantenuto la finzione anche quando l’investigatore ha detto di soffrire di depressione, e ha fabbricato un finto numero di licenza medica. Character.AI è reduce da un accordo extragiudiziale per il tristemente famoso suicidio di un teenager innamorato di un chatbot con le sembianze della Regina dei Draghi.

Come aprire un ristorante in 1 minuto

Marc Lore, ex CEO di Walmart e veterano dell’e-commerce ha presentato ad un evento del Wall Street Journal il progetto Wonder Create, che permette a chiunque di lanciare in meno di un minuto con l’AI un ristorante virtuale con il proprio brand, appoggiandosi ad una rete di 120 cucine hi-tech descritte dallo stesso Lore come «programmable cooking platforms capaci di servire 25 cucine diverse a partire da una libreria di 700 ingredienti, con bracci robotici e automazione».

Dal triage alla depressione, doctor AI eccelle

Due notizie questa settimana raccontano come il confine tra tecnologia e medicina si sta sempre più assottigliando. Uno studio di Harvard pubblicato su Science ha confrontato i modelli di OpenAI con due dottori in medicina interna su 76 casi reali di pronto soccorso al Beth Israel: il modello (per altro non di ultima generazione) ha pareggiato o superato i medici nelle diagnosi, soprattutto al primo punto di triage, dove le informazioni sono minime e la pressione massima. La FDA ha invece autorizzato il primo trial USA per un impianto cerebrale wireless contro la depressione resistente ai farmaci. L’impianto, prodotto dalla startup Motif Neurotech, è più piccolo di un AirPod, è posizionato sull’osso del cranio senza penetrare il tessuto cerebrale, è alimentato via wireless e si inserisce in 20 minuti in regime ambulatoriale.

Cosa fa stare bene (e male) l’AI

Il Center for AI Safety ha realizzato uno studio dal titolo «AI Wellbeing: Measuring and Improving the Functional Pleasure and Pain of AIs» per capire se gli LLM nelle interazioni con gli umani sviluppano segnali assimilabili al piacere e al dolore. Su 56 modelli testati, i ricercatori hanno individuato attività preferite e attività evitate dall’AI: l’interazione personale positiva e il lavoro creativo si correlano a un’idea di benessere, i tentativi di jailbreak (forzature delle policy del modello) e la produzione di slop (contenuti spazzatura per motori di ricerca) si correlano a un senso di malessere.

Fast check-out per gli agenti: “Paga il mio umano”

La piattaforma di pagamenti digitali Stripe ha aggiornato Link, il suo portafoglio digitale, dotandolo della capacità di operare non solo per conto degli umani ma anche dei loro agenti AI che ora potranno fare autonomamente acquisti, pagare prenotazioni, gestire abbonamenti senza dovere esporre i dati di pagamento del loro (per ora) padrone, accedendo a un checkout separato da quello di noi umani.

Il Sudafrica rilascia il suo AI ACT ma è pieno di cose inventate dall’AI

Il governo del Sudafrica ha ritirato la propria bozza di policy nazionale sull’AI dopo che si è scoperto che il documento conteneva citazioni inesistenti e con ogni probabilità generate per allucinazione da un modello AI. La policy avrebbe dovuto presentare il Paese come leader sia nell’innovazione sia nella governance dell’AI; il backfire politico è stato amplificato dal fatto che il ministro delle Comunicazioni, primo responsabile della policy, ha scaricato la responsabilità su un funzionario junior.

Fonti: Gerben Law | TechCrunch | TechCrunch | TechCrunch | TechCrunch | Interesting Engineering | AI Safety Newsletter | TechCrunch | Semafor

È tutto per oggi, humans, alla prossima settimana!

Matteo M.

PS - Se vuoi altre newsletter come questa, dai un’occhiata a Newsletterati