Notizia

Apr 14, 2024

'Oppenheimer' e i rischi dell'IA in sanità

Di Junaid NabiAgosto. 2, 2023 Tutte le grandi storie hanno finali complicati. Ma ciò non significa che non possano offrire lezioni semplici e istruttive. L'opera magnum di Christopher Nolan, “Oppenheimer”, mette in evidenza

Di Junaid NabiAgosto. 2, 2023

Tutte le grandi storie hanno finali complicati. Ma ciò non significa che non possano offrire lezioni semplici e istruttive. L'opera magnum di Christopher Nolan, "Oppenheimer", mette in risalto la tragica storia del "padre della bomba atomica". Ma è anche la storia di come gli Stati Uniti abbiano perso l'opportunità di essere leader globali nello sviluppo di un'innovazione che avrebbe definito il XX secolo. Questo secolo sarà definito dalle tecnologie trasformative – in particolare dall’intelligenza artificiale – e la storia di J. Robert Oppenheimer offre lezioni particolarmente importanti per leader sanitari, imprenditori e policy maker.

L'era di Oppenheimer è stata definita dalla corsa all'energia nucleare, mentre la nostra è definita dalla competizione nella tecnologia dell'intelligenza artificiale. Entrambe le tecnologie sono strumenti potenti che cambieranno la traiettoria dell’umanità. In un'altra sconcertante somiglianza con l'era di Oppenheimer, gli attori politici che inquadrano le politiche nazionali attorno all'innovazione sembrano disimpegnati o stanno politicizzando le sfumature della scienza. Questa politica ha reso sempre più difficile avere conversazioni costruttive sul futuro dell’innovazione sanitaria. Lo vediamo già accadere con la disinformazione sulla tecnologia dell’mRNA e le continue molestie nei confronti degli scienziati.

annuncio

Nel frattempo, più di una dozzina di aziende sanitarie stanno già utilizzando ChatGPT, un chatbot basato sull’intelligenza artificiale sviluppato da OpenAI, per una varietà di funzioni. Ma non comprendiamo appieno le conseguenze dell’integrazione di questi grandi modelli linguistici nelle funzioni sanitarie. Sorprendentemente, molte delle conversazioni in corso sulla definizione delle politiche e sulla regolamentazione dell’IA si sono concentrate sui leader del settore tecnologico e non hanno utilizzato appieno l’esperienza dei leader del settore sanitario, che hanno intuizioni uniche sull’applicazione dell’IA alla salute e alla medicina. Questo mi ha ricordato una scena potente del film “Oppenheimer” in cui lo scienziato titolare cerca di persuadere il presidente Truman sui pericoli dell’energia nucleare, solo per vedere le sue preoccupazioni respinte.

L’attenzione dei media su questi rapidi sviluppi tecnologici e le preoccupazioni sull’utilizzo dei dati dei consumatori stanno inoltre esercitando pressioni sui legislatori affinché agiscano. La scorsa settimana, la senatrice repubblicana Lindsey Graham e la senatrice democratica Elizabeth Warren hanno riconosciuto che “il Congresso è troppo lento, manca di competenze tecnologiche” e hanno sottolineato l’importanza di creare un’agenzia di regolamentazione bipartisan attraverso il Digital Consumer Protection Commission Act. L’idea proposta sembra essere più focalizzata sulle aziende tecnologiche su larga scala, il che non coglie il motivo per cui queste protezioni sono necessarie per le applicazioni e gli sforzi di intelligenza artificiale nel settore sanitario. Gli studi di ricerca continuano a evidenziare come gli strumenti basati sull’apprendimento automatico possano portare a cure mediche inappropriate.

La tua dose quotidiana di notizie in materia di salute e medicina

La storia di Oppenheimer illustra anche come esista una disconnessione tra gli obiettivi della scienza – come la trasparenza, la collaborazione e la ricerca della verità – e gli obiettivi politici, che sono sempre in continuo cambiamento. Comprenderlo è particolarmente urgente ora, poiché il pubblico impara continuamente come l’intelligenza artificiale cambierà le industrie, compresa l’assistenza sanitaria.

annuncio

Tuttavia, la mancanza di chiarezza sull’impatto di questi cambiamenti sulla cura dei pazienti può portare a un ambiente di paura e sfiducia che alla fine può soffocare l’innovazione, perché la salute è molto più personale dell’economia. I leader del settore sanitario che utilizzano queste tecnologie per creare applicazioni digitali possono svolgere un ruolo importante come comunicatori scientifici, ad esempio inserendo nei loro materiali di comunicazione una sezione dedicata su ciò che i pazienti dovrebbero aspettarsi dalla loro tecnologia.

Infine, dobbiamo riorientare i nostri sforzi di innovazione digitale verso la chiusura dei divari nelle disparità sanitarie e adottare misure per non emarginare ulteriormente le popolazioni vulnerabili. La storia di Oppenheimer ricorda anche la sofferenza causata alle comunità ispaniche e native americane del New Mexico durante il periodo del Trinity Test. Studi recenti stanno già dimostrando come gli algoritmi digitali nel processo decisionale in ambito sanitario possano esacerbare le disuguaglianze. Gli imprenditori e i politici della tecnologia sanitaria devono garantire che tutte le necessarie strategie di mitigazione dei pregiudizi – inclusa la distribuzione di set di dati rappresentativi per la creazione di applicazioni digitali – siano implementate per evitare conseguenze negative per i pazienti svantaggiati. Questo è anche uno dei modi più efficaci con cui le imprese sanitarie digitali possono creare fiducia.