Chatbot-IA al paziente, con voce del medico, e senza consenso informato ?

 

Care colleghe e cari colleghi

vi scrivo sotto prima la sintesi di un notizia pubblicata mesi fa sul NYT in merito ad un esperimento avanzato di uso di chatbot LLM collegati alla Intelligenza Artificiale in medicina ed in fine un mio breve commento

I) "Quel messaggio del tuo medico? Potrebbe essere stato redatto da un'Intelligenza Artificiale (IA)"

Fonte da cui ho ricavato una sintesi : That Message From Your Doctor? It May Have Been Drafted by A.I. - The New York Times

di Teddy Rosenbluth

MyChart (della Epic system Corporation), il software e portale per pazienti ampiamente utilizzato, ora dispone di uno strumento basato sull'intelligenza artificiale che i medici possono utilizzare per scrivere messaggi ai propri pazienti. Ogni giorno, i pazienti inviano migliaia di messaggi ai propri medici tramite MyChart. I pazienti descrivono il loro sintomi  confidando che vi sia il loro medico dall'altra parte e che egli dia loro consigli. Ma i pazienti in genere non sanno che la risposta viene pre-confezionata da un sistema di di IA.

Come funziona MyChart?  Invece di iniziare la relazione con il paziente via chat  con una schermata vuota, il medico vede una risposta generata automaticamente in merito alla  domanda del paziente. La risposta deriva  da  una versione di GPT-4 (la tecnologia alla base di ChatGPT)

Vi e' da aggiungere che il tool MyChart, prima di fornire la risposta, preleva dalla cartella computerizzata del medico precedenti informazioni mediche e la lista dei farmaci registrata sulla cartella computerizzata.

Insomma sempre più spesso le risposte a questi messaggi non vengono scritte dal medico, almeno non del tutto. Circa 15.000 medici e assistenti in oltre 150 sistemi sanitari USA utilizzano la nuova funzionalità di intelligenza artificiale di MyChart per elaborare le risposte a tali messaggi.

In alcuni centri, oltre agli ospedalieri, MyChart può essere usato da MMG, farmacisti, infermieri.

In alcune interviste, i funzionari di diversi sistemi sanitari che utilizzano lo strumento MyChart hanno ammesso di non rivelare ai pazienti che i messaggi contengono contenuti generati dall'intelligenza artificiale. Quindi molti pazienti che ricevono queste risposte non hanno idea che siano state scritte con l'ausilio dell'intelligenza artificiale; ne' ovviamente hanno dato un consenso informato

Altri sistemi appongono un avviso  in fondo al messaggio, in cui chiariscono che la risposta e' confezionata dal sistema di IA e quindi poi supervisionata dai medici. “Non vedo personalmente nessuna contro-indicazione ad essere trasparenti ” ha dichiarato il Dr. Christopher Longhurst, il direttore sanitario dell'UC San Diego Health"

Ma , secondo altri decisori e manager,  dichiarare ai pazienti che il messaggio ha un contenuto di I.A.  potrebbe far sottovalutare la consulenza clinica, anche se è stata approvata dai loro medici.

Inoltre altri sistemi — ad es gli Stanford Health Care, U.W. Health, U.N.C. Health and N.Y.U. Langone Health — hanno deciso che l'essere trasparenti e chiedere il consenso informato avrebbero prodotto nei pazienti più danni che benefici. Questi amministratori sono preoccupati per due elementi: a) che l'inserimento dell'avviso possa divenire una scusa per inviare , da parte del medico, messaggi senza un'approfondita valutazione; b) che, dopo questo avviso esplicito ai pazienti, i messaggi di ritorno, sebbene supervisionati dal medico, possano sminuire il consiglio medico

Vi è un'  assenza di rigide regole governative e di direttive etiche:  ciò permette ad  ogni diverso sistema sanitario di decidere come valutare  la sicurezza dello strumento e se informare o meno  i pazienti sul suo utilizzo.

La tendenza verso l'uso di MyChart preoccupa alcuni esperti che temono che i medici potrebbero non essere abbastanza vigili da individuare errori potenzialmente pericolosi nei messaggi di rilevanza medica redatti dall’intelligenza artificiale.

Ed in effetti MyChart non è immune da errori e dalle tipiche "allucinazioni" di questi chatbot  LLM .

Il Dr. Vinay Reddy, un medico di famiglia della organizzazione UNC health,  ha citato un caso in cui in cui il paziente chiedeva se aveva bisogno di vaccino per la B. Il sistema di IA  ha con sicurezza risposto che il paziente aveva ricevuto il vaccino e aveva fornito le date delle dosi del vaccino e dei richiami. Ciò era completamente falso e l'errore dipendeva dal fatto che il sistema di IA non aveva accesso alla parte di database riguardante i vaccini.

I medici che hanno rivisto sistematicamente le risposte di MyChart hanno riscontrato errori nel 7% dei casi.

E ciò che è più allarmante è il riscontro che circa un terzo delle risposte sono arrivate ai pazienti senza alcuna correzione , nemmeno formale, da parte dei medici. Cresce un sospetto: magari per mancanza di tempo alcuni medici non hanno supervisionato le risposte automatiche e le hanno fatte fluire, intatte, verso i pazienti

Ciò che è ulteriormente preoccupante è che vi è stato un progetto avanzato per far in modo che lo strumento possa essere configurato per far dettare la risposta scritta dal chatbot  con la voce, clonata, del singolo medico; ma il progetto ha incontrato resistenze da parte degli stessi medici

Al di là delle questioni di sicurezza e mancata trasparenza , alcuni bioeticisti hanno manifestato una importante preoccupazione : " è proprio questa la IA che vogliamo usare in medicina?

Daniel Schiff, co-direttore del Governance and Responsabile dell'IA Lab presso la Purdue University è preoccupato. Questo tipo di Intelligenza Artificiale sembra intrufolarsi nei sempre meno frequenti momenti in cui pazienti e medici potrebbero effettivamente comunicare tra loro direttamente, in prossimità. "Anche se fosse impeccabile, vorresti automatizzare uno dei pochi modi in cui interagiamo ancora tra di noi? "

II) Miei brevi Commenti ( di Francesco Del Zotti)

La comunicazione elettronica ed i suoi prodotti più avanzati (la IA) lasciati senza briglia possono rovinare per sempre la Medicina Ippocratica , praticata da noi medici da 2400 anni.

Rileggendo quanto sopra descritto la cosa più incredibile è notare come i manager e gli ingegneri che architettano tale stravolgente sistema sembrano vedere come un ostacolo il dire la verità al paziente ( si sta usando un chatbot al posto del medico; e non lo si dice al paziente) . Si sminuisce così il peso del Consenso Informato, che,invece, a mio parere, dovrebbe diventare sempre più centrale in medicina, visti questi straordinari stravolgimenti. Nello stesso tempo i responsabili dei cambiamenti, consci della continua importanza di un rapporto personalizzato, non si stanno facendo scrupolo nel provare a trasformare il testo automatizzato in voce clonata del medico, magari non avvertito di ciò.

Grave mi sembra poi il fatto che alcuni medici, presi negli ingranaggi degli automatismi e del risparmiare tempo ( una riproposizione per medici di "Tempi Moderni" di Chaplin) potrebbero inviare un terzo dei messaggi senza nemmeno visionarli.

Quanto poi alle allucinazioni ed errori dei chatbot LLM, si ribadisce una notizia ben nota.

Qualcuno potrebbe obbiettare: ma anche i medici commettono errori. Qui ci sovviene l'ultima frase illuminante dell'articolo: "Anche se fosse impeccabile, vorresti automatizzare uno dei pochi modi in cui interagiamo ancora tra di noi? " .

Sono convinto che, anche dopo la IA, i pazienti ed i medici vogliano essere loro ad assumersi la responsabilità della verità errori e della responsabilità interpersonale e gestionale degli atti medici. Aristotele insegna: gli uomini sono per scelta animali sociali e nessuna macchina potrà sostituire questo anelito.

Numero aperto e quasi sguaiato

Questo post del Blog (I colori tra i numeri)  avrà un colore grigio.

TITOLO: NUMERO APERTO e QUASI SGUAIATO 
Ho letto che quest'anno non vi sarà test di ingresso in Medicina.  Ovviamente gli insegnanti delle materie pre-cliniche  sono allarmati.  Come faranno le insufficienti aule a contenere una probabile massa  di studenti?

Quando mi iscrissi a Medicina non vi era il  numero chiuso. Al I anno l'impatto delle sale stracolme fu per me scioccante. Avevo pensato, prima di iscrivermi a Medicina,  alla facoltà di Astronomia. Visitai le loro lezioni: vi erano al massimo 20 studenti. Stavo per cambiare. Poi i miei genitori mi avvertirono:  gli osservatori astronomici sono pochi e lontani dalla mia piccola città di provincia.  La beffa venne dopo pochi anni: nella mia città è sorto uno dei centri astronomici più importanti di Italia.

Ma vi è un altro punto che mi preoccupa. Nei primi 6 mesi non vi sarà colloquio, ne' test a crocette ma immagino solo insegnamenti delle materie pre-cliniche.  E poi vi sarà selezione in base ai risultati di queste sole materie.   Certo, i quiz avevano i loro limiti: ma potevano almeno contenere domande di logica e domande sulla comunicazione, argomenti del tutto assenti, si presume, in questi sei mesi.

Si è fatta una scelta opposta a quella della facoltà medica di Mount Sinai a New York. Anche li' non vi sono quiz: li' si tiene conto sia del voto finale al liceo e sia  di un colloquio orale del tutto generale, che esplora le abilità  di ragionamento, di comunicazione e di affettività dello studente. Quindi lì nel primo triennio si insegnano sia le materie pre-cliniche (ma con testi molto meno corposi  che nelle facoltà nostre) sia materie del ramo "humanities":  psicologia della comunicazione, etica, antropologia, ecc. Solo dopo tre anni lì si fa una selezione importante. E si è visto che i laureati dalla Mount Sinai University sono in media più competenti come medici rispetto a quelli delle facoltà mediche tradizionali.

Orbene, questa modalità italica del semestre a mio parere andrà  a penalizzare  soprattutto proprio quei medici , i futuri MMG, che devono avere una preparazione a tutto tondo ( e non solo organicista),  che più va incontro alla crescente necessità di una medicina patient-centred,  bio-psico-sociale, ad una medicina che sappia complementare e a volte contrastare il tecnicismo crescente , a-contestuale, degli algoritmi  e dell'Intelligenza Artificiale. 
Ne' e' da dimenticare che  una solida base generalista e comunicativa  diventa sempre più  necessaria  non solo per i MMG , ma per tutti i medici  

Francesco Del Zotti

 

I colori accesi della relazione Medico-paziente. un nuovo libro di Beppe Belleri

Segnalo il nuovo libro di Giuseppe (Beppe) Belleri, su un argomento  rosso-scottante: il medico ed il paziente alla pari, al posto del tradizionale  paternalismo. Ecco il libro: 

IL DECLINO DEL PROFESSIONALISMO E IL TRAMONTO DELLA DOMINANZA MEDICA.

Prefazione di Gianpaolo Balestrieri direttore di “Brescia Medica” periodico dell’Ordine dei Medici di Brescia

Marzo 2024, pag. 254, edizioni KDP Amazon, in formato cartaceo ed e-book

https://curprim.blogspot.com/2024/03/quale-futuro-per-la-lassistenza.html

Questa parità relazionale spesso crea frizioni e non è governata da nessuna delle due parti. Penso che la situazione imponga la nascita di uno strumento mai nato nella storia della Medicina: un contrato sociale chiaro tra i due attori.
Concludo con una frase tratta dalla prefazione del dr Balestrieri:

"Il paternalismo medico è stato posto in discussione dalla comparsa di un nuovo tipo di paziente, non più sottomesso ma “esigente”, informato nel bene e nel male dalla propaganda sanitaria veicolata dai media, determinato a far valere i propri “desideri” al di là di appropriatezza clinica e vincoli normativi. Dall'altra il Servizio sanitario, di fronte ad una crescita esponenziale dei bisogni e delle aspettative, impone al medico limiti prescrittivi che erodono la sua tradizionale autonomia, ponendo il professionista in una ambigua e logorante stretta tra esigenze diverse e spesso inconciliabili."

Complimenti, Beppe !

Il grigio del distanziamento imperante in MG e in medicina

Per due volte in poche  settimane ho insegnato o a studenti del VI anno di medicina o a Corsisti del corso di Medicina Generale

Ebbene in entrambe le volte ho notato che gli studenti si sono disposti verso il muro finale della stanza, a distanza importante da me, relatore.

Ho fornito loro  un' immagine: "immaginate che io sia il paziente e voi i medici, il medico di quel paziente. Cosa direbbe il paziente di un medico che lo invita ad un tavolo della stessa struttura del tavolo di Putin, lunghissimo ove l'interlocutore e' posto all'altro capo di quel chilometrico tavolo?"  

La piccola scrivania, l'abitudine di molti MMG europei di porre il paziente non di fronte ma sul lato corto , affianco del MMG , ci fanno immaginare una relazione "colorata" e calda.

Invece, l'attuale prevalere del  distanziamento, non solo in aula ma facilitato dalle varie vie elettroniche, non è una buona premessa per chi dovrà essere medico della relazione, ancor prima che medico del dato, dell'informazione. E la buona relazione è la base di informazioni e "segreti" essenziali per personalizzare il rapporto e per fornire elementi essenziali per la diagnosi e management del paziente.

A ciò aggiungiamoci il fatto che quel distanziamento degli studenti consente loro un rapporto intimo con il cellulare più che con la lezione, il docente e domani il paziente.

Quel distanziamento fisico fa quindi il paio con il distanziamento elettronico sempre più in voga tra pazienti e MMG: il WhatsApp, la email, l'sms, la telefonata sempre più frequentemente sostituiscono la visita ambulatoriale o domiciliare.

Aggiungiamoci un III distanziamento. Si moltiplicano racconti di pazienti che si recano una o più volte al pronto soccorso, ove, magari per un dolore al torace,  eseguono rx, tac, esami vari. Il dolore continua e allora il paziente si rivolge al suo MMG o ad uno specialista che gli chiedono: "ma al pronto soccorso ti hanno alzato la camicia?" . "NO" rispondono i pazienti. Ebbene, sollevando la camicia il medico si accorge di un chiaro ed esteso Herpes Zoster o lesioni da processionaria o da scabbia, ecc, ecc. In questo caso ha avuto luogo il distanziamento tecnologico: la tecnologia al posto dell'esame obiettivo, del contatto tra medico e paziente. 

Attenti: con questo grigiore comunicativo-elettronico, la professione non si modernizza, ma muore. Le comunicazioni a distanza possono essere solo il complemento di quegli incontri ambulatoriali-domiciliari colorati, essenziali oggi, ma  anche nel 2124.

ciao, Francesco Del Zotti

Codici Esami regionali: troppi colori tra i numeri

 In genere questo blog si sofferma  nel ritrovare "i colori tra i numeri". Questa volta il nostro riscontro è opposto. Sino ad alcuni anni fa quando decidevamo nel nostro sistema di Audit nazionale (Netaudit) di analizzare un eame, ad esempio la ferritina, potevamo contare su un codice univoco dell'esame per tutta Italia.  Negli ultimi anni si sono imposti i cataloghi di esami e prestazioni al livello regionale. Ne è nata una fioritura di codici regionali, l'uno diverso dall'altro. Ci aspettavamo un campo di rose tutte bianche e invece ci siamo imbattuti in un confuso campo multicolore.  Ad esempio, quando abbiamo eseguito l' Audit sulla presenza di Densitometria nelle donne dai 65 anni in su  non abbiamo potuto basarci su un codice univoco ma abbiamo dovuto  includere le varie dizioni nominative dell'esame nelle diverse regioni. Ad ed esempio "Densitometria"; "Dexa"; "DXA"; "MOC".

Mentre si favoleggia di un Fascicolo sanitario nazionale unico, in realtà stanno "fiorendo" Cataloghi di esami e visite regionali talmente multicolori da rendere il tutto più simile ad una Torre di Babele che ad un progetto informatico omogeneo; e ciò a svantaggio di audit e ricerche sul piano nazionale e non solo localistico. 

Femminicidi in Europa: l'Italia calcola a modo suo

 Il drammatico  evento dell'ultimo femminicidio mi ha indotto a valutare le statistiche di confronto europeo. Mi sono fatto aiutare da Bard-google, un sistema di  Intelligenza Artificiale simile a chat-gpt. Come vedrete sotto io ho formulato una domanda e Bard mi ha dato un elenco di statistiche di femminicidi in Europa: elenco in cui mancava l'italia

Allora ho chiedo a Bard dati sull'italia, perché mancava nell'elenco datomi. 

Quindi Bard ha fatto riferimento ad un'altra fonte da cui risulta che il tasso di  femminicidi in Italia è tra i bassi di Europa ....ma... poi Bard mi dice che in Italia i femminicidi si contano in maniera diversa dal resto di Europa. Qui in Italia si valutano come femminicidi solo quelli avvenuti a causa di un partner o marito, e non di un qualsiasi figura maschile magari diversa dal partner. 

Questo e' un esempio in cui da una parte si dimostra che la "semplice" conta necessita di attenzioni precise nel definire in maniera "operativa" ciò  che si misura; e dall'altra si deduce che l'Italia vuole essere in Europa a modo suo, con i conti che sono più dei racconti  che una descrizione della realtà

E sotto, nel Post Scritpum  vedete ciò che ho chiesto a Bard e ciò che Bard mi ha risposto.

saluti, francesco del zotti

****************
  

Traduci in inglese e dammi i dati e le fonti sul tasso di femminicidi per milione

di abitanti dei Paesi europei

Femicide rates in Europe

According to the 2023 European Data Journalism Network (EDJNet) report, the average femicide rate in Europe is 0.4 per million women. This means that, on average, 0.4 women are killed by their partner or ex-partner every million women in Europe.

The countries with the highest femicide rates in Europe are:

• Montenegro (1.3)
• Latvia (1.2)
• Lithuania (1.1)
• Czech Republic (1.0)
• Hungary (0.9)
• Bosnia and Herzegovina (0.8)
• Croatia (0.7)
• Slovenia (0.6)

The countries with the lowest femicide rates in Europe are:

• Malta (0.0)
• Denmark (0.1)
• Ireland (0.1)
• Sweden (0.2)
• Iceland (0.2)
• Norway (0.2)
• Finland (0.3)
• Portugal (0.3)

It is important to note that these rates are based on data from Eurostat, which does not include all countries in Europe. For example, the United Kingdom, Spain, and France do not provide data on femicides to Eurostat.

The EDJNet report also found that there has been an increase in femicides in Europe in recent years. In 2022, there were 1,127 femicides in Europe, up from 1,065 in 2021.

The report attributes this increase to a number of factors, including:

The COVID-19 pandemic, which led to increased isolation and domestic violence
The rise of far-right and extremist groups, which often promote violence against 

women
The lack of adequate support services for women who are victims of violence

The EDJNet report calls for increased efforts to prevent femicides in Europe.

These efforts should include:

• Raising awareness of the issue of femicide
• Providing support services for women who are victims of violence
• Enacting legislation to protect women from violence

Sources

• European Data Journalism Network (EDJNet) report, "Femicide in Europe:
  A comparison between countries" (2023)

Traduci e dimmi il tasso di femminicidi in Italia ,

il cui dato non vedo nella tua risposta

Femicide rates in Italy

According to the 2023 report of the Italian Ministry of the Interior, the femicide rate in Italy is 0.48 per million women.

This means that, on average, 0.48 women are killed by their partner or ex-partner every million women in Italy.

This rate is the second lowest in Europe, after Malta. However, it is important to note that the Italian government defines femicide more narrowly than other countries. In Italy, femicide is defined as the killing of a woman by her partner or ex-partner, while in other countries, it may also include the killing of a woman by a stranger or acquaintance.

The number of femicides in Italy has been increasing in recent years. In 2022, there were 125 femicides in Italy, up from 110 in 2021.

The Italian government has taken a number of steps to address the issue of femicide, including:

Creating a national hotline for victims of domestic violence
Passing legislation to increase the penalties for domestic violence
Providing training for law enforcement and other professionals
on how to identify and respond to domestic violence

However, more needs to be done to prevent femicides in Italy. This includes raising awareness of the issue, providing support services for victims of violence, and enacting legislation to protect women from violence.

Translation

Tassi di femminicidio in Italia

Secondo il rapporto del 2023 del Ministero dell'Interno italiano, il tasso di femminicidio in Italia è di 0,48 per milione di donne. Ciò significa che, in media, 0,48 donne vengono uccise dal loro partner o ex partner ogni milione di donne in Italia.

Questo tasso è il secondo più basso in Europa, dopo Malta. Tuttavia, è importante notare che il governo italiano definisce il femminicidio in modo più restrittivo rispetto ad altri paesi. In Italia, il femminicidio è definito come l'uccisione di una donna dal suo partner o ex partner, mentre in altri paesi può i ncludere anche l'uccisione di una donna da parte di uno sconosciuto o conoscente.

Il numero di femminicidi in Italia è aumentato negli ultimi anni. Nel 2022, ci sono stati 125 femminicidi in Italia, in aumento rispetto ai 110 del 2021.

Il governo italiano ha intrapreso una serie di misure per affrontare il problema del femminicidio, tra cui:

La creazione di un numero verde per le vittime di violenza domestica
L'approvazione di una legge per aumentare le pene per la violenza domestica
La fornitura di formazione per le forze dell'ordine
e altri professionisti su come identificare e rispondere alla violenza domestica

Tuttavia, è necessario fare di più per prevenire i femminicidi in Italia. Ciò include aumentare la consapevolezza del problema, fornire servizi di supporto alle vittime di violenza e approvare leggi per proteggere le donne dalla violenza.

Oltre il grigiore statico dei PDF: i colori dei numeri-risultati degli esami importanti

 Pdf: grigiore contro il colore dei numeri

Nell'epoca del Covid e dell'aumento delle relazioni elettroniche, invece che in presenza, si sta verificando che MMG soli (in ambulatorio o a casa o per strada) ricevano sempre più in forma di PDF i  risultati  degli esami, spediti da parte dei loro pazienti, dei laboratori e delle aziende sanitarie.

Questo accumulo di pdf spinge molte-i colleghe-i  alla soluzione più veloce: l'attachment del pdf, accompagnato dalla riduzione-abolizione della registrazione dei singoli risultati nelle loro rispettive caselle della cartella computerizzata.

Prima del Covid e delle cascate di messaggi elettronici, i pazienti, con la risposta cartacea degli esami di Laboratorio, si recavano dal MMG il quale in genere scriveva nelle caselle opportune i risultati (normali o patologici) degli esami fondamentali (ad es: HB, glicemia, creatinina, col+tri+hdl, ALT) e tutti gli esami alterati. Durante la registrazione dei risultati e-o subito dopo, i MMG informavano *in diretta* i pazienti sui risultati e sul follow-up.

Oggi vi e' il rischio che nel PC di non pochi MMG resti solo il grigiore di questi pdf, foto statiche che aboliscono:  i colori di quei numeri-risultati; aboliscono i colori degli andamenti (la discesa o risalita, nel tempo,  di quei numeri-risultati fornisce al MMG importanti segnali dell'andamento clinico del paziente) ; infine aboliscono i colori dei Netaudit, che sono possibili solo se quei numeri-risultati siano non lasciati nelle foto statiche ma immessi, in cifra, nelle loro appropriate caselle. 

Il pericolo attuale maggiore e'  che quell'ammasso di grigiore ( i tanti pdf senza numeri nelle caselle dei singoli esami) sia l'anticamera di una perdita di professionalità e di relazione-comunicazione con i pazienti. L'invito e'  quello riprendersi i colori dei e tra i numeri, i colori delle loro valutazioni-relazioni condivise tra MMG e pazienti