Wetenschappers hebben een innovatief generatief basismodel ontwikkeld, genaamd Foresight-England (Foresight-E), dat op nationale schaal elektronische gezondheidsgegevens analyseert. Het project is specifiek ontworpen om inzicht te krijgen in de directe en indirecte gevolgen van de COVID-19-pandemie voor de volksgezondheid door medische gebeurtenissen te voorspellen.
Het model is volledig gerealiseerd binnen de beveiligde digitale omgeving van NHS England. Technisch gezien gaat het om een 'transformer decoder' met een omvang van 243 miljoen parameters. De basis van het systeem vormt een gigantische hoeveelheid geanonimiseerde, longitudinale data uit elektronische patiëntendossiers van ongeveer 61 miljoen individuen. Deze dataset is zeer breed samengesteld en bevat informatie uit de eerste en tweede lijn van de zorg, registraties van overlijdens en specifieke data gerelateerd aan COVID-19.
Voor de training en de daaropvolgende validatie van Foresight-E is gebruikgemaakt van een subset van 90 procent van de beschikbare data, wat neerkomt op 54,9 miljoen personen. Deze gegevens beslaan de periode van november 2018 tot en met december 2022. De overige 10 procent van de dossiers, bestaande uit 6,1 miljoen personen, is apart gehouden om de prestaties van het model objectief te kunnen toetsen. Volgens een publicatie op arxiv.org is er een specifiek evaluatiekader opgezet om sterfte en ziekenhuisopnames door COVID-19 binnen een termijn van 30 dagen te onderzoeken, waarbij ook rekening is gehouden met vaccinatiestatus en demografische kenmerken.
Foresight-E werkt op een autoregressieve manier, wat betekent dat het patiëntentijdlijnen bestudeert om de volgende medische gebeurtenis te voorspellen op basis van de eerdere geschiedenis van een patiënt. Een kenmerkend aspect is de 'zero-shot' functionaliteit; het model kan elk concept uit een vocabulaire van circa 40.000 codes voorspellen zonder dat hiervoor specifieke training per taak nodig is. Om de klinische precisie te waarborgen, maakt het systeem gebruik van een tokenisatieschema dat de granulariteit van medische standaarden zoals SNOMED CT, OPCS-4 en ICD-10 behoudt. Hierbij wordt zowel de absolute als de relatieve timing van medische incidenten meegewogen.
Om de generalisatie naar toekomstige data te testen, zijn medische gebeurtenissen uit 2023 gebruikt. De resultaten hiervan zijn vergeleken met traditionele statistische methoden, waaronder XGBoost en logistische regressie. Hoewel internationale media zoals thenationalnews.com regelmatig rapporteren over de intersectie van technologie en gezondheidszorg, blijft de technische documentatie van dit specifieke project vooralsnog beperkt tot de wetenschappelijke pre-print.
Er is echter een belangrijke kanttekening bij de huidige status van het project. In de documentatie op wordt vermeld dat NHS England de toegang tot de data voor het Foresight-E-project heeft gepauzeerd. Hierdoor zijn de kwantitatieve resultaten van het onderzoek momenteel niet publiekelijk beschikbaar. De auteurs focussen zich in hun huidige rapportage daarom vooral op de methodologie en de strategie voor tokenisatie.
Daarnaast benadrukken de auteurs en het platform dat het om een e-print gaat die nog niet door vakgenoten is beoordeeld via een peer-review proces. De informatie mag daarom niet als vaststaand feit worden beschouwd of worden ingezet om klinische praktijken te sturen zonder overleg met experts in het vakgebied.