Rammeverket som ble utviklet i Lausanne dokumenterer data, kode og evalueringer for å gjøre bruken av språkmodeller i helsevesenet mer inspiserbar.

Helsevesen er et av feltene der innføringen avkunstig intelligens og stordata Det går frem med større forsiktighet, ikke på grunn av manglende interesse, men fordi feil har direkte konsekvenser for folk. Store språkmodeller brukes allerede, eller testes, for å støtte legers arbeid: de kan bidra til å veilede en diagnose, oppsummere klinisk dokumentasjon, foreslå prioriteringer eller bistå i beslutninger på akuttmottak. Det kritiske punktet er imidlertid fortsatt verifiserbarhet. Hvis et system produserer en anbefaling uten å gjøre dataene, metodene og opplæringskriteriene tilgjengelige, blir uavhengig kontroll skjør.

Det er på dette punktet han griper inn MeditronFO, annonsert avÉcole Polytechnique Fédérale de LausanneIfølge Universitetet i Vaud er dette det første helt åpne rammeverket for bygging store språkmodelllegerDet legges ikke bare vekt på tilgjengeligheten av den endelige modellen, men på hele utviklingskjeden: data, kode, opplæringsprosedyrer, dokumentasjon og evalueringer. I en regulert, sensitiv og profesjonelt ansvarlig bransje er denne forskjellen ikke ubetydelig.

Prosjektet ble født i Laboratorium for intelligent global helse og humanitær responsteknologi, kjent som Lys, innenfor School of Computer and Communication Sciences ved EPFL. Det tekniske grunnlaget er det åpne som allerede brukes av Meditron, utgitt i 2023, men utviklingen som presenteres nå tar sikte på å gjøre hele konstruksjonsmetoden mer transparent. Det uttalte målet er å muliggjøre "medikalisering" av grunnleggende åpne modeller, det vil si deres tilpasning til helsevesenet gjennom klinisk kunnskap, dokumenterte datasett og spesifikke valideringsprosedyrer.

Hvorfor åpningen veier mer enn bare modellutgivelsen

I kunstig intelligens-språk brukes ordet «åpen» ofte inkonsekvent. En modell kan gjøre vekter tilgjengelige, men holde datasettene, filtreringstrinnene, treningsvalgene eller evalueringsprotokollene ugjennomsiktige. For klinisk bruk skaper denne delvise åpenheten et revisjonsproblem: sykehus, forskere, myndigheter og det medisinske miljøet kan se resultatene, men ikke alltid rekonstruere hvordan de ble innhentet.

MeditronFO forsøker å bygge bro over dette gapet. Rammeverket har blitt brukt på helt åpne basemodeller, inkludert OLMo, EuroLLM e Åpne, en sveitsisk modell utviklet av EPFL og ETH Zürich som en del av det sveitsiske AI-initiativet. Flyttingen er viktig fordi den flytter fokuset fra isolert ytelse til utviklingssporbarhetInnen medisin kan det å vite hvilken vei et system tar til en respons være like viktig som å måle nøyaktigheten av selve responsen.

Xavier Theimer-Lienhard, en doktorgradsstudent som leder Meditron ved LiGHT, oppsummerer prinsippet med en direkte sammenligning mellom klinisk trening og modelltrening.

«Vi ville aldri stole på en lege hvis utdanning ikke kunne verifiseres: den samme standarden bør gjelde for kunstig intelligens i helsevesenet.»

Uttalelsen tydeliggjør et aspekt som ofte overses i debatten om generative systemer: pålitelighet sammenfaller ikke med tilgjengeligheten av et effektivt grensesnitt. I stedet krever det dokumentasjon, reproduserbarhet og evnen til å bli kontrollert. Problemstillingen gjelder også sikkerhet og personvern, fordi helsemodeller behandler kunnskap og data som kan grense til sensitiv informasjon, selv når de ikke direkte inkluderer identifiserbare pasientjournaler.

Den åpne komponenten eliminerer ikke i seg selv risikoen for skjevhet, feil eller misbruk. Den reduserer imidlertid en av hovedbarrierene for uavhengig analyse. Med andre ord garanterer den ikke automatisk klinisk sikkerhet, men den gjør arbeidet med verifisering, sammenligning og forbedring mer konkret.

Klinikere involvert i konstruksjonen, ikke bare den endelige testen

Et særegent trekk ved prosjektet er involveringen av helsepersonell fra de tidligste stadiene. Ifølge EPFL ble MeditronFO utviklet med klinikere involvert i datautvelgelse, validering av resultater og identifisering av potensielt kritiske problemer. Denne tilnærmingen reduserer risikoen for å utvikle formelt sofistikerte verktøy som er dårlig tilpasset daglig praksis.

Validering går også gjennom MOOVE, et akronym for Massive Open Online Validation and Evaluations, et miljø der klinikere deltar i evaluering og kontinuerlig forbedring av modeller. For en teknologi som er utviklet for å samhandle med medisin i den virkelige verden, er dette et avgjørende poeng: utfordringen er ikke bare å svare riktig på et spørsmål, men å gjøre det under forhold som ligner på de en lege jobber under, med tidsbegrensninger, ufullstendig informasjon og driftsansvar.

Rammeverket kombinerer offentlige medisinske datasett med klinikervurderte syntetiske data hentet fra medisinske undersøkelser, retningslinjer og pasienttilfeller fra den virkelige verden. EPFL-kilden indikerer også bruken av et sett med ekspertkuraterte kliniske datasett hentet fra over 46 000 retningslinjer for klinisk praksisDette er viktige data fordi de viser omfanget av dokumentasjonen som brukes til å spesialisere modellene, men de må leses i sammenheng med kvalitetsspørsmålet: i helsevesenet er ikke mengden innarbeidet kunnskap nok hvis den ikke ledsages av utvalg, gjennomgang og kontekstualisering.

Mary-Anne Hartley, lege og direktør for ,Lys kobler modellenes konkurranseevne til den aktive rollen til klinikere og lokalsamfunn.

«Funnene våre viser at konkurransedyktige medisinske modeller kan bygges med aktiv involvering fra klinikere og lokalsamfunn.»

Dette skiftet har organisatoriske implikasjoner. Medisinsk AI presenteres ikke som et verktøy som påvirkes av helsevesenet utenfra, men som en programvarearkitektur som skal utvikles sammen med de som er kjent med prosedyrer, tilbakevendende feil, institusjonelle begrensninger og forskjeller mellom kontekster. For helseteknologiselskaper, universitetssentre og sykehus er lærdommen klar: overføringen fra sentrum av forskning og utvikling Klinisk praksis krever styring, ikke bare datakraft.

Tekniske resultater og rollen til Sveits' høye datakraft

Når det gjelder ytelse, rapporterer EPFL at hver MeditronFO-modell presterte bedre enn sin respektive basismodell. Det beste resultatet som ble angitt i pressemeldingen gjelder Apertus-70B-MeditronFO, noe som forbedret resultatene på medisinske tester 6,6 prosentpoeng sammenlignet med den underliggende modellen. Dataene bør tolkes med forsiktighet: referansetall er nyttige for å sammenligne tekniske konfigurasjoner, men de er ikke en erstatning for kliniske evalueringer i virkelige miljøer.

Den industrielle relevansen av saken ligger også i infrastrukturen som støtter den. Utviklingen av MeditronFO ble støttet av Sveitsisk AI-initiativ, samarbeid mellom EPFL, ETH Zürich og CSCS, det sveitsiske nasjonale superdatasenteret. Ifølge initiativets nettsted ble programmet lansert i desember 2023 med over 10 millioner GPU-timer på Alps, superdatamaskinen som drives av CSCS, og med finansiering fra 20 millioner sveitsiske franc av det føderale polytekniske domenet.

Disse tallene viser hvorfor konkurransen innen AI i helsevesenet ikke bare handler om algoritmer og datasett. Det krever datakraft, distribuert ekspertise, evalueringsinfrastrukturer og en kritisk masse av forskning. Det sveitsiske AI-initiativet hevder selv å dra nytte av bidragene fra over 800 forskere, inkludert 70 professorer fokusert på kunstig intelligens, fra mer enn ti akademiske institusjoner i SveitsI denne firkanten, Illinois superdatamaskin Det er ikke en enkel teknisk akselerator, men en del av vitenskapelig suverenitet.

Koblingen med Apertus forsterker også denne tolkningen. Prosjektets nettsted beskriver det som en fullstendig åpen fundamentmodell for suveren AI, utviklet av Swiss AI Initiative med EPFL, ETH Zürich og CSCS. Apertus hevder åpenhet i sine vekter, data, kode, metoder og justeringsprinsipper. MeditronFO bruker dette fundamentet som en av modellene for å spesialisere seg innen det medisinske feltet, og demonstrerer hvordan en oppstrøms tilnærming til åpenhet kan generere mer kontrollerbare vertikale applikasjoner.

Fra eksperimentering til avdelinger, testområdet i Tanzania

Neste steg vil ikke bare være en sammenligning av nye modeller. Ifølge EPFL forbereder teamet kliniske studier på flere steder, fra Sveits alle Tanzania, for å evaluere hvordan leger bruker kunstig intelligens i den virkelige helseverden. Studiene vil observere om klinikere følger eller avviser de genererte anbefalingene, og hvordan disse beslutningene påvirker pasientbehandlingen.

Det flerårige prosjektet som EPFL nevnte, kalt MEDISINSK BRUK, har også som mål å forstå om AI kan bidra til å forbedre kvaliteten på behandlingen ved å redusere unødvendige behandlinger og intervensjoner. Dette er et delikat område: et beslutningsstøttesystem kan være nyttig hvis det forbedrer kvaliteten på tilgjengelig informasjon, men det kan bli problematisk hvis det introduserer automatisering eller oppmuntrer til overdreven tillit til algoritmiske anbefalinger.

Hartley etterlyser spesifikt behovet for å måle effekten i behandlingsforløp, ikke bare i tekniske tester.

«Det er viktig å få tilbakemeldinger fra den virkelige verden basert på pasientutfall.»

Klinisk kunstig intelligens vil bli mer troverdig når den kan inspiseres

For helsesektoren foreslår MeditronFO en klar retning: klinisk AI vil være mer troverdig når den kan inspiseres, tilpasses og evalueres av uavhengige miljøer. For bedrifter betyr dette at proprietære modeller må håndtere økende forventninger til åpenhet. For institusjoner gjelder problemstillingen evnen til å definere regler som skiller mellom formell og faktisk åpenhet.

Det er urealistisk å tro at alle medisinske systemer er basert på maskinlæring e dyp læring bli helt åpne. Det er imidlertid sannsynlig at helsevesenet vil kreve høyere standarder for dokumentasjon, reviderbarhet og ansvarlighet, spesielt når AI kommer inn i beslutningsområder. I denne forstand bør MeditronFO ikke bare sees på som en ny modell, men som et eksperiment innen teknisk styring: det synliggjør det som ofte forblir skjult bak en generert respons.

Det avgjørende spørsmålet er derfor ikke det abstrakte løftet om kraftigere AI. Det handler om hvilken type infrastruktur helsesystemer, universiteter og regulatorer har til hensikt å akseptere. Hvis modellene blir en del av klinisk praksis, må tilliten være basert på verifiserbare elementer: dataopprinnelse, uavhengige revisjoner, transparent målt ytelse og identifiserbart menneskelig ansvar. MeditronFO plasserer disse elementene i sentrum av diskusjonen, og lar den kliniske studien vurdere deres operative levedyktighet.

Meditron Open Sources: Auditable AI-arbeidsflyter for kliniske LLM-er

Her er tre innsikter som kan interessere deg:

Fra EPFL en ny multimodal modell for mer fleksibel AI
Apertus er den sveitsiske «åpne AI-en» for en mer transparent fremtid.
Et banebrytende helsesenter basert utelukkende på AI i Genève