EPFL stellt Open Source LLM für Medizinfachkräfte vor
Ein Forscherteam der EPFL hat zwei grosse Sprachmodelle entwickelt, die auf den medizinischen Bereich spezialisiert sind. Sie tragen die Namen Meditron 7B und 70B, sind Open Source und basieren auf Llama-2.
![(Source: Sensay/fotolia.com)](https://data.netzwoche.ch/styles/np8_full/s3/media/2023/11/29/health_pills_medicine_doctor_phone_sensay-fotolia_119775830_xxl.jpg?itok=3sYIyaqz)
Forscherinnen und Forscher der Fakultät für Informatik und Kommunikation der EPFL haben zwei grosse Sprachmodelle (LLM) entwickelt, die auf den Gesundheitsbereich spezialisiert sind. Sie tragen die Namen Meditron 7B und 70B und zeichnen sich dadurch aus, dass sie als Open Source verfügbar sind, wie die Westschweizer Hochschule in ihrer Pressemitteilung betont.
Basierend auf dem von Meta bereitgestellten Llama-2-Modell wurde Meditron mithilfe akribisch ausgewählter medizinischer Datenquellen und mit Hilfe von Klinikern und Biologen trainiert. Zu diesen Quellen gehört medizinische Literatur, die von Fachleuten begutachtet wurde und aus frei zugänglichen Datenbanken wie PubMed stammt. Ebenso wie Empfehlungen für die klinische Praxis, die aus verschiedenen Quellen stammen. Darunter auch die des IKRK.
"Nachdem wir Meditron entwickelt hatten, haben wir es anhand von vier wichtigen medizinischen Benchmarks bewertet und dabei gezeigt, dass seine Leistung die aller anderen verfügbaren Open-Source-Modelle sowie die der geschlossenen Modelle GPT-3.5 und Med-PaLM übertrifft. Meditron-70B ist sogar weniger als 5 Prozent von GPT-4 und 10 Prozent von Med-PaLM-2 entfernt, den beiden leistungsfähigsten, aber geschlossenen Modellen, die derzeit an das medizinische Wissen angepasst sind", erklärt Zeming Chen, Doktorand im Labor für die Verarbeitung natürlicher Sprache (NLP) an der EPFL.
"Wir haben Meditron entwickelt, weil der Zugang zu medizinischem Wissen ein universelles Recht sein sollte. Wir hoffen, dass es ein nützlicher Ausgangspunkt für Forscherinnen und Forscher sein wird, die diese Technologie in ihrer Praxis sicher anpassen und validieren wollen", erklärt Antoine Bosselut, leitender Forscher des Projekts, seinerseits.
![(Source: Pawina / stock.adobe.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/proton_wallet_2024.jpeg?itok=cfViQUYL)
Proton startet mit Kryptowallet
![G.V. Shivashankar entwickelt derzeit am PSI verschiedene Verfahren zur Diagnose und Prognose von Krebs. (Source: Paul Scherrer Institut PSI/Markus Fischer)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/web20231116_shivashankar_0048.jpg?itok=zfzwJ7s8)
KI-Bildanalyse kann Brustkrebs-Stadium besser identifizieren
![Jean-Pierre Mustier übernimmt als neuer CEO bei Atos. (Source: Atos.net)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/mustier_atos.jpg?itok=c11BX9xf)
Atos ernennt nächsten CEO
![(Source: NOAA / Unsplash)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/google_wetter-ki_2024.jpg?itok=3ZIDlofC)
Google vereint KI und Physik für Wettervorhersagen
![(Source: Kasia Derenda / unsplash.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/kasia-derenda-fl3rf_t8dms-unsplash.jpg?itok=72tLCDjs)
Phisher phishen am liebsten mit Microsoft
![(Source: DC Studio/Freepik.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/ransomware.jpg?itok=Ke4dCDqV)
Angreifer nehmen kritische Infrastrukturen ins Visier
![(Source: OrsiO / Pixabay.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/webcat-636172_1280.jpg?itok=4c5VDYw5)
Wenn orangene Katzen Unsinn veranstalten
![(Source: freshidea - stock.adobe.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/02/adobestock_416609395.jpeg?itok=lzCTG-o-)
Erfolgreiche Co-Creation im Digital Banking dank Design Thinking
![Rolf Unterberger, Mitglied des Verwaltungsrats, gratuliert Chief Sales Officer Gianni Mastromarino mit einem Pokal (v.l.). (Source: zVg)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/25/pokaluebergabe_cmyk.jpg?itok=8-ERumlE)
Assmann IT-Solutions feiert 15-Jahre-Jubiläum
![(Source: Micha Brändli / unsplash.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/micha-brandli-xteagvru_1u-unsplash.jpg?itok=YakH3APY)