Generatieve AI in zorginstellingen

Generatieve AI staat momenteel in de schijnwerpers dankzij de hype rond grote taalmodellen en toepassingen zoals ChatGPT. Hoewel het enorme potentieel van grote taalmodellen onmiskenbaar is, zijn er een heel aantal praktische obstakels bij het inzetten van deze technologie in de huidige vorm. De hoge compute requirements voor het trainen en deployen van grote taalmodellen maken dat deze technologie voorlopig enkel ontwikkeld en aangeboden wordt door een handvol commerciële organisaties wereldwijd. Hierdoor rijzen er voor Europese zorginstellingen vele vragen rond inzetbaarheid in een GDPR-conform kader -- privacygevoelige documenten zoals medische gegevens of tekstfragmenten uit een patiëntendossier kunnen immers niet zomaar doorgestuurd worden naar third-party APIs zoals OpenAI.

Als antwoord hierop is in de open source wereld een dubbele inhaalbeweging op gang gekomen. Enerzijds verschijnen er steeds meer grote taalmodellen zoals GPT-NeoX, Llama, Alpaca, Pythia en Dolly, ook onder licenties die commercieel gebruik toelaten. Anderzijds is er een stroomversnelling in applied research en MLOps die het mogelijk maakt om grote taalmodellen efficiënt te downscalen en finetunen op consumer hardware (bv. door low-rank adaptation en parameter-efficient finetuning), zodat deze technologie binnen afzienbare tijd ook binnen het bereik komt van organisaties met een bescheidener budget.
Bij ibis.ai volgen we al deze ontwikkelingen op de voet, en werken we momenteel hard aan manieren om deze technologie inzetbaar te maken zonder dat patiëntendata het ziekenhuis hoeft te verlaten, net zoals bij onze bestaande AI oplossingen.

Verder zijn ook wij nog volop de mogelijkheden van deze nieuwe technologie aan het ontdekken. Om een tipje van de sluier te lichten: hieronder een early prototype demo van een Question Answering applicatie voor je meest prangende vragen over de complexe materie in de Belgische ICD-10 codeerrichtlijnen.
Wordt zeker vervolgd!