Verslaglegging niet te beoordelen door model (N6499): verschil tussen versies

Naar navigatie springen Naar zoeken springen
Mverhaeg (overleg | bijdragen)
k Bot: Kopje Instelbaar
Mwit (overleg | bijdragen)
 
(5 tussenliggende versies door 2 gebruikers niet weergegeven)
Regel 39: Regel 39:


=== Stroomschema: LLM op Consulten ===
=== Stroomschema: LLM op Consulten ===
'''Volgorde LLM-controles'''
Er wordt dagelijks een grote hoeveelheid verslagen opgehaald en middels prompting beoordeeld. Echter, niet alle verslagen hoeven door alle prompts beoordeeld te worden. Bijvoorbeeld: als blijkt uit de verslaglegging dat er geen consult heeft plaatsgevonden, is het logischerwijs ook niet nodig om te beoordelen of er toeslag voor een tolk geregistreerd had mogen worden. Daarom wordt, de in onderstaand figuur beschreven, volgordelijkheid gebruikt. Allereerst wordt beoordeeld of het verslag überhaupt beoordeelbaar is ([[Verslaglegging niet te beoordelen door model (N6499)|N6499]]). Vervolgens wordt beoordeeld of het consult feitelijk is geleverd (N6503). Daarna wordt beoordeeld of er sprake was van een behandelinhoudelijk consult ([[Verslaglegging duidt op mogelijk incorrecte behandelinhoudelijkheid bij registratie van consult (N6502)|N6502]]). Wanneer een verslag deze stappen heeft doorlopen, zonder voor te komen op die controles wordt het verslag dus onderdeel van de controlemassa die door de rest van de prompting controles wordt beoordeeld. Een opsomming van deze overige prompting controles staan [[AI - Automatisering Zorgregistratie (GGZ)|hier]] gedocumenteerd. Dit is dus ook de volgordelijkheid die wordt gebruikt voor het in productie nemen van de AI controles, om een zo zuiver mogelijke controlemassa te genereren voor de prompting controles.
[[Bestand:StroomschemaLLM.png|geen|miniatuur|Stroomschema prompting controles]]


Aangezien er veel data door de het Large Language Model gaat, waarbij die voor consulten ook nog eens van elkaar afhankelijk is, is er besloten om een bepaalde volgorde toe te passen wat betreft het testen en in productie nemen van de controles. De volgorde is als volgt:
===== Prompt-ontwerp =====
Beschrijving:  


'''<u>Stap 1</u>:''' [https://www.normenkaderzorg.nl/N6499 N6499] - Is verslag te beoordelen?
* Bepaalt of een verslag voldoende basis biedt om feitelijke levering te beoordelen.


  '''Nee'''    → Op N6499 (Stop)
Hoofdstappen:


  '''Ja'''      → Volgende stap
* Leest verslag zorgvuldig.
* Toetst of er expliciet/impliciet contact, handeling of verwijzing naar contact is.
* Oordeelt of beoordeling mogelijk is.
* Bij twijfel wordt het verslag altijd meegenomen voor beoordeling.


'''↓'''
===== Negeren van acties =====
Het kan voorkomen dat er fout wordt gesignaleerd. In dat geval kan de actie in ValueCare genegeerd worden door de opmerking ‘AI onjuist’ toe te voegen. Deze informatie wordt gebruikt om het model bij te trainen.


'''<u>Stap 2</u>:''' [https://www.normenkaderzorg.nl/N6503 N6503] - Blijkt uit verslag dat consult feitelijk is geleverd?
Over het algemeen geldt dat als de kolom ‘Opmerking’ niet is ingevuld, de actie automatisch wordt teruggezet. Wil je een actie negeren, dan moet de opmerking dus altijd worden ingevuld.


  '''Nee'''    → Op N6503 (Stop)
Wanneer er een wijziging in de data plaatsvindt bij een genegeerde actie, blijft deze actie genegeerd. Een uitzondering hierop is wanneer de uitkomst van het taalmodel wijzigt van WAAR naar ONWAAR (of andersom). Dergelijke veranderingen zijn relevant en worden daarom getoond aan de instelling.
 
  '''Ja'''      → Volgende stap
 
'''↓'''
 
'''<u>Stap 3</u>:''' [[N6502]] - Blijkt uit verslag dat consult behandelinhoudelijk was?
 
  '''Nee'''    → Op N6502 (Stop)
 
  '''Ja'''        → <u>Consult goedgekeurd</u>
 
'''↓'''
 
'''<u>Stap 4</u>:''' Verder naar controles:
 
                   • Reistijd (N6510)
 
                   • Tolk (N6512)
 
                   • Diagnostiek/behandeling (N6507/N6508)
 
===== Werkinstructie van de AI =====
Stel vast dat het geregistreerde consult ook daadwerkelijk feitelijk geleverd is door onderstaande vragen te beantwoorden:
 
# Is het verslag van het consult inderdaad niet te beoordelen vanwege slechte/onduidelijke/korte verslaglegging?
 
Het kan voorkomen dat het verslag wel te beoordelen was. In dat geval kan de actie in ValueCare genegeerd worden met de tekst: 'AI onjuist'. Deze data wordt gebruikt om het model bij te trainen. Voor het negeren van acties geldt over het algemeen dat als de kolom 'Opmerking' niet gevuld is, de actie automatisch wordt teruggezet. Als de actie genegeerd dient te worden moet de opmerking dus gevuld worden.


===== Programmeerbare norm =====
===== Programmeerbare norm =====
Regel 100: Regel 79:


===== Berekening financiële impact =====
===== Berekening financiële impact =====
De financiële impact is de waarde van het onrechtmatige consult.
Niet van toepassing


{{VALUECARE}}
{{VALUECARE}}