FAQ - Digitale Assistent GGZ: verschil tussen versies
Naar navigatie springen
Naar zoeken springen
Geen bewerkingssamenvatting |
Geen bewerkingssamenvatting |
||
| Regel 190: | Regel 190: | ||
De performance van het generieke samenvatting taalmodel wordt in de regel verbeterd met betere prompts. Input voor de verbetering zijn de wijzigingen die gebruikers maken in de verslagen. Er worden geen privacy gevoelige gegevens gebruikt bij deze verbeteringen. Prompts bevatten simpelweg geen privacy gevoelige gegevens. | De performance van het generieke samenvatting taalmodel wordt in de regel verbeterd met betere prompts. Input voor de verbetering zijn de wijzigingen die gebruikers maken in de verslagen. Er worden geen privacy gevoelige gegevens gebruikt bij deze verbeteringen. Prompts bevatten simpelweg geen privacy gevoelige gegevens. | ||
== Duurzaamheid == | |||
=== Hoeveel energie kost het om tot een verslag te komen? === | |||
Bij het maken van een verslag met de Digitale Assistent zijn de volgende stappen van belang zijn voor het berekenen van de energiebehoefte: | |||
* Luisteren, audio-encoderen en streamen | |||
* Transcriberen | |||
* Samenvatting maken | |||
Een schatting van het energieverbruik van de Digitale Assistent is als volgt: | |||
* GPT-4: | |||
** Verbruik LLMs schaalt kwadratish met input-lengte. | |||
** Geschat verbruik [epoch.ai]: 2Wh voor 10.000 tokens | |||
* Laptop: | |||
** CPU en beeldscherm | |||
** 60 W voor tekstverwerken | |||
** 60 W voor verwerking microfoon, audio-encoding, transmissie | |||
* Mobiel: | |||
** 3 W voor verwerking microfoon, audio-encoding, transmissie | |||
* Transcriptie: | |||
** 300W (A6000 gpu + whisper, 1m per 1h audio) | |||
In het onderstaande plaatje is de energiebehoefte van het maken van een verslag met de Digitale Assistent via een laptop en mobiel aangegeven. Daarnaast is ook het energieverbruik aangegeven bij het handmatig maken van een verslag met behulp van een laptop. Conclusies: 1) gebruik van de Digitale Assistent kost iets meer energie dan het handmatig meetypen op een laptop, 2) gebruik van een mobiel kost substantieel minder energie. | |||
[[Bestand:Digitale Assistent energieverbruik.png|geen|miniatuur]] | |||
Conclusie | |||
== Certificering == | == Certificering == | ||