Nieuws

Assembleer elke RAG-generatieprompt uit een basisprompt plus de regels die elke vraag nodig heeft

Dit artikel uit de serie 'Enterprise Document Intelligence' beschrijft een dispatcher die voor elke geparseerde vraag een systeemprompt samenstelt uit een vaste basis (BASE) en fragmentspecifieke fragmenten. De dispatcher kiest het schema uit een registry, bouwt de user prompt met de vraag en gelabelde passages, roept het model aan (temperatuur 0) en bewaart het volledige ruwe antwoord voor auditing. Alternatieven zoals één mega-prompt of onafhankelijke per-vorm prompts worden verworpen vanwege tokenverspilling en gebrek aan traceerbaarheid. Het artikel behandelt ook per-veld evidence, dynamic few-shot via retrieval uit een voorbeeldbank, en het belang van het bewaren van de volledige API-respons voor later forensisch onderzoek.

Bron: Towards Data Science

Originele taal: [en-US]

Lees hier het originele artikel