Samengevat
Fonds van $ 5.000.000 | Aanvragers: onderzoekers en vakinhoudelijke experts | Deadline: 21 september 2026 | Ook modeltoegang en technische ondersteuning
Toepassing
Waarvoor kun je deze subsidie gebruiken?
Deze subsidie financiert onafhankelijk onderzoek dat open source evaluaties en benchmarks bouwt om te meten hoe AI-modellen het welzijn van gebruikers beïnvloeden.
- Evaluaties die precies vastleggen wat ze meten en wanneer een antwoord slaagt of faalt
- Evaluaties die zowel schadelijke meegaandheid als overmatige weigering meten
- Testsets met meerdere ernstniveaus, inclusief rubric die aangeeft welke gevallen zwaarder wegen
- Realistische meerbeurtsgesprekken waarin het risico oploopt en de context verschuift
- Evaluaties met regionale en talige variatie, zoals straattaal, versluierde termen en lokale hulpbronnen
- Multimodale evaluaties met audio, documenten of beeld waar het gedrag zich daar voordoet
Doelgroep
Wie kan deze subsidie aanvragen?
Onderzoekers en vakinhoudelijke experts die onafhankelijk open source evaluaties van gebruikerswelzijn ontwikkelen.
- Klinisch specialisten en behandelaars
- Psychologen
- Methodologen (specialisten in onderzoeksopzet en meetmethoden)
- Onderzoeksgroepen en andere experts die aan dit vakgebied bijdragen
Werkgebied
Waar is deze subsidie beschikbaar?
Internationaal. De bron noemt geen geografische beperking voor aanvragers of voor de plaats van uitvoering.
Voorwaarden
Welke voorwaarden gelden?
Aanvragen worden beoordeeld op de kwaliteit en de opzet van de voorgestelde evaluatie.
- Je werkt volledig onafhankelijk en publiceert je werk als open source project
- Klinische en vakinhoudelijke experts zijn betrokken bij ontwerp en validatie, vooral bij grensgevallen
- De evaluatie meet zowel schade als overweigering, niet één van beide
- Scoring is helder en opgesplitst: dimensies worden apart beoordeeld in plaats van in één samengestelde score
- Beoordelaars (graders) zijn geijkt tegen labels van menselijke experts, met gerapporteerde mate van overeenstemming
- Toegangsmethode en omgeving sluiten aan bij het risico dat je onderzoekt
- Minimaal 100 items voor complexe meerbeurts-evaluaties en minimaal 1.000 items voor eenvoudige enkelbeurts-evaluaties
- Resultaten zijn reproduceerbaar: code, data en taxonomie worden vrijgegeven
Restricties
Wat wordt niet gesubsidieerd?
De bron noemt geen uitgesloten kostenposten of activiteiten. Wel benoemt de richtlijn tekortkomingen die de bruikbaarheid van een evaluatie beperken.
- Geen menselijke validatie van de scores, of niet-gerapporteerde overeenstemming tussen beoordelaars
- Onderbepaalde beoordelingscriteria zonder duidelijke omgang met grensgevallen
- Circulaire beoordeling, waarbij een model zichzelf of een verwant model scoort
- Losgezongen van echt gebruik: alleen enkelbeurtsgesprekken of scenario's gekozen op schokwaarde
- Triviaal manipuleerbare scores die verschuiven bij kleine wijzigingen in prompt of configuratie
- Verzadigde evaluaties waarop alle geavanceerde modellen vrijwel gelijk scoren
Kom je niet in aanmerking? Bekijk vergelijkbare regelingen op Fondswervingonline.
Subsidie
Hoeveel subsidie kun je aanvragen?
Het totale programmabudget bedraagt $ 5.000.000 voor 2026. Het maximale bedrag per aanvraag is niet vermeld.
- Directe financiering van het onderzoek
- Toegang tot de modellen van de verstrekker
- Technische ondersteuning tijdens de uitvoering
Aanvragen
Hoe vraag je deze subsidie aan?
Online via het aanvraagformulier van de verstrekker (zie links).
- Lees de richtlijn van het Safeguards-team over wat een goede welzijnsevaluatie is.
- Vul het online aanvraagformulier in.
- Wacht op bericht: geselecteerde aanvragers horen uiterlijk 5 oktober 2026 dat zij een volledig voorstel mogen indienen.
- Dien het volledige voorstel in.
Bronnen: Anthropic — aankondiging subsidieprogramma welzijnsonderzoek, Anthropic Safeguards — richtlijn "What we look for in a wellbeing evaluation" (PDF), Anthropic — online aanvraagformulier.
