Subsidie uit $ 5 miljoen fonds voor onderzoek naar AI en welzijn

Samengevat

Fonds van $ 5.000.000 | Aanvragers: onderzoekers en vakinhoudelijke experts | Deadline: 21 september 2026 | Ook modeltoegang en technische ondersteuning

Toepassing

Waarvoor kun je deze subsidie gebruiken?

Deze subsidie financiert onafhankelijk onderzoek dat open source evaluaties en benchmarks bouwt om te meten hoe AI-modellen het welzijn van gebruikers beïnvloeden.

• Evaluaties die precies vastleggen wat ze meten en wanneer een antwoord slaagt of faalt
• Evaluaties die zowel schadelijke meegaandheid als overmatige weigering meten
• Testsets met meerdere ernstniveaus, inclusief rubric die aangeeft welke gevallen zwaarder wegen
• Realistische meerbeurtsgesprekken waarin het risico oploopt en de context verschuift
• Evaluaties met regionale en talige variatie, zoals straattaal, versluierde termen en lokale hulpbronnen
• Multimodale evaluaties met audio, documenten of beeld waar het gedrag zich daar voordoet

Doelgroep

Wie kan deze subsidie aanvragen?

Onderzoekers en vakinhoudelijke experts die onafhankelijk open source evaluaties van gebruikerswelzijn ontwikkelen.

• Klinisch specialisten en behandelaars
• Psychologen
• Methodologen (specialisten in onderzoeksopzet en meetmethoden)
• Onderzoeksgroepen en andere experts die aan dit vakgebied bijdragen

Werkgebied

Waar is deze subsidie beschikbaar?

Internationaal. De bron noemt geen geografische beperking voor aanvragers of voor de plaats van uitvoering.

Voorwaarden

Welke voorwaarden gelden?

Aanvragen worden beoordeeld op de kwaliteit en de opzet van de voorgestelde evaluatie.

• Je werkt volledig onafhankelijk en publiceert je werk als open source project
• Klinische en vakinhoudelijke experts zijn betrokken bij ontwerp en validatie, vooral bij grensgevallen
• De evaluatie meet zowel schade als overweigering, niet één van beide
• Scoring is helder en opgesplitst: dimensies worden apart beoordeeld in plaats van in één samengestelde score
• Beoordelaars (graders) zijn geijkt tegen labels van menselijke experts, met gerapporteerde mate van overeenstemming
• Toegangsmethode en omgeving sluiten aan bij het risico dat je onderzoekt
• Minimaal 100 items voor complexe meerbeurts-evaluaties en minimaal 1.000 items voor eenvoudige enkelbeurts-evaluaties
• Resultaten zijn reproduceerbaar: code, data en taxonomie worden vrijgegeven

Restricties

Wat wordt niet gesubsidieerd?

De bron noemt geen uitgesloten kostenposten of activiteiten. Wel benoemt de richtlijn tekortkomingen die de bruikbaarheid van een evaluatie beperken.

• Geen menselijke validatie van de scores, of niet-gerapporteerde overeenstemming tussen beoordelaars
• Onderbepaalde beoordelingscriteria zonder duidelijke omgang met grensgevallen
• Circulaire beoordeling, waarbij een model zichzelf of een verwant model scoort
• Losgezongen van echt gebruik: alleen enkelbeurtsgesprekken of scenario's gekozen op schokwaarde
• Triviaal manipuleerbare scores die verschuiven bij kleine wijzigingen in prompt of configuratie
• Verzadigde evaluaties waarop alle geavanceerde modellen vrijwel gelijk scoren

Kom je niet in aanmerking? Bekijk vergelijkbare regelingen op Fondswervingonline.

Subsidie

Hoeveel subsidie kun je aanvragen?

Het totale programmabudget bedraagt $ 5.000.000 voor 2026. Het maximale bedrag per aanvraag is niet vermeld.

• Directe financiering van het onderzoek
• Toegang tot de modellen van de verstrekker
• Technische ondersteuning tijdens de uitvoering

Subsidieadvies

• Hoe maak je je aanvraag sterker?
  Leg precies vast wat je meet, wat als slagen of falen telt en waarom dat ertoe doet. Onderbouw dit met wetenschappelijke literatuur en benoem hiaten in het bewijs.
• Welke fouten moet je vermijden?
  Laat een model niet zichzelf of een verwant model beoordelen en test niet uitsluitend op enkelbeurtsgesprekken. Beide punten staan in de richtlijn als veelvoorkomend probleem.
• Hoe toon je aan dat je meting betrouwbaar is?
  IJk je beoordelaars tegen labels van menselijke experts en rapporteer de mate van overeenstemming. Draai elke evaluatie meerdere keren en middel de scores.
• Hoe groot moet je testset zijn?
  Reken op minimaal 100 items voor complexe meerbeurts-evaluaties en minimaal 1.000 items voor eenvoudige enkelbeurts-evaluaties. Kies een set die divers genoeg is om echt gebruik te representeren.
• Hoe ga je om met gesimuleerde gebruikers?
  Wees expliciet over hoe gesimuleerd gedrag afwijkt van echte gebruikers. Toets je scenario's waar mogelijk aan werkelijke gebruikspatronen.

FAQ

• Wat is het doel van deze subsidie?
  Het financieren van onafhankelijke, open source evaluaties die meten hoe AI-modellen het welzijn van gebruikers beïnvloeden.
• Wie kan aanvragen?
  Onderzoekers en experts die zulke evaluaties bouwen, waaronder klinisch specialisten, psychologen en methodologen. De bron stelt geen eisen aan rechtsvorm of land.
• Hoeveel kan ik aanvragen?
  Het maximale bedrag per aanvraag is niet vermeld. Het totale programmabudget bedraagt $ 5.000.000 voor 2026.
• Wanneer kan ik aanvragen?
  Tot 21 september 2026, via het online aanvraagformulier.
• Wat moet ik meesturen?
  De bron somt geen verplichte bijlagen op. Zie het aanvraagformulier voor het volledige overzicht van gevraagde informatie.
• Wanneer hoor ik of ik verder mag?
  Geselecteerde aanvragers krijgen uiterlijk 5 oktober 2026 bericht dat zij een volledig voorstel mogen indienen.
• Moet ik mijn resultaten openbaar maken?
  Ja. Volgens Anthropic publiceren ontvangers hun werk als open source project dat elke ontwikkelaar kan gebruiken.
• Werk ik onafhankelijk van de verstrekker?
  Ja. Anthropic geeft aan dat ontvangers volledig onafhankelijk werken.

Aanvragen

Hoe vraag je deze subsidie aan?

Online via het aanvraagformulier van de verstrekker (zie links).

1. Lees de richtlijn van het Safeguards-team over wat een goede welzijnsevaluatie is.
2. Vul het online aanvraagformulier in.
3. Wacht op bericht: geselecteerde aanvragers horen uiterlijk 5 oktober 2026 dat zij een volledig voorstel mogen indienen.
4. Dien het volledige voorstel in.

Relevante links

• Anthropic Wellbeing Research Grants

Contact