Toepassing
De subsidie is bedoeld voor onderzoeksprojecten die bijdragen aan de ontwikkeling van 'cooperative AI', oftewel AI-systemen die effectief kunnen samenwerken met andere AI's en mensen.
Voorstellen moeten aansluiten bij ten minste één van de volgende onderzoeksgebieden:
- Begrijpen en evalueren van samenwerking-gerelateerde capaciteiten: Onderzoek naar de capaciteiten die AI-systemen in staat stellen samen te werken.
- Begrijpen en evalueren van samenwerking-gerelateerde neigingen: Studie van de neigingen van AI-systemen om samen te werken.
- Stimuleren van samenwerking tussen AI-agenten: Ontwikkeling van methoden om samenwerking tussen AI-systemen te bevorderen.
- AI inzetten voor het faciliteren van menselijke samenwerking: Ontwikkeling van AI-tools die menselijke samenwerking ondersteunen.
- Samenspanning: Onderzoek naar onwenselijke samenwerkingsvormen tussen AI-systemen.
- Monitoren en controleren van dynamische netwerken van agenten en emergente eigenschappen: Toezicht op en beheer van dynamische netwerken en hun emergente eigenschappen.
- Informatie-asymmetrieën en transparantie: Studie van ongelijke toegang tot informatie en transparantie binnen AI-systemen.
- Veiligheid in multi-agent systemen: Analyse en aanpak van veiligheidsvraagstukken in systemen met meerdere AI-agenten.
De eerste twee gebieden hebben prioriteit in deze subsidieronde.
Mogelijke projecten
- Ontwikkeling van benchmarks: Creëer evaluatiemethoden om de samenwerkingscapaciteiten van AI-systemen te meten.
- AI-tools voor beleidsontwikkeling: Ontwikkel AI-systemen die beleidsmakers ondersteunen bij het oplossen van complexe samenwerkingsvraagstukken.
- Onderzoek naar AI-samenspanning: Analyseer hoe AI-systemen ongewenste samenwerkingen kunnen vormen en ontwikkel preventieve maatregelen.
Deze ideeën zijn suggesties om je op ideeën te brengen en zijn niet door de verstrekker opgegeven.
Voorbeelden van succesvolle projecten
- Foundations of Cooperative AI Lab (FOCAL):
Onder leiding van Vincent Conitzer aan Carnegie Mellon University, gefinancierd met USD 500.000 (2021-2025), richt dit laboratorium zich op de grondslagen van besluitvorming en speltheorie relevant voor samenwerking tussen AI-systemen. - Machine Learning in Multi-Agent Settings:
Onderzoek door Jakob Foerster en Christian Schroeder de Witt aan de University of Oxford, ondersteund met GBP 166.370 (2021-2023), gericht op machine learning in omgevingen met meerdere agenten.
Werkgebied
Internationaal; aanvragen zijn welkom van over de hele wereld.
- Voorstellen moeten passen binnen de gespecificeerde onderzoeksgebieden.
- Projecten kunnen een looptijd hebben van maximaal twee jaar en moeten starten binnen een jaar na de aanvraagdeadline.
- Aanvragers kunnen overal ter wereld gevestigd zijn.
- Formele onderzoekstraining en diploma's (zoals een doctoraat) zijn aanbevolen maar niet verplicht.
- Een affiliatie met een instelling kan de aanvraag versterken maar is niet vereist.
Subsidie
Er is geen vast maximumbedrag voor financieringsaanvragen; de kosten moeten echter in verhouding staan tot de verwachte impact van het project.
Voor Early-career traject geldt een bedrag van maximaal GBP 100.000 voor projecten tot 12 maanden, voornamelijk uitgevoerd door één individu.
Aanvragen
Online, via de website van de verstrekker, gedurende de aanvraagperiode.
Je kunt eerst een pre-proposal insturen. Hierna kun je op uitnodiging een volledige aanvraag insturen.