ENCoordination and Accountability
Foresight InstituteRemote
Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering
Waarom staat dit op het bord
Er komen steeds meer AI-systemen die met elkaar en met mensen samenwerken zonder dat één partij toezicht houdt, en hoe je dat veilig regelt, is grotendeels onbekend. Met deze onderzoeksbeurs ontwikkel je open protocollen en controlemiddelen die andere onderzoekers en bouwers kunnen overnemen. Het blijft één bijdrage in een jong vakgebied, maar wel een bijdrage aan de basis ervan.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Funding for research on coordination protocols and decentralized alignment enabling safe collaboration among multiple AI agents and humans without centralized control. - Develop coordination infrastructure, credit-assignment protocols, and tooling for human-AI collectives that resist gaming and manipulation. - Design distributed oversight, agent monitoring, and verification systems that maintain safety without relying on single central authority. - Create open platforms and incentive mechanis…
Meer over Foresight InstituteWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.