ENAI Offense-Defense Dynamics Lead Researcher
Future of Life FoundationRemote
Waarom staat dit op het bord
Of een nieuw AI-systeem vooral aanvallers of vooral verdedigers sterker maakt, hangt waarschijnlijk af van eigenschappen die je vooraf kunt meten, zoals hoe breed het inzetbaar is en hoe makkelijk iedereen erbij kan. Deze onderzoeker moet die maatstaf ontwikkelen. Lukt dat, dan kunnen beleidsmakers, ontwikkelaars en beveiligers hem bij elke nieuwe release zelf toepassen, in plaats van achteraf te ontdekken welke kant het op viel.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Lead research on how AI system attributes determine whether they predominantly threaten or protect society through offense-defense dynamics analysis. - Develop quantitative system dynamics models and simulations identifying leverage points where policy interventions could shift offense-defense balances toward safer outcomes. - Expand and operationalize the offense/defense dynamics taxonomy, developing metrics and models to predict whether specific AI features favor offensive or defensive appl…
Meer over Future of Life FoundationWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.