AI Researcher, AI Safety & Security
TinycodeRemote
Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering
Waarom staat dit op het bord
Een goede testmethode gebruik je niet één keer. Vind je een manier om te meten hoe een AI-systeem ontspoort of misbruikt kan worden, dan kunnen de labs die de krachtigste modellen bouwen die test bij elk nieuw model opnieuw draaien, net als andere onderzoekers in AI-veiligheid. Of dat systemen veiliger maakt, hangt wel af van wat die labs en bedrijven met de uitkomsten doen.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Lead research on AI system behavior, vulnerabilities, and defenses through custom evaluations and autonomous red-teaming for enterprises and frontier labs. - Design and build end-to-end AI evaluations for labs and enterprises, from threat modeling to scoring and reporting. - Research AI failure modes, capability elicitation, and mitigations across models, RAG pipelines, agents, and multi-agent systems. - Advance autonomous red-teaming techniques and develop methods to assess evaluation covera…
Niet de juiste functie? Krijg elke maand nieuwe
Elke eerste dinsdag van de maand: nieuwe vacatures en programma’s van dit bord, plus evenementen in de komende zes weken en het beste van het EA Forum.
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.