ENResearch Engineer, Novel AI Platforms for Multiscale Alignment
Future of Life FoundationRemote
Mondiale catastrofale risico’sAI-veiligheidSoftware engineeringOnderzoek
Waarom staat dit op het bord
Veel ideeën om AI-systemen veilig te laten samenwerken bestaan nog vooral op papier, omdat er geen goede omgeving is om ze te testen. Jij bouwt die testomgevingen, en andere onderzoekers in AI-veiligheid gebruiken ze daarna om hun theorieën aan werkende systemen te toetsen.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Develop novel AI platforms and agent systems addressing alignment challenges while combining infrastructure engineering with safety research. - Design and implement architectures for multi-agent execution environments, conflict resolution mechanisms, and cooperative AI systems with alignment properties. - Develop optimization algorithms, testing frameworks, and middleware components to validate theoretical alignment approaches and facilitate secure agent communication. - Build reusable softwa…
Meer over Future of Life FoundationWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.