ENConceptual Reasoning Researcher
Trajectory Labs, PBCRemote
Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering
Waarom staat dit op het bord
Wie AI-modellen laat meedenken over moeilijke vragen, zoals hoe je krachtige AI veilig en bestuurbaar houdt, moet weten waar die modellen overtuigend klinken maar slecht redeneren. Jij bouwt de toetsen die dat zichtbaar maken: één goede toets meet elk volgend model opnieuw, al bepalen veiligheidsteams en beleidsmakers zelf wat ze met de uitkomsten doen.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Design AI safety evaluation tasks with rubrics that measure conceptual reasoning in governance, alignment, macrostrategy, or economics. - Identify hard conceptual questions where frontier models reason poorly; create well-posed problems paired with opinionated rubrics. - Run tasks against frontier models, iterate until scores separate strong reasoning from plausible-sounding weak answers. - Requires original analysis in AI risk, alignment, macrostrategy, economics, or governance with articula…
Meer over Trajectory Labs, PBCWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.