Naar de inhoud

Conceptual Reasoning Researcher

Trajectory Labs, PBCRemote

Bekijk de vacatureJe gaat naar de website van de werkgever. Solliciteren doe je daar.

Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering

Waarom staat dit op het bord

Wie AI-modellen laat meedenken over moeilijke vragen, zoals hoe je krachtige AI veilig en bestuurbaar houdt, moet weten waar die modellen overtuigend klinken maar slecht redeneren. Jij bouwt de toetsen die dat zichtbaar maken: één goede toets meet elk volgend model opnieuw, al bepalen veiligheidsteams en beleidsmakers zelf wat ze met de uitkomsten doen.

Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we

Over de functie

Design AI safety evaluation tasks with rubrics that measure conceptual reasoning in governance, alignment, macrostrategy, or economics. - Identify hard conceptual questions where frontier models reason poorly; create well-posed problems paired with opinionated rubrics. - Run tasks against frontier models, iterate until scores separate strong reasoning from plausible-sounding weak answers. - Requires original analysis in AI risk, alignment, macrostrategy, economics, or governance with articula…

Meer over Trajectory Labs, PBCWaarom dit probleemBegrippenlijst

Niet de juiste functie? Krijg elke maand nieuwe

Elke eerste dinsdag van de maand: nieuwe vacatures en programma’s van dit bord, plus evenementen in de komende zes weken en het beste van het EA Forum.

In welke taal?

Je krijgt eerst een mail om je aanmelding te bevestigen. Afmelden kan altijd.

Wil je eerst meer weten?

Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.

Oneens met iets op dit bord?

Dit bord wordt samengesteld door mensen die het mis kunnen hebben. Vind je dat een vacature er niet op hoort, mis je er een, of klopt er iets anders niet: Geef feedback, of mail jobs@effectiefaltruisme.nl.

Kies welke cookies je toestaat. Noodzakelijke cookies staan altijd aan, want zonder werkt de site niet.

Altijd aan

Houden de site veilig en onthouden je cookiekeuze. Hiermee volgen we je niet.

Laten Google Analytics en Microsoft Clarity ons zien hoe mensen de site gebruiken, zoals welke pagina's ze bezoeken en hoe ze over een pagina bewegen, zodat we hem kunnen verbeteren.

Laten Google en Meta meten of onze advertenties, bijvoorbeeld voor de EA Fellowship, de juiste mensen bereiken.