ENProject Tailwind: AI Governance & Policy Research
Coefficient GivingRemote
Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering
Waarom staat dit op het bord
Een goede manier om AI-modellen te testen hoeft maar één keer bedacht te worden: daarna kunnen andere labs en toezichthouders hem overnemen zonder het werk zelf over te doen. Je onderzoekt hoe je kunt zien of een model ongewenst gedrag ontwikkelt, en vat dat samen voor ontwikkelaars en beleidsmakers die zulke bevindingen gebruiken omdat ze het zelf niet kunnen uitzoeken.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Multiple research institutions tackling AI safety through independent oversight, evaluation, and foundational research on model behavior and alignment. - Develop monitorability benchmarks and audit frontier model chains-of-thought to detect degradation over time. - Build rigorous evaluation methodologies for AI character, behavioral tendencies, and adherence to developer specifications. - Establish large-scale training pipelines to systematically identify which procedures induce misalignment…
Meer over Coefficient GivingWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.