ENProject Tailwind: AI Red Teaming, Auditing, and Independent Assessment
Coefficient GivingRemote
Mondiale catastrofale risico’sAI-veiligheidOnderzoekSoftware engineering
Waarom staat dit op het bord
AI-bedrijven beoordelen de veiligheid van hun eigen modellen nu grotendeels zelf, en toezichthouders en journalisten kunnen die claims zelden toetsen. Wie hier onafhankelijke testmethoden en audits opbouwt, levert het oordeel waarop anderen gaan varen. Een methode die als geloofwaardig geldt, kan bepalen hoe de hele sector wordt getoetst, niet alleen één bedrijf.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Multiple independent assessment roles focused on auditing, red-teaming, and evaluating frontier AI companies' safety practices and model behavior. - Track and analyze frontier labs' safety claims, practices, and technical documentation for regulators, journalists, and advocates. - Develop red-teaming methodologies to identify misalignment, control vulnerabilities, and dangerous model propensities before deployment. - Stress-test AI companies' security protocols, control measures, and safeguar…
Meer over Coefficient GivingWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.