ENProject Tailwind: AI Security & Verification
Coefficient GivingRemote
Mondiale catastrofale risico’sAI-veiligheidTechniekOnderzoek
Waarom staat dit op het bord
Internationale afspraken over krachtige AI zijn alleen iets waard als landen kunnen controleren of de ander zich eraan houdt, en die controletechniek bestaat nog grotendeels niet. Met het budget van een groot fonds als Coefficient Giving (voorheen Open Philanthropy) zet je de hardware, protocollen en teams op waar anderen op voortbouwen, en zo bepaal je mee welke afspraken straks te controleren zijn.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Launch ambitious R&D and capacity-building initiatives to develop AI security verification technology, strengthen talent pipelines between cybersecurity and AI sectors, and establish integrity standards against backdoor attacks. - Design and build tamper-resistant hardware and end-to-end verification protocols for international AI development agreements. - Develop security protocols and auditing standards to detect and prevent AI integrity attacks and backdoors. - Build talent pipelines and i…
Meer over Coefficient GivingWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.