AI-veiligheid
Dit bord is nog in bèta. De reden die hieronder staat is ons oordeel — laat het ons weten als je vindt dat het niet klopt. Geef feedback
In deze lijst:Bij doorgelichte organisaties · 85Manieren om binnen te komen · 32Met een hefboom in Nederland · 3
De beste organisaties ter wereld in wat ze doen85 vacatures
Hier gaat het om de oplossing zelf. Van deze organisaties zijn we er redelijk zeker van dat ze wereldwijd tot de besten behoren in hun vak — doorgelicht door GiveWell, Animal Charity Evaluators, Founders Pledge of The Life You Can Save, of vermeld door 80,000 Hours, Probably Good, EA Opportunities of Animal Advocacy Careers. Iemand anders heeft dus al beoordeeld dat wat deze organisatie doet werkt, en daarom staat hier elke functie die openstaat voor iemand in Nederland, ook ondersteunend of operationeel werk. Reken wel op stevige concurrentie, en op werk op afstand of verhuizen.
Senior Media Manager, Communications
FAR AIRemoteOp afstand
FAR.AI zoekt uit waar geavanceerde AI-systemen kwetsbaar zijn, maar beleidsmakers lezen die bevindingen meestal pas in de krant.
AI-veiligheidCommunicatie en outreachSeniorResearch Scientist
FutureSearchRemoteOp afstand
Wie wil inschatten welke risico's geavanceerde AI meebrengt, moet eerst meten wat die systemen werkelijk kunnen en hoe betrouwbaar hun voorspellingen zijn.
AI-veiligheidOnderzoekSoftware engineeringErvarenHead of Product
FutureSearchRemoteOp afstand
Een voorspelling helpt pas als een beleidsmaker hem vertrouwt en er iets mee doet.
AI-veiligheidSoftware engineeringBeleidSeniorDirector of Partnerships
FutureSearchRemoteOp afstand
Voorspellingen over AI helpen pas als beleidsmakers en labs ze vertrouwen en gebruiken.
AI-veiligheidFinancieelManagementSeniorProgram Manager, Research
FutureSearchRemoteOp afstand
In een klein onderzoeksteam beslis jij welke onderzoekslijnen beginnen, doorgaan of stoppen, en daarmee waar de tijd van alle onderzoekers naartoe gaat.
AI-veiligheidManagementOnderzoekSeniorSenior Researcher, AI Economic Preparedness
Windfall TrustRemoteOp afstand
Niemand weet hoe snel AI banen en belastinginkomsten gaat veranderen.
AI-veiligheidOnderzoekBeleidErvarenRegional Principal, AI Economic Preparedness
Windfall TrustRemoteOp afstand
Hoe snel AI werk en inkomens verschuift is onzeker, maar hoe hard dat aankomt hangt af van wat regeringen vooraf klaar hebben liggen.
AI-veiligheidBeleidOnderzoekSeniorConceptual Reasoning Researcher
Trajectory Labs, PBCRemoteOp afstand
Wie AI-modellen laat meedenken over moeilijke vragen, zoals hoe je krachtige AI veilig en bestuurbaar houdt, moet weten waar die modellen overtuigend klinken maar slecht redeneren.
AI-veiligheidOnderzoekSoftware engineeringErvarenTalent Acquisition Coordinator, Operations
Epoch AIRemoteOp afstand
Epoch AI publiceert de cijfers over rekenkracht en de groei van AI-modellen waar beleidsmakers wereldwijd op terugvallen als ze regels voor AI opstellen.
AI-veiligheidOperationsDataStartersfunctieTalent Acquisition Coordinator
Epoch AIRemoteOp afstand
Epoch AI groeide in 2026 van ongeveer 20 naar 70 mensen, en de cijfers over AI-vooruitgang die dat team publiceert gebruiken beleidsmakers wereldwijd.
AI-veiligheidOperationsStartersfunctieTransformative AI Fund
Effective Altruism FundsRemoteOp afstand
Wie hier werkt, beslist mee welke beginnende onderzoekers en projecten rond de risico's van geavanceerde AI geld krijgen.
AI-veiligheidFinancieelErvarenOperations & Programs Associate
AI Safety ConnectRemoteOp afstand
Je werkt hier niet zelf aan AI-beleid.
AI-veiligheidOperationsCommunicatie en outreachStartersfunctieEvents Lead (x3)
Safe AI Netherlands (SAIN)EindhovenOp locatie in Nederland
AI-veiligheid, het werk om steeds krachtigere AI-systemen te laten doen wat we bedoelen, is een klein vakgebied, en veel mensen vinden er hun weg in via een lezing of meetup in hun eigen stad.
AI-veiligheidCommunicatie en outreachOperationsStartersfunctieChapter Director (x3)
Safe AI Netherlands (SAIN)EindhovenOp locatie in Nederland
Aan AI-veiligheid, het zorgen dat geavanceerde AI-systemen veilig blijven, werken nog maar weinig mensen, en velen kwamen er terecht via een cursus, een studiegroep of een gesprek op hun universiteit.
AI-veiligheidManagementCommunicatie en outreachErvarenNederlands vereistCommunications Lead (x3)
Safe AI Netherlands (SAIN)EindhovenOp locatie in Nederland
In een nieuwe stad bepalen de eerste kanalen wie er naar de bijeenkomsten en cursussen over AI-veiligheid komt — het vakgebied dat probeert te voorkomen dat krachtige AI-systemen ernstige schade aanrichten.
AI-veiligheidCommunicatie en outreachStartersfunctieResearch Scientist, Manipulation Evals
Apart ResearchRemote (EuropeOp afstand
Een toezichthouder kan pas optreden tegen AI die mensen manipuleert als iemand eerst heeft laten zien hoe je dat meet.
AI-veiligheidOnderzoekSoftware engineeringErvarenResearch Support
AI Alignment FoundationRemoteOp afstand
Veel ideeën om AI-systemen veilig te houden, soms afkomstig uit de neurowetenschap of de natuurkunde, blijven op papier omdat de bedenker geen team heeft om ze te testen.
AI-veiligheidOnderzoekSoftware engineeringErvarenSoftware Engineer, Product
Collective Intelligence ProjectRemoteOp afstand
Of de mening van gewone mensen meeweegt in hoe AI wordt ontwikkeld, hangt deels af van praktische software: hoe je duizenden reacties verzamelt, ordent en samenvat zonder dat de nuance verdwijnt.
AI-veiligheidSoftware engineeringErvarenManaging Director, Women in Safety and Ethics
Berkeley Existential Risk Initiative (BERI)RemoteOp afstand
AI-veiligheid, het werk om krachtige AI-systemen veilig en controleerbaar te houden, is een klein vakgebied: of iemand erin blijft, hangt vaak af van een mentor, een netwerk of één goed gesprek op een conferentie.
AI-veiligheidOperationsCommunicatie en outreachErvarenHead of Operations
QuorumRemoteOp afstand
Quorum doet onderzoek en beleidswerk om krachtige AI-systemen beheersbaar te houden, en groeit van zeven naar minstens twintig mensen.
AI-veiligheidOperationsManagementSeniorML Researcher, Post-Training and Safety
Compassion Aligned Machine LearningRemoteOp afstand
Als je een taalmodel bepaalde waarden aanleert, blijven die dan overeind wanneer iemand het probeert te misleiden of het model verder traint?
AI-veiligheidOnderzoekSoftware engineeringErvarenAI Evaluation and Agent Systems Engineer
SyntonyRemoteOp afstand
Wie een AI-model of een AI-agent aanpast, weet zonder goede tests niet of het daarna veiliger of juist riskanter gedrag vertoont.
AI-veiligheidSoftware engineeringOnderzoekErvarenHorizon Scanner, Scalable Alignment
Principles of IntelligenceRemoteOp afstand
Je doet hier niet zelf het onderzoek, maar zoekt uit welke vragen in AI-veiligheid – het vakgebied dat krachtige AI-systemen beheersbaar wil houden – nog door niemand worden opgepakt.
AI-veiligheidOnderzoekBeleidErvarenAI Evaluation & Agent Systems Engineer
SyntonyRemoteOp afstand
Wie wil weten of een AI-systeem na een update veiliger of juist riskanter is geworden, heeft een betrouwbare manier nodig om dat te meten.
AI-veiligheidSoftware engineeringOnderzoekErvarenAI Industry Associate or Lead
Future of Life Institute (FLI)Remote (Europe) (Europe (excluding UK)Op afstand
Europese overheden leggen nu vast hoe ze met AI omgaan, en wie hun uitgewerkte argumenten en concrete voorstellen aanlevert, bepaalt mee welke kant dat opgaat — bijvoorbeeld of volledig zelfstandige, algemene AI de…
AI-veiligheidBeleidOnderzoekErvarenResearch Grants
Center on Long-Term RiskRemoteOp afstand
Het Center on Long-Term Risk financiert onderzoek naar hoe AI en andere toekomstige technologie op grote schaal lijden zouden kunnen veroorzaken — een vraag waar nog weinig onderzoekers aan werken.
AI-veiligheidFinancieelErvarenRapid Grants
BlueDot ImpactRemoteOp afstand
Dit is geen vacature maar een snelle beurs van maximaal $ 20.000 voor wie wil werken aan AI-veiligheid of biosecurity, het beperken van risico's door ziekteverwekkers.
AI-veiligheidOnderzoekStartersfunctieScientist, Plume Modeling and Forecasting
ReflectiveRemoteOp afstand
Of het ooit verstandig is om de aarde af te koelen met deeltjes in de stratosfeer, hangt af van een vraag die nog open ligt: hoe gedraagt zo'n pluim zich in de eerste uren en dagen?
AI-veiligheidOnderzoekTechniekErvarenProject Manager
QuorumRemoteOp afstand
AI-veiligheid — het vakgebied dat wil voorkomen dat krachtige AI-systemen ernstige schade aanrichten — is nog klein, en onderzoekers, beleidsmakers en mensen uit de praktijk zitten zelden in dezelfde zaal.
AI-veiligheidOperationsManagementErvarenHead of Special Projects, AI Safety
QuorumRemoteOp afstand
AI-veiligheid is het werk om te voorkomen dat krachtige AI-systemen ernstige schade aanrichten, en het vakgebied is klein: onderzoekers, AI-labs, beleidsmakers en financiers werken vaak langs elkaar heen.
AI-veiligheidManagementOnderzoekSeniorChief Operating Officer
Apart ResearchRemoteOp afstand
Apart Research leidt nieuwe onderzoekers op en doet zelf onderzoek naar AI-veiligheid: hoe je voorkomt dat krachtige AI-systemen ernstige schade aanrichten.
AI-veiligheidManagementOperationsDirectieAI Industry Associate/Lead
Future of Life InstituteRemote (Europe)Op afstand
Landen als Brazilië, Canada en de EU-lidstaten werken aan een eigen AI-strategie, en de meeste gaan er stilzwijgend van uit dat die moet draaien om steeds grotere, autonomere systemen.
AI-veiligheidBeleidOnderzoekErvarenResearch Mentor, AI Safety
PRISMRemoteOp afstand
Je besteedt zo'n 14 uur, verspreid over 16 weken.
AI-veiligheidOnderzoekSeniorResearch Scientist, Manipulation Evals
Apart ResearchRemoteOp afstand
Toezichthouders kunnen alleen regels handhaven voor wat ze kunnen meten, en of een AI-model mensen manipuleert, is nog nauwelijks betrouwbaar te meten.
AI-veiligheidOnderzoekSoftware engineeringErvarenCommunications and Outreach, AI Safety
Cedar ResearchRemoteOp afstand
Onderzoek naar de veiligheid van AI-systemen helpt pas als beleidsmakers, journalisten en andere onderzoekers het kennen, en kleine onderzoeksgroepen hebben zelden iemand die het naar een breed publiek vertaalt.
AI-veiligheidCommunicatie en outreachOnderzoekStartersfunctieAI Enablement Manager
Epoch AIRemoteOp afstand
Beleidsmakers en onderzoekers wereldwijd gebruiken de cijfers van Epoch AI over rekenkracht en de groei van AI om in te schatten hoe snel deze technologie zich ontwikkelt.
AI-veiligheidOperationsSoftware engineeringErvarenTechnical Specialist, AI Safety
Cedar ResearchRemoteOp afstand
Cedar Research publiceert zijn code, methoden en artikelen openlijk, zodat andere onderzoeksteams erop voortbouwen in plaats van hetzelfde opnieuw uit te zoeken.
AI-veiligheidSoftware engineeringOnderzoekErvarenSPAR Research Manager
KairosRemoteOp afstand
Je begeleidt mentoren die elk een onderzoeksteam leiden op het gebied van AI-veiligheid.
AI-veiligheidOnderzoekManagementErvarenProgram Lead, Working Groups
Responsible AIxBio CollaborativeRemoteOp afstand
Nieuwe AI-modellen kunnen kwaadwillenden helpen biologische wapens te ontwerpen, terwijl de AI-labs, biotechbedrijven en beleidsmakers die dat moeten tegenhouden zelden samen aan tafel zitten.
AI-veiligheidManagementBeleidSeniorHead of Operations
PRISM GlobalRemoteOp afstand
PRISM Global onderzoekt of AI-systemen iets kunnen ervaren, een vraag waar nog weinig mensen voltijds aan werken.
AI-veiligheidOperationsManagementSeniorGeneralist, SPAR
KairosRemoteOp afstand
SPAR koppelt mensen die willen beginnen in AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen veilig houdt, aan ervaren mentoren.
AI-veiligheidOperationsManagementErvarenSPAR Research Manager
KairosRemoteOp afstand
Je doet zelf geen onderzoek, maar je helpt de mensen die het leiden: veel van de 250 mentoren in SPAR leiden voor het eerst een team, en samen begeleiden ze elke ronde ruim 800 beginners in AI-veiligheid, het vakgebied…
AI-veiligheidManagementOnderzoekErvarenHead of Engineering, Red Team
FAR AIRemoteOp afstand
AI-labs en overheden laten FAR.AI hun nieuwste modellen aanvallen voordat die uitkomen.
AI-veiligheidSoftware engineeringManagementSeniorRecruiter
KairosRemoteOp afstand
Kairos verwacht in zes maanden te verdubbelen, en elke nieuwe medewerker leidt programma's waar honderden mensen doorheen gaan op weg naar werk aan AI-veiligheid: het vakgebied dat wil voorkomen dat krachtige…
AI-veiligheidOperationsCommunicatie en outreachErvarenResearch Engineer
IliadRemoteOp afstand
Bij Iliad onderzoeken mensen hoe je krachtige AI-systemen laat doen wat mensen bedoelen, en hun tempo hangt vaak af van hoe snel ruwe testcode uitgroeit tot een betrouwbare berekening op grote schaal.
AI-veiligheidSoftware engineeringOnderzoekErvarenProof Engineer, Autoformalisation Engineer
IliadRemoteOp afstand
Wiskundig onderzoek naar de veiligheid van AI-systemen hangt af van bewijzen die echt kloppen, en die met de hand nakijken kan onderzoekers maanden kosten.
AI-veiligheidSoftware engineeringOnderzoekErvarenTechnical Grant Writer
AI Alignment FoundationRemoteOp afstand
Onderzoekers in AI-veiligheid, die uitzoeken hoe je krachtige AI-systemen laat doen wat mensen bedoelen, schrijven hun subsidieaanvragen vaak zelf, en dat gaat af van hun onderzoekstijd.
AI-veiligheidCommunicatie en outreachOnderzoekErvarenHead of Engineering (Red Team)
FAR AIRemote (International)Op afstand
FAR AI test nieuwe AI-modellen van onder meer OpenAI en Anthropic voordat ze uitkomen, en doet dat ook voor overheden zoals de Europese Commissie: het team probeert de systemen bewust te laten ontsporen, en wat het…
AI-veiligheidSoftware engineeringManagementSeniorHead of Projects
Safe AI Netherlands (SAIN)AmsterdamOp locatie in Nederland
Veel mensen volgen een cursus over AI-veiligheid — het vakgebied dat probeert krachtige AI-systemen te laten doen wat we bedoelen — en komen daarna niet verder dan lezen.
AI-veiligheidManagementOnderzoekSeniorResearch Scientist
AI Verification and Evaluation Research Institute (AVERI)RemoteOp afstand
Wetgevers willen dat krachtige AI-systemen onafhankelijk worden doorgelicht, maar hoe je zo'n audit technisch uitvoert, ligt nog grotendeels open.
AI-veiligheidOnderzoekSoftware engineeringErvarenCoordination and Accountability
Foresight InstituteRemoteOp afstand
Er komen steeds meer AI-systemen die met elkaar en met mensen samenwerken zonder dat één partij toezicht houdt, en hoe je dat veilig regelt, is grotendeels onbekend.
AI-veiligheidOnderzoekSoftware engineeringErvarenEvents Team Member, Facilitator
Safe AI NetherlandsNetherlandsOp locatie in Nederland
Nog maar weinig mensen werken aan de vraag hoe je krachtige AI-systemen veilig houdt, en een deel van hen raakte betrokken via een leesgroep of cursus zoals deze.
AI-veiligheidCommunicatie en outreachStartersfunctieEducation Lead, Technical and Repository Owner
Safe AI NetherlandsNetherlandsOp locatie in Nederland
In Nederland werken nog relatief weinig mensen aan AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen veilig en controleerbaar houdt.
AI-veiligheidOnderzoekSoftware engineeringSeniorRecruiter or Senior Recruiter
Epoch AIRemoteOp afstand
Epoch AI is een klein onderzoeksinstituut dat in cijfers bijhoudt hoe snel AI vooruitgaat, zoals rekenkracht en schaalvergroting, en beleidsmakers en onderzoekers wereldwijd gebruiken die cijfers.
AI-veiligheidOperationsCommunicatie en outreachErvarenSenior Advisor, Advanced Guardrails for AI-Induced Incidents
Institute for Security and Technology (IST)RemoteOp afstand
Overheden hebben nog nauwelijks een draaiboek voor het moment dat een AI-systeem zich onverwacht aan menselijke controle onttrekt.
AI-veiligheidOnderzoekBeleidSeniorTech Lead Manager, GPU Cluster Infrastructure
FAR AIRemote (International)Op afstand
FAR.AI's onderzoekers testen frontiermodellen voor OpenAI en de EU AI Office, maar dat werk valt stil zodra het GPU-cluster hapert.
AI-veiligheidSoftware engineeringManagementSeniorSenior Software Engineer, GPU Cluster Infrastructure
FAR AIRemote (International)Op afstand
FAR AI test AI-systemen vóór ze uitkomen, voor OpenAI en het EU AI Office — en dat onderzoek draait op een GPU-cluster dat dit jaar van tientallen naar honderden kaarten groeide.
AI-veiligheidSoftware engineeringInformatiebeveiligingSeniorEvents Lead
Safe AI NetherlandsAmsterdamOp locatie in Nederland
AI-veiligheid is een klein vakgebied.
AI-veiligheidCommunicatie en outreachOperationsStartersfunctieEducation Course Facilitator
Safe AI NetherlandsNetherlandsOp locatie in Nederland
Aan AI-veiligheid — zorgen dat steeds krachtigere AI-systemen beheersbaar blijven — werken nog maar weinig mensen, en deze cursus is voor veel deelnemers de eerste stap naar dat werk.
AI-veiligheidCommunicatie en outreachOnderzoekStartersfunctieTeacher, Teaching Assistant, or Writer
IliadRemoteOp afstand
Nog maar weinig mensen werken aan de vraag hoe je krachtige AI-systemen laat doen wat we bedoelen, en het vak groeit vooral doordat nieuwe mensen het leren.
AI-veiligheidOnderzoekCommunicatie en outreachErvarenHead of Operations
SASHRemoteOp afstand
SASH onderzoekt AI-veiligheid: hoe je steeds krachtigere AI-systemen betrouwbaar en onder menselijk toezicht houdt.
AI-veiligheidOperationsManagementSeniorLead Research Scientist
Neo ResearchRemoteOp afstand
Als onderzoeksleider bepaal je welke vragen een heel team onderzoekt, en welke blijven liggen.
AI-veiligheidOnderzoekSoftware engineeringSeniorHead of Operations
Singapore AI Safety Hub (SASH)Remote (LondonOp afstand
In een jonge organisatie die snel groeit, bepaalt wie werving, salarissen en beveiliging opzet hoeveel onderzoekers en beleidsmensen hun tijd echt kunnen besteden aan het veiliger maken van de krachtigste AI-systemen.
AI-veiligheidOperationsManagementSeniorEducation Course Facilitator, Utrecht
Safe AI Netherlands (SAIN)UtrechtOp locatie in Nederland
AI-veiligheid – het werk om krachtige AI-systemen veilig en beheersbaar te houden – is een klein vakgebied, en voor veel mensen is een cursus als deze de eerste stap erin.
AI-veiligheidOnderzoekCommunicatie en outreachStartersfunctieEvents Lead, Amsterdam
Safe AI Netherlands (SAIN)AmsterdamOp locatie in Nederland
AI-veiligheid (AI safety) is het vakgebied dat onderzoekt hoe je steeds krachtigere AI-systemen veilig en beheersbaar houdt, en er werken nog weinig mensen aan vergeleken met de vragen die openliggen.
AI-veiligheidCommunicatie en outreachOperationsStartersfunctieEducation Lead
Safe AI Netherlands (SAIN)UtrechtOp locatie in Nederland
Aan AI-veiligheid (AI safety), zorgen dat krachtige AI-systemen doen wat we bedoelen, werken nog relatief weinig mensen.
AI-veiligheidCommunicatie en outreachOnderzoekErvarenCommunity Manager, Amsterdam
Safe AI Netherlands (SAIN)AmsterdamOp locatie in Nederland
AI-veiligheid — zorgen dat steeds krachtigere AI-systemen veilig blijven en doen wat we bedoelen — is in Nederland een klein vakgebied, en wie wil instappen weet vaak niet waar te beginnen.
AI-veiligheidCommunicatie en outreachOperationsStartersfunctieResearch Scientist, Member of Technical Staff
AI DigestRemoteOp afstand
Overheden en veiligheidsteams beslissen nu al over AI-systemen die zelfstandig taken uitvoeren, terwijl nog slecht bekend is wat die systemen in de praktijk doen.
AI-veiligheidOnderzoekSoftware engineeringErvarenShortform Video Creator
AI DigestRemoteOp afstand
De meeste mensen vormen hun beeld van AI niet uit onderzoeksrapporten, maar uit wat er voorbijkomt op hun telefoon.
AI-veiligheidCommunicatie en outreachSoftware engineeringStartersfunctieResearch Scientist
AI DigestRemoteOp afstand
De meeste tests van AI meten wat een model in één korte taak doet.
AI-veiligheidOnderzoekSoftware engineeringErvarenEngineer
AI DigestRemoteOp afstand
AI Village laat in een openbare livestream zien wat de nieuwste AI-agenten doen als ze urenlang zelfstandig een doel nastreven, ook waar ze vastlopen of iets onverwachts doen.
AI-veiligheidSoftware engineeringStartersfunctieDesign Engineer
AI DigestRemoteOp afstand
In de AI Village werken AI-agents langdurig zelfstandig aan taken, en wat daar gebeurt laat zien wat deze systemen al kunnen en waar ze ontsporen.
AI-veiligheidSoftware engineeringCommunicatie en outreachErvarenExpression of Interest: Special Projects Associate
Epoch AIRemoteOp afstand
De cijfers van Epoch AI over rekenkracht en schaalvergroting worden wereldwijd door beleidsmakers en onderzoekers geciteerd; je doet dat onderzoek niet zelf, maar zorgt dat een klein team meer kan publiceren door…
AI-veiligheidOperationsOnderzoekStartersfunctieProgram Lead, Career Transition Grants
BlueDot ImpactRemoteOp afstand
Wie wil overstappen naar AI-veiligheid, het onderzoek naar hoe je steeds krachtigere AI-systemen veilig en beheersbaar houdt, moet zich vaak maandenlang zonder inkomen omscholen, en dat houdt geschikte mensen tegen.
AI-veiligheidFinancieelManagementErvarenAI Offense-Defense Dynamics Lead Researcher
Future of Life FoundationRemoteOp afstand
Of een nieuw AI-systeem vooral aanvallers of vooral verdedigers sterker maakt, hangt waarschijnlijk af van eigenschappen die je vooraf kunt meten, zoals hoe breed het inzetbaar is en hoe makkelijk iedereen erbij kan.
AI-veiligheidOnderzoekBeleidSeniorSenior Technical Specialist, AI Risk Assessment
Future of Life FoundationRemoteOp afstand
Wie bepaalt hoe je de risico's van geavanceerde AI meet, bepaalt mee waar overheden, onderzoekers en financiers op letten.
AI-veiligheidOnderzoekBeleidSeniorResearch Engineer, Novel AI Platforms for Multiscale Alignment
Future of Life FoundationRemoteOp afstand
Veel ideeën om AI-systemen veilig te laten samenwerken bestaan nog vooral op papier, omdat er geen goede omgeving is om ze te testen.
AI-veiligheidSoftware engineeringOnderzoekErvarenFunding for Addressing Risks From Transformative AI
Coefficient GivingRemoteOp afstand
Dit is eerder een doorlopende subsidieregeling dan een baan: je vraagt bij Coefficient Giving (voorheen Open Philanthropy, een van de grootste filantropische financiers op dit terrein) geld aan voor een cursus,…
AI-veiligheidFinancieelErvarenRecruiter / Senior Recruiter
Epoch AIRemoteOp afstand
Epoch AI publiceert de cijfers over rekenkracht en AI-trends waar beleidsmakers en onderzoekers wereldwijd op teruggrijpen.
AI-veiligheidOperationsCommunicatie en outreachErvarenSenior Researcher, Civil Safety Sciences
Future of Life FoundationRemoteOp afstand
Voor veel gevaren die AI mogelijk maakt, zoals synthetische microben of nieuwe manieren om ziekteverwekkers te verspreiden, bestaat nog geen vakgebied en geen voorbeeld uit het verleden om op te leunen.
AI-veiligheidOnderzoekBeleidSeniorGeneral Expression of Interest (EOI)
KairosRemoteOp afstand
Kairos doet zelf geen AI-veiligheidsonderzoek, maar leidt de mensen op die het gaan doen: ruim 1.200 deelnemers in twee jaar, via fellowships en studentengroepen.
AI-veiligheidManagementCommunicatie en outreachStartersfunctieHead of Talent Operations
KairosRemoteOp afstand
Kairos leidde in twee jaar meer dan 1.200 mensen op, maar er is niemand die beginnende onderzoekers systematisch aan openstaande plekken bij AI-veiligheidsorganisaties koppelt.
AI-veiligheidOperationsManagementSeniorSPAR Research Manager
KairosRemoteOp afstand
Elke ronde koppelt SPAR ruim 400 beginnende onderzoekers aan 130 mentoren bij plekken als Anthropic, RAND en het Britse AI Security Institute.
AI-veiligheidManagementOperationsErvarenGeneralist (Talent Ops)
KairosRemoteOp afstand
Kairos leidde in twee jaar ruim 1.200 mensen op voor werk aan AI-veiligheid, en groeit van 7 naar zo'n 20 medewerkers.
AI-veiligheidManagementOperationsErvarenAI Safety Argumentation Platform Research Engineer
Future of Life FoundationRemoteOp afstand
Wie over de risico's van AI moet beslissen, krijgt nu vooral losse rapporten en meningen die elkaar tegenspreken.
AI-veiligheidSoftware engineeringOnderzoekErvaren
Manieren om binnen te komen32 plekken
Hier gaat het om waar het je brengt. Stages, traineeships en betaalde programma’s — fellowships, residencies, bootcamps — zijn zelden de plek waar je het meeste verandert, maar vaak de manier om terecht te komen in de teams waar dat wel gebeurt. Een stage bij de directie die de nationale AI-strategie schrijft, is hoe mensen die strategie later zelf schrijven. Sommige programma’s vinden in het buitenland plaats. Die nemen we op als ze betaald zijn en hooguit zes maanden duren, want dan hoef je er niet voor te verhuizen.
Talos Incubator Europe: found an AI governance organisation
Talos NetworkRemote (Europe)Nederlandse werkgever, flexibel
Je bouwt hier geen carrière binnen een bestaande organisatie.
Programma · 26 wekenAI-veiligheidBeleidOnderzoekStartersfunctieInternational Programme on AI Evaluation: Capabilities & Safety
AI Evaluation ProgrammeRemoteOp afstand
Er bestaat nog geen vaste methode om te testen of een geavanceerd AI-systeem veilig genoeg is: overheden en AI-bedrijven zoeken die maatstaven nu pas.
Programma · 22 wekenAI-veiligheidOnderzoekBeleidStartersfunctieSummer Research Fellowship, EU Law
Institute for Law & AICambridgeTijdelijk in het buitenland
De Europese AI-verordening is aangenomen, maar hoe streng hij in de praktijk uitpakt, hangt af van uitvoeringsregels en richtsnoeren die nog geschreven worden.
Programma · 10 wekenAI-veiligheidJuridischBeleidStartersfunctieSummer Research Fellowship, EU Law
Institute for Law & AI (LawAI)CambridgeTijdelijk in het buitenland
De Europese AI-verordening ligt er, maar hoe toezichthouders en rechters die gaan uitleggen, ligt nog grotendeels open.
Programma · 10 wekenAI-veiligheidJuridischOnderzoekStartersfunctieResearch Resident, US
AnthropicRemoteTijdelijk in het buitenland
AI-veiligheid is een klein vakgebied: een methode om te zien wat er binnen een taalmodel gebeurt, bedacht door een handvol onderzoekers, wordt al snel ook door andere labs gebruikt.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringErvarenResearch Resident, UK
AnthropicUKTijdelijk in het buitenland
Onderzoek naar wat er in AI-modellen gebeurt en wanneer ze ontsporen, komt hier direct terecht bij de mensen die Claude trainen, een systeem dat miljoenen mensen gebruiken.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringErvarenOxford China Policy Lab Fellowship
Oxford China Policy LabOxfordTijdelijk in het buitenland
Hoe de Verenigde Staten en China op AI concurreren, bepaalt mede of krachtige AI-systemen zorgvuldig of overhaast worden ingevoerd.
Programma · 2 wekenAI-veiligheidOnderzoekBeleidStartersfunctieDC Summer Fellowship (2027)
Centre for the Governance of AI (GovAI)WashingtonTijdelijk in het buitenland
Hoe de VS krachtige AI reguleren, wordt grotendeels in Washington besloten door een kleine groep beleidsmakers, die daarbij advies vragen aan denktanks zoals GovAI.
Programma · 13 wekenAI-veiligheidOnderzoekBeleidStartersfunctieUK Summer Fellowship (2027), Research Track
Centre for the Governance of AI (GovAI)LondonTijdelijk in het buitenland
GovAI is een Londens onderzoeksinstituut dat beleidsmakers bij overheden en AI-bedrijven helpt bepalen hoe je geavanceerde AI in goede banen leidt.
Programma · 13 wekenAI-veiligheidOnderzoekBeleidStartersfunctieUK Summer Fellowship (2027), Applied Track
Centre for the Governance of AI (GovAI)LondonTijdelijk in het buitenland
Bij het werk aan regels en toezicht voor geavanceerde AI zijn volgens GovAI niet vooral onderzoekers schaars, maar mensen die organiseren, communiceren en beleidstrajecten leiden.
Programma · 13 wekenAI-veiligheidBeleidOperationsStartersfunctieSeed Grants
BlueDot ImpactRemoteOp afstand
Dit is geen baan maar startgeld: 20.000 tot 200.000 dollar om zes tot twaalf maanden een eigen project op te zetten in AI-veiligheid of biosecurity (het voorkomen van rampen met ziekteverwekkers), terreinen waar nog…
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieIncubator Week
BlueDot ImpactSan FranciscoTijdelijk in het buitenland
Hier begin je iets nieuws in plaats van een vacature te vullen: je werkt vijf dagen in San Francisco een plan uit voor een onopgelost probleem in AI-veiligheid, en als BlueDot het steunt, krijg je tot $ 200.000 om er…
Programma · 1 weekAI-veiligheidOnderzoekBeleidStartersfunctieTeacher, Technical AI Safety/Governance & Strategy
ML4GoodRemoteOp afstand
Er werken nog relatief weinig mensen aan het veilig houden van krachtige AI-systemen, en het veld groeit vooral doordat nieuwe mensen het vak leren.
Programma · 2 wekenAI-veiligheidOnderzoekCommunicatie en outreachErvarenExecutive Catalyst: Ops & Strategy
SteadRiseRemoteOp afstand
Organisaties die ernstige risico's van geavanceerde AI proberen te beperken, groeien snel, maar ze hebben weinig mensen die al eens een organisatie hebben opgebouwd.
Programma · 12 wekenAI-veiligheidManagementOperationsErvarenUndergraduate Intern, AI Safety Research and Engineering
SyntonyRemoteOp afstand
Als stagiair los je zelf weinig op: de waarde zit in wat je meeneemt.
ProgrammaAI-veiligheidOnderzoekSoftware engineeringStartersfunctieHumanitas Fellowship
SyntonyRemoteOp afstand
Over hoe AI kan worden misbruikt, en hoe je echt van nep blijft onderscheiden nu synthetische beelden steeds overtuigender worden, bestaat nog weinig zorgvuldig onderzoek waarop beleidsmakers en juristen kunnen bouwen.
Programma · 35 wekenAI-veiligheidOnderzoekBeleidErvarenCareer Transition Grants, AI Safety and Biosecurity
BlueDot ImpactRemoteOp afstand
Dit is geen baan maar een beurs: BlueDot Impact geeft tussen 20.000 en 200.000 dollar, zodat je voltijds kunt overstappen naar werk aan AI-veiligheid of biosecurity in plaats van dat naast je huidige baan te proberen.
ProgrammaAI-veiligheidOnderzoekStartersfunctieResearch Mentorship, Alignment Research
Supervised Program for Alignment Research (SPAR)RemoteOp afstand
Aan de vraag hoe je krachtige AI-systemen laat doen wat we bedoelen — AI-veiligheid — werken wereldwijd nog maar weinig ervaren onderzoekers, en hun begeleiding is wat beginners het meest mist.
ProgrammaAI-veiligheidOnderzoekStartersfunctieFacilitator, Research Fellowship
MercialRemoteOp afstand
Wie begint met onderzoek naar AI-veiligheid, dus naar hoe je krachtige AI-systemen veilig houdt, krijgt zelden goede feedback op een eerste stuk, terwijl juist die feedback vaak bepaalt of iemand doorgaat.
Programma · 4 wekenAI-veiligheidOnderzoekStartersfunctieFunding, AI Safety
The Global Technology Risk FoundationRemoteOp afstand
AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen betrouwbaar en beheersbaar houdt, is een jong vakgebied met weinig mensen.
ProgrammaAI-veiligheidOnderzoekStartersfunctieResearch Fellow, AI Interpretability
GoodfireUSATijdelijk in het buitenland
Grote AI-modellen worden getraind door te proberen en bij te sturen, zonder dat iemand goed begrijpt waarom ze doen wat ze doen.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieAlignment Fellow
Arcadia ImpactLondonTijdelijk in het buitenland
Grote AI-bedrijven weten veel over de technieken waarmee ze hun modellen laten doen wat de bedoeling is, maar wie daarbuiten staat ziet er weinig van.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieScience and Technology Policy Fellow, Legislative Branch Cohort in AI
American Association for the Advancement of Science (AAAS)WashingtonTijdelijk in het buitenland
Amerikaanse Congresleden beslissen over AI-wetgeving, terwijl op hun kantoren zelden iemand werkt die de techniek zelf begrijpt.
Programma · 2 wekenAI-veiligheidBeleidOnderzoekStartersfunctieNederlandse nationaliteit vereistRequest for Proposals: Project Tailwind
Coefficient GivingRemoteOp afstand
Dit is geen vacature maar een financieringsronde: Coefficient Giving (voorheen Open Philanthropy) zoekt mensen die een nieuwe organisatie of onderzoeksgroep opzetten in AI-veiligheid, het werk dat moet zorgen dat…
ProgrammaAI-veiligheidManagementOnderzoekStartersfunctieIliad Intensive
IliadUKTijdelijk in het buitenland
Onderzoek naar hoe je krachtige AI-systemen veilig en voorspelbaar houdt (AI-veiligheid) is een jong vak, en aan de wiskundige basisvragen werken nog maar weinig mensen.
Programma · 4 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieIliad Fellowship
IliadUKTijdelijk in het buitenland
AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen betrouwbaar laat doen wat mensen bedoelen, is een jong vakgebied met weinig wiskundigen.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieSummer Research Fellowship (Legal Frontiers)
Institute for Law & AIRemoteOp afstand
Wetgevers in de VS, de EU en het VK schrijven nu regels voor AI, maar hoe je een AI-systeem de wet laat volgen, is een vraag waar nog weinig juristen aan werken.
Programma · 10 wekenAI-veiligheidJuridischOnderzoekStartersfunctieSummer Fellowship (US)
Institute for Law & AIUSATijdelijk in het buitenland
Het recht rond AI wordt nu geschreven, terwijl maar weinig juristen zich er serieus mee bezighouden.
Programma · 12 wekenAI-veiligheidOnderzoekBeleidStartersfunctieSummer Fellowship
Institute for Law & AI (LawAI)WashingtonTijdelijk in het buitenland
Weinig juristen kennen zowel het recht als AI goed, terwijl overheden de regels voor die technologie juist nu opstellen.
Programma · 12 wekenAI-veiligheidJuridischOnderzoekStartersfunctieAI Safety Residential Community
Centre for Enabling EA Learning & Research (CEEALAR)UKTijdelijk in het buitenland
CEEALAR betaalt kost en inwoning in Blackpool (Engeland), zodat je zes weken tot een jaar voltijds kunt werken aan AI-veiligheid: voorkomen dat krachtige AI-systemen ernstige schade aanrichten.
Programma · 26 wekenAI-veiligheidOnderzoekStartersfunctieAIXI Labs Research Fellowship
AIXI LabsRemoteOp afstand
Veel onderzoek naar AI-veiligheid is wiskundig zuiver maar te smal, of praktisch bruikbaar maar te ondoorzichtig om er harde veiligheidsclaims op te baseren.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieResearch Fellows Program
TimaeusRemoteOp afstand
Wiskundigen en natuurkundigen met een vaste aanstelling werken zelden aan de vraag wat er tijdens het trainen in een AI-model gebeurt, terwijl hun vakgebied, zoals algebraïsche meetkunde of statistische fysica, daar…
Programma · 52 wekenAI-veiligheidOnderzoekSoftware engineeringErvaren
Functies met een hefboom, hier in Nederland3 vacatures
Hier gaat het om de hefboom. De meeste van deze werkgevers — ministeries, toezichthouders, universiteiten, banken — zouden zelf niet zeggen dat ze aan een van de grootste wereldproblemen werken, en niemand heeft ze als geheel doorgelicht. Wat we zoeken is iets anders: functies waarin je meer aan het probleem kunt richten dan je eigen uren. Dat kan geld zijn, of regels die voor een hele sector gelden, of het werk van tientallen anderen, of een idee dat daarna gratis te kopiëren is. Een kredietanalist bij een landbouwbank kan zo meer betekenen dan een medewerker bij een goed doel. Dat oordeel is van ons, per functie, en we schrijven er altijd bij waarom. De concurrentie is hier meestal een stuk minder hevig.
Senior inspecteur Markttoezicht Digitale Veiligheid
Rijksinspectie Digitale InfrastructuurAmersfoortOp locatie in Nederland
De Europese Cyberweerbaarheidsverordening verplicht fabrikanten vanaf 2027 tot veilig ontworpen software en hardware, en de RDI bouwt het toezicht daarop nu op.
AI-veiligheidBeleidInformatiebeveiligingSeniorNederlands vereistSpecialist AI Governance en standaardisatie
Rijksinspectie Digitale InfrastructuurGroningenOp locatie in Nederland
De AI Act zegt dat AI-systemen veilig en robuust moeten zijn, maar pas de Europese standaarden bepalen hoe je dat meet.
AI-veiligheidBeleidOnderzoekErvarenNederlands vereistSenior Ontwikkelaar / Beheerder Datastream
Ministerie van DefensieUtrechtOp locatie in Nederland
Je hefboom zit in het team, niet in je eigen code: door ontwikkelaars te coachen en obstakels weg te nemen, zorg je dat het dataplatform waarop de Koninklijke Marechaussee bij opsporing en handhaving leunt veilig en…
AI-veiligheidSoftware engineeringManagementSeniorNederlands vereist
Nieuwe vacatures in je inbox
Elke eerste dinsdag van de maand: nieuwe vacatures en programma’s van dit bord, plus evenementen in de komende zes weken en het beste van het EA Forum.
Wat vind je hiervan?
Het bord is nog in bèta, dus dit is precies het moment om te zeggen wat je ervan vindt. Een vacature die we missen, een oordeel dat je niet deelt, iets dat niet werkt — het helpt allemaal.
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.