Vaardigheid: software engineering
Dit bord is nog in bèta. De reden die hieronder staat is ons oordeel — laat het ons weten als je vindt dat het niet klopt. Geef feedback
In deze lijst:Bij doorgelichte organisaties · 43Manieren om binnen te komen · 10Met een hefboom in Nederland · 1
De beste organisaties ter wereld in wat ze doen43 vacatures
Hier gaat het om de oplossing zelf. Van deze organisaties zijn we er redelijk zeker van dat ze wereldwijd tot de besten behoren in hun vak — doorgelicht door GiveWell, Animal Charity Evaluators, Founders Pledge of The Life You Can Save, of vermeld door 80,000 Hours, Probably Good, EA Opportunities of Animal Advocacy Careers. Iemand anders heeft dus al beoordeeld dat wat deze organisatie doet werkt, en daarom staat hier elke functie die openstaat voor iemand in Nederland, ook ondersteunend of operationeel werk. Reken wel op stevige concurrentie, en op werk op afstand of verhuizen.
Research Scientist
FutureSearchRemoteOp afstand
Wie wil inschatten welke risico's geavanceerde AI meebrengt, moet eerst meten wat die systemen werkelijk kunnen en hoe betrouwbaar hun voorspellingen zijn.
AI-veiligheidOnderzoekSoftware engineeringErvarenHead of Product
FutureSearchRemoteOp afstand
Een voorspelling helpt pas als een beleidsmaker hem vertrouwt en er iets mee doet.
AI-veiligheidSoftware engineeringBeleidSeniorSoftware Engineer
Centre for Effective Altruism (CEA)RemoteOp afstand
Het Centre for Effective Altruism (CEA) beheert het forum, het vacaturebord, de cursussen en de donatiefondsen waarmee honderdduizenden mensen uitzoeken hoe ze met hun loopbaan of hun geld anderen het meest helpen.
Community buildingSoftware engineeringErvarenSoftware Engineer
Centre for Effective AltruismRemote - GlobalOp afstand
Het Centre for Effective Altruism bouwt de online plekken waar mensen uitzoeken hoe ze met hun geld en loopbaan het meeste goed kunnen doen: het EA Forum met zo'n 700.000 bezoekers per jaar, cursussen, een vacaturebord…
Community buildingSoftware engineeringErvarenConceptual Reasoning Researcher
Trajectory Labs, PBCRemoteOp afstand
Wie AI-modellen laat meedenken over moeilijke vragen, zoals hoe je krachtige AI veilig en bestuurbaar houdt, moet weten waar die modellen overtuigend klinken maar slecht redeneren.
AI-veiligheidOnderzoekSoftware engineeringErvarenResearch Scientist, Manipulation Evals
Apart ResearchRemote (EuropeOp afstand
Een toezichthouder kan pas optreden tegen AI die mensen manipuleert als iemand eerst heeft laten zien hoe je dat meet.
AI-veiligheidOnderzoekSoftware engineeringErvarenResearch Support
AI Alignment FoundationRemoteOp afstand
Veel ideeën om AI-systemen veilig te houden, soms afkomstig uit de neurowetenschap of de natuurkunde, blijven op papier omdat de bedenker geen team heeft om ze te testen.
AI-veiligheidOnderzoekSoftware engineeringErvarenSoftware Engineer, Product
Collective Intelligence ProjectRemoteOp afstand
Of de mening van gewone mensen meeweegt in hoe AI wordt ontwikkeld, hangt deels af van praktische software: hoe je duizenden reacties verzamelt, ordent en samenvat zonder dat de nuance verdwijnt.
AI-veiligheidSoftware engineeringErvarenML Researcher, Post-Training and Safety
Compassion Aligned Machine LearningRemoteOp afstand
Als je een taalmodel bepaalde waarden aanleert, blijven die dan overeind wanneer iemand het probeert te misleiden of het model verder traint?
AI-veiligheidOnderzoekSoftware engineeringErvarenAI Evaluation and Agent Systems Engineer
SyntonyRemoteOp afstand
Wie een AI-model of een AI-agent aanpast, weet zonder goede tests niet of het daarna veiliger of juist riskanter gedrag vertoont.
AI-veiligheidSoftware engineeringOnderzoekErvarenIntern, Animal Farming Monitoring and Early Warning System
Eurogroup for AnimalsRemoteOp afstand
Een nieuwe megastal duikt meestal eerst op in een lokale vergunningsaanvraag, en wie die op tijd ziet, kan nog bezwaar maken voordat er decennialang dieren in staan.
Campagnes en belangenbehartigingDataSoftware engineeringStartersfunctieAI Evaluation & Agent Systems Engineer
SyntonyRemoteOp afstand
Wie wil weten of een AI-systeem na een update veiliger of juist riskanter is geworden, heeft een betrouwbare manier nodig om dat te meten.
AI-veiligheidSoftware engineeringOnderzoekErvarenResearch Scientist, Manipulation Evals
Apart ResearchRemoteOp afstand
Toezichthouders kunnen alleen regels handhaven voor wat ze kunnen meten, en of een AI-model mensen manipuleert, is nog nauwelijks betrouwbaar te meten.
AI-veiligheidOnderzoekSoftware engineeringErvarenAI Enablement Manager
Epoch AIRemoteOp afstand
Beleidsmakers en onderzoekers wereldwijd gebruiken de cijfers van Epoch AI over rekenkracht en de groei van AI om in te schatten hoe snel deze technologie zich ontwikkelt.
AI-veiligheidOperationsSoftware engineeringErvarenTechnical Specialist, AI Safety
Cedar ResearchRemoteOp afstand
Cedar Research publiceert zijn code, methoden en artikelen openlijk, zodat andere onderzoeksteams erop voortbouwen in plaats van hetzelfde opnieuw uit te zoeken.
AI-veiligheidSoftware engineeringOnderzoekErvarenHead of Engineering, Red Team
FAR AIRemoteOp afstand
AI-labs en overheden laten FAR.AI hun nieuwste modellen aanvallen voordat die uitkomen.
AI-veiligheidSoftware engineeringManagementSeniorSalesforce Developer
Centre for Effective AltruismRemote - GlobalOp afstand
Het Centre for Effective Altruism (CEA) organiseert conferenties, cursussen en lokale groepen voor mensen die uitzoeken hoe ze met hun werk of geld anderen het meest helpen.
Community buildingSoftware engineeringOperationsErvarenSenior Software Engineer (Fundraising)
GiveDirectlyRemoteOp afstand
GiveDirectly geeft geld zonder voorwaarden rechtstreeks aan mensen in extreme armoede, en meerdere onafhankelijke beoordelaars van goede doelen raden de organisatie aan.
Mondiale gezondheid en infectieziektenSoftware engineeringErvarenSenior Software Engineer (Remote)
GiveDirectlyRemoteOp afstand
GiveDirectly geeft geld zonder voorwaarden rechtstreeks aan mensen in extreme armoede, en onafhankelijke beoordelaars zoals GiveWell bevelen die aanpak aan.
Ontwikkelingsfinanciering en hulpbeleidSoftware engineeringSeniorSenior Software Engineer (Fundraising) — Remote
GiveDirectlyRemoteOp afstand
GiveDirectly geeft geld zonder voorwaarden rechtstreeks aan mensen in extreme armoede, en elke gift loopt eerst door de systemen die jij als een van de twee fondsenwervingsengineers bouwt en onderhoudt.
Mondiale gezondheid en infectieziektenSoftware engineeringSeniorResearch Engineer
IliadRemoteOp afstand
Bij Iliad onderzoeken mensen hoe je krachtige AI-systemen laat doen wat mensen bedoelen, en hun tempo hangt vaak af van hoe snel ruwe testcode uitgroeit tot een betrouwbare berekening op grote schaal.
AI-veiligheidSoftware engineeringOnderzoekErvarenProof Engineer, Autoformalisation Engineer
IliadRemoteOp afstand
Wiskundig onderzoek naar de veiligheid van AI-systemen hangt af van bewijzen die echt kloppen, en die met de hand nakijken kan onderzoekers maanden kosten.
AI-veiligheidSoftware engineeringOnderzoekErvarenHead of Engineering (Red Team)
FAR AIRemote (International)Op afstand
FAR AI test nieuwe AI-modellen van onder meer OpenAI en Anthropic voordat ze uitkomen, en doet dat ook voor overheden zoals de Europese Commissie: het team probeert de systemen bewust te laten ontsporen, en wat het…
AI-veiligheidSoftware engineeringManagementSeniorResearch Scientist
AI Verification and Evaluation Research Institute (AVERI)RemoteOp afstand
Wetgevers willen dat krachtige AI-systemen onafhankelijk worden doorgelicht, maar hoe je zo'n audit technisch uitvoert, ligt nog grotendeels open.
AI-veiligheidOnderzoekSoftware engineeringErvarenCoordination and Accountability
Foresight InstituteRemoteOp afstand
Er komen steeds meer AI-systemen die met elkaar en met mensen samenwerken zonder dat één partij toezicht houdt, en hoe je dat veilig regelt, is grotendeels onbekend.
AI-veiligheidOnderzoekSoftware engineeringErvarenEducation Lead, Technical and Repository Owner
Safe AI NetherlandsNetherlandsOp locatie in Nederland
In Nederland werken nog relatief weinig mensen aan AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen veilig en controleerbaar houdt.
AI-veiligheidOnderzoekSoftware engineeringSeniorTech Lead Manager, GPU Cluster Infrastructure
FAR AIRemote (International)Op afstand
FAR.AI's onderzoekers testen frontiermodellen voor OpenAI en de EU AI Office, maar dat werk valt stil zodra het GPU-cluster hapert.
AI-veiligheidSoftware engineeringManagementSeniorSenior Software Engineer, GPU Cluster Infrastructure
FAR AIRemote (International)Op afstand
FAR AI test AI-systemen vóór ze uitkomen, voor OpenAI en het EU AI Office — en dat onderzoek draait op een GPU-cluster dat dit jaar van tientallen naar honderden kaarten groeide.
AI-veiligheidSoftware engineeringInformatiebeveiligingSeniorSecurity Engineer
Survival and Flourishing Fund (SAF & SFF)RemoteOp afstand
Het Survival and Flourishing Fund verdeelt donateursgeld over organisaties die werken aan grote risico's voor de mensheid, via eigen software waarin beoordelaars hun oordeel geven.
Effectief gevenInformatiebeveiligingSoftware engineeringErvarenDesign Engineer
Survival and Flourishing Fund (SAF & SFF)RemoteOp afstand
Het Survival and Flourishing Fund verdeelt geld over organisaties die onder meer werken aan de grootste risico's voor de mensheid, en de beoordelaars doen dat in software die jij ontwerpt en bouwt.
Effectief gevenSoftware engineeringCommunicatie en outreachErvarenQA or Testing Engineer
Survival and Flourishing Fund (SAF & SFF)RemoteOp afstand
Survival and Flourishing Fund verdeelt elk jaar miljoenen over organisaties die werken aan de grootste risico's voor de mensheid, en de beoordelaars wegen aanvragen af in eigen software.
Mondiale catastrofale risico’sSoftware engineeringDataErvarenFull-Stack Software Engineer
Survival and Flourishing Fund (SAF & SFF)RemoteOp afstand
Het Survival and Flourishing Fund verdeelt geld over tientallen organisaties via een eigen procedure, waarin formules de oordelen van meerdere beoordelaars samenvoegen tot één verdeling.
Mondiale catastrofale risico’sSoftware engineeringErvarenLead Research Scientist
Neo ResearchRemoteOp afstand
Als onderzoeksleider bepaal je welke vragen een heel team onderzoekt, en welke blijven liggen.
AI-veiligheidOnderzoekSoftware engineeringSeniorResearch Scientist, Member of Technical Staff
AI DigestRemoteOp afstand
Overheden en veiligheidsteams beslissen nu al over AI-systemen die zelfstandig taken uitvoeren, terwijl nog slecht bekend is wat die systemen in de praktijk doen.
AI-veiligheidOnderzoekSoftware engineeringErvarenSenior Architect or Architect
Coefficient GivingRemote - GlobalOp afstand
Coefficient Giving (voorheen Open Philanthropy) gaf vorig jaar rond de $ 1 miljard weg en wil dat bedrag verdubbelen.
Effectief gevenSoftware engineeringManagementSeniorShortform Video Creator
AI DigestRemoteOp afstand
De meeste mensen vormen hun beeld van AI niet uit onderzoeksrapporten, maar uit wat er voorbijkomt op hun telefoon.
AI-veiligheidCommunicatie en outreachSoftware engineeringStartersfunctieResearch Scientist
AI DigestRemoteOp afstand
De meeste tests van AI meten wat een model in één korte taak doet.
AI-veiligheidOnderzoekSoftware engineeringErvarenEngineer
AI DigestRemoteOp afstand
AI Village laat in een openbare livestream zien wat de nieuwste AI-agenten doen als ze urenlang zelfstandig een doel nastreven, ook waar ze vastlopen of iets onverwachts doen.
AI-veiligheidSoftware engineeringStartersfunctieDesign Engineer
AI DigestRemoteOp afstand
In de AI Village werken AI-agents langdurig zelfstandig aan taken, en wat daar gebeurt laat zien wat deze systemen al kunnen en waar ze ontsporen.
AI-veiligheidSoftware engineeringCommunicatie en outreachErvarenTechnical Product Manager
The Agency FundRemoteOp afstand
Je werkt niet aan één eigen product, maar tegelijk met drie à vier ngo's die vaak een sterk programma hebben en niemand die kan meten of het werkt.
Community buildingSoftware engineeringManagementSeniorSenior Data Engineer
Movement LabsRemoteOp afstand
Movement Labs bouwt de data-infrastructuur die honderden progressieve campagneorganisaties samen gebruiken, inclusief een platform waarmee ze in gerandomiseerde experimenten testen welke aanpak kiezers werkelijk bereikt.
Community buildingSoftware engineeringDataErvarenResearch Engineer, Novel AI Platforms for Multiscale Alignment
Future of Life FoundationRemoteOp afstand
Veel ideeën om AI-systemen veilig te laten samenwerken bestaan nog vooral op papier, omdat er geen goede omgeving is om ze te testen.
AI-veiligheidSoftware engineeringOnderzoekErvarenAI Safety Argumentation Platform Research Engineer
Future of Life FoundationRemoteOp afstand
Wie over de risico's van AI moet beslissen, krijgt nu vooral losse rapporten en meningen die elkaar tegenspreken.
AI-veiligheidSoftware engineeringOnderzoekErvaren
Manieren om binnen te komen10 plekken
Hier gaat het om waar het je brengt. Stages, traineeships en betaalde programma’s — fellowships, residencies, bootcamps — zijn zelden de plek waar je het meeste verandert, maar vaak de manier om terecht te komen in de teams waar dat wel gebeurt. Een stage bij de directie die de nationale AI-strategie schrijft, is hoe mensen die strategie later zelf schrijven. Sommige programma’s vinden in het buitenland plaats. Die nemen we op als ze betaald zijn en hooguit zes maanden duren, want dan hoef je er niet voor te verhuizen.
Research Resident, US
AnthropicRemoteTijdelijk in het buitenland
AI-veiligheid is een klein vakgebied: een methode om te zien wat er binnen een taalmodel gebeurt, bedacht door een handvol onderzoekers, wordt al snel ook door andere labs gebruikt.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringErvarenResearch Resident, UK
AnthropicUKTijdelijk in het buitenland
Onderzoek naar wat er in AI-modellen gebeurt en wanneer ze ontsporen, komt hier direct terecht bij de mensen die Claude trainen, een systeem dat miljoenen mensen gebruiken.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringErvarenSeed Grants
BlueDot ImpactRemoteOp afstand
Dit is geen baan maar startgeld: 20.000 tot 200.000 dollar om zes tot twaalf maanden een eigen project op te zetten in AI-veiligheid of biosecurity (het voorkomen van rampen met ziekteverwekkers), terreinen waar nog…
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieUndergraduate Intern, AI Safety Research and Engineering
SyntonyRemoteOp afstand
Als stagiair los je zelf weinig op: de waarde zit in wat je meeneemt.
ProgrammaAI-veiligheidOnderzoekSoftware engineeringStartersfunctieResearch Fellow, AI Interpretability
GoodfireUSATijdelijk in het buitenland
Grote AI-modellen worden getraind door te proberen en bij te sturen, zonder dat iemand goed begrijpt waarom ze doen wat ze doen.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieAlignment Fellow
Arcadia ImpactLondonTijdelijk in het buitenland
Grote AI-bedrijven weten veel over de technieken waarmee ze hun modellen laten doen wat de bedoeling is, maar wie daarbuiten staat ziet er weinig van.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieIliad Intensive
IliadUKTijdelijk in het buitenland
Onderzoek naar hoe je krachtige AI-systemen veilig en voorspelbaar houdt (AI-veiligheid) is een jong vak, en aan de wiskundige basisvragen werken nog maar weinig mensen.
Programma · 4 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieIliad Fellowship
IliadUKTijdelijk in het buitenland
AI-veiligheid, het onderzoek naar hoe je krachtige AI-systemen betrouwbaar laat doen wat mensen bedoelen, is een jong vakgebied met weinig wiskundigen.
Programma · 26 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieAIXI Labs Research Fellowship
AIXI LabsRemoteOp afstand
Veel onderzoek naar AI-veiligheid is wiskundig zuiver maar te smal, of praktisch bruikbaar maar te ondoorzichtig om er harde veiligheidsclaims op te baseren.
Programma · 13 wekenAI-veiligheidOnderzoekSoftware engineeringStartersfunctieResearch Fellows Program
TimaeusRemoteOp afstand
Wiskundigen en natuurkundigen met een vaste aanstelling werken zelden aan de vraag wat er tijdens het trainen in een AI-model gebeurt, terwijl hun vakgebied, zoals algebraïsche meetkunde of statistische fysica, daar…
Programma · 52 wekenAI-veiligheidOnderzoekSoftware engineeringErvaren
Functies met een hefboom, hier in Nederland1 vacature
Hier gaat het om de hefboom. De meeste van deze werkgevers — ministeries, toezichthouders, universiteiten, banken — zouden zelf niet zeggen dat ze aan een van de grootste wereldproblemen werken, en niemand heeft ze als geheel doorgelicht. Wat we zoeken is iets anders: functies waarin je meer aan het probleem kunt richten dan je eigen uren. Dat kan geld zijn, of regels die voor een hele sector gelden, of het werk van tientallen anderen, of een idee dat daarna gratis te kopiëren is. Een kredietanalist bij een landbouwbank kan zo meer betekenen dan een medewerker bij een goed doel. Dat oordeel is van ons, per functie, en we schrijven er altijd bij waarom. De concurrentie is hier meestal een stuk minder hevig.
Nieuwe vacatures in je inbox
Elke eerste dinsdag van de maand: nieuwe vacatures en programma’s van dit bord, plus evenementen in de komende zes weken en het beste van het EA Forum.
Wat vind je hiervan?
Het bord is nog in bèta, dus dit is precies het moment om te zeggen wat je ervan vindt. Een vacature die we missen, een oordeel dat je niet deelt, iets dat niet werkt — het helpt allemaal.
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.