ENML Research Engineer
Compassion Aligned Machine LearningRemote
Mondiale catastrofale risico’sAI-veiligheidSoftware engineeringOnderzoek
Waarom staat dit op het bord
Of een taalmodel zich echt gedraagt volgens de waarden die het tijdens de training meekrijgt, is nog lastig te meten. In deze rol voer je de experimenten uit die dat toetsen op open modellen van zo'n 12 miljard parameters, en omdat je elk experiment reproduceerbaar vastlegt, kunnen andere onderzoekers in AI-veiligheid de uitkomsten controleren en erop voortbouwen — ook als een aanpak niet blijkt te werken.
Dit bord is in bèta en dit is ons oordeel. Denk je dat we het mis hebben, laat het weten. Geef feedback · Zo redeneren we
Over de functie
Execute end-to-end LLM training experiments including midtraining, RL post-training, and evaluations to measure value alignment in models. - Run training pipelines for open-weight models (~12B scale): midtraining on synthetic documents, RL post-training, and evaluation under researcher guidance. - Build synthetic corpus generation pipelines with control conditions and debug training instabilities and infrastructure failures. - Keep experiments reproducible through careful configuration, check…
Meer over Compassion Aligned Machine LearningWaarom dit probleemBegrippenlijst
Wil je eerst meer weten?
Begin met onze gratis cursus van zo’n 100 minuten: zes korte delen, in je eigen tempo en zonder aanmelding (Engelstalig). Wil je daarna verder, meld je dan aan voor de EA Fellowship: vijf weken lezen en praten in een kleine groep. Ook gratis, maar selectief.