Chercheur.se sénior en sécurité de l'IA (Analyses)

Nous recherchons un.e chercheur.se sénior en sécurité de l'IA pour rejoindre notre équipe travaillant sur un agenda de recherche novateur en sécurité de l'IA. Dans ce rôle, vous réfléchirez aux défis et aux solutions liés à des sujets complexes en sécurité de l'IA afin de garantir que les systèmes d'IA se comportent de manière fiable, prévisible et en accord avec les valeurs et les intentions humaines, même à mesure qu'ils deviennent de plus en plus performants et autonomes.

Responsabilités principales 

• Analyser et évaluer divers schémas de sécurité de l'IA, en mettant l'accent sur les approches d'IA à sécurité garantie au niveau du système.
• Découvrir et investiguer les modes de défaillance, les hypothèses implicites et les compromis dans les plans de sécurité proposés.
• Détecter les situations où les changements d'approches modifient les hypothèses implicites.
• Détecter les situations où les arguments de sécurité supposent la propriété désirée qu'ils visent à établir.
• Développer des arguments rigoureux pour valider ou invalider les approches de sécurité, idéalement des arguments généraux qui s'appliquent à des classes entières d'approches de sécurité.
• Guider et prioriser le travail théorique pour répondre efficacement aux questions de sécurité critiques.
• Communiquer efficacement des résultats complexes à diverses parties prenantes, y compris des experts en sécurité de l'IA et des non-experts.

Compétences et qualifications

• Diplôme supérieur dans un domaine pertinent (ex. : Informatique, Mathématiques, Physique). Un doctorat est préférable mais non requis si le.la candidat.e démontre des capacités exceptionnelles.
• 3 années d'expérience ou plus en recherche sur la sécurité de l'IA ou dans des domaines connexes, ou des capacités démontrées équivalentes à ce niveau d'expérience.
• Solide formation en mathématiques, avec la capacité d'apprendre et d'appliquer rapidement des concepts de diverses disciplines.
• Fortes compétences en communication, avec la capacité d'expliquer des idées complexes à des publics diversifiés.
• Excellentes compétences en analyse et en résolution de problèmes, avec une capacité démontrée à réfléchir de manière critique aux systèmes complexes et à identifier les considérations critiques et souvent négligées en matière de sécurité de l'IA.
• Capacité démontrée à raisonner sur les problèmes fondamentaux de sécurité de l'IA au-delà de scénarios spécifiques, englobant l'agentivité, l'orientation vers un objectif et le potentiel de comportements apparemment bénins pouvant entraîner des résultats catastrophiques à grande échelle.
• Expérience avérée de contributions à la recherche de haute qualité en sécurité de l'IA ou dans des domaines connexes.
• Capacité à travailler en collaboration au sein d'une équipe tout en étant autonome et indépendant.e.
• Capacité à identifier et à mettre en œuvre des fonctionnalités de sécurité clés dans les architectures d'IA pour atténuer les risques lors d'augmentations progressives de capacités.

Ce que nous offrons

• L’occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complèts.
• Un minimum de 20 jours de vacances dès l’embauche.
• Un contribution d'épargne retraite de l’employeur d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
• Une équipe d’experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes menées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde, qui a décidé de consacrer la suite de sa carrière à la mitigation des risques catastrophiques de l'IA et à son développement pour le bien commun. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org 

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures des personnes hautement qualifiées intéressées à travailler à notre mission dans un cadre respectueur, inclusif et collaboratif. 

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée. En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.