Responsable de recherche en sécurité de l'IA

Nous recherchons un.e responsable de recherche en sécurité de l'IA pour rejoindre notre équipe travaillant sur un agenda de recherche novateur en sécurité de l'IA. Dans ce rôle, vous contribuerez à cet agenda et aiderez à le mener. Vous serez impliqué des propositions théoriques à la validation de prototypes basés sur des évaluations de sécurité appliquées.

Responsabilités principales

• Jouer un rôle actif dans l'avancement de l'agenda de recherche sur l’IA Scientifique ("Scientist AI") en dirigeant des projets de recherche clés sur des objectifs à court et à long terme.
• Contribuer à façonner l'agenda de recherche afin de maximiser son impact sur la réduction des risques catastrophiques liés à l'IA (tels que la perte de contrôle, la manipulation et la tromperie).
• Identifier les faiblesses de sécurité dans l'agenda existant, proposer des améliorations et les communiquer efficacement aux autres membres de l'équipe.
• Aider à établir les priorités de recherche pour le travail conceptuel et empirique.
• Communiquer une compréhension des problèmes et objectifs fondamentaux de la sécurité de l'IA aux autres membres de l'équipe.

Compétences et qualifications

• Doctorat en informatique ou dans un domaine pertinent.
• Plus de 4 ans d'expérience dans la direction de projets de recherche sur la sécurité de l'IA impliquant des modèles d'apprentissage automatique de pointe, avec un accent sur l'alignement, les évaluations appliquées ou les garanties théoriques.
• La capacité de penser de manière critique aux agendas de recherche en sécurité de l'IA en général et à la manière dont ils abordent les problèmes de sécurité identifiés dans la littérature.
• Expérience avec des frameworks de ML tels que PyTorch ou TensorFlow.
• Solides compétences en communication, écrites et verbales, avec la capacité d'expliquer des idées complexes à des publics diversifiés.
• Historique de contributions à des recherches de haute qualité en sécurité de l'IA et en apprentissage automatique.
• Capacité à travailler en collaboration dans un environnement d'équipe.

Ce que nous offrons

• L’occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complèts.
• Un minimum de 20 jours de vacances dès l’embauche.
• Un contribution d'épargne retraite de l’employeur d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
• Une équipe d’experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes menées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde, qui a décidé de consacrer la suite de sa carrière à la mitigation des risques catastrophiques de l'IA et à son développement pour le bien commun. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org 

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures des personnes hautement qualifiées intéressées à travailler à notre mission dans un cadre respectueur, inclusif et collaboratif. 

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée. En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.