Chercheur en Alignement de l'IA

Les chercheurs en alignement de l'IA enquêtent sur la manière de spécifier, d'entraîner et d'évaluer les systèmes d'IA pour poursuivre de manière fiable les objectifs prévus plutôt que les substituts involontaires. Ils travaillent sur des problèmes techniques tels que l'apprentissage des valeurs, la surveillance à l'échelle, le débat et l'interprétabilité, publient des recherches dans les meilleures revues d'apprentissage automatique et développent des méthodologies d'évaluation. Ce rôle de recherche académique et industrielle est central pour les efforts de sécurité de l'IA à long terme dans les organisations de pointe.