#JB0049504
ntial to transform how we work. Fast forward to today - ServiceNow stands as a global market leader, bringing innovative AI-enhanced technology to over 8,100 customers, including 85% of the Fortune 500®. Our intelligent cloud-based platform seamlessly connects people, systems, and processes to empower organizations to find smarter, faster, and better ways to work. But this is just the beginning of our journey. Join us as we pursue our purpose to make the world work better for everyone.
Job Description
Team
The Foundation Models Lab at ServiceNow Research construit la base des solutions d'IA génératives sur mesure de ServiceNow, spécialement conçues pour répondre aux exigences uniques de notre environnement d'entreprise. Réputé pour co-diriger le projet BigCode et publier des modèles influents comme StarCoder et StarCoder 2, ainsi que des ensembles de données tels que la pile et la pile v2, notre laboratoire est maintenant dédié à la préformation stratégique des modèles de base pour les applications d'entreprise. Notre mission s'étend au-delà de la simple formation ; nous visons à concevoir de manière holistique de grands modèles linguistiques en tenant compte de l'ensemble de leur cycle de vie. Cela comprend la conservation des données d'entraînement pour répondre à des attentes de performance spécifiques, la maximisation de l'efficacité de la formation et, surtout, l'optimisation des modèles pour une inférence rapide et rentable. Ce faisant, nous nous assurons que nos modèles d'IA sont robustes, efficaces et prêts à être affinés et intégrés davantage dans l'écosystème d'IA plus large de ServiceNow.
Role
Nous recherchons un chercheur scientifique appliqué senior avec une passion pour l'apprentissage profond, la programmation GPU et l'optimisation des modèles informatiques au maximum. Dans ce rôle, vous allez :
Enable projets de formation sur les modèles à grande échelle qui visent à améliorer considérablement nos capacités d'IA et à s'assurer qu'ils sont parfaitement adaptés à notre plate-forme.
Prenez l'initiative d'améliorer notre cadre de formation 3D-parallélisme, visant à le rendre plus complet et à augmenter encore sa vitesse et son efficacité. Cela implique d'identifier les goulots d'étranglement du calcul et de mettre en œuvre des opérations de tenseur critiques à l'aide du compilateur Triton JIT d'OpenAI pour maximiser l'utilisation du GPU et le débit de formation.
Concepter, mettre en œuvre et optimiser de nouvelles architectures de modèles de langage qui donnent la priorité à la vitesse et à l'évolutivité d'inférence, en s'alignant sur les besoins opérationnels de ServiceNow.
Contribute to broadening our training framework's support for a diverse range of model architectures, balancing maintainability and stability with the need for innovative features and experimentation.
Contribute aux efforts d'open-sourcing de nos frameworks en s'assurant qu'ils sont bien documentés, conviviaux et prêts pour une adoption externe.
Team
The Foundation Models Lab at ServiceNow Research builds the foundation for ServiceNow's bespoke generative AI solutions, specifically tailored to meet the unique demands of our enterprise environment. Renowned for co-leading the BigCode project and releasing influential models like StarCoder and StarCoder 2, along with datasets such as the Stack and the Stack v2, our lab is now dedicated to strategic pretraining of foundation models for enterprise applications. Our mission extends beyond mere training; we aim to holistically design large language models considering their entire lifecycle. This includes curating training data to meet specific performance expectations, maximizing training efficiency, and, crucially, optimizing models for fast and cost-effective inference. By doing so, we ensure that our AI models are robust, efficient, and ready for further refinement and integration into ServiceNow's broader AI ecosystem.
Role
We are seeking a Senior Applied Research Scientist with a passion for deep learning, GPU programming, and optimizing computational models to the maximum. In this role, you will:
Enable large-scale model training projects that aim to significantly enhance our AI capabilities and ensure they are perfectly adapted to our platform.
Take a lead in enhancing our 3D-parallelism training framework, aiming to make it more feature-complete and further increasing its speed and efficiency. This involves identifying compute bottlenecks and implementing critical tensor operations using OpenAI's Triton JIT compiler to maximize GPU utilization and training throughput.
Design, implement, and optimize novel language model architectures that prioritize inference speed and scalability, aligning with ServiceNow's operational needs.
Contribute to broadening our training framework's support for a diverse range of model architectures, balancing maintainability and stability with the need for innovative features and experimentation.
Contribute to the open-sourcing efforts of our frameworks by ensuring they are well-documented, user-friendly, and ready for external adoption.
Qualifications
Pour exceller dans ce rôle, vous devriez avoir :
A Master's degree with at least 2 years of relevant experience, or a Ph.D. in computer science, engineering, or a related field.
Expérience dans la programmation GPU pour l'apprentissage profond, avec une expérience éprouvée de l'optimisation des systèmes à grande échelle pour la performance et l'efficacité.
Demonstrable skills in designing and implementing innovative deep learning architectures, preferably with experience in large language models.
Proficiency in one or more major deep learning frameworks, such as PyTorch or JAX. La familiarité avec OpenAI Triton est hautement souhaitable.
Straong compétences collaboratives avec la capacité de travailler dans un environnement dynamique, avec une expérience de conduite des projets à la fin.
Excellent problem-solving skills and the ability to work independently on complex issues.
Effective communication skills, capable d'articuler des détails techniques complexes et de collaborer entre les équipes.
Pas sûr si vous répondez à toutes les qualifications ? Nous vous encourageons toujours à postuler ! Nous valorisons l'inclusion, en accueillant des candidats de divers horizons, y compris des parcours non traditionnels. Des expériences uniques enrichissent notre équipe, et la volonté de rêver grand fait de vous un candidat exceptionnel !
To excel in this role, you should have:
A Master's degree with at least 2 years of relevant experience, or a Ph.D. in computer science, engineering, or a related field.
Experience in GPU programming for deep learning, with a proven track record of optimizing large-scale systems for performance and efficiency.
Demonstrable skills in designing and implementing innovative deep learning architectures, preferably with experience in large language models.
Proficiency in one or more major deep learning frameworks, such as PyTorch or JAX. Familiarity with OpenAI Triton is highly desirable.
Strong collaborative skills with the ability to work in a dynamic environment, with a track record of driving projects to completion.
Excellent problem-solving skills and the ability to work independently on complex issues.
Effective communication skills, capable of articulating complex technical details and collaborating across teams.
Not sure if you meet every qualification? We still encourage you to apply! We value inclusivity, welcoming candidates from diverse backgrounds, including non-traditional paths. Unique experiences enrich our team, and the willingness to dream big makes you an exceptional candidate!
Additional Information
Work Personas
Nous assumons notre rôle de leader en faisant preuve de flexibilité et de confiance dans notre monde du travail distribué Les personas de travail (flexibles, à distance ou requis au bureau) sont des catégories qui sont attribuées aux employés de ServiceNow en fonction de la nature de leur travail. Pour en savoir plus, cliquez ici.
Equal Opportunity Employer
ServiceNow est un employeur qui souscrit au principe de l'égalité d'accès à l'emploi. Tous les candidats qualifiés recevront une considération pour l'emploi sans égard à la race, la couleur, la croyance, la religion, le sexe, l'orientation sexuelle, l'origine nationale ou la nationalité, l'ascendance, l'âge, le handicap, l'identité ou l'expression de genre, l'état matrimonial, le statut d'ancien combattant ou toute autre catégorie protégée par la loi. De plus, tous les candidats qualifiés ayant des antécédents d'arrestation ou de condamnation seront pris en considération pour un emploi conformément aux exigences légales.
Accommodations
Nous mettons tout en œuvre offrir une expérience accessible et inclusive pour tous les candidats. Si vous avez besoin d'une mesure d'adaptation raisonnable pour compléter une partie du processus de candidature ou si vous n'êtes pas en mesure d'utiliser cette candidature en ligne et que vous avez besoin d'une autre méthode pour postuler, veuillez communiquer avec [email protected] pour obtenir de l'aide.
Export Control Regulations
Pour les postes nécessitant l'accès à une technologie contrôlée assujettie aux règlements sur les contrôles à l'exportation, y compris les U.S. Export Administration Regulations (EAR), ServiceNow peut être tenu d'obtenir l'approbation des autorités gouvernementales en matière de contrôle des exportations pour certaines personnes. Tout emploi est subordonné à l'obtention par ServiceNow d'une licence d'exportation ou d'une autre approbation qui pourrait être requise par les autorités de contrôle des exportations compétentes.
Extrait de Fortune. ©2024 Fortune Media IP Limited. Tous droits réservés. Utilisé sous licence.
Work Personas
We approach our distributed world of work with flexibility and trust. Work personas (flexible, remote, or required in office) are categories that are assigned to ServiceNow employees depending on the nature of their work. Learn more here.
Equal Opportunity Employer
ServiceNow is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, creed, religion, sex, sexual orientation, national origin or nationality, ancestry, age, disability, gender identity or expression, marital status, veteran status, or any other category protected by law. In addition, all qualified applicants with arrest or conviction records will be considered for employment in accordance with legal requirements.
Accommodations
We strive to create an accessible and inclusive experience for all candidates. If you require a reasonable accommodation to complete any part of the application process, or are unable to use this online application and need an alternative method to apply, please contact [email protected]for assistance**.**
Export Control Regulations
For positions requiring access to controlled technology subject to export control regulations, including the U.S. Export Administration Regulations (EAR), ServiceNow may be required to obtain export control approval from government authorities for certain individuals. All employment is contingent upon ServiceNow obtaining any export license or other approval that may be required by relevant export control authorities.
From Fortune. ©2024 Fortune Media IP Limited. All rights reserved. Used under license.