Za nějaký čas se mu však podařilo získat místo v Mercedesu, kde pracoval jako mechanik v testovacím oddělení, konkrétně měl na starost auto Itala Luigi Fagioliho. Mercedes zrovna pracoval na nových W25 a chystal se na svůj návrat k závodění. Langův šéf Ludwig Krauss věděl o Hermannově úspěchu v závodech motorek a na jaře 1934 ho navrhl Alfredu Neubauerovi na pozici rezervního jezdce týmu. Uplynul rok a Lang dostal při testování v Monze šanci s Fagioliho W25, společně s dalšími dvěma talenty Karlem Soeniusem a Bobbym Kohlrauschem. Tam prokázal, že tou nejlepší volbou bude právě on. Hlavní hvězdy týmu Rudolf Caracciola a Manfred von Brauchitsch nedůvěřivě sledovali mechanika, který se snaží stát závodníkem a podle toho pak také vypadaly mezi budoucími kolegy jejich vztahy. Zejména s Caracciolou si Lang nerozuměl a hádky musel často krotit Neubauer.
Hermannovým prvním velkým závodem byl Eifelrennen na Nürburgringu v roce 1936. Vedlo se mu dobře, na mokré trati se držel na třetí pozici, dokud se nedostal do smyku a neskončil mimo trať. Podařilo se mu vrátit do závodu, ale s pátým místem nebyl spokojen. Své schopnosti ukázal také v následující domácí Velké ceně Německa, kde s W25K zajel v kvalifikaci čtvrtý čas a v závodě se dokonce dostal do vedení, pak si ale při řazení zlomil malíček pravé ruky. Přes velkou bolest pokračoval dál, ale Neubauer ho zavolal do boxů, kde dal jeho auto Caracciolovi, který již před tím odstoupil. Rošáda poté pokračovala tím, že Lang převzal auto von Brauchitsche, dojel s ním sedmý a za svoji kuráž si vysloužil bouřlivé ovace diváků. Hermann poté dostal nabídku od Ferdinanda Porscheho z Auto Union, ale zůstal věrný Mercedesu, za což si vysloužil nový kontrakt.
Sezóna 1937 začala Velkou cenou Tripolisu na okruhu Mehalla. Lang startoval s novým W125 a držel se v kontaktu s vedoucí trojicí Caracciola – von Brauchitsch – Stuck, dokud soupeři nezačali odpadávat a neměl volnou cestu k vítězství. Do té doby to navíc byla nejrychlejší Velká Cena v historii, Lang závod zajel průměrnou rychlostí 214 km/h. Následně vyhrál VC na okruhu Avus u Berlína, ale na Masarykově okruhu v Brně ho čekaly úplně jiné starosti. Po průjezdu auta před ním se na trati objevil písek, na kterém se dostal se svým M-B do divokého smyku a auto následně udělalo několik salt. Langovi se téměř nic nestalo, ale dva diváci přišli o život.
Rudolf Caracciola a Manfred von Brauchitsch, kteří pocházeli z vyšší třídy, o nevzdělaném mechanikovi stále pochybovali, ale Lang dokazoval, že mu patří místo mezi nejlepšími. V Tripolisu dokázal obhájit vítězství a na oba „kolegy” zbylo jen druhé, respektive třetí místo. Přidal ještě vítězství v Coppa Ciano v Livornu, ale v závodě Coppa Acerbo ho potkala další nepříjemná zkušenost, když mu praskla palivová trubka, palivo začalo hořet a Lang jen tak tak stihl z jedoucího auta vyskočit. V roce 1939 vyhrál téměř vše, co se dalo. Ovládl pět z osmi Velkých cen a stal se evropským šampionem. Válka Langa možná připravila o nejlepší roky kariéry, přesto se stihl výrazně zapsat do historie
K závodění se vrátil v roce 1946 a nejprve to zkoušel ve Formuli 2, pak se však vrátil k Mercedesu a v roce 1951 dojel za volantem W163 druhý v Argentině. Hermann získal skvělé úspěchy i v závodech sportovních aut – v roce 1952 vyhrál s Fritzem Riessem 24 hodin Le Mans, sám dokázal vyhrát 1 000 km na Nürburgringu a s Erwinem Gruppem dojeli za dvojicí Karl Kling – Hans Klenk druzí v Carrera Panamericana. Kariéru ukončil v roce 1954 a ještě mnoho let pracoval pro Mercedes-Benz jako inspektor zákaznického servisu. Hermann Lang zemřel 19. října 1987 ve věku 78 let.
