Zuvor war er sieben Jahre lang Trainer in der Bundesliga, zunächst bei Mainz, die er in die Europa League führte, und dann bei Borussia Dortmund, wo er den deutschen Pokal gewann.
Bei Chelsea wird er mit Christian Pulisic und Thiago Silva wiedervereinigt, die er während seiner Zeit in Dortmund und Paris trainierte.