ドイツ南部のバーデン=ヴュルテンベルク州のウルムから約50kmに在る小さな町ハイデンハイムでプロテスタント系の高等学校々長のエルヴィン・ロンメル(シニア)とヘレーネの次男として生まれた。ロンメルにはエンジニアになる希望があったが、父親に教師か陸軍士官になれと選択を迫られ、1910年にヴュルテンベルク王国の第124歩兵連隊に入営、プロイセン王国のダンツィヒ王立士官学校に進んだ。第一次世界大戦中にロンメルはルーマニア、イタリア、フランスの各戦線に従軍し、三度の負傷で一級および二級鉄十字章を授章した。さらに彼はイタリア北東部の山岳戦で多くの捕虜を取る著しい功績を挙げ、1917年12月に最高位のプール・ル・メリット勲章を授章し、その年の最年少授章者となった。1915年に彼は中尉に昇進した。
戦中の行為からナチス指導者やほかの多くのドイツ軍人が非難されるなか、ロンメルだけはドイツのみならず、敵国であったイギリスやフランスでも肯定的に評価されることがある。
1975年 第1回主要先進国首脳会議サミットがフランスのランブイエで開催される。