1933年，希特勒出任德國總理，德國海軍重整旗鼓的前途也日益明朗。希特勒向海軍總司令雷德爾海軍元帥允諾，在未來的建軍計劃中，海軍在公平的分配中將佔優先地位。這贏得了雷德爾和全體海軍人員的擁護。雷德爾隨即制定了一個代號為“Z”的海軍建設計劃，該計劃的重點是在8年至10年內建立起一支足以同英國進行海上主力決戰的強大水面艦隊。它包括10艘大型戰列艦，3艘戰列巡洋艦，8艘裝甲巡洋艦，4艘航空母艦，44艘輕型巡洋艦，68艘驅逐艦，90艘魚雷艇和249艘潛艇。但潛艇部隊司令官鄧尼茲卻竭力反對這項計劃，認為如此長久的計劃是不現實的，德國必須集中資源儘快建造足夠的潛艇，以便在即將到來的戰爭中對英國的海上生命線以致命的打擊，而潛艇是達到這一目的最實際最有效的手段。但他爭得的最好結果是：優先建造戰艦，同時建造潛艇。
希特勒的首要目標是征服歐洲大陸，然後再迫使不列顛帝國求和，因此在其擴軍計劃中，一直把陸軍和空軍作為發展重點，雖然他同意了雷德爾雄心勃勃的計劃，但實際上海軍還是被置於其次考慮的地位。基於此，希特勒在1935年同英國簽定了絲毫不危及英國海軍優勢的《英德海軍協定》，規定德國海軍的噸位數為英國的35%，這樣使英國可能不會再幹涉德國在歐陸上的軍事冒險。總之，從戰略意義上講，德國海軍的發展和建設是起輔助作用且處於從屬地位。這成為德國海軍將領一再埋怨的永久話題之一。
德國最高統帥部在軍備上所犯的戰略性錯誤使德國海軍的發展和建設速度緩慢。到1939年，雷德爾手裡只有3艘袖珍戰列艦和57艘潛艇，能隨時開往大西洋執行任務的只有2艘袖珍戰列艦和23艘潛艇。鄧尼茲為此抱怨道：“這樣少的武器只能起到刺痛敵人的作用，而不可能使一個世界第一流的海軍強國求和。”
1939年9月3日，英國對德正式宣戰。當天鄧尼茲派出的U-30號潛艇便初戰告捷，擊沉英郵輪“雅典娜”號，由此大西洋海戰拉開序幕。
開戰初期，由於德國海軍力量遠不如英國海軍強大，尤其是大型水面艦只少得可憐，因此德國除以1—2艘袖珍戰列艦組成水面小編隊，把商船改裝成襲擊艦與英海軍正面交火實行破襲戰外，還展開潛艇戰，以單艇在廣闊的大西洋對英國航運實行“打了就跑”的戰術。到1940年3月1日為止，德國潛艇共擊沉船隻199艘，達70餘萬總噸位。兩艘袖珍戰列艦也擊沉了5.7萬總噸位的船隻。儘管英國於1939年5月便建立起護航制度，但每天仍有不少船隻慘遭德潛艇屠殺，這些潛艇被人們稱為“海狼”，使英國人聞之色變。此外，英國戰艦也成為德國潛艇攻擊的目標。1939年9月19日，德U-29號潛艇在通往不列顛群島的西航道外一舉擊沉了英國航空母艦“勇敢”號，為此英國人不得不將航空母艦從德國潛艇活動頻繁的地區撤了出去。10月14日，鄧尼茨指派他的愛將普里安少校率U-47號潛艇長途奔襲英國本土海軍基地斯帕卡灣，擊沉英戰列艦“皇家橡樹”號，艦上近800名官兵葬身海底。此後，英國人被迫放棄了斯帕卡這一重要海軍基地。另外，德潛艇還擊傷了“納爾遜”號、“巴勒姆”號戰列艦和“貝爾法斯特”號巡洋艦。德方僅損失14艘潛艇，約9500總噸位。
英國皇家海軍對“海狼”們無可奈何，但對付德國的袖珍戰列艦卻得心應手。1939年12月13日，3艘英國巡洋艦在南大西洋上與德國袖珍戰列艦“格拉夫。施佩”號展開激烈戰鬥。德艦敗退到中立國烏拉圭的蒙得維的亞港。由於烏拉圭政府不允許它在港內維修並限期離港，“格拉夫。施佩”號走投無路，被迫自行鑿沉。
1940年6月，法國淪陷，英國失去了法國艦隊的支援，而德國卻獲得了離大西洋更近的大陸西海岸的海港和潛艇基地。同時，德國潛艇數目也有了增加，這使鄧尼茨決定實施其以前難以施展的潛艇戰新戰術——“狼群戰術”，即多艘潛能協同作戰，一但發現盟國護航艦隊，便由一艘搜尋追擊，並用無線電引導其餘潛艇到場集合，搶佔護航隊上風，然後在水上連續數日夜襲，直到殲滅獵物為止。鄧尼茨明確指出這一作戰模式的實質是經濟戰，通過對大西洋上英國的經濟生命線的絞殺來遏制其戰爭能力。
1940年夏秋，當時形勢對潛艇經濟戰非常有利，獲得了相當大的成攻。因為英國不得不保留強大的驅逐艦隊保衛本土，一時間英國的護航力量薄弱得不堪一擊。僅在6月，德國潛艇便擊沉英船58艘，共28.4萬總噸位。丘吉爾急呼羅斯福援助驅逐艦。9月，英美達成協議，美國用50艘舊驅逐艦租借英國在西印度群島、百慕大以及紐芬蘭的海空基地。但這並不能立即改變英國在大西洋的護航形勢，“狼群”仍然為所欲為。10月17—至18日夜，6艘德國潛艇在北海結群襲擊了由加拿大駛往英國的“SC-7”護航運輸船隊，擊沉17艘貨船;10月19日夜，“海上殺手”普里安指揮的U-47號潛艇又在鄰近水域發現了英“HX-79”護航運輸隊，普里安立即用無線電召來4艘潛艇，連續兩日夜襲，將14艘英國貨船送入了海底。從1940年7月到10月，德國潛艇共擊沉了205艘英國艦船，達108.9萬總噸位，而德國僅損失了6艘潛艇。只是冬季到來大西洋風大浪險，才使“狼群”難以展開攻擊而一度收斂。
1941年3月，隨著氣候的回溫，大西洋上再次然起戰火。今非昔比，英國人在吃了虧後，改進了對付潛艇的戰術和裝置。聲納、無線電測向儀和更加有效的深水炸彈的發明，使得英國的護航條件大為改善。“狼群”開始品嚐到英國“獵槍”的味道了。3月7日，王牌艇長普里安指揮的的U-47號潛艇在攻擊英“OB-293”護航船隊時，被英國驅逐艦用深水炸彈擊沉，“海上殺手”普里安命喪海底。10天后，王牌艇長克萊施麥少校指揮的U-90號潛艇和王牌艇長舍普爾指揮少校的U-100號潛艇，在攻擊英國“HX-12”護航隊時也被擊沉，舍普爾隨艇喪生，擊沉盟國船隻噸位數最高的克萊施麥則被麥金泰爾上校指揮的英國驅逐艦活捉。從此，英國人開始從“狼群戰術”造成的驚慌失措中逐步恢復過來。
1941年春，德國海軍部還派出了大批大型水面艦只參加了大西洋戰役，包括“施佩伯爵”號、“舍爾海軍上將”號、“沙恩霍斯”號等大型戰列艦，他們共擊沉了數十萬噸的貨船和護衛艦船。5月中旬，德國新造的航速最快的巨型戰列艦“俾斯麥”號(4.2萬噸)隨帶新巡洋艦“歐根親王”號駛入大西洋，以圖括大戰果。5月24日晨光初現之時，即在格林蘭海域與出擊攔截的英戰列巡洋艦“胡德”號和“威爾士親王”號遭遇，於是在間距僅14英里之處四艦同時開火。德國兩艦集中對付英最大的“胡德”號，使其爆炸起火，幾分鐘內便沉入海底，“威爾士親王”號也中彈撤離戰場。但德艦不久就遭到以“皇家方舟”號航空母艦為主的英聯合艦隊的追擊，27日，“俾斯麥”號在魚雷、重炮和炸彈的轟擊下成為一團火焰，緩緩沉入波濤之中，艦上2000餘人葬身魚腹。“俾斯麥”號的沉沒，標誌著雷德爾計劃用大型水面艦只贏得大西洋之戰的戰略失敗，從此鄧尼茲的潛艇成為德國海軍的主要作戰力量。
