Depuis le tout début des hostilités, la Grande-Bretagne doit faire face à une seconde menace à sa survie. Ce danger vient de la mer; l'Allemagne est bien décidée à affamer la Grande-Bretagne en coupant ses communications maritimes et en l'empêchant de s'approvisionner outre-mer. Maîtres de toute la côte européenne de Narvik aux Pyrénées, les Allemands tentent de couper les lignes de ravitaillement de la Grande-Bretagne à partir de tous les ports et de tous les aérodromes de l'ouest de l'Europe.
Pendant six longues années, la Marine canadienne sera l'un des principaux protagonistes de ce qu'on appellera la bataille de l'Atlantique. La Marine royale canadienne, qui n'avait que 13 navires et 3 000 hommes au début de la guerre la finira avec 373 navires de combat et plus de 90 000 hommes. Au cours de la crise de 1940, alors que les armées allemandes marchaient sur la France, quatre destroyers de la MRC ont été envoyés dans la Manche où ils ont aidé à l'évacuation des troupes, débarqué des militaires et effectué des démolitions. Après la chute de la France, les destroyers canadiens se sont joints à la Marine royale pour protéger les approches sud-ouest de la Grande-Bretagne où les sous-marins allemands attaquaient vigoureusement. À compter de juillet 1940, tous les navires doivent être détournés par le nord de l'Irlande et la mer d'Irlande.
Même cette route est sérieusement menacée et les navires canadiens dans les eaux britanniques tentent de repousser les attaques des sous-marins tout en repêchant les survivants des navires marchands torpillés. À la fin de 1940, à la suite d'une entente entre la Grande-Bretagne et les États-Unis, 50 vieux destroyers américains sont transférés à la Marine royale. Le Canada en acquiert six. Ceci permet d'augmenter la contribution canadienne dans les eaux britanniques et, en février 1941, il y a dix destroyers de la MRC qui travaillent avec la flotte anglaise.
Bien que la Marine royale ait pu affirmer sa supériorité sur la flotte allemande de surface, la menace des sous-marins allemands - Unterseebooten - s'accroît. Un nombre de plus en plus grand de sous-marins se joint aux bandes qui chassent en mer; au printemps de 1941, ils coulent les navires marchands plus vite qu'on ne peut les remplacer.
Pour assurer les approvisionnements stratégiques, il faut pouvoir traverser l'Atlantique. Pour pouvoir transporter la plus grande quantité possible de marchandises et d'hommes, il faut organiser et contrôler le mouvement des navires et les protéger des attaques ennemies. C'est pourquoi on constitue des convois pour régler les mouvements des navires et pour pouvoir mieux les escorter par mer et par air.
C'est en maintenant ouverte cette ligne vitale de communication en assurant la protection des convois que les aviateurs et les marins canadiens joueront un rôle de plus en plus vital. Le premier convoi part de Halifax le 16 septembre 1939, escorté par les destroyers canadiens Saint-Laurent et Saguenay jusqu'à ce qu'il soit rendu loin dans l'Atlantique où des croiseurs britanniques prennent la relève. Pendant de nombreux mois - jusqu'à ce que de nouveaux navires soient lancés - les Canadiens fournissent des escortes; c'est un travail onéreux et dangereux et les Canadiens connaissent les pires misères de la guerre en mer. La navigation dans le Nord Atlantique est extrêmement dangereuse et des hommes meurent non seulement à la suite des attaques de l'ennemi, mais aussi d'exposition aux intempéries et des accidents qu'entraînent le brouillard et les tempêtes d'hiver.
La protection n'est pas non plus suffisante pour empêcher de lourdes pertes. On manque de navires de guerre et d'avions de patrouille maritime, les appareils sont désuets et la formation fait défaut. Concentrant leurs attaques sur les points faibles des défenses navales des Alliés, les sous-marins allemands commencent à attaquer les navires marchands beaucoup plus loin à l'ouest au moyen de leurs nouveaux sous-marins à long rayon d'action lancés de leurs nouvelles bases dans le golfe de Gascogne. Des navires sont perdus parce que leurs escortes ont atteint les limites de leur endurance et ont dû faire demi-tour. À l'approche du printemps 1941, l'ennemi intensifie ses attaques et les pertes en navires atteignent des proportions très graves. Au cours du seul mois de juin, un total de plus de 500 000 tonneaux sont perdus aux mains des sous-marins.
On construit donc de nouveaux types de navires et les scientifiques travaillent désespérément pour concevoir de nouvelles façons de repérer et de détruire les sous-marins. Le flotte canadienne est augmentée de plusieurs nouveaux types de navires, dont la corvette est peut-être le plus célèbre. Conçue sur le modèle d'une baleinière, elle peut se produire rapidement et à bon marché, elle peut l'emporter sur un sous-marin en tactique et son rayon d'action est très long. Cependant, les corvettes sont loin d'être des paradis flottants; lorsque la mer est grosse, l'eau salée s'infiltre par les joints, les écoutilles et les ventilateurs. Les 60 hommes d'équipage qui y sont entassés doivent vivre dans des conditions peu enviables. Néanmoins, ces petits navires, dont les 14 premiers furent contruits à la fin de 1940 s'avérèrent précieux dans la guerre anti-sous-marins.
Les sous-marins ennemis commençant à se risquer
plus loin à l'ouest, les Britanniques répondent
en établissant de nouvelles bases pour les navires et les
avions en Islande et à Terre-Neuve. Les bases de Terre-Neuve
relèvent du Canada. Le 31 mai 1941, le Commodore L.W.
Murray, MRC, est nommé commandant de la force d'escorte
de Terre-Neuve, plus tard la force d'escorte de haut mer, relevant
du commandant en chef britannique des approches de l'Ouest. Quelques
jours plus tard, les premières corvettes canadiennes rejoignent
son commandement. En juin, les destroyers canadiens des eaux
britanniques reviennent servir avec la force de Terre-Neuve.
En juillet, la force d'escorte de Terre-Neuve compte 12 groupes
et escorte des convois jusqu'au 35o ouest.
Quant au CARC, il assure des patrouilles à partir de Terre-Neuve depuis 1939 et le premier escadron de patrouille maritime est stationné à Gander depuis 1940. Il assure maintenant le soutien aérien de la force d'escorte de Terre-Neuve. À partir de bases situées des deux côtés de l'Atlantique et en Islande, les avions de la défense côtière de la RAF ainsi que les escadrilles du CARC patrouillent toute la route, à l'exception d'un secteur d'environ 300 milles au milieu de l'Océan.
La bataille navale continue. On n'arrive pas à remplacer les navires aussi vite qu'ils sont perdus; les escortes sont presque toujours en infériorité numérique par rapport aux bandes de sous-marins allemands et il devient manifeste que la guerre pourrait bien être perdue en mer.
Entretemps, malgré leur neutralité officielle, les États-Unis se sont de plus en plus impliqués dans la guerre en mer. En septembre 1941, les forces navales canadiennes relèvent de la coordination américaine. Au lieu de relever du commandant en chef britannique, situé en Angleterre, elles relèvent d'un commandant américain, qui sera beaucoup plus près de la situation. Cependant, lorsque les États-Unis entrent officiellement en guerre on décembre 1941 après l'attaque japonaise contre Pearl Harbor, bon nombre des navires américains sont envoyés dans le Pacifique pour faire face à cette nouvelle menace. Ceci affaiblit malheureusement les défenses anti-sous-marins dans l'Atlantique.
Au début de 1942, la bataille de l'Atlantique se déplace en direction des côtes de l'Amérique du Nord. L'ennemi détruit les caboteurs depuis la mer des Antilles jusqu'à Halifax et pénètre même dans le golfe du Saint-Laurent. Les attaques allemandes connaissent un succès dévastateur et plus de 200 navires qui étaient pour la plupart, des pétroliers sont coulés à dix milles des côtes canadiennes ou américaines. Les autorités navales américaines s'étant rendu compte des avantages des convois, ont fait appel à la flotte canadienne, pourtant petite et déjà surchargée, pour protéger les navires se dirigeant vers le sud. Le service naval canadien, qui compte 188 navires de guerre et 16 000 hommes en mer, assure maintenant près de la moitié des escortes de surface pour les convois allant de l'Amérique du Nord à la Grande-Bretagne. Le CARC, qui compte huit escadrilles de patrouille maritime et 78 appareils de la côte Atlantique, s'occupe de plus en plus de surveillance aérienne dans le nord-ouest de l'Atlantique.
On n'arrive toujours pas à assurer une protection suffisante pour les convois. À hiver de 1942-43, la situation est désespérée. Les sous-marins allemands, qui opèrent librement à partir de bases situées dans le golfe de Gascogne, augmentent en nombre et les attaques se multiplient. Même si les navires canadiens connaissent quatre victoires à l'été de 1942, rien cet hiver-là ne peut compenser les pertes énormes subies par les convois.
Les Canadiens sont bien au courant des graves problèmes que comportent leurs opérations. Leurs navires et leur matériel sont insuffisants. Les avions se sont avérés précieux dans la lutte contre les sous-marins, mais les escadrilles du secteur est du CARC ne disposent d'aucun appareil qui soit véritablement à longue portée. En conséquence, les sous-marins allemands peuvent attaquer plus ou moins librement dans un certain secteur du milieu de l'Atlantique connu comme le «Black Pit». En outre, bien qu'il n'y ait que très peu de navires américains dans l'Atlantique, la force d'escorte de Terre-Neuve demeure sous commandement américain.
La situation très difficile de la guerre de l'Atlantique aboutit à une conférence sur les convois de l'Atlantique en mars 1943. Les Britanniques, les Américains et les Canadiens y participent. Il est convenu que la Grande-Bretagne et le Canada se partageront la responsabilité de l'Atlantique Nord. Le contre-amiral Murray reçoit le commandement direct au secteur de l'Atlantique limité par une ligne allant vers l'est à partir de New York et vers le sud à partir du Groënland le long du 47e méridien ouest. La nomination d'un Canadien à ce poste clé, celui de commandant en chef du nord-ouest Atlantique canadien, illustre de façon dramatique le rôle et le prestige accru de la MRC. Dans un monde divisé en secteurs opérationnels, Murray devient le seul Canadien à assumer de telles responsabilités.
L'amélioration de la formation, de la protection aérienne et du matériel permettent de renverser la situation de la guerre des convois en 1943. En mai, le CARC acquiert de la Grande-Bretagne certains des bombardiers Liberator à longue portée dont il a besoin pour couvrir le milieu de l'Océan et de nouveaux navires d'escorte, avec un équipement modernisé, permettent la constitution de puissants groupes de soutien. S'ajoutant à l'amélioration de la formation, ceci permet aux Alliés de prendre l'avance dans l'Atlantique.
La bataille de l'Atlantique se poursuit jusqu'à la fin de la guerre. À certains moments, notamment à l'automne de 1943 et de 1944, la situation redevient dangereuse. Les sous-marins allemands, munis d'un matériel nouveau, la torpille acoustique et le schnorkel, redonnent pendant un certain temps l'avantage aux sous-marins; et en mars 1945, la marine allemande dispose de 463 sous-marins en patrouille, en comparaison de 27 en 1939.
Pourtant, le CARC et la MRC ont réussi à renverser la situation dans leur secteur de l'Atlantique. De plus en plus de marins canadiens traversent l'Atlantique pour livrer bataille plus près de l'ennemi. À leur retour dans les eaux britanniques, les hommes des deux armes canadiennes font la preuve des avantages que donnent une bonne formation et une solide expérience.