Sau khi hòa bình lập lại tại miền Bắc, để đáp ứng yêu cầu quản lý, bảo vệ vùng biển và bờ biển, ngày 7/5/1955, Cục Phòng thủ Bờ biển trực thuộc Bộ Quốc phòng ra đời, đã mở đầu cho thời kỳ xây dựng và phát triển lực lượng của Hải quân nhân dân Việt Nam.

Một lực lượng non trẻ dù mới thành lập nhưng chỉ sau 9 năm, đội quân ấy đã đánh bại tàu khu trục của Mỹ, bắn rơi 8 máy bay, bắn bị thương 8 chiếc khác, bắt sống 1 giặc lái, cùng quân dân miền Bắc lập nên chiến thắng trận đầu ngày 2 và 5/8/1964. Tàu Maddox thuộc hạm đội 7 của Mỹ với những loại vũ khí tối tân hiện đại nhất là loại tàu chuyên săn ngư lôi, lại bị chính tàu phóng lôi trang bị thô sơ của Hải quân nhân dân Việt Nam đánh bại.

Ông Đỗ Mạnh Hoán, thủy thủ của phân đội 3, tàu phóng lôi năm đó nhớ lại: "Cả cái tàu của ta chỉ có 25 - 26 tấn so với tàu khu trục của Mỹ là 1000 tấn. Nó đúng là con voi mình chỉ là con kiến thôi. Cho nên chênh lệch lực lượng rất lớn. Nhưng anh em không run sợ trước cái đó. Khi nó xâm phạm vùng biển của mình phải đánh thôi, giặc đến nhà đàn bà còn đánh!"

Thực hiện nhiệm vụ chi viện cho chiến trường miền Nam, từ năm 1961-1975, Hải quân nhân dân Việt Nam đã làm nên huyền thoại đường Hồ Chí Minh trên biển. Đại tướng Võ Nguyên Giáp căn dặn: "Đường biển là con đường duy nhất có thể chi viện cho Đồng bằng sông Cửu Long". Vậy nên, khác với các đội quân "tìm địch mà đánh", nhiệm vụ của người thủy thủ "Tàu Không số" là phải đảm bảo tuyệt đối bí mật để giữ an toàn cho con đường. Đây là một nhiệm vụ hết sức gian nan bởi chiến trường sông, biển mênh mông, trống trải, trong khi máy bay, tàu địch lùng sục ở khắp mọi nơi.

Nhưng với quyết tâm cao độ, Hải quân nhân dân Việt Nam đã sáng tạo ra nhiều phương thức vận chuyển táo bạo, hình thành nhiều tuyến, mở hàng chục bến bãi dọc ven biển, vận chuyển hàng trăm nghìn tấn vũ khí, đạn dược, hàng chục nghìn lượt cán bộ, kịp thời chi viện cho miền Nam. Các tàu trước khi xuất bến đều được ngụy trang kỹ càng, được cài sẵn lượng lớn thuốc nổ, phòng khi bị phát hiện, các chiến sĩ sẽ cho nổ tàu để giữ bí mật.

Năm tháng ấy với Anh hùng lực lượng vũ trang nhân dân, thuyền trưởng Nguyễn Văn Đức, mỗi lần lên đường là nhiều lần đối diện với hy sinh, thế nhưng thời gian không dành cho sự thấp thỏm lo lắng chờ đợi may rủi, mà chỉ có ý chí, quyết tâm cao độ để những chuyến tàu cập bến an toàn.

Thuyền trưởng Nguyễn Văn Đức nói: "Biết rằng mỗi lần đi là mỗi lần vĩnh biệt nhưng vẫn đi. Nhờ quyết tâm ấy và nhờ chủ trương sáng suốt của Đảng và Quân ủy Trung ương cho nên địch phong tỏa dày đặc nhưng bao giờ cũng có kẽ hở, mà có kẽ hở mình lọt được thì sẽ thắng lợi, hàng trăm tấn vũ khí đưa về đc tận tay quân giải phóng."

Trong cuộc Tổng tiến công và nổi dậy mùa Xuân năm 1975, Hải quân huy động cao nhất tàu, thuyền để đưa gần 4000 cán bộ, chiến sĩ đi chiến đấu; phối hợp cùng Quân khu 5 thần tốc, táo bạo, bất ngờ tiến công giải phóng quần đảo Trường Sa và các đảo ven biển miền Trung, vùng biển Tây Nam, góp phần vào thắng lợi trọn vẹn, vĩ đại của dân tộc. 

Đại tá, Anh hùng Lực lượng vũ trang nhân dân Nguyễn Ngọc Quế, nguyên trưởng Đoàn Đặc công Hải quân 126, người trực tiếp chỉ huy đội 1 giải phóng đảo Song Tử Tây chia sẻ: "Khó khăn của giai đoạn này là ở dưới biển, tàu chiến của địch đang thực hiện cuộc di tản và bảo vệ cuộc di tản, ở trên thì máy bay, cho nên làm sao mình phải ngụy trang làm tàu đánh cá, giữ bí mật đến phút cuối cùng. Buộc đội hình phải thay đổi hướng đi, ngày thay đổi 2 lần. Đòi hỏi sự quyết tâm, cố gắng của cán bộ, chiến sỹ để thực thi nhiệm vụ thần tốc trong chiến dịch HCM lịch sử đòi hỏi sự hy sinh, mất còn khi Tổ quốc cần."

Bước vào sự nghiệp xây dựng và bảo vệ đất nước, đối mặt với biết bao thử thách, khắc nghiệt, nhất là trước những diễn biến hết sức phức tạp trên biển Đông, Hải quân nhân dân Việt Nam tiếp tục phát huy truyền thống vẻ vang, làm nòng cốt bảo vệ vững chắc chủ quyền biển, đảo, hỗ trợ, đồng hành cùng ngư dân vươn khơi an toàn. Các anh đã tô thắm thêm truyền thống hào hùng của quân đội ta, xứng đáng là bộ đội cụ Hồ, là điểm tựa vững vàng cho Tổ quốc ngoài khơi xa.