Hồ Tùng Mậu tên thật là Hồ Bá Cự, sinh ngày 15 tháng 6 năm 1896 tại làng Quỳnh Đôi, huyện Quỳnh Lưu, tỉnh Nghệ An. Thân sinh của ông là cụ Hồ Bá Kiện. Cụ Kiện là một chí sĩ trong phong trào Văn Thân, bị thực dân Pháp bắt giam và bắn chết trong khi vượt ngục tại Lao Bảo.
Năm 1919 Hồ Tùng Mậu sang Thái Lan, rồi sang Trung Quốc để hoạt động chính trị với mục đích giành độc lập cho Việt Nam khỏi chế độ đô hộ của thực dân Pháp.
Năm 1923, ông cùng Lê Hồng Sơn tham gia tổ chức Tâm Tâm Xã – Một tổ chức cách mạng của những thanh niên, trí thức yêu nước.
Mùa xuân năm 1924, Hồ Tùng Mậu về nước. Tháng 7 năm 1924, được tin Phạm Hồng Thái mưu sát Toàn quyền Martial Henri Merlin, Hồ Tùng Mậu trở lại Quảng Châu. Năm 1925, ông gặp Nguyễn Ái Quốc rồi trở thành một cán bộ trong tổ chức Thanh niên Cách mạng Đồng chí Hội.
Tháng 3 năm 1926, ông gia nhập Đảng Cộng sản Trung Quốc. Sau đó 4 năm, ông là đảng viên Đảng Cộng Sản Việt Nam. Ông đã ba lần bị chính quyền Tưởng Giới Thạch bắt giam vào các năm 1927, 1928 và 1929. Được thả cuối năm 1929, ông đã góp phần tích cực vào việc hợp nhất các tổ chức cộng sản Việt Nam tại Cửu Long (Hương Cảng), ngày 3 tháng 2 năm 1930.
Khi Nguyễn Ái Quốc bị cảnh sát Hương Cảng bắt tháng 6 năm 1931, ông đã cùng Trương Vân Lĩnh liên hệ với Hội Quốc tế Cứu tế Đỏ nhờ can thiệp và vận động luật sư Loseby bào chữa cho Nguyễn Ái Quốc. Chính vì thế, ông bị nhà cầm quyền Hương Cảng bắt giam, nhưng vì không đủ chứng cứ buộc tội nên họ trục xuất ông khỏi Hương Cảng.
Khi ông vừa đặt chân lên đất Thượng Hải ngày 26 tháng 6 năm 1931, thì bị mật thám Pháp bắt và giải về Việt Nam xét xử. Ông bị kết án tù chung thân. Trải qua các nhà lao Vinh, Lao Bảo, Kon Tum, Buôn Ma Thuột, Trà Khê, tháng 3 năm 1943, ông vượt ngục ở Trà Khê và hoạt động ở Trung Bộ.
Sau Cách mạng Tháng Tám, ông được phân công giữ các chức vụ: Phụ trách trường Quân chính Nhượng Bạn (Trung Bộ), Chủ tịch Ủy ban kháng chiến Liên khu IV, Ủy viên thường vụ Liên khu ủy. Năm 1947, ông làm Trưởng Ban Thanh tra Chính phủ, sau đó còn làm Hội trưởng Hội Việt Hoa hữu nghị. Tại Đại hội Đảng lần thứ II vào tháng 2 năm 1951, ông được bầu là Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng.
Ngày 23 tháng 7 năm 1951, ông hy sinh trên đường đi vào Liên khu IV công tác, do bị máy bay Pháp bắn trúng tại Phố Còng, huyện Tĩnh Gia, tỉnh Thanh Hóa.
Sau khi được tin ông hy sinh, Chủ tịch Hồ Chí Minh ký sắc lệnh truy tặng Huân chương Hồ Chí Minh và tự tay viết Lời điếu viếng ông, trong đó có đoạn: “Chú Tùng Mậu ơi! Lòng ta rất đau xót, linh hồn chú biết chăng? Về tình nghĩa riêng – tôi với chú là đồng chí, lại là thân thiết hơn anh em ruột. Khi hoạt động ở đất khách quê người, khi bị giam ở lao tù đế quốc, khi tranh đấu ở nước nhà… đã bao phen chúng ta đồng cam cộng khổ như tay với chân”. “Mất chú, đồng bào mất một người lãnh đạo tận tụy, Chính phủ mất một người cán bộ lão luyện, đoàn thể mất một người đồng chí trung thành và tôi mất một người anh em chí thiết! Mấy nguồn thương tiếc! Mấy nguồn thương tiếc cộng vào một lòng tôi…”
Năm 2008, ông được truy tặng Huân chương Sao Vàng, huân chương cao quý nhất của nhà nước Việt Nam.
Tên ông đã được đặt cho nhiều đường phố và trường học trong cả nước.