Năm Giáp Tuất (1874 ) khi mới 10 tuổi Cao Thắng đã đi theo đội Lựu làm liên lạc cho nghĩa quân Cờ Vàng, sau khi đội Lựu chết, Cao Thắng lẩn trốn may được giáo thụ Phan Đình Thuật (anh ruột Phan Đình Phùng) đưa về nuôi.
Năm 1885, ông cùng em ruột là Cao Đạt chiêu tập dân đinh khởi nghĩa rồi gia nhập nghĩa quân Phan Đình Phùng, được cụ Phan hết sức tin cẩn giao cho chức Quản Cơ, mặc dù mới 21 tuổi nhưng Cao Thắng tỏ ra là một tướng tài được quân sĩ tin phục. Năm 1887 Phan Đình Phùng ra Bắc để liên kết các lực lượng chống Pháp, ông được trao quyền chỉ huy nghĩa quân. Ông đã cho xây dựng một hệ thống đồn luỹ hình thành một thế trận liên hoàn dựa lưng vào dãy Thiên Nhẫn và Giăng Màn. Những căn cứ này tạo thành một hình cánh cung vây kín ba mặt Bắc, Tây, Nam sẵn sàng ứng cứu cho nhau một cách mau lẹ nếu một trong các đồn luỹ bị tấn công, vừa có đường rút sang Lào lại có thể tiến thẳng về đồng bằng để khi cần mở rộng địa bàn sang cả Nghệ An vào tận Quảng Bình xuống vùng Đức Thọ, Thạch Hà, Can Lộc về tỉnh thành Hà Tĩnh. Giặc Pháp tiến vào đây chỉ có một con đường độc đạo là quốc lộ 8, cũng chính vì thế những căn cứ này đã có thể giữ vững được cho đến ngày cuối cùng của cuộc khởi nghĩa (1896).
Cao Thắng không những là một nhà chỉ huy quân sự đầy mưu lược, nhà chỉ đạo tổ chức thực tiễn tài giỏi mà còn là một người sáng tạo. Nhận thức được vấn đề vũ khí có tác dụng rất lớn trong chiến tranh, vấn đề đặt ra đối với Cao Thắng là bằng mọi cách phải chế tạo được súng như của Tây. Từ đó ông cho tập trung thợ rèn Trung Lương, Vân Chàng, thợ mộc Xa Lang về Trường Sim mở lò rèn đúc súng theo kiểu 1874 của Pháp, chẳng bao lâu những kho vũ khí lớn như Khe Rèn, đồn Cây Khế ở Đại Hàm đã chứa hàng trăm khẩu súng kiểu 1874 cùng rất nhiều đạn dược, súng bắn rất hiệu nghiệm và chỉ có nhược điểm là bắn không xa bằng súng Pháp do ruột gà ngắn và không có rãnh bên trong. Đại uý Pháp Goselin từng dự vào cuộc chinh phạt ở Nghệ Tĩnh đã viết trong cuốn “Nước Nam”: “ Tôi có đem nhiều khẩu súng đó về Pháp nó giống đủ mọi vẻ như súng của các xưởng binh khí nước ta chế tạo, đến nổi tôi đưa cho các quan pháo thủ xem các ông cũng phải sửng sốt lạ lùng”.
Nhờ tài năng tổ chức chỉ huy biết coi trọng cả hai mặt quân sự và chính trị của Cao Thắng nên vùng căn cứ địa Hương Khê, Hương Sơn được củng cố vững mạnh, từ đó làm bàn đạp để mở rộng địa bàn hoạt động phá thế bao vây của địch. Tháng 9 năm 1889, Cao Thắng được Phan Đình Phùng cử làm Tổng chỉ huy nghĩa quân. Dưới quyền chỉ huy của Cao Thắng trong những năm 1889 – 1892 nghĩa quân căn bản giữ vững và phát triển được lực lượng liên tục tấn công địch ở Thanh Chương, Anh Sơn (Nghệ An), khắp nơi ở Hà Tĩnh và các cuộc càn quét của địch đều bị bẻ gãy. Nhưng đến đầu năm 1893 sau khi đánh dẹp xong các cuộc khởi nghĩa ở Bắc Kỳ, quân Pháp tập trung lực lượng đánh nghĩa quân Phan Đình Phùng. Một mặt chúng cắt đứt các đường tiếp tế lương thực mặt khác dùng kế ly gián dụ hàng, vòng vây của địch ngày càng khép chặt, để phá thế bao vây Cao Thắng đề nghị với Phan Đình Phùng một kế hoạch táo bạo là đánh thẳng vào tỉnh thành Nghệ An đầu não chỉ huy của địch khai thông con đường ra Bắc. Tuy nhiên trong một trận đánh ở Thanh Chương ( Nghệ An) vị tướng tài trẻ tuổi đã hy sinh lúc 29 tuổi giữa lúc tài năng đang chín muồi. Đó là một tổn thất vô cùng to lớn của nghĩa quân Hương Khê và phong trào chống Pháp ở Trung Kỳ, cụ Phan như mất cánh tay phải đắc lực của mình.
Cao Thắng đã hiến trọn cuộc đời trẻ tuổi vì sự nghiệp của dân tộc, đó là một vị tướng trẻ tuổi, nhà chỉ huy và tổ chức quân sự tài giỏi, một “ kỹ sư quân giới” một nhà sáng chế thông minh sáng tạo. Thân thế và sự nghiệp của Cao Thắng mãi mãi chói ngời trong trang sử anh hùng của dân tộc chống Pháp xâm lược cuối thế kỷ 19.