Trải qua các cương vị công tác từ trung đội trưởng đến tiểu đoàn trưởng, anh luôn tâm niệm một điều rằng: Muốn quản lý, giáo dục, huấn luyện bộ đội tốt, xây dựng đơn vị mững mạnh, trước hết mình phải là một tấm gương trong học tập và rèn luyện; ở bất kỳ cương vị nào anh cũng không ngừng học hỏi với phương châm “học từ dễ đến khó, từ đơn giản đến phức tạp, học cấp trên, đồng chí, đồng đội và với cả cấp dưới của mình”.
Tháng 4/2012, anh được bổ nhiệm Tiểu đoàn trưởng Tiểu đoàn 2 từ Phó Tiểu đoàn trưởng Tiểu đoàn 3. Bắt tay vào công việc của một tiểu đoàn trưởng, anh đặt quyết tâm xây dựng Tiểu đoàn trở thành “Đơn vị quyết thắng”.
Nói là làm và điều đầu tiên Thùy bắt tay vào làm là xây dựng sự đoàn kết, thống nhất trong Đảng ủy, chỉ huy và toàn thể cán bộ, chiến sĩ. Anh tâm niệm: Đối với một tập thể dù lớn hay nhỏ, đoàn kết là sức mạnh, là nguồn gốc của mọi sự thành công. Trước mọi nhiệm vụ, công việc Thùy đều trao đổi bàn bạc kỹ với Ban chỉ huy Tiểu đoàn, những nội dung cần sự lãnh đạo đều được đưa ra Đảng ủy thảo luận, bàn bạc kỹ rồi mới quyết định.
Đối với một đơn vị pháo binh có nhiều phân khoa, điều làm Thùy trăn trở, suy nghĩ nhiều nhất là phải tìm ra phương pháp huấn luyện phù hợp để kích thích, thúc đẩy quá trình tự học, tự rèn của bộ đội. Theo anh, “muốn nâng cao được chất lượng huấn luyện thì kết quả huấn luyện phải được định tính hằng ngày, cán bộ các cấp phải nắm rõ trình độ của từng chiến sĩ và phân đội sau mỗi ngày huấn luyện”.
Để làm được điều đó, ngoài việc xây dựng kế hoạch, tiến trình biểu huấn luyện một cách khoa học, anh đã chú trọng bồi dưỡng đội ngũ cán bộ cấp dưới cả về chuyên môn, tác phong chỉ huy, phương pháp huấn luyện; thường xuyên tổ chức bình tập, hội thao, hội thi giữa các cá nhân, phân đội sau mỗi ngày, mỗi khóa mục huấn luyện.
Nhờ đó, kết quả huấn luyện của Tiểu đoàn không ngừng được nâng lên, 100% khoa mục huấn luyện đều đạt yêu cầu, có trên 80% khá giỏi; diễn tập có bắn đạn thật hằng năm đều đạt giỏi; tham gia các hội thi do Lữ đoàn và Quân đoàn 3 tổ chức đều đạt giải cao; bốn năm liền (từ 2012 - 2015) Tiểu đoàn đạt đơn vị huấn luyện giỏi.
Song song với nhiệm vụ huấn luyện, công tác xây dựng chính quy, rèn luyện kỷ luật cũng được Phạm Văn Thùy chú trọng thực hiện. Anh tâm sự: “Nhiệm vụ huấn luyện và xây dựng chính quy, rèn luyện kỷ luật giống như đôi cánh của một con chim vậy. Người chỉ huy không được phép coi trọng hoặc xem nhẹ nhiệm vụ nào”.
Thực tế là 4 năm liều (từ 2012 - 2015), Tiểu đoàn 2 không có quân nhân vi phạm kỷ luật phải xử lý; nhiều năm liền Tiểu đoàn 2 hoàn thành tốt nhiệm vụ, trong đó có hai năm (2012, 2013) đạt danh hiệu “Đơn vị quyết thắng”, bản thân Phạm Văn Thùy là Chiến sĩ thi đua cơ sở và được nhận nhiều bằng khen, giấy khen của các cấp...