diff --git a/ep_setup/ep_setup.c b/ep_setup/ep_setup.c
index dcf40369d..7706463c0 100644
--- a/ep_setup/ep_setup.c
+++ b/ep_setup/ep_setup.c
@@ -985,11 +985,14 @@ int WINAPI wWinMain(
                 {
                     bOk = DeleteFileW(wszPath);
                 }
-                PathRemoveExtensionW(wszPath);
-                wcscat_s(wszPath, MAX_PATH, L".prev");
-                if (FileExistsW(wszPath))
+                if (bOk)
                 {
-                    bOk = DeleteFileW(wszPath);
+                    PathRemoveExtensionW(wszPath);
+                    wcscat_s(wszPath, MAX_PATH, L".prev");
+                    if (FileExistsW(wszPath))
+                    {
+                        bOk = DeleteFileW(wszPath);
+                    }
                 }
                 if (bOk)
                 {