Fix detection of unseekable files for fseek() and ftello() with MSVC
authorMichael Paquier
Wed, 12 Apr 2023 00:09:58 +0000 (09:09 +0900)
committerMichael Paquier
Wed, 12 Apr 2023 00:09:58 +0000 (09:09 +0900)
Calling fseek() or ftello() on a handle to a non-seeking device such as
a pipe or a communications device is not supported.  Unfortunately,
MSVC's flavor of these routines, _fseeki64() and _ftelli64(), do not
return an error when given a pipe as handle.  Some of the logic of
pg_dump and restore relies on these routines to check if a handle is
seekable, causing failures when passing the contents of pg_dump to
pg_restore through a pipe, for example.

This commit introduces wrappers for fseeko() and ftello() on MSVC so as
any callers are able to properly detect the cases of non-seekable
handles.  This relies mainly on GetFileType(), sharing a bit of code
with the MSVC port for fstat().  The code in charge of getting a file
type is refactored into a new file called win32common.c, shared by
win32stat.c and the new win32fseek.c.  It includes the MSVC ports for
fseeko() and ftello().

Like 765f5df, this is backpatched down to 14, where the fstat()
implementation for MSVC is able to understand about files larger than
4GB in size.  Using a TAP test for that is proving to be tricky as
IPC::Run handles the pipes by itself, still I have been able to check
the fix manually.

Reported-by: Daniel Watzinger
Author: Juan José Santamaría Flecha, Michael Paquier
Discussion: https://postgr.es/m/CAC+AXB26a4EmxM2suXxPpJaGrqAdxracd7hskLg-zxtPB50h7A@mail.gmail.com
Backpatch-through: 14

configure
configure.ac
src/include/port/win32_port.h
src/port/win32common.c [new file with mode: 0644]
src/port/win32fseek.c [new file with mode: 0644]
src/port/win32stat.c
src/tools/msvc/Mkvcbuild.pm

index 23322cf84a04ecbcea80c7bd6cb47e2afa51af20..7ba22b953a95c3dc42888f31dbfae885cf133798 100755 (executable)
--- a/configure
+++ b/configure
@@ -16984,6 +16984,12 @@ esac
  ;;
 esac
 
+  case " $LIBOBJS " in
+  *" win32common.$ac_objext "* ) ;;
+  *) LIBOBJS="$LIBOBJS win32common.$ac_objext"
+ ;;
+esac
+
   case " $LIBOBJS " in
   *" win32env.$ac_objext "* ) ;;
   *) LIBOBJS="$LIBOBJS win32env.$ac_objext"
index 63549491b1edc0707298e86dec12270b02fb3799..422a4c4b0ea91e7f36f8ec10b304c3f6294eaf5c 100644 (file)
@@ -1932,6 +1932,7 @@ if test "$PORTNAME" = "win32"; then
   AC_LIBOBJ(kill)
   AC_LIBOBJ(open)
   AC_LIBOBJ(system)
+  AC_LIBOBJ(win32common)
   AC_LIBOBJ(win32env)
   AC_LIBOBJ(win32error)
   AC_LIBOBJ(win32security)
index 05c5a5344206fb2a579b457f8ab796679a2814ac..41427a9c1affe410da15942f50e712dc59e5ee7b 100644 (file)
@@ -193,15 +193,21 @@ struct itimerval
 
 int            setitimer(int which, const struct itimerval *value, struct itimerval *ovalue);
 
+/* Convenience wrapper for GetFileType() */
+extern DWORD pgwin32_get_file_type(HANDLE hFile);
+
 /*
  * WIN32 does not provide 64-bit off_t, but does provide the functions operating
- * with 64-bit offsets.
+ * with 64-bit offsets.  Also, fseek() might not give an error for unseekable
+ * streams, so harden that function with our version.
  */
 #define pgoff_t __int64
 
 #ifdef _MSC_VER
-#define fseeko(stream, offset, origin) _fseeki64(stream, offset, origin)
-#define ftello(stream) _ftelli64(stream)
+extern int _pgfseeko64(FILE *stream, pgoff_t offset, int origin);
+extern pgoff_t _pgftello64(FILE *stream);
+#define fseeko(stream, offset, origin) _pgfseeko64(stream, offset, origin)
+#define ftello(stream) _pgftello64(stream)
 #else
 #ifndef fseeko
 #define fseeko(stream, offset, origin) fseeko64(stream, offset, origin)
diff --git a/src/port/win32common.c b/src/port/win32common.c
new file mode 100644 (file)
index 0000000..2fd78f7
--- /dev/null
@@ -0,0 +1,68 @@
+/*-------------------------------------------------------------------------
+ *
+ * win32common.c
+ *   Common routines shared among the win32*.c ports.
+ *
+ * Portions Copyright (c) 1996-2023, PostgreSQL Global Development Group
+ * Portions Copyright (c) 1994, Regents of the University of California
+ *
+ *
+ * IDENTIFICATION
+ *   src/port/win32common.c
+ *
+ *-------------------------------------------------------------------------
+ */
+
+#ifdef FRONTEND
+#include "postgres_fe.h"
+#else
+#include "postgres.h"
+#endif
+
+#ifdef WIN32
+
+/*
+ * pgwin32_get_file_type
+ *
+ * Convenience wrapper for GetFileType() with specific error handling for all the
+ * port implementations.  Returns the file type associated with a HANDLE.
+ *
+ * On error, sets errno with FILE_TYPE_UNKNOWN as file type.
+ */
+DWORD
+pgwin32_get_file_type(HANDLE hFile)
+{
+   DWORD       fileType = FILE_TYPE_UNKNOWN;
+   DWORD       lastError;
+
+   errno = 0;
+
+   /*
+    * When stdin, stdout, and stderr aren't associated with a stream the
+    * special value -2 is returned:
+    * https://learn.microsoft.com/en-us/cpp/c-runtime-library/reference/get-osfhandle
+    */
+   if (hFile == INVALID_HANDLE_VALUE || hFile == (HANDLE) -2)
+   {
+       errno = EINVAL;
+       return FILE_TYPE_UNKNOWN;
+   }
+
+   fileType = GetFileType(hFile);
+   lastError = GetLastError();
+
+   /*
+    * Invoke GetLastError in order to distinguish between a "valid" return of
+    * FILE_TYPE_UNKNOWN and its return due to a calling error.  In case of
+    * success, GetLastError() returns NO_ERROR.
+    */
+   if (fileType == FILE_TYPE_UNKNOWN && lastError != NO_ERROR)
+   {
+       _dosmaperr(lastError);
+       return FILE_TYPE_UNKNOWN;
+   }
+
+   return fileType;
+}
+
+#endif                         /* WIN32 */
diff --git a/src/port/win32fseek.c b/src/port/win32fseek.c
new file mode 100644 (file)
index 0000000..985313c
--- /dev/null
@@ -0,0 +1,75 @@
+/*-------------------------------------------------------------------------
+ *
+ * win32fseek.c
+ *   Replacements for fseeko() and ftello().
+ *
+ * Portions Copyright (c) 1996-2023, PostgreSQL Global Development Group
+ *
+ * IDENTIFICATION
+ *   src/port/win32fseek.c
+ *
+ *-------------------------------------------------------------------------
+ */
+
+#ifdef FRONTEND
+#include "postgres_fe.h"
+#else
+#include "postgres.h"
+#endif
+
+#if defined(WIN32) && defined(_MSC_VER)
+
+/*
+ * _pgfseeko64
+ *
+ * Calling fseek() on a handle to a non-seeking device such as a pipe or
+ * a communications device is not supported, and fseek() may not return
+ * an error.  This wrapper relies on the file type to check which cases
+ * are supported.
+ */
+int
+_pgfseeko64(FILE *stream, pgoff_t offset, int origin)
+{
+   DWORD       fileType;
+   HANDLE      hFile = (HANDLE) _get_osfhandle(_fileno(stream));
+
+   fileType = pgwin32_get_file_type(hFile);
+   if (errno != 0)
+       return -1;
+
+   if (fileType == FILE_TYPE_DISK)
+       return _fseeki64(stream, offset, origin);
+   else if (fileType == FILE_TYPE_CHAR || fileType == FILE_TYPE_PIPE)
+       errno = ESPIPE;
+   else
+       errno = EINVAL;
+
+   return -1;
+}
+
+/*
+ * _pgftello64
+ *
+ * Same as _pgfseeko64().
+ */
+pgoff_t
+_pgftello64(FILE *stream)
+{
+   DWORD       fileType;
+   HANDLE      hFile = (HANDLE) _get_osfhandle(_fileno(stream));
+
+   fileType = pgwin32_get_file_type(hFile);
+   if (errno != 0)
+       return -1;
+
+   if (fileType == FILE_TYPE_DISK)
+       return _ftelli64(stream);
+   else if (fileType == FILE_TYPE_CHAR || fileType == FILE_TYPE_PIPE)
+       errno = ESPIPE;
+   else
+       errno = EINVAL;
+
+   return -1;
+}
+
+#endif                         /* defined(WIN32) && defined(_MSC_VER) */
index 36c3b171f40d1f1e041c32e0c3e3475d92bc5cf6..acbf4c7e279d082df9d79ede581aab8b1afc31ee 100644 (file)
@@ -290,33 +290,17 @@ _pgfstat64(int fileno, struct stat *buf)
 {
    HANDLE      hFile = (HANDLE) _get_osfhandle(fileno);
    DWORD       fileType = FILE_TYPE_UNKNOWN;
-   DWORD       lastError;
    unsigned short st_mode;
 
-   /*
-    * When stdin, stdout, and stderr aren't associated with a stream the
-    * special value -2 is returned:
-    * https://learn.microsoft.com/en-us/cpp/c-runtime-library/reference/get-osfhandle
-    */
-   if (hFile == INVALID_HANDLE_VALUE || hFile == (HANDLE) -2 || buf == NULL)
+   if (buf == NULL)
    {
        errno = EINVAL;
        return -1;
    }
 
-   fileType = GetFileType(hFile);
-   lastError = GetLastError();
-
-   /*
-    * Invoke GetLastError in order to distinguish between a "valid" return of
-    * FILE_TYPE_UNKNOWN and its return due to a calling error.  In case of
-    * success, GetLastError returns NO_ERROR.
-    */
-   if (fileType == FILE_TYPE_UNKNOWN && lastError != NO_ERROR)
-   {
-       _dosmaperr(lastError);
+   fileType = pgwin32_get_file_type(hFile);
+   if (errno != 0)
        return -1;
-   }
 
    switch (fileType)
    {
index 9b6539fb15df9697ef0bd326bc9b0d90c0e38af2..62b00f3ecc7e76d31a80974e70441154ad38443a 100644 (file)
@@ -111,7 +111,8 @@ sub mkvcbuild
      pg_strong_random.c pgcheckdir.c pgmkdirp.c pgsleep.c pgstrcasecmp.c
      pqsignal.c mkdtemp.c qsort.c qsort_arg.c bsearch_arg.c quotes.c system.c
      strerror.c tar.c thread.c
-     win32env.c win32error.c win32security.c win32setlocale.c win32stat.c);
+     win32common.c win32env.c win32error.c win32fseek.c win32security.c
+     win32setlocale.c win32stat.c);
 
    push(@pgportfiles, 'strtof.c') if ($vsVersion < '14.00');