Prevent corner-case core dump in rfree().
authorTom Lane
Sun, 15 Jul 2012 17:28:20 +0000 (13:28 -0400)
committerTom Lane
Sun, 15 Jul 2012 17:28:20 +0000 (13:28 -0400)
rfree() failed to cope with the case that pg_regcomp() had initialized the
regex_t struct but then failed to allocate any memory for re->re_guts (ie,
the first malloc call in pg_regcomp() failed).  It would try to touch the
guts struct anyway, and thus dump core.  This is a sufficiently narrow
corner case that it's not surprising it's never been seen in the field;
but still a bug is a bug, so patch all active branches.

Noted while investigating whether we need to call pg_regfree after a
failure return from pg_regcomp.  Other than this bug, it turns out we
don't, so adjust comments appropriately.

src/backend/regex/regcomp.c
src/backend/utils/adt/regexp.c

index 593184f736f92f16b14d5f56d91ac41d6b94f9c8..715d9fac4de0f6b2acd63bc767a9d534aa572065 100644 (file)
@@ -276,6 +276,9 @@ static struct fns functions = {
 
 /*
  * pg_regcomp - compile regular expression
+ *
+ * Note: on failure, no resources remain allocated, so pg_regfree()
+ * need not be applied to re.
  */
 int
 pg_regcomp(regex_t *re,
@@ -1846,15 +1849,18 @@ rfree(regex_t *re)
    g = (struct guts *) re->re_guts;
    re->re_guts = NULL;
    re->re_fns = NULL;
-   g->magic = 0;
-   freecm(&g->cmap);
-   if (g->tree != NULL)
-       freesubre((struct vars *) NULL, g->tree);
-   if (g->lacons != NULL)
-       freelacons(g->lacons, g->nlacons);
-   if (!NULLCNFA(g->search))
-       freecnfa(&g->search);
-   FREE(g);
+   if (g != NULL)
+   {
+       g->magic = 0;
+       freecm(&g->cmap);
+       if (g->tree != NULL)
+           freesubre((struct vars *) NULL, g->tree);
+       if (g->lacons != NULL)
+           freelacons(g->lacons, g->nlacons);
+       if (!NULLCNFA(g->search))
+           freecnfa(&g->search);
+       FREE(g);
+   }
 }
 
 #ifdef REG_DEBUG
index 405ca6c8e634a7e3252520d7867b15280aa9e7fa..84c9d4fee7b332410d039c150ace6eae0a54d214 100644 (file)
@@ -182,9 +182,8 @@ RE_compile_and_cache(text *text_re, int cflags)
 
    if (regcomp_result != REG_OKAY)
    {
-       /* re didn't compile */
+       /* re didn't compile (no need for pg_regfree, if so) */
        pg_regerror(regcomp_result, &re_temp.cre_re, errMsg, sizeof(errMsg));
-       /* XXX should we pg_regfree here? */
        ereport(ERROR,
                (errcode(ERRCODE_INVALID_REGULAR_EXPRESSION),
                 errmsg("invalid regular expression: %s", errMsg)));