Fix array- and path-creating functions to ensure padding bytes are zeroes.
authorTom Lane <tgl@sss.pgh.pa.us>
Wed, 27 Apr 2011 17:58:59 +0000 (13:58 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Wed, 27 Apr 2011 17:58:59 +0000 (13:58 -0400)
Per recent discussion, it's important for all computed datums (not only the
results of input functions) to not contain any ill-defined (uninitialized)
bits.  Failing to ensure that can result in equal() reporting that
semantically indistinguishable Consts are not equal, which in turn leads to
bizarre and undesirable planner behavior, such as in a recent example from
David Johnston.  We might eventually try to fix this in a general manner by
allowing datatypes to define identity-testing functions, but for now the
path of least resistance is to expect datatypes to force all unused bits
into consistent states.

Per some testing by Noah Misch, array and path functions seem to be the
only ones presenting risks at the moment, so I looked through all the
functions in adt/array*.c and geo_ops.c and fixed them as necessary.  In
the array functions, the easiest/safest fix is to allocate result arrays
with palloc0 instead of palloc.  Possibly in future someone will want to
look into whether we can just zero the padding bytes, but that looks too
complex for a back-patchable fix.  In the path functions, we already had a
precedent in path_in for just zeroing the one known pad field, so duplicate
that code as needed.

Back-patch to all supported branches.

src/backend/utils/adt/array_userfuncs.c
src/backend/utils/adt/arrayfuncs.c
src/backend/utils/adt/geo_ops.c

index 3fab490da884bc9014d25c0c4a01b5b73070be72..6bc35a726c1a8756e3049c2a977190a9cacfd498 100644 (file)
@@ -375,7 +375,7 @@ array_cat(PG_FUNCTION_ARGS)
        dataoffset = 0;         /* marker for no null bitmap */
        nbytes = ndatabytes + ARR_OVERHEAD_NONULLS(ndims);
    }
-   result = (ArrayType *) palloc(nbytes);
+   result = (ArrayType *) palloc0(nbytes);
    result->size = nbytes;
    result->ndim = ndims;
    result->dataoffset = dataoffset;
index 21335ce5665cd908fdea46768ef67886cf0b9b8c..a444a7d05566c3374363f43835a72194b8037d18 100644 (file)
@@ -1278,7 +1278,7 @@ array_recv(PG_FUNCTION_ARGS)
        dataoffset = 0;         /* marker for no null bitmap */
        nbytes += ARR_OVERHEAD_NONULLS(ndim);
    }
-   retval = (ArrayType *) palloc(nbytes);
+   retval = (ArrayType *) palloc0(nbytes);
    retval->size = nbytes;
    retval->ndim = ndim;
    retval->dataoffset = dataoffset;
@@ -1878,7 +1878,7 @@ array_get_slice(ArrayType *array,
        bytes += ARR_OVERHEAD_NONULLS(ndim);
    }
 
-   newarray = (ArrayType *) palloc(bytes);
+   newarray = (ArrayType *) palloc0(bytes);
    newarray->size = bytes;
    newarray->ndim = ndim;
    newarray->dataoffset = dataoffset;
@@ -2131,7 +2131,7 @@ array_set(ArrayType *array,
    /*
     * OK, create the new array and fill in header/dimensions
     */
-   newarray = (ArrayType *) palloc(newsize);
+   newarray = (ArrayType *) palloc0(newsize);
    newarray->size = newsize;
    newarray->ndim = ndim;
    newarray->dataoffset = newhasnulls ? overheadlen : 0;
@@ -2461,7 +2461,7 @@ array_set_slice(ArrayType *array,
 
    newsize = overheadlen + olddatasize - olditemsize + newitemsize;
 
-   newarray = (ArrayType *) palloc(newsize);
+   newarray = (ArrayType *) palloc0(newsize);
    newarray->size = newsize;
    newarray->ndim = ndim;
    newarray->dataoffset = newhasnulls ? overheadlen : 0;
@@ -2720,7 +2720,7 @@ array_map(FunctionCallInfo fcinfo, Oid inpType, Oid retType,
        dataoffset = 0;         /* marker for no null bitmap */
        nbytes += ARR_OVERHEAD_NONULLS(ndim);
    }
-   result = (ArrayType *) palloc(nbytes);
+   result = (ArrayType *) palloc0(nbytes);
    result->size = nbytes;
    result->ndim = ndim;
    result->dataoffset = dataoffset;
@@ -2856,7 +2856,7 @@ construct_md_array(Datum *elems,
        dataoffset = 0;         /* marker for no null bitmap */
        nbytes += ARR_OVERHEAD_NONULLS(ndims);
    }
-   result = (ArrayType *) palloc(nbytes);
+   result = (ArrayType *) palloc0(nbytes);
    result->size = nbytes;
    result->ndim = ndims;
    result->dataoffset = dataoffset;
@@ -2880,7 +2880,7 @@ construct_empty_array(Oid elmtype)
 {
    ArrayType  *result;
 
-   result = (ArrayType *) palloc(sizeof(ArrayType));
+   result = (ArrayType *) palloc0(sizeof(ArrayType));
    result->size = sizeof(ArrayType);
    result->ndim = 0;
    result->dataoffset = 0;
index 1c0552371edfdb9859c06679591725c8c891b1dc..b4d5a82f65a60a33b9eaec861ef8a21a86f33657 100644 (file)
@@ -1476,6 +1476,8 @@ path_recv(PG_FUNCTION_ARGS)
    path->size = size;
    path->npts = npts;
    path->closed = (closed ? 1 : 0);
+   /* prevent instability in unused pad bytes */
+   path->dummy = 0;
 
    for (i = 0; i < npts; i++)
    {
@@ -4090,6 +4092,8 @@ path_add(PG_FUNCTION_ARGS)
    result->size = size;
    result->npts = (p1->npts + p2->npts);
    result->closed = p1->closed;
+   /* prevent instability in unused pad bytes */
+   result->dummy = 0;
 
    for (i = 0; i < p1->npts; i++)
    {
@@ -4323,6 +4327,8 @@ poly_path(PG_FUNCTION_ARGS)
    path->size = size;
    path->npts = poly->npts;
    path->closed = TRUE;
+   /* prevent instability in unused pad bytes */
+   path->dummy = 0;
 
    for (i = 0; i < poly->npts; i++)
    {