projects / postgresql.git / commitdiff
summary | shortlog | log | commit | commitdiff | tree
raw | patch | inline | side by side (parent: df4b86a)
Make bit/varbit substring() treat any negative length as meaning "all the rest
authorTom Lane <tgl@sss.pgh.pa.us>
Thu, 7 Jan 2010 19:53:47 +0000 (19:53 +0000)
committerTom Lane <tgl@sss.pgh.pa.us>
Thu, 7 Jan 2010 19:53:47 +0000 (19:53 +0000)
of the string".  The previous coding treated only -1 that way, and would
produce an invalid result value for other negative values.

We ought to fix it so that 2-parameter bit substring() is a different C
function and the 3-parameter form throws error for negative length, but
that takes a pg_proc change which is impractical in the back branches;
and in any case somebody might be relying on -1 working this way.
So just do this as a back-patchable fix.

src/backend/utils/adt/varbit.c patch | blob | blame | history

diff --git a/src/backend/utils/adt/varbit.c b/src/backend/utils/adt/varbit.c
index 0143e0aa9c6eab4cca8f25314b4f6a094edf22c4..664e0f9def35b631ba73e9b5bb71ca6e4103e973 100644 (file)
--- a/src/backend/utils/adt/varbit.c
+++ b/src/backend/utils/adt/varbit.c
@@ -9,7 +9,7 @@
  * Portions Copyright (c) 1994, Regents of the University of California
  *
  * IDENTIFICATION
- *   $Header: /cvsroot/pgsql/src/backend/utils/adt/varbit.c,v 1.37.2.1 2007/08/21 02:40:33 tgl Exp $
+ *   $Header: /cvsroot/pgsql/src/backend/utils/adt/varbit.c,v 1.37.2.2 2010/01/07 19:53:47 tgl Exp $
  *
  *-------------------------------------------------------------------------
  */
@@ -807,13 +807,23 @@ bitsubstr(PG_FUNCTION_ARGS)
               *ps;
 
    bitlen = VARBITLEN(arg);
-   /* If we do not have an upper bound, set bitlen */
-   if (l == -1)
-       l = bitlen;
-   e = s + l;
    s1 = Max(s, 1);
-   e1 = Min(e, bitlen + 1);
-   if (s1 > bitlen || e1 < 1)
+   /* If we do not have an upper bound, use end of string */
+   if (l < 0)
+   {
+       e1 = bitlen + 1;
+   }
+   else
+   {
+       e = s + l;
+       /* guard against overflow, even though we don't allow L<0 here */
+       if (e < s)
+           ereport(ERROR,
+                   (errcode(ERRCODE_SUBSTRING_ERROR),
+                    errmsg("negative substring length not allowed")));
+       e1 = Min(e, bitlen + 1);
+   }
+   if (s1 > bitlen || e1 <= s1)
    {
        /* Need to return a zero-length bitstring */
        len = VARBITTOTALLEN(0);
This is the main PostgreSQL git repository.