pg_trgm: fix crash in 2-item picksplit
authorAndrew Gierth
Thu, 12 Nov 2020 14:34:37 +0000 (14:34 +0000)
committerAndrew Gierth
Thu, 12 Nov 2020 14:59:06 +0000 (14:59 +0000)
commit48ab1fa304fe51d563bea11f1334572a7f2832b1
treedf9b0dba802c885e6cb12247b8b0324208ed8f75
parent6058f22324c8781b1914551ab4da431224c3a7dd
pg_trgm: fix crash in 2-item picksplit

Whether from size overflow in gistSplit or from secondary splits,
picksplit is (rarely) called with exactly two items to split.

Formerly, due to special-case handling of the last item, this would
lead to access to an uninitialized cache entry; prior to PG 13 this
might have been harmless or at worst led to an incorrect union datum,
but in 13 onwards it can cause a backend crash from using an
uninitialized pointer.

Repair by removing the special case, which was deemed not to have been
appropriate anyway. Backpatch all the way, because this bug has
existed since pg_trgm was added.

Per report on IRC from user "ftzdomino". Analysis and testing by me,
patch from Alexander Korotkov.

Discussion: https://postgr.es/m/[email protected]
contrib/pg_trgm/trgm_gist.c