Correctly re-use hash tables in buildSubPlanHash().
authorTom Lane
Sat, 29 Feb 2020 18:48:10 +0000 (13:48 -0500)
committerTom Lane
Sat, 29 Feb 2020 18:48:10 +0000 (13:48 -0500)
commit9eb6b652a46d0b13658be80013f5b893ac1d7894
treedf2cfa42ff2f5c8d89b97a5fbaf4a8183efc5d5c
parent7ea20a2bc6bdd2dccc8e63a03fcd0a002ed447ab
Correctly re-use hash tables in buildSubPlanHash().

Commit 356687bd8 omitted to remove leftover code for destroying
a hashed subplan's hash tables, with the result that the tables
were always rebuilt not reused; this leads to severe memory
leakage if a hashed subplan is re-executed enough times.
Moreover, the code for reusing the hashnulls table had a typo
that would have made it do the wrong thing if it were reached.

Looking at the code coverage report shows severe under-coverage
of the potential callers of ResetTupleHashTable, so add some test
cases that exercise them.

Andreas Karlsson and Tom Lane, per reports from Ranier Vilela
and Justin Pryzby.

Backpatch to v11, as the faulty commit was.

Discussion: https://postgr.es/m/edb62547-c453-c35b-3ed6-a069e4d6b937@proxel.se
Discussion: https://postgr.es/m/CAEudQAo=DCebm1RXtig9OH+QivpS97sMkikt0A9qHmMUs+g6ZA@mail.gmail.com
Discussion: https://postgr.es/m/20200210032547[email protected]
src/backend/executor/nodeSubplan.c
src/test/regress/expected/subselect.out
src/test/regress/sql/subselect.sql