Pesquisando vi que existe o comando:
select * FROM pg_stat_activity
que informa os states das conexões.
E este para fechar as conexões (use com cuidado):
select pg_terminate_backend(pg_stat_activity.pid)
from pg_stat_activity
where pg_stat_activity.datname = 'database' AND pid <> pg_backend_pid();
Pesquisando ainda, encontrei vários links informando para usar o método close nos objetos: Connection, ResultSet e PreparedStatement. Revisei o código adicionando o método close sempre que necessário o que resolveu o meu problema.
Segue então aí a dica de sempre usar close quando estiver usando JDBC.
Nota: Prefira PreparedStatement em vez de Statement para evitar SQL Injection.