LCOV - differential code coverage report
Current view: top level - src/backend/utils/activity - pgstat.c (source / functions) Coverage Total Hit UNC UBC GNC CBC DUB DCB
Current: 77aeca80249c9e640c811e80633a2e334a9320de vs 38afc3dcb25c45b744d4025029ce0a6c90b7059f Lines: 86.3 % 607 524 5 78 18 506 1 9
Current Date: 2026-07-25 19:08:27 +0900 Functions: 100.0 % 36 36 3 33
Baseline: lcov-20260725-baseline Branches: 63.6 % 528 336 18 174 12 324
Baseline Date: 2026-07-25 19:09:19 +0900 Line coverage date bins:
Legend: Lines:     hit not hit
Branches: + taken - not taken # not executed
(1,7] days: 100.0 % 14 14 14
(7,30] days: 71.1 % 45 32 5 8 4 28
(30,360] days: 86.2 % 29 25 4 25
(360..) days: 87.3 % 519 453 66 453
Function coverage date bins:
(1,7] days: 100.0 % 1 1 1
(7,30] days: 100.0 % 2 2 2
(30,360] days: 100.0 % 1 1 1
(360..) days: 100.0 % 32 32 2 30
Branch coverage date bins:
(1,7] days: 70.0 % 10 7 3 7
(7,30] days: 38.6 % 44 17 15 12 5 12
(30,360] days: 72.5 % 40 29 11 29
(360..) days: 65.2 % 434 283 151 283

 Age         Owner                    Branch data    TLA  Line data    Source code
                                  1                 :                : /* ----------
                                  2                 :                :  * pgstat.c
                                  3                 :                :  *    Infrastructure for the cumulative statistics system.
                                  4                 :                :  *
                                  5                 :                :  * The cumulative statistics system accumulates statistics for different kinds
                                  6                 :                :  * of objects. Some kinds of statistics are collected for a fixed number of
                                  7                 :                :  * objects (most commonly 1), e.g., checkpointer statistics. Other kinds of
                                  8                 :                :  * statistics are collected for a varying number of objects
                                  9                 :                :  * (e.g. relations). See PgStat_KindInfo for a list of currently handled
                                 10                 :                :  * statistics.
                                 11                 :                :  *
                                 12                 :                :  * Statistics are loaded from the filesystem during startup (by the startup
                                 13                 :                :  * process), unless preceded by a crash, in which case all stats are
                                 14                 :                :  * discarded. They are written out by the checkpointer process just before
                                 15                 :                :  * shutting down (if the stats kind allows it), except when shutting down in
                                 16                 :                :  * immediate mode.
                                 17                 :                :  *
                                 18                 :                :  * Fixed-numbered stats are stored in plain (non-dynamic) shared memory.
                                 19                 :                :  *
                                 20                 :                :  * Statistics for variable-numbered objects are stored in dynamic shared
                                 21                 :                :  * memory and can be found via a dshash hashtable. The statistics counters are
                                 22                 :                :  * not part of the dshash entry (PgStatShared_HashEntry) directly, but are
                                 23                 :                :  * separately allocated (PgStatShared_HashEntry->body). The separate
                                 24                 :                :  * allocation allows different kinds of statistics to be stored in the same
                                 25                 :                :  * hashtable without wasting space in PgStatShared_HashEntry.
                                 26                 :                :  *
                                 27                 :                :  * Variable-numbered stats are addressed by PgStat_HashKey while running.  It
                                 28                 :                :  * is not possible to have statistics for an object that cannot be addressed
                                 29                 :                :  * that way at runtime. A wider identifier can be used when serializing to
                                 30                 :                :  * disk (used for replication slot stats).
                                 31                 :                :  *
                                 32                 :                :  * To avoid contention on the shared hashtable, each backend has a
                                 33                 :                :  * backend-local hashtable (pgStatEntryRefHash) in front of the shared
                                 34                 :                :  * hashtable, containing references (PgStat_EntryRef) to shared hashtable
                                 35                 :                :  * entries. The shared hashtable only needs to be accessed when no prior
                                 36                 :                :  * reference is found in the local hashtable. Besides pointing to the
                                 37                 :                :  * shared hashtable entry (PgStatShared_HashEntry) PgStat_EntryRef also
                                 38                 :                :  * contains a pointer to the shared statistics data, as a process-local
                                 39                 :                :  * address, to reduce access costs.
                                 40                 :                :  *
                                 41                 :                :  * The names for structs stored in shared memory are prefixed with
                                 42                 :                :  * PgStatShared instead of PgStat. Each stats entry in shared memory is
                                 43                 :                :  * protected by a dedicated lwlock.
                                 44                 :                :  *
                                 45                 :                :  * Most stats updates are first accumulated locally in each process as pending
                                 46                 :                :  * entries, then later flushed to shared memory (just after commit, or by
                                 47                 :                :  * idle-timeout). This practically eliminates contention on individual stats
                                 48                 :                :  * entries. For most kinds of variable-numbered pending stats data is stored
                                 49                 :                :  * in PgStat_EntryRef->pending. All entries with pending data are in the
                                 50                 :                :  * pgStatPending list. Pending statistics updates are flushed out by
                                 51                 :                :  * pgstat_report_stat().
                                 52                 :                :  *
                                 53                 :                :  * It is possible for external modules to define custom statistics kinds,
                                 54                 :                :  * that can use the same properties as any built-in stats kinds.  Each custom
                                 55                 :                :  * stats kind needs to assign a unique ID to ensure that it does not overlap
                                 56                 :                :  * with other extensions.  In order to reserve a unique stats kind ID, refer
                                 57                 :                :  * to https://wiki.postgresql.org/wiki/CustomCumulativeStats.
                                 58                 :                :  *
                                 59                 :                :  * The behavior of different kinds of statistics is determined by the kind's
                                 60                 :                :  * entry in pgstat_kind_builtin_infos for all the built-in statistics kinds
                                 61                 :                :  * defined, and pgstat_kind_custom_infos for custom kinds registered at
                                 62                 :                :  * startup by pgstat_register_kind().  See PgStat_KindInfo for details.
                                 63                 :                :  *
                                 64                 :                :  * The consistency of read accesses to statistics can be configured using the
                                 65                 :                :  * stats_fetch_consistency GUC (see config.sgml and monitoring.sgml for the
                                 66                 :                :  * settings). When using PGSTAT_FETCH_CONSISTENCY_CACHE or
                                 67                 :                :  * PGSTAT_FETCH_CONSISTENCY_SNAPSHOT statistics are stored in
                                 68                 :                :  * pgStatLocal.snapshot.
                                 69                 :                :  *
                                 70                 :                :  * To keep things manageable, stats handling is split across several
                                 71                 :                :  * files. Infrastructure pieces are in:
                                 72                 :                :  * - pgstat.c - this file, to tie it all together
                                 73                 :                :  * - pgstat_shmem.c - nearly everything dealing with shared memory, including
                                 74                 :                :  *   the maintenance of hashtable entries
                                 75                 :                :  * - pgstat_xact.c - transactional integration, including the transactional
                                 76                 :                :  *   creation and dropping of stats entries
                                 77                 :                :  *
                                 78                 :                :  * Each statistics kind is handled in a dedicated file:
                                 79                 :                :  * - pgstat_archiver.c
                                 80                 :                :  * - pgstat_backend.c
                                 81                 :                :  * - pgstat_bgwriter.c
                                 82                 :                :  * - pgstat_checkpointer.c
                                 83                 :                :  * - pgstat_database.c
                                 84                 :                :  * - pgstat_function.c
                                 85                 :                :  * - pgstat_io.c
                                 86                 :                :  * - pgstat_lock.c
                                 87                 :                :  * - pgstat_relation.c
                                 88                 :                :  * - pgstat_replslot.c
                                 89                 :                :  * - pgstat_slru.c
                                 90                 :                :  * - pgstat_subscription.c
                                 91                 :                :  * - pgstat_wal.c
                                 92                 :                :  *
                                 93                 :                :  * Whenever possible infrastructure files should not contain code related to
                                 94                 :                :  * specific kinds of stats.
                                 95                 :                :  *
                                 96                 :                :  *
                                 97                 :                :  * Copyright (c) 2001-2026, PostgreSQL Global Development Group
                                 98                 :                :  *
                                 99                 :                :  * IDENTIFICATION
                                100                 :                :  *    src/backend/utils/activity/pgstat.c
                                101                 :                :  * ----------
                                102                 :                :  */
                                103                 :                : #include "postgres.h"
                                104                 :                : 
                                105                 :                : #include <unistd.h>
                                106                 :                : 
                                107                 :                : #include "access/xact.h"
                                108                 :                : #include "lib/dshash.h"
                                109                 :                : #include "pgstat.h"
                                110                 :                : #include "storage/fd.h"
                                111                 :                : #include "storage/ipc.h"
                                112                 :                : #include "storage/lwlock.h"
                                113                 :                : #include "utils/guc_hooks.h"
                                114                 :                : #include "utils/memutils.h"
                                115                 :                : #include "utils/pgstat_internal.h"
                                116                 :                : #include "utils/timestamp.h"
                                117                 :                : 
                                118                 :                : 
                                119                 :                : /* ----------
                                120                 :                :  * Timer definitions.
                                121                 :                :  *
                                122                 :                :  * In milliseconds.
                                123                 :                :  * ----------
                                124                 :                :  */
                                125                 :                : 
                                126                 :                : /* minimum interval non-forced stats flushes.*/
                                127                 :                : #define PGSTAT_MIN_INTERVAL         1000
                                128                 :                : /* how long until to block flushing pending stats updates */
                                129                 :                : #define PGSTAT_MAX_INTERVAL         60000
                                130                 :                : /* when to call pgstat_report_stat() again, even when idle */
                                131                 :                : #define PGSTAT_IDLE_INTERVAL        10000
                                132                 :                : 
                                133                 :                : /* ----------
                                134                 :                :  * Initial size hints for the hash tables used in statistics.
                                135                 :                :  * ----------
                                136                 :                :  */
                                137                 :                : 
                                138                 :                : #define PGSTAT_SNAPSHOT_HASH_SIZE   512
                                139                 :                : 
                                140                 :                : /* ---------
                                141                 :                :  * Identifiers in stats file.
                                142                 :                :  * ---------
                                143                 :                :  */
                                144                 :                : #define PGSTAT_FILE_ENTRY_END   'E' /* end of file */
                                145                 :                : #define PGSTAT_FILE_ENTRY_FIXED 'F' /* fixed-numbered stats entry */
                                146                 :                : #define PGSTAT_FILE_ENTRY_NAME  'N' /* stats entry identified by name */
                                147                 :                : #define PGSTAT_FILE_ENTRY_HASH  'S' /* stats entry identified by
                                148                 :                :                                      * PgStat_HashKey */
                                149                 :                : 
                                150                 :                : /* hash table for statistics snapshots entry */
                                151                 :                : typedef struct PgStat_SnapshotEntry
                                152                 :                : {
                                153                 :                :     PgStat_HashKey key;
                                154                 :                :     char        status;         /* for simplehash use */
                                155                 :                :     void       *data;           /* the stats data itself */
                                156                 :                : } PgStat_SnapshotEntry;
                                157                 :                : 
                                158                 :                : 
                                159                 :                : /* ----------
                                160                 :                :  * Backend-local Hash Table Definitions
                                161                 :                :  * ----------
                                162                 :                :  */
                                163                 :                : 
                                164                 :                : /* for stats snapshot entries */
                                165                 :                : #define SH_PREFIX pgstat_snapshot
                                166                 :                : #define SH_ELEMENT_TYPE PgStat_SnapshotEntry
                                167                 :                : #define SH_KEY_TYPE PgStat_HashKey
                                168                 :                : #define SH_KEY key
                                169                 :                : #define SH_HASH_KEY(tb, key) \
                                170                 :                :     pgstat_hash_hash_key(&key, sizeof(PgStat_HashKey), NULL)
                                171                 :                : #define SH_EQUAL(tb, a, b) \
                                172                 :                :     pgstat_cmp_hash_key(&a, &b, sizeof(PgStat_HashKey), NULL) == 0
                                173                 :                : #define SH_SCOPE static inline
                                174                 :                : #define SH_DEFINE
                                175                 :                : #define SH_DECLARE
                                176                 :                : #include "lib/simplehash.h"
                                177                 :                : 
                                178                 :                : 
                                179                 :                : /* ----------
                                180                 :                :  * Local function forward declarations
                                181                 :                :  * ----------
                                182                 :                :  */
                                183                 :                : 
                                184                 :                : static void pgstat_write_statsfile(void);
                                185                 :                : static void pgstat_read_statsfile(void);
                                186                 :                : 
                                187                 :                : static void pgstat_init_snapshot_fixed(void);
                                188                 :                : 
                                189                 :                : static void pgstat_reset_after_failure(void);
                                190                 :                : 
                                191                 :                : static bool pgstat_flush_pending_entries(bool nowait);
                                192                 :                : 
                                193                 :                : static void pgstat_prep_snapshot(void);
                                194                 :                : static void pgstat_build_snapshot(void);
                                195                 :                : static void pgstat_build_snapshot_fixed(PgStat_Kind kind);
                                196                 :                : 
                                197                 :                : static inline bool pgstat_is_kind_valid(PgStat_Kind kind);
                                198                 :                : 
                                199                 :                : 
                                200                 :                : /* ----------
                                201                 :                :  * GUC parameters
                                202                 :                :  * ----------
                                203                 :                :  */
                                204                 :                : 
                                205                 :                : bool        pgstat_track_counts = false;
                                206                 :                : int         pgstat_fetch_consistency = PGSTAT_FETCH_CONSISTENCY_CACHE;
                                207                 :                : 
                                208                 :                : 
                                209                 :                : /* ----------
                                210                 :                :  * state shared with pgstat_*.c
                                211                 :                :  * ----------
                                212                 :                :  */
                                213                 :                : 
                                214                 :                : PgStat_LocalState pgStatLocal;
                                215                 :                : 
                                216                 :                : /*
                                217                 :                :  * Track pending reports for fixed-numbered stats, used by
                                218                 :                :  * pgstat_report_stat().
                                219                 :                :  */
                                220                 :                : bool        pgstat_report_fixed = false;
                                221                 :                : 
                                222                 :                : /* ----------
                                223                 :                :  * Local data
                                224                 :                :  *
                                225                 :                :  * NB: There should be only variables related to stats infrastructure here,
                                226                 :                :  * not for specific kinds of stats.
                                227                 :                :  * ----------
                                228                 :                :  */
                                229                 :                : 
                                230                 :                : /*
                                231                 :                :  * Memory contexts containing the pgStatEntryRefHash table, the
                                232                 :                :  * pgStatSharedRef entries, and pending data respectively. Mostly to make it
                                233                 :                :  * easier to track / attribute memory usage.
                                234                 :                :  */
                                235                 :                : 
                                236                 :                : static MemoryContext pgStatPendingContext = NULL;
                                237                 :                : 
                                238                 :                : /*
                                239                 :                :  * Backend local list of PgStat_EntryRef with unflushed pending stats.
                                240                 :                :  *
                                241                 :                :  * Newly pending entries should only ever be added to the end of the list,
                                242                 :                :  * otherwise pgstat_flush_pending_entries() might not see them immediately.
                                243                 :                :  */
                                244                 :                : static dlist_head pgStatPending = DLIST_STATIC_INIT(pgStatPending);
                                245                 :                : 
                                246                 :                : 
                                247                 :                : /*
                                248                 :                :  * Force the next stats flush to happen regardless of
                                249                 :                :  * PGSTAT_MIN_INTERVAL. Useful in test scripts.
                                250                 :                :  */
                                251                 :                : static bool pgStatForceNextFlush = false;
                                252                 :                : 
                                253                 :                : /*
                                254                 :                :  * Force-clear existing snapshot before next use when stats_fetch_consistency
                                255                 :                :  * is changed.
                                256                 :                :  */
                                257                 :                : static bool force_stats_snapshot_clear = false;
                                258                 :                : 
                                259                 :                : 
                                260                 :                : /*
                                261                 :                :  * For assertions that check pgstat is not used before initialization / after
                                262                 :                :  * shutdown.
                                263                 :                :  */
                                264                 :                : #ifdef USE_ASSERT_CHECKING
                                265                 :                : static bool pgstat_is_initialized = false;
                                266                 :                : static bool pgstat_is_shutdown = false;
                                267                 :                : #endif
                                268                 :                : 
                                269                 :                : 
                                270                 :                : /*
                                271                 :                :  * The different kinds of built-in statistics.
                                272                 :                :  *
                                273                 :                :  * If reasonably possible, handling specific to one kind of stats should go
                                274                 :                :  * through this abstraction, rather than making more of pgstat.c aware.
                                275                 :                :  *
                                276                 :                :  * See comments for struct PgStat_KindInfo for details about the individual
                                277                 :                :  * fields.
                                278                 :                :  *
                                279                 :                :  * XXX: It'd be nicer to define this outside of this file. But there doesn't
                                280                 :                :  * seem to be a great way of doing that, given the split across multiple
                                281                 :                :  * files.
                                282                 :                :  */
                                283                 :                : static const PgStat_KindInfo pgstat_kind_builtin_infos[PGSTAT_KIND_BUILTIN_SIZE] = {
                                284                 :                : 
                                285                 :                :     /* stats kinds for variable-numbered objects */
                                286                 :                : 
                                287                 :                :     [PGSTAT_KIND_DATABASE] = {
                                288                 :                :         .name = "database",
                                289                 :                : 
                                290                 :                :         .fixed_amount = false,
                                291                 :                :         .write_to_file = true,
                                292                 :                :         /* so pg_stat_database entries can be seen in all databases */
                                293                 :                :         .accessed_across_databases = true,
                                294                 :                : 
                                295                 :                :         .shared_size = sizeof(PgStatShared_Database),
                                296                 :                :         .shared_data_off = offsetof(PgStatShared_Database, stats),
                                297                 :                :         .shared_data_len = sizeof(((PgStatShared_Database *) 0)->stats),
                                298                 :                :         .pending_size = sizeof(PgStat_StatDBEntry),
                                299                 :                : 
                                300                 :                :         .flush_pending_cb = pgstat_database_flush_cb,
                                301                 :                :         .reset_timestamp_cb = pgstat_database_reset_timestamp_cb,
                                302                 :                :     },
                                303                 :                : 
                                304                 :                :     [PGSTAT_KIND_RELATION] = {
                                305                 :                :         .name = "relation",
                                306                 :                : 
                                307                 :                :         .fixed_amount = false,
                                308                 :                :         .write_to_file = true,
                                309                 :                : 
                                310                 :                :         .shared_size = sizeof(PgStatShared_Relation),
                                311                 :                :         .shared_data_off = offsetof(PgStatShared_Relation, stats),
                                312                 :                :         .shared_data_len = sizeof(((PgStatShared_Relation *) 0)->stats),
                                313                 :                :         .pending_size = sizeof(PgStat_TableStatus),
                                314                 :                : 
                                315                 :                :         .flush_pending_cb = pgstat_relation_flush_cb,
                                316                 :                :         .delete_pending_cb = pgstat_relation_delete_pending_cb,
                                317                 :                :         .reset_timestamp_cb = pgstat_relation_reset_timestamp_cb,
                                318                 :                :     },
                                319                 :                : 
                                320                 :                :     [PGSTAT_KIND_FUNCTION] = {
                                321                 :                :         .name = "function",
                                322                 :                : 
                                323                 :                :         .fixed_amount = false,
                                324                 :                :         .write_to_file = true,
                                325                 :                : 
                                326                 :                :         .shared_size = sizeof(PgStatShared_Function),
                                327                 :                :         .shared_data_off = offsetof(PgStatShared_Function, stats),
                                328                 :                :         .shared_data_len = sizeof(((PgStatShared_Function *) 0)->stats),
                                329                 :                :         .pending_size = sizeof(PgStat_FunctionCounts),
                                330                 :                : 
                                331                 :                :         .flush_pending_cb = pgstat_function_flush_cb,
                                332                 :                :         .reset_timestamp_cb = pgstat_function_reset_timestamp_cb,
                                333                 :                :     },
                                334                 :                : 
                                335                 :                :     [PGSTAT_KIND_REPLSLOT] = {
                                336                 :                :         .name = "replslot",
                                337                 :                : 
                                338                 :                :         .fixed_amount = false,
                                339                 :                :         .write_to_file = true,
                                340                 :                : 
                                341                 :                :         .accessed_across_databases = true,
                                342                 :                : 
                                343                 :                :         .shared_size = sizeof(PgStatShared_ReplSlot),
                                344                 :                :         .shared_data_off = offsetof(PgStatShared_ReplSlot, stats),
                                345                 :                :         .shared_data_len = sizeof(((PgStatShared_ReplSlot *) 0)->stats),
                                346                 :                : 
                                347                 :                :         .reset_timestamp_cb = pgstat_replslot_reset_timestamp_cb,
                                348                 :                :         .to_serialized_name = pgstat_replslot_to_serialized_name_cb,
                                349                 :                :         .from_serialized_name = pgstat_replslot_from_serialized_name_cb,
                                350                 :                :     },
                                351                 :                : 
                                352                 :                :     [PGSTAT_KIND_SUBSCRIPTION] = {
                                353                 :                :         .name = "subscription",
                                354                 :                : 
                                355                 :                :         .fixed_amount = false,
                                356                 :                :         .write_to_file = true,
                                357                 :                :         /* so pg_stat_subscription_stats entries can be seen in all databases */
                                358                 :                :         .accessed_across_databases = true,
                                359                 :                : 
                                360                 :                :         .shared_size = sizeof(PgStatShared_Subscription),
                                361                 :                :         .shared_data_off = offsetof(PgStatShared_Subscription, stats),
                                362                 :                :         .shared_data_len = sizeof(((PgStatShared_Subscription *) 0)->stats),
                                363                 :                :         .pending_size = sizeof(PgStat_BackendSubEntry),
                                364                 :                : 
                                365                 :                :         .flush_pending_cb = pgstat_subscription_flush_cb,
                                366                 :                :         .reset_timestamp_cb = pgstat_subscription_reset_timestamp_cb,
                                367                 :                :     },
                                368                 :                : 
                                369                 :                :     [PGSTAT_KIND_BACKEND] = {
                                370                 :                :         .name = "backend",
                                371                 :                : 
                                372                 :                :         .fixed_amount = false,
                                373                 :                :         .write_to_file = false,
                                374                 :                : 
                                375                 :                :         .accessed_across_databases = true,
                                376                 :                : 
                                377                 :                :         .shared_size = sizeof(PgStatShared_Backend),
                                378                 :                :         .shared_data_off = offsetof(PgStatShared_Backend, stats),
                                379                 :                :         .shared_data_len = sizeof(((PgStatShared_Backend *) 0)->stats),
                                380                 :                : 
                                381                 :                :         .flush_static_cb = pgstat_backend_flush_cb,
                                382                 :                :         .reset_timestamp_cb = pgstat_backend_reset_timestamp_cb,
                                383                 :                :     },
                                384                 :                : 
                                385                 :                :     /* stats for fixed-numbered (mostly 1) objects */
                                386                 :                : 
                                387                 :                :     [PGSTAT_KIND_ARCHIVER] = {
                                388                 :                :         .name = "archiver",
                                389                 :                : 
                                390                 :                :         .fixed_amount = true,
                                391                 :                :         .write_to_file = true,
                                392                 :                : 
                                393                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, archiver),
                                394                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, archiver),
                                395                 :                :         .shared_data_off = offsetof(PgStatShared_Archiver, stats),
                                396                 :                :         .shared_data_len = sizeof(((PgStatShared_Archiver *) 0)->stats),
                                397                 :                : 
                                398                 :                :         .init_shmem_cb = pgstat_archiver_init_shmem_cb,
                                399                 :                :         .reset_all_cb = pgstat_archiver_reset_all_cb,
                                400                 :                :         .snapshot_cb = pgstat_archiver_snapshot_cb,
                                401                 :                :     },
                                402                 :                : 
                                403                 :                :     [PGSTAT_KIND_BGWRITER] = {
                                404                 :                :         .name = "bgwriter",
                                405                 :                : 
                                406                 :                :         .fixed_amount = true,
                                407                 :                :         .write_to_file = true,
                                408                 :                : 
                                409                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, bgwriter),
                                410                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, bgwriter),
                                411                 :                :         .shared_data_off = offsetof(PgStatShared_BgWriter, stats),
                                412                 :                :         .shared_data_len = sizeof(((PgStatShared_BgWriter *) 0)->stats),
                                413                 :                : 
                                414                 :                :         .init_shmem_cb = pgstat_bgwriter_init_shmem_cb,
                                415                 :                :         .reset_all_cb = pgstat_bgwriter_reset_all_cb,
                                416                 :                :         .snapshot_cb = pgstat_bgwriter_snapshot_cb,
                                417                 :                :     },
                                418                 :                : 
                                419                 :                :     [PGSTAT_KIND_CHECKPOINTER] = {
                                420                 :                :         .name = "checkpointer",
                                421                 :                : 
                                422                 :                :         .fixed_amount = true,
                                423                 :                :         .write_to_file = true,
                                424                 :                : 
                                425                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, checkpointer),
                                426                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, checkpointer),
                                427                 :                :         .shared_data_off = offsetof(PgStatShared_Checkpointer, stats),
                                428                 :                :         .shared_data_len = sizeof(((PgStatShared_Checkpointer *) 0)->stats),
                                429                 :                : 
                                430                 :                :         .init_shmem_cb = pgstat_checkpointer_init_shmem_cb,
                                431                 :                :         .reset_all_cb = pgstat_checkpointer_reset_all_cb,
                                432                 :                :         .snapshot_cb = pgstat_checkpointer_snapshot_cb,
                                433                 :                :     },
                                434                 :                : 
                                435                 :                :     [PGSTAT_KIND_IO] = {
                                436                 :                :         .name = "io",
                                437                 :                : 
                                438                 :                :         .fixed_amount = true,
                                439                 :                :         .write_to_file = true,
                                440                 :                : 
                                441                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, io),
                                442                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, io),
                                443                 :                :         .shared_data_off = offsetof(PgStatShared_IO, stats),
                                444                 :                :         .shared_data_len = sizeof(((PgStatShared_IO *) 0)->stats),
                                445                 :                : 
                                446                 :                :         .flush_static_cb = pgstat_io_flush_cb,
                                447                 :                :         .init_shmem_cb = pgstat_io_init_shmem_cb,
                                448                 :                :         .reset_all_cb = pgstat_io_reset_all_cb,
                                449                 :                :         .snapshot_cb = pgstat_io_snapshot_cb,
                                450                 :                :     },
                                451                 :                : 
                                452                 :                :     [PGSTAT_KIND_LOCK] = {
                                453                 :                :         .name = "lock",
                                454                 :                : 
                                455                 :                :         .fixed_amount = true,
                                456                 :                :         .write_to_file = true,
                                457                 :                : 
                                458                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, lock),
                                459                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, lock),
                                460                 :                :         .shared_data_off = offsetof(PgStatShared_Lock, stats),
                                461                 :                :         .shared_data_len = sizeof(((PgStatShared_Lock *) 0)->stats),
                                462                 :                : 
                                463                 :                :         .flush_static_cb = pgstat_lock_flush_cb,
                                464                 :                :         .init_shmem_cb = pgstat_lock_init_shmem_cb,
                                465                 :                :         .reset_all_cb = pgstat_lock_reset_all_cb,
                                466                 :                :         .snapshot_cb = pgstat_lock_snapshot_cb,
                                467                 :                :     },
                                468                 :                : 
                                469                 :                :     [PGSTAT_KIND_SLRU] = {
                                470                 :                :         .name = "slru",
                                471                 :                : 
                                472                 :                :         .fixed_amount = true,
                                473                 :                :         .write_to_file = true,
                                474                 :                : 
                                475                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, slru),
                                476                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, slru),
                                477                 :                :         .shared_data_off = offsetof(PgStatShared_SLRU, stats),
                                478                 :                :         .shared_data_len = sizeof(((PgStatShared_SLRU *) 0)->stats),
                                479                 :                : 
                                480                 :                :         .flush_static_cb = pgstat_slru_flush_cb,
                                481                 :                :         .init_shmem_cb = pgstat_slru_init_shmem_cb,
                                482                 :                :         .reset_all_cb = pgstat_slru_reset_all_cb,
                                483                 :                :         .snapshot_cb = pgstat_slru_snapshot_cb,
                                484                 :                :     },
                                485                 :                : 
                                486                 :                :     [PGSTAT_KIND_WAL] = {
                                487                 :                :         .name = "wal",
                                488                 :                : 
                                489                 :                :         .fixed_amount = true,
                                490                 :                :         .write_to_file = true,
                                491                 :                : 
                                492                 :                :         .snapshot_ctl_off = offsetof(PgStat_Snapshot, wal),
                                493                 :                :         .shared_ctl_off = offsetof(PgStat_ShmemControl, wal),
                                494                 :                :         .shared_data_off = offsetof(PgStatShared_Wal, stats),
                                495                 :                :         .shared_data_len = sizeof(((PgStatShared_Wal *) 0)->stats),
                                496                 :                : 
                                497                 :                :         .init_backend_cb = pgstat_wal_init_backend_cb,
                                498                 :                :         .flush_static_cb = pgstat_wal_flush_cb,
                                499                 :                :         .init_shmem_cb = pgstat_wal_init_shmem_cb,
                                500                 :                :         .reset_all_cb = pgstat_wal_reset_all_cb,
                                501                 :                :         .snapshot_cb = pgstat_wal_snapshot_cb,
                                502                 :                :     },
                                503                 :                : };
                                504                 :                : 
                                505                 :                : /*
                                506                 :                :  * Information about custom statistics kinds.
                                507                 :                :  *
                                508                 :                :  * These are saved in a different array than the built-in kinds to save
                                509                 :                :  * in clarity with the initializations.
                                510                 :                :  *
                                511                 :                :  * Indexed by PGSTAT_KIND_CUSTOM_MIN, of size PGSTAT_KIND_CUSTOM_SIZE.
                                512                 :                :  */
                                513                 :                : static const PgStat_KindInfo **pgstat_kind_custom_infos = NULL;
                                514                 :                : 
                                515                 :                : /* ------------------------------------------------------------
                                516                 :                :  * Functions managing the state of the stats system for all backends.
                                517                 :                :  * ------------------------------------------------------------
                                518                 :                :  */
                                519                 :                : 
                                520                 :                : /*
                                521                 :                :  * Read on-disk stats into memory at server start.
                                522                 :                :  *
                                523                 :                :  * Should only be called by the startup process or in single user mode.
                                524                 :                :  */
                                525                 :                : void
  495 michael@paquier.xyz       526                 :CBC         862 : pgstat_restore_stats(void)
                                527                 :                : {
                                528                 :            862 :     pgstat_read_statsfile();
 7653 tgl@sss.pgh.pa.us         529                 :            862 : }
                                530                 :                : 
                                531                 :                : /*
                                532                 :                :  * Remove the stats file.  This is currently used only if WAL recovery is
                                533                 :                :  * needed after a crash.
                                534                 :                :  *
                                535                 :                :  * Should only be called by the startup process or in single user mode.
                                536                 :                :  */
                                537                 :                : void
 1571 andres@anarazel.de        538                 :            194 : pgstat_discard_stats(void)
                                539                 :                : {
                                540                 :                :     int         ret;
                                541                 :                : 
                                542                 :                :     /* NB: this needs to be done even in single user mode */
                                543                 :                : 
                                544                 :                :     /* First, cleanup the main pgstats file */
                                545                 :            194 :     ret = unlink(PGSTAT_STAT_PERMANENT_FILENAME);
                                546         [ +  + ]:            194 :     if (ret != 0)
                                547                 :                :     {
                                548         [ +  - ]:            193 :         if (errno == ENOENT)
                                549         [ +  + ]:            193 :             elog(DEBUG2,
                                550                 :                :                  "didn't need to unlink permanent stats file \"%s\" - didn't exist",
                                551                 :                :                  PGSTAT_STAT_PERMANENT_FILENAME);
                                552                 :                :         else
 1571 andres@anarazel.de        553         [ #  # ]:UBC           0 :             ereport(LOG,
                                554                 :                :                     (errcode_for_file_access(),
                                555                 :                :                      errmsg("could not unlink permanent statistics file \"%s\": %m",
                                556                 :                :                             PGSTAT_STAT_PERMANENT_FILENAME)));
                                557                 :                :     }
                                558                 :                :     else
                                559                 :                :     {
 1571 andres@anarazel.de        560         [ -  + ]:CBC           1 :         ereport(DEBUG2,
                                561                 :                :                 (errcode_for_file_access(),
                                562                 :                :                  errmsg_internal("unlinked permanent statistics file \"%s\"",
                                563                 :                :                                  PGSTAT_STAT_PERMANENT_FILENAME)));
                                564                 :                :     }
                                565                 :                : 
                                566                 :                :     /* Finish callbacks, if required */
  222 michael@paquier.xyz       567         [ +  + ]:           6402 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                                568                 :                :     {
                                569                 :           6208 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                570                 :                : 
                                571   [ +  +  +  + ]:           6208 :         if (kind_info && kind_info->finish)
                                572                 :              1 :             kind_info->finish(STATS_DISCARD);
                                573                 :                :     }
                                574                 :                : 
                                575                 :                :     /*
                                576                 :                :      * Reset stats contents. This will set reset timestamps of fixed-numbered
                                577                 :                :      * stats to the current time (no variable stats exist).
                                578                 :                :      */
 1563 andres@anarazel.de        579                 :            194 :     pgstat_reset_after_failure();
 8248 bruce@momjian.us          580                 :            194 : }
                                581                 :                : 
                                582                 :                : /*
                                583                 :                :  * pgstat_before_server_shutdown() needs to be called by exactly one process
                                584                 :                :  * during regular server shutdowns. Otherwise all stats will be lost.
                                585                 :                :  *
                                586                 :                :  * We currently only write out stats for proc_exit(0). We might want to change
                                587                 :                :  * that at some point... But right now pgstat_discard_stats() would be called
                                588                 :                :  * during the start after a disorderly shutdown, anyway.
                                589                 :                :  */
                                590                 :                : void
 1571 andres@anarazel.de        591                 :            747 : pgstat_before_server_shutdown(int code, Datum arg)
                                592                 :                : {
                                593         [ -  + ]:            747 :     Assert(pgStatLocal.shmem != NULL);
                                594         [ -  + ]:            747 :     Assert(!pgStatLocal.shmem->is_shutdown);
                                595                 :                : 
                                596                 :                :     /*
                                597                 :                :      * Stats should only be reported after pgstat_initialize() and before
                                598                 :                :      * pgstat_shutdown(). This is a convenient point to catch most violations
                                599                 :                :      * of this rule.
                                600                 :                :      */
                                601   [ +  -  -  + ]:            747 :     Assert(pgstat_is_initialized && !pgstat_is_shutdown);
                                602                 :                : 
                                603                 :                :     /* flush out our own pending changes before writing out */
                                604                 :            747 :     pgstat_report_stat(true);
                                605                 :                : 
                                606                 :                :     /*
                                607                 :                :      * Only write out file during normal shutdown. Don't even signal that
                                608                 :                :      * we've shutdown during irregular shutdowns, because the shutdown
                                609                 :                :      * sequence isn't coordinated to ensure this backend shuts down last.
                                610                 :                :      */
                                611         [ +  + ]:            747 :     if (code == 0)
                                612                 :                :     {
                                613                 :            742 :         pgStatLocal.shmem->is_shutdown = true;
  495 michael@paquier.xyz       614                 :            742 :         pgstat_write_statsfile();
                                615                 :                :     }
 7065 bruce@momjian.us          616                 :            747 : }
                                617                 :                : 
                                618                 :                : 
                                619                 :                : /* ------------------------------------------------------------
                                620                 :                :  * Backend initialization / shutdown functions
                                621                 :                :  * ------------------------------------------------------------
                                622                 :                :  */
                                623                 :                : 
                                624                 :                : /*
                                625                 :                :  * Shut down a single backend's statistics reporting at process exit.
                                626                 :                :  *
                                627                 :                :  * Flush out any remaining statistics counts.  Without this, operations
                                628                 :                :  * triggered during backend exit (such as temp table deletions) won't be
                                629                 :                :  * counted.
                                630                 :                :  */
                                631                 :                : static void
 1587 andres@anarazel.de        632                 :          22802 : pgstat_shutdown_hook(int code, Datum arg)
                                633                 :                : {
                                634         [ -  + ]:          22802 :     Assert(!pgstat_is_shutdown);
 1571                           635   [ +  +  -  + ]:          22802 :     Assert(IsUnderPostmaster || !IsPostmasterEnvironment);
                                636                 :                : 
                                637                 :                :     /*
                                638                 :                :      * If we got as far as discovering our own database ID, we can flush out
                                639                 :                :      * what we did so far.  Otherwise, we'd be reporting an invalid database
                                640                 :                :      * ID, so forget it.  (This means that accesses to pg_database during
                                641                 :                :      * failed backend starts might never get counted.)
                                642                 :                :      */
 1587                           643         [ +  + ]:          22802 :     if (OidIsValid(MyDatabaseId))
 1571                           644                 :          16955 :         pgstat_report_disconnect(MyDatabaseId);
                                645                 :                : 
                                646                 :          22802 :     pgstat_report_stat(true);
                                647                 :                : 
                                648                 :                :     /* there shouldn't be any pending changes left */
                                649         [ -  + ]:          22802 :     Assert(dlist_is_empty(&pgStatPending));
                                650                 :          22802 :     dlist_init(&pgStatPending);
                                651                 :                : 
                                652                 :                :     /* drop the backend stats entry */
   37 michael@paquier.xyz       653         [ -  + ]:          22802 :     if (!pgstat_drop_entry(PGSTAT_KIND_BACKEND, InvalidOid, MyProcNumber, false))
  583 michael@paquier.xyz       654                 :UBC           0 :         pgstat_request_entry_refs_gc();
                                655                 :                : 
 1571 andres@anarazel.de        656                 :CBC       22802 :     pgstat_detach_shmem();
                                657                 :                : 
                                658                 :                : #ifdef USE_ASSERT_CHECKING
 1587                           659                 :          22802 :     pgstat_is_shutdown = true;
                                660                 :                : #endif
                                661                 :          22802 : }
                                662                 :                : 
                                663                 :                : /*
                                664                 :                :  * Initialize pgstats state, and set up our on-proc-exit hook. Called from
                                665                 :                :  * BaseInit().
                                666                 :                :  *
                                667                 :                :  * NOTE: MyDatabaseId isn't set yet; so the shutdown hook has to be careful.
                                668                 :                :  */
                                669                 :                : void
                                670                 :          22802 : pgstat_initialize(void)
                                671                 :                : {
                                672         [ -  + ]:          22802 :     Assert(!pgstat_is_initialized);
                                673                 :                : 
 1571                           674                 :          22802 :     pgstat_attach_shmem();
                                675                 :                : 
  720 michael@paquier.xyz       676                 :          22802 :     pgstat_init_snapshot_fixed();
                                677                 :                : 
                                678                 :                :     /* Backend initialization callbacks */
  688                           679         [ +  + ]:         752466 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                                680                 :                :     {
                                681                 :         729664 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                682                 :                : 
                                683   [ +  +  +  + ]:         729664 :         if (kind_info == NULL || kind_info->init_backend_cb == NULL)
                                684                 :         706862 :             continue;
                                685                 :                : 
                                686                 :          22802 :         kind_info->init_backend_cb();
                                687                 :                :     }
                                688                 :                : 
                                689                 :                :     /* Set up a process-exit hook to clean up */
 1587 andres@anarazel.de        690                 :          22802 :     before_shmem_exit(pgstat_shutdown_hook, 0);
                                691                 :                : 
                                692                 :                : #ifdef USE_ASSERT_CHECKING
                                693                 :          22802 :     pgstat_is_initialized = true;
                                694                 :                : #endif
                                695                 :          22802 : }
                                696                 :                : 
                                697                 :                : 
                                698                 :                : /* ------------------------------------------------------------
                                699                 :                :  * Public functions used by backends follow
                                700                 :                :  * ------------------------------------------------------------
                                701                 :                :  */
                                702                 :                : 
                                703                 :                : /*
                                704                 :                :  * Must be called by processes that performs DML: tcop/postgres.c, logical
                                705                 :                :  * receiver processes, SPI worker, etc. to flush pending statistics updates to
                                706                 :                :  * shared memory.
                                707                 :                :  *
                                708                 :                :  * Unless called with 'force', pending stats updates are flushed happen once
                                709                 :                :  * per PGSTAT_MIN_INTERVAL (1000ms). When not forced, stats flushes do not
                                710                 :                :  * block on lock acquisition, except if stats updates have been pending for
                                711                 :                :  * longer than PGSTAT_MAX_INTERVAL (60000ms).
                                712                 :                :  *
                                713                 :                :  * Whenever pending stats updates remain at the end of pgstat_report_stat() a
                                714                 :                :  * suggested idle timeout is returned. Currently this is always
                                715                 :                :  * PGSTAT_IDLE_INTERVAL (10000ms). Callers can use the returned time to set up
                                716                 :                :  * a timeout after which to call pgstat_report_stat(true), but are not
                                717                 :                :  * required to do so.
                                718                 :                :  *
                                719                 :                :  * Note that this is called only when not within a transaction, so it is fair
                                720                 :                :  * to use transaction stop time as an approximation of current time.
                                721                 :                :  */
                                722                 :                : long
 1571                           723                 :         392785 : pgstat_report_stat(bool force)
                                724                 :                : {
                                725                 :                :     static TimestampTz pending_since = 0;
                                726                 :                :     static TimestampTz last_flush = 0;
                                727                 :                :     bool        partial_flush;
                                728                 :                :     TimestampTz now;
                                729                 :                :     bool        nowait;
                                730                 :                : 
 1814                           731                 :         392785 :     pgstat_assert_is_up();
 1499                           732         [ -  + ]:         392785 :     Assert(!IsTransactionOrTransactionBlock());
                                733                 :                : 
                                734                 :                :     /* "absorb" the forced flush even if there's nothing to flush */
 1571                           735         [ +  + ]:         392785 :     if (pgStatForceNextFlush)
                                736                 :                :     {
                                737                 :            341 :         force = true;
                                738                 :            341 :         pgStatForceNextFlush = false;
                                739                 :                :     }
                                740                 :                : 
                                741                 :                :     /* Don't expend a clock check if nothing to do */
  362 michael@paquier.xyz       742         [ +  + ]:         392785 :     if (dlist_is_empty(&pgStatPending) &&
                                743         [ +  + ]:          11676 :         !pgstat_report_fixed)
                                744                 :                :     {
                                745                 :           8591 :         return 0;
                                746                 :                :     }
                                747                 :                : 
                                748                 :                :     /*
                                749                 :                :      * There should never be stats to report once stats are shut down. Can't
                                750                 :                :      * assert that before the checks above, as there is an unconditional
                                751                 :                :      * pgstat_report_stat() call in pgstat_shutdown_hook() - which at least
                                752                 :                :      * the process that ran pgstat_before_server_shutdown() will still call.
                                753                 :                :      */
 1571 andres@anarazel.de        754         [ -  + ]:         384194 :     Assert(!pgStatLocal.shmem->is_shutdown);
                                755                 :                : 
 1139                           756         [ +  + ]:         384194 :     if (force)
                                757                 :                :     {
                                758                 :                :         /*
                                759                 :                :          * Stats reports are forced either when it's been too long since stats
                                760                 :                :          * have been reported or in processes that force stats reporting to
                                761                 :                :          * happen at specific points (including shutdown). In the former case
                                762                 :                :          * the transaction stop time might be quite old, in the latter it
                                763                 :                :          * would never get cleared.
                                764                 :                :          */
                                765                 :          22816 :         now = GetCurrentTimestamp();
                                766                 :                :     }
                                767                 :                :     else
                                768                 :                :     {
                                769                 :         361378 :         now = GetCurrentTransactionStopTimestamp();
                                770                 :                : 
 1571                           771   [ +  +  -  + ]:         688174 :         if (pending_since > 0 &&
                                772                 :         326796 :             TimestampDifferenceExceeds(pending_since, now, PGSTAT_MAX_INTERVAL))
                                773                 :                :         {
                                774                 :                :             /* don't keep pending updates longer than PGSTAT_MAX_INTERVAL */
 1571 andres@anarazel.de        775                 :UBC           0 :             force = true;
                                776                 :                :         }
 1571 andres@anarazel.de        777         [ +  + ]:CBC      361378 :         else if (last_flush > 0 &&
                                778         [ +  + ]:         346750 :                  !TimestampDifferenceExceeds(last_flush, now, PGSTAT_MIN_INTERVAL))
                                779                 :                :         {
                                780                 :                :             /* don't flush too frequently */
                                781         [ +  + ]:         341441 :             if (pending_since == 0)
                                782                 :          19672 :                 pending_since = now;
                                783                 :                : 
                                784                 :         341441 :             return PGSTAT_IDLE_INTERVAL;
                                785                 :                :         }
                                786                 :                :     }
                                787                 :                : 
                                788                 :          42753 :     pgstat_update_dbstats(now);
                                789                 :                : 
                                790                 :                :     /* don't wait for lock acquisition when !force */
                                791                 :          42753 :     nowait = !force;
                                792                 :                : 
                                793                 :          42753 :     partial_flush = false;
                                794                 :                : 
                                795                 :                :     /* flush of variable-numbered stats tracked in pending entries list */
                                796                 :          42753 :     partial_flush |= pgstat_flush_pending_entries(nowait);
                                797                 :                : 
                                798                 :                :     /* flush of other stats kinds */
  362 michael@paquier.xyz       799         [ +  + ]:          42753 :     if (pgstat_report_fixed)
                                800                 :                :     {
                                801         [ +  + ]:        1372008 :         for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                                802                 :                :         {
                                803                 :        1330432 :             const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                804                 :                : 
                                805         [ +  + ]:        1330432 :             if (!kind_info)
                                806                 :         789778 :                 continue;
                                807         [ +  + ]:         540654 :             if (!kind_info->flush_static_cb)
                                808                 :         332774 :                 continue;
                                809                 :                : 
                                810                 :         207880 :             partial_flush |= kind_info->flush_static_cb(nowait);
                                811                 :                :         }
                                812                 :                :     }
                                813                 :                : 
 1571 andres@anarazel.de        814                 :          42753 :     last_flush = now;
                                815                 :                : 
                                816                 :                :     /*
                                817                 :                :      * If some of the pending stats could not be flushed due to lock
                                818                 :                :      * contention, let the caller know when to retry.
                                819                 :                :      */
                                820         [ +  + ]:          42753 :     if (partial_flush)
                                821                 :                :     {
                                822                 :                :         /* force should have prevented us from getting here */
                                823         [ -  + ]:             18 :         Assert(!force);
                                824                 :                : 
                                825                 :                :         /* remember since when stats have been pending */
                                826         [ +  + ]:             18 :         if (pending_since == 0)
                                827                 :             11 :             pending_since = now;
                                828                 :                : 
                                829                 :             18 :         return PGSTAT_IDLE_INTERVAL;
                                830                 :                :     }
                                831                 :                : 
                                832                 :          42735 :     pending_since = 0;
  362 michael@paquier.xyz       833                 :          42735 :     pgstat_report_fixed = false;
                                834                 :                : 
 1571 andres@anarazel.de        835                 :          42735 :     return 0;
                                836                 :                : }
                                837                 :                : 
                                838                 :                : /*
                                839                 :                :  * Force locally pending stats to be flushed during the next
                                840                 :                :  * pgstat_report_stat() call. This is useful for writing tests.
                                841                 :                :  */
                                842                 :                : void
                                843                 :            341 : pgstat_force_next_flush(void)
                                844                 :                : {
                                845                 :            341 :     pgStatForceNextFlush = true;
                                846                 :            341 : }
                                847                 :                : 
                                848                 :                : /*
                                849                 :                :  * Only for use by pgstat_reset_counters()
                                850                 :                :  */
                                851                 :                : static bool
                                852                 :          16069 : match_db_entries(PgStatShared_HashEntry *entry, Datum match_data)
                                853                 :                : {
  351 peter@eisentraut.org      854                 :          16069 :     return entry->key.dboid == MyDatabaseId;
                                855                 :                : }
                                856                 :                : 
                                857                 :                : /*
                                858                 :                :  * Reset counters for our database.
                                859                 :                :  *
                                860                 :                :  * Permission checking for this function is managed through the normal
                                861                 :                :  * GRANT system.
                                862                 :                :  */
                                863                 :                : void
 1571 andres@anarazel.de        864                 :             15 : pgstat_reset_counters(void)
                                865                 :                : {
                                866                 :             15 :     TimestampTz ts = GetCurrentTimestamp();
                                867                 :                : 
                                868                 :             15 :     pgstat_reset_matching_entries(match_db_entries,
                                869                 :                :                                   ObjectIdGetDatum(MyDatabaseId),
                                870                 :                :                                   ts);
                                871                 :             15 : }
                                872                 :                : 
                                873                 :                : /*
                                874                 :                :  * Reset a single variable-numbered entry.
                                875                 :                :  *
                                876                 :                :  * If the stats kind is within a database, also reset the database's
                                877                 :                :  * stat_reset_timestamp.
                                878                 :                :  *
                                879                 :                :  * Permission checking for this function is managed through the normal
                                880                 :                :  * GRANT system.
                                881                 :                :  */
                                882                 :                : void
  675 michael@paquier.xyz       883                 :             45 : pgstat_reset(PgStat_Kind kind, Oid dboid, uint64 objid)
                                884                 :                : {
 1571 andres@anarazel.de        885                 :             45 :     const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                886                 :             45 :     TimestampTz ts = GetCurrentTimestamp();
                                887                 :                : 
                                888                 :                :     /* not needed atm, and doesn't make sense with the current signature */
                                889         [ -  + ]:             45 :     Assert(!pgstat_get_kind_info(kind)->fixed_amount);
                                890                 :                : 
                                891                 :                :     /* reset the "single counter" */
  675 michael@paquier.xyz       892                 :             45 :     pgstat_reset_entry(kind, dboid, objid, ts);
                                893                 :                : 
 1571 andres@anarazel.de        894         [ +  + ]:             45 :     if (!kind_info->accessed_across_databases)
                                895                 :             28 :         pgstat_reset_database_timestamp(dboid, ts);
                                896                 :             45 : }
                                897                 :                : 
                                898                 :                : /*
                                899                 :                :  * Reset stats for all entries of a kind.
                                900                 :                :  *
                                901                 :                :  * Permission checking for this function is managed through the normal
                                902                 :                :  * GRANT system.
                                903                 :                :  */
                                904                 :                : void
                                905                 :             45 : pgstat_reset_of_kind(PgStat_Kind kind)
                                906                 :                : {
                                907                 :             45 :     const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                908                 :             45 :     TimestampTz ts = GetCurrentTimestamp();
                                909                 :                : 
                                910         [ +  + ]:             45 :     if (kind_info->fixed_amount)
                                911                 :             41 :         kind_info->reset_all_cb(ts);
                                912                 :                :     else
                                913                 :              4 :         pgstat_reset_entries_of_kind(kind, ts);
                                914                 :             45 : }
                                915                 :                : 
                                916                 :                : 
                                917                 :                : /* ------------------------------------------------------------
                                918                 :                :  * Fetching of stats
                                919                 :                :  * ------------------------------------------------------------
                                920                 :                :  */
                                921                 :                : 
                                922                 :                : /*
                                923                 :                :  * Discard any data collected in the current transaction.  Any subsequent
                                924                 :                :  * request will cause new snapshots to be read.
                                925                 :                :  *
                                926                 :                :  * This is also invoked during transaction commit or abort to discard
                                927                 :                :  * the no-longer-wanted snapshot.  Updates of stats_fetch_consistency can
                                928                 :                :  * cause this routine to be called.
                                929                 :                :  */
                                930                 :                : void
                                931                 :         429127 : pgstat_clear_snapshot(void)
                                932                 :                : {
                                933                 :         429127 :     pgstat_assert_is_up();
                                934                 :                : 
                                935                 :         429127 :     memset(&pgStatLocal.snapshot.fixed_valid, 0,
                                936                 :                :            sizeof(pgStatLocal.snapshot.fixed_valid));
  720 michael@paquier.xyz       937                 :         429127 :     memset(&pgStatLocal.snapshot.custom_valid, 0,
                                938                 :                :            sizeof(pgStatLocal.snapshot.custom_valid));
 1571 andres@anarazel.de        939                 :         429127 :     pgStatLocal.snapshot.stats = NULL;
                                940                 :         429127 :     pgStatLocal.snapshot.mode = PGSTAT_FETCH_CONSISTENCY_NONE;
                                941                 :                : 
                                942                 :                :     /* Release memory, if any was allocated */
                                943         [ +  + ]:         429127 :     if (pgStatLocal.snapshot.context)
                                944                 :                :     {
                                945                 :            819 :         MemoryContextDelete(pgStatLocal.snapshot.context);
                                946                 :                : 
                                947                 :                :         /* Reset variables */
                                948                 :            819 :         pgStatLocal.snapshot.context = NULL;
                                949                 :                :     }
                                950                 :                : 
                                951                 :                :     /*
                                952                 :                :      * Historically the backend_status.c facilities lived in this file, and
                                953                 :                :      * were reset with the same function. For now keep it that way, and
                                954                 :                :      * forward the reset request.
                                955                 :                :      */
                                956                 :         429127 :     pgstat_clear_backend_activity_snapshot();
                                957                 :                : 
                                958                 :                :     /* Reset this flag, as it may be possible that a cleanup was forced. */
 1172 michael@paquier.xyz       959                 :         429127 :     force_stats_snapshot_clear = false;
 1571 andres@anarazel.de        960                 :         429127 : }
                                961                 :                : 
                                962                 :                : void *
  107 nathan@postgresql.or      963                 :          39159 : pgstat_fetch_entry(PgStat_Kind kind, Oid dboid, uint64 objid, bool *may_free)
                                964                 :                : {
  309 michael@paquier.xyz       965                 :          39159 :     PgStat_HashKey key = {0};
                                966                 :                :     PgStat_EntryRef *entry_ref;
                                967                 :                :     void       *stats_data;
 1571 andres@anarazel.de        968                 :          39159 :     const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                                969                 :                : 
                                970                 :                :     /* should be called from backends */
                                971   [ -  +  -  - ]:          39159 :     Assert(IsUnderPostmaster || !IsPostmasterEnvironment);
 1366 peter@eisentraut.org      972         [ -  + ]:          39159 :     Assert(!kind_info->fixed_amount);
                                973                 :                : 
                                974                 :                :     /*
                                975                 :                :      * Initialize *may_free to false.  We'll change it to true later if we end
                                976                 :                :      * up allocating the result in the caller's context and not caching it.
                                977                 :                :      */
  107 nathan@postgresql.or      978         [ +  + ]:          39159 :     if (may_free)
                                979                 :          28937 :         *may_free = false;
                                980                 :                : 
 1571 andres@anarazel.de        981                 :          39159 :     pgstat_prep_snapshot();
                                982                 :                : 
                                983                 :          39159 :     key.kind = kind;
                                984                 :          39159 :     key.dboid = dboid;
  675 michael@paquier.xyz       985                 :          39159 :     key.objid = objid;
                                986                 :                : 
                                987                 :                :     /* if we need to build a full snapshot, do so */
 1571 andres@anarazel.de        988         [ +  + ]:          39159 :     if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT)
                                989                 :            299 :         pgstat_build_snapshot();
                                990                 :                : 
                                991                 :                :     /* if caching is desired, look up in cache */
                                992         [ +  + ]:          39159 :     if (pgstat_fetch_consistency > PGSTAT_FETCH_CONSISTENCY_NONE)
                                993                 :                :     {
                                994                 :           7265 :         PgStat_SnapshotEntry *entry = NULL;
                                995                 :                : 
                                996                 :           7265 :         entry = pgstat_snapshot_lookup(pgStatLocal.snapshot.stats, key);
                                997                 :                : 
                                998         [ +  + ]:           7265 :         if (entry)
                                999                 :            616 :             return entry->data;
                               1000                 :                : 
                               1001                 :                :         /*
                               1002                 :                :          * If we built a full snapshot and the key is not in
                               1003                 :                :          * pgStatLocal.snapshot.stats, there are no matching stats.
                               1004                 :                :          */
                               1005         [ +  + ]:           6649 :         if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT)
                               1006                 :             16 :             return NULL;
                               1007                 :                :     }
                               1008                 :                : 
                               1009                 :          38527 :     pgStatLocal.snapshot.mode = pgstat_fetch_consistency;
                               1010                 :                : 
  675 michael@paquier.xyz      1011                 :          38527 :     entry_ref = pgstat_get_entry_ref(kind, dboid, objid, false, NULL);
                               1012                 :                : 
 1571 andres@anarazel.de       1013   [ +  +  +  + ]:          38527 :     if (entry_ref == NULL || entry_ref->shared_entry->dropped)
                               1014                 :                :     {
                               1015                 :                :         /* create empty entry when using PGSTAT_FETCH_CONSISTENCY_CACHE */
                               1016         [ +  + ]:          10256 :         if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_CACHE)
                               1017                 :                :         {
                               1018                 :           1383 :             PgStat_SnapshotEntry *entry = NULL;
                               1019                 :                :             bool        found;
                               1020                 :                : 
                               1021                 :           1383 :             entry = pgstat_snapshot_insert(pgStatLocal.snapshot.stats, key, &found);
                               1022         [ -  + ]:           1383 :             Assert(!found);
                               1023                 :           1383 :             entry->data = NULL;
                               1024                 :                :         }
                               1025                 :          10256 :         return NULL;
                               1026                 :                :     }
                               1027                 :                : 
                               1028                 :                :     /*
                               1029                 :                :      * Allocate in caller's context for PGSTAT_FETCH_CONSISTENCY_NONE,
                               1030                 :                :      * otherwise we could quickly end up with a fair bit of memory used due to
                               1031                 :                :      * repeated accesses.
                               1032                 :                :      */
                               1033         [ +  + ]:          28271 :     if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_NONE)
                               1034                 :                :     {
                               1035                 :          23021 :         stats_data = palloc(kind_info->shared_data_len);
                               1036                 :                : 
                               1037                 :                :         /*
                               1038                 :                :          * Since we allocated the result in the caller's context and aren't
                               1039                 :                :          * caching it, the caller can safely pfree() it.
                               1040                 :                :          */
  107 nathan@postgresql.or     1041         [ +  + ]:          23021 :         if (may_free)
                               1042                 :          21351 :             *may_free = true;
                               1043                 :                :     }
                               1044                 :                :     else
 1571 andres@anarazel.de       1045                 :           5250 :         stats_data = MemoryContextAlloc(pgStatLocal.snapshot.context,
                               1046                 :           5250 :                                         kind_info->shared_data_len);
                               1047                 :                : 
  475 tgl@sss.pgh.pa.us        1048                 :          28271 :     (void) pgstat_lock_entry_shared(entry_ref, false);
 1571 andres@anarazel.de       1049                 :          56542 :     memcpy(stats_data,
                               1050                 :          28271 :            pgstat_get_entry_data(kind, entry_ref->shared_stats),
                               1051                 :          28271 :            kind_info->shared_data_len);
 1433                          1052                 :          28271 :     pgstat_unlock_entry(entry_ref);
                               1053                 :                : 
 1571                          1054         [ +  + ]:          28271 :     if (pgstat_fetch_consistency > PGSTAT_FETCH_CONSISTENCY_NONE)
                               1055                 :                :     {
                               1056                 :           5250 :         PgStat_SnapshotEntry *entry = NULL;
                               1057                 :                :         bool        found;
                               1058                 :                : 
                               1059                 :           5250 :         entry = pgstat_snapshot_insert(pgStatLocal.snapshot.stats, key, &found);
                               1060                 :           5250 :         entry->data = stats_data;
                               1061                 :                :     }
                               1062                 :                : 
                               1063                 :          28271 :     return stats_data;
                               1064                 :                : }
                               1065                 :                : 
                               1066                 :                : /*
                               1067                 :                :  * If a stats snapshot has been taken, return the timestamp at which that was
                               1068                 :                :  * done, and set *have_snapshot to true. Otherwise *have_snapshot is set to
                               1069                 :                :  * false.
                               1070                 :                :  */
                               1071                 :                : TimestampTz
                               1072                 :             40 : pgstat_get_stat_snapshot_timestamp(bool *have_snapshot)
                               1073                 :                : {
 1172 michael@paquier.xyz      1074         [ +  + ]:             40 :     if (force_stats_snapshot_clear)
                               1075                 :             12 :         pgstat_clear_snapshot();
                               1076                 :                : 
 1571 andres@anarazel.de       1077         [ +  + ]:             40 :     if (pgStatLocal.snapshot.mode == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT)
                               1078                 :                :     {
                               1079                 :             16 :         *have_snapshot = true;
                               1080                 :             16 :         return pgStatLocal.snapshot.snapshot_timestamp;
                               1081                 :                :     }
                               1082                 :                : 
                               1083                 :             24 :     *have_snapshot = false;
                               1084                 :                : 
                               1085                 :             24 :     return 0;
                               1086                 :                : }
                               1087                 :                : 
                               1088                 :                : bool
  675 michael@paquier.xyz      1089                 :             94 : pgstat_have_entry(PgStat_Kind kind, Oid dboid, uint64 objid)
                               1090                 :                : {
                               1091                 :                :     /* fixed-numbered stats always exist */
 1570 andres@anarazel.de       1092         [ +  + ]:             94 :     if (pgstat_get_kind_info(kind)->fixed_amount)
                               1093                 :              8 :         return true;
                               1094                 :                : 
  675 michael@paquier.xyz      1095                 :             86 :     return pgstat_get_entry_ref(kind, dboid, objid, false, NULL) != NULL;
                               1096                 :                : }
                               1097                 :                : 
                               1098                 :                : /*
                               1099                 :                :  * Ensure snapshot for fixed-numbered 'kind' exists.
                               1100                 :                :  *
                               1101                 :                :  * Typically used by the pgstat_fetch_* functions for a kind of stats, before
                               1102                 :                :  * massaging the data into the desired format.
                               1103                 :                :  */
                               1104                 :                : void
 1571 andres@anarazel.de       1105                 :            283 : pgstat_snapshot_fixed(PgStat_Kind kind)
                               1106                 :                : {
 1366 peter@eisentraut.org     1107         [ -  + ]:            283 :     Assert(pgstat_is_kind_valid(kind));
                               1108         [ -  + ]:            283 :     Assert(pgstat_get_kind_info(kind)->fixed_amount);
                               1109                 :                : 
  905 michael@paquier.xyz      1110         [ -  + ]:            283 :     if (force_stats_snapshot_clear)
  905 michael@paquier.xyz      1111                 :UBC           0 :         pgstat_clear_snapshot();
                               1112                 :                : 
 1571 andres@anarazel.de       1113         [ +  + ]:CBC         283 :     if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT)
                               1114                 :             12 :         pgstat_build_snapshot();
                               1115                 :                :     else
                               1116                 :            271 :         pgstat_build_snapshot_fixed(kind);
                               1117                 :                : 
  720 michael@paquier.xyz      1118         [ +  + ]:            283 :     if (pgstat_is_kind_builtin(kind))
                               1119         [ -  + ]:            280 :         Assert(pgStatLocal.snapshot.fixed_valid[kind]);
                               1120         [ +  - ]:              3 :     else if (pgstat_is_kind_custom(kind))
                               1121         [ -  + ]:              3 :         Assert(pgStatLocal.snapshot.custom_valid[kind - PGSTAT_KIND_CUSTOM_MIN]);
                               1122                 :            283 : }
                               1123                 :                : 
                               1124                 :                : static void
                               1125                 :          22802 : pgstat_init_snapshot_fixed(void)
                               1126                 :                : {
                               1127                 :                :     /*
                               1128                 :                :      * Initialize fixed-numbered statistics data in snapshots, only for custom
                               1129                 :                :      * stats kinds.
                               1130                 :                :      */
                               1131         [ +  + ]:         228020 :     for (PgStat_Kind kind = PGSTAT_KIND_CUSTOM_MIN; kind <= PGSTAT_KIND_CUSTOM_MAX; kind++)
                               1132                 :                :     {
                               1133                 :         205218 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1134                 :                : 
                               1135   [ +  +  +  + ]:         205218 :         if (!kind_info || !kind_info->fixed_amount)
                               1136                 :         205169 :             continue;
                               1137                 :                : 
                               1138                 :             49 :         pgStatLocal.snapshot.custom_data[kind - PGSTAT_KIND_CUSTOM_MIN] =
                               1139                 :             49 :             MemoryContextAlloc(TopMemoryContext, kind_info->shared_data_len);
                               1140                 :                :     }
 9164 JanWieck@Yahoo.com       1141                 :          22802 : }
                               1142                 :                : 
                               1143                 :                : static void
 1571 andres@anarazel.de       1144                 :          39189 : pgstat_prep_snapshot(void)
                               1145                 :                : {
 1172 michael@paquier.xyz      1146         [ +  + ]:          39189 :     if (force_stats_snapshot_clear)
                               1147                 :             12 :         pgstat_clear_snapshot();
                               1148                 :                : 
 1571 andres@anarazel.de       1149         [ +  + ]:          39189 :     if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_NONE ||
                               1150         [ +  + ]:           7295 :         pgStatLocal.snapshot.stats != NULL)
 6031 magnus@hagander.net      1151                 :          38370 :         return;
                               1152                 :                : 
 1571 andres@anarazel.de       1153         [ +  - ]:            819 :     if (!pgStatLocal.snapshot.context)
                               1154                 :            819 :         pgStatLocal.snapshot.context = AllocSetContextCreate(TopMemoryContext,
                               1155                 :                :                                                              "PgStat Snapshot",
                               1156                 :                :                                                              ALLOCSET_SMALL_SIZES);
                               1157                 :                : 
                               1158                 :            819 :     pgStatLocal.snapshot.stats =
                               1159                 :            819 :         pgstat_snapshot_create(pgStatLocal.snapshot.context,
                               1160                 :                :                                PGSTAT_SNAPSHOT_HASH_SIZE,
                               1161                 :                :                                NULL);
                               1162                 :                : }
                               1163                 :                : 
                               1164                 :                : static void
                               1165                 :            311 : pgstat_build_snapshot(void)
                               1166                 :                : {
                               1167                 :                :     dshash_seq_status hstat;
                               1168                 :                :     PgStatShared_HashEntry *p;
                               1169                 :                : 
                               1170                 :                :     /* should only be called when we need a snapshot */
                               1171         [ -  + ]:            311 :     Assert(pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT);
                               1172                 :                : 
                               1173                 :                :     /* snapshot already built */
                               1174         [ +  + ]:            311 :     if (pgStatLocal.snapshot.mode == PGSTAT_FETCH_CONSISTENCY_SNAPSHOT)
                               1175                 :            281 :         return;
                               1176                 :                : 
                               1177                 :             30 :     pgstat_prep_snapshot();
                               1178                 :                : 
                               1179         [ -  + ]:             30 :     Assert(pgStatLocal.snapshot.stats->members == 0);
                               1180                 :                : 
                               1181                 :             30 :     pgStatLocal.snapshot.snapshot_timestamp = GetCurrentTimestamp();
                               1182                 :                : 
                               1183                 :                :     /*
                               1184                 :                :      * Snapshot all variable stats.
                               1185                 :                :      */
                               1186                 :             30 :     dshash_seq_init(&hstat, pgStatLocal.shared_hash, false);
                               1187         [ +  + ]:          36916 :     while ((p = dshash_seq_next(&hstat)) != NULL)
                               1188                 :                :     {
                               1189                 :          36886 :         PgStat_Kind kind = p->key.kind;
                               1190                 :          36886 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1191                 :                :         bool        found;
                               1192                 :                :         PgStat_SnapshotEntry *entry;
                               1193                 :                :         PgStatShared_Common *stats_data;
                               1194                 :                : 
                               1195                 :                :         /*
                               1196                 :                :          * Check if the stats object should be included in the snapshot.
                               1197                 :                :          * Unless the stats kind can be accessed from all databases (e.g.,
                               1198                 :                :          * database stats themselves), we only include stats for the current
                               1199                 :                :          * database or objects not associated with a database (e.g. shared
                               1200                 :                :          * relations).
                               1201                 :                :          */
                               1202         [ +  + ]:          36886 :         if (p->key.dboid != MyDatabaseId &&
                               1203         [ +  + ]:          10354 :             p->key.dboid != InvalidOid &&
                               1204         [ +  + ]:           8640 :             !kind_info->accessed_across_databases)
                               1205                 :           8652 :             continue;
                               1206                 :                : 
                               1207         [ +  + ]:          28336 :         if (p->dropped)
                               1208                 :            102 :             continue;
                               1209                 :                : 
                               1210         [ -  + ]:          28234 :         Assert(pg_atomic_read_u32(&p->refcount) > 0);
                               1211                 :                : 
                               1212                 :          28234 :         stats_data = dsa_get_address(pgStatLocal.dsa, p->body);
                               1213         [ -  + ]:          28234 :         Assert(stats_data);
                               1214                 :                : 
                               1215                 :          28234 :         entry = pgstat_snapshot_insert(pgStatLocal.snapshot.stats, p->key, &found);
                               1216         [ -  + ]:          28234 :         Assert(!found);
                               1217                 :                : 
                               1218                 :          28234 :         entry->data = MemoryContextAlloc(pgStatLocal.snapshot.context,
                               1219                 :                :                                          pgstat_get_entry_len(kind));
                               1220                 :                : 
                               1221                 :                :         /*
                               1222                 :                :          * Acquire the LWLock directly instead of using
                               1223                 :                :          * pg_stat_lock_entry_shared() which requires a reference.
                               1224                 :                :          */
 1433                          1225                 :          28234 :         LWLockAcquire(&stats_data->lock, LW_SHARED);
 1571                          1226                 :          28234 :         memcpy(entry->data,
                               1227                 :          28234 :                pgstat_get_entry_data(kind, stats_data),
                               1228                 :                :                pgstat_get_entry_len(kind));
 1433                          1229                 :          28234 :         LWLockRelease(&stats_data->lock);
                               1230                 :                :     }
 1571                          1231                 :             30 :     dshash_seq_term(&hstat);
                               1232                 :                : 
                               1233                 :                :     /*
                               1234                 :                :      * Build snapshot of all fixed-numbered stats.
                               1235                 :                :      */
  720 michael@paquier.xyz      1236         [ +  + ]:            990 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                               1237                 :                :     {
 1571 andres@anarazel.de       1238                 :            960 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1239                 :                : 
  720 michael@paquier.xyz      1240         [ +  + ]:            960 :         if (!kind_info)
                               1241                 :            570 :             continue;
 1571 andres@anarazel.de       1242         [ +  + ]:            390 :         if (!kind_info->fixed_amount)
                               1243                 :                :         {
                               1244         [ -  + ]:            180 :             Assert(kind_info->snapshot_cb == NULL);
                               1245                 :            180 :             continue;
                               1246                 :                :         }
                               1247                 :                : 
                               1248                 :            210 :         pgstat_build_snapshot_fixed(kind);
                               1249                 :                :     }
                               1250                 :                : 
                               1251                 :             30 :     pgStatLocal.snapshot.mode = PGSTAT_FETCH_CONSISTENCY_SNAPSHOT;
                               1252                 :                : }
                               1253                 :                : 
                               1254                 :                : static void
                               1255                 :           5676 : pgstat_build_snapshot_fixed(PgStat_Kind kind)
                               1256                 :                : {
                               1257                 :           5676 :     const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1258                 :                :     int         idx;
                               1259                 :                :     bool       *valid;
                               1260                 :                : 
                               1261                 :                :     /* Position in fixed_valid or custom_valid */
  720 michael@paquier.xyz      1262         [ +  + ]:           5676 :     if (pgstat_is_kind_builtin(kind))
                               1263                 :                :     {
                               1264                 :           5672 :         idx = kind;
                               1265                 :           5672 :         valid = pgStatLocal.snapshot.fixed_valid;
                               1266                 :                :     }
                               1267                 :                :     else
                               1268                 :                :     {
                               1269                 :              4 :         idx = kind - PGSTAT_KIND_CUSTOM_MIN;
                               1270                 :              4 :         valid = pgStatLocal.snapshot.custom_valid;
                               1271                 :                :     }
                               1272                 :                : 
 1571 andres@anarazel.de       1273         [ -  + ]:           5676 :     Assert(kind_info->fixed_amount);
                               1274         [ -  + ]:           5676 :     Assert(kind_info->snapshot_cb != NULL);
                               1275                 :                : 
                               1276         [ +  + ]:           5676 :     if (pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_NONE)
                               1277                 :                :     {
                               1278                 :                :         /* rebuild every time */
  720 michael@paquier.xyz      1279                 :           5210 :         valid[idx] = false;
                               1280                 :                :     }
                               1281         [ +  + ]:            466 :     else if (valid[idx])
                               1282                 :                :     {
                               1283                 :                :         /* in snapshot mode we shouldn't get called again */
 1571 andres@anarazel.de       1284         [ -  + ]:              6 :         Assert(pgstat_fetch_consistency == PGSTAT_FETCH_CONSISTENCY_CACHE);
                               1285                 :              6 :         return;
                               1286                 :                :     }
                               1287                 :                : 
  720 michael@paquier.xyz      1288         [ -  + ]:           5670 :     Assert(!valid[idx]);
                               1289                 :                : 
 1571 andres@anarazel.de       1290                 :           5670 :     kind_info->snapshot_cb();
                               1291                 :                : 
  720 michael@paquier.xyz      1292         [ -  + ]:           5670 :     Assert(!valid[idx]);
                               1293                 :           5670 :     valid[idx] = true;
                               1294                 :                : }
                               1295                 :                : 
                               1296                 :                : 
                               1297                 :                : /* ------------------------------------------------------------
                               1298                 :                :  * Backend-local pending stats infrastructure
                               1299                 :                :  * ------------------------------------------------------------
                               1300                 :                :  */
                               1301                 :                : 
                               1302                 :                : /*
                               1303                 :                :  * Returns the appropriate PgStat_EntryRef, preparing it to receive pending
                               1304                 :                :  * stats if not already done.
                               1305                 :                :  *
                               1306                 :                :  * If created_entry is non-NULL, it'll be set to true if the entry is newly
                               1307                 :                :  * created, false otherwise.
                               1308                 :                :  */
                               1309                 :                : PgStat_EntryRef *
  675                          1310                 :        2284624 : pgstat_prep_pending_entry(PgStat_Kind kind, Oid dboid, uint64 objid, bool *created_entry)
                               1311                 :                : {
                               1312                 :                :     PgStat_EntryRef *entry_ref;
                               1313                 :                : 
                               1314                 :        2284624 :     entry_ref = pgstat_get_entry_ref(kind, dboid, objid,
                               1315                 :                :                                      true, created_entry);
                               1316                 :                : 
    3 michael@paquier.xyz      1317                 :GNC     2284624 :     pgstat_prep_pending_from_entry_ref(entry_ref);
                               1318                 :                : 
 1571 andres@anarazel.de       1319                 :CBC     2284624 :     return entry_ref;
                               1320                 :                : }
                               1321                 :                : 
                               1322                 :                : /*
                               1323                 :                :  * Return an existing stats entry, or NULL.
                               1324                 :                :  *
                               1325                 :                :  * This should only be used for helper function for pgstatfuncs.c - outside of
                               1326                 :                :  * that it shouldn't be needed.
                               1327                 :                :  */
                               1328                 :                : PgStat_EntryRef *
  675 michael@paquier.xyz      1329                 :             56 : pgstat_fetch_pending_entry(PgStat_Kind kind, Oid dboid, uint64 objid)
                               1330                 :                : {
                               1331                 :                :     PgStat_EntryRef *entry_ref;
                               1332                 :                : 
                               1333                 :             56 :     entry_ref = pgstat_get_entry_ref(kind, dboid, objid, false, NULL);
                               1334                 :                : 
 1571 andres@anarazel.de       1335   [ +  +  +  + ]:             56 :     if (entry_ref == NULL || entry_ref->pending == NULL)
                               1336                 :             20 :         return NULL;
                               1337                 :                : 
                               1338                 :             36 :     return entry_ref;
                               1339                 :                : }
                               1340                 :                : 
                               1341                 :                : void
                               1342                 :        1173700 : pgstat_delete_pending_entry(PgStat_EntryRef *entry_ref)
                               1343                 :                : {
                               1344                 :        1173700 :     PgStat_Kind kind = entry_ref->shared_entry->key.kind;
                               1345                 :        1173700 :     const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1346                 :        1173700 :     void       *pending_data = entry_ref->pending;
                               1347                 :                : 
                               1348         [ -  + ]:        1173700 :     Assert(pending_data != NULL);
                               1349                 :                :     /* !fixed_amount stats should be handled explicitly */
                               1350         [ -  + ]:        1173700 :     Assert(!pgstat_get_kind_info(kind)->fixed_amount);
                               1351                 :                : 
                               1352         [ +  + ]:        1173700 :     if (kind_info->delete_pending_cb)
                               1353                 :        1104783 :         kind_info->delete_pending_cb(entry_ref);
                               1354                 :                : 
                               1355                 :        1173700 :     pfree(pending_data);
                               1356                 :        1173700 :     entry_ref->pending = NULL;
                               1357                 :                : 
                               1358                 :        1173700 :     dlist_delete(&entry_ref->pending_node);
 2116 akapila@postgresql.o     1359                 :        1173700 : }
                               1360                 :                : 
                               1361                 :                : /*
                               1362                 :                :  * Prepare the given entry to receive pending stats, if not already done.
                               1363                 :                :  */
                               1364                 :                : void
    3 michael@paquier.xyz      1365                 :GNC     2284624 : pgstat_prep_pending_from_entry_ref(PgStat_EntryRef *entry_ref)
                               1366                 :                : {
                               1367                 :                :     PgStat_Kind kind;
                               1368                 :                : 
                               1369         [ -  + ]:        2284624 :     Assert(entry_ref != NULL);
                               1370                 :                : 
                               1371                 :        2284624 :     kind = entry_ref->shared_entry->key.kind;
                               1372                 :                : 
                               1373                 :                :     /* need to be able to flush out */
                               1374         [ -  + ]:        2284624 :     Assert(pgstat_get_kind_info(kind)->flush_pending_cb != NULL);
                               1375                 :                : 
                               1376         [ +  + ]:        2284624 :     if (entry_ref->pending == NULL)
                               1377                 :                :     {
                               1378                 :        1173700 :         size_t      entrysize = pgstat_get_kind_info(kind)->pending_size;
                               1379                 :                : 
                               1380         [ -  + ]:        1173700 :         Assert(entrysize != (size_t) -1);
                               1381                 :                : 
                               1382         [ +  + ]:        1173700 :         if (unlikely(!pgStatPendingContext))
                               1383                 :                :         {
                               1384                 :          18507 :             pgStatPendingContext =
                               1385                 :          18507 :                 AllocSetContextCreate(TopMemoryContext,
                               1386                 :                :                                       "PgStat Pending",
                               1387                 :                :                                       ALLOCSET_SMALL_SIZES);
                               1388                 :                :         }
                               1389                 :                : 
                               1390                 :        1173700 :         entry_ref->pending = MemoryContextAllocZero(pgStatPendingContext, entrysize);
                               1391                 :        1173700 :         dlist_push_tail(&pgStatPending, &entry_ref->pending_node);
                               1392                 :                :     }
                               1393                 :        2284624 : }
                               1394                 :                : 
                               1395                 :                : /*
                               1396                 :                :  * Flush out pending variable-numbered stats.
                               1397                 :                :  */
                               1398                 :                : static bool
 1571 andres@anarazel.de       1399                 :CBC       42753 : pgstat_flush_pending_entries(bool nowait)
                               1400                 :                : {
                               1401                 :          42753 :     bool        have_pending = false;
                               1402                 :          42753 :     dlist_node *cur = NULL;
                               1403                 :                : 
                               1404                 :                :     /*
                               1405                 :                :      * Need to be a bit careful iterating over the list of pending entries.
                               1406                 :                :      * Processing a pending entry may queue further pending entries to the end
                               1407                 :                :      * of the list that we want to process, so a simple iteration won't do.
                               1408                 :                :      * Further complicating matters is that we want to delete the current
                               1409                 :                :      * entry in each iteration from the list if we flushed successfully.
                               1410                 :                :      *
                               1411                 :                :      * So we just keep track of the next pointer in each loop iteration.
                               1412                 :                :      */
                               1413         [ +  + ]:          42753 :     if (!dlist_is_empty(&pgStatPending))
                               1414                 :          39899 :         cur = dlist_head_node(&pgStatPending);
                               1415                 :                : 
                               1416         [ +  + ]:        1170251 :     while (cur)
                               1417                 :                :     {
                               1418                 :        1127498 :         PgStat_EntryRef *entry_ref =
                               1419                 :                :             dlist_container(PgStat_EntryRef, pending_node, cur);
                               1420                 :        1127498 :         PgStat_HashKey key = entry_ref->shared_entry->key;
                               1421                 :        1127498 :         PgStat_Kind kind = key.kind;
                               1422                 :        1127498 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1423                 :                :         bool        did_flush;
                               1424                 :                :         dlist_node *next;
                               1425                 :                : 
                               1426         [ -  + ]:        1127498 :         Assert(!kind_info->fixed_amount);
                               1427         [ -  + ]:        1127498 :         Assert(kind_info->flush_pending_cb != NULL);
                               1428                 :                : 
                               1429                 :                :         /* flush the stats, if possible */
                               1430                 :        1127498 :         did_flush = kind_info->flush_pending_cb(entry_ref, nowait);
                               1431                 :                : 
                               1432   [ +  +  -  + ]:        1127498 :         Assert(did_flush || nowait);
                               1433                 :                : 
                               1434                 :                :         /* determine next entry, before deleting the pending entry */
                               1435         [ +  + ]:        1127498 :         if (dlist_has_next(&pgStatPending, cur))
                               1436                 :        1087599 :             next = dlist_next_node(&pgStatPending, cur);
                               1437                 :                :         else
                               1438                 :          39899 :             next = NULL;
                               1439                 :                : 
                               1440                 :                :         /* if successfully flushed, remove entry */
                               1441         [ +  + ]:        1127498 :         if (did_flush)
                               1442                 :        1127493 :             pgstat_delete_pending_entry(entry_ref);
                               1443                 :                :         else
                               1444                 :              5 :             have_pending = true;
                               1445                 :                : 
                               1446                 :        1127498 :         cur = next;
                               1447                 :                :     }
                               1448                 :                : 
                               1449         [ -  + ]:          42753 :     Assert(dlist_is_empty(&pgStatPending) == !have_pending);
                               1450                 :                : 
                               1451                 :          42753 :     return have_pending;
                               1452                 :                : }
                               1453                 :                : 
                               1454                 :                : 
                               1455                 :                : /* ------------------------------------------------------------
                               1456                 :                :  * Helper / infrastructure functions
                               1457                 :                :  * ------------------------------------------------------------
                               1458                 :                :  */
                               1459                 :                : 
                               1460                 :                : PgStat_Kind
                               1461                 :             98 : pgstat_get_kind_from_str(char *kind_str)
                               1462                 :                : {
  720 michael@paquier.xyz      1463         [ +  + ]:            304 :     for (PgStat_Kind kind = PGSTAT_KIND_BUILTIN_MIN; kind <= PGSTAT_KIND_BUILTIN_MAX; kind++)
                               1464                 :                :     {
                               1465         [ +  + ]:            300 :         if (pg_strcasecmp(kind_str, pgstat_kind_builtin_infos[kind].name) == 0)
 1571 andres@anarazel.de       1466                 :             94 :             return kind;
                               1467                 :                :     }
                               1468                 :                : 
                               1469                 :                :     /* Check the custom set of cumulative stats */
  720 michael@paquier.xyz      1470         [ -  + ]:              4 :     if (pgstat_kind_custom_infos)
                               1471                 :                :     {
  720 michael@paquier.xyz      1472         [ #  # ]:UBC           0 :         for (PgStat_Kind kind = PGSTAT_KIND_CUSTOM_MIN; kind <= PGSTAT_KIND_CUSTOM_MAX; kind++)
                               1473                 :                :         {
                               1474                 :              0 :             uint32      idx = kind - PGSTAT_KIND_CUSTOM_MIN;
                               1475                 :                : 
                               1476   [ #  #  #  # ]:              0 :             if (pgstat_kind_custom_infos[idx] &&
                               1477                 :              0 :                 pg_strcasecmp(kind_str, pgstat_kind_custom_infos[idx]->name) == 0)
                               1478                 :              0 :                 return kind;
                               1479                 :                :         }
                               1480                 :                :     }
                               1481                 :                : 
 1571 andres@anarazel.de       1482         [ +  - ]:CBC           4 :     ereport(ERROR,
                               1483                 :                :             (errcode(ERRCODE_INVALID_PARAMETER_VALUE),
                               1484                 :                :              errmsg("invalid statistics kind: \"%s\"", kind_str)));
                               1485                 :                :     return PGSTAT_KIND_INVALID; /* avoid compiler warnings */
                               1486                 :                : }
                               1487                 :                : 
                               1488                 :                : static inline bool
  722 michael@paquier.xyz      1489                 :         477790 : pgstat_is_kind_valid(PgStat_Kind kind)
                               1490                 :                : {
  720                          1491   [ +  +  +  - ]:         477790 :     return pgstat_is_kind_builtin(kind) || pgstat_is_kind_custom(kind);
                               1492                 :                : }
                               1493                 :                : 
                               1494                 :                : const PgStat_KindInfo *
 1571 andres@anarazel.de       1495                 :       11448219 : pgstat_get_kind_info(PgStat_Kind kind)
                               1496                 :                : {
  720 michael@paquier.xyz      1497         [ +  + ]:       11448219 :     if (pgstat_is_kind_builtin(kind))
                               1498                 :        9931729 :         return &pgstat_kind_builtin_infos[kind];
                               1499                 :                : 
                               1500         [ +  + ]:        1516490 :     if (pgstat_is_kind_custom(kind))
                               1501                 :                :     {
                               1502                 :         832210 :         uint32      idx = kind - PGSTAT_KIND_CUSTOM_MIN;
                               1503                 :                : 
                               1504         [ +  + ]:         832210 :         if (pgstat_kind_custom_infos == NULL ||
                               1505         [ +  + ]:           1861 :             pgstat_kind_custom_infos[idx] == NULL)
                               1506                 :         831707 :             return NULL;
                               1507                 :            503 :         return pgstat_kind_custom_infos[idx];
                               1508                 :                :     }
                               1509                 :                : 
                               1510                 :         684280 :     return NULL;
                               1511                 :                : }
                               1512                 :                : 
                               1513                 :                : /*
                               1514                 :                :  * Register a new stats kind.
                               1515                 :                :  *
                               1516                 :                :  * PgStat_Kinds must be globally unique across all extensions. Refer
                               1517                 :                :  * to https://wiki.postgresql.org/wiki/CustomCumulativeStats to reserve a
                               1518                 :                :  * unique ID for your extension, to avoid conflicts with other extension
                               1519                 :                :  * developers. During development, use PGSTAT_KIND_EXPERIMENTAL to avoid
                               1520                 :                :  * needlessly reserving a new ID.
                               1521                 :                :  */
                               1522                 :                : void
                               1523                 :              6 : pgstat_register_kind(PgStat_Kind kind, const PgStat_KindInfo *kind_info)
                               1524                 :                : {
                               1525                 :              6 :     uint32      idx = kind - PGSTAT_KIND_CUSTOM_MIN;
                               1526                 :                : 
                               1527   [ +  -  -  + ]:              6 :     if (kind_info->name == NULL || strlen(kind_info->name) == 0)
  720 michael@paquier.xyz      1528         [ #  # ]:UBC           0 :         ereport(ERROR,
                               1529                 :                :                 (errmsg("failed to register custom cumulative statistics with ID %u", kind),
                               1530                 :                :                  errhint("Provide a non-empty name for the custom cumulative statistics.")));
                               1531                 :                : 
  720 michael@paquier.xyz      1532         [ -  + ]:CBC           6 :     if (!pgstat_is_kind_custom(kind))
   19 michael@paquier.xyz      1533         [ #  # ]:UNC           0 :         ereport(ERROR, (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1534                 :                :                         errhint("Provide a custom cumulative statistics ID between %u and %u.",
                               1535                 :                :                                 PGSTAT_KIND_CUSTOM_MIN, PGSTAT_KIND_CUSTOM_MAX)));
                               1536                 :                : 
  720 michael@paquier.xyz      1537         [ -  + ]:CBC           6 :     if (!process_shared_preload_libraries_in_progress)
  720 michael@paquier.xyz      1538         [ #  # ]:UBC           0 :         ereport(ERROR,
                               1539                 :                :                 (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1540                 :                :                  errdetail("Custom cumulative statistics must be registered while initializing modules in \"%s\".",
                               1541                 :                :                            "shared_preload_libraries")));
                               1542                 :                : 
                               1543                 :                :     /*
                               1544                 :                :      * Check some data for fixed-numbered stats.
                               1545                 :                :      */
  720 michael@paquier.xyz      1546         [ +  + ]:CBC           6 :     if (kind_info->fixed_amount)
                               1547                 :                :     {
                               1548         [ -  + ]:              3 :         if (kind_info->shared_size == 0)
  720 michael@paquier.xyz      1549         [ #  # ]:UBC           0 :             ereport(ERROR,
                               1550                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1551                 :                :                      errhint("Custom cumulative statistics require a shared memory size for fixed-numbered objects.")));
   19 michael@paquier.xyz      1552         [ -  + ]:GNC           3 :         if (kind_info->init_shmem_cb == NULL)
   19 michael@paquier.xyz      1553         [ #  # ]:UNC           0 :             ereport(ERROR,
                               1554                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1555                 :                :                      errhint("Custom cumulative statistics require a \"%s\" callback for fixed-numbered objects.",
                               1556                 :                :                              "init_shmem_cb")));
   19 michael@paquier.xyz      1557         [ -  + ]:GNC           3 :         if (kind_info->reset_all_cb == NULL)
   19 michael@paquier.xyz      1558         [ #  # ]:UNC           0 :             ereport(ERROR,
                               1559                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1560                 :                :                      errhint("Custom cumulative statistics require a \"%s\" callback for fixed-numbered objects.",
                               1561                 :                :                              "reset_all_cb")));
   19 michael@paquier.xyz      1562         [ -  + ]:GNC           3 :         if (kind_info->snapshot_cb == NULL)
   19 michael@paquier.xyz      1563         [ #  # ]:UNC           0 :             ereport(ERROR,
                               1564                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1565                 :                :                      errhint("Custom cumulative statistics require a \"%s\" callback for fixed-numbered objects.",
                               1566                 :                :                              "snapshot_cb")));
  299 michael@paquier.xyz      1567         [ -  + ]:CBC           3 :         if (kind_info->track_entry_count)
  299 michael@paquier.xyz      1568         [ #  # ]:UBC           0 :             ereport(ERROR,
                               1569                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1570                 :                :                      errhint("Custom cumulative statistics cannot use entry count tracking for fixed-numbered objects.")));
                               1571                 :                :     }
                               1572                 :                :     else
                               1573                 :                :     {
   19 michael@paquier.xyz      1574   [ +  -  -  + ]:GNC           3 :         if (kind_info->pending_size > 0 && kind_info->flush_pending_cb == NULL)
   19 michael@paquier.xyz      1575         [ #  # ]:UNC           0 :             ereport(ERROR,
                               1576                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1577                 :                :                      errhint("Custom cumulative statistics require a \"%s\" callback when pending size is set.",
                               1578                 :                :                              "flush_pending_cb")));
                               1579                 :                :     }
                               1580                 :                : 
                               1581                 :                :     /*
                               1582                 :                :      * If pgstat_kind_custom_infos is not available yet, allocate it.
                               1583                 :                :      */
  720 michael@paquier.xyz      1584         [ +  + ]:CBC           6 :     if (pgstat_kind_custom_infos == NULL)
                               1585                 :                :     {
                               1586                 :              3 :         pgstat_kind_custom_infos = (const PgStat_KindInfo **)
                               1587                 :              3 :             MemoryContextAllocZero(TopMemoryContext,
                               1588                 :                :                                    sizeof(PgStat_KindInfo *) * PGSTAT_KIND_CUSTOM_SIZE);
                               1589                 :                :     }
                               1590                 :                : 
                               1591         [ -  + ]:              6 :     if (pgstat_kind_custom_infos[idx] != NULL &&
  720 michael@paquier.xyz      1592         [ #  # ]:UBC           0 :         pgstat_kind_custom_infos[idx]->name != NULL)
                               1593         [ #  # ]:              0 :         ereport(ERROR,
                               1594                 :                :                 (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1595                 :                :                  errdetail("Custom cumulative statistics \"%s\" already registered with the same ID.",
                               1596                 :                :                            pgstat_kind_custom_infos[idx]->name)));
                               1597                 :                : 
                               1598                 :                :     /* check for existing custom stats with the same name */
  720 michael@paquier.xyz      1599         [ +  + ]:CBC          60 :     for (PgStat_Kind existing_kind = PGSTAT_KIND_CUSTOM_MIN; existing_kind <= PGSTAT_KIND_CUSTOM_MAX; existing_kind++)
                               1600                 :                :     {
                               1601                 :             54 :         uint32      existing_idx = existing_kind - PGSTAT_KIND_CUSTOM_MIN;
                               1602                 :                : 
                               1603         [ +  + ]:             54 :         if (pgstat_kind_custom_infos[existing_idx] == NULL)
                               1604                 :             51 :             continue;
                               1605         [ -  + ]:              3 :         if (!pg_strcasecmp(pgstat_kind_custom_infos[existing_idx]->name, kind_info->name))
  720 michael@paquier.xyz      1606         [ #  # ]:UBC           0 :             ereport(ERROR,
                               1607                 :                :                     (errmsg("failed to register custom cumulative statistics \"%s\" with ID %u", kind_info->name, kind),
                               1608                 :                :                      errdetail("Existing cumulative statistics with ID %u has the same name.", existing_kind)));
                               1609                 :                :     }
                               1610                 :                : 
                               1611                 :                :     /* Register it */
  720 michael@paquier.xyz      1612                 :CBC           6 :     pgstat_kind_custom_infos[idx] = kind_info;
                               1613         [ +  - ]:              6 :     ereport(LOG,
                               1614                 :                :             (errmsg("registered custom cumulative statistics \"%s\" with ID %u",
                               1615                 :                :                     kind_info->name, kind)));
 5391 rhaas@postgresql.org     1616                 :              6 : }
                               1617                 :                : 
                               1618                 :                : /*
                               1619                 :                :  * Stats should only be reported after pgstat_initialize() and before
                               1620                 :                :  * pgstat_shutdown(). This check is put in a few central places to catch
                               1621                 :                :  * violations of this rule more easily.
                               1622                 :                :  */
                               1623                 :                : #ifdef USE_ASSERT_CHECKING
                               1624                 :                : void
 1587 andres@anarazel.de       1625                 :        6199722 : pgstat_assert_is_up(void)
                               1626                 :                : {
                               1627   [ +  -  -  + ]:        6199722 :     Assert(pgstat_is_initialized && !pgstat_is_shutdown);
                               1628                 :        6199722 : }
                               1629                 :                : #endif
                               1630                 :                : 
                               1631                 :                : 
                               1632                 :                : /* ------------------------------------------------------------
                               1633                 :                :  * reading and writing of on-disk stats file
                               1634                 :                :  * ------------------------------------------------------------
                               1635                 :                :  */
                               1636                 :                : 
                               1637                 :                : #define write_chunk_s(fpout, ptr) write_chunk(fpout, ptr, sizeof(*ptr))
                               1638                 :                : #define read_chunk_s(fpin, ptr) read_chunk(fpin, ptr, sizeof(*ptr))
                               1639                 :                : 
                               1640                 :                : /* helpers for pgstat_write_statsfile() */
                               1641                 :                : static void
   10 michael@paquier.xyz      1642                 :         473752 : write_chunk(FILE *fpout, void *ptr, size_t len)
                               1643                 :                : {
                               1644                 :                :     int         rc;
                               1645                 :                : 
 1571 andres@anarazel.de       1646                 :         473752 :     rc = fwrite(ptr, len, 1, fpout);
                               1647                 :                : 
                               1648                 :                :     /* we'll check for errors with ferror once at the end */
                               1649                 :                :     (void) rc;
 1587                          1650                 :         473752 : }
                               1651                 :                : 
                               1652                 :                : /*
                               1653                 :                :  * This function is called in the last process that is accessing the shared
                               1654                 :                :  * stats so locking is not required.
                               1655                 :                :  */
                               1656                 :                : static void
  495 michael@paquier.xyz      1657                 :            742 : pgstat_write_statsfile(void)
                               1658                 :                : {
                               1659                 :                :     FILE       *fpout;
                               1660                 :                :     int32       format_id;
 1571 andres@anarazel.de       1661                 :            742 :     const char *tmpfile = PGSTAT_STAT_PERMANENT_TMPFILE;
                               1662                 :            742 :     const char *statfile = PGSTAT_STAT_PERMANENT_FILENAME;
                               1663                 :                :     dshash_seq_status hstat;
                               1664                 :                :     PgStatShared_HashEntry *ps;
   10 michael@paquier.xyz      1665                 :            742 :     PgStat_StatsFileOp status = STATS_WRITE;
                               1666                 :                : 
 1571 andres@anarazel.de       1667                 :            742 :     pgstat_assert_is_up();
                               1668                 :                : 
                               1669                 :                :     /* should be called only by the checkpointer or single user mode */
  743 michael@paquier.xyz      1670   [ +  +  -  + ]:            742 :     Assert(!IsUnderPostmaster || MyBackendType == B_CHECKPOINTER);
                               1671                 :                : 
                               1672                 :                :     /* we're shutting down, so it's ok to just override this */
 1571 andres@anarazel.de       1673                 :            742 :     pgstat_fetch_consistency = PGSTAT_FETCH_CONSISTENCY_NONE;
                               1674                 :                : 
  495 michael@paquier.xyz      1675         [ +  + ]:            742 :     elog(DEBUG2, "writing stats file \"%s\"", statfile);
                               1676                 :                : 
                               1677                 :                :     /*
                               1678                 :                :      * Open the statistics temp file to write out the current values.
                               1679                 :                :      */
 6473 tgl@sss.pgh.pa.us        1680                 :            742 :     fpout = AllocateFile(tmpfile, PG_BINARY_W);
 9164 JanWieck@Yahoo.com       1681         [ -  + ]:            742 :     if (fpout == NULL)
                               1682                 :                :     {
 8404 tgl@sss.pgh.pa.us        1683         [ #  # ]:UBC           0 :         ereport(LOG,
                               1684                 :                :                 (errcode_for_file_access(),
                               1685                 :                :                  errmsg("could not open temporary statistics file \"%s\": %m",
                               1686                 :                :                         tmpfile)));
 9164 JanWieck@Yahoo.com       1687                 :              0 :         return;
                               1688                 :                :     }
                               1689                 :                : 
                               1690                 :                :     /*
                               1691                 :                :      * Write the file header --- currently just a format ID.
                               1692                 :                :      */
 7681 tgl@sss.pgh.pa.us        1693                 :CBC         742 :     format_id = PGSTAT_FILE_FORMAT_ID;
   10 michael@paquier.xyz      1694                 :            742 :     write_chunk_s(fpout, &format_id);
                               1695                 :                : 
                               1696                 :                :     /* Write various stats structs for fixed number of objects */
  720                          1697         [ +  + ]:          24486 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                               1698                 :                :     {
                               1699                 :                :         char       *ptr;
  746                          1700                 :          23744 :         const PgStat_KindInfo *info = pgstat_get_kind_info(kind);
                               1701                 :                : 
  720                          1702   [ +  +  +  + ]:          23744 :         if (!info || !info->fixed_amount)
  746                          1703                 :          18549 :             continue;
                               1704                 :                : 
  720                          1705         [ +  + ]:           5195 :         if (pgstat_is_kind_builtin(kind))
                               1706         [ -  + ]:           5194 :             Assert(info->snapshot_ctl_off != 0);
                               1707                 :                : 
                               1708                 :                :         /* skip if no need to write to file */
  610                          1709         [ -  + ]:           5195 :         if (!info->write_to_file)
  610 michael@paquier.xyz      1710                 :UBC           0 :             continue;
                               1711                 :                : 
  746 michael@paquier.xyz      1712                 :CBC        5195 :         pgstat_build_snapshot_fixed(kind);
  720                          1713         [ +  + ]:           5195 :         if (pgstat_is_kind_builtin(kind))
                               1714                 :           5194 :             ptr = ((char *) &pgStatLocal.snapshot) + info->snapshot_ctl_off;
                               1715                 :                :         else
                               1716                 :              1 :             ptr = pgStatLocal.snapshot.custom_data[kind - PGSTAT_KIND_CUSTOM_MIN];
                               1717                 :                : 
  744                          1718                 :           5195 :         fputc(PGSTAT_FILE_ENTRY_FIXED, fpout);
   10                          1719                 :           5195 :         write_chunk_s(fpout, &kind);
                               1720                 :           5195 :         write_chunk(fpout, ptr, info->shared_data_len);
                               1721                 :                :     }
                               1722                 :                : 
                               1723                 :                :     /*
                               1724                 :                :      * Walk through the stats entries
                               1725                 :                :      */
 1571 andres@anarazel.de       1726                 :            742 :     dshash_seq_init(&hstat, pgStatLocal.shared_hash, false);
                               1727         [ +  + ]:         232123 :     while ((ps = dshash_seq_next(&hstat)) != NULL)
                               1728                 :                :     {
                               1729                 :                :         PgStatShared_Common *shstats;
                               1730                 :         231381 :         const PgStat_KindInfo *kind_info = NULL;
                               1731                 :                : 
                               1732         [ -  + ]:         231381 :         CHECK_FOR_INTERRUPTS();
                               1733                 :                : 
                               1734                 :                :         /*
                               1735                 :                :          * We should not see any "dropped" entries when writing the stats
                               1736                 :                :          * file, as all backends and auxiliary processes should have cleaned
                               1737                 :                :          * up their references before they terminated.
                               1738                 :                :          *
                               1739                 :                :          * However, since we are already shutting down, it is not worth
                               1740                 :                :          * crashing the server over any potential cleanup issues, so we simply
                               1741                 :                :          * skip such entries if encountered.
                               1742                 :                :          */
                               1743         [ -  + ]:         231381 :         Assert(!ps->dropped);
                               1744         [ -  + ]:         231381 :         if (ps->dropped)
 1571 andres@anarazel.de       1745                 :UBC           0 :             continue;
                               1746                 :                : 
                               1747                 :                :         /*
                               1748                 :                :          * This discards data related to custom stats kinds that are unknown
                               1749                 :                :          * to this process.
                               1750                 :                :          */
  720 michael@paquier.xyz      1751         [ -  + ]:CBC      231381 :         if (!pgstat_is_kind_valid(ps->key.kind))
                               1752                 :                :         {
  483 peter@eisentraut.org     1753         [ #  # ]:UBC           0 :             elog(WARNING, "found unknown stats entry %u/%u/%" PRIu64,
                               1754                 :                :                  ps->key.kind, ps->key.dboid,
                               1755                 :                :                  ps->key.objid);
  720 michael@paquier.xyz      1756                 :              0 :             continue;
                               1757                 :                :         }
                               1758                 :                : 
 1571 andres@anarazel.de       1759                 :CBC      231381 :         shstats = (PgStatShared_Common *) dsa_get_address(pgStatLocal.dsa, ps->body);
                               1760                 :                : 
                               1761                 :         231381 :         kind_info = pgstat_get_kind_info(ps->key.kind);
                               1762                 :                : 
                               1763                 :                :         /* if not dropped the valid-entry refcount should exist */
                               1764         [ -  + ]:         231381 :         Assert(pg_atomic_read_u32(&ps->refcount) > 0);
                               1765                 :                : 
                               1766                 :                :         /* skip if no need to write to file */
  610 michael@paquier.xyz      1767         [ +  + ]:         231381 :         if (!kind_info->write_to_file)
                               1768                 :            129 :             continue;
                               1769                 :                : 
 1571 andres@anarazel.de       1770         [ +  + ]:         231252 :         if (!kind_info->to_serialized_name)
                               1771                 :                :         {
                               1772                 :                :             /* normal stats entry, identified by PgStat_HashKey */
  752 michael@paquier.xyz      1773                 :         231136 :             fputc(PGSTAT_FILE_ENTRY_HASH, fpout);
   10                          1774                 :         231136 :             write_chunk_s(fpout, &ps->key);
                               1775                 :                :         }
                               1776                 :                :         else
                               1777                 :                :         {
                               1778                 :                :             /* stats entry identified by name on disk (e.g. slots) */
                               1779                 :                :             NameData    name;
                               1780                 :                : 
 1386 andres@anarazel.de       1781                 :            116 :             kind_info->to_serialized_name(&ps->key, shstats, &name);
                               1782                 :                : 
  752 michael@paquier.xyz      1783                 :            116 :             fputc(PGSTAT_FILE_ENTRY_NAME, fpout);
   10                          1784                 :            116 :             write_chunk_s(fpout, &ps->key.kind);
                               1785                 :            116 :             write_chunk_s(fpout, &name);
                               1786                 :                :         }
                               1787                 :                : 
                               1788                 :                :         /* Write except the header part of the entry */
                               1789                 :         231252 :         write_chunk(fpout,
                               1790                 :                :                     pgstat_get_entry_data(ps->key.kind, shstats),
                               1791                 :                :                     pgstat_get_entry_len(ps->key.kind));
                               1792                 :                : 
                               1793                 :                :         /* Write more data for the entry, if required */
                               1794         [ +  + ]:         231252 :         if (kind_info->to_serialized_data &&
                               1795         [ -  + ]:              2 :             !kind_info->to_serialized_data(&ps->key, shstats, fpout))
                               1796                 :                :         {
   10 michael@paquier.xyz      1797                 :UBC           0 :             status = STATS_DISCARD;
                               1798                 :              0 :             break;
                               1799                 :                :         }
                               1800                 :                :     }
 1571 andres@anarazel.de       1801                 :CBC         742 :     dshash_seq_term(&hstat);
                               1802                 :                : 
                               1803                 :                :     /*
                               1804                 :                :      * No more output to be done. Close the temp file and replace the old
                               1805                 :                :      * pgstat.stat with it.  The ferror() check replaces testing for error
                               1806                 :                :      * after each individual fputc or fwrite (in write_chunk()) above.
                               1807                 :                :      */
  752 michael@paquier.xyz      1808                 :            742 :     fputc(PGSTAT_FILE_ENTRY_END, fpout);
                               1809                 :                : 
   10                          1810         [ -  + ]:            742 :     if (status == STATS_DISCARD)
                               1811                 :                :     {
                               1812                 :                :         /*
                               1813                 :                :          * A to_serialized_data callback failed.  DEBUG2 because the callback
                               1814                 :                :          * already logged the reason.
                               1815                 :                :          */
   10 michael@paquier.xyz      1816         [ #  # ]:UBC           0 :         elog(DEBUG2, "discarding temporary statistics file \"%s\"", tmpfile);
                               1817                 :              0 :         FreeFile(fpout);
                               1818                 :              0 :         unlink(tmpfile);
                               1819                 :                :     }
   10 michael@paquier.xyz      1820         [ -  + ]:CBC         742 :     else if (ferror(fpout))
                               1821                 :                :     {
 7493 tgl@sss.pgh.pa.us        1822         [ #  # ]:UBC           0 :         ereport(LOG,
                               1823                 :                :                 (errcode_for_file_access(),
                               1824                 :                :                  errmsg("could not write temporary statistics file \"%s\": %m",
                               1825                 :                :                         tmpfile)));
 6473                          1826                 :              0 :         FreeFile(fpout);
 6563 magnus@hagander.net      1827                 :              0 :         unlink(tmpfile);
   10 michael@paquier.xyz      1828                 :              0 :         status = STATS_DISCARD;
                               1829                 :                :     }
 6473 tgl@sss.pgh.pa.us        1830         [ -  + ]:CBC         742 :     else if (FreeFile(fpout) < 0)
                               1831                 :                :     {
 8404 tgl@sss.pgh.pa.us        1832         [ #  # ]:UBC           0 :         ereport(LOG,
                               1833                 :                :                 (errcode_for_file_access(),
                               1834                 :                :                  errmsg("could not close temporary statistics file \"%s\": %m",
                               1835                 :                :                         tmpfile)));
 6563 magnus@hagander.net      1836                 :              0 :         unlink(tmpfile);
   10 michael@paquier.xyz      1837                 :              0 :         status = STATS_DISCARD;
                               1838                 :                :     }
  738 michael@paquier.xyz      1839         [ -  + ]:CBC         742 :     else if (durable_rename(tmpfile, statfile, LOG) < 0)
                               1840                 :                :     {
                               1841                 :                :         /* durable_rename already emitted log message */
 6563 magnus@hagander.net      1842                 :UBC           0 :         unlink(tmpfile);
   10 michael@paquier.xyz      1843                 :              0 :         status = STATS_DISCARD;
                               1844                 :                :     }
                               1845                 :                : 
                               1846                 :                :     /* Finish callbacks, if required */
  222 michael@paquier.xyz      1847         [ +  + ]:CBC       24486 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                               1848                 :                :     {
                               1849                 :          23744 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               1850                 :                : 
                               1851   [ +  +  +  + ]:          23744 :         if (kind_info && kind_info->finish)
   10                          1852                 :              1 :             kind_info->finish(status);
                               1853                 :                :     }
                               1854                 :                : }
                               1855                 :                : 
                               1856                 :                : /* helpers for pgstat_read_statsfile() */
                               1857                 :                : static bool
                               1858                 :         493139 : read_chunk(FILE *fpin, void *ptr, size_t len)
                               1859                 :                : {
 1571 andres@anarazel.de       1860                 :         493139 :     return fread(ptr, 1, len, fpin) == len;
                               1861                 :                : }
                               1862                 :                : 
                               1863                 :                : /*
                               1864                 :                :  * Reads in existing statistics file into memory.
                               1865                 :                :  *
                               1866                 :                :  * This function is called in the only process that is accessing the shared
                               1867                 :                :  * stats so locking is not required.
                               1868                 :                :  */
                               1869                 :                : static void
  495 michael@paquier.xyz      1870                 :            862 : pgstat_read_statsfile(void)
                               1871                 :                : {
                               1872                 :                :     FILE       *fpin;
                               1873                 :                :     int32       format_id;
                               1874                 :                :     bool        found;
   10                          1875                 :            862 :     PgStat_StatsFileOp status = STATS_READ;
 1571 andres@anarazel.de       1876                 :            862 :     const char *statfile = PGSTAT_STAT_PERMANENT_FILENAME;
                               1877                 :            862 :     PgStat_ShmemControl *shmem = pgStatLocal.shmem;
                               1878                 :                : 
                               1879                 :                :     /* shouldn't be called from postmaster */
                               1880   [ +  +  -  + ]:            862 :     Assert(IsUnderPostmaster || !IsPostmasterEnvironment);
                               1881                 :                : 
  495 michael@paquier.xyz      1882         [ +  + ]:            862 :     elog(DEBUG2, "reading stats file \"%s\"", statfile);
                               1883                 :                : 
                               1884                 :                :     /*
                               1885                 :                :      * Try to open the stats file. If it doesn't exist, the backends simply
                               1886                 :                :      * returns zero for anything and statistics simply starts from scratch
                               1887                 :                :      * with empty counters.
                               1888                 :                :      *
                               1889                 :                :      * ENOENT is a possibility if stats collection was previously disabled or
                               1890                 :                :      * has not yet written the stats file for the first time.  Any other
                               1891                 :                :      * failure condition is suspicious.
                               1892                 :                :      */
 6563 magnus@hagander.net      1893         [ +  + ]:            862 :     if ((fpin = AllocateFile(statfile, PG_BINARY_R)) == NULL)
                               1894                 :                :     {
 5979 tgl@sss.pgh.pa.us        1895         [ -  + ]:             57 :         if (errno != ENOENT)
 1571 andres@anarazel.de       1896         [ #  # ]:UBC           0 :             ereport(LOG,
                               1897                 :                :                     (errcode_for_file_access(),
                               1898                 :                :                      errmsg("could not open statistics file \"%s\": %m",
                               1899                 :                :                             statfile)));
 1563 andres@anarazel.de       1900                 :CBC          57 :         pgstat_reset_after_failure();
   10 michael@paquier.xyz      1901                 :             57 :         status = STATS_DISCARD;
                               1902                 :             57 :         goto finish;
                               1903                 :                :     }
                               1904                 :                : 
                               1905                 :                :     /*
                               1906                 :                :      * Verify it's of the expected format.
                               1907                 :                :      */
                               1908         [ -  + ]:            805 :     if (!read_chunk_s(fpin, &format_id))
                               1909                 :                :     {
  725 michael@paquier.xyz      1910         [ #  # ]:UBC           0 :         elog(WARNING, "could not read format ID");
                               1911                 :              0 :         goto error;
                               1912                 :                :     }
                               1913                 :                : 
  725 michael@paquier.xyz      1914         [ +  + ]:CBC         805 :     if (format_id != PGSTAT_FILE_FORMAT_ID)
                               1915                 :                :     {
                               1916         [ +  - ]:              1 :         elog(WARNING, "found incorrect format ID %d (expected %d)",
                               1917                 :                :              format_id, PGSTAT_FILE_FORMAT_ID);
 1571 andres@anarazel.de       1918                 :              1 :         goto error;
                               1919                 :                :     }
                               1920                 :                : 
                               1921                 :                :     /*
                               1922                 :                :      * We found an existing statistics file. Read it and put all the stats
                               1923                 :                :      * data into place.
                               1924                 :                :      */
                               1925                 :                :     for (;;)
 9164 JanWieck@Yahoo.com       1926                 :         246126 :     {
 1566 tgl@sss.pgh.pa.us        1927                 :         246930 :         int         t = fgetc(fpin);
                               1928                 :                : 
 1571 andres@anarazel.de       1929   [ +  +  +  - ]:         246930 :         switch (t)
                               1930                 :                :         {
  744 michael@paquier.xyz      1931                 :           5629 :             case PGSTAT_FILE_ENTRY_FIXED:
                               1932                 :                :                 {
                               1933                 :                :                     PgStat_Kind kind;
                               1934                 :                :                     const PgStat_KindInfo *info;
                               1935                 :                :                     char       *ptr;
                               1936                 :                : 
                               1937                 :                :                     /* entry for fixed-numbered stats */
   10                          1938         [ -  + ]:           5629 :                     if (!read_chunk_s(fpin, &kind))
                               1939                 :                :                     {
  725 michael@paquier.xyz      1940         [ #  # ]:UBC           0 :                         elog(WARNING, "could not read stats kind for entry of type %c", t);
  744                          1941                 :              0 :                         goto error;
                               1942                 :                :                     }
                               1943                 :                : 
  744 michael@paquier.xyz      1944         [ -  + ]:CBC        5629 :                     if (!pgstat_is_kind_valid(kind))
                               1945                 :                :                     {
  720 michael@paquier.xyz      1946         [ #  # ]:UBC           0 :                         elog(WARNING, "invalid stats kind %u for entry of type %c",
                               1947                 :                :                              kind, t);
  744                          1948                 :              0 :                         goto error;
                               1949                 :                :                     }
                               1950                 :                : 
  744 michael@paquier.xyz      1951                 :CBC        5629 :                     info = pgstat_get_kind_info(kind);
  688                          1952         [ -  + ]:           5629 :                     if (!info)
                               1953                 :                :                     {
  688 michael@paquier.xyz      1954         [ #  # ]:UBC           0 :                         elog(WARNING, "could not find information of kind %u for entry of type %c",
                               1955                 :                :                              kind, t);
                               1956                 :              0 :                         goto error;
                               1957                 :                :                     }
                               1958                 :                : 
  744 michael@paquier.xyz      1959         [ -  + ]:CBC        5629 :                     if (!info->fixed_amount)
                               1960                 :                :                     {
  720 michael@paquier.xyz      1961         [ #  # ]:UBC           0 :                         elog(WARNING, "invalid fixed_amount in stats kind %u for entry of type %c",
                               1962                 :                :                              kind, t);
  744                          1963                 :              0 :                         goto error;
                               1964                 :                :                     }
                               1965                 :                : 
                               1966                 :                :                     /* Load back stats into shared memory */
  720 michael@paquier.xyz      1967         [ +  + ]:CBC        5629 :                     if (pgstat_is_kind_builtin(kind))
                               1968                 :           5628 :                         ptr = ((char *) shmem) + info->shared_ctl_off +
                               1969                 :           5628 :                             info->shared_data_off;
                               1970                 :                :                     else
                               1971                 :                :                     {
                               1972                 :              1 :                         int         idx = kind - PGSTAT_KIND_CUSTOM_MIN;
                               1973                 :                : 
                               1974                 :              1 :                         ptr = ((char *) shmem->custom_data[idx]) +
                               1975                 :              1 :                             info->shared_data_off;
                               1976                 :                :                     }
                               1977                 :                : 
   10                          1978         [ -  + ]:           5629 :                     if (!read_chunk(fpin, ptr, info->shared_data_len))
                               1979                 :                :                     {
  720 michael@paquier.xyz      1980         [ #  # ]:UBC           0 :                         elog(WARNING, "could not read data of stats kind %u for entry of type %c with size %u",
                               1981                 :                :                              kind, t, info->shared_data_len);
  744                          1982                 :              0 :                         goto error;
                               1983                 :                :                     }
                               1984                 :                : 
  744 michael@paquier.xyz      1985                 :CBC        5629 :                     break;
                               1986                 :                :                 }
  752                          1987                 :         240497 :             case PGSTAT_FILE_ENTRY_HASH:
                               1988                 :                :             case PGSTAT_FILE_ENTRY_NAME:
                               1989                 :                :                 {
                               1990                 :                :                     PgStat_HashKey key;
                               1991                 :                :                     PgStatShared_HashEntry *p;
                               1992                 :                :                     PgStatShared_Common *header;
  222                          1993                 :         240497 :                     const PgStat_KindInfo *kind_info = NULL;
                               1994                 :                : 
 1571 andres@anarazel.de       1995         [ -  + ]:         240497 :                     CHECK_FOR_INTERRUPTS();
                               1996                 :                : 
  752 michael@paquier.xyz      1997         [ +  + ]:         240497 :                     if (t == PGSTAT_FILE_ENTRY_HASH)
                               1998                 :                :                     {
                               1999                 :                :                         /* normal stats entry, identified by PgStat_HashKey */
   10                          2000         [ -  + ]:         240414 :                         if (!read_chunk_s(fpin, &key))
                               2001                 :                :                         {
  725 michael@paquier.xyz      2002         [ #  # ]:UBC           0 :                             elog(WARNING, "could not read key for entry of type %c", t);
 1571 andres@anarazel.de       2003                 :              0 :                             goto error;
                               2004                 :                :                         }
                               2005                 :                : 
 1571 andres@anarazel.de       2006         [ -  + ]:CBC      240414 :                         if (!pgstat_is_kind_valid(key.kind))
                               2007                 :                :                         {
  483 peter@eisentraut.org     2008         [ #  # ]:UBC           0 :                             elog(WARNING, "invalid stats kind for entry %u/%u/%" PRIu64 " of type %c",
                               2009                 :                :                                  key.kind, key.dboid,
                               2010                 :                :                                  key.objid, t);
 1571 andres@anarazel.de       2011                 :              0 :                             goto error;
                               2012                 :                :                         }
                               2013                 :                : 
  222 michael@paquier.xyz      2014                 :CBC      240414 :                         kind_info = pgstat_get_kind_info(key.kind);
                               2015         [ -  + ]:         240414 :                         if (!kind_info)
                               2016                 :                :                         {
  457 michael@paquier.xyz      2017         [ #  # ]:UBC           0 :                             elog(WARNING, "could not find information of kind for entry %u/%u/%" PRIu64 " of type %c",
                               2018                 :                :                                  key.kind, key.dboid,
                               2019                 :                :                                  key.objid, t);
                               2020                 :              0 :                             goto error;
                               2021                 :                :                         }
                               2022                 :                :                     }
                               2023                 :                :                     else
                               2024                 :                :                     {
                               2025                 :                :                         /* stats entry identified by name on disk (e.g. slots) */
                               2026                 :                :                         PgStat_Kind kind;
                               2027                 :                :                         NameData    name;
                               2028                 :                : 
   10 michael@paquier.xyz      2029         [ -  + ]:CBC          83 :                         if (!read_chunk_s(fpin, &kind))
                               2030                 :                :                         {
  725 michael@paquier.xyz      2031         [ #  # ]:UBC           0 :                             elog(WARNING, "could not read stats kind for entry of type %c", t);
 1571 andres@anarazel.de       2032                 :              0 :                             goto error;
                               2033                 :                :                         }
   10 michael@paquier.xyz      2034         [ -  + ]:CBC          83 :                         if (!read_chunk_s(fpin, &name))
                               2035                 :                :                         {
  720 michael@paquier.xyz      2036         [ #  # ]:UBC           0 :                             elog(WARNING, "could not read name of stats kind %u for entry of type %c",
                               2037                 :                :                                  kind, t);
 1571 andres@anarazel.de       2038                 :              0 :                             goto error;
                               2039                 :                :                         }
 1571 andres@anarazel.de       2040         [ -  + ]:CBC          83 :                         if (!pgstat_is_kind_valid(kind))
                               2041                 :                :                         {
  720 michael@paquier.xyz      2042         [ #  # ]:UBC           0 :                             elog(WARNING, "invalid stats kind %u for entry of type %c",
                               2043                 :                :                                  kind, t);
 1571 andres@anarazel.de       2044                 :              0 :                             goto error;
                               2045                 :                :                         }
                               2046                 :                : 
 1571 andres@anarazel.de       2047                 :CBC          83 :                         kind_info = pgstat_get_kind_info(kind);
  688 michael@paquier.xyz      2048         [ -  + ]:             83 :                         if (!kind_info)
                               2049                 :                :                         {
  688 michael@paquier.xyz      2050         [ #  # ]:UBC           0 :                             elog(WARNING, "could not find information of kind %u for entry of type %c",
                               2051                 :                :                                  kind, t);
                               2052                 :              0 :                             goto error;
                               2053                 :                :                         }
                               2054                 :                : 
 1571 andres@anarazel.de       2055         [ -  + ]:CBC          83 :                         if (!kind_info->from_serialized_name)
                               2056                 :                :                         {
  720 michael@paquier.xyz      2057         [ #  # ]:UBC           0 :                             elog(WARNING, "invalid from_serialized_name in stats kind %u for entry of type %c",
                               2058                 :                :                                  kind, t);
 1571 andres@anarazel.de       2059                 :              0 :                             goto error;
                               2060                 :                :                         }
                               2061                 :                : 
 1571 andres@anarazel.de       2062         [ +  + ]:CBC          83 :                         if (!kind_info->from_serialized_name(&name, &key))
                               2063                 :                :                         {
                               2064                 :                :                             /* skip over data for entry we don't care about */
                               2065         [ -  + ]:              1 :                             if (fseek(fpin, pgstat_get_entry_len(kind), SEEK_CUR) != 0)
                               2066                 :                :                             {
  720 michael@paquier.xyz      2067         [ #  # ]:UBC           0 :                                 elog(WARNING, "could not seek \"%s\" of stats kind %u for entry of type %c",
                               2068                 :                :                                      NameStr(name), kind, t);
 1571 andres@anarazel.de       2069                 :              0 :                                 goto error;
                               2070                 :                :                             }
                               2071                 :                : 
 1571 andres@anarazel.de       2072                 :CBC           1 :                             continue;
                               2073                 :                :                         }
                               2074                 :                : 
                               2075         [ -  + ]:             82 :                         Assert(key.kind == kind);
                               2076                 :                :                     }
                               2077                 :                : 
                               2078                 :                :                     /*
                               2079                 :                :                      * This intentionally doesn't use pgstat_get_entry_ref() -
                               2080                 :                :                      * putting all stats into checkpointer's
                               2081                 :                :                      * pgStatEntryRefHash would be wasted effort and memory.
                               2082                 :                :                      */
                               2083                 :         240496 :                     p = dshash_find_or_insert(pgStatLocal.shared_hash, &key, &found);
                               2084                 :                : 
                               2085                 :                :                     /* don't allow duplicate entries */
                               2086         [ -  + ]:         240496 :                     if (found)
                               2087                 :                :                     {
 1571 andres@anarazel.de       2088                 :UBC           0 :                         dshash_release_lock(pgStatLocal.shared_hash, p);
  483 peter@eisentraut.org     2089         [ #  # ]:              0 :                         elog(WARNING, "found duplicate stats entry %u/%u/%" PRIu64 " of type %c",
                               2090                 :                :                              key.kind, key.dboid,
                               2091                 :                :                              key.objid, t);
 1571 andres@anarazel.de       2092                 :              0 :                         goto error;
                               2093                 :                :                     }
                               2094                 :                : 
 1571 andres@anarazel.de       2095                 :CBC      240496 :                     header = pgstat_init_entry(key.kind, p);
                               2096                 :         240496 :                     dshash_release_lock(pgStatLocal.shared_hash, p);
  320 michael@paquier.xyz      2097         [ -  + ]:         240496 :                     if (header == NULL)
                               2098                 :                :                     {
                               2099                 :                :                         /*
                               2100                 :                :                          * It would be tempting to switch this ERROR to a
                               2101                 :                :                          * WARNING, but it would mean that all the statistics
                               2102                 :                :                          * are discarded when the environment fails on OOM.
                               2103                 :                :                          */
  320 michael@paquier.xyz      2104         [ #  # ]:UBC           0 :                         elog(ERROR, "could not allocate entry %u/%u/%" PRIu64 " of type %c",
                               2105                 :                :                              key.kind, key.dboid,
                               2106                 :                :                              key.objid, t);
                               2107                 :                :                     }
                               2108                 :                : 
   10 michael@paquier.xyz      2109         [ -  + ]:CBC      240496 :                     if (!read_chunk(fpin,
                               2110                 :                :                                     pgstat_get_entry_data(key.kind, header),
                               2111                 :                :                                     pgstat_get_entry_len(key.kind)))
                               2112                 :                :                     {
  483 peter@eisentraut.org     2113         [ #  # ]:UBC           0 :                         elog(WARNING, "could not read data for entry %u/%u/%" PRIu64 " of type %c",
                               2114                 :                :                              key.kind, key.dboid,
                               2115                 :                :                              key.objid, t);
 1571 andres@anarazel.de       2116                 :              0 :                         goto error;
                               2117                 :                :                     }
                               2118                 :                : 
                               2119                 :                :                     /* read more data for the entry, if required */
  222 michael@paquier.xyz      2120         [ +  + ]:CBC      240496 :                     if (kind_info->from_serialized_data)
                               2121                 :                :                     {
                               2122         [ -  + ]:              2 :                         if (!kind_info->from_serialized_data(&key, header, fpin))
                               2123                 :                :                         {
  222 michael@paquier.xyz      2124         [ #  # ]:UBC           0 :                             elog(WARNING, "could not read auxiliary data for entry %u/%u/%" PRIu64 " of type %c",
                               2125                 :                :                                  key.kind, key.dboid,
                               2126                 :                :                                  key.objid, t);
                               2127                 :              0 :                             goto error;
                               2128                 :                :                         }
                               2129                 :                :                     }
                               2130                 :                : 
 1607 akapila@postgresql.o     2131                 :CBC      240496 :                     break;
                               2132                 :                :                 }
  752 michael@paquier.xyz      2133                 :            804 :             case PGSTAT_FILE_ENTRY_END:
                               2134                 :                : 
                               2135                 :                :                 /*
                               2136                 :                :                  * check that PGSTAT_FILE_ENTRY_END actually signals end of
                               2137                 :                :                  * file
                               2138                 :                :                  */
 1561 andres@anarazel.de       2139         [ +  + ]:            804 :                 if (fgetc(fpin) != EOF)
                               2140                 :                :                 {
  725 michael@paquier.xyz      2141         [ +  - ]:              1 :                     elog(WARNING, "could not read end-of-file");
 1561 andres@anarazel.de       2142                 :              1 :                     goto error;
                               2143                 :                :                 }
                               2144                 :                : 
 4905 alvherre@alvh.no-ip.     2145                 :            803 :                 goto done;
                               2146                 :                : 
 4905 alvherre@alvh.no-ip.     2147                 :UBC           0 :             default:
  725 michael@paquier.xyz      2148         [ #  # ]:              0 :                 elog(WARNING, "could not read entry of type %c", t);
 1571 andres@anarazel.de       2149                 :              0 :                 goto error;
                               2150                 :                :         }
                               2151                 :                :     }
                               2152                 :                : 
 4905 alvherre@alvh.no-ip.     2153                 :CBC         805 : done:
                               2154                 :                :     /* First, cleanup the main stats file */
                               2155                 :            805 :     FreeFile(fpin);
                               2156                 :                : 
 1571 andres@anarazel.de       2157         [ +  + ]:            805 :     elog(DEBUG2, "removing permanent stats file \"%s\"", statfile);
                               2158                 :            805 :     unlink(statfile);
                               2159                 :                : 
   10 michael@paquier.xyz      2160                 :            862 : finish:
                               2161                 :                :     /* Finish callbacks, if required */
  222                          2162         [ +  + ]:          28446 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                               2163                 :                :     {
                               2164                 :          27584 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               2165                 :                : 
                               2166   [ +  +  +  + ]:          27584 :         if (kind_info && kind_info->finish)
   10                          2167                 :              2 :             kind_info->finish(status);
                               2168                 :                :     }
                               2169                 :                : 
 1571 andres@anarazel.de       2170                 :            862 :     return;
                               2171                 :                : 
                               2172                 :              2 : error:
                               2173         [ +  - ]:              2 :     ereport(LOG,
                               2174                 :                :             (errmsg("corrupted statistics file \"%s\"", statfile)));
                               2175                 :                : 
 1563                          2176                 :              2 :     pgstat_reset_after_failure();
   10 michael@paquier.xyz      2177                 :              2 :     status = STATS_DISCARD;
                               2178                 :                : 
 1571 andres@anarazel.de       2179                 :              2 :     goto done;
                               2180                 :                : }
                               2181                 :                : 
                               2182                 :                : /*
                               2183                 :                :  * Helper to reset / drop stats after a crash or after restoring stats from
                               2184                 :                :  * disk failed, potentially after already loading parts.
                               2185                 :                :  */
                               2186                 :                : static void
 1563                          2187                 :            253 : pgstat_reset_after_failure(void)
                               2188                 :                : {
                               2189                 :            253 :     TimestampTz ts = GetCurrentTimestamp();
                               2190                 :                : 
                               2191                 :                :     /* reset fixed-numbered stats */
  720 michael@paquier.xyz      2192         [ +  + ]:           8349 :     for (PgStat_Kind kind = PGSTAT_KIND_MIN; kind <= PGSTAT_KIND_MAX; kind++)
                               2193                 :                :     {
 1571 andres@anarazel.de       2194                 :           8096 :         const PgStat_KindInfo *kind_info = pgstat_get_kind_info(kind);
                               2195                 :                : 
  720 michael@paquier.xyz      2196   [ +  +  +  + ]:           8096 :         if (!kind_info || !kind_info->fixed_amount)
 1571 andres@anarazel.de       2197                 :           6324 :             continue;
                               2198                 :                : 
                               2199                 :           1772 :         kind_info->reset_all_cb(ts);
                               2200                 :                :     }
                               2201                 :                : 
                               2202                 :                :     /* and drop variable-numbered ones */
                               2203                 :            253 :     pgstat_drop_all_entries();
 1698 akapila@postgresql.o     2204                 :            253 : }
                               2205                 :                : 
                               2206                 :                : /*
                               2207                 :                :  * GUC assign_hook for stats_fetch_consistency.
                               2208                 :                :  */
                               2209                 :                : void
 1172 michael@paquier.xyz      2210                 :           2050 : assign_stats_fetch_consistency(int newval, void *extra)
                               2211                 :                : {
                               2212                 :                :     /*
                               2213                 :                :      * Changing this value in a transaction may cause snapshot state
                               2214                 :                :      * inconsistencies, so force a clear of the current snapshot on the next
                               2215                 :                :      * snapshot build attempt.
                               2216                 :                :      */
                               2217         [ +  + ]:           2050 :     if (pgstat_fetch_consistency != newval)
                               2218                 :            677 :         force_stats_snapshot_clear = true;
                               2219                 :           2050 : }
        

Generated by: LCOV version 2.0-1