Académique Documents
Professionnel Documents
Culture Documents
21.06
Dalibo SCOP
https://dalibo.com/formations
Formation DEVSQLPG
TITRE : SQL pour PostgreSQL
SOUS-TITRE : Formation DEVSQLPG
REVISION: 21.06
DATE: 30 juin 2021
ISBN: -----------------
COPYRIGHT: © 2005-2021 DALIBO SARL SCOP
LICENCE: Creative Commons BY-NC-SA
Postgres®, PostgreSQL® and the Slonik Logo are trademarks or registered trademarks
of the PostgreSQL Community Association of Canada, and used with their permission.
(Les noms PostgreSQL® et Postgres®, et le logo Slonik sont des marques déposées par
PostgreSQL Community Association of Canada.
Voir https://www.postgresql.org/about/policies/trademarks/ )
Dalibo ne peut retirer les autorisations concédées par la licence tant que vous appliquez
les termes de cette licence selon les conditions suivantes :
Attribution : Vous devez créditer l’œuvre, intégrer un lien vers la licence et indiquer si des
modifications ont été effectuées à l’œuvre. Vous devez indiquer ces informations par tous
les moyens raisonnables, sans toutefois suggérer que Dalibo vous soutient ou soutient la
façon dont vous avez utilisé ce document.
Pas d’Utilisation Commerciale : Vous n’êtes pas autorisé à faire un usage commercial de ce
document, tout ou partie du matériel le composant.
Partage dans les Mêmes Conditions : Dans le cas où vous effectuez un remix, que vous
transformez, ou créez à partir du matériel composant le document original, vous devez
diffuser le document modifié dans les même conditions, c’est à dire avec la même licence
avec laquelle le document original a été diffusé.
Pas de restrictions complémentaires : Vous n’êtes pas autorisé à appliquer des conditions
légales ou des mesures techniques qui restreindraient légalement autrui à utiliser le doc-
ument dans les conditions décrites par la licence.
Note : Ceci est un résumé de la licence. Le texte complet est disponible ici :
https://creativecommons.org/licenses/by-nc-sa/2.0/fr/legalcode
Pour toute demande au sujet des conditions d’utilisation de ce document, envoyez vos
questions à contact@dalibo.com !
Chers lectrices & lecteurs,
Au-delà du contenu technique en lui-même, notre intention est de transmettre les valeurs
qui animent et unissent les développeurs de PostgreSQL depuis toujours : partage, ou-
verture, transparence, créativité, dynamisme... Le but premier de nos formations est de
vous aider à mieux exploiter toute la puissance de PostgreSQL mais nous espérons égale-
ment qu’elles vous inciteront à devenir un membre actif de la communauté en partageant
à votre tour le savoir-faire que vous aurez acquis avec nous.
Nous mettons un point d’honneur à maintenir nos manuels à jour, avec des informations
précises et des exemples détaillés. Toutefois malgré nos efforts et nos multiples relec-
tures, il est probable que ce document contienne des oublis, des coquilles, des impréci-
sions ou des erreurs. Si vous constatez un souci, n’hésitez pas à le signaler via l’adresse
formation@dalibo.com !
Table des Matières
10
Table des Matières
14 Partitionnement 604
14.1 Principe & intérêts du partitionnement . . . . . . . . . . . . . . . . . . 604
14.2 Partitionnement applicatif . . . . . . . . . . . . . . . . . . . . . . . . . 605
14.3 Historique du partitionnement sur PostgreSQL . . . . . . . . . . . . . . 605
14.4 Partitionnement par héritage . . . . . . . . . . . . . . . . . . . . . . . . 606
14.5 Partitionnement déclaratif . . . . . . . . . . . . . . . . . . . . . . . . . 610
14.6 Extensions & outils . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 623
14.7 Travaux pratiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 624
14.8 Travaux pratiques (solutions) . . . . . . . . . . . . . . . . . . . . . . . . 627
12
Table des Matières
17 Pooling 672
17.1 Au menu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 673
17.2 Pool de connexion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 673
17.3 Pooling de sessions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 678
17.4 Pooling de transactions . . . . . . . . . . . . . . . . . . . . . . . . . . . 680
17.5 Pooling de requêtes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 682
17.6 Pooling avec PgBouncer . . . . . . . . . . . . . . . . . . . . . . . . . . . 684
17.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 696
17.8 Travaux pratiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 697
17.9 Travaux pratiques (solutions) . . . . . . . . . . . . . . . . . . . . . . . . 699
13
https://dalibo.com/formations
SQL pour PostgreSQL
14
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.1 PRÉAMBULE
• Quelle histoire !
– parmi les plus vieux logiciels libres
– et les plus sophistiqués
• Souvent cité comme exemple
– qualité du code
– indépendance des développeurs
– réactivité de la communauté
L’histoire de PostgreSQL est longue, riche et passionnante. Au côté des projets libres
Apache et Linux, PostgreSQL est l’un des plus vieux logiciels libres en activité et fait partie
des SGBD les plus sophistiqués à l’heure actuelle.
Au sein des différentes communautés libres, PostgreSQL est souvent cité comme exemple
à différents niveaux :
• qualité du code ;
• indépendance des développeurs et gouvernance du projet ;
• réactivité de la communauté ;
• stabilité et puissance du logiciel.
Tous ces atouts font que PostgreSQL est désormais reconnu et adopté par des milliers de
grandes sociétés de par le monde.
1.1.1 AU MENU
Cette première partie est un tour d’horizon pour découvrir les multiples facettes du sys-
tème de gestion de base de données libre PostgreSQL.
Les deux premières parties expliquent la genèse du projet et détaillent les différences
entres les versions successives du logiciel. PostgreSQL est un des plus vieux logiciels
open source ! Comprendre son histoire permet de mieux réaliser le chemin parcouru et
les raisons de son succès.
15
https://dalibo.com/formations
SQL pour PostgreSQL
Nous verrons ensuite quelques projets satellites et nous listerons quelques utilisateurs
renommés et cas d’utilisations remarquables.
• La licence
• L’origine du nom
• Les origines du projet
• Les principes
1.2.1 LICENCE
• Licence PostgreSQL
– BSD / MIT
– https://www.postgresql.org/about/licence/
• Droit, sans coûts de licence, de :
– utiliser, copier, modifier, distribuer, revendre
• Reconnue par l’Open Source Initiative
– https://opensource.org/licenses/PostgreSQL
• Utilisée par un grand nombre de projets de l’écosystème
PostgreSQL est distribué sous une licence spécifique, combinant la licence BSD et la li-
cence MIT. Cette licence spécifique est reconnue comme une licence libre par l’Open
Source Initiative.
Cette licence a ensuite été reprise par de nombreux projets de la communauté : pgAdmin,
pgCluu, pgstat, etc.
16
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
En 1995, avec l’ajout du support du langage SQL, Postgres fut renommé Postgres95 puis
PostgreSQL.
Aujourd’hui, le nom officiel est « PostgreSQL » (prononcé « post - gresse - Q - L »). Cepen-
dant, le nom « Postgres » est accepté comme alias.
Pour aller plus loin :
• Fil de discussion sur les listes de discussiona ;
• Article sur le wiki officielb .
Depuis son origine, PostgreSQL a toujours privilégié la stabilité et le respect des standards
plutôt que les performances.
Ceci explique en partie la réputation de relative lenteur et de complexité face aux autres
SGBD du marché. Cette image est désormais totalement obsolète, notamment grâce aux
avancées réalisées depuis les versions 8.x.
La sécurité des données est un point essentiel. Un utilisateur doit être certain qu’à partir
du moment où il a exécuté l’odre COMMIT d’une transaction, les données modifiées rela-
tives à cette transaction se trouvent bien sur disque et que même un crash ne pourra pas
a
https://archives.postgresql.org/pgsql-advocacy/2007-11/msg00109.php
b
https://wiki.postgresql.org/wiki/Postgres
17
https://dalibo.com/formations
SQL pour PostgreSQL
les faire disparaître. PostgreSQL est très attaché à ce concept et fait son possible pour
forcer le système d’exploitation à ne pas conserver les données en cache, mais à les écrire
sur disque dès l’arrivée d’un COMMIT.
Le respect des normes est un autre principe très respecté. Les devéloppeurs de Post-
greSQL cherchent à coller à la norme SQL le plus possible. PostgreSQL n’est pas com-
patible à cette norme à 100%, aucun moteur ne l’est, mais il cherche à s’en approcher.
Tout nouvel ajout d’une syntaxe ne sera accepté que si la syntaxe de la norme est ajoutée.
Des extensions sont acceptées pour différentes raisons (performances, fonctionnalités
en avance sur le comité de la norme, facilité de transition d’un moteur de bases de don-
nées à un autre) mais si une fonctionnalité existe dans la norme, une syntaxe différente
ne peut être acceptée que si la syntaxe de la norme est elle-aussi présente.
Ajouter des fonctionnalités est évidemment l’un des buts des développeurs de Post-
greSQL. Cependant, comme il s’agit d’un projet libre, rien n’empêche un développeur de
proposer une fonctionnalité, de la faire intégrer, puis de disparaître laissant aux autres
la responsabilité de la corriger le cas échéant. Comme le nombre de développeurs de
PostgreSQL est restreint, il est important que les fonctionnalités ajoutées soient vraiment
utile au plus grand nombre pour justifier le coût potentiel du débogage. Donc ne sont
ajoutées dans PostgreSQL que ce qui est vraiment le coeur du moteur de bases de
données et que ce qui sera utilisé vraiment par le plus grand nombre. Une fonctionnalité
qui ne sert que une à deux personnes aura très peu de chances d’être intégrée.
Les performances ne viennent qu’après tout ça. En effet, rien ne sert d’avoir une modifi-
cation du code qui permet de gagner énormément en performances si cela met en péril
le stockage des données.
La simplicité du code est un point important. Le code est relu scrupuleusement par dif-
férents contributeurs pour s’assurer qu’il est facile à lire et à comprendre. En effet, cela
facilitera le débogage plus tard si cela devient nécessaire.
Enfin, la documentation est là-aussi un point essentiel dans l’admission d’une nouvelle
fonctionnalité. En effet, sans documentation, peu de personnes pourront connaître cette
fonctionnalité. Très peu sauront exactement ce qu’elle est supposée faire, et il serait
donc très difficile de déduire si un problème particulier est un manque actuel de cette
fonctionnalité ou un bug.
Tous ces points sont vérifiés à chaque relecture d’un patch (nouvelle fonctionnalité ou
correction).
18
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.2.4 ORIGINES
En 2000 apparaît la communauté japonaise. Elle dispose d’un grand groupe, capable de
réaliser des conférences chaque année, d’éditer des livres et des magazines. Elle compte
au dernier recensement connu, plus de 3000 membres.
En 2004 naît l’association française (loi 1901) appelée PostgreSQL Fr. Cette associa-
tion a pour but de fournir un cadre légal pour pouvoir participer à certains événements
a
https://www.postgresql.org/docs/current/static/history.html
19
https://dalibo.com/formations
SQL pour PostgreSQL
comme Solutions Linux, les RMLL ou d’en organiser comme le pgDay.fr (qui a déjà eu lieu
à Toulouse, Nantes, Lyon, Toulon, Marseille). Elle permet aussi de récolter des fonds pour
aider à la promotion de PostgreSQL.
En 2006, le PGDG intègre Software in the Public Interest, Inc. (SPI)1 , une organisation à
but non lucratif chargée de collecter et redistribuer des financements. Elle a été créée à
l’initiative de Debian et dispose aussi de membres comme LibreOffice.org.
En 2008, douze ans après la création du projet, des associations d’utilisateurs apparais-
sent pour soutenir, promouvoir et développer PostgreSQL à l’échelle internationale. Post-
greSQL UK organise une journée de conférences à Londres, PostgreSQL Fr en organise
une à Toulouse. Des « sur-groupes » apparaissent aussi pour aider les groupes. PGUS
apparaît pour consolider les différents groupes américains d’utilisateurs PostgreSQL. Ces
derniers étaient plutôt créés géographiquement, par état ou grosse ville. De même, en
Europe, est fondée PostgreSQL Europe, une association chargée d’aider les utilisateurs
de PostgreSQL souhaitant mettre en place des événements. Son principal travail est
l’organisation d’un événement majeur en Europe tous les ans : pgconf.eu2 , d’abord à
Paris en 2009, puis dans divers pays d’Europe jusque Milan en 2019. Cependant, elle
aide aussi les communautés allemande, française et suédoise à monter leur propre événé-
ment (respectivement pgconf.de3 , pgday.paris4 et nordic pgday5 ).
Dès 2010, nous dénombrons plus d’une conférence par mois consacrée uniquement à
PostgreSQL dans le monde. Ce mouvement n’est pas prêt de s’arrêter :
• Communauté japonaise6 ;
• Communauté francophone7 ;
• Communauté italienne8 ;
• Communauté européenne9 ;
• Communauté US10 .
En 2011, l’association Postgres Community Association of Canada voit le jour11 . Elle est
créée par quelques membres de la Core Team pour gérer le nom déposé PostgreSQL, le
logo, le nom de domaine sur Internet, etc.
1
https://fr.wikipedia.org/wiki/Software_in_the_Public_Interest
2
https://pgconf.eu
3
https://pgconf.de
4
https://pgday.paris
5
https://nordicpgday.org
6
https://www.postgresql.jp/
7
https://www.postgresql.fr/
8
https://www.itpug.org/
9
https://www.postgresql.eu/
10
https://www.postgresql.us/
11
https://www.postgresql.org/message-id/4DC440BE.5040104%40agliodbs.com%3E
20
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
On note une augmentation constante depuis 2000 avec une croissance régulière
d’environ 25 000 lignes de code C par an. Le plus intéressant est certainement de noter
que l’évolution est constante. Il n’y a pas de gros pic, ni dans un sens, ni dans l’autre.
L’autre point intéressant dans ce graphe concerne le ratio entre le nombre de lignes de
code (en bleu) et celui des commentaires (en gris). Il y a à peu près un tiers de commen-
taires pour deux tiers de lignes de code. Ce ratio montre que le code est très commenté,
très documenté. Ceci fait qu’il est facile à lire, et donc pratique à déboguer. Et le ratio ne
change pas au fil des ans.
Actuellement, PostgreSQL est composé d’1,4 million de lignes de code (dont un quart de
commentaires), essentiellement en C, pour environ 200 développeurs actifs, et entre 100
et 200 commits par mois.
12
https://www.postgresql.org/community/recognition/
13
https://www.openhub.net/p/postgres
21
https://dalibo.com/formations
SQL pour PostgreSQL
• Versions obsolètes
– 9.5 et antérieures
• Versions actuelles pour production
– 9.6, 10 à 13
• Version en cours de développement
– 14
• Versions dérivées
1.3.1 HISTORIQUE
14
https://en.wikipedia.org/wiki/PostgreSQL
15
https://www.postgresql.org/support/versioning/
22
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.3.2 HISTORIQUE
La version 7.4 est la première version réellement stable. La gestion des journaux de trans-
actions a été nettement améliorée, et de nombreuses optimisations ont été apportées au
moteur.
La version 8.0 marque l’entrée tant attendue de PostgreSQL dans le marché des SGDB
de haut niveau, en apportant des fonctionnalités telles que les tablespaces, les routines
stockées en Java, le Point In Time Recovery, ainsi qu’une version native pour Windows.
La version 8.3 se focalise sur les performances et les nouvelles fonctionnalités. C’est aussi
la version qui a causé un changement important dans l’organisation du développement :
gestion des commitfests, création de l’outil web commitfest, etc.
Les versions 9.x sont axées réplication physique. La 9.0 intègre un système de réplication
asynchrone asymétrique. La version 9.1 ajoute une réplication synchrone et améliore de
nombreux points sur la réplication (notamment pour la partie administration et supervi-
sion). La version 9.2 apporte la réplication en cascade. La 9.3 et la 9.4 ajoutent quelques
améliorations supplémentaires. La version 9.4 intègre surtout les premières briques pour
l’intégration de la réplication logique dans PostgreSQL. La version 9.6 apporte la paralléli-
sation, ce qui était attendu par de nombreux utilisateurs.
Les améliorations des versions 11 à 13 sont plus incrémentales, et portent sur tous les
plans. Le partitionnement déclaratif est progressivement amélioré, en performances
comme en facilité de développement. Les performances s’améliorent encore grâce
à la compilation Just In Time, la parallélisation de plus en plus d’opérations, les index
couvrants, l’affinement des statistiques. La facilité d’administration s’améliore : nouvelles
vues système, outillage de réplication, activation des sommes de contrôle sur une
instance existante.
23
https://dalibo.com/formations
SQL pour PostgreSQL
Il est toujours possible de télécharger les sources depuis la version 1.0 jusqu’à la version
courante sur postgresql.org16 .
1.3.3 NUMÉROTATION
• Avant la version 10
– X.Y : version majeure (8.4, 9.6)
– X.Y.Z : version mineure (9.6.19)
• Après la version 10
– X : version majeure (10, 11, 12, 13)
– X.Y : version mineure (12.4)
• Mise à jour en général sans souci
– Release notes
– Tests
– Redémarrage
Une version mineure ne comporte que des corrections de bugs ou de failles de sécurité.
Les publications de versions mineures sont plus fréquentes que celles de versions ma-
jeures, avec un rythme de sortie trimestriel, sauf bug majeur ou faille de sécurité. Chaque
bug est corrigé dans toutes les versions stables actuellement maintenues par le projet.
En général, les mises à jour se font sans soucis et ne nécessitent qu’un redémarrage. Mais
comme pour toute mise à jour, il convient d’être prudent sur d’éventuels effets de bord.
En particulier, il faudra lire les Release Notes et, si possible, effectuer les tests ailleurs qu’en
production.
16
https://www.postgresql.org/ftp/source/
24
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Toutefois, même si cette philosophie reste très présente parmi les développeurs, les
choses évoluent depuis quelques années, et en pratique une version stable majeure
paraît tous les ans, habituellement à l’automne. Pour ne pas sacrifier la qualité des
versions, toute fonctionnalité supposée insuffisamment stable est repoussée à la version
suivante.
La tendance actuelle est de garantir un support pour chaque version courante pendant
une durée minimale de 5 ans. Ainsi ne sont plus supportées : la 9.3 depuis novembre
2018, la 9.4 depuis février 2020, la 9.5 depuis février 2021. La prochaine version qui
subira ce sort est la 9.6 en novembre 2021. Le support de la version 13 devrait durer
jusqu’en 2025.
Pour plus de détails :
• Politique de versionnementa ;
• Roadmap des versions mineuresb .
a
https://www.postgresql.org/support/versioning/
b
https://www.postgresql.org/developer/roadmap/
25
https://dalibo.com/formations
SQL pour PostgreSQL
26
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.3.7 VERSION 10
a
https://wiki.postgresql.org/wiki/NewIn96
b
https://github.com/dalibo/workshops/tree/master/fr
a
https://wiki.postgresql.org/wiki/New_in_postgres_10
b
https://dali.bo/workshop10_pdf
27
https://dalibo.com/formations
SQL pour PostgreSQL
1.3.8 VERSION 11
1.3.9 VERSION 12
a
https://dali.bo/workshop11_pdf
a
https://dali.bo/workshop12_pdf
28
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.3.10 VERSION 13
La version 13 est sortie le 24 septembre 2020. Elle est remplie de nombreuses petites
améliorations sur différents domaines : partitionnement déclaratif, autovacuum, sauveg-
arde, etc. Les performances sont aussi améliorées grâce à un gros travail sur l’optimiseur,
ou la réduction notable de la taille de certains index.
Pour plus de détails, voir notre workshop sur la version 13a .
• Versions 7.x :
– fondations
– durabilité
• Versions 8.x :
– fonctionnalités
– performances
• Versions 9.x :
– réplication physique
– extensibilité
• Versions 10 à 13 :
– réplication logique
– parallélisation
– performances & administration
a
https://dali.bo/workshop13_pdf
29
https://dalibo.com/formations
SQL pour PostgreSQL
Si nous essayons de voir cela avec de grosses mailles, les développements des versions 7
ciblaient les fondations d’un moteur de bases de données stable et durable. Ceux des ver-
sions 8 avaient pour but de rattraper les gros acteurs du marché en fonctionnalités et en
performances. Enfin, pour les versions 9, on est plutôt sur la réplication et l’extensibilité.
• 9.5 et inférieures
– Danger !
• 9.6 :
– planifier une migration urgemment !
• 10, 11 et 12
– mise à jour uniquement
• 13
– nouvelles installations et nouveaux développements
Si vous avez une version 9.5 ou inférieure, planifiez le plus rapidement possible une mi-
gration vers une version plus récente, comme la 10 ou la 11. La 9.5 n’est plus maintenue
depuis février 2021. Si vous utilisez cette version ou une version antérieure, il serait bon
de commencer à étudier une migration de version dès que possible.
Toute version 9.6 devrait faire l’objet d’une mise à jour majeure le plus rapidement possi-
ble.
Pour les versions 10, 11 et 12, le plus important est d’appliquer les mises à jour correc-
tives.
La version 13 est officiellement stable depuis plusieurs mois. Cette version est celle con-
seillée pour les nouvelles installations en production.
Par expérience, quand une version x.0 paraît à l’automne, elle est généralement stable.
Nombre de DBA préfèrent prudemment attendre les premières mises à jour mineures
pour la mise en production.
Pour plus de détails, voir le tableau comparatif des versionsa .
a
https://www.postgresql.org/about/featurematrix
30
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• Compatibilité Oracle :
– EnterpriseDB
• Data warehouse :
– Greenplum
– Netezza
– Amazon RedShift, Aurora
• Versions spécialisées :
– BDR (multi-maître, fermé)
• Packages avec des outils & support
Des exemples connus sont Greenplum, de Pivotal, ou Netezza, d’IBM, dédiés aux en-
trepôts de données, dérivés d’anciennes versions de PostgreSQL. Greenplum fait l’effort
de se raccrocher au PostgreSQL communautaire toutes les quelques années, ce n’est pas
le cas de Netezza.
Des versions existent qui tentent de combler certains manques. EDB Postgres Advanced
Server d’EnterpriseDB permet de faciliter la migration depuis Oracle (mais est soumis à
licence). BDR, de 2nd Quadrant, est un fork visant à fournir une version multimaître de
PostgreSQL, mais le code a été refermé dans les dernières versions. La société russe
Postgres Pro, tout comme EnterpriseDB, proposent diverses fonctionnalités dans leurs
versions propres, tout en proposant souvent leur inclusion dans la version communautaire
— ce qui n’est pas automatique.
Il existe une liste exhaustive des « forks »a , ainsi que cette conférence de Josh Berkusb
de 2009.
Sauf cas très précis, il est recommandé d’utiliser la version officielle, libre et gratuite.
a
https://wiki.postgresql.org/wiki/PostgreSQL_derived_databases
b
https://www.slideshare.net/pgconf/elephant-roads-a-tour-of-postgres-forks
31
https://dalibo.com/formations
SQL pour PostgreSQL
Voici un schéma des différentes versions de PostgreSQL ainsi que des versions dérivées.
Cela montre principalement l’arrivée annuelle d’une nouvelle version majeure, ainsi que
de la faible résistance des versions dérivées. La majorité n’a pas survécu à la vitalité du
développement de PostgreSQL.
En conséquence, les éditeurs ont plus tendance de nos jours à publier des extensions à
PostgreSQL (parfois payantes selon la version) plutôt que de procéder à des forks difficile-
ment maintenables (citus, timescaledb...).
• Administration
• Sauvegarde
• Supervision
• Migration
• SIG
PostgreSQL n’est qu’un moteur de bases de données. Quand vous l’installez, vous n’avez
32
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
que ce moteur. Vous disposez de quelques outils en ligne de commande (détaillés dans
nos modules « Outils graphiques et consoles » et « Tâches courantes ») mais aucun outil
graphique n’est fourni.
Par choix, nous ne présenterons ici que des logiciels libres et gratuits. Pour chaque problé-
matique, il existe aussi des solutions propriétaires. Ces solutions peuvent parfois apporter
des fonctionnalités inédites. Il faut néanmoins considérer que l’offre de la communauté
Open-Source répond à la plupart des besoins des utilisateurs de PostgreSQL.
Entre autres :
• Administration :
– pgAdmin4, temBoard
– OmniDB
• Développement :
– DBeaver
• Modélisation :
– pgModeler
pgAdmin418 est un outil d’administration dédié à PostgreSQL, qui permet aussi de re-
quêter. (La version 3 est considérée comme périmée.)
33
https://dalibo.com/formations
SQL pour PostgreSQL
1.6.2 SAUVEGARDES
• Export logique :
– pg_backa
• Sauvegarde physique (PITR) :
– pitreryb , barmanc , pgBackRestd
Les outils listés ci-dessus sont les outils principaux pour la réalisation des sauvegardes et
la gestion de leur rétention. Certains permettent aussi la restauration. Ils se basent sur
les outils standards de PostgreSQL de sauvegarde physique ou logique.
1.6.3 SUPERVISION
• pgBadger
• PoWA
• check_pgactivity
Ce ne sont que trois outils parmi les très nombreux outils disponibles.
pgBadger22 est l’outil de base à avoir pour les analyses (à posteriori) des traces de Post-
greSQL.
PoWA23 est composé d’une extension qui historise les statistiques récupérées par
l’extension pg_stat_statements et d’une application web qui permet de récupérer les
requêtes et leur statistiques facilement.
check_pgactivity24 est une sonde Nagios pouvant récupérer un grand nombre de statis-
tiques d’activités renseignées par PostgreSQL. Il faut de ce fait un serveur Nagios (ou un
de ses nombreux forks ou surcharges) pour gérer les alertes et les graphes.
a
https://github.com/orgrim/pg_back/releases
b
https://dalibo.github.io/pitrery/
c
https://www.pgbarman.org
d
https://pgbackrest.org/
22
https://pgbadger.darold.net
23
https://powa.readthedocs.io/
24
https://github.com/OPMDG/check_pgactivity
34
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.6.4 MIGRATION
Il existe de nombreux outils pour migrer vers PostgreSQL une base de données utilisant un
autre moteur. Ce qui pose le plus problème en pratique est le code applicatif (procédures
stockées).
Ora2Pg25 , de Gilles Darold, convertit le schéma de données, migre les données, et tente
même de convertir le code PL/SQL en PL/pgSQL. Il convertit aussi des bases MySQL.
db2topg27 génère les scripts de conversion et de migration depuis une base DB2 UDB
(mais pas zOS).
Ces outils sont libres. Des sociétés vivant de la prestation de service autour de la migra-
tion ont également souvent développé les leurs.
25
http://ora2pg.darold.net/
26
https://github.com/dalibo/sqlserver2pgsql
27
https://github.com/dalibo/db2topg
28
https://pgloader.io/
35
https://dalibo.com/formations
SQL pour PostgreSQL
• https://postgis.net/
• Licence : BSD
• Module spatial pour PostgreSQL
• Conforme aux spécifications de l’OpenGIS Consortium
PostGIS a été développé par la société Refractions Research comme une technologie
Open-Source de base de données spatiale. Cette société continue à développer PostGIS,
soutenue par une communauté active de contributeurs.
La version 2.0 apporte de nombreuses nouveautés attendues par les utilisateurs comme
le support des fonctionnalités raster et les surfaces tridimensionnelles.
36
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• Sponsors
• Références :
– françaises
– et internationales
Au-delà de ses qualités, PostgreSQL suscite toujours les mêmes questions récurrentes :
1.7.1 SPONSORS
EnterpriseDB est une société américaine qui a décidé de fournir une version de Post-
greSQL propriétaire fournissant une couche de compatibilité avec Oracle. Ils emploient
plusieurs codeurs importants du projet PostgreSQL (dont deux font partie de la Core Team),
et reversent un certain nombre de leurs travaux au sein du moteur communautaire. Ils ont
aussi un poids financier qui leur permet de sponsoriser la majorité des grands événements
autour de PostgreSQL : PGEast et PGWest aux États-Unis, PGDay en Europe.
29
https://www.postgresql.org/about/sponsors/
37
https://dalibo.com/formations
SQL pour PostgreSQL
EnterpriseDB vient de racheter 2nd Quadrant, une société anglaise fondée par Simon
Riggs, développeur PostgreSQL de longue date. 2nd Quadrant développe de nombreux
outils autour de PostgreSQL comme pglogical, des versions dérivées comme Postgres-XL
ou BDR, dont le code se retrouve souvent dans la version communautaire après matura-
tion, ou des outils annexes comme barman ou repmgr.
Des sociétés comme Citusdata et Pivotal proposent ou ont proposé leur version dérivée
mais « jouent le jeu » et participent au développement de la version communautaire, no-
tamment en cherchant à ce que leur produit n’en diverge pas.
Ont également contribué à PostgreSQL nombre de sociétés non centrées autour des
bases de données.
Entre 2006 et 2016, le système d’exploitation Unix Solaris 10 de Sun embarquait Post-
greSQL dans sa distribution de base, comme base de données de référence. Cela a pris
fin avec le rachat par Oracle, sans que cela ait représenté un danger pour PostgreSQL.
38
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Red Hat a longtemps employé Tom Lane à plein temps pour travailler sur PostgreSQL. Il
a pu dédier une très grande partie de son temps de travail à ce projet, bien qu’il ait eu
d’autres affectations au sein de Red Hat. Tom Lane a travaillé également chez SalesForce,
ensuite il a rejoint Crunchy Data Solutions fin 2015.
Skype a offert un certain nombre d’outils très intéressants : pgBouncer (pooler de connex-
ion), Londiste (réplication par trigger), etc. Ce sont des outils utilisés en interne et publiés
sous licence BSD comme retour à la communauté. Le rachat par Microsoft n’a pas affecté
le développement de ces outils.
Des sociétés liées au cloud comme Conova (Autriche), Heroku ou Rackspace (États-Unis)
figurent aussi parmi les sponsors.
1.7.2 RÉFÉRENCES
• Météo France
• IGN
• RATP, SNCF, Autolib
• CNAF
• MAIF, MSA
• Le Bon Coin
• Doctolib
• Air France-KLM
• Société Générale
• Carrefour, Leclerc, Leroy Merlin
• Instagram, Zalando, TripAdvisor
• Yandex
• CNES
• ...et plein d’autres
Météo France utilise PostgreSQL depuis plus d’une décennie pour l’essentiel de ses bases,
dont des instances critiques de plusieurs téraoctets (témoignage sur postgresql.fr35 ).
35
https://www.postgresql.fr/temoignages/meteo_france
36
http://postgis.refractions.net/documentation/casestudies/ign/
37
https://www.journaldunet.com/solutions/dsi/1013631-la-ratp-integre-postgresql-a-son-systeme-d-information/
39
https://dalibo.com/formations
SQL pour PostgreSQL
La Caisse Nationale d’Allocations Familiales a remplacé ses mainframes par des instances
PostgreSQL38 dès 2010 (4 To et 1 milliard de requêtes par jour).
Dès 2009, Leroy Merlin migrait vers PostgreSQL des milliers de logiciels de caisse44 .
Yandex, équivalent russe de Google a décrit en 2016 la migration des 300 To de données
de Yandex.Mail depuis Oracle vers PostgreSQL45 .
Autolib à Paris utilisait PostgreSQL. Le logiciel est encore utilisé dans les autres villes où
le service continue. Ils ont décrit leur infrastructure au PG Day 2018 à Marseille47 .
Cette liste ne comprend pas les innombrables sociétés qui n’ont pas communiqué sur
le sujet. PostgreSQL étant un logiciel libre, il n’existe nulle part de dénombrement des
instances actives.
38
https://www.silicon.fr/cnaf-debarrasse-mainframes-149897.html?inf_by=5bc488a1671db858728b4c35
39
https://media.postgresql.org/sfpug/instagram_sfpug.pdf
40
http://gotocon.com/dl/goto-berlin-2013/slides/HenningJacobs_and_ValentineGogichashvili_
WhyZalandoTrustsInPostgreSQL.pdf
41
https://www.postgresql.eu/events/pgconfeu2018/schedule/session/2135-highway-to-hell-or-stairway-to-cloud/
42
https://jobs.zalando.com/tech/blog/zalandos-patroni-a-template-for-high-availability-postgresql/
43
https://www.citusdata.com/blog/25-terry/285-matthew-kelly-tripadvisor-talks-about-pgconf-silicon-valley
44
https://wiki.postgresql.org/images/6/63/Adeo_PGDay.pdf
45
https://www.pgcon.org/2016/schedule/attachments/426_2016.05.19%20Yandex.Mail%20success%20story.pdf
46
https://github.com/societe-generale/code2pg
47
https://www.youtube.com/watch?v=vd8B7B-Zca8
48
https://www.postgresql.fr/entreprises/accueil
40
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
PostgreSQL tient la charge sur de grosses bases de données et des serveurs de grande
taille.
Le Bon Coin privilégie des serveurs physiques dans ses propres datacenters.
Pour plus de détails et l’évolution de la configuration, voir les témoignages de ses di-
recteurs technique49 (témoignage de juin 2012) et infrastructure50 (juin 2017) , ou la
conférence de son DBA Flavio Gurgel au pgDay Paris 201951 .
Ce dernier s’appuie sur les outils classiques fournis par la communauté : pg_dump (pour
archivage, car ses exports peuvent être facilement restaurés), barman, pg_upgrade.
1.7.4 DOCTOLIB
Doctolib est le site de rendez-vous médicaux en ligne dominant sur le marché français,
couvrant 65 000 professionnels de santé, 1300 cliniques, hôpitaux et centres de santé,
et des millions de patients.
Une seule instance primaire PostgreSQL suffit, sans partitionnement, épaulée par une
instance secondaire qui assure une fraction du trafic web, et 4 autres secondaires pour
d’autres tâches.
49
https://www.postgresql.fr/temoignages:le_bon_coin
50
https://www.kissmyfrogs.com/jean-louis-bergamo-leboncoin-ce-qui-a-ete-fait-maison-est-ultra-performant/
51
https://www.postgresql.eu/events/pgdayparis2019/schedule/session/2376-large-databases-lots-of-servers
41
https://dalibo.com/formations
SQL pour PostgreSQL
Le RAID50 est un compromis entre le RAID 5 (pénalisant pour les écritures à cause du
calcul de parité) et le RAID 10 (trop consommateur d’espace disque).
• Cartographie du projet
• Pourquoi participer
• Comment participer
Quelques faits :
42
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• la communauté francophone est très dynamique mais nous trouvons très peu de
développeurs francophones ;
• la communauté hispanophone est naissante ;
• les développeurs du noyau (Core Hackers) vivent en Europe, au Japon, en Russie et
en Amérique du Nord.
Le terme Core Hackers désigne les personnes qui sont dans la communauté depuis
longtemps. Ces personnes désignent directement les nouveaux membres.
Le terme hacker peut porter à confusion, il s’agit ici de la définition « universitaire » :
https://fr.wikipedia.org/wiki/Hacker_(programmation)
La Core Team est un ensemble de personnes doté d’un pouvoir assez limité. Ils peuvent
décider de la date de sortie d’une version. Ce sont les personnes qui sont immédiatement
au courant des failles de sécurité du serveur PostgreSQL. Tout le reste des décisions est
pris par la communauté dans son ensemble après discussion, généralement sur la liste
pgsql-hackers.
43
https://dalibo.com/formations
SQL pour PostgreSQL
1.8.3 CONTRIBUTEURS
44
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Le PGDG a fêté son 10e anniversaire à Toronto en juillet 2006. Ce « PostgreSQL Anniver-
sary Summit » a réuni pas moins de 80 membres actifs du projet. La photo ci-dessus a été
prise à l’occasion.
PGCon2009 a réuni 180 membres actifs à Ottawa, et environ 220 en 2018 et 2019.
Robert Haas publie chaque année une analyse sur les contributeurs de code et les partic-
ipants aux discussions sur le développement de PostgreSQL sur la liste pgsql-hackers.
• 2019 : http://rhaas.blogspot.com/2020/05/who-contributed-to-postgresql.html
• 2018 : http://rhaas.blogspot.com/2019/01/who-contributed-to-postgresql.html
53
https://www.postgresql.org/community/contributors/
45
https://dalibo.com/formations
SQL pour PostgreSQL
• 2017 : http://rhaas.blogspot.com/2018/06/who-contributed-to-postgresql.html
• 2016 : http://rhaas.blogspot.com/2017/04/who-contributes-to-postgresql.html
1.8.5 UTILISATEURS
• Vous !
• Le succès d’un logiciel libre dépend de ses utilisateurs.
• déclarer un bug ;
• tester les versions bêta ;
• témoigner.
Envoyer une description d’un problème applicatif aux développeurs est évidemment
le meilleur moyen d’obtenir sa correction. Attention toutefois à être précis et complet
lorsque vous déclarez un bug sur pgsql-bugs54 ! Assurez-vous que vous pouvez le
reproduire.
Tester les versions « candidates » dans votre environnement (matériel et applicatif) est
la meilleure garantie que votre système d’information sera compatible avec les futures
versions du logiciel.
54
https://www.postgresql.org/list/pgsql-bugs/
46
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Les retours d’expérience et les cas d’utilisations professionnelles sont autant de preuves
de la qualité de PostgreSQL. Ces témoignages aident de nouveaux utilisateurs à opter
pour PostgreSQL, ce qui renforce la communauté.
S’impliquer dans les efforts de traductions, de relecture ou dans les forums d’entraide
ainsi que toute forme de transmission en général est un très bon moyen de vérifier et
d’approfondir ses compétences.
Le site « Planet PostgreSQL » est un agrégateur réunissant les blogs des Core Hackers, des
contributeurs, des traducteurs et des utilisateurs de PostgreSQL.
Le site PGXN est l’équivalent pour PostgreSQL du CPAN de Perl, une collection en ligne
de librairies et extensions accessibles depuis la ligne de commande.
La traduction française suit de près les mises à jour de la documentation officielle : https:
//docs.postgresql.fr/.
47
https://dalibo.com/formations
SQL pour PostgreSQL
• pgsql-announce
• pgsql-general
• pgsql-admin
• pgsql-sql
• pgsql-performance
• pgsql-fr-generale
• pgsql-advocacy
• pgsql-bugs
Les mailing-lists sont les outils principaux de gouvernance du projet. Toute l’activité de
la communauté (bugs, promotion, entraide, décisions) est accessible par ce canal. Les
développeurs principaux du projets répondent parfois eux-mêmes. Si vous avez une ques-
tion ou un problème, la réponse se trouve probablement dans les archives !
Pour s’inscrire ou consulter les archives : https://www.postgresql.org/list/.
Si vous pensez avoir trouvé un bug, vous pouvez le remonter sur la liste anglophone
pgsql-bugsa , par le formulaire dédiéb . Pour faciliter la tâche de ceux qui tenteront
de vous répondre, suivez bien les consignes sur les rapports de bugc : informations
complètes, reproductibilité…
Les listes de diffusion sont régies par des règles de politesse et de bonne conduite. Avant
de poser une question, nous vous conseillons de consulter le guide suivant : http://www.
linux-france.org/article/these/smart-questions/smart-questions-fr.html
a
https://www.postgresql.org/list/pgsql-bugs/
b
https://www.postgresql.org/account/submitbug/
c
https://docs.postgresql.fr/current/bogue-reporting.html
48
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.8.11 IRC
• Réseau Freenode
• IRC anglophone :
– #postgresql
– #postgresql-eu
• IRC francophone :
– #postgresqlfr
1.8.12 WIKI
• https://wiki.postgresql.org/
Le wiki est un outil de la communauté qui met à disposition une véritable mine
d’informations.
Au départ, le wiki avait pour but de récupérer les spécifications écrites par des
développeurs pour les grosses fonctionnalités à développer à plusieurs. Cependant, peu
de développeurs l’utilisent dans ce cadre. L’utilisation du wiki a changé en passant plus
entre les mains des utilisateurs qui y intègrent un bon nombre de pages de documenta-
tion (parfois reprises dans la documentation officielle). Le wiki est aussi utilisé par les
organisateurs d’événements pour y déposer les slides des conférences. Elle n’est pas
exhaustive et, hélas, souffre fréquemment d’un manque de mises à jour.
49
https://dalibo.com/formations
SQL pour PostgreSQL
PostgreSQL est là pour durer. Le nombre d’utilisateurs, de toutes tailles, augmente tous
les jours. Il n’y a pas qu’une seule entreprise derrière ce projet. Il y en a plusieurs, pe-
tites et grosses sociétés, qui s’impliquent pour faire avancer le projet, avec des modèles
économiques et des marchés différents, garants de la pérennité du projet.
1.9 CONCLUSION
Beaucoup d’acteurs font le choix de leur SGBD sans se soucier de son prix. En
l’occurrence, ce sont souvent les qualités intrinsèques de PostgreSQL qui séduisent :
50
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• sécurité des données (reprise en cas de crash et résistance aux bogues applicatifs) ;
• facilité de configuration ;
• montée en puissance et en charge progressive ;
• gestion des gros volumes de données ;
• pas de dépendance envers un unique éditeur ou prestataire.
1.9.1 BIBLIOGRAPHIE
1.9.2 QUESTIONS
55
https://docs.postgresql.fr/current/history.html
56
http://db.cs.berkeley.edu/papers/ERL-M85-95.pdf
57
http://2008.rmll.info/IMG/pdf/presentationPG.pdf
58
https://www.postgresql.org/about/policies/trademarks/
51
https://dalibo.com/formations
SQL pour PostgreSQL
Installation de PostgreSQL 13 :
Tout à fait optionnellement, une fonctionnalité avancée, le JIT (Just In Time compilation),
nécessite un paquet séparé, qui lui-même nécessite des paquets du dépôt EPEL :
52
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Chemins :
Objet Chemin
Binaires /usr/pgsql-13/bin
Répertoire de l’utilisateur postgres /var/lib/pgsql
PGDATA par défaut /var/lib/pgsql/13/data
Fichiers de configuration dans PGDATA/
Traces dans PGDATA/log
Configuration :
Si des instances de versions majeures différentes doivent être installées, il faudra installer
les binaires pour chacune, et l’instance par défaut de chaque version vivra dans un sous-
répertoire différent de /var/lib/pgsql automatiquement créé à l’installation. Il faudra
juste modifier les ports dans les postgresql.conf.
53
https://dalibo.com/formations
SQL pour PostgreSQL
• Ne pas utiliser de tiret dans le nom d’une instance (problèmes potentiels avec sys-
temd).
# cp /lib/systemd/system/postgresql-13.service \
/etc/systemd/system/postgresql-13-secondaire.service
• Commandes de maintenance :
Fondamentalement, le principe reste le même qu’en version 7. Il faudra utiliser dnf plutôt
que yum, impérativement désactiver le module PostgreSQL par défaut, et il est inutile
d’installer un dépôt EPEL :
54
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Référence : https://apt.postgresql.org/
Installation de PostgreSQL 13 :
# apt update
# apt install postgresql-13 postgresql-client-13
La première instance est directement créée, démarrée et déclarée comme service à lancer
au démarrage du système.
Chemins :
Objet Chemin
Binaires /usr/lib/postgresql/13/bin/
Répertoire de l’utilisateur postgres /var/lib/postgresql
PGDATA de l’instance par défaut /var/lib/postgresql/13/main
Fichiers de configuration dans /etc/postgresql/13/main/
Traces dans /var/log/postgresql/
Configuration
Ouverture du firewall :
# pg_lsclusters
# pg_dropcluster 13 main
Ce qui suit est valable pour remplacer l’instance par défaut par une autre, par exemple
pour mettre les checksums en place :
# pg_createcluster 13 secondaire \
--port=5433 \
--datadir=/PGDATA/11/basedecisionnelle \
--pgoption shared_buffers='8GB' --pgoption work_mem='50MB' \
-- --data-checksums --waldir=/ssd/postgresql/11/basedecisionnelle/journaux
• démarrage :
56
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Par défaut, l’instance n’est accessible que par l’utilisateur système postgres, qui n’a pas
de mot de passe. Un détour par sudo est nécessaire :
Pour des tests (pas en production !), il suffit de passer à trust le type de la connexion en
local dans le pg_hba.conf :
La connexion en tant qu’utilisateur postgres (ou tout autre) n’est alors plus sécurisée :
• dans pg_hba.conf, mise en place d’une authentification par mot de passe (md5 par
défaut) pour les accès à localhost :
(une authentification scram-sha-256 est plus conseillée mais elle impose que
password_encryption soit à cette valeur dans postgresql.conf avant de définir
les mots de passe).
• pour se connecter sans taper le mot de passe, un fichier .pgpass dans le répertoire
personnel doit contenir les informations sur cette connexion :
localhost:5432:*:postgres:motdepassetrèslong
• pour n’avoir à taper que psql, on peut définir ces variables d’environnement dans
la session voire dans ~/.bashrc :
export PGUSER=postgres
export PGDATABASE=postgres
export PGHOST=localhost
Rappels :
58
2. DÉCOUVERTE DES FONCTIONNALITÉS
59
https://dalibo.com/formations
SQL pour PostgreSQL
2.1 AU MENU
• Fonctionnalités du moteur
• Objets SQL
• Connaître les différentes fonctionnalités et possibilités
• Découvrir des exemples concrets
• Standard SQL
• Gestion transactionnelle
• Niveaux d’isolation
• Journaux de transactions
• Administration
• Sauvegardes
• Réplication
• Supervision
• Sécurité
• Extensibilité
Cette partie couvre les différentes fonctionnalités d’un moteur de bases de données. Il
ne s’agit pas d’aller dans le détail de chacune, mais de donner une idée de ce qui est
disponible. Les modules suivants de cette formation et des autres formations détaillent
certaines de ces fonctionnalités.
60
2. DÉCOUVERTE DES FONCTIONNALITÉS
• Atomicité (Atomic)
• Cohérence (Consistency)
• Isolation
• Durabilité (Durability)
Les propriétés ACID sont le fondement même de tout système transactionnel. Il s’agit de
quatre règles fondamentales :
Les propriétés ACID sont quatre propriétés essentielles d’un sous-système de traitement
de transactions d’un système de gestion de base de données. Certains SGBD ne four-
nissent pas les garanties ACID. C’est le cas de la plupart des SGBD non-relationnels
(« NoSQL »). Cependant, la plupart des applications ont besoin de telles garanties et la
décision d’utiliser un système ne garantissant pas ces propriétés ne doit pas être prise à
la légère.
61
https://dalibo.com/formations
SQL pour PostgreSQL
2.2.3 MVCC
MVCC (Multi Version Concurrency Control) est le mécanisme interne de PostgreSQL util-
isé pour garantir la cohérence des données lorsque plusieurs processus accèdent simul-
tanément à la même table.
MVCC maintient toutes les versions nécessaires de chaque ligne, ainsi chaque transaction
voit une image figée de la base (appelée snapshot). Cette image correspond à l’état de la
base lors du démarrage de la requête ou de la transaction, suivant le niveau d’isolation
demandé par l’utilisateur à PostgreSQL pour la transaction.
MVCC fluidifie les mises à jour en évitant les blocages trop contraignants (verrous sur
UPDATE) entre sessions et par conséquent de meilleures performances en contexte trans-
actionnel.
C’est notamment MVCC qui permet d’exporter facilement une base à chaud et d’obtenir
un export cohérent alors même que plusieurs utilisateurs sont potentiellement en train
de modifier des données dans la base.
62
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.2.4 TRANSACTIONS
BEGIN;
CREATE TABLE capitaines (id serial, nom text, age integer);
INSERT INTO capitaines VALUES (1, 'Haddock', 35);
age
-----
35
ROLLBACK;
SELECT age FROM capitaines;
Nous voyons que la table capitaines a existé à l’intérieur de la transaction. Mais puisque
cette transaction a été annulée (ROLLBACK), la table n’a pas été créée au final.
Un point de sauvegarde est une marque spéciale à l’intérieur d’une transaction qui au-
torise l’annulation de toutes les commandes exécutées après son établissement, restau-
rant la transaction dans l’état où elle était au moment de l’établissement du point de sauve-
garde.
BEGIN;
CREATE TABLE capitaines (id serial, nom text, age integer);
INSERT INTO capitaines VALUES (1, 'Haddock', 35);
SAVEPOINT insert_sp;
63
https://dalibo.com/formations
SQL pour PostgreSQL
age
-----
35
Malgré le COMMIT après l’UPDATE, la mise à jour n’est pas prise en compte. En effet, le
ROLLBACK TO SAVEPOINT a permis d’annuler cet UPDATE mais pas les opérations précé-
dant le SAVEPOINT.
À partir de la version 12, il est possible de chaîner les transactions avec COMMIT AND
CHAIN ou ROLLBACK AND CHAIN. Cela veut dire terminer une transaction et en démar-
rer une autre immédiatement après avec les mêmes propriétés (par exemple, le niveau
d’isolation).
Chaque transaction, en plus d’être atomique, s’exécute séparément des autres. Le niveau
de séparation demandé sera un compromis entre le besoin applicatif (pouvoir ignorer sans
risque ce que font les autres transactions) et les contraintes imposées au niveau de Post-
greSQL (performances, risque d’échec d’une transaction).
Le standard SQL spécifie quatre niveaux, mais PostgreSQL n’en supporte que trois (il n’y a
pas de read uncommitted : les lignes non encore committées par les autres transactions
sont toujours invisibles).
64
2. DÉCOUVERTE DES FONCTIONNALITÉS
Les journaux de transactions (appelés souvent WAL, autrefois XLOG) sont une garantie
contre les pertes de données.
• PostgreSQL redémarre ;
• PostgreSQL vérifie s’il reste des données non intégrées aux fichiers de données dans
les journaux (mode recovery) ;
• si c’est le cas, ces données sont recopiées dans les fichiers de données afin de retrou-
ver un état stable et cohérent.
Plus d’informations, lire cet articlea .
Les écritures dans le journal se font de façon séquentielle, donc sans grand déplacement
de la tête d’écriture (sur un disque dur classique, c’est l’opération la plus coûteuse).
De plus, comme nous n’écrivons que dans un seul fichier de transactions, la synchronisa-
tion sur disque peut se faire sur ce seul fichier, si le système de fichiers le supporte.
Mais les performances ne sont pas la seule raison des journaux de transactions. Ces jour-
naux ont aussi permis l’apparition de nouvelles fonctionnalités très intéressantes, comme
le PITR et la réplication physique, basés sur le rejeu des informations stockées dans ces
journaux.
a
https://public.dalibo.com/archives/publications/glmf108_postgresql_et_ses_journaux_de_transactions.pdf
65
https://dalibo.com/formations
SQL pour PostgreSQL
2.2.7 SAUVEGARDES
La plus simple revient à sauvegarder à froid tous les fichiers des différents répertoires
de données mais cela nécessite d’arrêter le serveur, ce qui occasionne une mise hors
production plus ou moins longue, suivant la volumétrie à sauvegarder.
L’export logique se fait avec le serveur démarré. Plusieurs outils sont proposés : pg_dump
pour sauvegarder une base, pg_dumpall pour sauvegarder toutes les bases. Suivant le
format de l’export, l’import se fera avec les outils psql ou pg_restore. Les sauvegardes
se font à chaud et sont cohérentes sans blocage de l’activité (seuls la suppression des
tables et le changement de leur définition sont interdits).
Enfin, il est possible de sauvegarder les fichiers à chaud. Cela nécessite de mettre en
place l’archivage des journaux de transactions. L’outil pg_basebackup est conseillé pour
ce type de sauvegarde.
Il est à noter qu’il existe un grand nombre d’outils développés par la communauté pour
faciliter encore plus la gestion des sauvegardes avec des fonctionnalités avancées comme
le PITR (Point In Time Recovery) ou la gestion de la rétention, notamment pg_back (sauve-
garde logique) pgBackRest, pitrery ou barman (sauvegarde physique).
66
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.2.8 RÉPLICATION
• Réplication physique
– instance complète
– même architecture
• Réplication logique (PG 10+)
– table par table
– voire opération par opération
• Asynchrones ou synchrone
• Asymétriques
Le premier type de réplication intégrée est la réplication physique. Il n’y a pas de granu-
larité, c’est forcément l’instance complète (toutes les bases de données), et au niveau des
fichiers de données. Cette réplication est asymétrique : un seul serveur primaire effectue
lectures comme écritures, et les serveurs secondaires n’acceptent que des lectures.
Le deuxième type de réplication est bien plus récent vu qu’il a été ajouté en version 10.
Il s’agit d’une réplication logique, où les données elles-mêmes sont répliquées. Cette ré-
plication est elle aussi asymétrique. Cependant, ceci se configure table par table (et non
pas au niveau de l’instance comme pour la réplication physique).
La réplication logique n’est pas intéressante quand nous voulons un serveur sur lequel
basculer en cas de problème sur le primaire. Dans ce cas, il vaut mieux utiliser la réplica-
tion physique. Par contre, c’est le bon type de réplication pour une réplication partielle
ou pour une mise à jour de version majeure.
Dans les deux cas, les modifications sont transmises en asynchrone (avec un délai possi-
ble). Il est cependant possible de la configurer en synchrone pour tous les serveurs ou
seulement certains.
2.2.9 EXTENSIBILITÉ
• Extensions
– CREATE EXTENSION monextension ;
– nombreuses : contrib, packagées... selon provenance
– notion de confiance (v13+)
– dont langages de procédures stockées !
• Système des hooks
• Background workers
67
https://dalibo.com/formations
SQL pour PostgreSQL
Les développeurs de PostgreSQL sont peu nombreux par rapport aux développeurs de
SGBD commerciaux. De ce fait, il n’est pas possible de tout intégrer dans PostgreSQL
et les développeurs ont donc orienté leur développement pour permettre d’étendre les
fonctionnalités de PostgreSQL sans avoir à modifier le code de PostgreSQL.
Autre exemple, la possibilité d’ajouter des types de données, des routines et des opéra-
teurs a permis l’émergence de la couche spatiale de PostgreSQL (appelée PostGIS).
Cependant, il est rapidement devenu évident que la gestion d’un grand nombre de types
de données, fonctions et opérateurs était compliquée, à l’installation comme à la désin-
stallation. Les développeurs de PostgreSQL ont donc ajouté la possibilité de créer des
extensions. Une extension contient un ensemble de types de données, de fonctions,
d’opérateurs, etc. en un seul objet logique. Il suffit de créer ou de supprimer cet objet
logique pour intégrer ou supprimer tous les objets qu’il contient. Les extensions peuvent
être codées en différents langages, généralement en C ou en PL/SQL.
Les extensions ont eu un grand succès. Leurs provenance, rôle et niveau de finition sont
très variables. Certaines sont des utilitaires éprouvés fournis avec PostgreSQL (parmi les
« contrib »). D’autres sont des utilitaires aussi complexes que PostGIS ou un langage de
procédures stockées. Des éditeurs diffusent leur produit comme une extension plutôt
que forker PostgreSQL (citus, timescaledb…). Beaucoup d’extensions peuvent être instal-
lées très simplement depuis des paquets disponibles dans les dépôts habituels (de la dis-
tribution ou du PGDG), ou le site du concepteur. Certaines sont diffusées comme code
source à compiler. Comme tout logiciel, il faut faire attention à en vérifier la source, la
qualité, la réputation et la pérennité.
Une fois les binaires de l’extension en place sur le serveur, l’ordre CREATE EXTENSION suf-
fit généralement dans la base cible, et les fonctionnalités sont immédiatement exploita-
bles.
Les extensions sont habituellement installées par un administrateur (un utilisateur doté
de l’attribut SUPERUSER). À partir de la version 13, certaines extensions sont déclarées de
confiance trusted). Ces extensions peuvent être installées par un utilisateur standard (à
condition qu’il dispose des droits de création dans la base et le ou les schémas concernés).
Les développeurs de PostgreSQL ont aussi ajouté des hooks pour accrocher du
code à exécuter sur certains cas. Cela a permis entre autres de créer l’extension
pg_stat_statements qui s’accroche au code de l’exécuteur de requêtes pour savoir
quelles sont les requêtes exécutées et pour récupérer des statistiques sur ces requêtes.
Enfin, les background workers ont vu le jour. Ce sont des processus spécifiques lancés
68
2. DÉCOUVERTE DES FONCTIONNALITÉS
par le serveur PostgreSQL lors de son démarrage et stoppés lors de son arrêt. Cela a
permis la création de PoWA (outil qui historise les statistiques sur les requêtes) et une
amélioration très intéressante de pg_prewarm (sauvegarde du contenu du cache disque à
l’arrêt de PostgreSQL, restauration du contenu au démarrage).
2.2.10 SÉCURITÉ
• Fichier pg_hba.conf
• Filtrage IP
• Authentification interne (MD5, SCRAM-SHA-256)
• Authentification externe (identd, LDAP, Kerberos...)
• Support natif de SSL
L’authentification peut se baser sur des mots de passe chiffrés propres à PostgreSQL (md5
ou le plus récent et plus sécurisé scram-sha-256 en version 10), ou se baser sur une
méthode externe (auprès de l’OS, ou notamment LDAP ou Kerberos qui couvre aussi
Active Directory).
• Instances
• Objets globaux :
– Bases
– Rôles
– Tablespaces
• Objets locaux :
– Schémas
– Tables
– Vues
– Index
– Routines
– ...
69
https://dalibo.com/formations
SQL pour PostgreSQL
Le but de cette partie est de passer en revue les différents objets logiques maniés par un
moteur de bases de données PostgreSQL.
Nous allons donc aborder la notion d’instance, les différents objets globaux et les objets
locaux. Tous ne seront pas vus, mais le but est de donner une idée globale des objets et
des fonctionnalités de PostgreSQL.
Il est déjà important de bien comprendre une distinction entre les objets. Une instance
est un ensemble de bases de données, de rôles et de tablespaces. Ces objets sont ap-
pelés des objets globaux parce qu’ils sont disponibles quelque soit la base de données de
connexion. Chaque base de données contient ensuite des objets qui lui sont propres. Ils
sont spécifiques à cette base de données et accessibles uniquement lorsque l’utilisateur
est connecté à la base qui les contient. Il est donc possible de voir les bases comme des
conteneurs hermétiques en dehors des objets globaux.
70
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.2 INSTANCES
• Une instance
– un répertoire de données
– un port TCP
– une configuration
– plusieurs bases de données
• Plusieurs instances possibles sur un serveur
Une instance est un ensemble de bases de données. Après avoir installé PostgreSQL, il est
nécessaire de créer un répertoire de données contenant un certain nombre de répertoires
et de fichiers qui permettront à PostgreSQL de fonctionner de façon fiable. Le contenu de
ce répertoire est créé initialement par la commande initdb. Ce répertoire stocke ensuite
tous les objets des bases de données de l’instance, ainsi que leur contenu.
Il est possible d’avoir plusieurs instances sur le même serveur, physique ou virtuel. Dans
ce cas, chaque instance aura son répertoire de données dédié et son port TCP dédié.
Ceci est particulièrement utile quand l’on souhaite disposer de plusieurs versions de Post-
greSQL sur le même serveur (par exemple pour tester une application sur ces différentes
versions).
2.3.3 RÔLES
• Permet de se connecter
• Différents attributs et droits
• Utilisateurs / Groupes
Chaque rôle créé peut être utilisé pour se connecter à n’importe quelle base de l’instance,
à condition que ce rôle en ait le droit. Ceci se gère directement avec l’attribution du droit
LOGIN au rôle, et avec la configuration du fichier d’accès pg_hba.conf.
Chaque rôle peut être propriétaire d’objets, auquel cas il a tous les droits sur ces objets.
71
https://dalibo.com/formations
SQL pour PostgreSQL
Pour les objets dont il n’est pas propriétaire, il peut se voir donner des droits, en lecture,
écriture, exécution, etc par le propriétaire.
Nous parlons aussi d’utilisateurs et de groupes. Un utilisateur est un rôle qui a la pos-
sibilité de se connecter aux bases alors qu’un groupe ne le peut pas. Un groupe sert
principalement à gérer plus simplement les droits d’accès aux objets.
2.3.4 TABLESPACES
Toutes les données des tables, vues matérialisées et index sont stockées dans le répertoire
de données principal. Cependant, il est possible de stocker des données ailleurs que dans
ce répertoire. Il faut pour cela créer un tablespace. Un tablespace est tout simplement
la déclaration d’un autre répertoire de données utilisable par PostgreSQL pour y stocker
des données :
Il est possible d’avoir un tablespace par défaut pour une base de données, auquel cas
tous les objets logiques créés dans cette base seront enregistrés physiquement dans le
répertoire lié à ce tablespace. Il est aussi possible de créer des objets en indiquant spéci-
fiquement un tablespace, ou de les déplacer d’un tablespace à un autre. Un objet spéci-
fique ne peut appartenir qu’à un seul tablespace (autrement dit, un index ne pourra pas
être enregistré sur deux tablespaces). Cependant, pour les objets partitionnés, le choix
du tablespace peut se faire partition par partition.
Le but des tablespaces est de fournir une solution à des problèmes d’espace disque ou de
performances. Si la partition où est stocké le répertoire des données principal se remplit
fortement, il est possible de créer un tablespace dans une autre partition et donc d’utiliser
l’espace disque de cette partition. Si de nouveaux disques plus rapides sont à disposition,
il est possible de placer les objets fréquemment utilisés sur le tablespace contenant les
disques rapides. Si des disques SSD sont à disposition, il est très intéressant d’y placer les
index, les fichiers de tri temporaires, des tables de travail…
Par contre, contrairement à d’autres moteurs de bases de données, PostgreSQL n’a pas
72
2. DÉCOUVERTE DES FONCTIONNALITÉS
de notion de quotas. Les tablespaces ne peuvent donc pas être utilisés pour contraindre
l’espace disque utilisé par certaines applications ou certains rôles.
2.3.5 BASES
• Conteneur hermétique
• Un rôle ne se connecte pas à une instance
– il se connecte forcément à une base
• Une fois connecté, il ne voit que les objets de cette base
– contournement : foreign data wrappers, dblink
Une base de données est un conteneur hermétique. En dehors des objets globaux, le rôle
connecté à une base de données ne voit et ne peut interagir qu’avec les objets contenus
dans cette base. De même, il ne voit pas les objets locaux des autres bases. Néanmoins, il
est possible de lui donner le droit d’accéder à certains objets d’une autre base (de la même
instance ou d’une autre instance) en utilisant les Foreign Data Wrappers (postgres_fdw)
ou l’extension dblink.
2.3.6 SCHÉMAS
• Espace de noms
• Sous-ensemble de la base
• Non lié à un utilisateur
• Schéma visible par défaut : search_path
• pg_catalog, information_schema
– pour catalogues système (lecture seule !)
Les schémas sont des espaces de noms à l’intérieur d’une base de données permettant :
Un schéma est un espace logique sans lien avec les emplacements physiques des données
(ne pas confondre avec les tablespaces).
73
https://dalibo.com/formations
SQL pour PostgreSQL
Un utilisateur peut avoir accès à tous les schémas ou à un sous-ensemble, tout dépend
des droits dont il dispose. Par défaut, il a accès au schéma public de chaque base et peut
y créer des objets.
PostgreSQL vérifie la présence des objets par rapport au paramètre search_path valable
pour la session en cours lorsque le schéma n’est pas indiqué explicitement pour les objets
d’une requête.
-- comme le montre la méta-commande \d, la table est créée dans le schéma public
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+------+-------+----------
s1 | t2 | table | postgres
74
2. DÉCOUVERTE DES FONCTIONNALITÉS
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
s1 | t2 | table | postgres
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
s1 | t2 | table | postgres
s2 | t3 | table | postgres
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
s1 | t2 | table | postgres
s2 | t3 | table | postgres
75
https://dalibo.com/formations
SQL pour PostgreSQL
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
s2 | t2 | table | postgres
s2 | t3 | table | postgres
Tous ces exemples se basent sur des ordres de création de table. Cependant, le com-
portement serait identique sur d’autres types de commande (SELECT, INSERT, etc) et sur
d’autres types d’objets locaux.
Pour des raisons de sécurité, il est très fortement conseillé de laisser le schéma public
en toute fin du search_path. En effet, s’il est placé au début, comme tout le monde a
droit par défaut de créer des objets dans public, quelqu’un de mal intentionné pourrait
placer un objet dans le schéma public pour servir de proxy à un autre objet d’un schéma
situé après public.
76
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.7 TABLES
Il est possible de créer des tables temporaires (CREATE TEMPORARY TABLE). Celles-ci ne
sont visibles que par la session qui les a créées et seront supprimées par défaut à la fin
de cette session. Il est aussi possible de les supprimer automatiquement à la fin de la
transaction qui les a créées. Il n’existe pas dans PostgreSQL de notion de table temporaire
globale. Cependant, une extension59 existe pour combler leur absence.
Pour des raisons de performance, il est possible de créer une table non journalisée (CREATE
UNLOGGED TABLE). La définition de la table est journalisée mais pas son contenu. De ce
fait, en cas de crash, il est impossible de dire si la table est corrompue ou non, et donc,
au redémarrage du serveur, PostgreSQL vide la table de tout contenu. De plus, n’étant
pas journalisée, la table n’est pas présente dans les sauvegardes PITR, ni repliquée vers
d’éventuels serveurs secondaires.
Enfin, depuis la version 10, il est possible de partitionner les tables suivant un certain
type de partitionnement : par intervalle, par valeur ou par hachage. Avant la version 10,
il est possible de se rabattre sur le partitionnement par héritage, moins pratique et moins
performant.
2.3.8 VUES
• Masquer la complexité
– structure : interface cohérente vers les données, même si les tables évoluent
– sécurité : contrôler l’accès aux données de manière sélective
• Vues matérialisées
– à rafraîchir à une certaine fréquence
Le but des vues est de masquer une complexité, qu’elle soit du côté de la structure de la
base ou de l’organisation des accès. Dans le premier cas, elles permettent de fournir un
59
https://github.com/darold/pgtt
77
https://dalibo.com/formations
SQL pour PostgreSQL
accès qui ne change pas même si les structures des tables évoluent. Dans le second cas,
elles permettent l’accès à seulement certaines colonnes ou certaines lignes. De plus, les
vues étant exécutées avec les mêmes droits que l’utilisateur qui les a créées, cela permet
un changement temporaire des droits d’accès très appréciable dans certains cas.
-- création de la vue
CREATE VIEW capitaines_anon AS
SELECT nom, age, substring(num_cartecredit, 0, 10) || '******' AS num_cc_anon
FROM capitaines;
Il est possible de modifier une vue en lui ajoutant des colonnes à la fin, au lieu de devoir les
détruire et recréer (ainsi que toutes les vues qui en dépendent, ce qui peut être fastidieux).
Par exemple :
SET ROLE postgres;
78
2. DÉCOUVERTE DES FONCTIONNALITÉS
Nous pouvons aussi modifier les données au travers des vues simples, sans ajout de code
et de trigger :
UPDATE capitaines_anon SET nom = 'Nicolas Surcouf' WHERE nom = 'Robert Surcouf';
PostgreSQL gère le support natif des vues matérialisées (CREATE MATERIALIZED VIEW
nom_vue_mat AS SELECT …). Les vues matérialisées sont des vues dont le contenu est
figé sur disque, permettant de ne pas recalculer leur contenu à chaque appel. De plus, il
est possible de les indexer pour accélérer leur consultation. Il faut cependant faire atten-
tion à ce que leur contenu reste synchrone avec le reste des données.
Les vues matérialisées ne sont pas mises à jour automatiquement, il faut deman-
der explicitement le rafraîchissement (REFRESH MATERIALIZED VIEW). Avec la clause
CONCURRENTLY, s’il y a un index d’unicité, le rafraîchissement ne bloque pas les sessions
lisant en même temps les données d’une matérialisée.
-- Suppression de la vue
DROP VIEW capitaines_anon;
-- Le résultat est le même mais le plan montre bien que PostgreSQL ne passe
-- plus par la table mais par la vue matérialisée :
EXPLAIN SELECT * FROM capitaines_anon WHERE nom LIKE '%Surcouf';
QUERY PLAN
-----------------------------------------------------------------
Seq Scan on capitaines_anon (cost=0.00..20.62 rows=1 width=68)
Filter: (nom ~~ '%Surcouf'::text)
80
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.9 INDEX
• Algorithmes supportés
– B-tree (par défaut)
– Hash (dangereux si version < 10)
– GiST / SP-GiST
– GIN
– BRIN (version 9.5)
– Bloom (version 9.6)
• Type
– Mono ou multi-colonnes
– Partiel
– Fonctionnel
– Couvrant
Pour une indexation standard, nous utilisons en général un index Btree, de par ses nom-
breuses possibilités et ses très bonnes performances.
Les index hash sont peu utilisés, essentiellement dans la comparaison d’égalité de grandes
chaînes de caractères. Avant la version 10, leur utilisation est déconseillée car ils ne sont
pas journalisés, d’où plusieurs problèmes : reconstruction (REINDEX) obligatoire en cas de
crash ou de restauration PITR, pas de réplication possible.
Moins simples d’abord, les index plus spécifiques (GIN, GIST) sont spécialisés pour les
grands volumes de données complexes et multidimensionnelles : indexation textuelle,
géométrique, géographique, ou de tableaux de données par exemple.
Les index BRIN sont des index très compacts destinés aux grandes tables où les données
sont fortement corrélées par rapport à leur emplacement physique sur les disques.
Les index bloom sont des index probabilistes visant à indexer de nombreuses colonnes
interrogées simultanément. Ils nécessitent l’ajout d’une extension (nommée bloom).
Le module pg_trgm permet l’utilisation d’index dans des cas habituellement impossibles,
comme les expressions rationnelles et les LIKE '%...%'.
81
https://dalibo.com/formations
SQL pour PostgreSQL
Généralement, l’indexation porte sur la valeur d’une ou plusieurs colonnes. Il est néan-
moins possible de n’indexer qu’une partie des lignes (index partiel) ou le résultat d’une
fonction sur une ou plusieurs colonnes en paramètre. Enfin, il est aussi possible de mod-
ifier les index de certaines contraintes (unicité et clé primaire) pour inclure des colonnes
supplémentaires.
Plus d’informations :
• Article Wikipédia sur les arbres Ba ;
• Article Wikipédia sur les tables de hachageb ;
• Documentation officielle françaisec .
• Types de base
– natif : int, float
– standard SQL : numeric, char, varchar, date, time, timestamp, bool
• Type complexe
– tableau
– XML
– JSON (jsonb)
• Types métier
– réseau, géométrique, etc.
• Types créés par les utilisateurs
– structure SQL, C, Domaine, Enum
PostgreSQL dispose d’un grand nombre de types de base, certains natifs (comme la
famille des integer et celle des float), et certains issus de la norme SQL (numeric, char,
varchar, date, time, timestamp, bool).
Il dispose aussi de types plus complexes. Les tableaux (array) permettent de lister un
ensemble de valeurs discontinues. Les intervalles (range) permettent d’indiquer toutes
les valeurs comprises entre une valeur de début et une valeur de fin. Ces deux types
dépendent évidemment d’un type de base : tableau d’entiers, intervalle de dates, etc.
Existent aussi les types complexes les données XML et JSON (préférer le type optimisé
jsonb).
Enfin, il existe des types métiers ayant trait principalement au réseau (adresse IP, masque
réseau), à la géométrie (point, ligne, boite). Certains sont apportés par des extensions.
a
https://fr.wikipedia.org/wiki/Arbre_B
b
https://fr.wikipedia.org/wiki/Table_de_hachage
c
https://docs.postgresql.fr/current/textsearch-indexes.html
82
2. DÉCOUVERTE DES FONCTIONNALITÉS
Tout ce qui vient d’être décrit est natif. Il est cependant possible de créer ses propres
types de données, soit en SQL soit en C. Les possibilités et les performances ne sont
évidemment pas les mêmes.
Ce type de données va pouvoir être utilisé dans tous les objets SQL habituels : table, rou-
tine, opérateur (pour redéfinir l’opérateur + par exemple), fonction d’agrégat, contrainte,
etc.
Il est aussi possible de définir des domaines. Ce sont des types créés par les utilisateurs
à partir d’un type de base et en lui ajoutant des contraintes supplémentaires.
En voici un exemple :
CREATE DOMAIN code_postal_francais AS text CHECK (value ~ '^\d{5}$');
ALTER TABLE capitaines ADD COLUMN cp code_postal_francais;
UPDATE capitaines SET cp = '35400' WHERE nom LIKE '%Surcouf';
UPDATE capitaines SET cp = '1420' WHERE nom = 'Haddock';
Le défaut par rapport à des contraintes CHECK classiques sur une table est que
l’information ne se trouvant pas dans la table, les contraintes sont plus difficiles à lister
sur une table.
Enfin, il existe aussi les enums. Ce sont des types créés par les utilisateurs composés
d’une liste ordonnée de chaînes de caractères.
En voici un exemple :
CREATE TYPE jour_semaine
AS ENUM ('Lundi', 'Mardi', 'Mercredi', 'Jeudi', 'Vendredi',
'Samedi', 'Dimanche');
Les enums permettent de déclarer une liste de valeurs statiques dans le dictionnaire de
données plutôt que dans une table externe sur laquelle il faudrait rajouter des jointures :
dans l’exemple, nous aurions pu créer une table jour_de_la_semaine, et stocker la clé
associée dans planning. Nous aurions pu tout aussi bien positionner une contrainte
CHECK, mais nous n’aurions plus eu une liste ordonnée.
Conférence de Heikki Linakangas sur la création d’un type colora .
a
https://wiki.postgresql.org/images/1/11/FOSDEM2011-Writing_a_User_defined_type.pdf
84
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.11 CONTRAINTES
• CHECK
– prix > 0
• NOT NULL
– id_client NOT NULL
• Unicité
– id_client UNIQUE
• Clés primaires
– UNIQUE NOT NULL ==> PRIMARY KEY (id_client)
• Clés étrangères
– produit_id REFERENCES produits(id_produit)
• EXCLUDE
– EXCLUDE USING gist (room WITH =, during WITH &&)
Les contraintes sont la garantie de conserver des données de qualité ! Elles permettent
une vérification qualitative des données, au-delà du type de données.
Elles donnent des informations au planificateur qui lui permettent d’optimiser les
requêtes. Par exemple, le planificateur sait ne pas prendre en compte une jointure dans
certains cas, notamment grâce à l’existence d’une contrainte d’unicité.
Les contraintes d’exclusion permettent un test sur plusieurs colonnes avec différents
opérateurs (et non pas que l’égalité dans le cas d’une contrainte unique, qui n’est qu’une
contrainte d’exclusion très spécialisée). Si le test se révèle positif, la ligne est refusée.
Une colonne a par défaut la valeur NULL si aucune valeur n’est fournie lors de l’insertion
de la ligne. Il existe néanmoins trois cas où le moteur peut substituer une autre valeur.
Le plus connu correspond à la clause DEFAULT. Dans ce cas, la valeur insérée correspond
à la valeur indiquée avec cette clause si aucune valeur n’est indiquée pour la colonne. Si
85
https://dalibo.com/formations
SQL pour PostgreSQL
une valeur est précisée, cette valeur surcharge la valeur par défaut. L’exemple suivant
montre cela :
c1 | c2 | c3
----+----+----
1 | 2 | 3
2 | | 10
La clause DEFAULT ne peut pas être utilisée avec des clauses complexes, notamment des
clauses comprenant des requêtes.
Pour aller un peu plus loin, à partir de PostgreSQL 12, il est possible d’utiliser GENERATED
ALWAYS AS ( expression ) STORED. Cela permet d’avoir une valeur calculée pour la
colonne, valeur qui ne peut pas être surchargée, ni à l’insertion, ni à la mise à jour (mais
qui est bien stockée sur le disque).
Comme exemple, nous allons reprendre la table capitaines et lui ajouter une colonne
ayant comme valeur la version modifiée du numéro de carte de crédit :
86
2. DÉCOUVERTE DES FONCTIONNALITÉS
Haddock | |
Joseph Pradere-Niquet | 9876543210987654 | 987654321******
nom | id2
-----------------------+-----
Robert Surcouf | 1
Haddock | 2
Joseph Pradere-Niquet | 3
nom | id2
-----------------------+-----
Robert Surcouf | 1
Haddock | 2
Joseph Pradere-Niquet | 3
Tom Souville | 4
2.3.13 LANGAGES
• PL/pgSQL ;
• PL/Perl60 ;
• PL/Python61 (version 2 et 3) ;
• PL/Tcl.
60
https://docs.postgresql.fr/current/plperl.html
61
https://docs.postgresql.fr/current/plpython.html
87
https://dalibo.com/formations
SQL pour PostgreSQL
Voici une liste non exhaustive des langages procéduraux disponibles, à différents degrés
de maturité :
• PL/sh62 ;
• PL/R63 ;
• PL/Java64 ;
• PL/lolcode ;
• PL/Scheme ;
• PL/PHP ;
• PL/Ruby ;
• PL/Lua65 ;
• PL/pgPSM ;
• PL/v866 (Javascript).
Tableau des langages supportésa .
Pour qu’un langage soit utilisable, il doit être activé au niveau de la base où il sera utilisé.
Les trois langages activés par défaut sont le C, le SQL et le PL/pgSQL. Les autres doivent
être ajoutés à partir des paquets de la distribution ou du PGDG, ou compilés à la main,
puis l’extension installée dans la base (CREATE EXTENSION plperl, CREATE EXTENSION
plpython3u, etc.).
Chaque langage a ses avantages et inconvénients. Par exemple, PL/pgSQL est très simple
à apprendre mais n’est pas performant quand il s’agit de traiter des chaînes de caractères.
Pour ce traitement, il est souvent préférable d’utiliser PL/Perl, voire PL/Python. Évidem-
ment, une routine en C aura les meilleures performances mais sera beaucoup moins facile
à coder et à maintenir. Par ailleurs, les procédures peuvent s’appeler les unes les autres
quel que soit le langage. Les index et triggers peuvent également utiliser ces langages.
S’ajoute l’intérêt de ne pas avoir à réécrire en PL/pgSQL des fonctions existantes dans
d’autres langages ou d’accéder à des modules bien établis de ces langages.
62
https://github.com/petere/plsh
63
https://github.com/postgres-plr/plr
64
https://tada.github.io/pljava/
65
https://github.com/pllua/pllua
66
https://github.com/plv8/plv8
a
https://wiki.postgresql.org/wiki/PL_Matrix
88
2. DÉCOUVERTE DES FONCTIONNALITÉS
• Fonction
– renvoie une ou plusieurs valeurs
– SETOF ou TABLE pour plusieurs lignes
• Procédure (v11+)
– ne renvoie rien
– peut gérer le transactionnel dans certains cas
Une fonction renvoie une donnée. Cette donnée peut comporter une ou plusieurs
colonnes. Elle peut aussi avoir plusieurs lignes dans le cas d’une fonction SETOF ou
TABLE.
Une procédure ne renvoie rien. Elle a cependant un gros avantage par rapport aux fonc-
tions dans le fait qu’elle peut gérer le transactionnel. Elle peut valider ou annuler la trans-
action en cours. Dans ce cas, une nouvelle transaction est ouverte immédiatement après
la fin de la transaction précédente.
2.3.15 OPÉRATEURS
Il est possible de créer de nouveaux opérateurs sur un type de base ou sur un type utilisa-
teur. Un opérateur exécute une fonction, soit à un argument pour un opérateur unitaire,
soit à deux arguments pour un opérateur binaire.
Voici un exemple d’opérateur acceptant une division par zéro sans erreur :
-- définissons une fonction de division en PL/pgSQL
CREATE FUNCTION division0 (p1 integer, p2 integer) RETURNS integer
LANGUAGE plpgsql
AS $$
BEGIN
IF p2 = 0 THEN
RETURN NULL;
END IF;
89
https://dalibo.com/formations
SQL pour PostgreSQL
RETURN p1 / p2;
END
$$;
-- créons l'opérateur
CREATE OPERATOR // (FUNCTION = division0, LEFTARG = integer, RIGHTARG = integer);
SELECT 10/5;
?column?
----------
2
SELECT 10//5;
?column?
----------
2
?column?
----------
(1 row)
2.3.16 TRIGGERS
90
2. DÉCOUVERTE DES FONCTIONNALITÉS
Les triggers peuvent être exécutés avant (BEFORE) ou après (AFTER) une opération.
Il est possible de les déclencher pour chaque ligne impactée (FOR EACH ROW) ou une
seule fois pour l’ensemble de la requête (FOR STATEMENT). Dans le premier cas, il est
possible d’accéder à la ligne impactée (ancienne et nouvelle version). Dans le deuxième
cas, il a fallu attendre la version 10 pour disposer des tables de transition qui donnent à
l’utilisateur une vision des lignes avant et après modification.
Par ailleurs, les triggers peuvent être écrits dans n’importe lequel des langages de routine
supportés par PostgreSQL (C, PL/pgSQL, PL/Perl, etc. )
Exemple :
RETURN NEW;
END;
$verif_salaire$ LANGUAGE plpgsql;
2.3.17 QUESTIONS
92
3. INTRODUCTION ET PREMIERS SELECT
3.1 PRÉAMBULE
Ce module a pour but de présenter le standard SQL. Un module ne permet pas de tout
voir, aussi ce module se concentrera sur la lecture de données déjà présentes en base.
Cela permet d’aborder aussi la question des types de données disponibles.
3.1.1 MENU
3.1.2 OBJECTIFS
93
https://dalibo.com/formations
SQL pour PostgreSQL
• Base de données
– ensemble organisé d’informations
– Système de Gestion de Bases de Données
* acronyme SGBD (DBMS en anglais)
* programme assurant la gestion et l’accès à une base de données
* assure la cohérence des données
Si des données sont récoltées, organisées et stockées afin de répondre à un besoin spé-
cifique, alors on parle de base de données. Une base de données peut utiliser différents
supports : papier, fichiers informatiques, etc.
• Modèle hiérarchique
– Modèle réseau
– Modèle relationnel
– Modèle objet
– Modèle relationnel-objet
– NoSQL
Au fil des années ont été développés plusieurs modèles de données, que nous allons
décrire.
• Modèle hiérarchique
– structure arborescente
– redondance des données
• Modèle réseau
– structure arborescente, mais permettant des associations
– ex : Bull IDS2 sur GCOS
94
3. INTRODUCTION ET PREMIERS SELECT
Les modèles hiérarchiques et réseaux ont été les premiers modèles de données utilisées
dans les années 60 sur les mainframes IBM ou Bull. Ils ont été rapidement supplantés par
le modèle relationnel car les requêtes étaient dépendantes du modèle de données. Il était
nécessaire de connaître les liens entre les différents nœuds de l’arborescence pour con-
cevoir les requêtes. Les programmes sont donc complètement dépendants de la structure
de la base de données.
• Modèle relationnel
– basé sur la théorie des ensembles et la logique des prédicats
– standardisé par la norme SQL
• Modèle objet
– structure objet
– pas de standard
• Modèle relationnel-objet
– le standard SQL ajoute des concepts objets
Le modèle relationnel est issu des travaux du Docteur Edgar F. Codd qu’il a menés dans les
laboratoires d’IBM à la fin des années 60. Ses travaux avaient pour but de rendre indépen-
dant le stockage physique de la vue logique de la base de données. Et, mathématicien de
formation, il s’est appuyé sur la théorie des ensembles et la logique des prédicats pour
établir les fondements des bases de données relationnelles. Pour manipuler les données
de façon ensembliste, le Dr Codd a mis au point le point langage SQL. Ce langage est
à l’origine du standard SQL qui a émergé dans les années 80 et qui a rendu le modèle
relationnel très populaire.
Le modèle objet est, quant à lui, issu de la mouvance autour des langages objets. Du fait
de l’absence d’un standard avéré, le modèle objet n’a jamais été populaire et est toujours
resté dans l’ombre du modèle relationnel.
Le modèle relationnel a néanmoins été étendu par la norme SQL:1999 pour intégrer des
fonctionnalités objets. On parle alors de modèle relationnel-objet. PostgreSQL en est un
exemple, c’est un SGBDRO (Système de Gestion de Bases de Données Relationnel-Objet).
95
https://dalibo.com/formations
SQL pour PostgreSQL
Les bases NoSQL sont une famille de bases de données qui répondent à d’autres besoins
et contraintes que les bases relationnelles. Les bases NoSQL sont souvent des bases
« sans schéma », la base ne vérifiant plus l’intégrité des données selon des contraintes
définies dans le modèle de données. Chaque base de ce segment dispose d’un langage
de requête spécifique, qui n’est pas normé. Une tentative de standardisation, débutée en
2011, n’a d’ailleurs abouti à aucun résultat.
Ce type de base offre souvent la possibilité d’offrir du sharding simple à mettre en œuvre.
Le sharding consiste à répartir les données physiquement sur plusieurs serveurs. Cer-
taines technologies semblent mieux marcher que d’autres de ce point de vue là. En contre-
partie, la durabilité des données n’est pas assurée, au contraire d’une base relationnelle
qui assure la durabilité dès la réponse à un COMMIT.
db.demo.group({
"key": {
"person": true
},
"initial": {
"sumscore": 0,
"sumforaverageaveragescore": 0,
"countforaverageaveragescore": 0,
"countstar": 0
},
"reduce": function(obj, prev) {
prev.sumscore = prev.sumscore + obj.score - 0;
96
3. INTRODUCTION ET PREMIERS SELECT
prev.sumforaverageaveragescore += obj.score;
prev.countforaverageaveragescore++;
prev.minimumvaluescore = isNaN(prev.minimumvaluescore) ? obj.score :
Math.min(prev.minimumvaluescore, obj.score);
prev.maximumvaluescore = isNaN(prev.maximumvaluescore) ? obj.score :
Math.max(prev.maximumvaluescore, obj.score);
if (true != null) if (true instanceof Array) prev.countstar +=
true.length;
else prev.countstar++;
},
"finalize": function(prev) {
prev.averagescore = prev.sumforaverageaveragescore /
prev.countforaverageaveragescore;
delete prev.sumforaverageaveragescore;
delete prev.countforaverageaveragescore;
},
"cond": {
"score": {
"$gt": 0
},
"person": {
"$in": ["bob", "jake"]
}
}
});
Un des avantages de ces technologies, c’est qu’un modèle clé-valeur permet facilement
d’utiliser des algorithmes de type MapReduce : diviser le problème en sous-problèmes
traités parallèlement par différents nœuds (phase Map), puis synthétisés de façon cen-
tralisée (phase Reduce).
Les bases de données relationnelles ne sont pas incompatibles avec Map Reduce en soit.
Simplement, le langage SQL étant déclaratif, il est conceptuellement opposé à la descrip-
tion fine des traitements qu’on doit réaliser avec MapReduce. C’est (encore une fois) le
travail de l’optimiseur d’être capable d’effectuer ce genre d’opérations : la parallélisation
(répartition d’une tâche sur plusieurs processeurs) est possible dans certains cas avec
PostgreSQL.
97
https://dalibo.com/formations
SQL pour PostgreSQL
Les objets logiques sont appelés des relations. Ce sont généralement les tables, mais il
existe d’autres objets qui sont aussi des relations (les vues par exemple, mais aussi les
index et les séquences).
Le modèle relationnel se base sur la théorie des ensembles. Chaque relation contient un
ensemble de données et ces différents ensembles peuvent se joindre suivant certaines
conditions.
La logique des prédicats est un sous-ensemble de la théorie des ensembles. Elle sert à
exprimer des formules logiques qui permettent de filtrer les ensembles de départ pour
créer de nouveaux ensembles (autrement dit, filtrer les enregistrements d’une relation).
Cependant, tout élément d’un enregistrement n’est pas forcément connu à un instant t.
Les filtres et les jointures doivent donc gérer trois états lors d’un calcul de prédicat : vrai,
faux ou inconnu.
98
3. INTRODUCTION ET PREMIERS SELECT
3.2.7 ACID
• Atomicité (Atomic)
• Cohérence (Consistent)
• Isolation (Isolated)
• Durabilité (Durable)
Les propriétés ACID (acronyme de Atomic Consistent Isolated Durable) sont le fondement
même de toute base de données. Il s’agit de quatre règles fondamentales que toute trans-
action doit respecter :
Les propriétés ACID sont quatre propriétés essentielles d’un sous-système de traitement
de transactions d’un système de gestion de base de données. On considère parfois
que seuls les SGBD qui respectent ces quatre propriétés sont dignes d’être considérées
comme des bases de données relationnelles. Les SGBD de la famille des NoSQL (Mon-
goDB, Cassandra, BigTable...) sont en effet des bases de données, mais ne respectent
pas la Cohérence. Elles sont cohérentes à terme, ou en anglais eventually consistent, mais
la cohérence en fin de transaction n’est pas garantie.
Le langage SQL a été normalisé par l’ANSI en 1986 et est devenu une norme ISO inter-
nationale en 1987. Elle a subi plusieurs évolutions dans le but d’ajouter des fonctionnal-
ités correspondant aux attentes de l’industrie logicielle. Parmi ces améliorations, notons
l’intégration de quelques fonctionnalités objets pour le modèle relationnel-objet.
99
https://dalibo.com/formations
SQL pour PostgreSQL
• Langage
– règles d’écriture
– règles de formatage
– commentaires
• Améliore la lisibilité d’une requête
Il n’y a pas de règles établies concernant l’écriture de requêtes SQL. Il faut néanmoins avoir
à l’esprit qu’il s’agit d’un langage à part entière et, au même titre que ce qu’un développeur
fait avec n’importe quel code source, il convient de l’écrire de façon lisible.
• Écriture
– mots clés SQL en MAJUSCULES
– identifiants de colonnes/tables en minuscule
• Formatage
– dissocier les éléments d’une requête
– un prédicat par ligne
– indentation
celle-ci ?
select groupeid,datecreationitem from itemagenda where typeitemagenda = 5 and
groupeid in(12225,12376) and datecreationitem > now() order by groupeid,
datecreationitem ;
ou celle-ci ?
SELECT groupeid, datecreationitem
FROM itemagenda
WHERE typeitemagenda = 5
AND groupeid IN (12225,12376)
AND datecreationitem > now()
ORDER BY groupeid, datecreationitem;
67
https://forum.postgresql.fr/viewtopic.php?id=2610
100
3. INTRODUCTION ET PREMIERS SELECT
3.2.11 COMMENTAIRES
Une requête SQL peut être commentée au même titre qu’un programme standard.
Un commentaire peut aussi se présenter sous la forme d’un bloc de commentaire, le bloc
pouvant occuper plusieurs lignes :
/* Ceci est un commentaire
sur plusieurs
lignes
*/
• DDL
– Data Definition Language
– définit les structures de données
• DML
– Data Manipulation Language
– manipule les données
• DCL
– Data Control Language
– contrôle l’accès aux données
• TCL
– Transaction Control Language
– contrôle les transactions
– implicites si « autocommit »
101
https://dalibo.com/formations
SQL pour PostgreSQL
Le langage SQL est divisé en quatre sous-ensembles qui ont chacun un but différent.
Les ordres DDL (pour Data Definition Language) permettent de définir les structures
de données. On retrouve les ordres suivants :
Les ordres DML (pour Data Manipulation Language) permettent l’accès et la modifica-
tion des données. On retrouve les ordres suivants :
Les ordres DCL (pour Data Control Language) permettent de contrôler l’accès aux don-
nées. Ils permettent plus précisément de donner ou retirer des droits à des utilisateurs
ou des groupes sur les objets de la base de données :
Enfin, les ordres TCL (pour Transaction Control Language) permettent de contrôler
les transactions :
Les ordres BEGIN et COMMIT sont souvent implicites dans le cas d’ordres isolés, si l’« au-
tocommit » est activé. Vous devez entrer donc manuellement BEGIN ; / COMMIT ; pour
faire des transactions de plus d’un ordre. C’est en fait dépendant de l’outil client, et psql
a un paramètre autocommit à on par défaut. Mais ce n’est pas forcément le cas sur votre
configuration précise et le défaut peut être inversé sur d’autres bases de données (notam-
ment Oracle).
Noter que, contrairement à d’autres bases (et surtout Oracle), PostgreSQL n’effectue pas
de COMMIT implicite sur certaines opérations : les ordres CREATE TABLE, DROP TABLE,
102
3. INTRODUCTION ET PREMIERS SELECT
TRUNCATE TABLE... sont transactionnels, n’effectuent aucun COMMIT et peuvent être an-
nulés par ROLLBACK.
• Ordre SELECT
– lecture d’une ou plusieurs tables
– ou appel de fonctions
La lecture des données se fait via l’ordre SELECT. Il permet de récupérer des données
d’une ou plusieurs tables (il faudra dans ce cas joindre les tables). Il permet aussi de faire
appel à des fonctions stockées en base.
SELECT expressions_colonnes
[ FROM elements_from ]
[ WHERE predicats ]
[ ORDER BY expressions_orderby ]
[ LIMIT limite ]
[ OFFSET offset ];
L’ordre SELECT est composé de différents éléments dont la plupart sont optionnels.
L’exemple de syntaxe donné ici n’est pas complet.
68
https://docs.postgresql.fr/current/sql-select.html
103
https://dalibo.com/formations
SQL pour PostgreSQL
La liste de sélection décrit le format de la table virtuelle qui est retournée par l’ordre
SELECT. Les types de données des colonnes retournées seront conformes au type des
éléments donnés dans la liste de sélection.
La liste de sélection décrit le format de la table virtuelle qui est retournée par l’ordre
SELECT. Cette liste est composée d’expressions séparées par une virgule.
Chaque expression peut être une simple constante, peut faire référence à des colonnes
d’une table lue par la requête, et peut être un appel à une fonction.
Une expression peut être plus complexe. Par exemple, elle peut combiner plusieurs con-
stantes et/ou colonnes à l’aide d’opérations. Parmi les opérations les plus classiques,
les opérateurs arithmétiques classiques sont utilisables pour les données numériques.
L’opérateur de concaténation permet de concaténer des chaînes de caractères.
SELECT 1;
?column?
----------
1
(1 row)
Elle peut aussi être une référence à une colonne d’une table :
104
3. INTRODUCTION ET PREMIERS SELECT
SELECT appellation.libelle
FROM appellation;
Le SGBD saura déduire la table et la colonne mises en œuvre dans cette requête. Il faudra
néanmoins utiliser la forme complète table.colonne si la requête met en œuvre des
tables qui possèdent des colonnes qui portent des noms identiques.
Une requête peut sélectionner plusieurs colonnes. Dans ce cas, les expressions de
colonnes sont définies sous la forme d’une liste dont chaque élément est séparé par une
virgule :
SELECT id, libelle, region_id
FROM appellation;
Le joker * permet de sélectionner l’ensemble des colonnes d’une table, elles apparaitront
dans leur ordre physique (attention si l’ordre change !) :
SELECT *
FROM appellation;
Si une requête met en œuvre plusieurs tables, on peut choisir de retourner toutes les
colonnes d’une seule table :
SELECT appellation.*
FROM appellation;
Une expression de colonne peut également être une opération, par exemple une addition :
SELECT 1 + 1;
?column?
----------
2
(1 row)
Ou une soustraction :
SELECT annee, nombre - 10
FROM stock;
105
https://dalibo.com/formations
SQL pour PostgreSQL
• Renommage
– ou alias
– AS :
expression AS alias
• le résultat portera le nom de l’alias
Afin de pouvoir nommer de manière adéquate les colonnes du résultat d’une requête
SELECT, le mot clé AS permet de définir un alias de colonne. Cet alias sera utilisé dans le
résultat pour nommer la colonne en sortie :
SELECT 1 + 1 AS somme;
somme
-------
2
(1 row)
Cet alias n’est pas utilisable dans le reste de la requête (par exemple dans la clause WHERE).
Par défaut, SELECT retourne tous les résultats d’une requête. Parfois, des doublons peu-
vent se présenter dans le résultat. La clause DISTINCT permet de les éviter en réalisant
un dédoublonnage des données avant de retourner le résultat de la requête.
En règle générale, la clause DISTINCT devient inutile lorsqu’elle doit trier un ensemble qui
contient des colonnes qui sont déjà uniques. Si une requête récupère une clé primaire,
les données sont uniques par définition. Le SELECT DISTINCT sera alors transformé en
simple SELECT.
106
3. INTRODUCTION ET PREMIERS SELECT
3.3.6 DÉRIVATION
Les constantes et valeurs des colonnes peuvent être dérivées selon le type des données
manipulées.
Les données numériques peuvent être dérivées à l’aide des opérateurs arithmétiques stan-
dards : +, -, /, *. Elles peuvent faire l’objet d’autres calculs à l’aide de fonctions internes
et de fonctions définies par l’utilisateur.
La requête suivante permet de calculer le volume total en litres de vin disponible dans le
stock du caviste :
SELECT SUM(c.contenance * s.nombre) AS volume_total
FROM stock s
JOIN contenant c
ON (contenant_id=c.id);
Dans la requête suivante, l’opérateur de concaténation est utilisé pour ajouter l’unité. Le
résultat est ainsi implicitement converti en chaîne de caractères.
SELECT SUM(c.contenance * s.nombre) || ' litres' AS volume_total
FROM stock AS s
JOIN contenant AS c
ON (contenant_id=c.id);
De manière générale, il n’est pas recommandé de réaliser les opérations de formatage des
données dans la base de données. La base de données ne doit servir qu’à récupérer les
résultats, le formatage étant assuré par l’application.
107
https://dalibo.com/formations
SQL pour PostgreSQL
Parmi les fonctions les plus couramment utilisés, la fonction now() permet d’obtenir la
date et l’heure courante. Elle ne prend aucun argument. Elle est souvent utilisée, notam-
ment pour affecter automatiquement la valeur de l’heure courante à une colonne.
La fonction age(timestamp) permet de connaître l’âge d’une date par rapport à la date
courante.
Enfin, la fonction count(*) permet de compter le nombre de lignes. Il s’agit d’une fonction
d’agrégat, il n’est donc pas possible d’afficher les valeurs d’autres colonnes sans faire appel
aux capacités de regroupement des lignes de SQL.
Exemples
SELECT now();
now
------------------------------
2017-08-29 14:45:17.213097+02
SELECT char_length('Dalibo');
char_length
-------------
6
108
3. INTRODUCTION ET PREMIERS SELECT
La clause FROM permet de lister les tables qui sont mises en œuvres dans la requêtes
SELECT. Il peut s’agir d’une table physique, d’une vue ou d’une sous-requête. Le résultat
de leur lecture sera une table du point de vue de la requête qui la met en œuvre.
Plusieurs tables peuvent être mises en œuvre, généralement dans le cadre d’une jointure.
• mot-clé AS
– optionnel :
reference_table alias
• la table sera ensuite référencée par l’alias
reference_table [AS] alias
reference_table AS alias (alias_colonne1, ...)
De la même façon qu’on peut créer des alias de colonnes, on peut créer des alias de tables.
La table sera ensuite référencée uniquement par cet alias dans la requête. Elle ne pourra
plus être référencée par son nom réel. L’utilisation du nom réel provoquera d’ailleurs une
erreur.
Le mot clé AS permet de définir un alias de table. Le nom réel de la table se trouve à gauche,
l’alias se trouve à droite. L’exemple suivant définie un alias reg sur la table region :
SELECT id, libelle
FROM region AS reg;
La requête suivante montre l’utilisation d’un alias pour les deux tables mises en œuvre
dans la requête. La table stock a pour alias s et la table contenant a pour alias c. Les deux
tables possèdent toutes les deux une colonnes id, ce qui peut poser une ambiguïté dans
la clause de jointure (ON (contenant_id=c.id)). La condition de jointure portant sur la
colonne contenant_id de la table stock, son nom est unique et ne porte pas à ambiguïté.
La condition de jointure porte également sur la colonne id de table contenant, il faut
préciser le nom complet de la colonne en utilisant le préfixe c pour la nommer : c.id.
SELECT SUM(c.contenance * s.nombre) AS volume_total
FROM stock s
JOIN contenant c
ON (contenant_id=c.id);
Avec PostgreSQL, les noms des objets sont automatiquement convertis en minuscule,
sauf s’ils sont englobés entre des guillemets doubles. Si jamais ils sont créés avec une
casse mixte en utilisant les guillemets doubles, chaque appel à cet objet devra utiliser la
bonne casse et les guillemets doubles. Il est donc conseillé d’utiliser une notation des
objets ne comprenant que des caractères minuscules.
Il est aussi préférable de ne pas utiliser d’accents ou de caractères exotiques dans les
noms des objets.
110
3. INTRODUCTION ET PREMIERS SELECT
La clause WHERE permet de définir des conditions de filtrage des données. Ces conditions
de filtrage sont appelées des prédicats.
Après le traitement de la clause FROM, chaque ligne de la table virtuelle dérivée est vérifiée
avec la condition de recherche. Si le résultat de la vérification est positif (true), la ligne est
conservée dans la table de sortie, sinon (c’est-à-dire si le résultat est faux ou nul) la ligne
est ignorée.
• Comparaison
– =, <, >, <=, >=, <>
• Négation
– NOT
expression operateur_comparaison expression
Un prédicat est composé d’une expression qui est soumise à un opérateur de prédicat
pour être éventuellement comparé à une autre expression. L’opérateur de prédicat re-
tourne alors true si la condition est vérifiée ou false si elle ne l’est pas ou NULL si son
résultat ne peut être calculé.
Les opérateurs de comparaison sont les opérateurs de prédicats les plus souvent utilisés.
L’opérateur d’égalité = peut être utilisé pour vérifier l’égalité de l’ensemble des types de
données supportés par PostgreSQL. Il faudra faire attention à ce que les données com-
parées soient de même type.
L’opérateur NOT est une négation. Si un prédicat est vrai, l’opérateur NOT retournera faux.
À l’inverse, si un prédicat est faux, l’opérateur NOT retournera vrai. La clause NOT se place
devant l’expression entière.
Exemples
SELECT *
FROM region
WHERE id = 3;
SELECT *
FROM region
WHERE NOT id = 3;
• OU logique
– predicat OR predicat
• ET logique
– predicat AND predicat
Au même titre qu’une multiplication ou une division sont prioritaires sur une addition ou
une soustraction dans un calcul, l’évaluation de l’opérateur AND est prioritaire sur celle de
l’opérateur OR. Et, tout comme dans un calcul, il est possible de protéger les opérations
prioritaires en les encadrant de parenthèses.
Exemples
Dans le stock, affiche les vins dont le nombre de bouteilles est inférieur à 2 ou supérieur
à 16 :
SELECT *
FROM stock
WHERE nombre < 2
OR nombre > 16;
112
3. INTRODUCTION ET PREMIERS SELECT
• Comparaison de motif
chaine LIKE motif ESCAPE 'c'
• % : toute chaîne de 0 à plusieurs caractères
– _ : un seul caractère
• Expression régulière POSIX
chaine ~ motif
L’opérateur LIKE permet de réaliser une recherche simple sur motif. La chaîne exprimant
le motif de recherche peut utiliser deux caractères joker : _ et %. Le caractère _ prend la
place d’un caractère inconnu, qui doit toujours être présent. Le caractère % est un joker
qui permet d’exprimer que PostgreSQL doit trouver entre 0 et plusieurs caractères.
Exploiter la clause LIKE avec un motif sans joker ne présente pas d’intérêt. Il est préférable
dans ce cas d’utiliser l’opérateur d’égalité.
Le mot clé ESCAPE 'c' permet de définir un caractère d’échappement pour protéger les
caractères _ et % qui font légitimement partie de la chaîne de caractère du motif évalué.
Lorsque PostgreSQL rencontre le caractère d’échappement indiqué, les caractères _ et %
seront évalués comme étant les caractères _ et % et non comme des jokers.
L’opérateur LIKE dispose d’une déclinaison qui n’est pas sensible à la casse. Il s’agit de
l’opérateur ILIKE.
Exemples
Durand
Dupond
Toutes les chaînes qui commencent par Dupon suivi d’un caractère inconnu. La chaîne
Dupon devrait être ignorée :
SELECT * FROM motif WHERE chaine LIKE 'Dupon_';
chaine
------------
Dupont
Dupond
• Liste de valeurs
expression IN (valeur1 [, ...])
• Chevauchement d’intervalle de valeurs
expression BETWEEN expression AND expression
• Chevauchement d’intervalle de dates
(date1, date2) OVERLAPS (date3, date4)
La clause IN permet de vérifier que l’expression de gauche est égale à une valeur présente
dans l’expression de droite, qui est une liste d’expressions. La négation peut être utilisée
en utilisant la construction NOT IN.
L’opérateur BETWEEN permet de vérifier que la valeur d’une expression est comprise entre
deux bornes. Par exemple, l’expression valeur BETWEEN 1 AND 10 revient à exprimer la
condition suivante : valeur >= 1 AND valeur<= 10. La négation peut être utilisée en
utilisant la construction NOT BETWEEN.
Exemples
114
3. INTRODUCTION ET PREMIERS SELECT
3.3.16 TRIS
La clause ORDER BY permet de trier les lignes du résultat d’une requête selon une ou
plusieurs expressions combinées.
L’expression la plus simple est le nom d’une colonne. Dans ce cas, les lignes seront triées
selon les valeurs de la colonne indiquée, et par défaut dans l’ordre ascendant, c’est-à-dire
de la valeur la plus petite à la plus grande pour une donnée numérique ou temporelle, et
dans l’ordre alphabétique pour une donnée textuelle.
Les lignes peuvent être triées selon une expression plus complexe, par exemple en déri-
vant la valeur d’une colonne.
L’ordre de tri peut être modifié à l’aide de la clause DESC qui permet un tri dans l’ordre
descendant, donc de la valeur la plus grande à la plus petite (ou alphabétique inverse le
cas échéant).
La clause NULLS permet de contrôler l’ordre d’apparition des valeurs NULL. La clause NULLS
FIRST permet de faire apparaître d’abord les valeurs NULL puis les valeurs non NULL selon
l’ordre de tri. La clause NULLS LAST permet de faire apparaître d’abord les valeurs non
NULL selon l’ordre de tri suivies par les valeurs NULL. Si cette clause n’est pas précisée,
alors PostgreSQL utilise implicitement NULLS LAST dans le cas d’un tri ascendant (ASC,
par défaut) ou NULLS FIRST dans le cas d’un tri descendant (DESC, par défaut).
Exemples
SELECT *
FROM region
ORDER BY libelle;
SELECT *
FROM stock
ORDER BY nombre DESC;
115
https://dalibo.com/formations
SQL pour PostgreSQL
Enfin, la clause COLLATE permet d’influencer sur l’ordre de tri des chaînes de caractères.
La clause OFFSET permet d’exclure les n premières lignes du résultat. Toutes les autres
lignes sont ramenées.
La clause FETCH est synonyme de la clause LIMIT. Mais LIMIT est une clause propre à
PostgreSQL et quelques autres SGBD. Il est recommandé d’utiliser FETCH pour se con-
former au standard.
Ces deux opérations peuvent être combinées. La norme impose de faire apparaître la
clause OFFSET avant la clause FETCH. PostgreSQL permet néanmoins d’exprimer ces
clauses dans un ordre différent, mais la requête ne pourra pas être portée sur un autre
SGBD sans transformation.
Il faut faire attention au fait que ces fonctions ne permettent pas d’obtenir des résultats
stables si les données ne sont pas triées explicitement. En effet, le standard SQL ne
garantie en aucune façon l’ordre des résultats à moins d’employer la clause ORDER BY.
Exemples
116
3. INTRODUCTION ET PREMIERS SELECT
(...)
10
(10 rows)
La clause OFFSET 4 permet d’exclure les quatre premières lignes et de retourner les autres
lignes du résultat :
Les clauses LIMIT et OFFSET peuvent être combinées pour ramener les deux lignes en
excluant les quatre premières :
6
(2 rows)
• Clause FROM
– liste de tables séparées par ,
• Une table est combinée avec une autre
– jointure
– produit cartésien
Il est possible d’utiliser plusieurs tables dans une requête SELECT. Lorsque c’est le cas, et
sauf cas particulier, on fera correspondre les lignes d’une table avec les lignes d’une autre
table selon certains critères. Cette mise en correspondance s’appelle une jointure et les
critères de correspondances s’appellent une condition de jointure.
Si aucune condition de jointure n’est donnée, chaque ligne de la première table est mise en
correspondance avec toutes les lignes de la seconde table. C’est un produit cartésien. En
général, un produit cartésien n’est pas souhaitable et est généralement le résultat d’une
erreur de conception de la requête.
Exemples
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (1, 1, 'fille 1');
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (2, 1, 'fille 2');
Pour procéder à une jointure entre les tables mere et fille, les identifiants id_mere de
la table fille doivent correspondre avec les identifiants id de la table mere :
SELECT * FROM mere, fille
WHERE mere.id = fille.id_mere;
id | val_mere | id_fille | id_mere | val_fille
118
3. INTRODUCTION ET PREMIERS SELECT
----+----------+----------+---------+-----------
1 | mere 1 | 1 | 1 | fille 1
1 | mere 1 | 2 | 1 | fille 2
(2 rows)
Un produit cartésien est créé en omettant la condition de jointure, le résultat n’a plus de
sens :
SELECT * FROM mere, fille;
id | val_mere | id_fille | id_mere | val_fille
----+----------+----------+---------+-----------
1 | mere 1 | 1 | 1 | fille 1
1 | mere 1 | 2 | 1 | fille 2
2 | mere 2 | 1 | 1 | fille 1
2 | mere 2 | 2 | 1 | fille 2
(4 rows)
• Type de données
– du standard SQL
– certains spécifiques PostgreSQL
On utilise des types de données pour représenter une information de manière pertinente.
Les valeurs possibles d’une donnée vont dépendre de son type. Par exemple, un entier
long ne permet par exemple pas de coder des valeurs décimales. De la même façon,
119
https://dalibo.com/formations
SQL pour PostgreSQL
un type entier ne permet pas de représenter une chaîne de caractère, mais l’inverse est
possible.
L’intérêt du typage des données est qu’il permet également à la base de données de valider
les données manipulées. Ainsi un entier integer permet de représenter des valeurs com-
prises entre -2,147,483,648 et 2,147,483,647. Si l’utilisateur tente d’insérer une don-
née qui dépasse les capacités de ce type de données, une erreur lui sera retournée. On
retrouve ainsi la notion d’intégrité des données. Comme pour les langages de program-
mation fortement typés, cela permet de détecter davantage d’erreurs, plus tôt : à la com-
pilation dans les langages typés, ou ici des la première exécution d’une requête, plutôt
que plus tard, quand une chaîne de caractère ne pourra pas être convertie à la volée en
entier par exemple.
Le choix d’un type de données va également influencer la façon dont les données sont
représentées. En effet, toute donnée à une représentation textuelle et une représentation
en mémoire et sur disque. Ainsi, un integer est représenté sous la forme d’une suite de 4
octets, manipulables directement par le processeur, alors que sa représentation textuelle
est une suite de caractères. Cela a une implication forte sur les performances de la base
de données.
Le type de données choisi permet également de déterminer les opérations que l’on pourra
appliquer. Tous les types de données permettent d’utiliser des opérateurs qui leur sont
propres. Ainsi il est possible d’additionner des entiers, de concaténer des chaînes de
caractères, etc. Si une opération ne peut être réalisée nativement sur le type de données,
il faudra utiliser des conversions coûteuses. Vaut-il mieux additionner deux entiers issus
d’une conversion d’une chaîne de caractère vers un entier ou additionner directement
deux entiers ? Vaut-il mieux stocker une adresse IP avec un varchar ou avec un type de
données dédié ?
Il est à noter que l’utilisateur peut contrôler lui-même certains types de données
paramétrés. Le paramètre représente la longueur ou la précision du type de données.
Ainsi, un type varchar(15) permettra de représenter des chaînes de caractères de 15
caractères maximum.
120
3. INTRODUCTION ET PREMIERS SELECT
Les types de données standards permettent de traiter la plupart des situations qui peu-
vent survenir. Dans certains cas, il peut être nécessaire de faire appel aux types spéci-
fiques à PostgreSQL, par exemple pour stocker des adresses IP avec le type spécifique
et bénéficier par la même occasion de toutes les classes d’opérateurs qui permettent de
manipuler simplement ce type de données.
• Caractère
– char, varchar
• Numérique
– integer, smallint, bigint
– real, double precision
– numeric, decimal
• Booléen
– boolean
Le standard SQL propose des types standards pour stocker des chaînes de caractères
(de taille fixe ou variable), des données numériques (entières, à virgule flottante) et des
booléens.
121
https://dalibo.com/formations
SQL pour PostgreSQL
• Temporel
– date, time
– timestamp
– interval
• Chaînes de bit
– bit, bit varying
• Formats validés
– JSON
– XML
Le standard SQL propose également des types standards pour stocker des éléments tem-
porels (date, heure, la combinaison des deux avec ou sans fuseau horaire, intervalle).
D’utilisation plus rare, SQL permet également de stocker des chaînes de bit et des don-
nées validées au format XML. Le format JSON est de plus en plus courant.
3.4.5 CARACTÈRES
• char(n)
– longueur fixe
– de n caractères
– complété à droite par des espaces si nécessaire
• varchar(n)
– longueur variable
– maximum n caractères
– n optionnel
Le type char(n) permet de stocker des chaînes de caractères de taille fixe, donnée par
l’argument n. Si la chaîne que l’on souhaite stocker est plus petite que la taille donnée à la
déclaration de la colonne, elle sera complétée par des espaces à droite. Si la chaîne que
l’on souhaite stocker est trop grande, une erreur sera levée.
122
3. INTRODUCTION ET PREMIERS SELECT
• Norme SQL
– chaîne encadrée par '
– 'chaîne de caractères'
• Chaînes avec échappement du style C
– chaîne précédée par E ou e
– E'chaîne de caractères'
• Chaînes avec échappement Unicode
– chaîne précédée par U&
– U&'chaîne de caractères'
La norme SQL définit que les chaînes de caractères sont représentées encadrées de
guillemets simples (caractère '). Le guillemet double (caractère ") ne peut être utilisé
car il sert à protéger la casse des noms d’objets. PostgreSQL interprétera alors la chaîne
comme un nom d’objet et générera une erreur.
Une représentation correcte d’une chaîne de caractères est donc de la forme suivante :
'chaîne de caractères'
Les caractères ' doivent être doublés s’ils apparaissent dans la chaîne :
Une extension de la norme par PostgreSQL permet d’utiliser les méta-caractères des lan-
gages tels que le C, par exemple \n pour un retour de ligne, \t pour une tabulation, etc. :
3.4.7 NUMÉRIQUES
123
https://dalibo.com/formations
SQL pour PostgreSQL
• Entier
– smallint, integer, bigint
– signés
• Virgule flottante
– real, double precision
– valeurs inexactes
• Précision arbitraire
– numeric(precision, echelle), decimal(precision, echelle)
– valeurs exactes
Le standard SQL propose des types spécifiques pour stocker des entiers signés. Le type
smallint permet de stocker des valeurs codées sur 2 octets, soit des valeurs comprises
entre -32768 et +32767. Le type integer ou int, codé sur 4 octets, permet de stocker
des valeurs comprises entre -2147483648 et +2147483647. Enfin, le type bigint, codé
sur 8 octets, permet de stocker des valeurs comprises entre -9223372036854775808
et 9223372036854775807. Le standard SQL ne propose pas de stockage d’entiers non
signés.
Le standard SQL permet de stocker des valeurs décimales en utilisant les types à virgules
flottantes. Avant de les utiliser, il faut avoir à l’esprit que ces types de données ne permet-
tent pas de stocker des valeurs exactes, des différences peuvent donc apparaître entre la
donnée insérée et la donnée restituée. Le type real permet d’exprimer des valeurs à vir-
gules flottantes sur 4 octets, avec une précision relative de six décimales. Le type double
precision permet d’exprimer des valeurs à virgules flottantes sur huit octets, avec une
précision relative de 15 décimales.
On peut aussi utiliser numeric sans aucune contrainte de taille, pour stocker de façon
exacte n’importe quel nombre.
124
3. INTRODUCTION ET PREMIERS SELECT
• Chiffres décimaux : 0 à 9
• Séparateur décimal : .
• chiffres
• chiffres.[chiffres][e[+-]chiffres]
• [chiffres].chiffres[e[+-]chiffres]
• chiffrese[+-]chiffres
• Conversion
– TYPE 'chaine'
Au moins un chiffre doit être placé avant ou après le point décimal, s’il est utilisé. Au
moins un chiffre doit suivre l’indicateur d’exponentiel (caractère e), s’il est présent. Il peut
ne pas y avoir d’espaces ou d’autres caractères imbriqués dans la constante. Notez que
tout signe plus ou moins en avant n’est pas forcément considéré comme faisant part de
la constante ; il est un opérateur appliqué à la constante.
42
3.5
4.
.001
5e2
1.925e-3
Une constante numérique contenant soit un point décimal soit un exposant est tout
d’abord présumée du type integer si sa valeur est contenue dans le type integer (4
octets). Dans le cas contraire, il est présumé de type bigint si sa valeur entre dans un
type bigint (8 octets). Dans le cas contraire, il est pris pour un type numeric. Les con-
stantes contenant des points décimaux et/ou des exposants sont toujours présumées de
type numeric.
125
https://dalibo.com/formations
SQL pour PostgreSQL
3.4.9 BOOLÉENS
• boolean
• 3 valeurs possibles
– TRUE
– FALSE
– NULL (ie valeur absente)
Le type boolean permet d’exprimer des valeurs booléennes, c’est-à-dire une valeur exp-
rimant vrai ou faux. Comme tous les types de données en SQL, une colonne booléenne
peut aussi ne pas avoir de valeur, auquel cas sa valeur sera NULL.
3.4.10 TEMPOREL
• Date
– date
• Heure
– time
– avec ou sans fuseau horaire
• Date et heure
– timestamp
– avec ou sans fuseau horaire
• Intervalle de temps
– interval
Le type date exprime une date. Ce type ne connaît pas la notion de fuseau horaire.
Le type time exprime une heure. Par défaut, il ne connaît pas la notion de fuseau ho-
raire. En revanche, lorsque le type est déclaré comme time with time zone, il prend en
compte un fuseau horaire. Mais cet emploi n’est pas recommandé. En effet, une heure
convertie d’un fuseau horaire vers un autre pose de nombreux problèmes. En effet, le
décalage horaire dépend également de la date : quand il est 6h00, heure d’été, à Paris, il
est 21H00 sur la côte Pacifique aux États-Unis mais encore à la date de la veille.
Le type timestamp permet d’exprimer une date et une heure. Par défaut, il ne connaît pas
la notion de fuseau horaire. Lorsque le type est déclaré timestamp with time zone, il
est adapté aux conversions d’heure d’un fuseau horaire vers un autre car le changement
126
3. INTRODUCTION ET PREMIERS SELECT
de date sera répercuté dans la composante date du type de données. Il est précis à la
microseconde.
La norme ISO (ISO-8601) impose le format de date « année-mois-jour ». La norme SQL est
plus permissive et permet de restituer une date au format « jour/mois/année » si DateStyle
est égal à 'SQL, DMY'.
SET datestyle = 'ISO, DMY';
SELECT current_timestamp;
now
-------------------------------
2017-08-29 16:11:58.290174+02
SELECT current_timestamp;
now
--------------------------------
29/08/2017 16:12:25.650716 CEST
• Conversion explicite
– TYPE 'chaine'
• Format d’un timestamp
– 'YYYY-MM-DD HH24:MI:SS.ssssss'
– 'YYYY-MM-DD HH24:MI:SS.ssssss+fuseau'
– 'YYYY-MM-DD HH24:MI:SS.ssssss' AT TIME ZONE 'fuseau'
• Format d’un intervalle
– INTERVAL 'durée interval'
Expression d’une heure, avec fuseau horaire invariant. Cette forme est déconseillée :
• Paramètre timezone
• Session : SET TIME ZONE
• Expression d’un fuseau horaire
– nom complet : 'Europe/Paris'
– nom abbrégé : 'CEST'
– décalage : '+02'
128
3. INTRODUCTION ET PREMIERS SELECT
Le fuseau horaire de l’instance peut également être défini au cours de la session à l’aide
de la commande SET TIME ZONE.
La France utilise deux fuseaux horaires normalisés. Le premier, CET, correspond à Central
European Time ou autrement dit à l’heure d’hiver en Europe centrale. Le second, CEST,
correspond à Central European Summer Time, c’est-à-dire l’heure d’été en Europe centrale.
La liste des fuseaux horaires supportés est disponible dans la table système pg_timezone_names :
Il est possible de positionner le fuseau horaire au niveau de la session avec l’ordre SET
TIME ZONE :
SELECT now();
now
-------------------------------
2017-08-29 10:19:56.640162+02
SELECT now();
now
-------------------------------
2017-08-29 11:20:17.199983+03
Conversion implicite d’une donnée de type timestamp dans le fuseau horaire courant :
Conversion explicite d’une donnée de type timestamp dans un autre fuseau horaire :
129
https://dalibo.com/formations
SQL pour PostgreSQL
• Chaînes de bits
– bit(n), bit varying(n)
Les types bit et bit varying permettent de stocker des masques de bits. Le type bit(n)
est à longueur fixe alors que le type bit varying(n) est à longueur variable mais avec
un maximum de n bits.
• Représentation binaire
– Chaîne de caractères précédée de la lettre B
– B'01010101'
• Représentation hexadécimale
– Chaîne de caractères précédée de la lettre X
– X'55'
3.4.15 XML
• Type validé
– xml
• Chaîne de caractères
– validation du document XML
Le type xml permet de stocker des documents XML. Par rapport à une chaîne de carac-
tères simple, le type xml apporte la vérification de la structure du document XML ainsi
que des fonctions de manipulations spécifiques (voir la documentation officielle69 ).
69
https://docs.postgresql.fr/current/functions-xml.html
130
3. INTRODUCTION ET PREMIERS SELECT
3.4.16 JSON
Les types json et jsonb permettent de stocker des documents JSON. Ces deux types
permettent de vérifier la structure du document JSON ainsi que des fonctions de ma-
nipulations spécifiques (voir la documentation officielle70 ). On préférera de loin le type
jsonb pour son stockage optimisé (en binaire), et ses fonctionnalités supplémentaires,
notamment en terme d’indexation.
Néanmoins, ces types restent assez proches de la norme car ils définissent au final une
colonne qui utilise un type et des objets standards. Selon le type dérivé utilisé, la colonne
sera de type smallint, integer ou bigint. Une séquence sera également créée et la
colonne prendra pour valeur par défaut la prochaine valeur de cette séquence.
Il est à noter que la notion d’identité apparaît en version 10 et qu’il est préférable de
passer par cette contrainte que par ces types dérivés.
Attention : ces types n’interdisent pas l’insertion manuelle de doublons. Une contrainte
de clé primaire explicite reste nécessaire pour les éviter.
70
https://docs.postgresql.fr/current/functions-json.html
131
https://dalibo.com/formations
SQL pour PostgreSQL
Le type text est l’équivalent du type varchar mais sans limite de taille de la chaîne de
caractère.
• bytea
• array
• enum
• cidr, inet, macaddr
• uuid
• json, jsonb, hstore
• range
Les types standards ne sont pas toujours suffisants pour représenter certaines données.
À l’instar d’autres SGBDR, PostgreSQL propose des types de données pour répondre à
certains besoins.
On notera le type bytea qui permet de stocker des objets binaires dans une table. Le
type array permet de stocker des tableaux et enum des énumérations.
Les types json et hstore permettent de stocker des documents non structurés dans la
base de données. Le premier au format JSON, le second dans un format de type clé/-
valeur. Le type hstore est d’ailleurs particulièrement efficace car il dispose de méthodes
d’indexation et de fonctions de manipulations performantes. Le type json a été completé
par jsonb qui permet de stocker un document JSON binaire et optimisé, et d’accéder à
une propriété sans désérialiser intégralement le document.
Le type range permet de stocker des intervalles de données. Ces données sont ensuite
manipulables par un jeu d’opérateurs dédiés et par le biais de méthodes d’indexation per-
mettant d’accélérer les recherches.
132
3. INTRODUCTION ET PREMIERS SELECT
• Types utilisateurs
– composites
– énumérés (enum)
– intervalles (range)
– scalaires
– tableau
CREATE TYPE
PostgreSQL permet de créer ses propres types de données. Les usages les plus courants
consistent à créer des types composites pour permettre à des fonctions de retourner des
données sous forme tabulaire (retour de type SETOF).
L’utilisation du type énuméré (enum) nécessite aussi la création d’un type spécifique. Le
type sera alors employé pour déclarer les objets utilisant une énumération.
Enfin, si l’on souhaite étendre les types intervalles (range) déjà disponibles, il est néces-
saire de créer un type spécifique.
La création d’un type scalaire est bien plus marginale. Elle permet en effet d’étendre les
types fournis par PostgreSQL mais nécessite d’avoir des connaissances fines des mécan-
ismes de PostgreSQL. De plus, dans la majeure partie des cas, les types standards suffisent
en général à résoudre les problèmes qui peuvent se poser à la conception.
Quant aux types tableaux, ils sont créés implicitement par PostgreSQL quand un utilisa-
teur crée un type personnalisé.
Exemples
3.5 CONCLUSION
3.5.1 BIBLIOGRAPHIE
Ce livre présente les notions essentielles pour modéliser une base de données et utiliser
le langage SQL pour utiliser les bases de données créées. L’auteur appuie ses exercices
sur PostgreSQL.
Ce livre est écrit par une personne ayant participé à l’élaboration du standard SQL. Il
a souhaité montré les bonnes pratiques pour utiliser le SQL pour résoudre un certain
nombre de problèmes de tous les jours. Le livre s’appuie cependant sur la norme SQL-92,
134
3. INTRODUCTION ET PREMIERS SELECT
voire SQL-89. L’édition anglaise SQL for Smarties est bien plus à jour. Pour les anglophones,
la lecture de l’ensemble des livres de Joe Celko est particulièrement recommandée.
Il s’agit du livre de référence sur les performances en SQL. Il dresse un inventaire des
différents cas d’utilisation des index par la base de données, ce qui permettra de mieux
prévoir l’indexation dès la conception. Ce livre s’adresse à un public avancé.
Ce livre s’adresse également à un public avancé. Il présente également les bonnes pra-
tiques lorsque l’on utilise une base de données.
3.5.2 QUESTIONS
71
https://use-the-index-luke.com/fr
135
https://dalibo.com/formations
SQL pour PostgreSQL
Ce TP utilise la base tpc. La base tpc peut être téléchargée depuis https://dali.bo/tp_tpc
(dump de 31 Mo, pour 267 Mo sur le disque au final). Auparavant créer les utilisateurs
depuis le script sur https://dali.bo/tp_tpc_roles.
$ psql < tpc_roles.sql # Exécuter le script de création des rôles
$ createdb --owner tpc_owner tpc # Création de la base
$ pg_restore -d tpc tpc.dump # Une erreur sur un schéma 'public' existant est normale
3. Ajouter 1 au nombre de type réel ’1.42’. Pourquoi ce résultat ? Quel type de don-
nées permet d’obtenir un résultat correct ?
136
3. INTRODUCTION ET PREMIERS SELECT
4. Afficher le contenu de la table pays en classant les pays dans l’ordre alphabétique.
7. Pour chaque pays, afficher son nom et la région du monde dont il fait partie.
nom_pays | nom_region
-------------------------------+---------------------------
ALGÉRIE | Afrique
(...)
Sortie attendue :
count
-------
12418
Sortie attendue :
numero_commande | nom_client
-----------------+--------------
67 | Client112078
68 | Client33842
(...)
10. Afficher les noms et codes des pays qui font partie de la région « Europe ».
Sortie attendue :
nom_pays | code_pays
-----------------------+-----------
ALLEMAGNE | DE
(...)
11. Pour chaque pays, afficher une chaîne de caractères composée de son nom, suivi
entre parenthèses de son code puis, séparé par une virgule, du nom de la région
dont il fait partie.
137
https://dalibo.com/formations
SQL pour PostgreSQL
Sortie attendue :
detail_pays
--------------------------------------------------
ALGÉRIE (DZ), Afrique
(...)
12. Pour les clients ayant passé des commandes durant le mois de janvier 2011, affichez
les identifiants des clients, leur nom, leur numéro de téléphone et le nom de leur
pays.
Sortie attendue :
13. Pour les dix premières commandes de l’année 2011, afficher le numéro de la com-
mande, la date de la commande ainsi que son âge.
Sortie attendue :
138
3. INTRODUCTION ET PREMIERS SELECT
Le type de données real est un type numérique à virgule flottante, codé sur 4 octets. Il
n’offre pas une précision suffisante pour les calculs précis. Son seul avantage est la vitesse
de calcul. Pour effectuer des calculs précis, il vaut mieux privilégier le type de données
numeric.
4. Afficher le contenu de la table pays en classant les pays dans l’ordre alphabétique.
SELECT * FROM pays ORDER BY nom_pays;
SELECT * FROM pays WHERE nom_pays LIKE '%a%' OR nom_pays LIKE '%A%';
En terme de performances, la seconde variante sera plus rapide sur un volume de données
important si l’on dispose du bon index. La taille de la table pays ne permet pas d’observer
de différence significative sur cette requête.
7. Pour chaque pays, afficher son nom et la région du monde dont il fait partie :
SELECT nom_pays, nom_region
FROM pays p, regions r
WHERE p.region_id = r.region_id;
À noter que cette syntaxe est obsolète, il faut utiliser la clause JOIN, plus lisible et plus
complète, qui sera vue plus loin :
SELECT count(*)
FROM clients cl
JOIN contacts cn ON (cl.contact_id = cn.contact_id)
JOIN pays p ON (cn.code_pays = p.code_pays)
WHERE p.nom_pays IN ('FRANCE', 'ALLEMAGNE');
En connaissant les codes de ces pays, il est possible d’éviter la lecture de la table pays :
SELECT count(*)
FROM clients cl, contacts cn
WHERE cl.contact_id = cn.contact_id
AND cn.code_pays IN ('FR', 'DE');
140
3. INTRODUCTION ET PREMIERS SELECT
10. Afficher les noms et codes des pays qui font partie de la région « Europe ».
SELECT nom_pays, code_pays
FROM regions r, pays p
WHERE r.region_id = p.region_id
AND r.nom_region = 'Europe';
11. Pour chaque pays, afficher une chaîne de caractères composée de son nom, suivi
entre parenthèses de son code puis, séparé par une virgule, du nom de la région
dont il fait partie.
SELECT nom_pays || ' (' || code_pays || '), ' || nom_region
FROM regions r, pays p
WHERE r.region_id = p.region_id;
12. Pour les clients ayant passé des commandes durant le mois de janvier 2011, affichez
les identifiants des clients, leur nom, leur numéro de téléphone et le nom de leur
pays.
SELECT cl.client_id, nom, telephone, nom_pays
FROM clients cl, commandes cm, contacts cn, pays p
WHERE cl.client_id = cm.client_id
AND cl.contact_id = cn.contact_id
AND cn.code_pays = p.code_pays
AND date_commande BETWEEN '2011-01-01' AND '2011-01-31';
13. Pour les dix premières commandes de l’année 2011, afficher le numéro de la com-
mande, la date de la commande ainsi que son âge.
SELECT numero_commande, date_commande, now() - date_commande AS age
FROM commandes
WHERE date_commande BETWEEN '2011-01-01' AND '2011-12-31'
ORDER BY date_commande
LIMIT 10;
142
4. CRÉATION D’OBJET ET MISES À JOUR
4.1 INTRODUCTION
Le module précédent nous a permis de voir comment lire des données à partir de requêtes
SQL. Ce module a pour but de présenter la création et la gestion des objets dans la base
de données (par exemple les tables), ainsi que l’ajout, la suppression et la modification de
données.
4.1.1 MENU
4.1.2 OBJECTIFS
143
https://dalibo.com/formations
SQL pour PostgreSQL
4.2 DDL
• DDL
– Data Definition Language
– langage de définition de données
• Permet de créer des objets dans la base de données
Les ordres DDL (acronyme de Data Definition Language) permettent de créer des ob-
jets dans la base de données et notamment la structure de base du standard SQL : les
tables.
La norme SQL définit un certain nombre d’objets standards qu’il est possible de créer
en utilisant les ordres DDL. D’autres types d’objets existent bien entendu, comme les
domaines. Les ordres DDL permettent également de créer des index, bien qu’ils ne soient
pas définis dans la norme SQL.
La seule structure de données possible dans une base de données relationnelle est la
table.
144
4. CRÉATION D’OBJET ET MISES À JOUR
• Ordre CREATE
• Syntaxe spécifique au type d’objet
• Exemple :
CREATE SCHEMA s1;
La création d’objet passe généralement par l’ordre CREATE. La syntaxe dépend fortement
du type d’objet. Voici trois exemples :
CREATE SCHEMA s1;
CREATE TABLE t1 (c1 integer, c2 text);
CREATE SEQUENCE s1 INCREMENT BY 5 START 10;
Pour créer un objet, il faut être propriétaire du schéma ou de la base auquel appartiendra
l’objet ou avoir le droit CREATE sur le schéma ou la base.
• Ordre ALTER
• Syntaxe spécifique pour modifier la définition d’un objet, exemple:
• renommage
ALTER type_objet ancien_nom RENAME TO nouveau_nom ;
• changement de propriétaire
ALTER type_objet nom_objet OWNER TO proprietaire ;
• changement de schéma
ALTER type_objet nom_objet SET SCHEMA nom_schema ;
Modifier un objet veut dire modifier ses propriétés. On utilise dans ce cas l’ordre ALTER.
Il faut être propriétaire de l’objet pour pouvoir le faire.
Deux propriétés sont communes à tous les objets : le nom de l’objet et son propriétaire.
Deux autres sont fréquentes et dépendent du type de l’objet : le schéma et le tablespace.
Les autres propriétés dépendent directement du type de l’objet.
145
https://dalibo.com/formations
SQL pour PostgreSQL
• Ordre DROP
• Exemples :
– supprimer un objet :
DROP type_objet nom_objet ;
– supprimer un objet et ses dépendances :
DROP type_objet nom_objet CASCADE ;
Seul un propriétaire peut supprimer un objet. Il utilise pour cela l’ordre DROP. Pour les
objets ayant des dépendances, l’option CASCADE permet de tout supprimer d’un coup.
C’est très pratique, et c’est en même temps très dangereux : il faut donc utiliser cette
option à bon escient.
4.2.5 SCHÉMA
Les schémas sont utilisés pour répartir les objets de façon logique, suivant un schéma
interne à l’entreprise. Ils servent aussi à faciliter la gestion des droits (il suffit de révoquer
le droit d’utilisation d’un schéma à un utilisateur pour que les objets contenus dans ce
schéma ne soient plus accessibles à cet utilisateur).
Un schéma public est créé par défaut dans toute nouvelle base de données. Tout le
monde a le droit d’y créer des objets. Il est cependant possible de révoquer ce droit ou
supprimer ce schéma.
146
4. CRÉATION D’OBJET ET MISES À JOUR
L’ordre CREATE SCHEMA permet de créer un schéma. Il suffit de lui spécifier le nom du
schéma. CREATE SCHEMA offre d’autres possibilités qui sont rarement utilisées.
Enfin, l’ordre DROP SCHEMA permet de supprimer un schéma. La clause IF EXISTS permet
d’éviter la levée d’une erreur si le schéma n’existe pas (très utile dans les scripts SQL). La
clause CASCADE permet de supprimer le schéma ainsi que tous les objets qui sont posi-
tionnés dans le schéma.
Exemples
La suppression directe du schéma ne fonctionne pas car il porte encore la table communes :
DROP SCHEMA reference;
ERROR: cannot drop schema reference because other objects depend on it
DETAIL: table reference.communes depends on schema reference
HINT: Use DROP ... CASCADE to drop the dependent objects too.
147
https://dalibo.com/formations
SQL pour PostgreSQL
• Nommage explicite
– nom_schema.nom_objet
• Chemin de recherche de schéma
– paramètre search_path
– SET search_path = schema1,schema2,public;
– par défaut : $user, public
SHOW search_path;
search_path
----------------
"$user",public
(1 row)
Pour obtenir une configuration particulière, la variable search_path peut être position-
née dans le fichier postgresql.conf :
search_path = '"$user",public'
Cette variable peut aussi être positionnée au niveau d’un utilisateur. Chaque fois que
l’utilisateur se connectera, il prendra le search_path de sa configuration spécifique :
Cela peut aussi se faire au niveau d’une base de données. Chaque fois qu’un utilisateur
se connectera à la base, il prendra le search_path de cette base, sauf si l’utilisateur a déjà
une configuration spécifique :
148
4. CRÉATION D’OBJET ET MISES À JOUR
Enfin, la variable search_path peut être modifiée dynamiquement dans la session avec
la commande SET :
Avant la version 9.3, les requêtes préparées et les fonctions conservaient en mémoire
le plan d’exécution des requêtes. Ce plan ne faisait plus référence aux noms des ob-
jets mais à leurs identifiants. Du coup, un search_path changeant entre deux exécu-
tions d’une requête préparée ou d’une fonction ne permettait pas de cibler une table
différente. Voici un exemple le montrant :
-- création des objets
CREATE SCHEMA s1;
CREATE SCHEMA s2;
CREATE TABLE s1.t1 (c1 text);
CREATE TABLE s2.t1 (c1 text);
INSERT INTO s1.t1 VALUES('schéma s1');
INSERT INTO s2.t1 VALUES('schéma s2');
EXECUTE req;
c1
-----------
schéma s1
(1 row)
EXECUTE req;
c1
-----------
schéma s1
(1 row)
4.2.8 SÉQUENCES
• Séquence
– génère une séquence de nombres
• Paramètres
– valeur minimale MINVALUE
– valeur maximale MAXVALUE
– valeur de départ START
– incrément INCREMENT
– cache CACHE
– cycle autorisé CYCLE
Les séquences sont des objets standards qui permettent de générer des séquences de
valeur. Elles sont utilisées notamment pour générer un numéro unique pour un identifiant
ou, plus rarement, pour disposer d’un compteur informatif, mis à jour au besoin.
150
4. CRÉATION D’OBJET ET MISES À JOUR
transactions. Il permet en revanche d’améliorer les performances sur des applications qui
utilisent massivement des numéros de séquences, notamment pour réaliser des insertions
massives.
Le mot clé TEMPORARY ou TEMP permet de définir si la séquence est temporaire. Si tel est
le cas, elle sera détruite à la déconnexion de l’utilisateur.
SELECT nextval('testseq');
nextval
---------
4
SELECT nextval('testseq');
nextval
---------
5
SELECT nextval('testseq');
151
https://dalibo.com/formations
SQL pour PostgreSQL
nextval
---------
3
Les propriétés de la séquence peuvent être modifiés avec l’ordre ALTER SEQUENCE.
Le mot clé CASCADE permet de supprimer la séquence ainsi que tous les objets dépendants
(par exemple la valeur par défaut d’une colonne).
152
4. CRÉATION D’OBJET ET MISES À JOUR
La fonction currval() permet d’obtenir le numéro de séquence courant, mais son usage
nécessite d’avoir utilisé nextval() dans la session.
Il est possible d’interroger une séquence avec une requête SELECT. Cela permet d’obtenir
des informations sur la séquence, dont la dernière valeur utilisée dans la colonne
last_value. Cet usage n’est pas recommandé en production et doit plutôt être utilisé à
titre informatif.
Exemples
SELECT currval('testseq');
ERROR: currval of sequence "testseq" is not yet defined in this session
153
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT nextval('testseq');
nextval
---------
15
(1 row)
SELECT currval('testseq');
currval
---------
15
SELECT nextval('testseq');
nextval
---------
16
(1 row)
SELECT nextval('testseq');
nextval
---------
1
\d t2
Table "s2.t2"
Column | Type | Modifiers
--------+---------+-------------------------------------------------
154
4. CRÉATION D’OBJET ET MISES À JOUR
\d t2
Table "s2.t2"
Column | Type | Modifiers
--------+---------+-----------
id | integer | not null
• Type serial/bigserial/smallserial
– séquence générée automatiquement
– valeur par défaut nextval(...)
• (v 10+) Préférer un entier avec IDENTITY
PostgreSQL ne possède identity qu’à partir de la v 10. Jusqu’en 9.6 on pourra utiliser
serial un équivalent qui s’appuie sur les séquences et la possibilité d’appliquer une valeur
par défaut à une colonne.
On s’aperçoit que table a été créée telle que demandé, mais qu’une séquence a aussi été
créée. Elle porte un nom dérivé de la table associé à la colonne correspondant au type
serial, terminé par seq :
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-----------------------+----------+--------
155
https://dalibo.com/formations
SQL pour PostgreSQL
smallserial et bigserial sont des variantes de serial s’appuyant sur des types
d’entiers plus courts ou plus longs.
4.2.14 DOMAINES
• Permet d’associer
– un type standard
– et une contrainte (optionnelle)
Un domaine est utilisé pour définir un type utilisateur qui est en fait un type utilisateur
standard accompagné de la définition de contraintes particulières.
Les domaines sont utiles pour ramener la définition de contraintes communes à plusieurs
colonnes sur un seul objet. La maintenance en est ainsi facilitée.
L’ordre CREATE DOMAIN permet de créer un domaine, ALTER DOMAIN permet de modifier
sa définition, et enfin, DROP DOMAIN permet de supprimer un domaine.
Exemples
\d employes
Table « public.employes »
Colonne | Type | NULL-able | Par défaut
---------+---------+------------+--------------------------------------
156
4. CRÉATION D’OBJET ET MISES À JOUR
CHECK(
VALUE ~ '^\d{5}$'
OR VALUE ~ '^\d{5}-\d{4}$'
);
INSERT 0 1
4.2.15 TABLES
La table est l’élément de base d’une base de données. Elle est composée de colonnes (à
sa création) et est remplie avec des enregistrements (lignes de la table). Sa définition peut
aussi faire intervenir des contraintes, qui sont au niveau table ou colonne.
158
4. CRÉATION D’OBJET ET MISES À JOUR
Pour créer une table, il faut donner son nom et la liste des colonnes. Une colonne est
définie par son nom et son type, mais aussi des contraintes optionnelles.
Des options sont possibles pour les tables, comme les clauses de stockage. Dans ce cas,
on sort du contexte logique pour se placer au niveau physique.
La création d’une table passe par l’ordre CREATE TABLE. La définition des colonnes et des
contraintes sont entre parenthèse après le nom de la table.
Les colonnes sont indiquées l’une après l’autre, en les séparant par des virgules.
Deux informations sont obligatoires pour chaque colonne : le nom et le type de la colonne.
Dans le cas d’une colonne contenant du texte, il est possible de fournir le collationnement
de la colonne. Quelque soit la colonne, il est ensuite possible d’ajouter des contraintes.
159
https://dalibo.com/formations
SQL pour PostgreSQL
• DEFAULT
– affectation implicite
• Utiliser directement par les types sériés
La clause DEFAULT permet d’affecter une valeur par défaut lorsqu’une colonne n’est pas
référencée dans l’ordre d’insertion ou si une mise à jour réinitialise la valeur de la colonne
à sa valeur par défaut.
Les types sériés définissent une valeur par défaut sur les colonnes de ce type. Cette valeur
est le retour de la fonction nextval() sur la séquence affectée automatiquement à cette
colonne.
Exemples
160
4. CRÉATION D’OBJET ET MISES À JOUR
L’ordre CREATE TABLE permet également de créer une table à partir de la définition d’une
table déjà existante en utilisant la clause LIKE en lieu et place de la définition habituelles
des colonnes. Par défaut, seule la définition des colonnes avec leur typage est repris.
• ALTER TABLE
• Définition de la table
– renommage de la table
– ajout/modification/suppression d’une colonne
– déplacement dans un schéma différent
– changement du propriétaire
• Définition des colonnes
– renommage d’une colonne
– changement de type d’une colonne
• Définition des contraintes
– ajout/suppression d’une contrainte
161
https://dalibo.com/formations
SQL pour PostgreSQL
Pour modifier la définition d’une table (et non pas son contenu), il convient d’utiliser l’ordre
ALTER TABLE. Il permet de traiter la définition de la table (nom, propriétaire, schéma, liste
des colonnes), la définition des colonnes (ajout, modification de nom et de type, suppres-
sion... mais pas de changement au niveau de leur ordre), et la définition des contraintes
(ajout et suppression).
Suivant l’opération réalisée, les verrous posés ne seront pas les mêmes, même si le verrou
par défaut sera un verrou exclusif. Par exemple, renommer une table nécessite un verrou
exclusif mais changer la taille de l’échantillon statistiques bloque uniquement certaines
opérations de maintenance (comme VACUUM et ANALYZE) et certaines opérations DDL. Il
convient donc d’être très prudent lors de l’utilisation de la commande ALTER TABLE sur
un serveur en production.
Certaines opérations nécessitent de vérifier les données. C’est évident lors de l’ajout
d’une contrainte (comme une clé primaire ou une contrainte NOT NULL), mais c’est aussi
le cas lors d’un changement de type de données. Passer une colonne du type text vers
le type timestamp nécessite de vérifier que les données de cette colonne ne contien-
nent que des données convertibles vers le type timestamp. Dans les anciennes ver-
sions, la vérification était effectuée en permanence, y compris pour des cas simples où
cela n’était pas nécessaire. Par exemple, convertir une colonne du type varchar(200) à
varchar(100) nécessite de vérifier que la colonne ne contient que des chaînes de carac-
tères de longueur inférieure à 100. Mais convertir une colonne du type varchar(100)
vers le type varchar(200) ne nécessite pas de vérification. Les dernières versions de
PostgreSQL font la différence, ce qui permet d’éviter de perdre du temps pour une vérifi-
cation inutile.
Certaines opérations nécessitent une réécriture de la table. Par exemple, convertir une
colonne de type varchar(5) vers le type int4 impose une réécriture de la table car il n’y a
pas de compatibilité binaire entre les deux types. Ce n’est pas le cas si la modification est
uniquement sur la taille d’une colonne varchar. Certaines optimisations sont ajoutées
sur les nouvelles versions de PostgreSQL. Par exemple, l’ajout d’une colonne avec une
valeur par défaut causait la réécriture complète de la table pour intégrer la valeur de
cette nouvelle colonne alors que l’ajout d’une colonne sans valeur par défaut n’avait pas
la même conséquence. À partir de la version 11, cette valeur par défaut est enregistrée
dans la colonne attmissingval du catalogue système pg_attribute et la table n’a de ce
fait plus besoin d’être réécrite.
162
4. CRÉATION D’OBJET ET MISES À JOUR
Il convient donc d’être très prudent lors de l’utilisation de la commande ALTER TABLE.
Elle peut poser des problèmes de performances, à cause de verrous posés par d’autres
commandes, de verrous qu’elle réclame, de vérification des données, voire de réécriture
de la table.
L’ordre DROP TABLE permet de supprimer une table. L’ordre DROP TABLE ... CASCADE
permet de supprimer une table ainsi que tous ses objets dépendants. Il peut s’agir de
séquences rattachées à une colonne d’une table, à des colonnes référençant la table à
supprimer, etc.
• ACID
– Cohérence
– une transaction amène la base d’un état stable à un autre
• Assurent la cohérence des données
– unicité des enregistrements
– intégrité référentielle
– vérification des valeurs
– identité des enregistrements
– règles sémantiques
Les données dans les différentes tables ne sont pas indépendantes mais obéissent à des
règles sémantiques mises en place au moment de la conception du modèle conceptuel des
données. Les contraintes d’intégrité ont pour principal objectif de garantir la cohérence
des données entre elles, et donc de veiller à ce qu’elles respectent ces règles sémantiques.
Si une insertion, une mise à jour ou une suppression viole ces règles, l’opération est pure-
ment et simplement annulée.
163
https://dalibo.com/formations
SQL pour PostgreSQL
Une clé primaire permet d’identifier une ligne de façon unique, il n’en existe qu’une seule
par table.
Une clé primaire garantit que toutes les valeurs de la ou des colonnes qui composent
cette clé sont uniques et non nulles. Elle peut être composée d’une seule colonne ou de
plusieurs colonnes, selon le besoin.
Les clés primaires créent implicitement un index qui permet de renforcer cette contrainte.
Construction :
[CONSTRAINT nom_contrainte]
PRIMARY KEY ( nom_colonne [, ... ] )
Exemples
PRIMARY KEY(id)
);
164
4. CRÉATION D’OBJET ET MISES À JOUR
Une contrainte d’unicité permet de garantir que les valeurs de la ou des colonnes sur
lesquelles porte la contrainte sont uniques. Elle autorise néanmoins d’avoir plusieurs
valeurs NULL car elles ne sont pas considérées comme égales mais de valeur inconnue
(UNKNOWN).
Une contrainte d’unicité peut être créée simplement en créant un index UNIQUE approprié.
Ceci est fortement déconseillé du fait que la contrainte ne sera pas référencée comme
telle dans le schéma de la base de données. Il sera donc très facile de ne pas la remar-
quer au moment d’une reprise du schéma pour une évolution majeure de l’application.
Une colonne possédant un index UNIQUE peut malgré tout être référencée par une clé
étrangère.
Les contraintes d’unicité créent implicitement un index qui permet de renforcer cette
unicité.
165
https://dalibo.com/formations
SQL pour PostgreSQL
Construction :
[ CONSTRAINT nom_contrainte]
{ UNIQUE ( nom_colonne [, ... ] )
Une clé étrangère sur une table fait référence à une clé primaire ou une contrainte
d’unicité d’une autre table. La clé étrangère garantit que les valeurs des colonnes de
cette clé existent également dans la table portant la clé primaire ou la contrainte d’unicité.
On parle de contrainte référentielle d’intégrité : la contrainte interdit les valeurs qui
n’existent pas dans la table référencée.
Ainsi, la base cave définit une table region et une table appellation. Une appella-
tion d’origine est liée au terroir, et par extension à son origine géographique. La table
appellation est donc liée par une clé étrangère à la table region : la colonne region_id
de la table appellation référence la colonne id de la table region.
Cette contrainte permet d’empêcher les utilisateurs d’entrer dans la table appellation
des identifiants de région (region_id) qui n’existent pas dans la table region.
166
4. CRÉATION D’OBJET ET MISES À JOUR
4.2.29 EXEMPLE
Exemples
PRIMARY KEY(vin_id,contenant_id,annee),
Création d’une table mère et d’une table fille. La table fille possède une clé étrangère qui
référence la table mère :
167
https://dalibo.com/formations
SQL pour PostgreSQL
168
4. CRÉATION D’OBJET ET MISES À JOUR
La directive MATCH permet d’indiquer si la contrainte doit être entièrement vérifiée (MATCH
FULL) ou si la clé étrangère autorise des valeurs NULL (MATCH SIMPLE). MATCH SIMPLE est
la valeur par défaut.
Avec MATCH FULL, toutes les valeurs des colonnes qui composent la clé étrangère de la
table référençant doivent avoir une correspondance dans la table référencée.
Avec MATCH SIMPLE, les valeurs des colonnes qui composent la clé étrangère de la ta-
ble référençant peuvent comporter des valeurs NULL. Dans le cas des clés étrangères
multi-colonnes, toutes les colonnes peuvent ne pas être renseignées. Dans le cas des
clés étrangères sur une seule colonne, la contrainte autorise les valeurs NULL.
Exemples
Les exemples reprennent les tables mere et fille créées plus haut.
INSERT INTO fille VALUES (4, NULL, 'test');
----+---------+------
1 | 1 | val1
2 | 2 | val2
4 | | test
(2 rows)
Cette contrainte permet d’avoir une colonne dont la valeur est incrémentée automatique-
ment, soit en permanence (clause ALWAYS), soit quand aucune valeur n’est saisie (clause
BY DEFAULT). Cette technique d’auto-incrémentation correspond au standard SQL, con-
trairement au pseudo-type serial qui était utilisé jusqu’à la version 10.
De plus, elle corrige certains défauts de ce pseudo-type. Avec le type serial, l’utilisation
de CREATE TABLE .. LIKE copiait la contrainte de valeur par défaut sans changer le nom
de la séquence. Il n’est pas possible d’ajouter ou de supprimer un pseudo-type serial
avec l’instruction ALTER TABLE. La suppression de la contrainte DEFAULT d’un type serial
ne supprime pas la séquence associée. Tout ceci fait que la définition d’une colonne
d’identité est préférable à l’utilisation du pseudo-type serial.
Il reste obligatoire de définir une clé primaire ou unique si l’on tient à l’unicité des valeurs
car même une clause GENERATED ALWAYS AS IDENTITY peut être contournée avec une
mise à jour portant la mention OVERRIDING SYSTEM VALUE.
Exemple :
CREATE table personnes (id int GENERATED ALWAYS AS IDENTITY, nom TEXT);
CREATE TABLE
170
4. CRÉATION D’OBJET ET MISES À JOUR
Si des valeurs d’une clé primaire sont mises à jour ou supprimées, cela peut entrainer des
171
https://dalibo.com/formations
SQL pour PostgreSQL
incohérences dans la base de données si des valeurs de clés étrangères font référence
aux valeurs de la clé primaire touchées par le changement.
Afin de pouvoir gérer cela, la norme SQL prévoit plusieurs comportements possibles.
La clause ON UPDATE permet de définir comment le SGBD va réagir si la clé primaire
référencée est mise à jour. La clause ON DELETE fait de même pour les suppressions.
• NO ACTION (ou RESTRICT), qui produit une erreur si une ligne référence encore le
ou les lignes touchées par le changement ;
• CASCADE, pour laquelle la mise à jour ou la suppression est propagée aux valeurs
référençant le ou les lignes touchées par le changement ;
• SET NULL, la valeur de la colonne devient NULL ;
• SET DEFAULT, pour lequel la valeur de la colonne prend la valeur par défaut de la
colonne.
Le comportement par défaut est NO ACTION, ce qui est habituellement recommandé pour
éviter les suppressions en chaîne mal maîtrisées.
Exemples
Les exemples reprennent les tables mere et fille créées plus haut.
Tentative d’insertion d’une ligne dont la valeur de mere_id n’existe pas dans la table mere :
Mise à jour d’une ligne de la table mere pour modifier son id. La clé étrangère est déclarée
ON UPDATE NO ACTION, donc la mise à jour devrait être interdite :
Suppression d’une ligne de la table mere. La clé étrangère sur fille est déclarée ON
DELETE CASCADE, la suppression sera donc propagée aux tables qui référencent la table
mere :
172
4. CRÉATION D’OBJET ET MISES À JOUR
2 | 2 | val2
(1 row)
4.2.34 VÉRIFICATIONS
La clause NOT NULL permet de s’assurer que la valeur de la colonne portant cette con-
trainte est renseignée. Dis autrement, elle doit obligatoirement être renseignée. Par dé-
faut, la colonne peut avoir une valeur NULL, donc n’est pas obligatoirement renseignée.
La clause CHECK spécifie une expression de résultat booléen que les nouvelles lignes ou
celles mises à jour doivent satisfaire pour qu’une opération d’insertion ou de mise à jour
réussisse. Les expressions de résultat TRUE ou UNKNOWN réussissent. Si une des lignes
de l’opération d’insertion ou de mise à jour produit un résultat FALSE, une exception est
levée et la base de données n’est pas modifiée. Une contrainte de vérification sur une
colonne ne fait référence qu’à la valeur de la colonne tandis qu’une contrainte sur la table
fait référence à plusieurs colonnes.
Par défaut, toutes les contraintes d’intégrité sont vérifiées lors de l’exécution de chaque
ordre SQL de modification, y compris dans une transaction. Cela peut poser des prob-
lèmes de cohérences de données : insérer dans une table fille alors qu’on n’a pas encore
inséré les données dans la table mère, la clé étrangère de la table fille va rejeter l’insertion
et annuler la transaction.
173
https://dalibo.com/formations
SQL pour PostgreSQL
Le moment où les contraintes sont vérifiées est modifiable dynamiquement par l’ordre
SET CONSTRAINTS :
SET CONSTRAINTS { ALL | nom [, ...] } { DEFERRED | IMMEDIATE }
mais ce n’est utilisable que pour les contraintes déclarées comme déferrables.
• cette erreur survient aussi dans le cas où on demande que la vérification des con-
traintes soit différée pour cette transaction :
BEGIN;
SET CONSTRAINTS ALL DEFERRED;
UPDATE mere SET id=3 WHERE id=1;
ERROR: update or delete on table "mere" violates foreign key constraint
"fk_mere_fille" on table "fille"
DETAIL: Key (id)=(1) is still referenced from table "fille".
BEGIN;
SET CONSTRAINTS all deferred;
UPDATE mere SET id=3 WHERE id=1;
SELECT * FROM mere;
id | t
174
4. CRÉATION D’OBJET ET MISES À JOUR
----+------
2 | val2
3 | val1
(2 rows)
• Un trigger
– si une contrainte porte sur plusieurs tables
– si sa vérification nécessite une sous-requête
• Préférer les contraintes déclaratives
Les contraintes d’intégrités du SGBD ne permettent pas d’exprimer une contrainte qui
porte sur plusieurs tables ou simplement si sa vérification nécessite une sous-requête.
Dans ce cas là, il est nécessaire d’écrire un trigger spécifique qui sera déclenché après
chaque modification pour valider la contrainte.
Il ne faut toutefois pas systématiser l’utilisation de triggers pour valider des contraintes
d’intégrité. Cela aurait un impact fort sur les performances et sur la maintenabilité de
la base de données. Il vaut mieux privilégier les contraintes déclaratives et n’envisager
l’emploi de triggers que dans les cas où ils sont réellement nécessaires.
175
https://dalibo.com/formations
SQL pour PostgreSQL
L’ordre SELECT permet de lire une ou plusieurs tables. Les mises à jours utilisent des ordres
distincts.
L’ordre INSERT permet d’ajouter ou insérer des données dans une table. L’ordre UPDATE
permet de modifier des lignes déjà existantes. Enfin, l’ordre DELETE permet de supprimer
des lignes. Ces ordres ne peuvent travailler que sur une seule table à la fois. Si on
souhaite par exemple insérer des données dans deux tables, il est nécessaire de réaliser
deux INSERT distincts.
L’ordre INSERT insère de nouvelles lignes dans une table. Il permet d’insérer une ou
plusieurs lignes spécifiées par les expressions de valeur, ou zéro ou plusieurs lignes
provenant d’une requête.
La liste des noms de colonnes est optionnelle. Si elle n’est pas spécifiée, alors PostgreSQL
utilisera implicitement la liste de toutes les colonnes de la table dans l’ordre de leur décla-
ration, ou les N premiers noms de colonnes si seules N valeurs de colonnes sont fournies
dans la clause VALUES ou dans la requête. L’ordre des noms des colonnes dans la liste n’a
pas d’importance particulière, il suffit de nommer les colonnes mises à jour.
Chaque colonne absente de la liste, implicite ou explicite, se voit attribuer sa valeur par
défaut, s’il y en a une ou NULL dans le cas contraire. Les expressions de colonnes qui
176
4. CRÉATION D’OBJET ET MISES À JOUR
La clause VALUES permet de définir une liste d’expressions qui va constituer la ligne à in-
sérer dans la base de données. Les éléments de cette liste d’expression sont séparés par
une virgule. Cette liste d’expression est composée de constantes ou d’appels à des fonc-
tions retournant une valeur, pour obtenir par exemple la date courante ou la prochaine
valeur d’une séquence. Les valeurs fournies par la clause VALUES ou par la requête sont
associées à la liste explicite ou implicite des colonnes de gauche à droite.
Exemples
L’ordre INSERT peut aussi prendre une requête SQL en entrée. Dans ce cas, INSERT va
insérer autant de lignes dans la table d’arrivée qu’il y a de lignes retournées par la re-
quête SELECT. L’ordre des colonnes retournées par SELECT doit correspondre à l’ordre
des colonnes de la liste des colonnes. Leur type de données doit également correspon-
dre.
Exemples
Insertion dans une table stock2 à partir d’une requête SELECT sur la table stock1 :
INSERT INTO stock2 (vin_id, contenant_id, annee, nombre)
SELECT vin_id, contenant_id, annee, nombre FROM stock;
177
https://dalibo.com/formations
SQL pour PostgreSQL
Il est préférable de lister explicitement les colonnes touchées par l’ordre INSERT afin de
garder un ordre d’insertion déterministe. En effet, l’ordre des colonnes peut changer
notamment lorsque certains ETL sont utilisés pour modifier le type d’une colonne
varchar(10) en varchar(11). Par exemple, pour la colonne username, l’ETL Kettle
génère les ordres suivants :
ALTER TABLE utilisateurs ADD COLUMN username_KTL VARCHAR(11);
UPDATE utilisateurs SET username_KTL=username;
ALTER TABLE utilisateurs DROP COLUMN username;
ALTER TABLE utilisateurs RENAME username_KTL TO username
Il génère des ordres SQL inutiles et consommateurs d’entrées/sorties disques car il doit
générer des ordres SQL compris par tous les SGBD du marché. Or, tous les SGBD ne
permettent pas de changer le type d’une colonne aussi simplement que dans PostgreSQL.
Exemples
178
4. CRÉATION D’OBJET ET MISES À JOUR
• Ordre UPDATE
• Met à jour une ou plusieurs colonnes d’une même ligne
– à partir des valeurs de la requête
– à partir des anciennes valeurs
– à partir d’une requête SELECT
– à partir de valeurs d’une autre table
UPDATE nom_table
SET
{
nom_colonne = { expression | DEFAULT }
|
( nom_colonne [, ...] ) = ( { expression | DEFAULT } [, ...] )
} [, ...]
[ FROM liste_from ]
[ WHERE condition | WHERE CURRENT OF nom_curseur ]
L’ordre UPDATE ne met à jour que les lignes qui satisfont les conditions de la clause WHERE.
La clause SET permet de définir les colonnes à mettre à jour. Le nom des colonne mises à
jour doivent faire partie de la table mise à jour.
Les valeurs mises à jour peuvent faire référence aux valeurs avant mise à jour de la
colonne, dans ce cas on utilise la forme nom_colonne = nom_colonne. La partie de
gauche référence la colonne à mettre à jour, la partie de droite est une expression qui
permet de déterminer la valeur à appliquer à la colonne. La valeur à appliquer peut bien
entendu être une référence à une ou plusieurs colonnes et elles peuvent être dérivées
par une opération arithmétique.
La clause FROM ne fait pas partie de la norme SQL mais certains SGBDR la supportent,
notamment SQL Server et PostgreSQL. Elle permet de réaliser facilement la mise à jour
d’une table à partir des valeurs d’une ou plusieurs tables annexes.
La norme SQL permet néanmoins de réaliser des mises à jour en utilisant une sous-
requête, permettant d’éviter l’usage de la clause FROM.
179
https://dalibo.com/formations
SQL pour PostgreSQL
Exemples
Mise à jour d’une table employees à partir des données d’une table bonus_plan :
UPDATE employees e
SET commission_rate = bp.commission_rate
FROM bonus_plan bp
ON (e.bonus_plan = bp.planid)
Lorsque plusieurs colonnes doivent être mises à jour à partir d’une jointure, il est possible
d’utiliser ces deux écritures :
UPDATE employees e
SET commission_rate = bp.commission_rate,
commission_rate2 = bp.commission_rate2
FROM bonus_plan bp
ON (e.bonus_plan = bp.planid);
et
UPDATE employees e
SET (commission_rate, commission_rate2) = (
SELECT bp.commission_rate, bp.commission_rate2
FROM bonus_plan bp ON (e.bonus_plan = bp.planid)
);
180
4. CRÉATION D’OBJET ET MISES À JOUR
L’ordre DELETE supprime l’ensemble des lignes qui répondent au prédicat de la clause
WHERE.
DELETE FROM nom_table [ [ AS ] alias ]
[ WHERE condition | WHERE CURRENT OF nom_curseur ]
Exemples
• Spécifique à PostgreSQL
• Permet de retourner les lignes complètes ou partielles résultants de INSERT,
UPDATE ou DELETE
• Syntaxe :
requete_sql RETURNING ( * | expression )
La clause RETURNING est une extension de PostgreSQL. Elle permet de retourner les lignes
insérées, mises à jour ou supprimées par un ordre DML de modification. Il est également
possible de dériver une valeur retournée.
L’emploi de la clause RETURNING peut nécessiter des droits complémentaires sur les objets
de la base.
Exemples
4.4 TRANSACTIONS
• ACID
– Atomicité
– un traitement se fait en entier ou pas du tout
• TCL pour Transaction Control Language
– valide une transaction
– annule une transaction
– points de sauvegarde
Les transactions sont une partie essentielle du langage SQL. Elles permettent de rendre
atomique un certain nombre de requêtes. Le résultat de toutes les requêtes d’une trans-
action est validée ou pas, mais on ne peut pas avoir d’état intermédiaire.
Le langage SQL définit qu’une transaction peut être validée ou annulée. Ce sont respec-
tivement les ordres COMMIT et ROLLBACK. Il est aussi possible de faire des points de reprise
ou de sauvegarde dans une transaction. Ils se font en utilisant l’ordre SAVEPOINT.
PostgreSQL fonctionne en auto-commit. Autrement dit, sans BEGIN, une requête est con-
sidérée comme une transaction complète et n’a donc pas besoin de COMMIT.
182
4. CRÉATION D’OBJET ET MISES À JOUR
Une transaction est toujours terminée par une COMMIT ou un END quand on veut que
les modifications soient définitivement enregistrées, et par un ROLLBACK dans le cas con-
traire.
La transaction en cours d’une session qui se termine, quelle que soit la raison, sans COMMIT
et sans ROLLBACK est considérée comme annulée.
Exemples
Avant de retirer une bouteille du stock, on vérifie tout d’abord qu’il reste suffisamment
de bouteilles en stock :
BEGIN TRANSACTION;
COMMIT;
183
https://dalibo.com/formations
SQL pour PostgreSQL
4.4.3 PROGRAMMATION
déroule jusqu’au bout, le point de sauvegarde pourra être relâché (RELEASE SAVEPOINT),
confirmant ainsi les traitements. Si le traitement tombe en erreur, il suffira de revenir au
point de sauvegarde (ROLLBACK TO SAVEPOINT pour annuler uniquement cette partie du
traitement sans affecter le reste de la transaction.
Les points de sauvegarde sont des éléments nommés, il convient donc de leur affecter un
nom particulier. Leur nom doit être unique dans la transaction courante.
184
4. CRÉATION D’OBJET ET MISES À JOUR
En cas d’erreurs, la transaction peut être ramener à l’état du point de sauvegarde avec :
connection.rollback(save1);
Exemples
SAVEPOINT insert_fille;
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (1, 10, 'essai 2');
ERROR: duplicate key value violates unique constraint "fille_pkey"
DETAIL: Key (id_fille)=(1) already exists.
COMMIT;
4.5 CONCLUSION
Le standard SQL permet de traiter des ensembles d’enregistrements, que ce soit en lec-
ture, en insertion, en modification et en suppression. Les ensembles d’enregistrements
185
https://dalibo.com/formations
SQL pour PostgreSQL
sont généralement des tables qui, comme tous les autres objets, sont créées (CREATE),
modifier (ALTER) et/ou supprimer (DROP).
4.5.1 QUESTIONS
186
4. CRÉATION D’OBJET ET MISES À JOUR
Cet exercice utilise la base tpc. La base tpc peut être téléchargée depuis https://dali.
bo/tp_tpc (dump de 31 Mo, pour 267 Mo sur le disque au final). Auparavant créer les
utilisateurs depuis le script sur https://dali.bo/tp_tpc_roles.
Pour cet exercice, les modifications de schéma doivent être effectuées par un rôle ayant
suffisamment de droits pour modifier son schéma. Le rôle tpc_admin a les droits suff-
isants.
1. Ajouter une colonne email de type text à la table contacts. Cette colonne va
permettre de stocker l’adresse e-mail des clients et des fournisseurs. Ajouter égale-
ment un commentaire décrivant cette colonne dans le catalogue de PostgreSQL
(utiliser la commande COMMENT).
2. Mettre à jour la table des contacts pour indiquer l’adresse e-mail de Client6657 qui
est client6657@dalibo.com.
3. Ajouter une contrainte d’intégrité qui valide que la valeur de la colonne email créée
est bien formée (vérifier que la chaîne de caractère contient au moins le caractère
@).
5. Déterminer quels sont les contacts qui disposent d’une adresse e-mail et affichez
leur nom ainsi que le code de leur pays.
188
4. CRÉATION D’OBJET ET MISES À JOUR
1. Ajouter une colonne email de type text à la table contacts. Cette colonne va
permettre de stocker l’adresse e-mail des clients et des fournisseurs. Ajouter égale-
ment un commentaire décrivant cette colonne dans le catalogue de PostgreSQL
(utiliser la commande COMMENT).
ALTER TABLE contacts
ADD COLUMN email text
;
2. Mettre à jour la table des contacts pour indiquer l’adresse e-mail de Client6657 qui
est client6657@dalibo.com.
UPDATE contacts
SET email = 'client6657@dalibo.com'
WHERE nom = 'Client6657'
;
3. Ajouter une contrainte d’intégrité qui valide que la valeur de la colonne email créée
est bien formée (vérifier que la chaîne de caractère contient au moins le caractère
@).
ALTER TABLE contacts
ADD CONSTRAINT chk_contacts_email_valid
CHECK (email LIKE '%@%')
;
Cette expression régulière est simplifiée et simpliste pour les besoins de l’exercice. Des
expressions régulières plus complexes permettent de valider réellement une adresse e-
mail.
Voici un exemple un tout petit peu plus évolué en utilisant une expression rationnelle sim-
ple, ici pour vérifier que la chaîne précédent le caractère @ contient au moins un caractère,
et que la chaîne le suivant est une chaîne de caractères contenant un point :
ALTER TABLE contacts
ADD CONSTRAINT chk_contacts_email_valid
189
https://dalibo.com/formations
SQL pour PostgreSQL
Démarrer la transaction :
BEGIN ;
Tenter de mettre à jour la table contacts avec une adresse e-mail ne répondant pas à la
contrainte :
UPDATE contacts
SET email = 'test'
;
L’ordre UPDATE retourne l’erreur suivante, indiquant que l’expression régulière est fonc-
tionnelle :
5. Déterminer quels sont les contacts qui disposent d’une adresse e-mail et afficher
leur nom ainsi que le code de leur pays.
SELECT nom, code_pays
FROM contacts
WHERE email IS NOT NULL
;
La solution la plus simple pour imposer la sérialisation des numéros de commandes est
d’utiliser une table de séquences. Une ligne de cette table correspondra au compteur des
numéros de commande.
-- création de la table qui va contenir la séquence :
CREATE TABLE numeros_sequences (
nom text NOT NULL PRIMARY KEY,
190
4. CRÉATION D’OBJET ET MISES À JOUR
-- initialisation de la séquence :
INSERT INTO numeros_sequences (nom, sequence)
SELECT 'sequence_numero_commande', max(numero_commande)
FROM commandes
;
L’obtention d’un nouveau numéro de commande sera réalisé dans la transaction de créa-
tion de la commande de la façon suivante :
BEGIN ;
UPDATE numeros_sequences
SET sequence = sequence + 1
WHERE nom = 'numero_commande'
RETURNING sequence
;
COMMIT ;
L’ordre UPDATE pose un verrou exclusif sur la ligne mise à jour. Tant que la mise à jour
n’aura pas été validée ou annulée par COMMIT ou ROLLBACK, le verrou posé va bloquer
toutes les autres transactions qui tenteraient de mettre à jour cette ligne. De cette façon,
toutes les transactions seront sérialisées.
prix actuel est égal ou supérieur à 1500 €. Vérifier que le nombre de lignes mises à
jour au total correspond au nombre total de lignes de la table pieces.
BEGIN ;
SELECT count(*)
FROM pieces
;
UPDATE pieces
SET prix = prix * 1.05
WHERE prix < 1500
;
UPDATE pieces
SET prix = prix * 0.95
WHERE prix >= 1500
;
Au total, la transaction a mis à jour 214200 (99922+114278) lignes, soit 14200 lignes de
trop mises à jour.
Explication : Le premier UPDATE a majoré de 5 % les pièces dont le prix est inférieur à
1500 €. Or, tous les prix supérieurs à 1428,58 € passent la barre des 1500 € après le
premier UPDATE. Le second UPDATE minore les pièces dont le prix est égal ou supérieur à
1500 €, ce qui inclue une partie des prix majorés par le précédent UPDATE. Certaines lignes
ont donc subies deux modifications au lieu d’une. L’instruction CASE du langage SQL, qui
sera abordée dans le prochain module, propose une solution à ce genre de problématique
:
UPDATE pieces
SET prix = (
CASE
WHEN prix < 1500 THEN prix * 1.05
WHEN prix >= 1500 THEN prix * 0.95
END
)
;
192
4. CRÉATION D’OBJET ET MISES À JOUR
BEGIN ;
-- valider la transaction
COMMIT ;
193
https://dalibo.com/formations
SQL pour PostgreSQL
194
5. PLUS LOIN AVEC SQL
5.1 PRÉAMBULE
Maintenant que nous avons vu comment définir des objets, comment lire des données
provenant de relation et comment écrire des données, nous allons pousser vers les per-
fectionnements du langage SQL. Nous allons notamment aborder la lecture de plusieurs
tables en même temps, que ce soit par des jointures ou par des sous-requêtes.
5.1.1 MENU
• Valeur NULL
• Agrégats, GROUP BY, HAVING
• Sous-requêtes
• Jointures
• Expression conditionnelle CASE
• Opérateurs ensemblistes : UNION, EXCEPT, INTERSECT
195
https://dalibo.com/formations
SQL pour PostgreSQL
5.1.2 OBJECTIFS
Le standard SQL définit très précisément la valeur que doit avoir une colonne dont on ne
connaît pas la valeur. Il faut utiliser le mot clé NULL. En fait, ce mot clé est utilisé dans
trois cas : pour les valeurs inconnues, pour les valeurs inapplicables et pour une absence
de valeurs.
5.2.1 AVERTISSEMENT
Il ne faut utiliser NULL que lorsque cela est réellement nécessaire. La gestion des valeurs
NULL est souvent source de confusions et d’erreurs, ce qui explique qu’il est préférable
de l’éviter tant qu’on n’entre pas dans les trois cas vu ci-dessus (valeur inconnue, valeur
inapplicable, absence de valeur).
196
5. PLUS LOIN AVEC SQL
Il est possible de donner le mot-clé NULL pour certaines colonnes dans les INSERT et les
UPDATE. Si jamais une colonne n’est pas indiquée dans un INSERT, elle aura comme valeur
sa valeur par défaut (très souvent, il s’agit de NULL). Si jamais on veut toujours avoir une
valeur dans une colonne particulière, il faut utiliser la clause NOT NULL lors de l’ajout de
la colonne. C’est le cas pour les clés primaires par exemple.
-- assignation explicite
-- assignation implicite
L’affichage (null) dans psql est obtenu avec la méta-commande \pset null (null).
La valeur NULL est définie comme inapplicable. Ainsi, si elle présente dans un calcul, elle
est propagée sur l’ensemble du calcul : le résultat vaudra NULL.
Exemples de calcul
Calculs simples :
SELECT 1 + 2 AS resultat;
resultat
----------
3
(1 row)
198
5. PLUS LOIN AVEC SQL
L’affichage (null) est obtenu avec la méta-commande \pset null (null) du shell psql.
Les opérateurs de comparaisons classiques ne sont pas fonctionnels avec une valeur NULL.
Du fait de la logique à trois états de PostgreSQL, une comparaison avec NULL vaut toujours
NULL, ainsi expression = NULL vaudra toujours NULL et de même pour expression <>
NULL vaudra toujours NULL. Cette comparaison ne vaudra jamais ni vrai, ni faux.
De ce fait, il existe les opérateurs de prédicats IS NULL et IS NOT NULL qui permettent
de vérifier qu’une expression est NULL ou n’est pas NULL.
Pour en savoir plus sur la logique ternaire qui régit les règles de calcul des prédicats, se
conformer à la page Wikipédia sur la logique ternaire72 .
Exemples
72
https://fr.wikipedia.org/wiki/Logique_ternaire
199
https://dalibo.com/formations
SQL pour PostgreSQL
L’opérateur IS NULL permet de retourner les lignes dont la date de naissance n’est pas
renseignée :
SELECT * FROM personnes WHERE date_naissance IS NULL;
id | nom | prenom | date_naissance
----+----------+--------+----------------
3 | Prunelle | Léon | (null)
(1 row)
• Opérateurs d’agrégats
– ignorent NULL
– sauf count(*)
200
5. PLUS LOIN AVEC SQL
5.2.6 COALESCE
Cette fonction permet de tester une colonne et de récupérer sa valeur si elle n’est pas
NULL et une autre valeur dans le cas contraire. Elle peut avoir plus de deux arguments.
Dans ce cas, la première expression de la liste qui ne vaut pas NULL sera retournée par la
fonction.
5.3 AGRÉGATS
• Regroupement de données
• Calculs d’agrégats
Comme son nom l’indique, l’agrégation permet de regrouper des données, qu’elles vien-
nent d’une ou de plusieurs colonnes. Le but est principalement de réaliser des calculs sur
les données des lignes regroupées.
201
https://dalibo.com/formations
SQL pour PostgreSQL
• Regroupement de données :
GROUP BY expression [, ...]
• Chaque groupe de données est ensuite représenté sur une seule ligne
• Permet d’appliquer des calculs sur les ensembles regroupés
– comptage, somme, moyenne, etc.
La clause GROUP BY permet de réaliser des regroupements de données. Les données re-
groupées sont alors représentées sur une seule ligne. Le principal intérêt de ces regroupe-
ments est de permettre de réaliser des calculs sur ces données.
• Comptage : COUNT(expression)
• compte les lignes : COUNT(*)
– compte les valeurs renseignées : COUNT(colonne)
• Valeur minimale : min(expression)
• Valeur maximale : max(expression)
La fonction count() permet de compter les éléments. La fonction est appelée de deux
façons.
La première forme consiste à utiliser count(*) qui revient à transmettre la ligne com-
plète à la fonction d’agrégat. Ainsi, toute ligne transmise à la fonction sera comptée,
même si elle n’est composée que de valeurs NULL. On rencontre parfois une forme du type
count(1), qui transmet une valeur arbitraire à la fonction, et qui permettait d’accélérer le
temps de traitement sur certains SGBD mais qui reste sans intérêt avec PostgreSQL.
202
5. PLUS LOIN AVEC SQL
La seconde forme consiste à utiliser une expression, par exemple le nom d’une colonne :
count(nom_colonne). Dans ce cas-là, seules les valeurs renseignées, donc non NULL,
seront prises en compte. Les valeurs NULL seront exclues du comptage.
La fonction min() permet de déterminer la valeur la plus petite d’un ensemble de valeurs
données. La fonction max() permet à l’inverse de déterminer la valeur la plus grande d’un
ensemble de valeurs données. Les valeurs NULL sont bien ignorées. Ces deux fonctions
permettent de travailler sur des données numériques, mais fonctionnent également sur
les autres types de données comme les chaînes de caractères.
Exemples
73
http://docs.postgresql.fr/current/functions-aggregate.html
203
https://dalibo.com/formations
SQL pour PostgreSQL
• Moyenne : avg(expression)
• Somme : sql sum(expression)
• Écart-type : stddev(expression)
• Variance : variance(expression)
Ces fonctions retournent NULL si aucune donnée n’est applicable. Elles ne prennent en
compte que des valeurs numériques.
Exemples
74
https://docs.postgresql.fr/current/functions-aggregate.html
204
5. PLUS LOIN AVEC SQL
• pente : regr_slope(Y,X)
• intersection avec l’axe des ordonnées : regr_intercept(Y,X)
• indice de corrélation : corr (Y,X)
205
https://dalibo.com/formations
SQL pour PostgreSQL
La clause HAVING permet de filtrer les résultats sur les regroupements réalisés par la clause
GROUP BY. Il est possible d’utiliser une fonction d’agrégat dans la clause HAVING.
Il faudra néanmoins faire attention à ne pas utiliser la clause HAVING comme clause de
filtrage des données lues par la requête. La clause HAVING ne doit permettre de filtrer
que les données traitées par la requête.
Ainsi, si l’on souhaite le nombre de vins rouge référencés dans le catalogue. La requête
va donc exclure toutes les données de la table vin qui ne correspondent pas au filtre
type_vin = 3. Pour réaliser cela, on utilisera la clause WHERE.
En revanche, si l’on souhaite connaître le nombre de vins par type de cépage si ce nombre
est supérieur à 2030, on utilisera la clause HAVING.
Exemples
SELECT type_vin_id, count(*)
FROM vin
GROUP BY type_vin_id
HAVING count(*) > 2030;
type_vin_id | count
-------------+-------
1 | 2031
Si la colonne correspondant à la fonction d’agrégat est renommée avec la clause AS, il n’est
pas possible d’utiliser le nouveau nom au sein de la clause HAVING. Par exemple :
SELECT type_vin_id, count(*) AS nombre
FROM vin
GROUP BY type_vin_id
HAVING nombre > 2030;
206
5. PLUS LOIN AVEC SQL
5.4 SOUS-REQUÊTES
• Corrélation requête/sous-requête
• Sous-requêtes retournant une seule ligne
• Sous-requêtes retournant une liste de valeur
• Sous-requêtes retournant un ensemble
• Sous-requêtes retournant un ensemble vide ou non-vide
Une sous-requête peut faire référence à des variables de la requête principale. Ces vari-
ables seront ainsi transformées en constante à chaque évaluation de la sous-requête.
Une sous-requête consiste à exécuter une requête à l’intérieur d’une autre requête. La
requête principale peut être une requête de sélection (SELECT) ou une requête de modi-
fication (INSERT, UPDATE, DELETE). La sous-requête est obligatoirement un SELECT.
La requête suivante permet d’obtenir le cumul du nombre de bouteilles année par année.
SELECT annee,
sum(nombre) AS stock,
(SELECT sum(nombre)
FROM stock s
WHERE s.annee <= stock.annee) AS stock_cumule
FROM stock
GROUP BY annee
ORDER BY annee;
annee | stock | stock_cumule
-------+--------+--------------
1950 | 210967 | 210967
1951 | 201977 | 412944
1952 | 202183 | 615127
1953 | 202489 | 817616
1954 | 202041 | 1019657
...
Une telle sous-requête peut également être positionnée au niveau de la clause WHERE ou
de la clause HAVING.
208
5. PLUS LOIN AVEC SQL
• La sous-requête retourne
– plusieurs lignes
– sur une seule colonne
• Positionnée
– avec une clause IN
Les sous-requêtes retournant une liste de valeur sont plus fréquemment utilisées. Ce
type de sous-requête permet de filtrer les résultats de la requête principale à partir des
résultats de la sous-requête.
5.4.5 CLAUSE IN
----
f
Mais IN vaut NULL si aucune correspondance n’est trouvée et que la liste de droite contient
au moins une valeur NULL :
SELECT 1 IN (2, 4, NULL) AS in;
in
--------
(null)
Exemples
La requête suivante permet de sélectionner les bouteilles du stock de la cave dont la con-
tenance est comprise entre 0,3 litre et 1 litre. Pour répondre à la question, la sous-requête
retourne les identifiants de contenant qui correspondent à la condition. La requête princi-
pale ne retient alors que les lignes dont la colonne contenant_id correspond à une valeur
d’identifiant retournée par la sous-requête.
SELECT *
FROM stock
WHERE contenant_id IN (SELECT id
FROM contenant
WHERE contenance
BETWEEN 0.3 AND 1.0);
210
5. PLUS LOIN AVEC SQL
À l’inverse, la clause NOT IN permet dans la requête principale de sélectionner les lignes
dont la colonne impliquée dans la condition ne correspond pas aux valeurs retournées
par la sous-requête.
SELECT *
FROM stock
WHERE contenant_id NOT IN (SELECT id
FROM contenant
WHERE contenance < 2.0);
Il est à noter que les requêtes impliquant les clauses IN ou NOT IN peuvent généralement
être réécrites sous la forme d’une jointure.
De plus, les optimiseurs SQL parviennent difficilement à optimiser une requête impliquant
NOT IN. Il est préférable d’essayer de réécrire ces requêtes en utilisant une jointure.
SELECT *
FROM stock
WHERE contenant_id <> ALL (SELECT id
FROM contenant
WHERE contenance < 2.0);
Avec NOT IN, la gestion des valeurs NULL est à l’inverse de celle de la clause IN :
Si aucune correspondance n’est trouvée mais que la liste de valeurs de droite contient au
moins un NULL, NOT IN vaut NULL :
SELECT 1 NOT IN (2, 4, NULL) AS notin;
notin
--------
(null)
Les sous-requêtes retournant des valeurs NULL posent souvent des problèmes avec NOT
IN. Il est préférable d’utiliser EXISTS ou NOT EXISTS pour ne pas avoir à se soucier des
valeurs NULL.
• La sous-requête retourne
– plusieurs lignes
– sur plusieurs colonnes
• Positionnée au niveau de la clause FROM
• Nommée avec un alias de table
La sous-requête peut être utilisée dans la clause FROM afin d’être utilisée comme une ta-
ble dans la requête principale. La sous-requête devra obligatoirement être nommée avec
un alias de table. Lorsqu’elles sont issues d’un calcul, les colonnes résultantes doivent
également être nommées avec un alias de colonne afin d’éviter toute confusion ou com-
portement incohérent.
212
5. PLUS LOIN AVEC SQL
EXISTS présente peu d’intérêt sans corrélation entre la sous-requête et la requête princi-
pale.
Le prédicat EXISTS est en général plus performant que IN. Lorsqu’une requête utilisant IN
ne peut pas être réécrite sous la forme d’une jointure, il est recommandé d’utiliser EXISTS
en lieu et place de IN. Et à l’inverse, une clause NOT IN sera réécrite avec NOT EXISTS.
La requête suivante permet d’identifier les vins pour lesquels il y a au moins une bouteille
en stock :
SELECT *
FROM vin
WHERE EXISTS (SELECT *
FROM stock
WHERE vin_id = vin.id);
5.5 JOINTURES
Les jointures permettent d’écrire des requêtes qui impliquent plusieurs tables. Elles per-
mettent de combiner les colonnes de plusieurs tables selon des critères particuliers, ap-
pelés conditions de jointures.
Les jointures permettent de tirer parti du modèle de données dans lequel les tables sont
associées à l’aide de clés étrangères.
213
https://dalibo.com/formations
SQL pour PostgreSQL
Bien qu’il soit possible de décrire une jointure interne sous la forme d’une requête SELECT
portant sur deux tables dont la condition de jointure est décrite dans la clause WHERE,
cette forme d’écriture n’est pas recommandée. Elle est essentiellement historique et se
retrouve surtout dans des projets migrés sans modification.
En effet, les conditions de jointures se trouvent mélangées avec les clauses de filtrage,
rendant ainsi la compréhension et la maintenance difficiles. Il arrive aussi que, noyé dans
les autres conditions de filtrage, l’utilisateur oublie la configuration de jointure, ce qui
aboutit à un produit cartésien, n’ayant rien à voir avec le résultat attendu, sans même
parler de la lenteur de la requête.
Comparer ces deux exemples d’une requête typique d’ERP pourtant simplifiée :
SELECT
clients.numero,
SUM(lignes_commandes.chiffre_affaire)
FROM
lignes_commandes
INNER JOIN commandes ON (lignes_commandes.commande_id = commandes.id)
INNER JOIN clients ON (commandes.client_id = clients.id)
INNER JOIN addresses ON (clients.adresse_id = addresses.id)
INNER JOIN pays ON (adresses.pays_id = pays.id)
WHERE
pays.code = 'FR'
AND addresses.ville = 'Strasbourg'
AND commandes.statut = 'LIVRÉ'
AND clients.type = 'PARTICULIER'
214
5. PLUS LOIN AVEC SQL
et :
SELECT
clients.numero,
SUM(lignes_commandes.chiffre_affaire)
FROM
lignes_commandes,
commandes,
clients,
addresses,
pays
WHERE
pays.code = 'FR'
AND lignes_commandes.commande_id = commandes.id
AND commandes.client_id = clients.id
AND commandes.statut = 'LIVRÉ'
AND clients.type = 'PARTICULIER'
AND clients.actif IS TRUE
AND clients.adresse_id = addresses.id
AND adresses.pays_id = pays.id
AND addresses.ville = 'Strasbourg'
GROUP BY clients.numero ;
Le produit cartésien peut être exprimé avec la clause de jointure CROSS JOIN :
-- préparation du jeu de données
CREATE TABLE t1 (i1 integer, v1 integer);
CREATE TABLE t2 (i2 integer, v2 integer);
INSERT INTO t1 (i1, v1) VALUES (0, 0), (1, 1);
INSERT INTO t2 (i2, v2) VALUES (2, 2), (3, 3);
----+----+----+----
0 | 0 | 2 | 2
0 | 0 | 3 | 3
1 | 1 | 2 | 2
1 | 1 | 3 | 3
(4 rows)
Ou plus simplement, en listant les deux tables dans la clause FROM sans indiquer de con-
dition de jointure :
SELECT id_sonde,
heures_releves
FROM sondes
CROSS JOIN generate_series('2013-01-01 12:00:00','2013-01-01 14:00:00',
216
5. PLUS LOIN AVEC SQL
id_sonde | heures_releves
----------+------------------------
3 | 2013-01-01 13:00:00+01
(1 ligne)
Une jointure interne est considérée comme un produit cartésien accompagné d’une clause
de jointure pour ne conserver que les lignes qui répondent à la condition de jointure. Les
SGBD réalisent néanmoins l’opération plus simplement.
217
https://dalibo.com/formations
SQL pour PostgreSQL
La condition de jointure est généralement une égalité, ce qui permet d’associer entre elles
les lignes de la table à gauche et de la table à droite dont les colonnes de condition de
jointure sont égales.
La jointure interne est exprimée à travers la clause INNER JOIN ou plus simplement JOIN.
En effet, si le type de jointure n’est pas spécifié, l’optimiseur considère la jointure comme
étant une jointure interne.
La clause ON permet d’écrire les conditions de jointures sous la forme de prédicats tels
qu’on les retrouve dans une clause WHERE.
La clause USING permet de spécifier les colonnes sur lesquelles porte la jointure. Les
tables jointes devront posséder toutes les colonnes sur lesquelles portent la jointure. La
jointure sera réalisée en vérifiant l’égalité entre chaque colonne portant le même nom.
La clause NATURAL permet de réaliser la jointure entre deux tables en utilisant les colonnes
qui portent le même nom sur les deux tables comme condition de jointure. NATURAL
JOIN est fortement déconseillé car elle peut facilement entraîner des comportements
inattendus.
La requête suivante permet de joindre la table appellation avec la table region pour déter-
miner l’origine d’une appellation :
SELECT apl.libelle AS appellation, reg.libelle AS region
FROM appellation apl
JOIN region reg
ON (apl.region_id = reg.id);
218
5. PLUS LOIN AVEC SQL
Il existe deux types de jointure externe : la jointure à gauche et la jointure à droite. Cela
ne concerne que l’ordre de la jointure, le traitement en lui- même est identique.
219
https://dalibo.com/formations
SQL pour PostgreSQL
Il existe trois écritures différentes d’une jointure externe à gauche. La clause NATURAL
permet de réaliser la jointure entre deux tables en utilisant les colonnes qui portent le
même nom sur les deux tables comme condition de jointure.
220
5. PLUS LOIN AVEC SQL
• par prédicat :
SELECT article.art_titre, auteur.aut_nom
FROM article
LEFT JOIN auteur
ON (article.aut_id=auteur.aut_id);
Les jointures à droite sont moins fréquentes mais elles restent utilisées.
221
https://dalibo.com/formations
SQL pour PostgreSQL
• Jointures
– algorithmes très efficaces
– ne gèrent pas tous les cas
• Sous-requêtes
– parfois peu performantes
– répondent à des besoins non couverts par les jointures
Les sous-requêtes sont fréquemment utilisées mais elles sont moins performantes que
les jointures. Ces dernières permettent d’utiliser des optimisations très efficaces.
CASE expression
WHEN valeur THEN expression
WHEN valeur THEN expression
(...)
ELSE expression
END
Il est possible de tester le résultat d’une expression avec CASE. Dans ce cas, chaque clause
WHEN reprendra la valeur à laquelle on souhaite associé une expression particulière :
CASE nom_region
WHEN 'Afrique' THEN 1
222
5. PLUS LOIN AVEC SQL
Une expression peut être évaluée pour chaque clause WHEN. Dans ce cas, l’expression CASE
retourne la première expression qui est vraie. Si une autre peut satisfaire la suivante, elle
ne sera pas évaluée.
Par exemple :
CASE WHEN salaire * prime < 1300 THEN salaire * prime
WHEN salaire * prime < 3000 THEN salaire
WHEN salaire * prime > 5000 THEN salaire * prime
END
• Comportement procédural
– les expressions sont évaluées dans l’ordre d’apparition
• Transtypage
– le type du retour de l’expression dépend du type de rang le plus élevé de
toute l’expression
• Imbrication
– des expressions CASE à l’intérieur d’autres expressions CASE
• Clause ELSE
– recommandé
Il est possible de placer plusieurs clauses WHEN. Elles sont évaluées dans leur ordre
d’apparition.
CASE nom_region
WHEN 'Afrique' THEN 1
223
https://dalibo.com/formations
SQL pour PostgreSQL
Le type de données renvoyé par l’instruction CASE correspond au type indiqué par
l’expression au niveau des THEN et du ELSE. Ce doit être le même type. Si les types de
données ne correspondent pas, alors PostgreSQL retournera une erreur :
SELECT *,
CASE nom_region
WHEN 'Afrique' THEN 1
WHEN 'Amérique' THEN 2
WHEN 'Asie' THEN 1
WHEN 'Europe' THEN 3
ELSE 'inconnu'
END
FROM regions;
ERROR: invalid input syntax for integer: "inconnu"
LIGNE 7 : ELSE 'inconnu'
La clause ELSE n’est pas obligatoire mais fortement recommandé. En effet, si une expres-
sion CASE ne comporte pas de clause ELSE, alors la base de données ajoutera une clause
ELSE NULL à l’expression.
224
5. PLUS LOIN AVEC SQL
• UNION
• INTERSECT
• EXCEPT
L’opérateur ensembliste UNION permet de regrouper deux ensembles dans un même ré-
sultat.
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
La requête suivante assemble les résultats de deux requêtes pour produire le résultat :
SELECT *
FROM appellation
WHERE region_id = 1
UNION ALL
SELECT *
FROM appellation
WHERE region_id = 3;
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
225
https://dalibo.com/formations
SQL pour PostgreSQL
L’exemple suivant n’a pas d’autre intérêt que de montrer le résultat de l’opérateur
INTERSECT sur deux ensembles simples :
SELECT *
FROM region
INTERSECT
SELECT *
FROM region
WHERE id = 3;
id | libelle
----+---------
3 | Alsace
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
L’exemple suivant n’a pas d’autre intérêt que de montrer le résultat de l’opérateur EXCEPT
sur deux ensembles simples. La première requête retourne l’ensemble des lignes de la
table region alors que la seconde requête retourne la ligne qui correspond au prédicat
id = 3. Cette ligne est ensuite retirée du résultat car elle est présente dans les deux
ensembles de gauche et de droite :
SELECT *
FROM region
EXCEPT
SELECT *
FROM region
WHERE id = 3;
id | libelle
----+----------------------------
11 | Cotes du Rhone
226
5. PLUS LOIN AVEC SQL
5.8 CONCLUSION
Le standard SQL va bien plus loin que ce que les requêtes simplistes laissent penser.
Utiliser des requêtes complexes permet de décharger l’application d’un travail conséquent
et le développeur de coder quelque chose qui existe déjà. Cela aide aussi la base de
données car il est plus simple d’optimiser une requête complexe qu’un grand nombre de
requêtes simplistes.
5.8.1 QUESTIONS
227
https://dalibo.com/formations
SQL pour PostgreSQL
Sortie attendue :
nom_pays | nombre
-------------------------------+--------
ARABIE SAOUDITE | 425
ARGENTINE | 416
(...)
Sortie attendue :
nom_region | nombre
---------------------------+--------
Afrique | 1906
Moyen-Orient | 2113
228
5. PLUS LOIN AVEC SQL
Europe | 2094
Asie | 2002
Amérique | 1885
Sortie attendue :
num | count
-----+-------
1 | 13733
2 | 27816
3 | 27750
4 | 27967
5 | 27687
6 | 27876
7 | 13895
4. Pour les 30 premières commandes (selon la date de commande), affichez le prix total
de la commande, en appliquant la remise accordée sur chaque article commandé. La
sortie sera triée de la commande la plus chère à la commande la moins chère.
Sortie attendue :
numero_commande | prix_total
-----------------+------------
3 | 259600.00
40 | 258959.00
6 | 249072.00
69 | 211330.00
70 | 202101.00
4 | 196132.00
(...)
5. Affichez, par année, le total des ventes. La date de commande fait foi. La sortie
sera triée par année.
Sortie attendue :
annee | total_vente
-------+---------------
2005 | 3627568010.00
2006 | 3630975501.00
2007 | 3627112891.00
229
https://dalibo.com/formations
SQL pour PostgreSQL
(...)
6. Pour toutes les commandes, calculez le temps moyen de livraison, depuis la date
d’expédition. Le temps de livraison moyen sera exprimé en jours, arrondi à l’entier
supérieur (fonction ceil()).
Sortie attendue :
temps_moyen_livraison
-----------------------
8 jour(s)
7. Pour les 30 commandes les plus récentes (selon la date de commande), calculez le
temps moyen de livraison de chaque commande, depuis la date de commande. Le
temps de livraison moyen sera exprimé en jours, arrondi à l’entier supérieur (fonc-
tion ceil()).
Sortie attendue :
temps_moyen_livraison
-----------------------
38 jour(s)
Sortie attendue :
taux_retour
-------------
24.29
Sortie attendue :
mode_expedition | delai
-----------------+--------------------
AIR | 7.4711070230494535
10. Un bug applicatif est soupçonné, déterminez s’il existe des commandes dont la date
de commande est postérieure à la date de livraison des articles.
Sortie attendue :
count
-------
2
230
5. PLUS LOIN AVEC SQL
11. Écrivez une requête qui corrige les données erronés en positionnant la date de com-
mande à la date de livraison la plus ancienne des marchandises. Vérifiez qu’elle soit
correcte. Cette requête permet de corriger des calculs de statistiques sur les délais
de livraison.
12. Écrivez une requête qui calcule le délai total maximal de livraison de la totalité d’une
commande donnée, depuis la date de la commande.
delai_max
-----------
102
13. Écrivez une requête pour déterminer les 10 commandes dont le délai de livraison,
entre la date de commande et la date de réception, est le plus important, pour
l’année 2011 uniquement.
Sortie attendue :
numero_commande | delai
-----------------+-------
413510 | 146
123587 | 143
224453 | 143
(...)
14. Un autre bug applicatif est détecté. Certaines commandes n’ont pas de lignes de
commandes. Écrivez une requête pour les retrouver.
-[ RECORD 1 ]------------------------
numero_commande | 91495
client_id | 93528
etat_commande | P
prix_total |
date_commande | 2007-07-07
priorite_commande | 5-NOT SPECIFIED
vendeur | Vendeur 000006761
priorite_expedition | 0
commentaire | xxxxxxxxxxxxx
15. Écrivez une requête pour supprimer ces commandes. Vérifiez le travail avant de
valider.
231
https://dalibo.com/formations
SQL pour PostgreSQL
16. Écrivez une requête pour déterminer les 20 pièces qui ont eu le plus gros volume
de commande.
Sortie attendue :
nom | sum
--------------------------------------------+--------
lemon black goldenrod seashell plum | 461.00
brown lavender dim white indian | 408.00
burlywood white chiffon blanched lemon | 398.00
(...)
17. Affichez les fournisseurs des 20 pièces qui ont été le plus commandées sur l’année
2011.
Sortie attendue :
nom | piece_id
--------------+----------
Supplier4395 | 191875
Supplier4397 | 191875
Supplier6916 | 191875
Supplier9434 | 191875
Supplier4164 | 11662
Supplier6665 | 11662
(...)
18. Affichez le pays qui a connu, en nombre, le plus de commandes sur l’année 2011.
Sortie attendue :
nom_pays | count
-----------------+-------
ARABIE SAOUDITE | 1074
19. Affichez pour les commandes passées en 2011, la liste des continents et la marge
brute d’exploitation réalisée par continents, triés dans l’ordre décroissant.
Sortie attendue :
nom_region | benefice
---------------------------+---------------
Moyen-Orient | 2008595508.00
(...)
232
5. PLUS LOIN AVEC SQL
20. Affichez le nom, le numéro de téléphone et le pays des fournisseurs qui ont un
commentaire contenant le mot clé Complaints :
Sortie attendue :
21. Déterminez le top 10 des fournisseurs ayant eu le plus long délai de livraison, entre
la date de commande et la date de réception, pour l’année 2011 uniquement.
Sortie attendue :
233
https://dalibo.com/formations
SQL pour PostgreSQL
4. Pour les 30 premières commandes (selon la date de commande), affichez le prix total
de la commande, en appliquant la remise accordée sur chaque article commandé. La
sortie sera triée de la commande la plus chère à la commande la moins chère.
SELECT c.numero_commande, sum(quantite * prix_unitaire - remise) prix_total
FROM (
SELECT numero_commande, date_commande
FROM commandes
234
5. PLUS LOIN AVEC SQL
ORDER BY date_commande
LIMIT 30
) c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
GROUP BY c.numero_commande
ORDER BY sum(quantite * prix_unitaire - remise) DESC
;
5. Affichez, par année, le total des ventes. La date de commande fait foi. La sortie
sera triée par année.
SELECT
extract ('year' FROM date_commande),
sum(quantite * prix - remise) AS prix_total
FROM commandes c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
JOIN pieces p ON lc.piece_id = p.piece_id
GROUP BY extract ('year' FROM date_commande)
ORDER BY extract ('year' FROM date_commande)
;
6. Pour toutes les commandes, calculez le temps moyen de livraison, depuis la date
d’expédition. Le temps de livraison moyen sera exprimé en jours, arrondi à l’entier
supérieur (fonction ceil()).
7. Pour les 30 commandes les plus récentes (selon la date de commande), calculez le
temps moyen de livraison de chaque commande, depuis la date de commande. Le
temps de livraison moyen sera exprimé en jours, arrondi à l’entier supérieur (fonc-
tion ceil()).
Note : la colonne date_commande de la table commandes n’a pas de contrainte NOT NULL,
il est donc possible d’avoir des commandes sans date de commande renseignée. Dans ce
cas, ces commandes vont remonter par défaut en haut de la liste, puisque la clause ORDER
BY renvoie les NULL après les valeurs les plus grandes, et que l’on inverse le tri. Pour éviter
235
https://dalibo.com/formations
SQL pour PostgreSQL
que ces commandes ne faussent les résultats, il faut donc les exclure de la sous-requête,
de la façon suivante :
SELECT numero_commande, date_commande
FROM commandes
WHERE date_commande IS NOT NULL
ORDER BY date_commande DESC
LIMIT 30
10. Un bug applicatif est soupçonné, déterminez s’il existe des commandes dont la date
de commande est postérieure à la date d’expédition des articles.
SELECT count(*)
FROM commandes c
236
5. PLUS LOIN AVEC SQL
11. Écrivez une requête qui corrige les données erronés en positionnant la date de com-
mande à la date d’expédition la plus ancienne des marchandises. Vérifiez qu’elle soit
correcte. Cette requête permet de corriger des calculs de statistiques sur les délais
de livraison.
Si ce n’est pas le cas, il doit y avoir une erreur dans la transaction, on l’annule :
ROLLBACK;
12. Écrivez une requête qui calcule le délai total maximal de livraison de la totalité d’une
commande donnée, depuis la date de la commande.
13. Écrivez une requête pour déterminer les 10 commandes dont le délai de livraison,
entre la date de commande et la date de réception, est le plus important, pour
l’année 2011 uniquement.
SELECT
c.numero_commande,
max(date_reception - date_commande)
FROM commandes c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY c.numero_commande
ORDER BY max(date_reception - date_commande) DESC
LIMIT 10
;
14. Un autre bug applicatif est détecté. Certaines commandes n’ont pas de lignes de
commandes. Écrivez une requête pour les retrouver.
Pour réaliser cette requête, il faut effectuer une jointure spéciale, nommée « Anti-jointure
». Il y a plusieurs façons d’écrire ce type de jointure. Les différentes méthodes sont don-
nées de la moins efficace à la plus efficace.
238
5. PLUS LOIN AVEC SQL
Enfin, l’écriture généralement préférée, tant pour la lisibilité que pour les performances,
avec NOT EXISTS :
SELECT c.numero_commande
FROM commandes c
WHERE NOT EXISTS (
SELECT 1
FROM lignes_commandes lc
WHERE lc.numero_commande = c.numero_commande
)
;
15. Écrivez une requête pour supprimer ces commandes. Vérifiez le travail avant de
valider.
COMMIT;
16. Écrivez une requête pour déterminer les 20 pièces qui ont eu le plus gros volume
de commande.
SELECT p.nom,
sum(quantite)
FROM pieces p
JOIN lignes_commandes lc ON p.piece_id = lc.piece_id
GROUP BY p.nom
ORDER BY sum(quantite) DESC
LIMIT 20
;
17. Affichez les fournisseurs des 20 pièces qui ont été le plus commandées sur l’année
2011.
SELECT co.nom, max_p.piece_id, total_pieces
FROM (
/* cette sous-requête est sensiblement la même que celle de l'exercice
précédent, sauf que l'on remonte cette fois l'id de la piece plutôt
que son nom pour pouvoir faire la jointure avec pieces_fournisseurs, et
que l'on ajoute une jointure avec commandes pour pouvoir filtrer sur
l'année 2011 */
SELECT
p.piece_id,
sum(quantite) AS total_pieces
FROM pieces p
JOIN lignes_commandes lc ON p.piece_id = lc.piece_id
JOIN commandes c ON c.numero_commande = lc.numero_commande
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY p.piece_id
ORDER BY sum(quantite) DESC
LIMIT 20
) max_p
/* il faut passer par la table de liens pieces_fournisseurs pour récupérer
la liste des fournisseurs d'une piece */
JOIN pieces_fournisseurs pf ON max_p.piece_id = pf.piece_id
JOIN fournisseurs f ON f.fournisseur_id = pf.fournisseur_id
-- la jointure avec la table contact permet d'afficher le nom du fournisseur
JOIN contacts co ON f.contact_id = co.contact_id
;
18. Affichez le pays qui a connu, en nombre, le plus de commandes sur l’année 2011.
SELECT nom_pays,
count(c.numero_commande)
FROM commandes c
240
5. PLUS LOIN AVEC SQL
19. Affichez pour les commandes passées en 2011, la liste des régions et la marge brute
d’exploitation réalisée par régions, triés dans l’ordre décroissant.
SELECT
nom_region,
round(sum(quantite * prix - remise) - sum(quantite * cout_piece), 2)
AS marge_brute
FROM
commandes c
JOIN lignes_commandes lc ON lc.numero_commande = c.numero_commande
/* il faut passer par la table de liens pieces_fournisseurs pour récupérer
la liste des fournisseurs d'une piece - attention, la condition de
jointure entre lignes_commandes et pieces_fournisseurs porte sur deux
colonnes ! */
JOIN pieces_fournisseurs pf ON lc.piece_id = pf.piece_id
AND lc.fournisseur_id = pf.fournisseur_id
JOIN pieces p ON p.piece_id = pf.piece_id
JOIN fournisseurs f ON f.fournisseur_id = pf.fournisseur_id
JOIN clients cl ON c.client_id = cl.client_id
JOIN contacts co ON cl.contact_id = co.contact_id
JOIN pays pa ON co.code_pays = pa.code_pays
JOIN regions r ON r.region_id = pa.region_id
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY nom_region
ORDER BY sum(quantite * prix - remise) - sum(quantite * cout_piece) DESC
;
20. Affichez le nom, le numéro de téléphone et le pays des fournisseurs qui ont un
commentaire contenant le mot clé Complaints :
SELECT
nom,
telephone,
nom_pays
FROM
fournisseurs f
JOIN contacts c ON f.contact_id = c.contact_id
JOIN pays p ON c.code_pays = p.code_pays
241
https://dalibo.com/formations
SQL pour PostgreSQL
21. Déterminez le top 10 des fournisseurs ayant eu le plus long délai de livraison, entre
la date de commande et la date de réception, pour l’année 2011 uniquement.
SELECT
f.fournisseur_id,
co.nom,
max(date_reception - date_commande)
FROM
lignes_commandes lc
JOIN commandes c ON c.numero_commande = lc.numero_commande
JOIN pieces_fournisseurs pf ON lc.piece_id = pf.piece_id
AND lc.fournisseur_id = pf.fournisseur_id
JOIN fournisseurs f ON pf.fournisseur_id = f.fournisseur_id
JOIN contacts co ON f.contact_id = co.contact_id
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY f.fournisseur_id, co.nom
ORDER BY max(date_reception - date_commande) DESC
LIMIT 10
;
242
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.0.1 PRÉAMBULE
Ce module a pour objectif de voir les fonctionnalités pouvant être utiles pour développer
une application transactionnelle.
6.0.2 MENU
• LIMIT/OFFSET
• Jointures LATERAL
• UPSERT : INSERT ou UPDATE
• Common Table Expressions
• Serializable Snapshot Isolation
6.0.3 OBJECTIFS
243
https://dalibo.com/formations
SQL pour PostgreSQL
6.1 LIMIT
• Clause LIMIT
• ou syntaxe en norme SQL : FETCH FIRST xx ROWS
• Utilisation :
– limite le nombre de lignes du résultat
La clause LIMIT, ou sa déclinaison normalisée par le comité ISO FETCH FIRST xx ROWS,
permet de limiter le nombre de lignes résultant d’une requête SQL. La syntaxe normalisée
vient de DB2 d’IBM et va être amenée à apparaître sur la plupart des bases de données.
La syntaxe LIMIT reste néanmoins disponible sur de nombreux SGBD et est plus concise.
SELECT *
FROM employes
LIMIT 2;
SELECT *
FROM employes ;
matricule | nom | service | salaire
-----------+----------+-------------+----------
00000001 | Dupuis | | 10000.00
00000004 | Fantasio | Courrier | 4500.00
00000006 | Prunelle | Publication | 4000.00
00000020 | Lagaffe | Courrier | 3000.00
00000040 | Lebrac | Publication | 3000.00
(5 lignes)
Il faut faire attention au fait que ces fonctions ne permettent pas d’obtenir des résultats
stables si les données ne sont pas triées explicitement. En effet, le standard SQL ne
garantit en aucune façon l’ordre des résultats à moins d’employer la clause ORDER BY, et
que l’ensemble des champs sur lequel on trie soit unique et non null.
Si une ligne était modifiée, changeant sa position physique dans la table, le résultat de la
244
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
requête ne serait pas le même. Par exemple, en réalisant une mise à jour fictive de la ligne
correspondant au matricule 00000001 :
UPDATE employes
SET nom = nom
WHERE matricule = '00000001';
6.1.2 OFFSET
• Clause OFFSET
– à utiliser avec LIMIT
• Utilité :
– pagination de résultat
– sauter les n premières lignes avant d’afficher le résultat
• Sans offset :
SELECT *
FROM employes
LIMIT 2
ORDER BY matricule;
246
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
QUERY PLAN
------------------------------------------------------------------------------
Limit (cost=0.43..18.26 rows=10 width=115)
(actual time=0.043..0.053 rows=10 loops=1)
a
https://use-the-index-luke.com/fr/no-offset
75
https://explain.dalibo.com/plan/xEs
247
https://dalibo.com/formations
SQL pour PostgreSQL
La requête est rapide car elle profite d’un index bien trié et elle ne lit que peu de données,
ce qui est bien.
SELECT *
FROM posts
WHERE id_article = 12
ORDER BY id_post
LIMIT 10
OFFSET 900 ;
Pour répondre à la requête, PostgreSQL choisit la lecture de l’ensemble des résultats, puis
leur tri, pour enfin appliquer la limite. En effet, LIMIT et OFFSET ne peuvent s’opèrer que
sur le résultat trié : il faut lire les 910 posts avant de pouvoir choisir les 10 derniers.
Le problème de ce plan est que, plus le jeu de données sera important, plus les temps de
réponse seront importants. Ils seront encore plus importants si le tri n’est pas utilisable
dans un index, ou si l’on déclenche un tri sur disque. Il faut donc trouver une solution
pour les minimiser.
Les problèmes de l’utilisation de la clause OFFSET sont parfaitement expliqués dans cet
article77 .
76
https://explain.dalibo.com/plan/V05
77
https://use-the-index-luke.com/fr/no-offset
248
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Dans notre cas, le principe est d’abord de créer un index qui contient le critère ainsi que le
champ qui fixe la pagination (l’index existant convient). Puis on mémorise à quel post_id
la page précédente s’est arrêtée, pour le donner comme critère de filtrage (ici 12900). Il
suffit donc de récupérer les 10 articles pour lesquels id_article = 12 et id_post >
12900 :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
AND id_post> 12900
ORDER BY id_post
LIMIT 10 ;
QUERY PLAN
----------------------------------------------------------------
Limit (cost=0.43..18.29 rows=10 width=115)
(actual time=0.018..0.024 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..1743.02 rows=976 width=115)
(actual time=0.016..0.020 rows=10 loops=1)
Index Cond: ((id_article = 12) AND (id_post > 12900))
Planning Time: 0.111 ms
Execution Time: 0.039 ms
6.2 RETURNING
• Clause RETURNING
• Utilité :
– récupérer les enregistrements modifiés
– avec INSERT
– avec UPDATE
– avec DELETE
La clause RETURNING permet de récupérer les valeurs modifiées par un ordre DML. Ainsi,
la clause RETURNING associée à l’ordre INSERT permet d’obtenir une ou plusieurs colonnes
des lignes insérées.
249
https://dalibo.com/formations
SQL pour PostgreSQL
id | val
----+-----
1 | 10
(1 ligne)
Cela permet par exemple de récupérer la valeur de colonnes portant une valeur par défaut,
comme la valeur affectée par une séquence, comme sur l’exemple ci-dessus.
La clause RETURNING permet également de récupérer les valeurs des colonnes mises à
jour :
UPDATE test_returning
SET val = val + 10
WHERE id = 1
RETURNING id, val;
id | val
----+-----
1 | 20
(1 ligne)
250
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.3 UPSERT
• INSERT ou UPDATE ?
– INSERT ... ON CONFLICT DO { NOTHING | UPDATE }
– À partir de la version 9.5
• Utilité :
– mettre à jour en cas de conflit sur un INSERT
– ne rien faire en cas de conflit sur un INSERT
Sur des traitements d’intégration de données, il s’agit d’un comportement qui n’est pas
toujours souhaitable. La norme SQL propose l’ordre MERGE pour palier à des problèmes de
ce type, mais il est peu probable de le voir rapidement implémenté dans PostgreSQL79 .
L’ordre INSERT s’est toutefois vu étendu avec PostgreSQL 9.5 pour gérer les conflits à
l’insertion.
\d employes
Table "public.employes"
Column | Type | Modifiers
-----------+--------------+-----------
matricule | character(8) | not null
nom | text | not null
service | text |
salaire | numeric(7,2) |
78
https://www.depesz.com/2012/06/10/why-is-upsert-so-complicated/
79
La solution actuelle semble techniquement meilleure et la solution actuelle a donc été choisie. Le wiki du projet
PostgreSQL montre que l’ordre MERGE a été étudié et qu’un certain nombre d’aspects cruciaux n’ont pas été spécifiés,
amenant le projet PostgreSQL à utiliser sa propre version. Voir la documentation : https://wiki.postgresql.org/wiki/
UPSERT#MERGE_disadvantages.
251
https://dalibo.com/formations
SQL pour PostgreSQL
Indexes:
"employes_pkey" PRIMARY KEY, btree (matricule)
Si l’on souhaite insérer une ligne contenant un matricule déjà existant, une erreur de clé
dupliquée est levée et toute la transaction est annulée.
252
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
INSERT ....
ON CONFLICT
DO NOTHING;
Il suffit d’indiquer à PostgreSQL de ne rien faire en cas de conflit sur une valeur dupliquée
avec la clause ON CONFLICT DO NOTHING placée à la fin de l’ordre INSERT qui peut poser
problème.
Dans ce cas, si une rupture d’unicité est détectée, alors PostgreSQL ignorera l’erreur, si-
lencieusement. En revanche, si une erreur apparaît sur une autre contrainte, l’erreur sera
levée.
L’erreur d’unicité est bien ignorée si la ligne existe déjà, le résultat est INSERT 0 0 qui
indique qu’aucune ligne n’a été insérée :
L’insertion est aussi ignorée si l’on tente d’insérer des lignes rompant la contrainte
d’unicité mais ne comportant pas les mêmes valeurs pour d’autres colonnes :
253
https://dalibo.com/formations
SQL pour PostgreSQL
Si l’on insère une valeur interdite par la contrainte CHECK, une erreur est bien levée :
La clause ON CONFLICT permet de déterminer une colonne sur laquelle le conflit peut
arriver. Cette colonne ou ces colonnes doivent porter une contrainte d’unicité ou une
contrainte d’exclusion, c’est à dire une contrainte portée par un index. La clause DO
UPDATE associée fait référence aux valeurs rejetées par le conflit à l’aide de la pseudo-
table excluded. Les valeurs courantes sont accessibles en préfixant les colonnes avec le
nom de la table. L’exemple montre cela.
Avec la requête de l’exemple, on voit que le salaire du directeur n’a pas été modifié, mais
son nom l’a été :
254
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
La clause ON CONFLICT permet également de définir une contrainte d’intégrité sur laque-
lle on réagit en cas de conflit :
Bien sûr, on peut insérer plusieurs lignes, INSERT ON CONFLICT réagira uniquement sur
les doublons :
La nouvelle employée, Moizelle Jeanne a été intégrée dans la tables des employés, et Lebrac
a été traité comme un doublon, en appliquant la règle de mise à jour vue plus haut : seul
le nom est mis à jour et le salaire est inchangé.
255
https://dalibo.com/formations
SQL pour PostgreSQL
À noter que la clause SET salaire = employes.salaire est inutile, c’est ce que fait
PostgreSQL implicitement.
Si l’on choisit de réaliser une mise à jour plutôt que de générer une erreur, on utilisera
la clause ON CONFLICT DO UPDATE. Il faudra dans ce cas préciser la ou les colonnes qui
portent une contrainte d’unicité. Cette contrainte d’unicité permettra de détecter la du-
plication de valeur, PostgreSQL pourra alors appliquer la règle de mise à jour édictée.
La règle de mise à jour permet de définir très finement les colonnes à mettre à jour et les
colonnes à ne pas mettre à jour. Dans ce contexte, la pseudo-table excluded représente
l’ensemble rejeté par l’INSERT. Il faudra explicitement indiquer les colonnes dont la valeur
sera mise à jour à partir des valeurs que l’on tente d’insérer, reprise de la pseudo-table
excluded :
ON CONFLICT (...)
DO UPDATE
SET colonne = excluded.colonne,
autre_colonne = excluded.autre_colonne,
...
En alternative, il est possible d’indiquer un nom de contrainte plutôt que le nom d’une
colonne portant une contrainte d’unicité :
256
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
INSERT ....
ON CONFLICT ON CONSTRAINT nom_contrainte
DO UPDATE
SET colonne_a_modifier = excluded.colonne,
autre_colonne_a_modifier = excluded.autre_colonne,
...;
6.4 LATERAL
• Jointures LATERAL
– SQL:99
– PostgreSQL 9.3
– équivalent d’une boucle foreach
• Utilisations
– top-N à partir de plusieurs tables
– jointure avec une fonction retournant un ensemble
LATERAL apparaît dans la révision de la norme SQL de 1999. Elle permet d’appliquer une
requête ou une fonction sur le résultat d’une table.
• Jointure LATERAL
– équivalent de foreach
• Utilité :
– Top-N à partir de plusieurs tables
– exemple : afficher les 5 derniers messages des 5 derniers sujets actifs d’un forum
La clause LATERAL existe dans la norme SQL depuis plusieurs années. L’implémentation
de cette clause dans la plupart des SGBD reste cependant relativement récente.
Elle permet d’utiliser les données de la requête principale dans une sous-requête. La
sous-requête sera appliquée à chaque enregistrement retourné par la requête principale.
80
https://www.postgresql.org/docs/current/static/sql-insert.html
257
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT titre,
top_5_messages.date_publication,
top_5_messages.extrait
FROM sujets,
LATERAL(SELECT date_publication,
substr(message, 0, 100) AS extrait
FROM messages
WHERE sujets.sujet_id = messages.sujet_id
ORDER BY date_publication DESC
LIMIT 5) top_5_messages
ORDER BY sujets.date_modification DESC,
top_5_messages.date_publication DESC
LIMIT 25;
L’exemple ci-dessus montre comment afficher les 5 derniers messages postés sur les 5
derniers sujets actifs d’un forum avec la clause LATERAL.
Une autre forme d’écriture emploie le mot clé JOIN, inutile dans cet exemple. Il peut
avoir son intérêt si l’on utilise une jointure externe (LEFT JOIN par exemple si un sujet
n’impliquait pas forcément la présence d’un message) :
Il aurait été possible de réaliser cette requête par d’autres moyens, mais LATERAL permet
d’obtenir la requête la plus performante. Une autre approche quasiment aussi perfor-
mante aurait été de faire appel à une fonction retournant les 5 enregistrements souhaités.
À noter qu’une colonne date_modification a été ajouté à la table sujets afin de déter-
miner rapidement les derniers sujets modifiés. Sans cela, il faudrait parcourir l’ensemble
des sujets, récupérer la date de publication des derniers messages avec une jointure
LATERAL et récupérer les 5 derniers sujets actifs. Cela nécessite de lire beaucoup de
données. Un trigger positionné sur la table messages permettra d’entretenir la colonne
date_modification sur la table sujets sans difficulté. Il s’agit donc ici d’une entorse
aux règles de modélisation en vue d’optimiser les traitements.
258
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Si nous n’avions pas la clause LATERAL, nous pourrions être tentés d’écrire la requête
suivante :
SELECT titre, top_5_messages.date_publication, top_5_messages.extrait
FROM sujets
JOIN (SELECT date_publication, substr(message, 0, 100) AS extrait
FROM messages
WHERE sujets.sujet_id = messages.sujet_id
ORDER BY date_message DESC
LIMIT 5) top_5_messages
ORDER BY sujets.date_modification DESC
LIMIT 25;
Cependant, la norme SQL interdit une telle construction, il n’est pas possible de référencer
la table principale dans une sous-requête. Mais avec la clause LATERAL, la sous-requête
peut faire appel à la table principale.
259
https://dalibo.com/formations
SQL pour PostgreSQL
L’exemple ci-dessous montre qu’il est possible d’utiliser une fonction retournant un en-
semble (SRF pour Set Returning Functions).
SELECT titre,
top_5_messages.date_publication,
top_5_messages.extrait
FROM sujets,
get_top_5_messages(sujet_id) AS top_5_messages
ORDER BY sujets.date_modification DESC
LIMIT 25;
260
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
• Utilité
– factoriser des sous-requêtes
– améliorer la lisibilité d’une requête
Les CTE permettent de factoriser la définition d’une sous-requête qui pourrait être ap-
pelée plusieurs fois.
Une CTE est exprimée avec la clause WITH. Cette clause permet de définir des vues
éphémères qui seront utilisées les unes après les autres et au final utilisées dans la re-
quête principale.
Avant la version 12, une CTE était forcément matérialisée. À partir de la version 12, ce
n’est plus le cas. Le seul moyen de s’en assurer revient à ajouter la clause MATERIALIZED.
WITH resultat AS (
/* requête complexe */
)
SELECT *
FROM resultat
WHERE nb < 5;
On utilise principalement une CTE pour factoriser la définition d’une sous-requête com-
mune, comme dans l’exemple ci-dessus.
ON (c.numero_commande = l.numero_commande)
WHERE date_commande BETWEEN '2014-01-01' AND '2014-12-31'
)
SELECT type_client, NULL AS pays, SUM(montant) AS montant_total_commande
FROM resume_commandes
JOIN clients
ON (resume_commandes.client_id = clients.client_id)
GROUP BY type_client
UNION ALL
SELECT NULL, code_pays AS pays, SUM(montant)
FROM resume_commandes r
JOIN clients cl
ON (r.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
GROUP BY code_pays;
Le plan d’exécution de la requête montre que la vue resume_commandes est exécutée une
seule fois et son résultat est utilisé par les deux opérations de regroupements définies
dans la requête principale :
QUERY PLAN
-------------------------------------------------------------------------------
Append (cost=244618.50..323855.66 rows=12 width=67)
CTE resume_commandes
-> Hash Join (cost=31886.90..174241.18 rows=1216034 width=26)
Hash Cond: (l.numero_commande = c.numero_commande)
-> Seq Scan on lignes_commandes l
(cost=0.00..73621.47 rows=3141947 width=18)
-> Hash (cost=25159.00..25159.00 rows=387032 width=16)
-> Seq Scan on commandes c
(cost=0.00..25159.00 rows=387032 width=16)
Filter: ((date_commande >= '2014-01-01'::date)
AND (date_commande <= '2014-12-31'::date))
-> HashAggregate (cost=70377.32..70377.36 rows=3 width=34)
Group Key: clients.type_client
-> Hash Join (cost=3765.00..64297.15 rows=1216034 width=34)
Hash Cond: (resume_commandes.client_id = clients.client_id)
-> CTE Scan on resume_commandes
(cost=0.00..24320.68 rows=1216034 width=40)
-> Hash (cost=2026.00..2026.00 rows=100000 width=10)
-> Seq Scan on clients
(cost=0.00..2026.00 rows=100000 width=10)
-> HashAggregate (cost=79236.89..79237.00 rows=9 width=35)
Group Key: co.code_pays
-> Hash Join (cost=12624.57..73156.72 rows=1216034 width=35)
Hash Cond: (r.client_id = cl.client_id)
262
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Si la requête avait été écrite sans CTE, donc en exprimant deux fois la même sous-requête,
le coût d’exécution aurait été multiplié par deux car il aurait fallu exécuter la sous-requête
deux fois au lieu d’une.
On utilise également les CTE pour améliorer la lisibilité des requêtes complexes, mais cela
peut poser des problèmes d’optimisations, comme cela sera discuté plus bas.
On peut néanmoins enchaîner plusieurs vues les unes à la suite des autres :
WITH nom_vue1 AS (
<requête pour générer la vue 1>
), nom_vue2 AS (
<requête pour générer la vue 2, pouvant utiliser la vue 1>
)
<requête principale utilisant vue 1 et/ou vue2>;
263
https://dalibo.com/formations
SQL pour PostgreSQL
Il faut néanmoins être vigilant car l’optimiseur n’inclut pas la définition des CTE dans la
requête principale quand il réalise les différentes passes d’optimisations.
Par exemple, sans CTE, si un prédicat appliqué dans la requête principale peut être re-
monté au niveau d’une sous-requête, l’optimiseur de PostgreSQL le réalisera :
EXPLAIN
SELECT MAX(date_embauche)
FROM (SELECT * FROM employes WHERE num_service = 4) e
WHERE e.date_embauche < '2006-01-01';
QUERY PLAN
------------------------------------------------------------------------------
Aggregate (cost=1.21..1.22 rows=1 width=4)
-> Seq Scan on employes (cost=0.00..1.21 rows=2 width=4)
Filter: ((date_embauche < '2006-01-01'::date) AND (num_service = 4))
(3 lignes)
Les deux prédicats num_service = 4 et date_embauche < '2006-01-01' ont été ap-
pliqués en même temps, réduisant ainsi le jeu de données à considérer dès le départ. En
anglais, on parle de predicate push-down.
Une requête équivalente basée sur une CTE ne permet pas d’appliquer le filtre au plus
tôt : ici le filtre inclus dans la CTE est appliqué, pas le second.
EXPLAIN
WITH e AS
(SELECT * FROM employes WHERE num_service = 4)
SELECT MAX(date_embauche)
FROM e
WHERE e.date_embauche < '2006-01-01';
QUERY PLAN
-----------------------------------------------------------------
Aggregate (cost=1.29..1.30 rows=1 width=4)
CTE e
-> Seq Scan on employes (cost=0.00..1.18 rows=5 width=43)
Filter: (num_service = 4)
-> CTE Scan on e (cost=0.00..0.11 rows=2 width=4)
Filter: (date_embauche < '2006-01-01'::date)
264
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
On peut se faire piéger également en voulant calculer trop de choses dans les CTE. Dans
cet autre exemple, on cherche à afficher les 7 commandes d’un client donné, le cumul des
valeurs des lignes par commande étant réalisé dans un CTE :
EXPLAIN ANALYZE
WITH nos_commandes AS
(
SELECT c.numero_commande, c.client_id, SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
GROUP BY 1,2
)
SELECT clients.client_id, type_client, nos_commandes.*
FROM nos_commandes
INNER JOIN clients
ON (nos_commandes.client_id = clients.client_id)
WHERE clients.client_id = 6845
;
QUERY PLAN
-----------------------------------------------------------------
Nested Loop (cost=154567.68..177117.90 rows=5000 width=58)
(actual time=7.757..5526.148 rows=7 loops=1)
CTE nos_commandes
-> GroupAggregate (cost=3.51..154567.39 rows=1000000 width=48)
(actual time=0.043..5076.121 rows=1000000 loops=1)
Group Key: c.numero_commande
-> Merge Join (cost=3.51..110641.89 rows=3142550 width=26)
(actual time=0.017..2511.385 rows=3142632 loops=1)
Merge Cond: (c.numero_commande = l.numero_commande)
-> Index Scan using commandes_pkey on commandes c
(cost=0.42..16290.72 rows=1000000 width=16)
(actual time=0.008..317.547 rows=1000000 loops=1)
-> Index Scan using lignes_commandes_pkey on lignes_commandes l
(cost=0.43..52570.08 rows=3142550 width=18)
(actual time=0.006..1030.420 rows=3142632 loops=1)
-> Index Scan using clients_pkey on clients
(cost=0.29..0.51 rows=1 width=10)
(actual time=0.009..0.009 rows=1 loops=1)
Index Cond: (client_id = 6845)
-> CTE Scan on nos_commandes (cost=0.00..22500.00 rows=5000 width=48)
(actual time=7.746..5526.128 rows=7 loops=1)
Filter: (client_id = 6845)
Rows Removed by Filter: 999993
Notez que la construction de la CTE fait un calcul sur l’intégralité des 5000 commandes
265
https://dalibo.com/formations
SQL pour PostgreSQL
et brasse un million de lignes. Puis, une fois connu le client_id, PostgreSQL parcourt
cette CTE pour en récupérer une seule ligne. C’est évidemment extrêmement coûteux et
dure plusieurs secondes.
Alors que sans la CTE, l’optimiseur se permet de faire la jointure avec les tables, donc à
filtrer sur le client demandé, et ne fait la somme des lignes qu’après, en quelques millisec-
ondes.
EXPLAIN ANALYZE
SELECT clients.client_id, type_client, nos_commandes.*
FROM
(
SELECT c.numero_commande, c.client_id, SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
GROUP BY 1,2
) AS nos_commandes
INNER JOIN clients
ON (nos_commandes.client_id = clients.client_id)
WHERE clients.client_id = 6845
;
QUERY PLAN
-----------------------------------------------------------------
Nested Loop (cost=12.83..13.40 rows=11 width=58)
(actual time=0.113..0.117 rows=7 loops=1)
-> Index Scan using clients_pkey on clients (cost=0.29..0.51 rows=1 width=10)
(actual time=0.007..0.007 rows=1 loops=1)
Index Cond: (client_id = 6845)
-> HashAggregate (cost=12.54..12.67 rows=11 width=48)
(actual time=0.106..0.108 rows=7 loops=1)
Group Key: c.numero_commande
-> Nested Loop (cost=0.85..12.19 rows=35 width=26)
(actual time=0.028..0.087 rows=23 loops=1)
-> Index Scan using commandes_clients_fkey on commandes c
(cost=0.42..1.82 rows=11 width=16)
(actual time=0.022..0.028 rows=7 loops=1)
Index Cond: (client_id = 6845)
-> Index Scan using lignes_commandes_pkey on lignes_commandes l
(cost=0.43..0.89 rows=5 width=18)
(actual time=0.006..0.007 rows=3 loops=7)
Index Cond: (numero_commande = c.numero_commande)
En plus d’améliorer la lisibilité et d’éviter la duplication de code, le mécanisme des CTE est
aussi un moyen contourner certaines limitations de l’optimiseur de PostgreSQL en vue de
contrôler précisément le plan d’exécution d’une requête.
266
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
WITH donnees_a_archiver AS (
DELETE FROM donnes_courantes
WHERE date < '2015-01-01'
RETURNING *
)
INSERT INTO donnes_archivees
SELECT * FROM donnees_a_archiver;
La requête d’exemple permet d’archiver des données dans une table dédiée à l’archivage
en utilisant une CTE en écriture. L’emploi de la clause RETURNING permet de récupérer
les lignes purgées.
Le même principe s’applique pour une table que l’on vient de partitionner. Les enreg-
istrements se trouvent initialement dans la table mère, il faut les répartir sur les différentes
partitions. On utilisera une requête reposant sur le même principe que la précédente.
L’ordre INSERT visera la table principale si l’on souhaite utiliser le trigger de partition
pour répartir les données. Il pourra également viser une partition donnée afin d’éviter le
surcoût du trigger de partition.
En plus de ce cas d’usage simple, il est possible d’utiliser cette fonctionnalité pour débug-
ger une requête complexe.
WITH sous-requete1 AS (
267
https://dalibo.com/formations
SQL pour PostgreSQL
),
debug_sous-requete1 AS (
INSERT INTO debug_sousrequete1
SELECT * FROM sous-requete1
), sous-requete2 AS (
SELECT ...
FROM sous-requete1
JOIN ....
WHERE ....
GROUP BY ...
),
debug_sous-requete2 AS (
INSERT INTO debug_sousrequete2
SELECT * FROM sous-requete2
)
SELECT *
FROM sous-requete2;
On peut également envisager une requête CTE en écriture pour émuler une requête
MERGE pour réaliser une intégration de données complexe, là où l’UPSERT ne serait pas
suffisant. Il faut toutefois avoir à l’esprit qu’une telle requête présente des problèmes
de concurrences d’accès, pouvant entraîner des résultats inattendus si elle est employée
alors que d’autres sessions modifient les données. On se contentera d’utiliser une telle
requête dans des traitements batchs.
Il est important de noter que sur PostgreSQL, chaque sous-partie d’une CTE qui exécute
une opération de mise à jour sera exécutée, même si elle n’est pas explicitement appelée.
Par exemple :
WITH del AS (DELETE FROM nom_table),
fonction_en_ecriture AS (SELECT * FROM fonction_en_ecriture())
SELECT 1;
supprimera l’intégralité des données de la table nom_table, mais n’appellera pas la fonc-
tion fonction_en_ecriture(), même si celle-ci effectue des écritures.
268
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Le langage SQL permet de réaliser des récursions avec des CTE récursives. Son princi-
pal intérêt est de pouvoir parcourir des arborescences, comme par exemple des arbres
généalogiques, des arborescences de service ou des entrées de menus hiérarchiques.
Il permet également de réaliser des parcours de graphes, mais les possibilités en SQL sont
plus limitées de ce côté-là. En effet, SQL utilise un algorithme de type Breadth First (par-
cours en largeur) où PostgreSQL produit tout le niveau courant, et approfondit ensuite
la récursion. Ce fonctionnement est à l’opposé d’un algorithme Depth First (parcours en
profondeur) où chaque branche est explorée à fond individuellement avant de passer à
la branche suivante. Ce principe de fonctionnement de l’implémentation dans SQL peut
poser des problèmes sur des recherches de types réseaux sociaux où des bases de don-
nées orientées graphes, tel que Neo4J, seront bien plus efficaces. À noter que l’extension
pgRouting implémente des algorithmes de parcours de graphes plus efficace. Cela per-
met de rester dans PostgreSQL mais nécessite un certain formalisme et il faut avoir con-
science que pgRouting n’est pas l’outil le plus efficace car il génère un graphe en mémoire
à chaque requête à résoudre, qui est perdu après l’appel.
valeur
--------
1
269
https://dalibo.com/formations
SQL pour PostgreSQL
2
3
4
5
6
7
8
9
10
(10 rows)
L’exécution de cette requête commence avec le SELECT 1 AS valeur (la requête avant
le UNION ALL), d’où la première ligne avec la valeur 1. Puis PostgreSQL exécute le SELECT
valeur+1 FROM suite WHERE valeur < 10 tant que cette requête renvoie des lignes.
À la première exécution, il additionne 1 avec la valeur précédente (1), ce qui fait qu’il
renvoie 2. A la deuxième exécution, il additionne 1 avec la valeur précédente (2), ce qui
fait qu’il renvoie 3. Etc. La récursivité s’arrête quand la requête ne renvoie plus de ligne,
autrement dit quand la colonne vaut 10.
Cet exemple n’a aucun autre intérêt que de présenter la syntaxe permettant de réaliser
une récursion en langage SQL.
270
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
271
https://dalibo.com/formations
SQL pour PostgreSQL
Cet exemple suivant porte sur le parcours d’une arborescence de menu hiérarchique.
272
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
18 | Couleur | 14
19 | Afficher la barre d'outils | 3
20 | Plein écran | 3
21 | Modifier le titre | 4
22 | Définir l'encodage | 4
23 | Réinitialiser | 4
24 | UTF-8 | 22
25 | Europe occidentale | 22
26 | Europe centrale | 22
27 | ISO-8859-1 | 25
28 | ISO-8859-15 | 25
29 | WINDOWS-1252 | 25
30 | ISO-8859-2 | 26
31 | ISO-8859-3 | 26
32 | WINDOWS-1250 | 26
33 | Onglet précédent | 5
34 | Onglet suivant | 5
(34 rows)
Nous allons définir une CTE récursive qui va afficher l’arborescence du menu Terminal.
La récursion va donc commencer par chercher la ligne correspondant à cette entrée de
menu dans la table entrees_menu. Une colonne calculée arborescence est créée, elle
servira plus tard dans la récursion :
La requête qui réalisera la récursion est une jointure entre le résultat de l’itération précé-
dente, obtenu par la vue parcours_menu de la CTE, qui réalisera une jointure avec la ta-
ble entrees_menu sur la colonne entrees_menu.parent_id qui sera jointe à la colonne
menu_id de l’itération précédente.
La condition d’arrêt de la récursion n’a pas besoin d’être exprimée. En effet, les entrées
terminales des menus ne peuvent pas être jointes avec de nouvelles entrées de menu, car
il n’y a pas d’autre correspondance avec parent_id).
À titre d’exemple, voici l’implémentation du jeu des six degrés de Kevin Bacon en utilisant
pgRouting :
WITH dijkstra AS (
SELECT seq, id1 AS node, id2 AS edge, cost
FROM pgr_dijkstra('
SELECT f.film_id AS id,
273
https://dalibo.com/formations
SQL pour PostgreSQL
f.actor_id::integer AS source,
f2.actor_id::integer AS target,
1.0::float8 AS cost
FROM film_actor f
JOIN film_actor f2
ON (f.film_id = f2.film_id and f.actor_id <> f2.actor_id)'
, 29539, 29726, false, false)
)
SELECT *
FROM actors
JOIN dijkstra
on (dijkstra.node = actors.actor_id) ;
Tout d’abord, des UPDATE peuvent être perdus, dans le cas où plusieurs transactions
lisent la même ligne, puis la mettent à jour sans concertation. Par exemple, si la transaction
1 ouvre une transaction et effectue une lecture d’une ligne donnée :
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004';
274
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Après un traitement applicatif, la transaction 1 met les données à jour pour noter
l’augmentation de 5 % du salarié. La transaction est validée dans la foulée avec COMMIT :
UPDATE employes
SET salaire = <valeur récupérée préalablement * 1.05>
WHERE matricule = '00000004';
COMMIT;
Après un traitement applicatif, la transaction 2 met également les données à jour pour
noter une augmentation exceptionnelle de 100 € :
UPDATE employes
SET salaire = <valeur récupérée préalablement + 100>
WHERE matricule = '00000004';
COMMIT;
La première solution n’est pas toujours envisageable, il faut donc se tourner vers les deux
autres solutions.
Le problème des lectures sales (dirty reads) ne peut pas se poser car PostgreSQL
n’implémente pas le niveau d’isolation READ UNCOMMITTED. Si ce niveau d’isolation est
sélectionné, PostgreSQL utilise alors le niveau READ COMMITTED.
L’ordre SELECT FOR UPDATE permet de lire des lignes tout en les réservant en posant un
verrou dessus en vue d’une future mise à jour. Le verrou permettra une lecture parallèle,
mais mettra toute mise à jour en attente.
Reprenons l’exemple précédent et utilisons SELECT FOR UPDATE pour voir si le problème
de concurrence d’accès peut être résolu.
275
https://dalibo.com/formations
SQL pour PostgreSQL
session 1
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE;
matricule | nom | service | salaire
-----------+----------+----------+---------
00000004 | Fantasio | Courrier | 4500.00
(1 row)
session 2
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE;
session 3
Une troisième session effectue une lecture, sans poser de verrou explicite :
Le SELECT n’a pas été bloqué par la session 1. Seule la session 2 est bloquée car elle
tente d’obtenir le même verrou.
session 1
L’application a effectué ses calculs et met à jour les données en appliquant l’augmentation
de 5 % :
UPDATE employes
SET salaire = 4725
WHERE matricule = '00000004';
COMMIT;
276
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
session 2
La session 2 a rendu la main, le temps d’attente a été important pour réaliser ces calculs
complexes :
Time: 128127,105 ms
Le salaire obtenu est bien le salaire mis à jour par la session 1. Sur cette base, l’application
applique l’augmentation de 100 € :
UPDATE employes
SET salaire = 4825.00
WHERE matricule = '00000004';
COMMIT;
Les deux transactions ont donc été effectuée de manière sérialisée, l’augmentation de
100 € ET l’augmentation de 5 % ont été accordées à Fantasio. En contre-partie, l’une des
deux transactions concurrentes a été mise en attente afin de pouvoir sérialiser les trans-
actions. Cela implique de penser les traitements en verrouillant les ressources auxquelles
on souhaite accéder.
L’ordre SELECT FOR UPDATE dispose également d’une option NOWAIT qui permet d’annuler
la transaction courante si un verrou ne pouvait être acquis. Si l’on reprend les premières
étapes de l’exemple précédent :
session 1
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE NOWAIT;
matricule | nom | service | salaire
-----------+----------+----------+---------
00000004 | Fantasio | Courrier | 4500.00
(1 row)
Aucun verrou préalable n’avait été posé, la requête SELECT a retourné les données
souhaitées.
277
https://dalibo.com/formations
SQL pour PostgreSQL
session 2
Comme la session n°1 possède déjà un verrou sur la ligne qui nous intéresse, l’option
NOWAIT sur le SELECT a annulé la transaction.
Il faut maintenant effectuer un ROLLBACK explicite pour pouvoir recommencer les traite-
ments au risque d’obtenir le message suivant :
Une dernière fonctionnalité intéressante de SELECT FOR UPDATE, apparue avec Post-
greSQL 9.5, permet de mettre en oeuvre différents workers qui consomment des
données issues d’une table représentant une file d’attente. Il s’agit de la clause SKIP
LOCKED, dont le principe de fonctionnement est identique à son équivalent sous Oracle.
En prenant une table représentant la file d’attente suivante, peuplée avec des données
générées :
CREATE TABLE test_skiplocked (id serial primary key, val text);
INSERT INTO test_skiplocked (val) SELECT md5(i::text)
FROM generate_series(1, 1000) i;
Une première transaction est ouverte et tente d’obtenir un verrou sur les 10 premières
lignes :
BEGIN TRANSACTION;
SELECT *
FROM test_skiplocked
LIMIT 10
FOR UPDATE SKIP LOCKED;
278
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
id | val
----+----------------------------------
1 | c4ca4238a0b923820dcc509a6f75849b
2 | c81e728d9d4c2f636f067f89cc14862c
3 | eccbc87e4b5ce2fe28308fd9f2a7baf3
4 | a87ff679a2f3e71d9181a67b7542122c
5 | e4da3b7fbbce2345d7772b0674a318d5
6 | 1679091c5a880faf6fb5e6087eb1b2dc
7 | 8f14e45fceea167a5a36dedd4bea2543
8 | c9f0f895fb98ab9159f51fd0297e236d
9 | 45c48cce2e2d7fbdea1afc51c7c6ad26
10 | d3d9446802a44259755d38e6d163e820
(10 rows)
Avec la clause SKIP LOCKED, les 10 premières verrouillées par la transaction n°1 seront
passées et ce sont les 10 lignes suivantes qui seront verrouillées et retournées par l’ordre
SELECT :
BEGIN TRANSACTION;
SELECT *
FROM test_skiplocked
LIMIT 10
FOR UPDATE SKIP LOCKED;
id | val
----+----------------------------------
11 | 6512bd43d9caa6e02c990b0a82652dca
12 | c20ad4d76fe97759aa27a0c99bff6710
13 | c51ce410c124a10e0db5e4b97fc2af39
14 | aab3238922bcc25a6f606eb525ffdc56
15 | 9bf31c7ff062936a96d3c8bd1f8f2ff3
16 | c74d97b01eae257e44aa9d5bade97baf
17 | 70efdf2ec9b086079795c442636b55fb
18 | 6f4922f45568161a8cdf4ad2299f6d23
19 | 1f0e3dad99908345f7439f8ffabdffc4
20 | 98f13708210194c475687be6106a3b84
(10 rows)
WHERE id IN (...);
COMMIT;
De même pour la seconde transaction, qui aura traité d’autres lignes en parallèle de la
transaction #1.
Voici un exemple.
Dans cet exemple, il y a des enregistrements avec une colonne couleur contenant ’blanc’
ou ’noir’. Deux utilisateurs essayent simultanément de convertir tous les enregistrements
vers une couleur unique, mais chacun dans une direction opposée. Un veut passer tous
les blancs en noir, et l’autre tous les noirs en blanc.
280
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Session 1 :
set default_transaction_isolation = 'serializable';
begin;
update points set couleur = 'noir'
where couleur = 'blanc';
Session 2 :
set default_transaction_isolation = 'serializable';
begin;
update points set couleur = 'blanc'
where couleur = 'noir';
Session 2 :
commit;
id | couleur
----+-------
1 | blanc
2 | blanc
3 | blanc
4 | blanc
5 | blanc
6 | blanc
7 | blanc
8 | blanc
9 | blanc
10 | blanc
(10 rows)
id | couleur
----+-------
1 | noir
2 | noir
3 | noir
4 | noir
5 | noir
6 | noir
7 | noir
8 | noir
9 | noir
10 | noir
(10 rows)
Le mode SERIALIZABLE permet de s’affranchir des SELECT FOR UPDATE qu’on écrit
habituellement, dans les applications en mode READ COMMITTED. Toutefois, il fait bien
plus que ça, puisqu’il réalise du verrouillage de prédicats. Un enregistrement qui « ap-
paraît » ultérieurement suite à une mise à jour réalisée par une transaction concurrente
déclenchera aussi une erreur de sérialisation. Il permet aussi de gérer les problèmes
ci-dessus avec plus de deux sessions.
Pour des exemples plus complets, le mieux est de consulter la documentation officielle81
.
81
https://wiki.postgresql.org/wiki/SSI/fr
282
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.8 CONCLUSION
283
https://dalibo.com/formations
SQL pour PostgreSQL
Jointure latérale
Cette série de question utilise la base de TP magasin. La base magasin peut être
téléchargée depuis https://dali.bo/tp_magasin (dump de 96 Mo, pour 667 Mo sur le
disque au final). Elle s’importe de manière très classique (une erreur sur le schéma public
déjà présent est normale), ici dans une base nommée aussi magasin :
pg_restore -d magasin magasin.dump
Toutes les données sont dans deux schémas nommés magasin et facturation.
CTE récursive
Cet exercice propose de manipuler des données généalogiques, disposées dans le schéma
genealogie de l’environnement de TP.
\d genealogie
Table "public.genealogie"
Column | Type | Modifiers
----------------+---------+---------------------------------------
id | integer | not null default +
| | nextval('genealogie_id_seq'::regclass)
nom | text |
prenom | text |
date_naissance | date |
pere | integer |
mere | integer |
Indexes:
"genealogie_pkey" PRIMARY KEY, btree (id)
284
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Réseau social
Cet exercice est assez similaire au précédent et propose de manipuler des arborescences.
Les tables de travail sont disponibles dans le schéma socialnet.
Les tableaux et la fonction unnest peuvent être utiles pour résoudre plus facilement ce
problème.
La table personnes contient la liste de toutes les personnes d’un réseau social.
Table "public.personnes"
Column | Type | Modifiers
--------+---------+--------------------------------------------------------
id | integer | not null default nextval('personnes_id_seq'::regclass)
nom | text | not null
prenom | text | not null
Indexes:
"personnes_pkey" PRIMARY KEY, btree (id)
Table "public.relation"
Column | Type | Modifiers
--------+---------+-----------
gauche | integer | not null
droite | integer | not null
Indexes:
"relation_droite_idx" btree (droite)
"relation_gauche_idx" btree (gauche)
Dépendance de vues
Les dépendances entre objets est un problème classique dans les bases de données :
• dans quel ordre charger des tables selon les clés étrangères ?
• dans quel ordre recréer des vues ?
285
https://dalibo.com/formations
SQL pour PostgreSQL
• etc.
• Catalogue pg_depend82
• Catalogue pg_rewrite83
• Catalogue pg_class84
• Fonction d’information du catalogue système85
82
https://www.postgresql.org/docs/current/static/catalog-pg-depend.html
83
https://www.postgresql.org/docs/current/static/catalog-pg-rewrite.html
84
https://www.postgresql.org/docs/current/static/catalog-pg-class.html
85
https://www.postgresql.org/docs/current/static/functions-info.html#FUNCTIONS-INFO-CATALOG-TABLE
286
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Jointure latérale
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma ma-
gasin :
SET search_path = magasin;
Une simple jointure nous permet de retrouver les 10 derniers articles commandés :
SELECT lc.produit_id, p.nom
FROM commandes c
JOIN lignes_commandes lc
ON (c.numero_commande = lc.numero_commande)
JOIN produits p
ON (lc.produit_id = p.produit_id)
ORDER BY c.numero_commande DESC, numero_ligne_commande DESC
LIMIT 10;
La requête précédente peut être dérivée pour répondre à la question demandée. Ici, pour
chacune des dix dernières commandes, nous voulons récupérer le nom du dernier article
commandé, ce qui sera transcrit sous la forme d’une jointure latérale :
SELECT numero_commande, produit_id, nom
FROM commandes c,
LATERAL (SELECT p.produit_id, p.nom
FROM lignes_commandes lc
JOIN produits p
ON (lc.produit_id = p.produit_id)
WHERE (c.numero_commande = lc.numero_commande)
ORDER BY numero_ligne_commande ASC
LIMIT 1
) premier_article_par_commande
287
https://dalibo.com/formations
SQL pour PostgreSQL
CTE récursive
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma ge-
nealogie :
\d genealogie
Table "public.genealogie"
Column | Type | Modifiers
----------------+---------+---------------------------------------
id | integer | not null default +
| | nextval('genealogie_id_seq'::regclass)
nom | text |
prenom | text |
date_naissance | date |
pere | integer |
mere | integer |
Indexes:
"genealogie_pkey" PRIMARY KEY, btree (id)
288
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Réseau social
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma so-
cialnet :
SET search_path = socialnet;
Les tableaux et la fonction unnest peuvent être utiles pour résoudre plus facilement ce
problème
La table personnes contient la liste de toutes les personnes d’un réseau social.
Table "public.personnes"
Column | Type | Modifiers
--------+---------+--------------------------------------------------------
id | integer | not null default nextval('personnes_id_seq'::regclass)
nom | text | not null
prenom | text | not null
Indexes:
"personnes_pkey" PRIMARY KEY, btree (id)
Table "public.relation"
Column | Type | Modifiers
--------+---------+-----------
gauche | integer | not null
289
https://dalibo.com/formations
SQL pour PostgreSQL
290
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Dépendance de vues
Les dépendances entre objets est un problème classique dans les bases de données :
• dans quel ordre charger des tables selon les clés étrangères ?
• dans quel ordre recréer des vues ?
• etc.
• Catalogue pg_depend86
• Catalogue pg_rewrite87
• Catalogue pg_class88
• Fonction d’information du catalogue système89
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
brno2015 :
Si la jointure entre pg_depend et pg_rewrite est possible pour l’objet de départ, alors
il s’agit probablement d’une vue. En discriminant sur les objets qui référencent la vue
pilotes_brno, nous arrivons à la requête de départ suivante :
86
http://www.postgresql.org/docs/current/static/catalog-pg-depend.html
87
http://www.postgresql.org/docs/current/static/catalog-pg-rewrite.html
88
http://www.postgresql.org/docs/current/static/catalog-pg-class.html
89
http://www.postgresql.org/docs/current/static/functions-info.html#FUNCTIONS-INFO-CATALOG-TABLE
291
https://dalibo.com/formations
SQL pour PostgreSQL
Nous pouvons donc créer un graphe de dépendances à partir de cette requête de départ,
transformée en requête récursive :
Il faut maintenant résoudre les OID pour déterminer les noms des vues et leur schéma.
Pour cela, nous ajoutons une vue resolved telle que :
292
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Nous pouvons maintenant présenter les ordres de suppression et de recréation des vues,
dans le bon ordre. Les vues doivent être supprimées selon le numéro d’ordre décroissant
et recrées selon le numéro d’ordre croissant :
WITH RECURSIVE graph AS (
SELECT distinct pg_rewrite.ev_class as objid, refobjid as refobjid, 0 as depth
FROM pg_depend
JOIN pg_rewrite ON pg_depend.objid = pg_rewrite.oid
WHERE refobjid = 'pilotes_brno'::regclass
UNION ALL
SELECT distinct pg_rewrite.ev_class as objid, pg_depend.refobjid as refobjid,
depth + 1 as depth
FROM pg_depend
JOIN pg_rewrite ON pg_depend.objid = pg_rewrite.oid
JOIN graph on pg_depend.refobjid = graph.objid
WHERE pg_rewrite.ev_class != graph.objid
),
resolved AS (
SELECT n.nspname AS dependent_schema, d.relname as dependent,
n2.nspname AS dependee_schema, d2.relname as dependee,
d.oid as dependent_oid,
depth
FROM graph
JOIN pg_class d ON d.oid = objid
JOIN pg_namespace n ON d.relnamespace = n.oid
JOIN pg_class d2 ON d2.oid = refobjid
JOIN pg_namespace n2 ON d2.relnamespace = n2.oid
)
(SELECT 'DROP VIEW ' || dependent_schema || '.' || dependent || ';'
FROM resolved
GROUP BY dependent_schema, dependent
ORDER BY max(depth) DESC)
UNION ALL
(SELECT 'CREATE OR REPLACE VIEW ' || dependent_schema || '.' || dependent ||
' AS ' || pg_get_viewdef(dependent_oid)
FROM resolved
GROUP BY dependent_schema, dependent, dependent_oid
ORDER BY max(depth));
293
https://dalibo.com/formations
SQL pour PostgreSQL
7 TYPES DE BASE
7.0.1 PRÉAMBULE
7.0.2 MENU
7.0.3 OBJECTIFS
294
7. TYPES DE BASE
• Un type définit :
– les valeurs que peut prendre une donnée
– les opérateurs applicables à cette donnée
Le choix du type employé pour stocker une donnée est primordial pour garantir l’intégrité
des données.
Par exemple, sur une base de données mal conçue, il peut arriver que les dates soient
stockées sous la forme d’une chaîne de caractère. Ainsi, une date malformée ou invalide
pourra être enregistrée dans la base de données, passant outre les mécanismes de con-
trôle d’intégrité de la base de données. Si une date est stockée dans une colonne de type
date, alors ces problèmes ne se posent pas :
postgres=# create table test_date (dt date);
CREATE TABLE
295
https://dalibo.com/formations
SQL pour PostgreSQL
• Entiers
• Flottants
• Précision fixée
• 3 types entiers :
– smallint : 2 octets
– integer : 4 octets
– bigint : 8 octets
• Valeur exacte
• Signé
• Utilisation :
– véritable entier
– clé technique
296
7. TYPES DE BASE
• 2 types flottants :
– real/float4
– double precision/float8
• Données numériques « floues »
– valeurs non exactes
• Utilisation :
– stockage des données issues de capteurs
• 1 type
– numeric(.., ..)
• Type exact
– mais calcul lent
• Précision choisie : totale, partie décimale
• Utilisation :
– données financières
– calculs exacts
• Déconseillé pour :
– clés primaires
– données non exactes (ex : résultats de capteurs)
Tout les types numériques sont indexables avec des indexes standards btree, permettant
la recherche avec les opérateurs d’égalité / inégalité. Pour les entiers, il est possible de
réaliser des opérations bit-à-bit :
297
https://dalibo.com/formations
SQL pour PostgreSQL
postgres=# select 2 | 4;
?column?
----------
6
(1 ligne)
Il faut toutefois être vigilant face aux opérations de cast implicites et de promotions des
types numériques. Par exemple, les deux requêtes suivantes ramèneront le même résul-
tat, mais l’une sera capable d’utiliser un éventuel index sur id, l’autre non :
postgres=# explain select * from t1 where id = 10::int4;
QUERY PLAN
-------------------------------------------------------------------------
Bitmap Heap Scan on t1 (cost=4.67..52.52 rows=50 width=4)
Recheck Cond: (id = 10)
-> Bitmap Index Scan on t1_id_idx (cost=0.00..4.66 rows=50 width=0)
Index Cond: (id = 10)
(4 lignes)
Cela peut paraître contre-intuitif, mais le cast est réalisé dans ce sens pour ne pas perdre
d’information. Par exemple, si la valeur numérique cherchée n’est pas un entier. Il faut
donc faire spécialement attention aux types utilisés côté applicatif. Avec un ORM tel
Hibernate, il peut être tentant de faire correspondre un BigInt à un numeric côté SQL,
ce qui engendrera des casts implicites, et potentiellement des indexes non utilisés.
298
7. TYPES DE BASE
• integer ou biginteger :
– identifiants (clés primaires et autre)
– nombres entiers
• numeric :
– valeurs décimales exactes
– performance non critique
• float, real :
– valeurs flottantes, non exactes
– performance demandée : SUM(), AVG(), etc.
Pour les identifiants, il est préférable d’utiliser des entiers ou grands entiers. En effet, il
n’est pas nécessaire de s’encombrer du bagage technique et de la pénalité en performance
dû à l’utilisation de numeric. Contrairement à d’autres SGBD, PostgreSQL ne transforme
pas un numeric sans partie décimale en entier, et celui-ci souffre donc des performances
inhérentes au type numeric.
De même, lorsque les valeurs sont entières, il faut utiliser le type adéquat.
Pour les nombres décimaux, lorsque la performance n’est pas critique, préférer le type
numeric: il est beaucoup plus simple de raisonner sur ceux-ci et leur précision que de
garder à l’esprit les subtilités du standard IEEE 754 définissant les opérations sur les flot-
tants. Dans le cas de données décimales nécessitant une précision exacte, il est impératif
d’utiliser le type numeric.
Les nombres flottants (float et real) ne devraient être utilisés que lorsque les implica-
tions en terme de perte de précision sont intégrées, et que la performance d’un type
numeric devient gênante. En pratique, cela est généralement le cas lors d’opérations
d’agrégations.
Pour bien montrer les subtilités des types float, et les risques auquels ils nous exposent,
considérons l’exemple suivant, en créant une table contenant 25000 fois la valeur 0.4,
stockée soit en float soit en numeric :
1000.00 | 999.99999999967
(1 ligne)
Temps : 10,611 ms
postgres=# select sum(cf) from t_float ;
sum
-----------------
999.99999999967
(1 ligne)
Temps : 6,434 ms
Pour aller (beaucoup) plus loin, le document suivant détaille le comportement des flot-
tants selon le standard IEEE : https://docs.oracle.com/cd/E19957-01/806-3568/ncg_
goldberg.html
• Date
• Date & heure
– …avec ou sans fuseau
• date
– représente une date, sans heure
– affichage format ISO : YYYY-MM-DD
• Utilisation :
– stockage d’une date lorsque la composante heure n’est pas utilisée
• Cas déconseillés :
– stockage d’une date lorsque la composante heure est utilisée
300
7. TYPES DE BASE
# SELECT now()::date ;
now
------------
2019-11-13
• time
– représente une heure sans date
– affichage format ISO HH24:MI:SS
• Peu de cas d’utilisation
• À éviter :
– stockage d’une date et de la composante heure dans deux colonnes
# SELECT now()::time ;
now
-----------------
15:19:39.947677
# SELECT now()::timestamp ;
now
----------------------------
2019-11-13 15:20:54.222233
Le nom réel est timestamp without time zone. Comme on va le voir, il faut lui préférer
le type timestamptz.
301
https://dalibo.com/formations
SQL pour PostgreSQL
Ces deux exemples ont été exécutés à quelques secondes d’intervalle sur des instances
en France (heure d’hiver) et au Brésil :
# SHOW timezone;
TimeZone
--------------
Europe/Paris
# SELECT now() ;
now
-------------------------------
2019-11-13 15:32:09.615455+01
# SHOW timezone;
TimeZone
-------------
Brazil/West
(1 ligne)
# SELECT now() ;
now
-------------------------------
2019-11-13 10:32:39.536972-04
# SELECT now() ;
now
-------------------------------
2019-11-13 15:33:00.824096+01
302
7. TYPES DE BASE
• interval
– représente une durée
• Utilisation :
– exprimer une durée
– dans une requête, pour modifier une date/heure existante
De manière générale, il est beaucoup plus simple de gérer des dates avec timezone côté
base. En effet, dans le cas où une seule timezone est gérée, les clients ne verront pas la
différence. Si en revanche les besoins évoluent, il sera beaucoup plus simple de gérer les
différentes timezones à ce moment là.
Les points suivants concernent plus de la modélisation que des types de données à propre-
ment parler, mais il est important de considérer les types ranges dès lors que l’on souhaite
stocker un couple « date de début / date de fin ». Nous aurons l’occasion de revenir sur
ces types dans la suite de ce module.
Enfin, une problématique assez commune consiste à vouloir effectuer des jointures con-
tre une table de dates de références. Une (mauvaise) solution à ce problème consiste
à stocker ces dates dans une table. Il est beaucoup plus avantageux en terme de main-
tenance de ne pas stocker ces dates, mais de les générer à la volée. Par exemple, pour
générer tous les jours de janvier 2015 :
postgres=# select * from generate_series(
'2015-01-01',
'2015-01-31',
'1 day'::interval
303
https://dalibo.com/formations
SQL pour PostgreSQL
);
generate_series
------------------------
2015-01-01 00:00:00+01
2015-01-02 00:00:00+01
2015-01-03 00:00:00+01
2015-01-04 00:00:00+01
2015-01-05 00:00:00+01
2015-01-06 00:00:00+01
2015-01-07 00:00:00+01
2015-01-08 00:00:00+01
2015-01-09 00:00:00+01
2015-01-10 00:00:00+01
2015-01-11 00:00:00+01
2015-01-12 00:00:00+01
2015-01-13 00:00:00+01
2015-01-14 00:00:00+01
2015-01-15 00:00:00+01
2015-01-16 00:00:00+01
2015-01-17 00:00:00+01
2015-01-18 00:00:00+01
2015-01-19 00:00:00+01
2015-01-20 00:00:00+01
2015-01-21 00:00:00+01
2015-01-22 00:00:00+01
2015-01-23 00:00:00+01
2015-01-24 00:00:00+01
2015-01-25 00:00:00+01
2015-01-26 00:00:00+01
2015-01-27 00:00:00+01
2015-01-28 00:00:00+01
2015-01-29 00:00:00+01
2015-01-30 00:00:00+01
2015-01-31 00:00:00+01
En général on choisira une chaîne de longueur variable. Nous ne parlerons pas ici du type
char (à tailel fixe), d’utilisation très restreinte.
304
7. TYPES DE BASE
• varchar(_n_), text
• Représentent une chaîne de caractères
• Valident l’encodage
• Valident la longueur maximale de la chaîne (contrainte !)
• Utilisation :
– stocker des chaînes de caractères non binaires
• bytea
• Stockage de données binaires
– encodage en hexadécimal ou séquence d’échappement
• Utilisation :
– stockage de courtes données binaires
• Cas déconseillés :
– stockage de fichiers binaires
Le type bytea permet de stocker des données binaires dans une base de données Post-
greSQL.
En règle générale, il est recommandé d’utiliser un champ de type varchar tout court, et
de vérifier la longueur au niveau d’une contrainte. En effet, il sera plus simple de modifier
celle-ci par la suite, en modifiant uniquement la contrainte. De plus, la contrainte permet
plus de possibilités, comme par exemple d’imposer une longueur minimale.
305
https://dalibo.com/formations
SQL pour PostgreSQL
7.4.4 COLLATION
L’ordre de tri des chaînes de caractère (« collation ») peut varier suivant le contenu d’une
colonne. Rien que parmi les langues européennes, il existe des spécificités propres à
chacune, et même à différents pays pour une même langue. Si l’ordre des lettres est une
convention courante, il existe de nombreuses variations propres à chacune (comme é, à,
æ, ö, ß, å, ñ…), avec des règles de tri propres. Certaines lettres peuvent être assimilées
à une combinaison d’autres lettres. De plus, la place relative des majuscules, celles des
chiffres, ou des caractères non alphanumérique est une pure affaire de convention.
La collation dépend de l’encodage (la manière de stocker les caractères), de nos jours
généralement UTF890 (standard Unicode). PostgreSQL utilise par défaut UTF8 et il est
chaudement conseillé de ne pas changer cela.
La collation par défaut dans une base est définie à sa création, et est visible avec \l
(ci-dessous pour une installation en français). Le type de caractères est généralement
identique.
# \l
Liste des bases de données
Nom | Propriétaire | Encodage | Collationnement | Type caract. |...
-----------+--------------+----------+-----------------+--------------+
pgbench | pgbench | UTF8 | fr_FR.UTF-8 | fr_FR.UTF-8 |
postgres | postgres | UTF8 | fr_FR.UTF-8 | fr_FR.UTF-8 |
template0 | postgres | UTF8 | fr_FR.UTF-8 | fr_FR.UTF-8 | ...
template1 | postgres | UTF8 | fr_FR.UTF-8 | fr_FR.UTF-8 | ...
Parmi les collations que l’on peut rencontrer, il y a par exemple en_US.UTF-8 (la collation
par défaut de beaucoup d’installations), ou C, basée sur les caractères ASCII et les valeurs
des octets. De vieilles installations peuvent encore contenir fr_FR.iso885915@euro.
Si le tri par défaut ne convient pas, on peut le changer à la volée dans la requête SQL, au
besoin après avoir créé la collation.
306
7. TYPES DE BASE
SELECT * FROM mots ORDER BY t ; -- sous-entendu, ordre par défaut en français ici
t
----
a
A
å
Å
ä
aa
aa
ae
æ
af
ss
ß
z
Avec la collation C, l’ordre est plus basique, soit celui des codes UTF-8 :
t
----
A
a
aa
aa
ae
af
ss
z
Å
ß
ä
å
æ
Un intérêt de la collation C est qu’elle est plus simple et se repose sur la glibc du système,
ce qui lui permet d’être souvent plus rapide qu’une des collations ci-dessus. Il suffit donc
307
https://dalibo.com/formations
SQL pour PostgreSQL
Il est possible d’indiquer dans la définition de chaque colonne quelle doit être sa collation
par défaut :
Pour du danois :
-- La collation doit exister sur le système d'exploitation
CREATE COLLATION IF NOT EXISTS "da_DK" (locale='da_DK.utf8');
t
----
A
a
ae
af
ss
ß
z
æ
ä
Å
å
aa
Dans cette langue, les majuscules viennent traditionnellement avant les minuscules, et
« å» et « aa » viennent après le « z ».
Avec une collation précisée dans la requête, un index peut ne pas être utilisable. En effet,
par défaut, il est trié sur disque dans l’ordre de la collation de la colonne. Un index peut
cependant se voir affecter une collation différente de celle de la colonne, par exemple
pour un affichage ou une interrogation dans plusieurs langues :
CREATE INDEX ON mots (t); -- collation par défaut de la colonne
CREATE INDEX ON mots (t COLLATE "de_DE.utf8"); -- tri allemand
La collation n’est pas qu’une question d’affichage. Le tri joue aussi dans la sélection quand
il y a des inégalités, et le français et le danois revoient ici des résultats différents :
SELECT * FROM mots WHERE t > 'z' COLLATE "fr_FR";
t
---
(0 ligne)
308
7. TYPES DE BASE
t
----
aa
ä
å
Å
aa
æ
(6 lignes)
Des collations comme en_US.UTF-8 ou fr_FR.UTF-8 sont dépendantes des locales in-
stallées sur la machine. Cela implique qu’elles peuvent subtilement différer entre deux
systèmes, même entre deux versions d’un même système d’exploitation ! De plus, la lo-
cale voulue n’est pas forcément présente, et son mode d’installation dépend du système
d’exploitation et de sa distribution…
La librairie ICU fournit d’autres collations plus spécifiques liées à un contexte, par exemple
l’ordre d’un annuaire ou l’ordre suivant la casse. Par exemple, cette collation très pratique
tient compte de la valeur des chiffres (« tri naturel ») :
CREATE COLLATION nombres (provider = icu, locale = 'fr-u-kn-kr-latn-digit');
SELECT * FROM
(VALUES ('1 sou'),('01 sou'),('02 sous'),('2 sous'),
('10 sous'),('0100 sous') ) AS n(n)
ORDER BY n COLLATE nombres ;
n
-----------
309
https://dalibo.com/formations
SQL pour PostgreSQL
01 sou
1 sou
02 sous
2 sous
10 sous
0100 sous
n
-----------
0100 sous
01 sou
02 sous
10 sous
1 sou
2 sous
Pour d’autres exemples et les détails, voir ce billet de Peter Eisentraut91 et la documen-
tation officielle92 .
Les collations installées dans la base sont visibles avec \dO sous psql :
=# \dO
Liste des collationnements
91
https://blog.2ndquadrant.com/icu-support-postgresql-10/
92
https://docs.postgresql.fr/current/collation.html
310
7. TYPES DE BASE
311
https://dalibo.com/formations
SQL pour PostgreSQL
7.5.2 JSON
• json
– stockage sous forme d’une chaîne de caractère
– valide un document JSON sans modification
• jsonb (PG > 9.4)
– stockage binaire optimisé
– beaucoup plus de fonctions (dont jsonpath en v12)
– à préférer
7.5.3 XML
• xml
– stocke un document XML
– valide sa structure
• Quelques opérateurs disponibles
• Représentation d’intervalle
– utilisable avec plusieurs types : entiers, dates, timestamps, etc.
– contrainte d’exclusion
7.6.1 RANGE
• range
• exprime un intervalle
– entre deux bornes
– incluses ou non
– notation américaine !
• pour plusieurs types de bases
– int, bigint, numeric
– date, timestamp, timestamp with timezone
312
7. TYPES DE BASE
• Contrainte d’exclusion
• Utilisation :
– éviter le chevauchement de deux intervalles (range)
• Performance :
– s’appuie sur un index
Les types composites sont assez difficiles à utiliser, car ils nécessitent d’adapter la syn-
taxe spécifiquement au type composite. S’il ne s’agit que de regrouper quelques attributs
ensemble, autant les lister simplement dans la déclaration de la table.
313
https://dalibo.com/formations
SQL pour PostgreSQL
En revanche, il peut être intéressant pour stocker un tableau de données composites dans
une table.
Référence :
• Type énumération93
93
https://docs.postgresql.fr/current/datatype-enum.html
314
8. TYPES AVANCÉS
8 TYPES AVANCÉS
Ces types sont utilisés quand le modèle relationnel n’est pas assez souple, donc s’il est
nécessaire d’ajouter dynamiquement des colonnes à la table suivant les besoins du client,
ou si le détail des attributs d’une entité n’est pas connu (modélisation géographique par
exemple), etc.
• Les attributs d’une ligne peuvent être totalement éparpillés dans la table
attributs_sup : récupérer n’importe quelle information demandera donc
des accès à de nombreux blocs différents.
• Il faudra plusieurs requêtes (au moins deux) pour récupérer le détail d’un enreg-
istrement, avec du code plus lourd côté client pour fusionner le résultat des deux re-
315
https://dalibo.com/formations
SQL pour PostgreSQL
quêtes, ou bien une requête effectuant des jointures (autant que d’attributs, sachant
que le nombre de jointures complexifie énormément le travail de l’optimiseur SQL)
pour retourner directement l’enregistrement complet.
Toute recherche complexe est très inefficace : une recherche multi-critères sur ce
schéma va être extrêmement peu performante. Les statistiques sur les valeurs d’un
attribut deviennent nettement moins faciles à estimer pour PostgreSQL. Quant aux
contraintes d’intégrité entre valeurs, elles deviennent pour le moins complexes à gérer.
Les types hstore, json et jsonb permettent de résoudre le problème autrement. Ils
permettent de stocker les différentes entités dans un seul champ pour chaque ligne de
l’entité. L’accès aux attributs se fait par une syntaxe ou des fonctions spécifiques.
Il n’y a même pas besoin de créer une table des attributs séparée : le mécanisme du
« TOAST » permet de déporter les champs volumineux (texte, JSON, hstore…) dans
une table séparée gérée par PostgreSQL, éventuellement en les compressant, et cela de
manière totalement transparente. On y gagne donc en simplicité de développement.
8.2 HSTORE
hstore est une extension, fournie en « contrib ». Elle est donc systématiquement
disponible. L’installer permet d’utiliser le type de même nom. On peut ainsi stocker un
ensemble de clés/valeurs, exclusivement textes, dans un unique champ.
Ces champs sont indexables et peuvent recevoir des contraintes d’intégrité (unicité, non
recouvrement…).
Les hstore ne permettent par contre qu’un modèle « plat ». Il s’agit d’un pur stockage clé-
valeur. Si vous avez besoin de stocker des informations davantage orientées document,
vous devrez vous tourner vers un type JSON.
Ce type perd donc de son intérêt depuis que PostgreSQL 9.4 a apporté le type jsonb. Il
lui reste sa simplicité d’utilisation.
316
8. TYPES AVANCÉS
Les ordres précédents installent l’extension, créent une table avec un champ de type
hstore, insèrent trois lignes, avec des attributs variant sur chacune, indexent l’ensemble
avec un index GiST, et enfin recherchent les lignes où l’attribut carnivore possède la
valeur t.
nom | caract
--------+-----------------------------------
canari | "vole"=>"oui", "pattes"=>"2"
loup | "pattes"=>"4", "carnivore"=>"oui"
carpe | "eau"=>"douce"
Par exemple :
nom | caract
------+--------------------------------------------------
loup | "poil"=>"t", "pattes"=>"4", "carnivore"=>"oui"
94
https://docs.postgresql.fr/current/hstore.html
317
https://dalibo.com/formations
SQL pour PostgreSQL
hstore_to_matrix
-------------------------
{{vole,oui},{pattes,2}}
ou en JSON :
# SELECT caract::jsonb FROM animaux
WHERE (caract->'pattes')::int > 2;
caract
----------------------------------------------------
{"pattes": "4", "poil": "t", "carnivore": "oui"}
L’indexation de ces champs peut se faire avec divers types d’index. Un index unique
n’est possible qu’avec un index B-tree classique. Les index GIN ou GiST sont utiles
pour rechercher des valeurs d’un attribut. Les index hash ne sont utiles que pour des
recherches d’égalité d’un champ entier ; par contre ils sont très compacts. (Rappelons
que les index hash sont inutilisables avant PostgreSQL 10).
8.3 JSON
{
"firstName": "Jean",
"lastName": "Dupont",
"age": 27,
"address": {
"streetAddress": "43 rue du Faubourg Montmartre",
"city": "Paris",
"postalCode": "75009"
}
}
• json : format texte
• jsonb : format binaire, à préférer
• jsonpath : SQL/JSON paths (PG 12+)
Le format JSON95 est devenu extrêmement populaire. Au-delà d’un simple stockage
clé/valeur, il permet de stocker des tableaux, ou des hiérarchies, de manière plus sim-
ple et lisible qu’en XML. Par exemple, pour décrire une personne, on peut utiliser cette
structure :
{
"firstName": "Jean",
"lastName": "Dupont",
95
https://fr.wikipedia.org/wiki/JavaScript_Object_Notation
318
8. TYPES AVANCÉS
"isAlive": true,
"age": 27,
"address": {
"streetAddress": "43 rue du Faubourg Montmartre",
"city": "Paris",
"state": "",
"postalCode": "75002"
},
"phoneNumbers": [
{
"type": "personnel",
"number": "06 12 34 56 78"
},
{
"type": "bureau",
"number": "07 89 10 11 12"
}
],
"children": [],
"spouse": null
}
Même si le type json est apparu dans PostgreSQL 9.2, le JSON n’est vraiment utilisable
que depuis PostgreSQL 9.4, et le type jsonb (binaire). Les opérateurs SQL/JSON path96
ont été ajoutés dans PostgreSQL 12, suite à l’introduction du JSON dans le standard
SQL:2016. Ils permettent de spécifier des parties d’un champ JSON.
• Type texte
• Validation du format JSON
• Fonctions de manipulation JSON
– Mais ré-analyse du champ pour chaque appel de fonction
– Indexation comme un simple texte
• => Réservé au stockage à l’identique
– Sinon préférer jsonb
Le type natif json, dans PostgreSQL, n’est rien d’autre qu’un habillage autour du type
texte. Il valide à chaque insertion/modification que la donnée fournie est une syntaxe
JSON valide.
96
https://paquier.xyz/postgresql-2/postgres-12-jsonpath/
319
https://dalibo.com/formations
SQL pour PostgreSQL
Toutefois, le fait que la donnée soit validée comme du JSON permet d’utiliser des fonc-
tions de manipulation, comme l’extraction d’un attribut, la conversion d’un JSON en en-
registrement, de façon systématique sur un champ sans craindre d’erreur.
On préférera généralement le type binaire jsonb, pour les performances et ses fonction-
nalités supplémentaires. Au final, l’intérêt de json est surtout de conserver un objet JSON
sous sa forme originale.
Les exemples suivants avec jsonb sont aussi applicables à json. La plupart des fonctions
et opérateurs existent dans les deux versions.
Le type jsonb permet de stocker les données dans un format binaire optimisé. Ainsi, il
n’est plus nécessaire de désérialiser l’intégralité du document pour accéder à une pro-
priété.
Pour un exemple extrême (document JSON d’une centaine de Mo), voici une comparaison
des performances entre les deux types json et jsonb pour la récupération d’un champ
sur 1300 lignes :
EXPLAIN (ANALYZE, BUFFERS) SELECT document->'id' FROM test_json;
QUERY PLAN
---------------------------------------------------------------------
Seq Scan on test_json (cost=0.00..26.38 rows=1310 width=32)
(actual time=893.454..912.168 rows=1 loops=1)
Buffers: shared hit=170
Planning time: 0.021 ms
Execution time: 912.194 ms
QUERY PLAN
--------------------------------------------------------------------
Seq Scan on test_jsonb (cost=0.00..26.38 rows=1310 width=32)
(actual time=77.707..84.148 rows=1 loops=1)
320
8. TYPES AVANCÉS
Un champ de type jsonb (ou json) accepte tout champ JSON directement.
Column | Type
--------+-------
prenom | text
addr | jsonb
# \g
prenom | addr
---------+-------------------------------------------------------
Jean | { +
| "streetAddress": "43 rue du Faubourg Montmartre",+
| "city": "Paris", +
| "state": "", d
| "postalCode": "75002" +
| }
Georges | { +
| "streetAddress": "27 rue des Moulins", +
| "city": "Châteauneuf", +
| "postalCode": "45990" +
| }
villes
-------------
Paris
Châteauneuf
numero
----------------
06 12 34 56 78
07 89 10 11 12
06 21 34 56 87
07 98 10 11 13
322
8. TYPES AVANCÉS
Par exemple, si l’on souhaite filtrer des documents de la sorte pour ne ramener que ceux
dont une catégorie est categorie :
{
"id": 3,
"sous_document": {
"label": "mon_sous_document",
"mon_tableau": [
{"categorie": "categorie"},
{"categorie": "unique"}
]
}
}
SELECT document->'id'
FROM json_table j,
LATERAL jsonb_array_elements(document #> '{sous_document, mon_tableau}')
AS elements_tableau
WHERE elements_tableau->>'categorie' = 'categorie';
323
https://dalibo.com/formations
SQL pour PostgreSQL
On peut créer des index sur certaines propriétés en passant par des index fonctionnels.
L’index ci-dessus permettra d’accélérer des requêtes utilisant une clause WHERE sur
jsonb_extract_path_text(datas,'ouvrages') uniquement. Pour un champ fréquem-
ment utilisé pour les recherches, c’est le plus efficace. C’est d’ailleurs tout ce qui est pos-
sible avec un type json (avec la fonction json_extract_path_text).
Mais le gros avantage des jsonb réside dans la capacité de tirer parti des fonctionnalités
avancées de PostgreSQL, notamment les index GIN. Deux classes d’opérateurs permet-
tent d’en tirer parti. L’opérateur par défaut supporte plus d’opérations, mais il est souvent
suffisant, et plus efficace, de choisir l’opérateur jsonb_path_ops (voir les détails97 ).
QUERY PLAN
--------------------------------------------------------------------
Bitmap Heap Scan on personnes (cost=2.01..3.02 rows=1 width=32)
(actual time=0.018..0.019 rows=1 loops=1)
Recheck Cond: (datas @> '{"lastName": "Dupont"}'::jsonb)
Heap Blocks: exact=1
-> Bitmap Index Scan on idx_prs (cost=0.00..2.01 rows=1 width=0)
(actual time=0.010..0.010 rows=1 loops=1)
Index Cond: (datas @> '{"lastName": "Dupont"}'::jsonb)
Planning Time: 0.052 ms
Execution Time: 0.104 ms
Il n’est en revanche pas possible de faire des recherches sur des opérateurs B-tree clas-
siques (<, <=, >, >=), ou sur le contenu de tableaux. On est obligé pour cela de revenir
au monde relationnel, et l’indexation devra alors utiliser des index fonctionnels sur les
97
https://docs.postgresql.fr/current/datatype-json.html#JSON-INDEXING
324
8. TYPES AVANCÉS
clés que l’on souhaite indexer. Il est donc préférable d’utiliser les opérateurs spécifiques,
comme « contient » (@>).
JSON path facilite la recherche et le parcours dans les documents JSON complexes. Il
évite de parcourir manuellement les nœuds du JSON.
prenom
----------
Georges
jsonb_path_query
------------------------------------------------
{"type": "bureau", "number": "07 89 10 11 12"}
{"type": "bureau", "number": "07 98 10 11 13"}
98
https://www.postgresql.eu/events/pgconfeu2019/sessions/session/2555/slides/221/jsonpath-pgconfeu-2019.
pdf
99
https://paquier.xyz/postgresql-2/postgres-12-jsonpath/
325
https://dalibo.com/formations
SQL pour PostgreSQL
jsquery permet de requêter directement sur des champs imbriqués, en utilisant même des
jokers pour certaines parties.
Le langage en lui-même est relativement riche, et fournit un système de hints pour pallier
à certains problèmes de la collecte de statistiques, qui devrait être améliorée dans le futur.
Le périmètre est très proche des expressions jsonpath apparues dans PostgreSQL 12, qui,
elles, se basent sur le standard SQL:2016. Les auteurs sont d’ailleurs les mêmes. Voir cet
article pour les détails100 , ou le dépôt github101 . La communauté fournit des paquets.
8.4 XML
• Type xml
– stocke un document XML
– valide sa structure
• Quelques fonctions et opérateurs disponibles :
– XMLPARSE, XMLSERIALIZE, query_to_xml
– xpath (XPath 1.0 uniquement)
Le type xml, inclus de base, vérifie que le XML inséré est un document « bien formé », ou
constitue des fragments de contenu (« content »). L’encodage UTF-8 est impératif. Il y a
100
https://habr.com/en/company/postgrespro/blog/500440/
101
https://github.com/akorotkov/jsquery
326
8. TYPES AVANCÉS
quelques limitations par rapport aux dernières versions du standard, XPath et XQuery102
. Le stockage se fait en texte, donc bénéficie du mécanisme de compression TOAST.
Table « public.liste_cd »
Colonne | Type | Collationnement | NULL-able | Par défaut
-----------+------+-----------------+-----------+------------
catalogue | xml | | |
102
https://docs.postgresql.fr/current/xml-limits-conformance.html
103
https://docs.postgresql.fr/current/datatype-xml.html
104
https://docs.postgresql.fr/current/functions-xml.html
327
https://dalibo.com/formations
SQL pour PostgreSQL
xmlserialize
--------------------------------------------------
<?xml version="1.0" encoding="UTF-8"?> +
<CATALOG> +
<CD> +
<TITLE>The Times They Are a-Changin'</TITLE>+
<ARTIST>Bob Dylan</ARTIST> +
<COUNTRY>USA</COUNTRY> +
<YEAR>1964</YEAR> +
</CD> +
<CD> +
<TITLE>Olympia 1961</TITLE> +
<ARTIST>Jacques Brel</ARTIST> +
<COUNTRY>France</COUNTRY> +
<YEAR>1962</YEAR> +
</CD> +
</CATALOG>
(1 ligne)
Il existe aussi query_to_xml pour convertir un résultat de requête en XML, xmlagg pour
agréger des champs XML, ou xpath pour extraire des nœuds suivant une expression
XPath 1.0.
NB : l’extension xml2105 est dépréciée et ne doit pas être utilisée dans les nouveaux
projets.
328
8. TYPES AVANCÉS
La volumétrie peut donc devenir énorme, surtout si les binaires sont modifiés : le mode
de fonctionnement de PostgreSQL aura tendance à les dupliquer. Cela aura un impact sur
la fragmentation, la quantité de journaux, la taille des sauvegardes, et toutes les opéra-
tions de maintenance. Ce qui est intéressant à conserver dans une base sont des don-
nées qu’il faudra rechercher, et l’on recherche rarement au sein d’un gros binaire. En
général, l’essentiel des données binaires que l’on voudrait confier à une base peut se con-
tenter d’un stockage classique, PostgreSQL ne contenant qu’un chemin ou une URL vers
le fichier réel.
8.5.1 BYTEA
Voici un exemple :
Nous avons inséré la chaîne de caractère « bonjour » dans le champ bytea, en fait sa
représentation binaire dans l’encodage courant (UTF-8). Si nous interrogeons la table,
nous voyons la représentation textuelle du champ bytea. Elle commence par \x pour
indiquer un encodage de type hex. Ensuite, chaque paire de valeurs hexadécimales
représente un octet.
a
---------
bonjour
a
----------------
bonjour
journ\303\251e
Le format de sortie escape ne protège donc que les valeurs qui ne sont pas représentables
en ASCII 7 bits. Ce format peut être plus compact pour des données textuelles essentielle-
ment en alphabet latin sans accent, où le plus gros des caractères n’aura pas besoin d’être
protégé.
Le format hex est bien plus efficace à convertir, ce qui en fait le choix par défaut depuis
PostgreSQL 9.0. (Il est donc primordial que les librairies clientes, Java par exemple,
soient d’une version assez récente pour comprendre les deux formats. Sinon il faut forcer
bytea_output à escape, sous peine de corruption.)
La documentation officielle106 liste les fonctions pour encoder, décoder, extraire, hacher...
les bytea.
106
https://docs.postgresql.fr/current/functions-binarystring.html
330
8. TYPES AVANCÉS
Un large object est un objet totalement décorrélé des tables. (il est stocké en fait dans la
table système pg_largeobject). Le code doit donc gérer cet objet séparément :
• une taille jusqu’à 4 To, ce qui n’est tout de même pas conseillé ;
• la possibilité d’accéder à une partie directement (par exemple les octets de 152000
à 153020), ce qui permet de le transférer par parties sans le charger en mémoire
(notamment, le driver JDBC de PostgreSQL fournit une classe LargeObject107 ) ;
• de ne modifier que cette partie sans tout réécrire.
107
https://jdbc.postgresql.org/documentation/head/largeobjects.html
108
https://docs.postgresql.fr/current/lo.html
109
https://docs.postgresql.fr/current/vacuumlo.html
110
https://docs.postgresql.fr/current/largeobjects.html
331
https://dalibo.com/formations
SQL pour PostgreSQL
Les TP sur le types hstore et JSON utilisent la base cave. La base cave peut être
téléchargée depuis https://dali.bo/tp_cave (dump de 2,6 Mo, pour 71 Mo sur le disque
au final) et importée ainsi :
Pour ce TP, il est fortement conseillé d’aller regarder la documentation officielle du type
hstore sur https://docs.postgresql.fr/current/hstore.html.
But : Obtenir une version dénormalisée de la table stock : elle contiendra une colonne
de type hstore contenant l’année, l’appellation, la région, le récoltant, le type, et le con-
tenant :
vin_id integer
nombre integer
attributs hstore
SELECT stock.vin_id,
stock.annee,
stock.nombre,
recoltant.nom AS recoltant,
appellation.libelle AS appellation,
region.libelle AS region,
type_vin.libelle AS type_vin,
contenant.contenance,
contenant.libelle as contenant
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
332
8. TYPES AVANCÉS
8.6.2 JSONB
Nous allons créer une table dénormalisée contenant uniquement un champs JSON.
contenant: {
contenance: real,
libelle: text
},
annee: integer,
nombre: integer
}]
}
Pour écrire une requête permettant de générer ces documents, nous allons procéder par
étapes.
SELECT
recoltant.nom,
recoltant.adresse,
appellation.libelle,
region.libelle,
type_vin.libelle
FROM vin
INNER JOIN recoltant on vin.recoltant_id = recoltant.id
INNER JOIN appellation on vin.appellation_id = appellation.id
INNER JOIN region on region.id = appellation.region_id
INNER JOIN type_vin on vin.type_vin_id = type_vin.id;
334
8. TYPES AVANCÉS
335
https://dalibo.com/formations
SQL pour PostgreSQL
8.7.1 HSTORE
SELECT stock.vin_id,
stock.annee,
stock.nombre,
recoltant.nom AS recoltant,
appellation.libelle AS appellation,
region.libelle AS region,
type_vin.libelle AS type_vin,
contenant.contenance,
contenant.libelle as contenant
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
JOIN contenant ON (stock.contenant_id=contenant.id)
LIMIT 10;
Une remarque toutefois : les éléments du tableau doivent tous être de même type, d’où
la conversion en text des quelques éléments entiers. C’est aussi une limitation du type
hstore : il ne supporte que les attributs texte.
Cela donne :
CREATE EXTENSION hstore;
336
8. TYPES AVANCÉS
hstore(ARRAY['annee', stock.annee::text,
'recoltant', recoltant.nom,
'appellation',appellation.libelle,
'region',region.libelle,
'type_vin',type_vin.libelle,
'contenance',contenant.contenance::text,
'contenant',contenant.libelle]) AS attributs
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
JOIN contenant ON (stock.contenant_id=contenant.id);
QUERY PLAN
--------------------------------------------------------------------------------
Bitmap Heap Scan on stock_denorm (cost=64.70..374.93 rows=91 width=193)
(actual time=64.370..68.526 rows=1680 loops=1)
Recheck Cond: (attributs @> '"region"=>"Alsace", "type_vin"=>"blanc",
"contenant"=>"bouteille"'::hstore)
Heap Blocks: exact=1256
Buffers: shared hit=1353
-> Bitmap Index Scan on idx_stock_denorm
337
https://dalibo.com/formations
SQL pour PostgreSQL
EXPLAIN (ANALYZE,BUFFERS)
SELECT stock.vin_id,
stock.annee,
stock.nombre,
recoltant.nom AS recoltant,
appellation.libelle AS appellation,
region.libelle AS region,
type_vin.libelle AS type_vin,
contenant.contenance,
contenant.libelle as contenant
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
JOIN contenant ON (stock.contenant_id=contenant.id)
WHERE type_vin.libelle='blanc' AND region.libelle='Alsace'
AND contenant.libelle = 'bouteille';
QUERY PLAN
--------------------------------------------------------------------------------
Nested Loop (cost=11.64..873.33 rows=531 width=75)
(actual time=0.416..24.779 rows=1680 loops=1)
Join Filter: (stock.contenant_id = contenant.id)
Rows Removed by Join Filter: 3360
Buffers: shared hit=6292
-> Seq Scan on contenant (cost=0.00..1.04 rows=1 width=16)
(actual time=0.014..0.018 rows=1 loops=1)
Filter: (libelle = 'bouteille'::text)
Rows Removed by Filter: 2
Buffers: shared hit=1
-> Nested Loop (cost=11.64..852.38 rows=1593 width=67)
(actual time=0.392..22.162 rows=5040 loops=1)
Buffers: shared hit=6291
-> Hash Join (cost=11.23..138.40 rows=106 width=55)
(actual time=0.366..5.717 rows=336 loops=1)
338
8. TYPES AVANCÉS
339
https://dalibo.com/formations
SQL pour PostgreSQL
La requête sur le schéma normalisé est ici plus rapide. On constate tout de même qu’elle
accède à 6300 buffers, contre 1300 à la requête dénormalisée, soit 4 fois plus de don-
nées. Un test identique exécuté sur des données hors du cache donne environ 80 ms
pour la requête sur la table dénormalisée, contre près d’une seconde pour les tables nor-
malisées. Ce genre de transformation est très utile lorsque le schéma ne se prête pas à
une normalisation, et lorsque le volume de données à manipuler est trop important pour
tenir en mémoire. Les tables dénormalisées avec hstore se prêtent aussi bien mieux aux
recherches multi-critères.
8.7.2 JSONB
340
8. TYPES AVANCÉS
libelle: text,
region: text
},
type_vin: text
},
stocks: [{
contenant: {
contenance: real,
libelle: text
},
annee: integer,
nombre: integer
}]
}
SELECT
recoltant.nom,
recoltant.adresse,
appellation.libelle,
region.libelle,
type_vin.libelle
FROM vin
INNER JOIN recoltant on vin.recoltant_id = recoltant.id
INNER JOIN appellation on vin.appellation_id = appellation.id
INNER JOIN region on region.id = appellation.region_id
INNER JOIN type_vin on vin.type_vin_id = type_vin.id;
SELECT
jsonb_build_object(
'recoltant',
json_build_object('nom', recoltant.nom, 'adresse',
recoltant.adresse
),
'appellation',
jsonb_build_object('libelle', appellation.libelle, 'region', region.libelle),
'type_vin', type_vin.libelle
)
FROM vin
INNER JOIN recoltant on vin.recoltant_id = recoltant.id
INNER JOIN appellation on vin.appellation_id = appellation.id
INNER JOIN region on region.id = appellation.region_id
341
https://dalibo.com/formations
SQL pour PostgreSQL
342
8. TYPES AVANCÉS
La table avec JSON contient toutes les mêmes informations que l’ensemble des tables
normalisées de la base cave (à l’exception des id). Elle occupe en revanche une place
beaucoup moins importante, puisque les documents individuels vont pouvoir être com-
pressés en utilisant le mécanisme TOAST. De plus, on économise les 26 octets par ligne
de toutes les autres tables.
Pour la première requête, on peut utiliser l’opérateur « contient » pour passer par l’index :
SELECT DISTINCT document #> '{vin, recoltant, nom}'
FROM stock_jsonb
WHERE document @> '{"vin": {"appellation": {"region": "Beaujolais"}}}';
La seconde ne peut malheureusement pas être réécrite pour tirer partie de l’index.
344
8. TYPES AVANCÉS
345
https://dalibo.com/formations
SQL pour PostgreSQL
9.1 PRÉAMBULE
9.1.1 MENU
• agrégation de données
• clause FILTER
• fonctions window
• GROUPING SETS, ROLLUP, CUBE
• WITHIN GROUPS
9.1.2 OBJECTIFS
9.2 AGRÉGATS
À l’aide des fonctions de calcul d’agrégats, on peut réaliser un certain nombre de calculs
permettant d’analyser les données d’une table.
La plupart des exemples utilisent une table employes définie telle que :
346
9. SQL POUR L’ANALYSE DE DONNÉES
Ainsi, on peut déduire le salaire moyen avec la fonction avg(), les salaires maximum et
minimum versés par la société avec les fonctions max() et min(), ainsi que la somme
totale des salaires versés avec la fonction sum() :
La base de données réalise les calculs sur l’ensemble des données de la table et n’affiche
que le résultat du calcul.
Si l’on applique un filtre sur les données, par exemple pour ne prendre en compte que le
service Courrier, alors PostgreSQL réalise le calcul uniquement sur les données issues de
la lecture :
347
https://dalibo.com/formations
SQL pour PostgreSQL
En revanche, il n’est pas possible de référencer d’autres colonnes pour les afficher à côté
du résultat d’un calcul d’agrégation à moins de les utiliser comme critère de regroupe-
ment :
SELECT avg(salaire), nom FROM employes;
ERROR: column "employes.nom" must appear in the GROUP BY clause or be used in
an aggregate function
LIGNE 1 : SELECT avg(salaire), nom FROM employes;
^
• agrégat + GROUP BY
• Utilité
– effectue des calculs sur des regroupements : moyenne, somme, comptage,
etc.
– regroupement selon un critère défini par la clause GROUP BY
– exemple : calcul du salaire moyen de chaque service
L’opérateur d’agrégat GROUP BY indique à la base de données que l’on souhaite regrouper
les données selon les mêmes valeurs d’une colonne.
348
9. SQL POUR L’ANALYSE DE DONNÉES
Des calculs pourront être réalisés sur les données agrégées selon le critère de regroupe-
ment donné. Le résultat sera alors représenté en n’affichant que les colonnes de regroupe-
ment puis les valeurs calculées par les fonctions d’agrégation :
349
https://dalibo.com/formations
SQL pour PostgreSQL
L’agrégation est ici réalisée sur la colonne service. En guise de calcul d’agrégation, une
somme est réalisée sur les salaires payés dans chaque service.
SELECT service,
sum(salaire) AS salaires_par_service
FROM employes
GROUP BY service;
service | salaires_par_service
-------------+----------------------
Courrier | 7500.00
Direction | 10000.00
Publication | 7000.00
(3 lignes)
SQL permet depuis le début de réaliser des calculs d’agrégation. Pour cela, la base de
données observe les critères de regroupement définis dans la clause GROUP BY de la re-
quête et effectue l’opération sur l’ensemble des lignes qui correspondent au critère de
regroupement.
On peut combiner le résultat de deux requêtes d’agrégation avec UNION ALL, si les en-
sembles retournées sont de même type :
SELECT service,
sum(salaire) AS salaires_par_service
FROM employes GROUP BY service
UNION ALL
SELECT 'Total' AS service,
350
9. SQL POUR L’ANALYSE DE DONNÉES
sum(salaire) AS salaires_par_service
FROM employes;
service | salaires_par_service
-------------+----------------------
Courrier | 7500.00
Direction | 10000.00
Publication | 7000.00
Total | 24500.00
(4 lignes)
On le verra plus loin, cette dernière requête peut être écrite plus simplement avec les
GROUPING SETS, mais qui nécessitent au minimum PostgreSQL 9.5.
Les fonctions array_agg, string_agg et xmlagg permettent d’agréger des éléments dans
un tableau, dans une chaîne ou dans une arborescence XML. Autant l’ordre dans lequel
les données sont utilisées n’a pas d’importance lorsque l’on réalise un calcul d’agrégat
classique, autant cet ordre va influencer la façon dont les données seront produites par
les trois fonctions citées plus haut. En effet, le tableau généré par array_agg est composé
d’éléments ordonnés, de même que la chaîne de caractères ou l’arborescence XML.
SELECT service,
string_agg(nom, ', ' ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+-------------------
Courrier | Fantasio, Lagaffe
Direction | Dupuis
Publication | Lebrac, Prunelle
351
https://dalibo.com/formations
SQL pour PostgreSQL
(3 lignes)
La requête suivante permet d’obtenir, pour chaque service, la liste des employés dans un
tableau, trié par ordre alphabétique :
SELECT service,
string_agg(nom, ', ' ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+-------------------
Courrier | Fantasio, Lagaffe
Direction | Dupuis
Publication | Lebrac, Prunelle
(3 lignes)
Il est possible de réaliser la même chose mais pour obtenir un tableau plutôt qu’une chaîne
de caractère :
SELECT service,
array_agg(nom ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+--------------------
Courrier | {Fantasio,Lagaffe}
Direction | {Dupuis}
Publication | {Lebrac,Prunelle}
• Clause FILTER
• Utilité :
– filtrer les données sur les agrégats
– évite les expressions CASE complexes
• SQL:2003
• Intégré dans la version 9.4
La clause FILTER permet de remplacer des expressions complexes écrites avec CASE et
donc de simplifier l’écriture de requêtes réalisant un filtrage dans une fonction d’agrégat.
352
9. SQL POUR L’ANALYSE DE DONNÉES
Avec cette syntaxe, dès que l’on a besoin d’avoir de multiples filtres ou de filtres plus
complexes, la requête devient très rapidement peu lisible et difficile à maintenir. Le risque
d’erreur est également élevé.
L’exemple suivant montre l’utilisation de la clause FILTER et son équivalent écrit avec une
expression CASE :
sql=# SELECT count(*) AS compte_pays,
count(*) FILTER (WHERE r.nom_region='Europe') AS compte_pays_europeens,
count(CASE WHEN r.nom_region='Europe' THEN 1 END)
AS oldschool_compte_pays_europeens
FROM pays p
JOIN regions r
ON (p.region_id = r.region_id);
compte_pays | compte_pays_europeens | oldschool_compte_pays_europeens
-------------+-----------------------+---------------------------------
25 | 5 | 5
(1 ligne)
353
https://dalibo.com/formations
SQL pour PostgreSQL
• Fonctions window
– travaille sur des ensembles de données regroupés et triés indépendamment
de la requête principale
• Utilisation :
– utiliser plusieurs critères d’agrégation dans la même requête
– utiliser des fonctions de classement
– faire référence à d’autres lignes de l’ensemble de données
PostgreSQL supporte les fonctions de fenêtrage depuis la version 8.4. Elles apportent
des fonctionnalités analytiques à PostgreSQL, et permettent d’écrire beaucoup plus sim-
plement certaines requêtes.
Prenons un exemple.
354
9. SQL POUR L’ANALYSE DE DONNÉES
9.4.1 REGROUPEMENT
• Regroupement
– clause OVER (PARTITION BY ...)
• Utilité :
– plusieurs critères de regroupement différents
– avec des fonctions de calcul d’agrégats
La clause OVER permet de définir la façon dont les données sont regroupées - uniquement
pour la colonne définie - avec la clause PARTITION BY.
355
https://dalibo.com/formations
SQL pour PostgreSQL
Les calculs réalisés par cette requête sont identiques à ceux réalisés avec une agrégation
utilisant GROUP BY. La principale différence est que l’on évite de ici de perdre le détail des
données tout en disposant des données agrégées dans le résultat de la requête.
356
9. SQL POUR L’ANALYSE DE DONNÉES
SELECT ...
agregation OVER (PARTITION BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
9.4.5 TRI
• Tri
– OVER (ORDER BY …)
• Utilité :
– numéroter les lignes : row_number()
– classer des résultats : rank(), dense_rank()
– faire appel à d’autres lignes du résultat : lead(), lag()
La fonction row_number() permet de numéroter les lignes selon un critère de tri défini
dans la clause OVER.
L’ordre de tri de la clause OVER n’influence pas l’ordre de tri explicite d’une requête :
357
https://dalibo.com/formations
SQL pour PostgreSQL
On dispose aussi de fonctions de classement, pour déterminer par exemple les employés
les moins bien payés :
SELECT matricule, nom, salaire, service,
rank() OVER (ORDER BY salaire),
dense_rank() OVER (ORDER BY salaire)
FROM employes ;
matricule | nom | salaire | service | rank | dense_rank
-----------+----------+----------+-------------+------+------------
00000020 | Lagaffe | 3000.00 | Courrier | 1 | 1
00000040 | Lebrac | 3000.00 | Publication | 1 | 1
00000006 | Prunelle | 4000.00 | Publication | 3 | 2
00000004 | Fantasio | 4500.00 | Courrier | 4 | 3
00000001 | Dupuis | 10000.00 | Direction | 5 | 4
(5 lignes)
358
9. SQL POUR L’ANALYSE DE DONNÉES
Lorsque l’on utilise une clause de tri, la portion de données visible par l’opérateur
d’agrégat correspond aux données comprises entre la première ligne examinée et la ligne
courante. La fenêtre est définie selon le critère RANGE BETWEEN UNBOUNDED PRECEDING
AND CURRENT ROW.
359
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT ...
agregation OVER (ORDER BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
Le terme ORDER BY permet d’indiquer les critères de tri de la fenêtre sur laquelle on
souhaite travailler.
Il est possible de combiner les clauses de fenêtrage PARTITION BY et ORDER BY. Cela
permet d’isoler des jeux de données entre eux avec la clause PARTITION BY, tout en ap-
pliquant un critère de tri avec la clause ORDER BY. Beaucoup d’applications sont possibles
si l’on associe à cela les nombreuses fonctions analytiques disponibles.
360
9. SQL POUR L’ANALYSE DE DONNÉES
Si l’on applique les deux clauses PARTITION BY et ORDER BY à une fonction de fenêtrage,
alors le critère de tri est appliqué dans la partition et chaque partition est indépendante
l’une de l’autre.
SELECT ...
<agregation> OVER (PARTITION BY <colonnes>
ORDER BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
362
9. SQL POUR L’ANALYSE DE DONNÉES
Sans les fonctions analytiques, il était difficile en SQL d’écrire des requêtes nécessitant
de faire appel à des données provenant d’autres lignes que la ligne courante.
Par exemple, pour renvoyer la liste détaillée de tous les employés ET le salaire le plus
élevé du service auquel il appartient, on peut utiliser la fonction first_value() :
SELECT matricule, nom, salaire, service,
first_value(salaire) OVER (PARTITION BY service ORDER BY salaire DESC)
AS salaire_maximum_service
FROM employes ;
matricule | nom | salaire | service | salaire_maximum_service
-----------+----------+----------+-------------+-------------------------
00000004 | Fantasio | 4500.00 | Courrier | 4500.00
00000020 | Lagaffe | 3000.00 | Courrier | 4500.00
00000001 | Dupuis | 10000.00 | Direction | 10000.00
00000006 | Prunelle | 4000.00 | Publication | 4000.00
00000040 | Lebrac | 3000.00 | Publication | 4000.00
(5 lignes)
363
https://dalibo.com/formations
SQL pour PostgreSQL
• lead(colonne, n)
– retourne la valeur d’une colonne, n lignes après la ligne courante
• lag(colonne, n)
– retourne la valeur d’une colonne, n lignes avant la ligne courante
La requête présentée en exemple ne s’appuie que sur un jeu réduit de données afin de
montrer un résultat compréhensible.
364
9. SQL POUR L’ANALYSE DE DONNÉES
NULL est renvoyé lorsque la valeur n’est pas accessible dans la fenêtre de données, comme
par exemple si l’on souhaite utiliser la valeur d’une colonne appartenant à la ligne précé-
dant la première ligne de la partition.
9.4.18 FIRST/LAST/NTH_VALUE
• first_value(colonne)
– retourne la première valeur pour la colonne
• last_value(colonne)
– retourne la dernière valeur pour la colonne
• nth_value(colonne, n)
– retourne la n-ème valeur (en comptant à partir de 1) pour la colonne
Utilisé avec ORDER BY et PARTITION BY, la fonction first_value() permet par exemple
d’obtenir le salaire le plus élevé d’un service :
SELECT matricule, nom, salaire, service,
first_value(salaire) OVER (PARTITION BY service ORDER BY salaire DESC)
AS salaire_maximum_service
FROM employes ;
Par exemple, si l’on exécute la même requête en utilisant last_value() plutôt que
first_value(), on récupère à chaque fois la valeur de la colonne sur la ligne courante :
SELECT pays, continent, population,
last_value(population) OVER (PARTITION BY continent
ORDER BY population DESC)
FROM population;
Il est alors nécessaire de redéfinir le comportement de la fenêtre visible pour que la fonc-
tion se comporte comme attendu, en utilisant RANGE BETWEEN UNBOUNDED PRECEDING
AND UNBOUNDED FOLLOWING - cet aspect sera décrit dans la section sur les possibilités de
modification de la définition de la fenêtre.
366
9. SQL POUR L’ANALYSE DE DONNÉES
Il arrive que l’on ait besoin d’utiliser plusieurs fonctions de fenêtrage au sein d’une même
requête qui utilisent la même définition de fenêtre (même clause PARTITION BY et/ou
ORDER BY). Afin d’éviter de dupliquer cette clause, il est possible de définir une fenêtre
nommée et de l’utiliser à plusieurs endroits de la requête. Par exemple, l’exemple précé-
dent des fonctions de classement pourrait s’écrire :
SELECT matricule, nom, salaire, service,
rank() OVER w,
dense_rank() OVER w
FROM employes
WINDOW w AS (ORDER BY salaire);
matricule | nom | salaire | service | rank | dense_rank
-----------+----------+----------+-------------+------+------------
00000020 | Lagaffe | 3000.00 | Courrier | 1 | 1
00000040 | Lebrac | 3000.00 | Publication | 1 | 1
00000006 | Prunelle | 4000.00 | Publication | 3 | 2
00000004 | Fantasio | 4500.00 | Courrier | 4 | 3
00000001 | Dupuis | 10000.00 | Direction | 5 | 4
(5 lignes)
À noter qu’il est possible de définir de multiples définitions de fenêtres au sein d’une
même requête, et qu’une définition de fenêtre peut surcharger la clause ORDER BY si la
définition parente ne l’a pas définie. Par exemple, la requête SQL suivante est correcte :
SELECT matricule, nom, salaire, service,
rank() OVER w_asc,
dense_rank() OVER w_desc
FROM employes
WINDOW w AS (PARTITION BY service),
w_asc AS (w ORDER BY salaire),
w_desc AS (w ORDER BY salaire DESC);
367
https://dalibo.com/formations
SQL pour PostgreSQL
368
9. SQL POUR L’ANALYSE DE DONNÉES
• Indique un intervalle borné par un nombre de ligne défini avant et après la ligne
courante
• Borne de départ :
– xxx PRECEDING : depuis les xxx valeurs devant la ligne courante
– CURRENT ROW : depuis la ligne courante
• Borne de fin :
– xxx FOLLOWING : depuis les xxx valeurs derrière la ligne courante
– CURRENT ROW : jusqu’à la ligne courante
OVER (PARTITION BY ...
ORDER BY ...
ROWS BETWEEN 2 PRECEDING AND 1 FOLLOWING
369
https://dalibo.com/formations
SQL pour PostgreSQL
370
9. SQL POUR L’ANALYSE DE DONNÉES
• WITHIN GROUP
– PostgreSQL 9.4
• Utilité :
– calcul de médianes, centiles
La clause WITHIN GROUP est une nouvelle clause pour les agrégats utilisant des fonctions
dont les données doivent être triées. Quelques fonctions ont été ajoutées pour profiter
au mieux de cette nouvelle clause.
SELECT continent,
percentile_disc(0.5)
WITHIN GROUP (ORDER BY population) AS "mediane",
percentile_disc(0.95)
WITHIN GROUP (ORDER BY population) AS "95pct",
ROUND(AVG(population), 1) AS moyenne
FROM population
GROUP BY continent;
En ajoutant le support de cette clause, PostgreSQL améliore son support de la norme SQL
2008 et permet le développement d’analyses statistiques plus élaborées.
• GROUPING SETS/ROLLUP/CUBE
• Extension de GROUP BY
• PostgreSQL 9.5
• Utilité :
– présente le résultat de plusieurs agrégations différentes
– réaliser plusieurs agrégations différentes dans la même requête
Les GROUPING SETS permettent de définir plusieurs clauses d’agrégation GROUP BY. Les ré-
sultats seront présentés comme si plusieurs requêtes d’agrégation avec les clauses GROUP
BY mentionnées étaient assemblées avec UNION ALL.
372
9. SQL POUR L’ANALYSE DE DONNÉES
SELECT piece,region,sum(quantite)
FROM stock GROUP BY GROUPING SETS (piece,region);
piece | region | sum
--------+--------+-----
clous | | 70
ecrous | | 90
vis | | 160
| est | 120
| nord | 60
| ouest | 50
| sud | 90
373
https://dalibo.com/formations
SQL pour PostgreSQL
Le comportement de la clause GROUPING SETS peut être émulée avec deux requêtes util-
isant chacune une clause GROUP BY sur les colonnes de regroupement souhaitées.
QUERY PLAN
-------------------------------------------------------------------------
Append (cost=1.12..2.38 rows=7 width=44)
-> HashAggregate (cost=1.12..1.15 rows=3 width=45)
Group Key: stock.piece
-> Seq Scan on stock (cost=0.00..1.08 rows=8 width=9)
-> HashAggregate (cost=1.12..1.16 rows=4 width=44)
Group Key: stock_1.region
-> Seq Scan on stock stock_1 (cost=0.00..1.08 rows=8 width=8)
La requête utilisant la clause GROUPING SETS propose un plan bien plus efficace :
374
9. SQL POUR L’ANALYSE DE DONNÉES
9.6.5 ROLLUP
• ROLLUP
• PostgreSQL 9.5
• Utilité :
– calcul de totaux dans la même requête
La clause ROLLUP est une fonctionnalité d’analyse type OLAP du langage SQL. Elle s’utilise
dans la clause GROUP BY, tout comme GROUPING SETS
375
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT piece,region,sum(quantite)
FROM stock GROUP BY ROLLUP (piece,region);
Cette requête est équivalente à la requête suivante utilisant GROUPING SETS :
SELECT piece,region,sum(quantite)
FROM stock
GROUP BY GROUPING SETS ((),(piece),(piece,region));
Sur une requête un peu plus intéressante, effectuant des statistiques sur des ventes :
SELECT row_number()
OVER ( ORDER BY grouping(piece,region)) AS ligne,
376
9. SQL POUR L’ANALYSE DE DONNÉES
grouping(piece,region)::bit(2) AS g,
piece,
region,
sum(quantite)
FROM stock
GROUP BY CUBE (piece,region)
ORDER BY g ;
SELECT COALESCE(service,
CASE
WHEN GROUPING(service) = 0 THEN 'Unknown' ELSE 'Total'
END) AS service,
sum(salaire) AS salaires_service, count(*) AS nb_employes
FROM employes
GROUP BY ROLLUP (service);
service | salaires_service | nb_employes
-------------+------------------+-------------
Courrier | 7500.00 | 2
Direction | 50000.00 | 1
Publication | 7000.00 | 2
Total | 64500.00 | 5
(4 rows)
SELECT COALESCE(type_client,
CASE
377
https://dalibo.com/formations
SQL pour PostgreSQL
378
9. SQL POUR L’ANALYSE DE DONNÉES
9.6.8 CUBE
• CUBE
– PostgreSQL 9.5
• Utilité :
– calcul de totaux dans la même requête
– sur toutes les clauses de regroupement
La clause CUBE est une autre fonctionnalité d’analyse type OLAP du langage SQL. Tout
comme ROLLUP, elle s’utilise dans la clause GROUP BY.
SELECT piece,region,sum(quantite)
FROM stock GROUP BY CUBE (piece,region);
Cette requête est équivalente à la requête suivante utilisant GROUPING SETS :
SELECT piece,region,sum(quantite)
FROM stock
GROUP BY GROUPING SETS (
(),
(piece),
(region),
(piece,region)
);
379
https://dalibo.com/formations
SQL pour PostgreSQL
Elle permet de réaliser des regroupements sur l’ensemble des combinaisons possibles des
clauses de regroupement indiquées. Pour de plus amples détails, se référer à cet article
Wikipédia111 .
SELECT type_client,
code_pays,
SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients cl
ON (c.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
WHERE date_commande BETWEEN '2014-01-01' AND '2014-12-31'
GROUP BY CUBE (type_client, code_pays);
380
9. SQL POUR L’ANALYSE DE DONNÉES
E | | 414152232.57
P | CA | 292975985.52
P | CN | 287795272.87
P | DE | 287337725.21
P | DZ | 302501132.54
P | FR | 2341977444.49
P | IN | 295256262.73
P | PE | 300278960.24
P | RU | 287605812.99
P | US | 296424154.49
P | | 4692152751.08
| | 5217862160.65
| CA | 327706809.65
| CN | 321261454.05
| DE | 319488602.46
| DZ | 333727307.87
| FR | 2606641183.25
| IN | 329268913.95
| PE | 332177174.71
| RU | 319769574.36
| US | 327821140.35
Dans ce genre de contexte, lorsque le regroupement est réalisé sur l’ensemble des valeurs
d’un critère de regroupement, alors la valeur qui apparaît est NULL pour la colonne cor-
respondante. Si la colonne possède des valeurs NULL légitimes, il est alors difficile de
les distinguer. On utilise alors la fonction GROUPING() qui permet de déterminer si le re-
groupement porte sur l’ensemble des valeurs de la colonne. L’exemple suivant montre
une requête qui exploite cette fonction :
SELECT GROUPING(type_client,code_pays)::bit(2),
GROUPING(type_client)::boolean g_type_cli,
GROUPING(code_pays)::boolean g_code_pays,
type_client,
code_pays,
SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients cl
ON (c.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
381
https://dalibo.com/formations
SQL pour PostgreSQL
L’application sera alors à même de gérer la présentation des résultats en fonction des
valeurs de grouping ou g_type_client et g_code_pays.
382
9. SQL POUR L’ANALYSE DE DONNÉES
Le schéma brno2015 dispose d’une table pilotes ainsi que les résultats tour par tour de la
course de MotoGP de Brno (CZ) de la saison 2015.
La table brno2015 indique pour chaque tour, pour chaque pilote, le temps réalisé dans le
tour :
Table "public.brno_2015"
Column | Type | Modifiers
-----------+----------+-----------
no_tour | integer |
no_pilote | integer |
lap_time | interval |
Table "public.pilotes"
Column | Type | Modifiers
-------------+---------+-----------
no | integer |
nom | text |
nationalite | text |
ecurie | text |
moto | text |
Précisions sur les données à manipuler : la course est réalisée en plusieurs tours; certains
coureurs n’ont pas terminé la course, leur relevé de tours s’arrête donc brutalement.
Agrégation
1. Quel est le pilote qui a le moins gros écart entre son meilleur tour et son moins bon
tour ?
Window Functions
• le nom du pilote ;
• son rang dans le tour ;
383
https://dalibo.com/formations
SQL pour PostgreSQL
6. Pour chaque coureur, quel est son meilleur tour et quelle place avait-il sur ce tour ?
7. Déterminer quels sont les coureurs ayant terminé la course qui ont gardé la même
position tout au long de la course.
Grouping Sets
Ce TP nécessite PostgreSQL 9.5 ou supérieur. Il s’appuie sur les tables présentes dans le
schéma magasin.
9. En une seule requête, afficher le montant total des commandes par année et pays
et le montant total des commandes uniquement par année.
10. Ajouter également le montant total des commandes depuis le début de l’activité.
384
9. SQL POUR L’ANALYSE DE DONNÉES
Le schéma brno2015 dispose d’une table pilotes ainsi que les résultats tour par tour de la
course de MotoGP de Brno (CZ) de la saison 2015.
La table brno2015 indique pour chaque tour, pour chaque pilote, le temps réalisé dans le
tour :
Table "public.brno_2015"
Column | Type | Modifiers
-----------+----------+-----------
no_tour | integer |
no_pilote | integer |
lap_time | interval |
Table "public.pilotes"
Column | Type | Modifiers
-------------+---------+-----------
no | integer |
nom | text |
nationalite | text |
ecurie | text |
moto | text |
Précisions sur les données à manipuler : la course est réalisée en plusieurs tours; certains
coureurs n’ont pas terminé la course, leur relevé de tours s’arrête donc brutalement.
Agrégation
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
brno2015 :
1. Quel est le pilote qui a le moins gros écart entre son meilleur tour et son moins bon
tour ?
Le coureur :
ORDER BY 2
LIMIT 1;
nom | ecart
-----------------+--------------
Jorge LORENZO | 00:00:04.661
(1 row)
Nous excluons le premier tour car il s’agit d’une course avec départ arrêté, donc ce tour
est plus lent que les autres, ici d’au moins 8 secondes :
SELECT nom, stddev(extract (epoch from lap_time)) as stddev
FROM brno_2015
JOIN pilotes
ON (no_pilote = no)
WHERE no_tour > 1
GROUP BY 1
ORDER BY 2
LIMIT 1;
nom | stddev
-----------------+-------------------
Alex DE ANGELIS | 0.130107647741847
(1 row)
On s’aperçoit qu’Alex De Angelis n’a pas terminé la course. Il semble donc plus intéressant
de ne prendre en compte que les pilotes qui ont terminé la course et toujours en excluant
le premier tour (il y a 22 tours sur cette course, on peut le positionner soit en dur dans
la requête, soit avec un sous-select permettant de déterminer le nombre maximum de
tours) :
SELECT nom, stddev(extract (epoch from lap_time)) as stddev
FROM brno_2015
JOIN pilotes
ON (no_pilote = no)
WHERE no_tour > 1
AND no_pilote in (SELECT no_pilote FROM brno_2015 WHERE no_tour=22)
GROUP BY 1
ORDER BY 2
LIMIT 1;
386
9. SQL POUR L’ANALYSE DE DONNÉES
nom | stddev
-----------------+-------------------
Alvaro BAUTISTA | 0.222825823492654
Window Functions
Si ce n’est pas déjà fait, nous positionnons le search_path pour chercher les objets du
schéma brno2015 :
SET search_path = brno2015;
Les coureurs qui ne franchissent pas la ligne d’arrivée sont dans le classement malgré tout.
Il faut donc tenir compte de cela dans l’affichage des résultats.
SELECT rank() OVER (ORDER BY max_lap desc, total_time asc) AS rang,
nom, ecurie, total_time
FROM (SELECT no_pilote,
sum(lap_time) over (PARTITION BY no_pilote) as total_time,
max(no_tour) over (PARTITION BY no_pilote) as max_lap
FROM brno_2015
) AS race_data
JOIN pilotes
ON (race_data.no_pilote = pilotes.no)
GROUP BY nom, ecurie, max_lap, total_time
ORDER BY max_lap desc, total_time asc;
La requête n’est pas beaucoup modifiée, seule la fonction first_value() est utilisée
pour déterminer le temps du vainqueur, temps qui sera ensuite retranché au temps du
coureur courant.
388
9. SQL POUR L’ANALYSE DE DONNÉES
• le nom du pilote ;
• son rang dans le tour ;
• son temps depuis le début de la course ;
• dans le tour, la différence de temps par rapport au premier.
Pour construire cette requête, nous avons besoin d’obtenir le temps cumulé tour après
tour pour chaque coureur. Nous commençons donc par écrire une première requête :
SELECT *,
SUM(lap_time)
OVER (PARTITION BY no_pilote ORDER BY no_tour) AS temps_tour_glissant
FROM brno_2015
4 | 4 | 00:01:56.943 | 00:07:53.743
5 | 4 | 00:01:57.012 | 00:09:50.755
6 | 4 | 00:01:57.011 | 00:11:47.766
7 | 4 | 00:01:57.313 | 00:13:45.079
8 | 4 | 00:01:57.95 | 00:15:43.029
9 | 4 | 00:01:57.296 | 00:17:40.325
10 | 4 | 00:01:57.295 | 00:19:37.62
11 | 4 | 00:01:57.185 | 00:21:34.805
12 | 4 | 00:01:57.45 | 00:23:32.255
13 | 4 | 00:01:57.457 | 00:25:29.712
14 | 4 | 00:01:57.362 | 00:27:27.074
15 | 4 | 00:01:57.482 | 00:29:24.556
16 | 4 | 00:01:57.358 | 00:31:21.914
17 | 4 | 00:01:57.617 | 00:33:19.531
18 | 4 | 00:01:57.594 | 00:35:17.125
19 | 4 | 00:01:57.412 | 00:37:14.537
20 | 4 | 00:01:57.786 | 00:39:12.323
21 | 4 | 00:01:58.087 | 00:41:10.41
22 | 4 | 00:01:58.357 | 00:43:08.767
(...)
Cette requête de base est ensuite utilisée dans une CTE qui sera utilisée par la requête
répondant à la question de départ. La colonne temps_tour_glissant est utilisée pour
calculer le rang du pilote dans la course, est affiché et le temps cumulé du meilleur pilote
est récupéré avec la fonction first_value :
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
ORDER BY no_pilote, no_tour
)
390
9. SQL POUR L’ANALYSE DE DONNÉES
On pouvait également utiliser une simple sous-requête pour obtenir le même résultat :
SELECT no_tour,
nom,
rank()
OVER (PARTITION BY no_tour
ORDER BY temps_tour_glissant ASC
) AS place_course,
temps_tour_glissant,
temps_tour_glissant - first_value(temps_tour_glissant)
OVER (PARTITION BY no_tour
ORDER BY temps_tour_glissant asc
) AS difference
FROM (
SELECT *, SUM(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour)
AS temps_tour_glissant
FROM brno_2015) course
JOIN pilotes
ON (pilotes.no = course.no_pilote)
ORDER BY no_tour;
6. Pour chaque coureur, quel est son meilleur tour et quelle place avait-il sur ce tour ?
Il est ici nécessaire de sélectionner pour chaque tour le temps du meilleur tour. On peut
alors sélectionner les tours pour lequels le temps du tour est égal au meilleur temps :
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
ORDER BY no_pilote, no_tour
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course,
temps_tour_glissant,
min(lap_time) OVER (PARTITION BY no_pilote) as meilleur_temps
FROM temps_glissant
)
392
9. SQL POUR L’ANALYSE DE DONNÉES
7. Déterminer quels sont les coureurs ayant terminé la course qui ont gardé la même
position tout au long de la course.
WITH nb_tour AS (
SELECT max(no_tour) FROM brno_2015
),
temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant,
max(no_tour) OVER (PARTITION BY no_pilote) as total_tour
FROM brno_2015
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time, total_tour,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course
393
https://dalibo.com/formations
SQL pour PostgreSQL
FROM temps_glissant
)
SELECT no_pilote
FROM classement_tour t
JOIN nb_tour n ON n.max = t.total_tour
GROUP BY no_pilote
HAVING count(DISTINCT place_course) = 1;
no_pilote
-----------
93
99
(2 lignes)
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course,
temps_tour_glissant
FROM temps_glissant
),
depassement AS (
SELECT no_pilote,
last_value(place_course) OVER (PARTITION BY no_pilote) as rang,
CASE
WHEN lag(place_course) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) - place_course < 0
THEN 0
ELSE lag(place_course) OVER (
PARTITION BY no_pilote
394
9. SQL POUR L’ANALYSE DE DONNÉES
ORDER BY no_tour
) - place_course
END AS depasse
FROM classement_tour t
)
Grouping Sets
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
magasin :
SET search_path = magasin;
9. En une seule requête, afficher le montant total des commandes par année et pays
et le montant total des commandes uniquement par année.
SELECT extract('year' from date_commande) AS annee, code_pays,
SUM(quantite*prix_unitaire) AS montant_total_commande
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients
ON (c.client_id = clients.client_id)
JOIN contacts co
ON (clients.contact_id = co.contact_id)
GROUP BY GROUPING SETS (
(extract('year' from date_commande), code_pays),
(extract('year' from date_commande))
);
2008 | DE | 694787.87
2008 | DZ | 663045.33
2008 | FR | 5860607.27
2008 | IN | 741850.87
2008 | PE | 1167825.32
2008 | RU | 577164.50
2008 | US | 928661.06
2008 | | 12451687.15
(...)
10. Ajouter également le montant total des commandes depuis le début de l’activité.
12. À partir de la requête précédente, ajouter une colonne par critère de regroupement,
de type booléen, qui est positionnée à true lorsque le regroupement est réalisé sur
l’ensemble des valeurs de la colonne.
396
9. SQL POUR L’ANALYSE DE DONNÉES
397
https://dalibo.com/formations
SQL pour PostgreSQL
398
10. SQL : CE QU’IL NE FAUT PAS FAIRE
• Modélisation
• Écriture de requêtes
• Conception de l’application
399
https://dalibo.com/formations
SQL pour PostgreSQL
Le modèle relationnel est apparu suite à un constat : les bases de données de l’époque
(hiérarchiques) reposaient sur la notion de pointeur. Une mise à jour pouvait donc facile-
ment casser le modèle : doublons simples, données pointant sur du « vide », doublons
incohérents entre eux, etc.
Le modèle relationnel a donc été proposé pour remédier à tous ces problèmes. Un sys-
tème relationnel repose sur le concept de relation (table en SQL). Une relation est un
ensemble de faits. Chaque fait est identifié par un identifiant (clé naturelle). Le fait lie
cet identifiant à un certain nombre d’attributs. Une relation ne peut donc pas avoir de
doublon.
La modélisation relationnelle étant un vaste sujet en soi, nous n’allons pas tout détailler
ici, mais plutôt rappeler les points les plus importants.
Une relation (table) est en troisième forme normale si tous les attributs (colonnes) dépen-
dent de la clé (primaire), de toute la clé (pas d’un sous-ensemble de ses colonnes), et de
400
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Si vos tables vérifient déjà ces trois points, votre modélisation est probablement assez
bonne.
10.3 ATOMICITÉ
Par ailleurs, on n’a évidemment aucun contrôle sur ce qui est mis dans le champ
caractéristiques, ce qui est la garantie de données incohérentes au bout de quelques
jours (heures ?) d’utilisation. Par exemple, rien n’empêche d’ajouter une ligne avec des
caractéristiques similaires légèrement différentes, comme « ABS », « boîte automatique ».
112
https://fr.wikipedia.org/wiki/Forme_normale_(bases_de_donn%C3%A9es_relationnelles)
401
https://dalibo.com/formations
SQL pour PostgreSQL
• Champs dédiés :
Column | Type | Description
----------------+---------+------------------------------------
immatriculation | text | Clé primaire
modele | text |
couleur | color | Couleur vehicule (bleu,rouge,vert)
abs | boolean | Option anti-blocage des roues
type_roue | boolean | tole/aluminium
motricite | boolean | 2 roues motrices / 4 roues motrices
• Plusieurs valeurs : contrainte CHECK/enum/table de référence
• Beaucoup de champs : clé/valeur (plusieurs formes possibles)
Une alternative plus fiable est de rajouter des colonnes boolean quatre_roues_motrices,
boolean abs, varchar couleur. C’est ce qui est à privilégier si le nombre de caractéris-
tiques est fixe et pas trop important.
Dans le cas où un simple booléen ne suffit pas, un champ avec une contrainte est possible.
Il y a plusieurs méthodes :
• un type « énumération113 » :
CREATE TYPE color AS ENUM ('bleu', 'rouge', 'vert') ;
ALTER TABLE voitures ADD COLUMN couleur color ;
402
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Ce modèle facilite les recherches et assure la cohérence. L’indexation est facilitée, et les
performances ne sont pas dégradées, bien au contraire.
Dans le cas où le nombre de propriétés n’est pas aussi bien défini qu’ici, ou est grand,
même un modèle clé-valeur dans une associée vaut mieux que l’accumulation de pro-
priétés dans un champ texte. Même une simple table des caractéristiques est plus flexible
(voir le TP).
Un modèle clé/valeur existe sous plusieurs variantes (table associée, champs hstore ou
JSON...) et a ses propres inconvénients, mais il offre au moins plus de flexibilité et de
possibilités d’indexation ou de validation des données. Ce sujet est traité plus loin.
Les contraintes d’intégrité et notamment les clés étrangères sont parfois absentes des
modèles de données. Les problématiques de performance et de flexibilité sont souvent
mises en avant, alors que les contraintes sont justement une aide pour l’optimisation de re-
quêtes par le planificateur, mais surtout une garantie contre de très coûteuses corruption
de données logiques.
• Conséquences
– problèmes d’intégrité des données
– fonctions de vérification de cohérence des données
• Les contraintes sont utiles à l’optimiseur :
– déterminent l’unicité des valeurs
– éradiquent des lectures de tables inutiles sur des LEFT JOIN
– utilisent les contraintes CHECK pour exclure une partition
403
https://dalibo.com/formations
SQL pour PostgreSQL
Ce cas est très facilement gérable pour un moteur de base de donnée si une clé étrangère
existe. Redévelopper ces mêmes contrôles dans la couche applicative sera toujours plus
coûteux en terme de performance, voire impossible à faire dans certains cas sans passer
par la base de donnée elle-même (multiples serveurs applicatifs accédant à la même base
de donnée).
Il peut s’ensuivre des calculs d’agrégats faux et des problèmes applicatifs de toute sorte.
Souvent, plutôt que de corriger le modèle de données, des fonctions de vérification de la
cohérence des données seront mises en place, entraînant ainsi un travail supplémentaire
pour trouver et corriger les incohérences.
Lorsque ces problèmes d’intégrité seront détectés, il s’en suivra également la création
de procédures de vérification de cohérence des données qui vont aussi alourdir les
développements, entraînant ainsi un travail supplémentaire pour trouver et corriger les
incohérences. Ce qui a été gagné d’un côté est perdu de l’autre, mais sous une forme
différente.
De plus, les contraintes d’intégrité sont des informations qui garantissent non seulement
la cohérence des données mais qui vont également influencer l’optimiseur dans ses choix
de plans d’exécution.
Parmi les informations utilisées par l’optimiseur, les contraintes d’unicité permettent de
déterminer sans difficulté la répartition des valeurs stockées dans une colonne : chaque
valeur est simplement unique. L’utilisation des index sur ces colonnes sera donc prob-
ablement favorisée. Les contraintes d’intégrité permettent également à l’optimiseur de
pouvoir éliminer des jointures inutiles avec un LEFT JOIN. Enfin, les contraintes CHECK sur
des tables partitionnées permettent de cibler les lectures sur certaines partitions seule-
ment, et donc d’exclure les partitions inutiles.
114
Situation où deux sessions ou plus modifient des données en tables au même moment.
404
10. SQL : CE QU’IL NE FAUT PAS FAIRE
• Solution :
– contraintes DEFERRABLE !
Parfois, les clés étrangères sont supprimées simplement parce que des transactions sont
en erreur car des données sont insérées dans une table fille sans avoir alimenté la table
mère. Des identifiants de clés étrangères de la table fille sont absents de la table mère,
entraînant l’arrêt en erreur de la transaction. Il est possible de contourner cela en différant
la vérification des contraintes d’intégrité à la fin de la transaction
La transaction insère d’abord les données dans la table fille, puis ensuite dans la table
mère :
BEGIN ;
SET CONSTRAINTS ALL DEFERRED ;
COMMIT;
405
https://dalibo.com/formations
SQL pour PostgreSQL
Sans le SET CONSTRAINTS ALL DEFERRED, le premier ordre serait tombé en erreur.
Le modèle relationnel a été critiqué depuis sa création pour son manque de souplesse
pour ajouter de nouveaux attributs ou pour proposer plusieurs attributs sans pour autant
nécessiter de redévelopper l’application.
La solution souvent retenue est d’utiliser une table « à tout faire » entité-attribut-valeur
qui est associée à une autre table de la base de données. Techniquement, une telle table
comporte trois colonnes. La première est un identifiant généré qui permet de référencer
la table mère. Les deux autres colonnes stockent le nom de l’attribut représenté et la
valeur représentée.
406
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Un tel modèle peut sembler souple mais pose plusieurs problèmes. Le premier concerne
l’intégrité des données. Il n’est pas possible de garantir la présence d’un attribut comme
on le ferait avec une contrainte NOT NULL. Si l’on souhaite stocker des données dans un
autre format qu’une chaîne de caractère, pour bénéficier des contrôles de la base de don-
nées sur ce type, la seule solution est de créer autant de colonnes d’attributs qu’il y a
de types de données à représenter. Ces colonnes ne permettront pas d’utiliser des con-
traintes CHECK pour garantir la cohérence des valeurs stockées avec ce qui est attendu,
car les attributs peuvent stocker n’importe quelle donnée.
1 nom Prunelle
1 prenom Léon
1 telephone 0123456789
1 fonction dba
Les requêtes SQL qui permettent de récupérer les données requises dans l’application
sont également particulièrement lourdes à écrire et à maintenir, à moins de récupérer les
données attribut par attribut.
Des problèmes de performances vont donc très rapidement se poser. Cette représenta-
tion des données entraîne souvent l’effondrement des performances d’une base de don-
nées relationnelle. Les requêtes sont difficilement optimisables et nécessitent de réaliser
beaucoup d’entrées-sorties disque, car les données sont éparpillées un peu partout dans
la table.
• Solutions :
– revenir sur la conception du modèle de données
– utiliser un type de données plus adapté : hstore, jsonb
• On économise jointures et place disque.
Lorsque de telles solutions sont déployées pour stocker des données transactionnelles,
il vaut mieux revenir à un modèle de données traditionnel qui permet de typer correcte-
ment les données, de mettre en place les contraintes d’intégrité adéquates et d’écrire des
requêtes SQL efficaces.
Dans d’autres cas où le nombre de champs est vraiment élevé et variable, il vaut mieux
utiliser un type de données de PostgreSQL qui est approprié, comme hstore qui permet
de stocker des données sous la forme clé->valeur. On conserve ainsi l’intégrité des
données (on n’a qu’une ligne par personne), on évite de très nombreuses jointures source
d’erreurs et de ralentissements, et même de la place disque.
De plus, ce type de données peut être indexé pour garantir de bons temps de réponses
des requêtes qui nécessitent des recherches sur certaines clés ou certaines valeurs.
408
10. SQL : CE QU’IL NE FAUT PAS FAIRE
1 | "nom"=>"Prunelle", "prenom"=>"Léon"
2 | "nom"=>"Lagaffe", "prenom"=>"Gaston"
3 | "nom"=>"DeMaesmaker"
(3 rows)
• Pourquoi
– stocker plusieurs attributs pour une même ligne
– exemple : les différents numéros de téléphone d’une personne
• Pratique courante
– ex : telephone_1, telephone_2
• Conséquences
– et s’il faut rajouter encore une colonne ?
– maîtrise de l’unicité des valeurs ?
– requêtes complexes à maintenir
• Solutions
– créer une table dépendante
– ou un type tableau
Dans certains cas, le modèle de données doit être étendu pour pouvoir stocker des don-
nées complémentaires. Un exemple typique est une table qui stocke les informations
pour contacter une personne. Une table personnes ou contacts possède une colonne
409
https://dalibo.com/formations
SQL pour PostgreSQL
telephone qui permet de stocker le numéro de téléphone d’une personne. Or, une per-
sonne peut disposer de plusieurs numéros. Le premier réflexe est souvent de créer une
seconde colonne telephone_2 pour stocker un numéro de téléphone complémentaire.
S’en suit une colonne telephone_3 voire telephone_4 en fonction des besoins.
Dans de tels cas, les requêtes deviennent plus complexes à maintenir et il est difficile
de garantir l’unicité des valeurs stockées pour une personne car l’écriture des contraintes
d’intégrité devient de plus en plus complexe au fur et à mesure que l’on ajoute une colonne
pour stocker un numéro.
La solution la plus pérenne pour gérer ce cas de figure est de créer une table de dépen-
dance qui est dédiée au stockage des numéros de téléphone. Ainsi, la table personnes ne
portera plus de colonnes telephone, mais une table telephones portera un identifiant
référençant une personne et un numéro de téléphone. Ainsi, si une personne dispose de
trois, quatre... numéros de téléphone, la table telephones comportera autant de lignes
qu’il y a de numéros pour une personne.
Les différents numéros de téléphone seront obtenus par jointure entre la table personnes
et la table telephones. L’application se chargera de l’affichage.
L’unicité des valeurs sera garantie à l’aide d’une contrainte d’unicité posée sur l’identifiant
per_id et le numéro de téléphone.
Une autre solution consiste à utiliser un tableau pour représenter cette information. D’un
point de vue conceptuel, le lien entre une personne et son ou ses numéros de téléphone
est plus une « composition » qu’une réelle « relation » : le numéro de téléphone ne nous
intéresse pas en tant que tel, mais uniquement en tant que détail d’une personne. On
410
10. SQL : CE QU’IL NE FAUT PAS FAIRE
SELECT *
FROM personnes;
per_id | nom | pnom | numero
--------+---------+------+--------------
1 | Simpson | Omer | {0607080910}
(1 ligne)
-- Vérification de l'ajout :
SELECT *
FROM personnes;
per_id | nom | pnom | numero
--------+---------+------+-------------------------
1 | Simpson | Omer | {0607080910,0102030420}
411
https://dalibo.com/formations
SQL pour PostgreSQL
Dans le modèle MVCC de PostgreSQL, chaque ligne utilise au bas mot 23 octets pour
stocker xmin, xmax et les autres informations de maintenance de la ligne. On peut donc
se retrouver avec un overhead représentant la majorité de la table. Cela peut avoir un fort
impact sur la volumétrie :
Il est parfois possible de regrouper les valeurs sur une même ligne au sein d’un ARRAY, ici
pour chaque seconde :
412
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Dans cet exemple, on économise la plupart des entêtes de ligne, mais aussi les données re-
dondantes (la date), et le coût de l’alignement des champs. Avec suffisamment de valeurs
à stocker, une partie des données peut même se retrouver compressée dans la partie
TOAST de la table.
Évidemment cette technique est à réserver aux cas où les données mises en tableau sont
insérées et mises à jour ensemble.
Tout cela est détaillé et mesuré dans ce billet de Julien Rouhaud116 . Il évoque aussi le
cas de structures plus complexes : au lieu d’un hstore ou d’un ARRAY, on peut utiliser un
type qui regroupe les différentes valeurs.
Une autre option, complémentaire, est le partitionnement. Il peut être géré manuellement
(tables générées par l’applicatif, par date et/ou par source de données...) ou profiter des
deux modes de partitionnement de PostgreSQL. Il n’affectera pas la volumétrie totale mais
permet de gérer des partitions plus maniables. Il a aussi l’intérêt de ne pas nécessiter de
modification du code pour lire les données.
115
https://www.postgresql.org/docs/current/static/arrays.html
116
https://rjuju.github.io/postgresql/2016/09/16/minimizing-tuple-overhead.html
413
https://dalibo.com/formations
SQL pour PostgreSQL
Surtout si vous trouvez dans les dernières colonnes des attributs comme attribut_supplementaire_1…
• Objectif
– représenter des valeurs décimales
• Pratique courante
– utiliser le type float ou double
• Problèmes :
– types flottants = approximation de la valeur représentée
– erreurs d’arrondis
– résultats faux
• Solutions
– numeric(x, y) pour les calculs précis (financiers notamment)
Certaines applications scientifiques se contentent de types flottants standards car ils per-
mettent d’encoder des valeurs plus importantes que les types entiers standards. Néan-
moins, les types flottants sont peu précis, notamment pour les applications financières
où une erreur d’arrondi n’est pas envisageable.
414
10. SQL : CE QU’IL NE FAUT PAS FAIRE
TP-108-AX 12
TF-112-IR ANNULÉE
avec bien sûr une table tournée décrivant la tournée elle-même, avec une clé technique
415
https://dalibo.com/formations
SQL pour PostgreSQL
numérique.
Un autre classique est le champ date stocké au format texte. Le format correct de cette
date ne peut être garanti par la base, ce qui mène systématiquement à des erreurs de con-
version si un humain est impliqué. Dans un environnement international où l’on mélange
DD-MM-YYYY et MM-DD-YYYY, un rattrapge manuel est même illusoire. Les calculs de
date sont évidemment impossibles.
• Utilisation de NULL
• Ordre implicite des colonnes
• Requêtes spaghetti
• Moteur de recherche avec LIKE
Le langage SQL est généralement méconnu, ce qui amène à l’écriture de requêtes peu
performantes, voire peu pérennes.
10.12 NULL
416
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Une table qui contient majoritairement des valeurs NULL contient bien peu de faits utilis-
ables. La plupart du temps, c’est une table dans laquelle on stocke beaucoup de choses
n’ayant que peu de rapport entre elles, les champs étant renseignés suivant le type de
chaque « chose ». C’est donc le plus souvent un signe de mauvaise modélisation. Cette
table aurait certainement dû être éclatée en plusieurs tables, chacune représentant une
des relations qu’on veut modéliser.
Il est donc recommandé que tous les attributs d’une table portent une contrainte NOT
NULL. Quelques colonnes peuvent ne pas porter ce type de contraintes, mais elles doivent
être une exception. En effet, le comportement de la base de données est souvent source
de problèmes lorsqu’une valeur NULL entre en jeu. Par exemple, la concaténation d’une
chaîne de caractères avec une valeur NULL retourne une valeur NULL, car elle est propagée
dans les calculs. D’autres types de problèmes apparaissent également pour les prédicats.
Il ne ne s’agit pas de remplacer ce NULL par des valeurs « magiques » (par exemple -1 pour
« Non renseigné » , cela ne ferait que complexifier le code) mais de se demander si NULL a
une vraie signification.
• Objectif
– s’économiser d’écrire la liste des colonnes dans une requête
• Problèmes
– si l’ordre des colonnes change, les résultats changent
– résultats faux
– données corrompues
• Solutions
– nommer les colonnes impliquées
Le langage SQL permet de s’appuyer sur l’ordre physique des colonnes d’une table. Or,
faire confiance à la base de données pour conserver cet ordre physique peut entraîner
de graves problèmes applicatifs en cas de changements. Dans le meilleur des cas,
417
https://dalibo.com/formations
SQL pour PostgreSQL
Par exemple, l’ordre des colonnes peut changer notamment lorsque certains ETL sont
utilisés pour modifier le type d’une colonne varchar(10) en varchar(11). Par exemple,
pour la colonne username, l’ETL Kettle génère les ordres suivants :
Il génère des ordres SQL inutiles et consommateurs d’entrées/sorties disques car il doit
générer des ordres SQL compris par tous les SGBD du marché. Or, tous les SGBD ne
permettent pas de changer le type d’une colonne aussi simplement que dans PostgreSQL.
PostgreSQL, lui, ne permet pas de changer l’ordre d’apparition des colonnes.
C’est pourquoi il est préférable de lister explicitement les colonnes dans les ordres INSERT
et SELECT, afin de garder un ordre d’insertion déterministe.
Exemples
CREATE TABLE insere (id integer PRIMARY KEY, col1 varchar(5), col2 integer);
INSERT INTO insere (id, col1, col2) VALUES (2, 'XXX', 10);
418
10. SQL : CE QU’IL NE FAUT PAS FAIRE
L’utilisation de SELECT * à la place d’une liste explicite est une erreur similaire. Le nombre
de colonnes peut brutalement varier. De plus, toutes les colonnes sont rarement utilisées
dans un tel cas, ce qui provoque un gaspillage de ressources.
Article.iddp_pays AS Article_1_37,
Article.iddp_recept AS Article_1_40,
Article.idda_unalvte AS Article_1_42,
Article.iddb_sitecl AS Article_1_43,
Article.lib_caisse AS Article_1_49,
Article.lib_com AS Article_1_50,
Article.maj_en_attente AS Article_1_61,
Article.qte_stk AS Article_1_63,
Article.ref_tech AS Article_1_64,
1 AS Article_1_70,
CASE
WHEN (SELECT COUNT(MA.id)
FROM da_majart MA
join da_majmas MM
ON MM.id = MA.idda_majmas
join gt_tmtprg TMT
ON TMT.id = MM.idgt_tmtprg
join gt_prog PROG
ON PROG.id = TMT.idgt_prog
WHERE idda_article = Article.id
AND TO_DATE(TO_CHAR(PROG.date_lancement, 'DDMMYYYY')
|| TO_CHAR(PROG.heure_lancement, ' HH24:MI:SS'),
'DDMMYYYY HH24:MI:SS') >= SYSDATE) >= 1 THEN 1
ELSE 0
END AS Article_1_74,
Article.iddp_compnat AS Article_2_0,
Article.iddp_modven AS Article_2_1,
Article.iddp_nature AS Article_2_2,
Article.iddp_preclin AS Article_2_3,
Article.iddp_raybala AS Article_2_4,
Article.iddp_sensgrt AS Article_2_5,
Article.iddp_tcdtfl AS Article_2_6,
Article.iddp_unite AS Article_2_8,
Article.idda_untgrat AS Article_2_9,
Article.idda_unpoids AS Article_2_10,
Article.iddp_unilogi AS Article_2_11,
ArticleComplement.datem AS ArticleComplement_5_6,
ArticleComplement.extgar_depl AS ArticleComplement_5_9,
ArticleComplement.extgar_mo AS ArticleComplement_5_10,
ArticleComplement.extgar_piece AS ArticleComplement_5_11,
ArticleComplement.id AS ArticleComplement_5_20,
ArticleComplement.iddf_collect AS ArticleComplement_5_22,
ArticleComplement.iddp_gpdtcul AS ArticleComplement_5_23,
ArticleComplement.iddp_support AS ArticleComplement_5_25,
ArticleComplement.iddp_typcarb AS ArticleComplement_5_27,
ArticleComplement.mt_ext_gar AS ArticleComplement_5_36,
420
10. SQL : CE QU’IL NE FAUT PAS FAIRE
ArticleComplement.pres_cpt AS ArticleComplement_5_44,
GenreProduitCulturel.code AS GenreProduitCulturel_6_0,
Collection.libelle AS Collection_8_1,
Gtin.date_dern_vte AS Gtin_10_0,
Gtin.gtin AS Gtin_10_1,
Gtin.id AS Gtin_10_3,
Fabricant.code AS Fabricant_14_0,
Fabricant.nom AS Fabricant_14_2,
ClassificationVenteLocale.niveau1 AS ClassificationVenteL_16_2,
ClassificationVenteLocale.niveau2 AS ClassificationVenteL_16_3,
ClassificationVenteLocale.niveau3 AS ClassificationVenteL_16_4,
ClassificationVenteLocale.niveau4 AS ClassificationVenteL_16_5,
MarqueCommerciale.code AS MarqueCommerciale_18_0,
MarqueCommerciale.libellelong AS MarqueCommerciale_18_4,
Composition.code AS Composition_20_0,
CompositionTextile.code AS CompositionTextile_21_0,
AssoArticleInterfaceBalance.datem AS AssoArticleInterface_23_0,
AssoArticleInterfaceBalance.lib_envoi AS AssoArticleInterface_23_3,
AssoArticleInterfaceCaisse.datem AS AssoArticleInterface_24_0,
AssoArticleInterfaceCaisse.lib_envoi AS AssoArticleInterface_24_3,
NULL AS TypeTraitement_25_0,
NULL AS TypeTraitement_25_1,
RayonBalance.code AS RayonBalance_31_0,
RayonBalance.max_cde_article AS RayonBalance_31_5,
RayonBalance.min_cde_article AS RayonBalance_31_6,
TypeTare.code AS TypeTare_32_0,
GrilleDePrix.datem AS GrilleDePrix_34_1,
GrilleDePrix.libelle AS GrilleDePrix_34_3,
FicheAgreage.code AS FicheAgreage_38_0,
Codelec.iddp_periact AS Codelec_40_1,
Codelec.libelle AS Codelec_40_2,
Codelec.niveau1 AS Codelec_40_3,
Codelec.niveau2 AS Codelec_40_4,
Codelec.niveau3 AS Codelec_40_5,
Codelec.niveau4 AS Codelec_40_6,
PerimetreActivite.code AS PerimetreActivite_41_0,
DonneesPersonnalisablesCodelec.gestionreftech AS DonneesPersonnalisab_42_0,
ClassificationArticleInterne.id AS ClassificationArticl_43_0,
ClassificationArticleInterne.niveau1 AS ClassificationArticl_43_2,
DossierCommercial.id AS DossierCommercial_52_0,
DossierCommercial.codefourndc AS DossierCommercial_52_1,
DossierCommercial.anneedc AS DossierCommercial_52_3,
DossierCommercial.codeclassdc AS DossierCommercial_52_4,
DossierCommercial.numversiondc AS DossierCommercial_52_5,
DossierCommercial.indice AS DossierCommercial_52_6,
DossierCommercial.code_ss_classement AS DossierCommercial_52_7,
421
https://dalibo.com/formations
SQL pour PostgreSQL
OrigineNegociation.code AS OrigineNegociation_53_0,
MotifBlocageInformation.libellelong AS MotifBlocageInformat_54_3,
ArbreLogistique.id AS ArbreLogistique_63_1,
ArbreLogistique.codesap AS ArbreLogistique_63_5,
Fournisseur.code AS Fournisseur_66_0,
Fournisseur.nom AS Fournisseur_66_2,
Filiere.code AS Filiere_67_0,
Filiere.nom AS Filiere_67_2,
ValorisationAchat.val_ach_patc AS Valorisation_74_3,
LienPrixVente.code AS LienPrixVente_76_0,
LienPrixVente.datem AS LienPrixVente_76_1,
LienGratuite.code AS LienGratuite_78_0,
LienGratuite.datem AS LienGratuite_78_1,
LienCoordonnable.code AS LienCoordonnable_79_0,
LienCoordonnable.datem AS LienCoordonnable_79_1,
LienStatistique.code AS LienStatistique_81_0,
LienStatistique.datem AS LienStatistique_81_1
FROM da_article Article
join (SELECT idarticle,
poids,
ROW_NUMBER()
over (
PARTITION BY RNA.id
ORDER BY INNERSEARCH.poids) RN,
titre,
nom,
prenom
FROM da_article RNA
join (SELECT idarticle,
pkg_db_indexation.CALCULPOIDSMOTS(chaine,
'foire vins%') AS POIDS,
DECODE(index_clerecherche, 'Piste.titre', chaine,
'') AS TITRE,
DECODE(index_clerecherche, 'Artiste.nom_prenom',
SUBSTR(chaine, 0, INSTR(chaine, '_') - 1),
'') AS NOM,
DECODE(index_clerecherche, 'Artiste.nom_prenom',
SUBSTR(chaine, INSTR(chaine, '_') + 1),
'') AS PRENOM
FROM ((SELECT index_idenreg AS IDARTICLE,
C.cde_art AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
422
10. SQL : CE QU’IL NE FAUT PAS FAIRE
'Article.codeArticle'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.cde_art AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticle'
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT index_idenreg AS IDARTICLE,
C.cde_art_bal AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticleBalance'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.cde_art_bal AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticleBalance'
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT index_idenreg AS IDARTICLE,
C.lib_com AS CHAINE,
index_clerecherche
423
https://dalibo.com/formations
SQL pour PostgreSQL
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.libelleCommercial'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.lib_com AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.libelleCommercial'
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT idda_article AS IDARTICLE,
C.gtin AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Gtin.gtin'
join da_gtin C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT idda_article AS IDARTICLE,
C.gtin AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Gtin.gtin'
join da_gtin C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
424
10. SQL : CE QU’IL NE FAUT PAS FAIRE
UNION ALL
(SELECT idda_article AS IDARTICLE,
C.ref_frn AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'ArbreLogistique.referenceFournisseur'
join da_arblogi C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT idda_article AS IDARTICLE,
C.ref_frn AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'ArbreLogistique.referenceFournisseur'
join da_arblogi C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1))) INNERSEARCH
ON INNERSEARCH.idarticle = RNA.id) SEARCHMC
ON SEARCHMC.idarticle = Article.id
AND 1 = 1
left join da_artcmpl ArticleComplement
ON Article.id = ArticleComplement.idda_article
left join dp_gpdtcul GenreProduitCulturel
ON ArticleComplement.iddp_gpdtcul = GenreProduitCulturel.id
left join df_collect Collection
ON ArticleComplement.iddf_collect = Collection.id
left join da_gtin Gtin
ON Article.id = Gtin.idda_article
AND Gtin.principal = 1
AND Gtin.db_suplog = 0
left join df_fabric Fabricant
ON Article.iddf_fabric = Fabricant.id
left join dp_clsvtel ClassificationVenteLocale
ON Article.iddp_clsvtel = ClassificationVenteLocale.id
left join dp_marqcom MarqueCommerciale
ON Article.iddp_marqcom = MarqueCommerciale.id
left join da_compo Composition
ON Composition.id = Article.idda_compo
425
https://dalibo.com/formations
SQL pour PostgreSQL
426
10. SQL : CE QU’IL NE FAUT PAS FAIRE
AND ArbreLogistique.princ = 1
AND ArbreLogistique.db_suplog = 0
left join df_filiere Filiere
ON ArbreLogistique.iddf_filiere = Filiere.id
left join df_fourn Fournisseur
ON Filiere.iddf_fourn = Fournisseur.id
left join od_dosal dossierALValo
ON dossierALValo.idda_arblogi = ArbreLogistique.id
AND dossierALValo.idod_dossier IS NULL
left join tt_val_dal valoDossier
ON valoDossier.idod_dosal = dossierALValo.id
AND valoDossier.estarecalculer = 0
left join tt_valo ValorisationAchat
ON ValorisationAchat.idtt_val_dal = valoDossier.id
AND ValorisationAchat.date_modif_retro IS NULL
AND ValorisationAchat.date_debut_achat <= '2013-09-27'
AND COALESCE(ValorisationAchat.date_fin_achat,
TO_DATE('31129999', 'DDMMYYYY')) >= '2013-09-27'
AND ValorisationAchat.val_ach_pab IS NOT NULL
left join da_lienart assoALPXVT
ON assoALPXVT.idda_article = Article.id
AND assoALPXVT.iddp_typlien = 14893
left join da_lien LienPrixVente
ON LienPrixVente.id = assoALPXVT.idda_lien
left join da_lienart assoALGRAT
ON assoALGRAT.idda_article = Article.id
AND assoALGRAT.iddp_typlien = 14894
left join da_lien LienGratuite
ON LienGratuite.id = assoALGRAT.idda_lien
left join da_lienart assoALCOOR
ON assoALCOOR.idda_article = Article.id
AND assoALCOOR.iddp_typlien = 14899
left join da_lien LienCoordonnable
ON LienCoordonnable.id = assoALCOOR.idda_lien
left join da_lienal assoALSTAT
ON assoALSTAT.idda_arblogi = ArbreLogistique.id
AND assoALSTAT.iddp_typlien = 14897
left join da_lien LienStatistique
ON LienStatistique.id = assoALSTAT.idda_lien WHERE
SEARCHMC.rn = 1
AND ( ValorisationAchat.id IS NULL
OR ValorisationAchat.date_debut_achat = (
SELECT MAX(VALMAX.date_debut_achat)
FROM tt_valo VALMAX
WHERE VALMAX.idtt_val_dal = ValorisationAchat.idtt_val_dal
AND VALMAX.date_modif_retro IS NULL
427
https://dalibo.com/formations
SQL pour PostgreSQL
Comprendre un tel monstre implique souvent de l’imprimer pour acquérir une vision glob-
ale et prendre des notes :
428
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Ce code a été généré initialement par Hibernate, puis édité plusieurs fois à la main.
429
https://dalibo.com/formations
SQL pour PostgreSQL
• Objectif
– ajouter un moteur de recherche à l’application
• Pratique courante
– utiliser l’opérateur LIKE
• Problèmes
– requiert des index spécialisés
– recherche uniquement le terme exact
• Solutions
– pg_trgm
– Full Text Search
Les bases de données qui stockent des données textuelles ont souvent pour but de per-
mettre des recherches sur ces données textuelles.
La première solution envisagée lorsque le besoin se fait sentir est d’utiliser l’opérateur
LIKE. Il permet en effet de réaliser des recherches de motif sur une colonne stockant
des données textuelles. C’est une solution simple et qui peut s’avérer simpliste dans de
nombreux cas.
Tout d’abord, les recherches de type LIKE '%motif%' ne peuvent généralement pas tirer
partie d’un index btree normal. Cela étant dit, l’extension pg_trgm permet d’optimiser ces
recherches à l’aide d’un index GiST ou GIN. Elle fait partie des extensions standard et ne
nécessite pas d’adaptation du code.
Exemples
430
10. SQL : CE QU’IL NE FAUT PAS FAIRE
-----------------------------------------------------------------------------
Bitmap Heap Scan on appellation (cost=4.27..7.41 rows=3 width=24)
Recheck Cond: (libelle ~~ '%wur%'::text)
-> Bitmap Index Scan on idx_appellation_libelle_trgm (cost=0.00..4.27...)
Index Cond: (libelle ~~ '%wur%'::text)
Mais cette solution n’offre pas la même souplesse que la recherche plein texte, en anglais
Full Text Search, de PostgreSQL. Elle est cependant plus complexe à mettre en œuvre et
possède une syntaxe spécifique.
10.16 CONCLUSION
431
https://dalibo.com/formations
SQL pour PostgreSQL
La table voitures viole la première forme normale (attribut répétitif, non atomique). De
plus elle n’a pas de clé primaire.
432
10. SQL : CE QU’IL NE FAUT PAS FAIRE
10.17.2 ENTITÉ-CLÉ-VALEUR
Une autre version de la table voiture existe aussi dans cette base au format « entité/-
clé/valeur » c’est la table voitures_ecv. Sa clé primaire est entite (immatriculation) /
cle (caractéristique). En pratique il n’y a que des booléens.
hstore est une extension qui permet de stocker des clés/valeur dans un champ. Sa doc-
umentation est sur le site du projet117 .
117
https://docs.postgresql.fr/current/hstore.html
433
https://dalibo.com/formations
SQL pour PostgreSQL
La pagination est une fonctionnalité que l’on retrouve de plus en plus souvent, surtout
depuis que les applications web ont pris une place prépondérante.
Nous allons utiliser une version simplifiée d’une table de forum. La table posts peut être
téléchargée depuis https://dali.bo/tp_posts (dump de 358 Mo, 758 Mo sur disque), et
restaurée dans n’importe quelle base de manière classique (un message sur un schéma
public préexistant est normal) :
434
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Nous voulons afficher le plus rapidement possible les messages (posts) associés à un arti-
cle : les 10 premiers, puis du 11 au 20, etc. Nous allons examiner les différentes stratégies
possibles.
La table contient 5 000 articles de 1000 posts, d’au plus 200 signes.
# \d posts
Table « public.posts »
Colonne | Type | Collationnement | NULL-able | Par défaut
------------+--------------------------+-----------------+-----------+------------
id_article | integer | | |
id_post | integer | | |
ts | timestamp with time zone | | |
message | text | | |
Index :
"posts_ts_idx" btree (ts)
Pour la clarté des plans, désactiver le JIT et le parallélisme dans votre session :
SET jit to off ;
SET max_parallel_workers_per_gather TO 0 ;
435
https://dalibo.com/formations
SQL pour PostgreSQL
Nous utilisons toujours la table posts. Nous allons maintenant manipuler le champ ts,
de type timestamp. Ce champ est indexé.
La requête
SELECT * FROM posts WHERE to_char(ts,'YYYYMM')='201302'
retourne tous les enregistrements de février 2013. Examiner
son plan d’exécution. Où est le problème ?
436
10. SQL : CE QU’IL NE FAUT PAS FAIRE
VACUUM ANALYZE ;
437
https://dalibo.com/formations
SQL pour PostgreSQL
\d+
Liste des relations
Schéma | Nom | Type | Propriétaire | Persistenz | Taille | ..
--------+---------------------------+-------+--------------+------------+---------+---
public | caracteristiques | table | postgres | permanent | 48 kB |
public | caracteristiques_voitures | table | postgres | permanent | 3208 kB |
public | voitures | table | postgres | permanent | 4952 kB |
public | voitures_ecv | table | postgres | permanent | 3336 kB |
public | voitures_orig | table | postgres | permanent | 5736 kB |
438
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Pour que l’insertion fonctionne, il faut corriger la casse de « ABS » et déclarer la nouvelle
propriété :
BEGIN ;
INSERT INTO voitures VALUES ('AA-007-JB','clio') ;
INSERT INTO caracteristiques VALUES ('phares LED') ;
INSERT INTO caracteristiques_voitures (immatriculation, caracteristique)
VALUES ('AA-007-JB','abs') ;
INSERT INTO caracteristiques_voitures (immatriculation, caracteristique)
VALUES ('AA-007-JB','phares LED') ;
COMMIT ;
QUERY PLAN
--------------------------------------------------------------------------
Seq Scan on voitures_orig (cost=0.00..1962.00 rows=8419 width=25)
(actual time=0.030..92.226 rows=8358 loops=1)
Filter: (caracteristiques ~ '[[:<:]]toit ouvrant[[:>:]]'::text)
439
https://dalibo.com/formations
SQL pour PostgreSQL
Toute la table a été parcourue, 91 642 lignes ont été rejetées, 8358 retenues (~8 %). Les
estimations statistiques sont correctes.
NB : pour la lisibilité, les plans n’utilisent pas l’option BUFFERS d’EXPLAIN. Si on l’active,
on pourra vérifier que tous les accès se font bien dans le cache de PostgreSQL (shared
hits).
Avec le nouveau schéma on peut écrire la requête simplement avec une simple jointure :
SELECT *
FROM voitures
INNER JOIN caracteristiques_voitures
ON ( caracteristiques_voitures.immatriculation=voitures.immatriculation)
WHERE caracteristique = 'toit ouvrant' ;
Il n’y a pas doublement de lignes si une caractéristique est en double car la clé primaire
l’interdit. Sans cette contrainte, une autre écriture serait nécessaire :
SELECT *
FROM voitures
WHERE EXISTS (
SELECT 1 FROM caracteristiques_voitures
WHERE caracteristiques_voitures.immatriculation=voitures.immatriculation
AND caracteristique = 'toit ouvrant'
) ;
QUERY PLAN
----------------------------------------------------------------------
Hash Join (cost=1225.80..3102.17 rows=8329 width=16)
(actual time=6.307..31.811 rows=8358 loops=1)
Hash Cond: (voitures.immatriculation = caracteristiques_voitures.immatriculation)
-> Seq Scan on voitures (cost=0.00..1613.89 rows=99989 width=16)
(actual time=0.019..10.432 rows=99989 loops=1)
-> Hash (cost=1121.69..1121.69 rows=8329 width=10)
(actual time=6.278..6.279 rows=8358 loops=1)
Buckets: 16384 Batches: 1 Memory Usage: 577kB
-> Seq Scan on caracteristiques_voitures
(cost=0.00..1121.69 rows=8329 width=10)
(actual time=0.004..5.077 rows=8358 loops=1)
118
https://explain.dalibo.com/plan/lz
440
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Le temps d’exécution est ici plus court malgré un parcours complet de voitures.
PostgreSQL prévoit correctement qu’il ramènera 10 % de cette table, ce qui n’est pas
si discriminant et justifie fréquemment un Seq Scan, surtout que voitures est petite.
caracteristiques_voitures est aussi parcourue entièrement : faute d’index, il n’y a
pas d’autre moyen.
EXPLAIN ANALYZE
SELECT *
FROM voitures
INNER JOIN caracteristiques_voitures
ON ( caracteristiques_voitures.immatriculation=voitures.immatriculation)
WHERE caracteristique = 'ordinateur de bord' ;
QUERY PLAN
---------------------------------------------------------------------
Nested Loop (cost=0.42..1130.12 rows=1 width=16)
(actual time=4.849..4.850 rows=0 loops=1)
-> Seq Scan on caracteristiques_voitures (cost=0.00..1121.69 rows=1 width=10)
(actual time=4.848..4.848 rows=0 loops=1)
Filter: (caracteristique = 'ordinateur de bord'::text)
Rows Removed by Filter: 58055
-> Index Scan using voitures_pkey on voitures (cost=0.42..8.44 rows=1 width=16)
(never executed)
Index Cond: (immatriculation = caracteristiques_voitures.immatriculation)
Planning Time: 0.337 ms
Execution Time: 4.872 ms
Avec un seul résultat attendu, ce qui est beaucoup plus discriminant, l’utilisation de l’index
sur voitures devient pertinente.
441
https://dalibo.com/formations
SQL pour PostgreSQL
EXPLAIN ANALYZE
SELECT *
FROM voitures
INNER JOIN caracteristiques_voitures
ON ( caracteristiques_voitures.immatriculation=voitures.immatriculation)
WHERE caracteristique = 'ordinateur de bord' ;
QUERY PLAN
---------------------------------------------------------------------
Nested Loop (cost=0.83..16.78 rows=1 width=16)
(actual time=0.010..0.011 rows=0 loops=1)
-> Index Scan using caracteristiques_voitures_caracteristique_idx
on caracteristiques_voitures
(cost=0.41..8.35 rows=1 width=10)
(actual time=0.010..0.010 rows=0 loops=1)
Index Cond: (caracteristique = 'ordinateur de bord'::text)
-> Index Scan using voitures_pkey on voitures (cost=0.42..8.44 rows=1 width=16)
(never executed)
Index Cond: (immatriculation = caracteristiques_voitures.immatriculation)
Planning Time: 0.268 ms
Execution Time: 0.035 ms
Avec voitures_orig, il existerait aussi des méthodes d’indexation mais elles sont plus
lourdes (index GIN...).
Si on recherche plusieurs options en même temps, l’optimiseur peut améliorer les choses
en prenant en compte la fréquence de chaque option pour restreindre plus efficacement
les recherches. Le plan devient121 :
120
https://explain.dalibo.com/plan/577
121
https://explain.dalibo.com/plan/O0H
442
10. SQL : CE QU’IL NE FAUT PAS FAIRE
QUERY PLAN
--------------------------------------------------------------------------------
Nested Loop
-> Hash Join
Hash Cond: (cr2.immatriculation = cr1.immatriculation)
-> Bitmap Heap Scan on caracteristiques_voitures cr2
Recheck Cond: (caracteristique = 'abs'::text)
-> Bitmap Index Scan on caracteristiques_voitures_caracteristique_idx
Index Cond: (caracteristique = 'abs'::text)
-> Hash
-> Hash Join
Hash Cond: (cr1.immatriculation = cr3.immatriculation)
-> Bitmap Heap Scan on caracteristiques_voitures cr1
Recheck Cond: (caracteristique = 'toit ouvrant'::text)
-> Bitmap Index Scan
on caracteristiques_voitures_caracteristique_idx
Index Cond: (caracteristique = 'toit ouvrant'::text)
-> Hash
-> Bitmap Heap Scan on caracteristiques_voitures cr3
Recheck Cond: (caracteristique =
'4 roues motrices'::text)
-> Bitmap Index Scan
on caracteristiques_voitures_caracteristique_idx
Index Cond: (caracteristique =
'4 roues motrices'::text)
-> Index Scan using voitures_pkey on voitures
Index Cond: (immatriculation = cr1.immatriculation)
Ce plan parcoure deux index, joins leurs résultats, fait de même avec le résultat de l’index
pour la 3è caractéristique, puis opère la jointure finale avec la table principale par l’index
sur immatriculation (un plan complet indiquerait une estimation de 56 lignes de résultat,
même si le résultat final est de 461 lignes).
443
https://dalibo.com/formations
SQL pour PostgreSQL
Mais les problématiques de performances ne sont pas le plus important dans ce cas. Ce
qu’on gagne réellement, c’est la garantie que les caractéristiques ne seront que celles
existant dans la table caractéristique, ce qui évite d’avoir à réparer la base plus tard.
10.18.2 ENTITÉ-CLÉ-VALEUR
Autrement dit : on sélectionne toutes les voitures avec un toit ouvrant, et l’on veut toutes
les caractéristiques de ces voitures. Cela nécessite d’appeler deux fois la table.
Là encore une jointure de la table avec elle-même sur entite serait possible, mais serait
dangereuse dans les cas où il y a énormément de propriétés. On préférera encore la
version avec EXISTS, et PostgreSQL en fera spontanément une jointure122 :
EXPLAIN ANALYZE
SELECT * FROM voitures_ecv
WHERE EXISTS (
SELECT 1 FROM voitures_ecv test
WHERE test.entite=voitures_ecv.entite
AND cle = 'toit ouvrant' AND valeur = true
)
ORDER BY entite ;
QUERY PLAN
---------------------------------------------------------------------
Sort (cost=3468.93..3507.74 rows=15527 width=25)
122
https://explain.dalibo.com/plan/nn2
444
10. SQL : CE QU’IL NE FAUT PAS FAIRE
hstore est normalement présente sur toutes les installations (ou alors l’administrateur a
négligé d’installer le paquet contrib). Il suffit donc d’une déclaration.
445
https://dalibo.com/formations
SQL pour PostgreSQL
-[ RECORD 1 ]----+--------------------------------------------------------------
immatriculation | ZY-745-KT
caracteristiques | "toit ouvrant"=>"true", "climatisation"=>"true",
| "jantes aluminium"=>"true", "regulateur de vitesse"=>"true"
Les index B-tree classiques sont inadaptés aux types complexes, on préfère donc un index
GiST :
CREATE INDEX voitures_hstore_caracteristiques
ON voitures_hstore
USING gist (caracteristiques);
QUERY PLAN
---------------------------------------------------------------------
Index Scan using voitures_hstore_caracteristiques on voitures_hstore
(cost=0.28..2.30 rows=1 width=55) (actual time=0.033..0.033 rows=1 loops=1)
Index Cond: ((caracteristiques @> '"couleur"=>"vert"'::hstore)
AND (caracteristiques @> '"phares"=>"LED"'::hstore))
Buffers: shared hit=4
Planning Time: 0.055 ms
Execution Time: 0.047 ms
446
10. SQL : CE QU’IL NE FAUT PAS FAIRE
EXPLAIN ANALYZE
SELECT * FROM voitures_orig
WHERE regexp_split_to_array(caracteristiques,',') @> '{"toit ouvrant"}';
QUERY PLAN
--------------------------------------------------------------------------------
Bitmap Heap Scan on voitures_orig (cost=8.87..387.37 rows=500 width=25)
(actual time=0.707..2.756 rows=8358 loops=1)
447
https://dalibo.com/formations
SQL pour PostgreSQL
Noter que les estimations de statistiques sont plus délicates sur un résultat de fonction.
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article =12
ORDER BY id_post
LIMIT 10 ;
Le plan123 est un parcours complet de la table, rejetant 4 999 000 lignes et en gardant
1000 lignes, suivi d’un tri :
QUERY PLAN
------------------------------------------------------------------------------
Limit (cost=153694.51..153694.53 rows=10 width=115)
(actual time=500.525..500.528 rows=10 loops=1)
-> Sort (cost=153694.51..153696.95 rows=979 width=115)
(actual time=500.524..500.525 rows=10 loops=1)
Sort Key: id_post
Sort Method: top-N heapsort Memory: 27kB
-> Seq Scan on posts (cost=0.00..153673.35 rows=979 width=115)
(actual time=1.300..500.442 rows=1000 loops=1)
Filter: (id_article = 12)
Rows Removed by Filter: 4999000
123
https://explain.dalibo.com/plan/xEs
448
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Un index sur id_article améliorerait déjà les choses. Mais comme on trie sur id_post,
il est intéressant de rajouter aussi cette colonne dans l’index :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article =12
ORDER BY id_post
LIMIT 10 ;
Le plan124 devient :
QUERY PLAN
---------------------------------------------------------
Limit (cost=0.43..18.26 rows=10 width=115)
(actual time=0.043..0.053 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..1745.88 rows=979 width=115)
(actual time=0.042..0.051 rows=10 loops=1)
Index Cond: (id_article = 12)
Planning Time: 0.204 ms
Execution Time: 0.066 ms
C’est beaucoup plus rapide : l’index trouve tout de suite les lignes de l’article cherché, et
retourne les enregistrements directement triés par id_post. On évite de parcourir toute
la table, et il n’y a même pas d’étape de tri (qui serait certes très rapide sur 10 lignes).
449
https://dalibo.com/formations
SQL pour PostgreSQL
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
ORDER BY id_post
LIMIT 10
OFFSET 10;
QUERY PLAN
---------------------------------------------------------
Limit (cost=18.26..36.09 rows=10 width=115)
(actual time=0.020..0.023 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..1745.88 rows=979 width=115)
(actual time=0.017..0.021 rows=20 loops=1)
Index Cond: (id_article = 12)
Planning Time: 0.061 ms
Execution Time: 0.036 ms
Tout va bien. La requête est à peine plus coûteuse. Noter que l’index a ramené 20 lignes
et non 10.
QUERY PLAN
---------------------------------------------------------
Limit (cost=1605.04..1622.86 rows=10 width=115)
(actual time=0.216..0.221 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..1745.88 rows=979 width=115)
(actual time=0.018..0.194 rows=910 loops=1)
Index Cond: (id_article = 12)
Planning Time: 0.062 ms
Execution Time: 0.243 ms
125
https://explain.dalibo.com/plan/V05
450
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Cette requête est 4 fois plus lente. Si une exécution unitaire ne pose pas encore problème,
des demandes très répétées poseraient problème. Noter que l’index ramène 910 lignes !
Dans notre exemple idéalisée, les posts sont bien rangés ensemble, et souvent présents
dans les mêmes blocs. C’est très différent dans une table qui beaucoup vécu.
id_article | id_post
------------+---------
12 | 12900
Il suffit donc de récupérer les 10 articles pour lesquels id_article = 12 et id_post >
12900 :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
AND id_post> 12900
ORDER BY id_post
LIMIT 10;
QUERY PLAN
----------------------------------------------------------------
Limit (cost=0.43..18.29 rows=10 width=115)
(actual time=0.018..0.024 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..1743.02 rows=976 width=115)
(actual time=0.016..0.020 rows=10 loops=1)
Index Cond: ((id_article = 12) AND (id_post > 12900))
Planning Time: 0.111 ms
Execution Time: 0.039 ms
451
https://dalibo.com/formations
SQL pour PostgreSQL
Nous sommes de retour à des temps d’exécution très faibles. Ajouter la condition sur
le id_post permet de limiter à la source le nombre de lignes à récupérer. L’index n’en
renvoie bien que 10.
L’avantage de cette technique par rapport à l’offset est que le temps d’une requête ne
variera que l’on chercher la première ou la millième page.
L’inconvénient est qu’il faut mémoriser l’id_post où l’on s’est arrêté sur la page précé-
dente.
Nous allons maintenant manipuler le champ ts (de type timestamp) de la table posts.
La requête
SELECT * FROM posts WHERE to_char(ts,'YYYYMM')='201302'
retourne tous les enregistrements de février 2013. Examiner
son plan d’exécution. Où est le problème ?
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE to_char(ts,'YYYYMM')='201302' ;
QUERY PLAN
---------------------------------------------------------------------
Seq Scan on posts (cost=0.00..187728.49 rows=50000 width=269)
(actual time=0.380..14163.371 rows=18234 loops=1)
Filter: (to_char(ts, 'YYYYMM'::text) = '201302'::text)
Rows Removed by Filter: 9981766
Total runtime: 14166.265 ms
Ceci est une des causes les plus habituelles de ralentissement de requêtes : une fonction
est appliquée à une colonne, ce qui rend le filtre incompatible avec l’utilisation d’un index.
126
https://explain.dalibo.com/plan/ATT
452
10. SQL : CE QU’IL NE FAUT PAS FAIRE
C’est à nous d’indiquer une clause WHERE au moteur qu’il puisse directement appliquer sur
notre date :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE ts >= '2013-02-01'
AND ts < '2013-03-01' ;
QUERY PLAN
----------------------------------------------------------------------------------
Index Scan using posts_ts_idx on posts (cost=0.43..998.95 rows=20165 width=115)
(actual time=0.050..5.907 rows=20160 loops=1)
Index Cond: ((ts >= '2013-02-01 00:00:00+01'::timestamp with time zone)
AND (ts < '2013-03-01 00:00:00+01'::timestamp with time zone))
Planning Time: 0.095 ms
Execution Time: 6.526 ms
Construisons cette requête morceau par morceau. Listons tous les dimanches de 2013
(le premier dimanche est le 6 janvier) :
SELECT generate_series(
'2013-01-06 00:00:00',
'2013-12-31 00:00:00',
INTERVAL '7 days'
) ;
S’il faut calculer le premier dimanche de l’année, cela peut se faire ainsi :
127
https://explain.dalibo.com/plan/GDY
453
https://dalibo.com/formations
SQL pour PostgreSQL
WITH premiersjours AS (
SELECT '2000-01-01'::timestamp + i * interval '1 year' AS jan1
FROM generate_series(1, 30) i
),
dimanches AS (
SELECT jan1,
jan1
+ mod(13-extract(dow FROM (jan1 - interval '1 day'))::int, 7)
* interval '1 day'
AS dim1
FROM premiersjours
)
SELECT jan1, dim1
FROM dimanches ;
On n’a encore que des dates à minuit. Il faut calculer les heures de début et de fin de
chaque dimanche :
SELECT i AS debut,
i + INTERVAL '1 day' AS fin
FROM generate_series(
'2013-01-06 00:00:00',
'2013-12-31 00:00:00',
INTERVAL '7 days'
) g(i) ;
debut | fin
------------------------+------------------------
2013-01-06 00:00:00+01 | 2013-01-07 00:00:00+01
2013-01-13 00:00:00+01 | 2013-01-14 00:00:00+01
...
2013-12-29 00:00:00+01 | 2013-12-30 00:00:00+01
Il ne nous reste plus qu’à joindre ces deux ensembles. Comme clause de jointure, on teste
la présence de la date du post dans un des intervalles des dimanches :
EXPLAIN ANALYZE
WITH dimanches AS (
SELECT i AS debut,
i + INTERVAL '1 day' AS fin
FROM generate_series(
'2013-01-06 00:00:00',
'2013-12-31 00:00:00',
INTERVAL '7 days'
) g(i)
)
SELECT posts.*
454
10. SQL : CE QU’IL NE FAUT PAS FAIRE
FROM posts
JOIN dimanches
ON (posts.ts >= dimanches.debut AND posts.ts < dimanches.fin) ;
Le plan128 devient :
QUERY PLAN
------------------------------------------------------------------------------
Nested Loop (cost=0.44..17086517.00 rows=555555556 width=115)
(actual time=0.038..12.978 rows=37440 loops=1)
-> Function Scan on generate_series g (cost=0.00..10.00 rows=1000 width=8)
(actual time=0.016..0.031 rows=52 loops=1)
-> Index Scan using posts_ts_idx on posts
(cost=0.43..11530.95 rows=555556 width=115)
(actual time=0.009..0.168 rows=720 loops=52)
Index Cond: ((ts >= g.i) AND (ts < (g.i + '1 day'::interval)))
Planning Time: 0.131 ms
Execution Time: 14.178 ms
PostgreSQL génère les 52 lignes d’intervalles (noter qu’il ne sait pas estimer le résultat de
cette fonction), puis fait 52 appels à l’index (noter le loops=52). C’est efficace.
Attention : des inéqui-jointures entraînent forcément des nested loops (pour chaque ligne
d’une table, on va chercher les lignes d’une autre table). Sur de grands volumes, ce ne peut
pas être efficace. Ici, tout va bien parce que la liste des dimanches est raisonnablement
courte.
Le plan129 est :
QUERY PLAN
--------------------------------------------------------------------------------
Seq Scan on posts (cost=0.48..166135.48 rows=25000 width=115)
(actual time=333.363..1000.696 rows=1000 loops=1)
128
https://explain.dalibo.com/plan/nN5
129
https://explain.dalibo.com/plan/6GI
455
https://dalibo.com/formations
SQL pour PostgreSQL
Ce plan indique une recherche du numéro d’article maximal (il est dans l’index ; noter
que PostgreSQL restreint à une valeur non vide), puis il calcule la valeur correspondant
au tiers et la met dans $1. Tout ceci est rapide. La partie lente est le Seq Scan pour
retrouver cette valeur, avec un filtre et non par l’index.
(id_article)::numeric signifie que tous les id_article (des entiers) sont convertis en
numeric pour ensuite être comparés au $1. Or une conversion est une fonction, ce qui
rend l’index inutilisable. En fait, notre problème est que $1 n’est pas un entier !
Column | Type
----------+---------
?column? | numeric
456
10. SQL : CE QU’IL NE FAUT PAS FAIRE
QUERY PLAN
-------------------------------------------------------------------------------
Index Scan using posts_id_article_id_post on posts
(cost=0.91..1796.42 rows=1007 width=115)
(actual time=0.031..0.198 rows=1000 loops=1)
Index Cond: (id_article = ($1)::integer)
InitPlan 2 (returns $1)
-> Result (cost=0.46..0.48 rows=1 width=32) (...)
InitPlan 1 (returns $0)
-> Limit (cost=0.43..0.46 rows=1 width=4) (...)
-> Index Only Scan Backward using posts_id_article_id_post
on posts posts_1 (...)
Index Cond: (id_article IS NOT NULL)
Heap Fetches: 0
Planning Time: 0.105 ms
Execution Time: 0.245 ms
Si l’on avait fait le calcul avec / 3 au lieu de * 0.333, on n’aurait pas eu le problème, car
la division de deux entiers donne un entier.
Attention donc à la cohérence des types dans vos critères. Le problème peut se rencontrer
même en joignant des int et des bigint !
457
https://dalibo.com/formations
SQL pour PostgreSQL
458
11. PL/PGSQL : LES BASES
11.1 PRÉAMBULE
• Vous apprendrez :
– À choisir si vous voulez écrire du PL
– À choisir votre langage PL
– Les principes généraux des langages PL autres que PL/pgSQL
– Les bases de PL/pgSQL
11.1.1 AU MENU
11.1.2 OBJECTIFS
459
https://dalibo.com/formations
SQL pour PostgreSQL
11.2 INTRODUCTION
• PL = Procedural Languages
• 3 langages activés par défaut : C, SQL et PL/pgSQL
Les quatre langages PL supportés nativement sont décrits en détail dans la documentation
officielle :
• PL/PgSQL130
• PL/Tcl131 (existe en version trusted et untrusted)
• PL/Perl132 (existe en version trusted et untrusted)
• PL/Python133 (uniquement en version untrusted)
D’autres langages PL sont accessibles en tant qu’extensions tierces. Les plus stables sont
également mentionnés dans la documentation134 .
Une liste plus large est par ailleurs disponible sur le wiki PostgreSQL135 . Il en ressort
qu’au moins 18 langages sont disponibles, dont 10 installables en production. De plus, il
est possible d’en ajouter d’autres, comme décrit dans la documentation136 .
130
https://docs.postgresql.fr/current/plpgsql.html
131
https://docs.postgresql.fr/current/pltcl.html
132
https://docs.postgresql.fr/current/plperl.html
133
https://docs.postgresql.fr/current/plpython.html
134
https://docs.postgresql.fr/current/external-pl.html
135
https://wiki.postgresql.org/wiki/PL_Matrix
136
https://docs.postgresql.fr/current/plhandler.html
460
11. PL/PGSQL : LES BASES
• Langage de confiance
– ne permet que l’accès à la base de données
– donc pas d’accès aux systèmes de fichiers, aux sockets réseaux, etc.
• Trusted : SQL, PL/pgSQL, PL/Perl, PL/Tcl
• Untrusted : PL/TclU, PL/PerlU, PL/Python, C…
Les langages de confiance ne peuvent accèder qu’à la base de données. Ils ne peuvent pas
accéder aux autres bases, aux systèmes de fichiers, au réseau, etc. Ils sont donc confinés,
ce qui les rend moins facilement utilisables pour compromettre le système. PL/pgSQL est
l’exemple typique. Mais de ce fait, ils offrent moins de possibilités que les autres langages.
Seuls les superutilisateurs peuvent créer une routine dans un langage untrusted. Par con-
tre, ils peuvent ensuite donner les droits d’exécution à ces routines aux autres utilisateurs.
Il peut y avoir de nombreuses raisons différentes à l’utilisation d’un langage PL. Simpli-
fier et centraliser des traitements clients directement dans la base est l’argument le plus
fréquent. Par exemple, une insertion complexe dans plusieurs tables, avec mise en place
d’identifiants pour liens entre ces tables, peut évidemment être écrite côté client. Il est
quelquefois plus pratique de l’écrire sous forme de PL. On y gagne :
Il est par exemple très simple d’écrire un traitement d’insertion/mise à jour en PL/pgSQL,
le langage étant créé pour simplifier ce genre de traitements, et la gestion des exceptions
461
https://dalibo.com/formations
SQL pour PostgreSQL
pouvant s’y produire. Si vous avez besoin de réaliser du traitement de chaîne puissant, ou
de la manipulation de fichiers, PL/Perl ou PL/Python seront probablement des options
plus intéressantes car plus performantes.
La grande variété des différents langages PL supportés par PostgreSQL permet normale-
ment d’en trouver un correspondant aux besoins et aux langages déjà maîtrisés dans
l’entreprise.
Les langages PL permettent donc de rajouter une couche d’abstraction et d’effectuer des
traitements avancés directement en base.
La plupart des gens ont eu l’occasion de faire du Pascal ou de l’ADA, et sont donc familiers
avec la syntaxe de PL/pgSQL. Cette syntaxe est d’ailleurs très proche de celle de PLSQL
d’Oracle.
Elle permet d’écrire des requêtes directement dans le code PL sans déclaration préalable,
sans appel à des méthodes complexes, ni rien de cette sorte. Le code SQL est mélangé
naturellement au code PL, et on a donc un sur-ensemble de SQL qui est procédural.
PL/pgSQL étant intégré à PostgreSQL, il hérite de tous les types déclarés dans le moteur,
même ceux rajoutés par l’utilisateur. Il peut les manipuler de façon transparente.
PL/pgSQL est trusted. Tous les utilisateurs peuvent donc créer des routines dans ce lan-
gage (par défaut). Vous pouvez toujours soit supprimer le langage, soit retirer les droits à
un utilisateur sur ce langage (via la commande SQL REVOKE).
462
11. PL/PGSQL : LES BASES
Les langages PL « autres », comme PL/Perl et PL/Python (les deux plus utilisés après
PL/pgSQL), sont bien plus évolués que PL/PgSQL. Par exemple, ils sont bien plus effi-
caces en matière de traitement de chaînes de caractères, ils possèdent des structures
avancées comme des tables de hachage, permettent l’utilisation de variables statiques
pour maintenir des caches, voire, pour leur version untrusted, peuvent effectuer des ap-
pels systèmes. Dans ce cas, il devient possible d’appeler un Webservice par exemple, ou
d’écrire des données dans un fichier externe.
Il existe des langages PL spécialisés. Le plus emblématique d’entre eux est PL/R. R est
un langage utilisé par les statisticiens pour manipuler de gros jeux de données. PL/R
permet donc d’effectuer ces traitements R directement en base, traitements qui seraient
très pénibles à écrire dans d’autres langages.
Il existe aussi un langage qui est, du moins sur le papier, plus rapide que tous les langages
cités précédemment : vous pouvez écrire des procédures stockées en C, directement.
Elles seront compilées à l’extérieur de PosgreSQL, en respectant un certain formalisme,
puis seront chargées en indiquant la bibliothèque C qui les contient et leurs paramètres et
types de retour. Attention, toute erreur dans le code C est susceptible d’accéder à toute
la mémoire visible par le processus PostgreSQL qui l’exécute, et donc de corrompre les
données. Il est donc conseillé de ne faire ceci qu’en dernière extrémité.
Le gros défaut est simple et commun à tous ces langages : vous utilisez par exemple
PL/Perl. Perl n’est pas spécialement conçu pour s’exécuter en tant que langage de procé-
dures stockées. Ce que vous utilisez quand vous écrivez du PL/Perl est donc du code
Perl, avec quelques fonctions supplémentaires (préfixées par spi) pour accéder à la base
de données. L’accès aux données est donc rapide, mais assez fastidieux au niveau syntax-
ique, comparé à PL/pgSQL.
Un autre problème des langages PL (autre que C et PL/pgSQL), est que ces langages
n’ont pas les mêmes types natifs que PostgreSQL, et s’exécutent dans un interpréteur
relativement séparé. Les performances sont donc moindres que PL/pgSQL et C, pour
les traitements dont le plus consommateur est l’accès aux données. Souvent, le temps
de traitement dans un de ces langages plus évolués est tout de même meilleur grâce au
temps gagné par les autres fonctionnalités (la possibilité d’utiliser un cache, ou une table
463
https://dalibo.com/formations
SQL pour PostgreSQL
• Procédure stockée
– ne renvoit pas de données
– permet le contrôle transactionnel
– disponible à partir de la version 11
• Fonction
– peut renvoyer des données
– utilisable dans un SELECT
– peut être de type TRIGGER, agrégat, fenêtrage
• Routine
– terme utilisé pour signifier procédure ou fonction
Les programmes écrits à l’aide des langages PL sont habituellement enregistrés sous forme
de routines :
• procédures ;
• fonctions ;
• fonctions trigger ;
• fonctions d’agrégat ;
• fonctions de fenêtrage (window functions).
Le code source de ces objets est stocké dans la table pg_proc du catalogue.
Les procédures, apparues avec PostgreSQL 11, sont très similaires aux fonctions. Les
principales différences entre les deux sont :
• Les fonctions doivent déclarer des arguments en sortie (RETURNS ou arguments OUT).
Il est possible d’utiliser void pour une fonction sans argument de sortie ; c’était
d’ailleurs la méthode utilisée pour émuler le comportement d’une procédure avant
leur introduction avec PostgreSQL 11.
• Les procédures offrent le support du contrôle transactionnel, c’est-à-dire la capacité
de valider (COMMIT) ou annuler (ROLLBACK) les modifications effectuées jusqu’à ce
point par la procédure.
• Les procédures sont appelées exclusivement par la commande SQL CALL ; les
fonctions peuvent être appelées dans la plupart des ordres DML/DQL (notamment
SELECT), mais pas par CALL.
• Les fonctions peuvent être déclarées de telle manière qu’elles peuvent être utilisées
dans des rôles spécifiques (TRIGGER, agrégat ou fonction de fenêtrage).
464
11. PL/PGSQL : LES BASES
11.3 INSTALLATION
Cependant, dans les paquets fournis par le PGDG pour Red Hat ou Debian, il faudra in-
staller explicitement le paquet dédié à plperl (yum install postgresql12-plperl ou
apt install postgresql-plperl-12).
Ainsi, la bibliothèque plperl.so que l’on trouvera dans ces répertoires contiendra les
fonctions qui permettent l’utilisation du langage PL/Perl. Elle est chargée par le moteur
à la première utilisation d’une procédure utilisant ce langage.
Le langage est activé uniquement dans la base dans laquelle la commande est lancée.
S’il faut l’activer sur plusieurs bases, il sera nécessaire d’exécuter cet ordre SQL sur les
différentes bases ciblées.
465
https://dalibo.com/formations
SQL pour PostgreSQL
Activer un langage dans la base modèle template1 l’activera aussi pour toutes les bases
créées par la suite.
lanname | lanpltrusted
---------+--------------
plpgsql | t
(1 ligne)
Si un langage est trusted, tous les utilisateurs peuvent créer des procédures dans ce lan-
gage. Sinon seuls les superutilisateurs le peuvent. Il existe par exemple deux variantes de
PL/Perl : PL/Perl et PL/PerlU. La seconde est la variante untrusted et est un Perl « com-
plet ». La version trusted n’a pas le droit d’ouvrir des fichiers, des sockets, ou autres appels
systèmes qui seraient dangereux.
Il est à noter que les langages PL sont généralement installés par le biais d’extensions :
base=# \dx
Liste des extensions installées
Nom | Version | Schéma | Description
-------------+---------+------------+---------------------------------------
plpgsql | 1.0 | pg_catalog | PL/pgSQL procedural language
466
11. PL/PGSQL : LES BASES
addition
----------
3
Les fonctions simples peuvent être écrites en SQL pur. L’avantage principal est qu’elle
peuvent fréquemment être intégrées dans les requêtes, et qu’elles ne sont pas pour
l’optimiseur des « boîtes noires ». La syntaxe est plus claire, mais bien plus limitée.
467
https://dalibo.com/formations
SQL pour PostgreSQL
Dans cet exemple, on récupère l’estimation du nombre de lignes actives d’une table
passée en paramètres.
L’intérêt majeur du PL/pgSQL et du SQL sur les autres langages est la facilité d’accès aux
données. Ici, un simple SELECT <champ> INTO <variable> suffit à récupérer une valeur
depuis une table dans une variable.
nb_lignes_table
-----------------
10000000
468
11. PL/PGSQL : LES BASES
Cette procédure tronque des tables de la base d’exemple pgbench, et annule si dry_run
est vrai.
Les procédures sont récentes dans PostgreSQL (à partir de la version 11). Elles sont à
utiliser quand on n’attend pas de résultat en retour. Surtout, elles permettent de gérer
les transactions (COMMIT, ROLLBACK), ce qui ne peut se faire dans des fonctions, même si
celles-ci peuvent modifier les données.
Demander l’exécution d’une procédure se fait en utilisant un ordre SQL spécifique : CALL.
L’usage en est extrêmement simple, puisque l’ordre ne sert qu’à invoquer une procédure.
Ainsi, la commande suivante :
CALL public.ma_procedure('test', 1);
Les fonctions ne sont quant à elles pas directement compatibles avec la commande CALL,
il faut les invoquer dans le contexte d’une commande SQL. Elles sont le plus couramment
appelées depuis des commandes de type DML (SELECT, INSERT, etc.), mais on peut aussi
les trouver dans d’autres commandes. Voici quelques exemples :
• dans un SELECT, en passant en argument les valeurs d’une colonne d’une table :
SELECT ma_fonction(ma_colonne) FROM ma_table;
• dans le FROM d’un SELECT, la fonction renvoit ici généralement plusieurs lignes
(SETOF), et un résultat de type RECORD :
469
https://dalibo.com/formations
SQL pour PostgreSQL
• dans une création d’index (index fonctionnel, la fonction sera réellement appelée
lors des mises à jour de l’index... attention la fonction doit être déclarée IMMUTABLE) :
• appel d’une fonction en paramètre d’une autre fonction ou d’une procédure, par
exemple ici le résultat de la fonction ma_fonction() (qui doit renvoyer une seule
ligne) est passé en argument d’entrée de la procédure ma_procedure() :
Par ailleurs, certaines fonctions sont spécialisées et ne peuvent être invoquées que dans
le contexte pour lequel elles ont été conçues (fonctions trigger, d’agrégat, de fenêtrage,
etc.).
470
11. PL/PGSQL : LES BASES
| AS 'obj_file', 'link_symbol'
} ...
11.6.1 ARGUMENTS
L’option VARIADIC permet de définir une fonction avec un nombre d’arguments libres à
condition de respecter le type de l’argument (comme printf en C par exemple). Seul
un argument OUT peut suivre un argument VARIADIC : l’argument VARIADIC doit être le
dernier de la liste des paramètres en entrée puisque tous les paramètres en entrée suivant
seront considérées comme faisant partie du tableau variadic. Seuls les arguments IN et
VARIADIC sont utilisables avec une fonction déclarée renvoyant une table (clause RETURNS
TABLE). S’il y a plusieurs paramètres en OUT, un enregistrement composite de tous ces
types est renvoyé (c’est donc équivalent sémantiquement à un RETURNS TABLE).
paramètre ayant une valeur par défaut, tous les paramètres qui suivent doivent avoir une
valeur par défaut. Pour rendre le paramètre optionnel, il doit être le dernier argument ou
alors les paramètres suivants doivent aussi avoir une valeur par défaut.
• Fonctions uniquement !
• Il faut aussi indiquer un type de retour :
[ RETURNS rettype | RETURNS TABLE ( col_nom type [, ...] ) ]
• sauf si un ou plusieurs paramètres sont en mode OUT ou INOUT
• rettype : type de la valeur en retour (parmi tous les types de base et les types
utilisateurs)
• void est un type de retour valide
• Il est aussi possible d’indiquer un type TABLE
• Peut renvoyer plusieurs lignes : clause SETOF
Le type de retour est obligatoire pour les fonctions et interdit pour les procédures.
Avant la version 11, il n’était pas possible de créer une procédure mais il était possible de
créer une fonction se comportant globalement comme une procédure en utilisant le type
de retour void.
Il est possible de renvoyer plusieurs colonnes grâce à la clause TABLE et plusieurs lignes
grâce à la clause SETOF.
11.6.3 LANGAGE
Il n’y a pas de langage par défaut. Il est donc nécessaire de le spécifier à chaque création
d’une routine.
Une routine en pur SQL indiquera LANGUAGE sql. On rencontrera aussi plperl,
plpython3u, etc. en fonction des besoins.
472
11. PL/PGSQL : LES BASES
11.6.4 MODE
• Fonctions uniquement !
• IMMUTABLE | STABLE | VOLATILE
• Ce mode précise la « volatilité » de la fonction.
• Permet de réduire le nombre d’appels
• Index : fonctions immuables uniquement (sinon problèmes !)
On peut indiquer à PostgreSQL le niveau de volatilité (ou de stabilité) d’une fonction. Ceci
permet d’aider PostgreSQL à optimiser les requêtes utilisant ces fonctions, mais aussi
d’interdire leur utilisation dans certains contextes.
Une fonction est IMMUTABLE (immuable) si son exécution ne dépend que de ses
paramètres. Elle ne doit donc dépendre ni du contenu de la base (pas de SELECT, ni de
modification de donnée de quelque sorte), ni d’aucun autre élément qui ne soit pas un
de ses paramètres. Les fonctions arithmétiques simples (+, *, abs...) sont immuables.
À l’inverse, now() n’est évidemment pas immuable. Une fonction sélectionnant des don-
nées d’une table non plus. to_char() n’est pas non plus immuable, car son comportement
dépend des paramètres de session, par exemple to_char(timestamp with time zone,
text) dépend du paramètre de session timezone…
Une fonction est STABLE si son exécution donne toujours le même résultat sur toute la
durée d’un ordre SQL, pour les mêmes paramètres en entrée. Cela signifie que la fonction
ne modifie pas les données de la base. Une fonction n’exécutant que des SELECT sur des
tables (pas des fonctions !) sera stable. to_char() est stable. L’optimiseur peut réduire
ainsi le nombre d’appels sans que ce soit en pratique toujours le cas.
Une fonction est VOLATILE dans tous les autres cas. random() est volatile. Une fonction
volatile peut même modifier les donneés. Une fonction non déclarée comme stable ou
immuable est volatile par défaut.
La volatilité des fonctions intégrées à PostgreSQL est déjà définie. C’est au développeur
de préciser la volatilité des fonctions qu’il écrit. Ce n’est pas forcément évident. Une
erreur peut poser des problèmes quand le plan est mis en cache, ou, on le verra, dans des
index.
AS
SELECT i, '2020-01-01 00:00:00+01:00'::timestamptz + i * interval '1 hour' AS t
FROM generate_series (1,366*24) i;
Définissons une fonction un peu naïve ramenant le premier jour du mois, volatile faute
de mieux :
Demandons juste le plan d’un appel ne portant que sur le dernier jour :
QUERY PLAN
-------------------------------------------------------------------------
Limit (cost=0.00..8.04 rows=10 width=12)
-> Seq Scan on heures (cost=0.00..2353.80 rows=2928 width=12)
Filter: (t > premierjourdumois(
'2020-12-30 23:00:00+01'::timestamp with time zone))
Le nombre de lignes attendues (2928) est le tiers de la table, alors que nous deman-
dons que le dernier mois. Il s’agit de l’estimation forfaitaire que PostgreSQL utilise faute
d’informations sur ce que va retourner la fonction.
Demander à voir le résultat mène à l’affichage de milliers de NOTICE : la fonction est ap-
pelée à chaque ligne. En effet, une fonction volatile sera systématiquement exécutée à
chaque appel, et, selon le plan, ce peut être pour chaque ligne parcourue !
Cette fonction n’appelle que des fonctions, sans effet de bord. Déclarons-la donc stable :
Une fonction stable peut en théorie être remplacée par son résultat pendant l’exécution
de la requête. Mais c’est impossible de le faire plus tôt, car on ne sait pas forcément
dans quel contexte la fonction va être appelée. En cas de requête préparée, par exemple,
les paramètres de la session ou les données de la base peuvent même changer entre la
planification et l’exécution.
474
11. PL/PGSQL : LES BASES
Comme il s’agit d’un simple EXPLAIN, la requête n’est pas exécutée. Or le message NOTICE
est renvoyé : la fonction est donc exécutée pour une simple planification. Un appel unique
suffit, puisque la valeur d’une fonction stable ne change pas pendant toute la durée de
la requête pour les mêmes paramètres (ici une constante). Cet appel permet d’affiner
la volumétrie des valeurs attendues, ce qui peut avoir un impact énorme. Cependant, à
l’exécution, les NOTICE apparaîtront pour indiquer que la fonction est appelée à chaque
ligne.
Pour qu’un seul appel soit effectué pour toute la requête, il faudrait déclarer la fonction
comme immuable, ce qui serait faux, puisqu’elle dépend implicitement du fuseau horaire.
Dans l’idéal, une fonction immuable peut être remplacée par son résultat avant même
la planification d’une requête l’utilisant. C’est le cas avec les calculs arithmétiques par
exemple :
La valeur est substituée très tôt, ce qui permet de les comparer aux statistiques :
Pour forcer un appel unique quand on sait que la fonction renverra une constante, du
moins le temps de la requête, même si elle est volatile, une astuce est de signifier à
l’optimiseur qu’il n’y aura qu’une seule valeur de comparaison, même si on ne sait pas
laquelle :
On note qu’il n’y a qu’un appel. On comprend donc l’intérêt de se poser la question à
l’écriture de chaque fonction.
La volatilité est encore plus importante quand il s’agit de créer des fonctions sur index :
CREATE INDEX ON heures (premierjourdumois( t )) ;
ERROR: functions in index expression must be marked IMMUTABLE
Ceci n’est possible que si la fonction est immuable. En effet, si le résultat de la fonction
dépend de l’état de la base ou d’autres paramètres, la fonction exécutée au moment de
la création de la clé d’index pourrait ne plus retourner le même résultat quand viendra le
moment de l’interroger. PostgreSQL n’acceptera donc que les fonctions immuables dans
la déclaration des index fonctionnels.
Déclarer hâtivement une fonction comme immuable juste pour pouvoir l’utiliser comme
un index est dangereux : en cas d’erreur, les résultats d’une requête peuvent alors dépen-
dre du plan d’exécution, selon que les index seront utilisés ou pas ! Cela est particulière-
ment fréquent quand les fuseaux horaires ou les dictionnaires sont impliqués. Vérifiez
bien que vous n’utilisez que des fonctions immuables dans les index fonctionnels, les
pièges sont nombreux.
Par exemple, si l’on veut une version immuable de la fonction précédente, il faut fixer
le fuseau horaire dans l’appel à date_trunc. En effet, la seule version immuable de
date_trunc n’accepte que des timestamp sans fuseau, et en renvoie un.
CREATE OR REPLACE FUNCTION premierjourdumois_utc(t timestamptz)
RETURNS timestamptz
LANGUAGE plpgsql
IMMUTABLE
AS $$
DECLARE
jour1 timestamp ; --sans TZ
BEGIN
jour1 := date_trunc ('month', (t at time zone 'UTC')::timestamp) ;
RETURN jour1 AT TIME ZONE 'UTC';
END $$ ;
Testons avec une date dans les dernières heures de septembre en Alaska, qui correspond
476
11. PL/PGSQL : LES BASES
à une date déjà en octobre en temps universel, et par exemple aussi au Japon :
\x
SELECT d,
d AT TIME ZONE 'UTC' AS d_en_utc,
premierjourdumois_utc (d),
premierjourdumois_utc (d) AT TIME ZONE 'UTC' as pjm_en_utc
FROM (SELECT '2020-09-30 18:00:00-08'::timestamptz AS d) x;
-[ RECORD 1 ]---------+-----------------------
d | 2020-09-30 18:00:00-08
d_en_utc | 2020-10-01 02:00:00
premierjourdumois_utc | 2020-09-30 16:00:00-08
pjm_en_utc | 2020-10-01 00:00:00
SELECT d,
d AT TIME ZONE 'UTC' AS d_en_utc,
premierjourdumois_utc (d),
premierjourdumois_utc (d) AT TIME ZONE 'UTC' as pjm_en_utc
FROM (SELECT '2020-09-30 18:00:00-08'::timestamptz AS d) x;
-[ RECORD 1 ]---------+-----------------------
d | 2020-10-01 11:00:00+09
d_en_utc | 2020-10-01 02:00:00
premierjourdumois_utc | 2020-10-01 09:00:00+09
pjm_en_utc | 2020-10-01 00:00:00
Malgré les différences d’affichage dues au fuseau horaire, c’est bien le même moment (la
première seconde d’octobre en temps universel) qui est retourné par la fonction.
Pour une fonction aussi simple, la version SQL est même préférable :
le partition pruning effectué à la planification, mais les fonctions stable sont éligibles au
dynamic partition pruning (à l’exécution) apparu avec PostgreSQL 11.
• Fonctions uniquement !
• Précision sur la façon dont la fonction gère les valeurs NULL :
CALLED ON NULL INPUT | RETURNS NULL ON NULL INPUT | STRICT
• CALLED ON NULL INPUT
– fonction appelée même si certains arguments sont NULL
• RETURNS NULL ON NULL INPUT ou STRICT
– la fonction renvoie NULL à chaque fois qu’au moins un argument est NULL
Si une fonction est définie comme STRICT et qu’un des arguments d’entrée est NULL, Post-
greSQL n’exécute même pas la fonction et utilise NULL comme résultat.
Dans la logique relationnelle, NULL signifie « la valeur est inconnue ». La plupart du temps,
il est logique qu’une fonction ayant un paramètre à une valeur inconnue retourne aussi
une valeur inconnue, ce qui fait que cette optimisation est très souvent pertinente.
On gagne à la fois en temps d’exécution, mais aussi en simplicité du code (il n’y a pas à
gérer les cas NULL pour une fonction dans laquelle NULL ne doit jamais être injecté).
Une fonction SECURITY INVOKER s’exécute avec les droits de l’appelant. C’est le mode
par défaut.
Une fonction SECURITY DEFINER s’exécute avec les droits du créateur. Cela permet, au
travers d’une fonction, de permettre à un utilisateur d’outrepasser ses droits de façon
contrôlée.
Bien sûr, une fonction SECURITY DEFINER doit faire l’objet d’encore plus d’attention
qu’une fonction normale. Elle peut facilement constituer un trou béant dans la sécurité
de votre base.
478
11. PL/PGSQL : LES BASES
• Par défaut, toute fonction est exécutable par public. La première chose à faire est
donc de révoquer ce droit.
• Il faut se protéger des variables de session qui pourraient être utilisées pour modifier
le comportement de la fonction, en particulier le search_path. Il doit donc impéra-
tivement être positionné en dur dans cette fonction (soit d’emblée, avec un SET
dans la fonction, soit en positionnant un SET dans le CREATE FUNCTION).
Le mot clé EXTERNAL est facultatif, et n’est là que pour être en conformité avec la norme
SQL. En effet, dans PostgreSQL, on peut modifier le security definer pour toutes les fonc-
tions, qu’elles soient externes ou pas.
link_symbol n’est à utiliser que quand le nom de la routine diffère du nom de la fonction
C qui l’implémente.
• Fonctions uniquement
• À destination de l’optimiseur
• COST cout_execution
– coût estimé pour l’exécution de la fonction
• ROWS nb_lignes_resultat
– nombre estimé de lignes que la fonction renvoie
ROWS vaut par défaut 1000 pour les fonctions SETOF. Pour les autres fonctions, la valeur
de ce paramètre est ignorée et remplacée par 1.
479
https://dalibo.com/formations
SQL pour PostgreSQL
Ces deux paramètres ne modifient pas le comportement de la fonction. Ils ne servent que
pour aider l’optimiseur de requête à estimer le coût d’appel à la fonction, afin de savoir, si
plusieurs plans sont possibles, lequel est le moins coûteux par rapport au nombre d’appels
de la fonction et au nombre d’enregistrements qu’elle retourne.
11.6.9 PARALLÉLISATION
• Fonctions uniquement !
• PARALLEL [UNSAFE | RESTRICTED | SAFE]
– la fonction peut-elle être exécutée en parallèle ?
PARALLEL UNSAFE indique que la fonction ne peut pas être exécutée dans le mode
parallèle. La présence d’une fonction de ce type dans une requête SQL force un plan
d’exécution en série. C’est la valeur par défaut.
Une fonction est non parallélisable si elle modifie l’état d’une base ou si elle fait des
changements sur la transaction.
PARALLEL RESTRICTED indique que la fonction peut être exécutée en mode parallèle mais
l’exécution est restreinte au processus principal d’exécution.
Une fonction peut être déclarée comme restreinte si elle accède aux tables temporaires,
à l’état de connexion des clients, aux curseurs, aux requêtes préparées.
PARALLEL SAFE indique que la fonction s’exécute correctement dans le mode parallèle
sans restriction.
En général, si une fonction est marquée sûre ou restreinte à la parallélisation alors qu’elle
ne l’est pas, elle pourrait renvoyer des erreurs ou fournir de mauvaises réponses lorsqu’elle
est utilisée dans une requête parallèle.
En cas de doute, les fonctions doivent être marquées comme UNSAFE, ce qui correspond
à la valeur par défaut.
480
11. PL/PGSQL : LES BASES
$id_facture = $rv->{rows}[0]->{id_facture};
return $id_facture;
$function$ ;
Cette fonction n’est pas parfaite, elle ne protège pas de tout. Il est tout à fait possible
d’avoir une insertion concurrente entre le SELECT et le INSERT par exemple.
481
https://dalibo.com/formations
SQL pour PostgreSQL
Il est clair que l’accès aux données est malaisé en PL/Perl, comme dans la plupart des
langages, puisqu’ils ne sont pas prévus spécifiquement pour cette tâche. Par contre, on
dispose de toute la puissance de Perl pour les traitements de chaîne, les appels système…
PL/Perl, c’est :
• Perl, moins les fonctions pouvant accéder à autre chose qu’à PostgreSQL (il faut
utiliser PL/PerlU pour passer outre cette limitation)
• Un bloc de code anonyme appelé par PostgreSQL
• Des fonctions d’accès à la base, spi_*
Pour éviter les conflits avec les objets de la base, il est conseillé de préfixer les variables.
CREATE OR REPLACE FUNCTION
public.demo_insert_plpgsql(p_nom_client text, p_titre_facture text)
RETURNS integer
LANGUAGE plpgsql
STRICT
AS $function$
DECLARE
v_id_facture int;
v_id_client int;
BEGIN
-- Le client existe t'il ?
SELECT id_client
INTO v_id_client
FROM mes_clients
WHERE nom_client = p_nom_client;
-- Sinon on le crée :
IF NOT FOUND THEN
INSERT INTO mes_clients (nom_client)
VALUES (p_nom_client)
RETURNING id_client INTO v_id_client;
END IF;
482
11. PL/PGSQL : LES BASES
-- Dans les deux cas, l'id client est maintenant dans v_id_client
return v_id_facture;
END;
$function$ ;
Le langage PL/pgSQL n’est pas sensible à la casse, tout comme SQL (sauf les noms de
colonnes, si vous les mettez entre des guillemets doubles).
• DECLARE
– pour la déclaration des variables locales
• BEGIN
– pour indiquer le début du code de la routine
• END
– pour en indiquer la fin
• Instructions séparées par des points-virgules
• Commentaires commençant par -- ou compris entre /* et */
483
https://dalibo.com/formations
SQL pour PostgreSQL
Une routine est composée d’un bloc de déclaration des variables locales et d’un bloc de
code. Le bloc de déclaration commence par le mot clé DECLARE et se termine avec le mot
clé BEGIN. Ce mot clé est celui qui débute le bloc de code. La fin est indiquée par le mot
clé END.
Toutes les instructions se terminent avec des points-virgules. Attention, DECLARE, BEGIN
et END ne sont pas des instructions.
Il est possible d’ajouter des commentaires. -- indique le début d’un commentaire qui se
terminera en fin de ligne. Pour être plus précis dans la délimitation, il est aussi possible
d’utiliser la notation C : /* est le début d’un commentaire et */ la fin.
<<mon_label>>
-- le code (blocs DECLARE, BEGIN-END, et EXCEPTION)
[ <<mon_label>> ]
LOOP
ordres …
END LOOP [ mon_label ];
Bien sûr, il est aussi possible d’utiliser des labels pour des boucles FOR, WHILE, FOREACH.
On sort d’un bloc ou d’une boucle avec la commande EXIT, on peut aussi utiliser CONTINUE
pour passer à l’exécution suivante d’une boucle sans terminer l’itération courante.
Par exemple :
484
11. PL/PGSQL : LES BASES
Une routine est surchargeable. La seule façon de les différencier est de prendre en compte
les arguments (nombre et type). Les noms des arguments peuvent être indiqués mais ils
seront ignorés.
Deux routines identiques aux arguments près (on parle de prototype) ne sont pas iden-
tiques, mais bien deux routines distinctes.
CREATE OR REPLACE a principalement pour but de modifier le code d’une routine, mais il
est aussi possible de modifier les méta-données.
Toutes les méta-données discutées plus haut sont modifiables avec un ALTER.
Une fonction pouvant exister en plusieurs exemplaires, avec le même nom et des argu-
ments de type différents, il faudra parfois parfois préciser ces derniers.
485
https://dalibo.com/formations
SQL pour PostgreSQL
On est obligé de multiplier les guillements pour les protéger, le code devient difficile à
lire.
Si vous avez besoin de mettre entre guillemets du texte qui inclut $$, vous pouvez utiliser
$Q$, et ainsi de suite. Le plus simple étant de définir un marqueur de fin de routine plus
complexe, par exemple incluant le nom de la fonction…
486
11. PL/PGSQL : LES BASES
11.7 DÉCLARATIONS
En dehors des types natifs de PostgreSQL, PL/pgSQL y ajoute des types spécifiques pour
faciliter l’écriture des routines.
Il est aussi possible d’utiliser une notation numérotée : le premier argument a pour nom
$1, le deuxième $2, etc.
En PL/pgSQL, pour utiliser une variable dans le corps de la routine (entre le BEGIN et le
END), il est obligatoire de l’avoir déclarée précédemment :
• sa valeur initiale (si rien n’est précisé, ce sera NULL par défaut) :
answer integer := 42;
• une contrainte NOT NULL (dans ce cas, il faut impérativement un défault différent
de NULL, et toute éventuelle affectation ultérieure de NULL à la variable provoquera
une erreur) :
answer integer NOT NULL DEFAULT 42;
L’option CONSTANT permet de définir une variable pour laquelle il sera alors impossible
d’assigner une valeur dans le reste de la routine.
488
11. PL/PGSQL : LES BASES
L’utilisation de %ROWTYPE permet de définir une variable qui contient la structure d’un
enregistrement de la table spécifiée. %ROWTYPE n’est pas obligatoire, il est néanmoins
préférable d’utiliser cette forme, bien plus portable. En effet, dans PostgreSQL, toute
création de table crée un type associé de même nom, le nom de la table seul est donc
suffisant.
RECORD est beaucoup utilisé pour manipuler des curseurs : cela évite de devoir se préoc-
cuper de déclarer un type correspondant exactement aux colonnes de la requête associée
à chaque curseur.
489
https://dalibo.com/formations
SQL pour PostgreSQL
RETURN est inutile avec des paramètres OUT parce que c’est la valeur des paramètres OUT
à la fin de la fonction qui est retournée.
Dans le cas d’un RETURN NEXT, cela signifie que la fonction retourne un SETOF
d’enregistrements. Chaque appel à RETURN NEXT retourne donc un enregistrement
composé d’une copie de toutes les variables, au moment de l’appel à RETURN NEXT.
490
11. PL/PGSQL : LES BASES
11.8 INSTRUCTIONS
• Concernent les opérations sur la base de données, comme une extraction ou mod-
ification
• Ou d’autres expressions, comme des calculs, comparaisons, etc.
• Toute expression écrite en PL/pgSQL sera passée à la commande SELECT pour
l’interprétation par le moteur
Dans ce cas, l’expression myvar > 0 sera préparée par le moteur en de la façon suivante :
Puis cette requête préparée sera exécutée en lui passant en paramètre la valeur de myvar
et la constante 0.
• Utiliser l’opérateur := :
un_entier := 5;
• Utiliser SELECT INTO :
SELECT 5 INTO un_entier;
Privilégiez la première écriture pour la lisibilité, la seconde écriture est moins claire et
n’apporte rien puisqu’il s’agit ici d’une affectation de constante.
À noter que l’écriture suivante est également possible pour une affectation :
ma_variable := une_colonne FROM ma_table WHERE id = 5;
Cette méthode profite du fait que toutes les expressions du code PL/pgSQL vont être
passées au moteur SQL de PostgreSQL dans un SELECT pour être résolues. Cela va fonc-
tionner, mais c’est très peu lisible, et donc non recommandé.
491
https://dalibo.com/formations
SQL pour PostgreSQL
• Affectation de la ligne renvoyée dans une variable de type RECORD ou ROW : SELECT
* INTO ma_variable_ligne FROM ma_table...;
• Si plusieurs enregistrements renvoyés : seul le premier est récupéré
• Pour contrôler qu’un seul enregistrement est renvoyé :
– remplacer INTO par INTO STRICT
• Pour récupérer plus d’un enregistrement : écrire une boucle
• L’ordre est statique : on ne peut pas faire varier les colonnes retournées, la clause
WHERE, les tables…
Dans le cas du type ROW, la définition de la ligne doit correspondre parfaitement à la défi-
nition de la ligne renvoyée. Utiliser un type RECORD permet d’éviter ce type de problème.
La variable obtient directement le type ROW de la ligne renvoyée.
• Exemple :
CREATE FUNCTION liste_entier (limite integer)
RETURNS SETOF integer
AS $$
BEGIN
FOR i IN 1..limite LOOP
RETURN NEXT i;
END LOOP;
END
$$ LANGUAGE plpgsql;
Ceci n’est qu’un exemple qui tente de reproduire la fonction generate_series. En pra-
tique, il est inutile et même contre-productif de créer ses propres fonctions pour réaliser
en moins bien ce que le moteur sait déjà faire.
Ainsi, la fonction native generate_series() possède plus d’options, gère d’autres types
492
11. PL/PGSQL : LES BASES
comme des timestamps, etc. Programmée en C, une fonction intégrée est aussi générale-
ment plus rapide.
• Exécution :
ma_base=# SELECT * FROM liste_entier(5);
liste_entier
--------------
1
2
3
4
5
(5 lignes)
On peut déterminer qu’aucune ligne n’a été trouvé par la requête en utilisant la variable
FOUND :
PERFORM * FROM ma_table WHERE une_colonne>0;
IF NOT FOUND THEN
...
END IF;
Pour récupérer le nombre de lignes affectées lar l’instruction exécutée, il faut récupérer
la variable de diagnostic ROW_COUNT :
GET DIAGNOSTICS variable = ROW_COUNT;
Il est à noter que le ROW_COUNT récupéré ainsi s’applique à l’ordre SQL précédent, quel
qu’il soit :
• PERFORM ;
• EXECUTE ;
• ou même à un ordre statique directement dans le code PL/pgSQL.
• Instruction :
EXECUTE '<chaine>' [INTO [STRICT] cible];
• Exécute la requête comprise dans la variable chaîne
• La variable chaine peut être construite à partir d’autres variables
• Cible contient le résultat de l’exécution de la requête dans le cas d’un résultat sur
une seule ligne
• Mot clé USING pour indiquer la valeur de certains arguments
• Sans STRICT
– cible contient la première ligne d’un résultat multi-lignes
– ou NULL s’il n’y a pas de résultat
• Avec STRICT
– une exception est levée si le résultat ne contient aucune ligne
(NO_DATA_FOUND) ou en contient plusieurs (TOO_MANY_ROWS)
• GET DIAGNOSTICS integer_var = ROW_COUNT
494
11. PL/PGSQL : LES BASES
• Fonction quote_ident
– pour mettre entre guillemets un identifiant d’un objet PostgreSQL (table,
colonne, etc.)
• Fonction quote_literal
– pour mettre entre guillemets une valeur (chaîne de caractères)
• Fonction quote_nullable
– pour mettre entre guillemets une valeur (chaîne de caractères), sauf NULL
qui sera alors renvoyé sans les guillemets
• || à utiliser pour concaténer tous les morceaux de la requête
• ou fonction format(...), équivalent de sprintf en C
La fonction format est l’équivalent de la fonction sprintf en C : elle formate une chaine
en fonction d’un patron et de valeurs à appliquer à ses paramètres et la retourne. Les
types de paramètre reconnus par format sont :
495
https://dalibo.com/formations
SQL pour PostgreSQL
IF condition THEN
instructions
[ELSEIF condition THEN
instructions]
[ELSEIF condition THEN
instructions]
[ELSE
instructions]
END IF
Ce dernier est l’équivalent d’un CASE en C pour une vérification de plusieurs alternatives.
496
11. PL/PGSQL : LES BASES
Exemple :
IF nombre = 0 THEN
resultat := 'zero';
ELSEIF nombre > 0 THEN
resultat := 'positif';
ELSEIF nombre < 0 THEN
resultat := 'négatif';
ELSE
resultat := 'indéterminé';
END IF;
Deux possibilités :
• 1ère :
CASE variable
WHEN expression THEN instructions
ELSE instructions
END CASE
• 2nde :
CASE
WHEN expression-booléene THEN instructions
ELSE instructions
END CASE
Quelques exemples :
CASE x
WHEN 1, 2 THEN
msg := 'un ou deux';
ELSE
msg := 'autre valeur que un ou deux';
END CASE;
CASE
WHEN x BETWEEN 0 AND 10 THEN
msg := 'la valeur est entre 0 et 10';
WHEN x BETWEEN 11 AND 20 THEN
msg := 'la valeur est entre 11 et 20';
END CASE;
497
https://dalibo.com/formations
SQL pour PostgreSQL
Exemple :
LOOP
resultat := resultat + 1;
EXIT WHEN resultat > 100;
CONTINUE WHEN resultat < 50;
resultat := resultat + 1;
END LOOP;
Cette boucle incrémente le résultat de 1 à chaque itération tant que la valeur du résultat
est inférieure à 50. Ensuite, le résultat est incrémenté de 1 à deux reprises pour chaque
tout de boucle, on incrémente donc de 2 par tour de boucle. Arrivé à 100, la procédure
sort de la boucle.
• Instruction :
WHILE condition LOOP instructions END LOOP;
• Boucle jusqu’à ce que la condition soit fausse
• Label possible
498
11. PL/PGSQL : LES BASES
• Synopsis :
FOR variable in [REVERSE] entier1..entier2 [BY incrément]
LOOP
instructions
END LOOP;
• variable va obtenir les différentes valeurs entre entier1 et entier2
• Label possible.
Exemple :
FOR a, b, c, d IN SELECT col_a, col_b, col_c, col_d FROM ma_table
LOOP
-- instructions
END LOOP;
499
https://dalibo.com/formations
SQL pour PostgreSQL
• sans SLICE :
do $$
declare a int[] := ARRAY[[1,2],[3,4],[5,6]];
b int;
begin
foreach b in array a loop
raise info 'var: %', b;
end loop;
end $$;
INFO: var: 1
INFO: var: 2
INFO: var: 3
INFO: var: 4
INFO: var: 5
INFO: var: 6
• Avec SLICE :
do $$
declare a int[] := ARRAY[[1,2],[3,4],[5,6]];
b int[];
begin
foreach b slice 1 in array a loop
raise info 'var: %', b;
end loop;
end $$;
INFO: var: {1,2}
INFO: var: {3,4}
INFO: var: {5,6}
500
11. PL/PGSQL : LES BASES
• RETURN [expression]
• Renvoie cette expression à la requête appelante
• expression optionnelle si argument(s) déclarés OUT
– RETURN lui-même optionnel si argument(s) déclarés OUT
Tout est conservé en mémoire jusqu’à la fin de la fonction. Donc, si beaucoup de données
sont renvoyées, cela pourrait occasionner quelques lenteurs.
Par ce mécanisme, on peut très simplement produire une fonction retournant le résultat
d’une requête complexe fabriquée à partir de quelques paramètres.
501
https://dalibo.com/formations
SQL pour PostgreSQL
11.11 CONCLUSION
• Documentation officielle
– « Chapitre 40. PL/pgSQL - Langage de procédures SQL »
11.11.2 QUESTIONS
137
https://docs.postgresql.fr/current/plpgsql.html
502
11. PL/PGSQL : LES BASES
11.12.1 HELLO
11.12.2 DIVISION
503
https://dalibo.com/formations
SQL pour PostgreSQL
Créer une fonction qui fait la même chose avec deux années en
paramètres une boucle FOR … LOOP, RETURNS TABLE et RETURN
NEXT.
11.12.4 MULTIPLICATION
504
11. PL/PGSQL : LES BASES
11.12.5 SALUTATIONS
Écrire une fonction inverser qui inverse une chaîne (pour « toto »
en entrée, afficher « otot » en sortie), à l’aide d’une boucle WHILE
et des fonctions char_length et substring.
505
https://dalibo.com/formations
SQL pour PostgreSQL
Les valeurs de p et de q varient de 100 ans en 100 ans. De 2000 à 2100, p vaut 24, q
vaut 5. La date de Pâques est le (22 + d + e) mars ou le (d + e - 9) avril.
Enfin, écrire une fonction qui renvoie tous les jours fériés d’une
année (libellé et date).
Prévoir un paramètre supplémentaire pour l’Alsace-Moselle, où le
Vendredi saint (précédant le dimanche de Pâques) et le 26 décem-
138
https://fr.wikipedia.org/wiki/Calcul_de_la_date_de_P%C3%A2ques
506
11. PL/PGSQL : LES BASES
507
https://dalibo.com/formations
SQL pour PostgreSQL
11.13.1 HELLO
Requêtage :
QUERY PLAN
------------------------------------------
Result (cost=0.00..0.01 rows=1 width=32)
QUERY PLAN
------------------------------------------
Result (cost=0.00..0.26 rows=1 width=32)
508
11. PL/PGSQL : LES BASES
Par défaut, si on ne précise pas le coût (COST) d’une fonction, cette dernière a un coût par
défaut de 100. Ce coût est à multiplier par la valeur du paramètre cpu_operator_cost,
par défaut à 0.0025. Le coût total d’appel de la fonction hello_pl est donc par défaut
de :
100*cpu_operator_cost + cpu_tuple_cost
Ce n’est pas valable pour la fonction en SQL pur, qui est ici intégrée à la requête.
11.13.2 DIVISION
Attention, sous PostgreSQL, la division de deux entiers est par défaut entière : il faut donc
transtyper.
division
--------------------
1.5000000000000000
Pour la version en PL :
CREATE OR REPLACE FUNCTION division(arg1 integer, arg2 integer)
RETURNS numeric
AS $BODY$
BEGIN
IF arg2 = 0 THEN
RETURN 'NaN';
ELSE
RETURN arg1::numeric / arg2::numeric;
END IF;
END $BODY$
LANGUAGE plpgsql;
division
----------
NaN
510
11. PL/PGSQL : LES BASES
Test :
SELECT nb_embauches (2006);
nb_embauches
--------------
9
n | nb_embauches
------+--------------
2000 | 2
2001 | 0
2002 | 0
2003 | 1
2004 | 0
2005 | 2
2006 | 9
2007 | 0
511
https://dalibo.com/formations
SQL pour PostgreSQL
2008 | 0
2009 | 0
2010 | 0
Créer une fonction qui fait la même chose avec deux années en
paramètres une boucle FOR … LOOP, RETURNS TABLE et RETURN
NEXT.
Le nom de la fonction a été choisi identique à la précédente, mais avec des paramètres
différents. Cela ne gêne pas le requêtage :
SELECT * FROM nb_embauches (2006,2010);
annee | nombre_embauches
-------+------------------
2006 | 9
2007 | 0
2008 | 0
2009 | 0
2010 | 0
512
11. PL/PGSQL : LES BASES
11.13.4 MULTIPLICATION
RETURN a1*a2;
END
$BODY$
LANGUAGE plpgsql;
Test :
multiplication
----------------
6
multiplication
----------------
8
Si ce n’est déjà fait, créer une autre fonction pour faire la con-
version de texte en chiffre, que multiplication appellera avant
d’effectuer le calcul.
514
11. PL/PGSQL : LES BASES
ret := 3;
ELSEIF arg = 'quatre' THEN
ret := 4;
ELSEIF arg = 'cinq' THEN
ret := 5;
ELSEIF arg = 'six' THEN
ret := 6;
ELSEIF arg = 'sept' THEN
ret := 7;
ELSEIF arg = 'huit' THEN
ret := 8;
ELSEIF arg = 'neuf' THEN
ret := 9;
END IF;
RETURN ret;
END
$BODY$
LANGUAGE plpgsql;
Par défaut, les variables internes à la fonction valent NULL. Rien n’est prévu pour affecter
le second argument, on obtient donc NULL en résultat.
515
https://dalibo.com/formations
SQL pour PostgreSQL
RETURN ret;
END
$BODY$
LANGUAGE plpgsql;
516
11. PL/PGSQL : LES BASES
11.13.5 SALUTATIONS
Test :
SELECT salutation ('Guillaume');
salutation
---------------------
Bonsoir Guillaume !
ELSE
libelle := 'Bonjour';
END IF;
salutation
---------------------
Bonsoir Guillaume !
518
11. PL/PGSQL : LES BASES
Écrire une fonction inverser qui inverse une chaîne (pour « toto
» en entrée, afficher « otot » en sortie), à l’aide d’une boucle WHILE
et des fonctions char_length et substring.
inverser
----------
otot
519
https://dalibo.com/formations
SQL pour PostgreSQL
paques
------------
2018-04-01
2019-04-21
2020-04-12
2021-04-04
2022-04-17
Version complexe :
CREATE OR REPLACE FUNCTION ascension(annee integer)
RETURNS date
AS $$
DECLARE
r date;
BEGIN
SELECT paques(annee)::date + 40 INTO r;
520
11. PL/PGSQL : LES BASES
Version simple :
CREATE OR REPLACE FUNCTION ascension(annee integer)
RETURNS date
AS $$
SELECT (paques (annee) + INTERVAL '39 days')::date ;
$$
LANGUAGE sql;
Test :
SELECT paques (n), ascension(n) FROM generate_series (2018, 2022) n ;
paques | ascension
------------+------------
2018-04-01 | 2018-05-10
2019-04-21 | 2019-05-30
2020-04-12 | 2020-05-21
2021-04-04 | 2021-05-13
2022-04-17 | 2022-05-26
Enfin, écrire une fonction qui renvoie tous les jours fériés d’une
année (libellé et date).
Prévoir un paramètre supplémentaire pour l’Alsace-Moselle, où le
Vendredi saint (précédant le dimanche de Pâques) et le 26 décem-
bre sont aussi fériés.
Cette fonction doit renvoyer plusieurs lignes : utiliser RETURN
NEXT. Plusieurs variantes sont possibles : avec SETOF record,
avec des paramètres OUT, ou avec RETURNS TABLE (libelle,
jour).
Enfin, il est possible d’utiliser RETURN QUERY.
r record;
BEGIN
SELECT 'Jour de l''an'::text, (annee::text||'-01-01')::date INTO r;
RETURN NEXT r;
SELECT 'Pâques'::text, paques(annee)::date + 1 INTO r;
RETURN NEXT r;
SELECT 'Ascension'::text, ascension(annee)::date INTO r;
RETURN NEXT r;
SELECT 'Fête du travail'::text, (annee::text||'-05-01')::date INTO r;
RETURN NEXT r;
SELECT 'Victoire 1945'::text, (annee::text||'-05-08')::date INTO r;
RETURN NEXT r;
SELECT 'Fête nationale'::text, (annee::text||'-07-14')::date INTO r;
RETURN NEXT r;
SELECT 'Assomption'::text, (annee::text||'-08-15')::date INTO r;
RETURN NEXT r;
SELECT 'La toussaint'::text, (annee::text||'-11-01')::date INTO r;
RETURN NEXT r;
SELECT 'Armistice 1918'::text, (annee::text||'-11-11')::date INTO r;
RETURN NEXT r;
SELECT 'Noël'::text, (annee::text||'-12-25')::date INTO r;
RETURN NEXT r;
IF alsace_moselle THEN
SELECT 'Vendredi saint'::text, paques(annee)::date - 2 INTO r;
RETURN NEXT r;
SELECT 'Lendemain de Noël'::text, (annee::text||'-12-26')::date INTO r;
RETURN NEXT r;
END IF;
RETURN;
END;
$$
LANGUAGE plpgsql;
SELECT *
FROM vacances(2020, true) AS (libelle text, jour date)
ORDER BY jour ;
libelle | jour
--------------------+------------
Jour de l'an | 2020-01-01
Vendredi saint | 2020-04-10
Pâques | 2020-04-13
Fête du travail | 2020-05-01
522
11. PL/PGSQL : LES BASES
Une autre forme d’écriture possible consiste à indiquer les deux colonnes de retour
comme des paramètres OUT :
RETURN;
END;
$function$;
SELECT *
FROM vacances(2020)
ORDER BY jour ;
libelle | jour
-----------------+------------
Jour de l'an | 2020-01-01
Pâques | 2020-04-13
Fête du travail | 2020-05-01
Victoire 1945 | 2020-05-08
Ascension | 2020-05-21
Fête nationale | 2020-07-14
Assomption | 2020-08-15
La toussaint | 2020-11-01
Armistice 1918 | 2020-11-11
Noël | 2020-12-25
524
11. PL/PGSQL : LES BASES
AS $function$
…
525
https://dalibo.com/formations
SQL pour PostgreSQL
12 PL/PGSQL AVANCÉ
526
12. PL/PGSQL AVANCÉ
12.1 PRÉAMBULE
12.1.1 AU MENU
12.1.2 OBJECTIFS
527
https://dalibo.com/formations
SQL pour PostgreSQL
L’utilisation du mot clé VARIADIC dans la déclaration des routines permet d’utiliser un
nombre variable d’arguments dans la mesure où tous les arguments optionnels sont du
même type de données. Ces arguments sont passés à la fonction sous forme de tableau
d’arguments du même type.
Il n’est pas possible d’utiliser d’autres arguments en entrée à la suite d’un paramètre
VARIADIC.
528
12. PL/PGSQL AVANCÉ
En PL/pgSQL, il est possible d’utiliser une boucle FOREACH pour parcourir directement le
tableau des arguments optionnels.
CREATE OR REPLACE FUNCTION pluspetit(VARIADIC liste numeric[])
RETURNS numeric
LANGUAGE plpgsql
AS $function$
DECLARE
courant numeric;
plus_petit numeric;
BEGIN
FOREACH courant IN ARRAY liste LOOP
IF plus_petit IS NULL OR courant < plus_petit THEN
plus_petit := courant;
END IF;
END LOOP;
RETURN plus_petit;
END
$function$;
529
https://dalibo.com/formations
SQL pour PostgreSQL
• Typer les variables oblige à dupliquer les routines communes à plusieurs types
• PostgreSQL propose des types polymorphes
• Le typage se fait à l’exécution
Pour pouvoir utiliser la même fonction en utilisant des types différents, il est nécessaire
de la redéfinir avec les différents types autorisés en entrée. Par exemple, pour autoriser
l’utilisation de données de type integer ou float en entrée et retournés par une même
fonction, il faut la dupliquer.
CREATE OR REPLACE FUNCTION
addition(var1 integer, var2 integer)
RETURNS integer
AS $$
DECLARE
somme integer;
BEGIN
somme := var1 + var2;
RETURN somme;
END;
$$ LANGUAGE plpgsql;
530
12. PL/PGSQL AVANCÉ
531
https://dalibo.com/formations
SQL pour PostgreSQL
L’opérateur + étant défini pour les entiers comme pour les numeric, la fonction ne pose
aucun problème pour ces deux types de données, et retourne une donnée du même type
que les données d’entrée.
Le typage n’étant connu qu’à l’exécution, c’est aussi à ce moment que se déclenchent les
erreurs.
De même, l’affectation du type unique pour tous les éléments se fait sur la base du premier
élément, ainsi :
532
12. PL/PGSQL AVANCÉ
génère une erreur car du premier argument est déduit le type integer, ce qui n’est évide-
ment pas le cas du deuxième. Il peut donc être nécessaire d’utiliser une conversion ex-
plicite pour résoudre ce genre de problématique.
• Fonction stockée
• Action déclenchée par INSERT (incluant COPY), UPDATE, DELETE, TRUNCATE
• Mode par ligne ou par instruction
• Exécution d’une fonction stockée codée à partir de tout langage de procédure
activée dans la base de données
Un trigger est une spécification précisant que la base de données doit exécuter une fonc-
tion particulière quand un certain type d’opération est traité. Les fonctions trigger peu-
vent être définies pour s’exécuter avant ou après une commande INSERT, UPDATE, DELETE
ou TRUNCATE.
La fonction trigger doit être définie avant que le trigger lui-même puisse être créé. La
fonction trigger doit être déclarée comme une fonction ne prenant aucun argument et
retournant un type trigger.
Une fois qu’une fonction trigger est créée, le trigger est créé avec CREATE TRIGGER. La
même fonction trigger est utilisable par plusieurs triggers.
Un trigger TRUNCATE ne peut utiliser que le mode par instruction, contrairement aux autres
triggers pour lesquels vous avez le choix entre « par ligne » et « par instruction ».
Enfin, l’instruction COPY est traitée comme s’il s’agissait d’une commande INSERT.
533
https://dalibo.com/formations
SQL pour PostgreSQL
À noter que les problématiques de visibilité et de volatilité depuis un trigger sont assez
complexes dès lors que l’on lit ou modifie les données. Voir la documentation139 pour
plus de détails à ce sujet.
• OLD :
– type de données RECORD correspondant à la ligne avant modification
– valable pour un DELETE et un UPDATE
• NEW :
– type de données RECORD correspondant à la ligne après modification
– valable pour un INSERT et un UPDATE
• Ces deux variables sont valables uniquement pour les triggers en mode ligne
– pour les triggers en mode instruction, la version 10 propose les tables de
transition
• Accès aux champs par la notation pointée
– NEW.champ1 pour accéder à la nouvelle valeur de champ1
• TG_NAME
– nom du trigger qui a déclenché l’appel de la fonction
• TG_WHEN
– chaîne valant BEFORE, AFTER ou INSTEAD OF suivant le type du trigger
• TG_LEVEL
– chaîne valant ROW ou STATEMENT suivant le mode du trigger
• TG_OP
– chaîne valant INSERT, UPDATE, DELETE, TRUNCATE suivant l’opération qui a
déclenché le trigger
139
https://docs.postgresql.fr/current/trigger-datachanges.html
534
12. PL/PGSQL AVANCÉ
• TG_RELID
– OID de la table qui a déclenché le trigger
• TG_TABLE_NAME
– nom de la table qui a déclenché le trigger
• TG_TABLE_SCHEMA
– nom du schéma contenant la table qui a déclenché le trigger
Vous pourriez aussi rencontrer dans du code la variable TG_RELNAME. C’est aussi le nom de
la table qui a déclenché le trigger. Attention, cette variable est obsolète, il est préférable
d’utiliser maintenant TG_TABLE_NAME.
• TG_NARGS
– nombre d’arguments donnés à la fonction trigger
• TG_ARGV
– les arguments donnés à la fonction trigger (le tableau commence à 0)
La fonction trigger est déclarée sans arguments mais il est possible de lui en passer dans
la déclaration du trigger. Dans ce cas, il faut utiliser les deux variables ci-dessus pour y
accéder. Attention, tous les arguments sont convertis en texte. Il faut donc se cantonner
à des informations simples, sous peine de compliquer le code.
NEW.datecreate := current_timestamp;
return NEW;
535
https://dalibo.com/formations
SQL pour PostgreSQL
END;
$$
LANGUAGE plpgsql;
Une fonction trigger retourne le type spécial trigger. Pour cette raison, ces fonctions ne
peuvent être utilisées que dans le contexte d’un ou plusieurs triggers. Pour pouvoir être
utilisée comme valeur de retour dans la fonction (avec RETURN), une variable doit être de
structure identique à celle de la table sur laquelle le trigger a été déclenché. Les variables
spéciales OLD (ancienne valeur avant application de l’action à l’origine du déclenchement)
et NEW (nouvelle valeur après application de l’action) sont également disponibles, utilis-
ables et même modifiables.
La valeur de retour d’un trigger de type ligne (ROW) déclenché avant l’opération (BEFORE)
peut changer complètement l’effet de la commande ayant déclenché le trigger. Par exem-
ple, il est possible d’annuler complètement l’action sans erreur (et d’empêcher également
tout déclenchement ultérieur d’autres triggers pour cette même action) en retournant
NULL. Il est également possible de changer les valeurs de la nouvelle ligne créée par une
action INSERT ou UPDATE en retournant une des valeurs différentes de NEW (ou en modi-
fiant NEW directement). Attention, dans le cas d’une fonction trigger BEFORE déclenchée
536
12. PL/PGSQL AVANCÉ
par une action DELETE, in faut prendre en compte que NEW contient NULL, en conséquence
RETURN NEW; provoquera l’annulation du DELETE ! Dans ce cas, si on désire laisser l’action
inchangée, la convention est de faire un RETURN OLD;.
En revanche, la valeur de retour utilisée n’a pas d’effet dans les cas des triggers ROW et
AFTER, et des triggers STATEMENT. À noter que bien que la valeur de retour soit ignorée
dans ce cas, il est possible d’annuler l’action d’un trigger de type ligne intervenant après
l’opération ou d’un trigger à l’instruction en remontant une erreur à l’exécution de la fonc-
tion.
537
https://dalibo.com/formations
SQL pour PostgreSQL
• On peut ne déclencher un trigger que si une condition est vérifiée. Cela simplifie
souvent le code du trigger, et gagne en performances : plus besoin pour le moteur
d’aller exécuter la fonction.
• On peut ne déclencher un trigger que si une colonne spécifique a été modifiée. Il
ne s’agit donc que de triggers sur UPDATE. Encore un moyen de simplifier le code et
de gagner en performances en évitant les déclenchements inutiles.
• On peut créer un trigger en le déclarant comme étant un trigger de contrainte. Il
peut alors être deferrable, deferred, comme tout autre contrainte, c’est-à-dire n’être
exécuté qu’au moment de la validation de la transaction, ce qui permet de ne vérifier
les contraintes implémentées par le trigger qu’au moment de la validation finale.
• On peut créer un trigger sur une vue. C’est un trigger INSTEAD OF, qui permet de
programmer de façon efficace les INSERT/UPDATE/DELETE/TRUNCATE sur les vues.
Auparavant, il fallait passer par le système de règles (RULES), complexe et sujet à
erreurs.
Dans le cas d’un trigger en mode instruction, il n’est pas possible d’utiliser les variables
OLD et NEW car elles ciblent une seule ligne. Pour cela, le standard SQL parle de tables de
transition.
538
12. PL/PGSQL AVANCÉ
Nous allons créer une table t1 qui aura le trigger et une table archives qui a pour but de
récupérer les enregistrements supprimés de la table t1.
CREATE TABLE t1 (c1 integer, c2 text);
Donc la suppression des lignes met 0,7 seconde alors que l’exécution du trigger met 1,5
seconde.
Pour comparer, voici l’ancienne façon de faire (configuration d’un trigger en mode ligne) :
TRUNCATE archives;
TRUNCATE t1;
TRUNCATE archives;
540
12. PL/PGSQL AVANCÉ
Donc avec un trigger en mode ligne, la suppression du million de lignes met presque
9 secondes à s’exécuter, dont 7,7 pour l’exécution du trigger. Sur le trigger en mode
instruction, il faut compter 2,2 secondes, dont 1,5 sur le trigger. Les tables de transition
nous permettent de gagner en performance.
Le gros intérêt des tables de transition est le gain en performance que cela apporte.
12.5 CURSEURS
À noter que la notion de curseur existe aussi en SQL pur, sans passer par une routine
PL/pgSQL. On les crée en utilisant la commande DECLARE, et les règles de manipulation
sont légèrement différentes (on peut par exemple créer un curseur WITH HOLD, qui per-
sistera après la fin de la transaction). Voir la documentation pour plus d’informations à ce
sujet : https://docs.postgresql.fr/current/sql-declare.html
541
https://dalibo.com/formations
SQL pour PostgreSQL
La première forme permet la création d’un curseur non lié à une requête.
542
12. PL/PGSQL AVANCÉ
• Instruction SQL :
FETCH [ direction { FROM | IN } ] curseur INTO cible
• Récupère la prochaine ligne
• FOUND indique si cette nouvelle ligne a été récupérée
• Cible est
– une variable RECORD
– une variable ROW
– un ensemble de variables séparées par des virgules
• direction du FETCH :
– NEXT, PRIOR
– FIRST, LAST
– ABSOLUTE nombre, RELATIVE nombre
– nombre
– ALL
– FORWARD, FORWARD nombre, FORWARD ALL
– BACKWARD, BACKWARD nombre, BACKWARD ALL
Attention, ces différentes syntaxes ne modifient pas les données dans le curseur en
mémoire, mais font réellement la modification dans la table. L’emplacement actuel du
curseur est utilisé ici pour identifier la ligne correspondante à mettre à jour.
543
https://dalibo.com/formations
SQL pour PostgreSQL
Voici un exemple d’utilisation d’une référence de curseur retournée par une fonction :
• Procédures uniquement !
• COMMIT et ROLLBACK
• Pas de BEGIN
– automatique après la fin d’une transaction
• Ne fonctionne pas à l’intérieur d’une transaction
• Incompatible avec une clause EXCEPTION
Voici un exemple avec COMMIT ou ROLLBACK suivant que le nombre est pair ou impair :
544
12. PL/PGSQL AVANCÉ
CALL transaction_test1();
Une exemple plus fréquemment utilisé est celui d’une procédure effectuant un traitement
de modification des données par lots, et donc faisant un COMMIT à intervalle régulier.
Noter qu’il n’y a pas de BEGIN explicite dans la gestion des transactions. Après un COMMIT
ou un ROLLBACK, un BEGIN est immédiatement exécuté.
On ne peut pas utiliser en même temps une clause EXCEPTION et le contrôle transaction-
nel :
DO LANGUAGE plpgsql $$
BEGIN
BEGIN
545
https://dalibo.com/formations
SQL pour PostgreSQL
• Sans exceptions :
– toute erreur provoque un arrêt de la fonction
– toute modification suite à une instruction SQL (INSERT, UPDATE, DELETE) est
annulée
– d’où l’ajout d’une gestion personnalisée des erreurs avec le concept des ex-
ceptions
546
12. PL/PGSQL AVANCÉ
END
• Les erreurs sont contenues dans des classes d’erreurs plus génériques, qui peuvent
aussi être utilisées
L’instruction GET STACKED DIAGNOSTICS permet d’avoir une vision plus précise de
l’erreur récupéré par le bloc de traitement des exceptions. La liste de toutes les
informations que l’on peut collecter est disponible dans la documentation141 .
140
https://docs.postgresql.fr/current/errcodes-appendix.html
141
https://docs.postgresql.fr/current/plpgsql-control-structures.html#plpgsql-exception-diagnostics-values
548
12. PL/PGSQL AVANCÉ
END;
RETURN;
END;
$$ LANGUAGE plpgsql;
# SELECT test(2);
test
------
(1 row)
# SELECT test(2);
NOTICE: Et une exception :
state : 23505
message: duplicate key value violates unique constraint "t5_pkey"
detail : Key (c1)=(2) already exists.
hint :
context: SQL statement "INSERT INTO t5 (c1) VALUES ($1)"
PL/pgSQL function test(integer) line 10 at SQL statement
test
------
(1 row)
• Envoyer une trace dans les journaux applicatifs et/ou vers le client
– RAISE niveau message
• Niveau correspond au niveau d’importance du message
– DEBUG, LOG, INFO, NOTICE, WARNING, EXCEPTION
• Message est la trace à enregistrer
• Message dynamique... tout signe % est remplacé par la valeur indiquée après le
message
• Champs DETAIL et HINT disponibles
Il convient de noter qu’un message envoyé de cette manière ne fera pas partie de
l’éventuel résultat d’une fonction, et ne sera donc pas exploitable en SQL. Pour cela, il
faut utiliser l’instruction RETURN avec un type de retour approprié.
Le traitement des messages de ce type et leur destination d’envoi sont contrôlés par le
serveur à l’aide des paramètres log_min_messages et client_min_messages.
549
https://dalibo.com/formations
SQL pour PostgreSQL
Exemples :
RAISE WARNING 'valeur % interdite', valeur;
RAISE WARNING 'valeur % ambigue',
valeur
USING HINT = 'Controlez la valeur saisie en amont';
Les autres niveaux pour RAISE ne sont que des messages, sans déclenchement
d’exception.
550
12. PL/PGSQL AVANCÉ
Exemple :
RAISE EXCEPTION 'erreur interne';
-- La chose à ne pas faire !
Le rôle d’une exception est d’intercepter une erreur pour exécuter un traitement per-
mettant soit de corriger l’erreur, soit de remonter une erreur pertinente. Intercepter un
problème pour retourner « erreur interne » n’est pas une bonne idée.
# SELECT demo_exception();
ERROR: duplicate key value violates unique constraint "ma_table_id_key"
DETAIL: Key (id)=(1) already exists.
CONTEXT: SQL statement "INSERT INTO ma_table VALUES (1)"
PL/pgSQL function demo_exception() line 6 at SQL statement
551
https://dalibo.com/formations
SQL pour PostgreSQL
# SELECT demo_exception();
NOTICE: violation d'unicite, mais celle-ci n'est pas grave
NOTICE: erreur: duplicate key value violates unique constraint "ma_table_id_key"
demo_exception
----------------
(1 row)
La table n’en reste pas moins vide pour autant puisque le bloc a été annulé.
552
12. PL/PGSQL AVANCÉ
# SELECT demo_exception();
NOTICE: violation d'unicite, mais celle-ci n'est pas grave
NOTICE: erreur: duplicate key value violates unique constraint "ma_table_id_key"
demo_exception
----------------
(1 row)
Mais cette fois-ci, le bloc BEGIN parent n’a pas eu d’exception, il s’est donc bien terminé.
553
https://dalibo.com/formations
SQL pour PostgreSQL
On commence par ajouter une contrainte sur la colonne pour empêcher les valeurs
supérieures ou égales à 10 :
Puis, on recrée la fonction de façon à ce qu’elle déclenche cette erreur dans le bloc le plus
bas, et la gère uniquement dans le bloc parent :
Exécutons la fonction :
# SELECT demo_exception();
ERROR: duplicate key value violates unique constraint "ma_table_id_key"
DETAIL: Key (id)=(1) already exists.
CONTEXT: SQL statement "INSERT INTO ma_table VALUES (1)"
PL/pgSQL function demo_exception() line 4 at SQL statement
554
12. PL/PGSQL AVANCÉ
se déclenche donc dans le bloc parent, sans espoir d’interception: nous n’avons pas
d’exception pour lui.
Le gestionnaire d’exception qui intercepte l’erreur est bien ici celui de l’appelant. Par
ailleurs, comme nous retournons nous-même une exception, la requête ne retourne pas
de résultat, mais une erreur : il n’y a plus personne pour récupérer l’exception, c’est donc
PostgreSQL lui-même qui s’en charge.
12.8 SÉCURITÉ
555
https://dalibo.com/formations
SQL pour PostgreSQL
• SECURITY INVOKER
– la routine s’exécute avec les droits de l’utilisateur qui l’exécute
• SECURITY DEFINER
– la routine s’exécute avec les droits de l’utilisateur qui en est le propriétaire
– équivalent du sudo Unix
• Il faut impérativement sécuriser les variables d’environnement (surtout le search
path) en SECURITY DEFINER
556
12. PL/PGSQL AVANCÉ
• LEAKPROOF
– indique au planificateur que la routine ne peut pas faire fuiter d’information
de contexte
– réservé aux superutilisateurs
– si on la déclare telle, s’assurer que la routine est véritablement sûre !
• Option utile lorsque l’on utilise des vues avec l’option security_barrier
Certains utilisateurs créent des vues pour filtrer des lignes, afin de restreindre la visibil-
ité sur certaines données. Or, cela peut se révéler dangereux si un utilisateur malinten-
tionné a la possibilité de créer une fonction car il peut facilement contourner cette sécu-
rité si cette option n’est pas utilisée, notamment en jouant sur des paramètres de fonction
comme COST, qui permet d’indiquer au planificateur un coût estimé pour la fonction.
557
https://dalibo.com/formations
SQL pour PostgreSQL
-[ RECORD 1 ]--------------------------
proargnames | {var1,var2}
prosrc |
: DECLARE
: somme ALIAS FOR $0;
: BEGIN
: somme := var1 + var2;
: RETURN somme;
: END;
:
558
12. PL/PGSQL AVANCÉ
DECLARE
ma_requete text;
ma_ligne record;
BEGIN
ma_requete := 'SELECT * FROM ma_table_secrete1 WHERE ' || param1 || ' = ' ||
value1 || ' AND a < 10';
RETURN QUERY EXECUTE ma_requete;
END
$function$;
(20 lignes)
Une règle demeure : ne jamais faire confiance aux paramètres d’une fonction. Au mini-
mum, un quote_ident pour param1 et un quote_literal pour val1 étaient obligatoires,
pour se protéger de ce genre de problèmes.
12.9 OPTIMISATION
Toute fonction ayant des effets de bords doit être qualifiée volatile dans le but d’éviter
que PostgreSQL utilise un résultat intermédiaire déjà calculé et évite ainsi d’exécuter le
code de la fonction.
À noter qu’il est possible de « forcer » le pré-calcul du résultat d’une fonction volatile dans
une requête SQL en utilisant une sous-requête. Par exemple, dans l’exemple suivant,
random() est exécutée pour chaque ligne de la table ma_table, et renverra donc une
valeur différente par ligne :
SELECT random() FROM ma_table;
560
12. PL/PGSQL AVANCÉ
Certaines fonctions que l’on écrit sont déterministes. C’est-à-dire qu’à paramètre(s) iden-
tique(s), le résultat est identique.
Le résultat de telles fonctions est alors remplaçable par son résultat avant même de com-
mencer à planifier la requête.
La fonction est exécutée une fois, remplacée par sa constante, et la requête est ensuite
planifiée.
----------------------------------------------------------
Index Only Scan using test_a_key on test
(cost=0.68..28480.67 rows=1000000 width=8)
(actual time=0.137..115.592 rows=1000000 loops=1)
Index Cond: (a < factorielle(12))
Heap Fetches: 0
Planning time: 4.682 ms
Execution time: 153.762 ms
(5 rows)
La requête est planifiée sans connaître factorielle(12), donc avec une hypothèse très
approximative sur la cardinalité. factorielle(12) est calculé, et la requête est exécutée.
Grâce au Index Only Scan, le requête s’effectue rapidement.
• stable : fonction ayant un comportement stable au sein d’un même ordre SQL.
Ces fonctions retournent la même valeur pour la même requête SQL, mais peuvent re-
tourner une valeur différente dans la prochaine instruction.
Il s’agit typiquement de fonctions dont le traitement dépend d’autres valeurs dans la base
de données, ou bien de réglages de configuration. Les fonctions comme to_char(),
to_date() sont STABLE et non IMMUTABLE car des paramètres de configuration (locale
utilisée pour to_char(), timezone pour les fonctions temporelles, etc.) pourraient influer
sur le résultat.
562
12. PL/PGSQL AVANCÉ
PostgreSQL refusera de déclarer comme STABLE toute fonction modifiant des données :
elle ne peut pas être stable si elle modifie la base.
• Fonction STRICT
• La fonction renvoie NULL si au moins un des arguments est NULL
Les fonctions définies comme STRICT ou RETURNS NULL ON NULL INPUT annule
l’exécution de la requête si l’un des paramètres passés est NULL. Dans ce cas, la fonction
est considérée comme ayant renvoyé NULL.
on obtient le résultat suivant si elle est exécutée avec la valeur NULL passée en paramètre :
# EXPLAIN ANALYZE SELECT * FROM test WHERE a < factorielle(NULL);
QUERY PLAN
---------------------------------------------------
Result (cost=0.00..0.00 rows=0 width=8)
(actual time=0.002..0.002 rows=0 loops=1)
One-Time Filter: false
Planning time: 0.100 ms
Execution time: 0.039 ms
(4 rows)
563
https://dalibo.com/formations
SQL pour PostgreSQL
• Un bloc contenant une clause EXCEPTION est plus coûteuse en entrée/sortie qu’un
bloc sans
– un SAVEPOINT est créé à chaque fois pour pouvoir annuler le bloc unique-
ment.
• À utiliser avec parcimonie
• Un bloc BEGIN imbriqué a un coût aussi
– un SAVEPOINT est créé à chaque fois.
Avant la version 9.2, un plan générique (indépendant des paramètres de l’ordre SQL) était
systématiquement généré et utilisé. Ce système permet de gagner du temps d’exécution
si la requête est réutilisée plusieurs fois, et qu’elle est coûteuse à planifier.
Toutefois, un plan générique n’est pas forcément idéal dans toutes les situations, et peut
conduire à des mauvaises performances.
Par exemple :
est un excellent candidat à être écrit statiquement : le plan sera toujours le même : on
attaque l’index de la clé primaire pour trouver l’enregistrement.
Par défaut, un plan générique ne sera utilisé dès la première exécution d’une requête
statique que si celle-ci ne dépend d’aucun paramètre. Dans le cas contraire, cela ne se
produira qu’au bout de plusieurs exécutions de la requête, et seulement si le planificateur
détermine que les plans spécifiques utilisés n’apportent pas d’avantage par rapport au
plan générique.
564
12. PL/PGSQL AVANCÉ
L’écriture d’une requête dynamique est par contre un peu plus pénible, puisqu’il faut fab-
riquer un ordre SQL, puis le passer en paramètre à EXECUTE, avec tous les quote_* que
cela implique pour en protéger les paramètres.
Pour se faciliter la vie, on peut utiliser EXECUTE query USING param1, param2 …, qui
est même quelquefois plus lisible que la syntaxe en dur : les paramètres de la requête
sont clairement identifiés dans cette syntaxe.
Par contre, la syntaxe USING n’est utilisable que si le nombre de paramètres est fixe.
La limite est difficile à placer, il s’agit de faire un compromis entre le temps de plani-
fication d’une requête (quelques dizaines de microsecondes pour une requête basique
à potentiellement plusieurs secondes si on dépasse la dizaine de jointures) et le temps
d’exécution.
565
https://dalibo.com/formations
SQL pour PostgreSQL
12.10 OUTILS
Tous les outils d’administration PostgreSQL permettent d’écrire des routines stockées en
PL/pgSQL, la plupart avec les fonctionnalités habituelles (comme le surlignage des mots
clés, l’indentation automatique, etc.).
Par contre, pour aller plus loin, l’offre est restreinte. Il existe tout de même un debugger
qui fonctionne avec pgAdmin 4, sous la forme d’une extension.
12.10.1 PLDEBUGGER
pldebugger est un outil initialement créé par Dave Page et Korry Douglas au sein
d’EnterpriseDB, repris par la communauté. Il est proposé sous license libre (Artistic 2.0).
Il est assez peu connu, ce qui explique que peu l’utilisent. Seul l’outil d’installation « one-
click installer » l’installe par défaut. Pour tous les autres systèmes, cela réclame une compi-
lation supplémentaire. Cette compilation est d’ailleurs peu aisée étant donné qu’il n’utilise
pas le système pgxs.
566
12. PL/PGSQL AVANCÉ
Voici les étapes à réaliser pour compiler pldebugger en prenant pour hypothèse que les
sources de PostgreSQL sont disponibles dans le répertoire /usr/src/postgresql-10 et
qu’ils ont été préconfigurés avec la commande ./configure :
$ cd /usr/src/postgresql-10/contrib
$ cd pldebugger
• Compiler pldebugger :
$ make
• Installer pldebugger :
# make install
567
https://dalibo.com/formations
SQL pour PostgreSQL
• Configurer shared_preload_libraries
– shared_preload_libraries = 'plugin_debugger'
• Redémarrer PostgreSQL
• Installer l’extension pldbgapi :
CREATE EXTENSION pldbgapi;
12.10.4 AUTO_EXPLAIN
auto_explain est une « contrib » officielle de PostgreSQL (et non une exten-
sion). Il permet de tracer le plan d’une requête. En général, on ne trace ainsi
que les requêtes dont la durée d’exécution dépasse la durée configurée avec le
paramètre’auto_explain.log_min_duration. Par défaut, ce paramètre est à -1 pour
ne tracer aucun plan.
Comme dans un EXPLAIN classique, on peut activer toutes les options (par exemple
ANALYZE ou TIMING avec, respectivement SET auto_explain.log_analyze TO true;
568
12. PL/PGSQL AVANCÉ
D’autres options existent, qui reprennent les paramètres habituels d’EXPLAIN, notam-
ment auto_explain.log_buffers et auto_explain.log_settings (voir la documenta-
tion142 ).
L’exemple suivant utilise deux fonctions imbriquées mais cela marche pour une simple
requête :
RETURN ;
END ;
$$
;
Chargement dans la session d’auto_explain (si pas déjà présent dans shared_preload_libraries) :
LOAD 'auto_explain' ;
Activation pour toutes les requêtes, avec les options ANALYZE et BUFFERS, puis affichage
dans la console (si la sortie dans les traces ne suffit pas) :
142
https://docs.postgresql.fr/current/auto-explain.html
569
https://dalibo.com/formations
SQL pour PostgreSQL
SET auto_explain.log_min_duration TO 0 ;
SET auto_explain.log_analyze TO on ;
SET auto_explain.log_buffers TO on ;
SET client_min_messages TO log ;
Test de la première fonction : le plan s’affiche, mais les compteurs (ici juste shared hit), ne
concernent que la fonction dans son ensemble.
nb_cols | nb_indexes
---------+------------
0 | 3
570
12. PL/PGSQL AVANCÉ
nb_cols | nb_indexes
---------+------------
0 | 3
Cet exemple permet de mettre le doigt sur un petit problème de performance dans la
fonction : le _ est interprété comme critère de recherche. En modifiant le paramètre on
peut constater le changement de plan au niveau des index :
571
https://dalibo.com/formations
SQL pour PostgreSQL
572
12. PL/PGSQL AVANCÉ
nb_cols | nb_indexes
---------+------------
0 | 3
Pour les procédures, il est possible de mettre en place cette trace avec ALTER PROCEDURE
… SET auto_explain.log_min_duration = 0. Cela ne fonctionne pas pour les fonc-
tions.
pgBadger est capable de lire les plans tracés par auto_explain, de les intégrer à son
rapport et d’inclure un lien vers depesz.com143 pour une version plus lisible.
• Via pgAdmin
143
https://explain.depesz.com/
573
https://dalibo.com/formations
SQL pour PostgreSQL
La fenêtre du débugger :
12.10.6 LOG_FUNCTIONS
log_functions est un outil créé par Guillaume Lelarge au sein de Dalibo. Il est proposé
sous license libre (BSD).
574
12. PL/PGSQL AVANCÉ
Voici les étapes à réaliser pour compiler log_functions en prenant pour hypothèse que les
sources de PostgreSQL sont disponibles dans le répertoire /home/guillaume/postgresql-9.1.4
et qu’ils ont été préconfigurés avec la commande ./configure :
$ cd /home/guillaume/postgresql-9.1.4/contrib
$ git://github.com/gleu/log_functions.git
Cloning into 'log_functions'...
remote: Counting objects: 24, done.
remote: Compressing objects: 100% (15/15), done.
remote: Total 24 (delta 8), reused 24 (delta 8)
Receiving objects: 100% (24/24), 11.71 KiB, done.
Resolving deltas: 100% (8/8), done.
$ cd log_functions
• Compiler log_functions :
$ make
• Installer log_functions :
$ make install
Si la version de PostgreSQL est supérieure ou égale à la 9.2, alors l’installation est plus
simple et les sources de PostgreSQL ne sont plus nécessaires.
Téléchargement de log_functions :
wget http://api.pgxn.org/dist/log_functions/1.0.0/log_functions-1.0.0.zip
unzip log_functions-1.0.0.zip
cd log_functions-1.0.0/
make USE_PGXS=1 && make USE_PGXS=1 install
575
https://dalibo.com/formations
SQL pour PostgreSQL
• Permanente
– shared_preload_libraries = 'log_functions'
– Redémarrage de PostgreSQL
• Au cas par cas
– LOAD 'log_functions'
• 5 paramètres en tout
• À configurer
– dans Postgresql.conf
– ou avec SET
Les informations de profilage récupérées par log_functions sont envoyées dans les traces
de PostgreSQL. Comme cela va générer plus d’écriture, et donc plus de lenteurs, il est
possible de configurer chaque trace.
La configuration se fait soit dans le fichier postgresql.conf soit avec l’instruction SET.
576
12. PL/PGSQL AVANCÉ
5
(1 row)
12.11 CONCLUSION
• Documentation officielle
– « Chapitre 40. PL/pgSQL - Langage de procédures SQL »
12.11.2 QUESTIONS
144
https://docs.postgresql.fr/current/plpgsql.html
145
https://docs.postgresql.fr/current/errcodes-appendix.html
578
12. PL/PGSQL AVANCÉ
TP2.1
Ré-écrire la fonction de division pour tracer le problème de division par zéro (vous pouvez
aussi utiliser les exceptions).
TP2.2
Tracer dans une table toutes les modifications du champ nombre dans stock. On veut
conserver l’ancienne et la nouvelle valeur. On veut aussi savoir qui a fait la modification
et quand.
Interdire la suppression des lignes dans stock. Afficher un message dans les logs dans ce
cas.
Afficher aussi un message NOTICE quand nombre devient inférieur à 5, et WARNING quand
il vaut 0.
TP2.3
Interdire à tout le monde, sauf un compte admin, l’accès à la table des logs précédemment
créée .
TP2.4
Afficher dans les journaux applicatifs toutes les paires (vin_id, contenant_id) pour
chaque nombre supérieur à l’argument de la fonction.
TP2.5
579
https://dalibo.com/formations
SQL pour PostgreSQL
TP2.1 Solution :
Requêtage :
TP2.2 Solution :
1.
La table de log :
580
12. PL/PGSQL AVANCÉ
anciennevaleur integer,
nouvellevaleur integer);
La fonction trigger :
v_contenantid := OLD.contenant_id;
v_annee := NEW.annee;
v_anciennevaleur := OLD.nombre;
v_nouvellevaleur := NULL;
END IF;
IF v_atracer
THEN
INSERT INTO log_stock
(utilisateur, dateheure, operation, vin_id, contenant_id,
annee, anciennevaleur, nouvellevaleur)
VALUES
(current_user, now(), v_operation, v_vinid, v_contenantid,
v_annee, v_anciennevaleur, v_nouvellevaleur);
END IF;
RETURN NEW;
END $BODY$
LANGUAGE 'plpgsql' VOLATILE;
Le trigger :
2.
La fonction trigger :
582
12. PL/PGSQL AVANCÉ
BEGIN
IF v_atracer
THEN
INSERT INTO log_stock
(utilisateur, dateheure, operation, vin_id, contenant_id,
anciennevaleur, nouvellevaleur)
VALUES
(current_user, now(), v_operation, v_vinid, v_contenantid,
v_anciennevaleur, v_nouvellevaleur);
END IF;
RETURN NEW;
END $BODY$
LANGUAGE 'plpgsql' VOLATILE;
Le trigger :
IF TG_OP = 'DELETE'
THEN
RAISE WARNING 'Tentative de suppression du stock (%, %, %)',
OLD.vin_id, OLD.contenant_id, OLD.annee;
RETURN NULL;
ELSE
RETURN NEW;
END IF;
END $BODY$
LANGUAGE 'plpgsql' VOLATILE;
Le deuxième trigger :
3.
La fonction trigger :
584
12. PL/PGSQL AVANCÉ
v_vinid := NEW.vin_id;
v_contenantid := NEW.contenant_id;
v_annee := NEW.annee;
v_anciennevaleur := NULL;
v_nouvellevaleur := NEW.nombre;
ELSEIF TG_OP = 'UPDATE'
THEN
-- cas de la mise à jour
v_atracer := OLD.nombre != NEW.nombre;
v_vinid := NEW.vin_id;
v_contenantid := NEW.contenant_id;
v_annee := NEW.annee;
v_anciennevaleur := OLD.nombre;
v_nouvellevaleur := NEW.nombre;
END IF;
IF v_nouvellevaleur < 1
THEN
RAISE WARNING 'Il ne reste plus que % bouteilles dans le stock (%, %, %)',
v_nouvellevaleur, OLD.vin_id, OLD.contenant_id, OLD.annee;
ELSEIF v_nouvellevaleur < 5
THEN
RAISE LOG 'Il ne reste plus que % bouteilles dans le stock (%, %, %)',
v_nouvellevaleur, OLD.vin_id, OLD.contenant_id, OLD.annee;
END IF;
IF v_atracer
THEN
INSERT INTO log_stock
(utilisateur, dateheure, operation, vin_id, contenant_id,
annee, anciennevaleur, nouvellevaleur)
VALUES
(current_user, now(), v_operation, v_vinid, v_contenantid,
v_annee, v_anciennevaleur, v_nouvellevaleur);
END IF;
RETURN NEW;
END $BODY$
LANGUAGE 'plpgsql' VOLATILE;
Requêtage :
TP2.3 Solution :
585
https://dalibo.com/formations
SQL pour PostgreSQL
TP2.4 Solution :
v_index := 0;
OPEN v_curseur FOR SELECT * FROM stock WHERE nombre > maxnombre;
LOOP
FETCH v_curseur INTO v_resultat;
IF NOT FOUND THEN
EXIT;
END IF;
v_index := v_index + 1;
RAISE NOTICE 'nombre de (%, %) : % (supérieur à %)',
v_resultat.vin_id, v_resultat.contenant_id, v_resultat.nombre, maxnombre;
586
12. PL/PGSQL AVANCÉ
END LOOP;
RETURN v_index;
END $BODY$
LANGUAGE 'plpgsql' VOLATILE;
Requêtage:
SELECT verif_nombre(16);
INFO: nombre de (6535, 3) : 17 (supérieur à 16)
INFO: nombre de (6538, 3) : 17 (supérieur à 16)
INFO: nombre de (6541, 3) : 17 (supérieur à 16)
[...]
INFO: nombre de (6692, 3) : 18 (supérieur à 16)
INFO: nombre de (6699, 3) : 17 (supérieur à 16)
verif_nombre
--------------
107935
(1 ligne)
TP2.5
Exécution:
-- ancienne fonction
cave=# SELECT * FROM nb_bouteilles('blanc', 1990, 1995)
AS (annee integer, nb integer);
annee | nb
587
https://dalibo.com/formations
SQL pour PostgreSQL
-------+------
1990 | 5608
1991 | 5642
1992 | 5621
1993 | 5581
1994 | 5614
1995 | 5599
(6 lignes)
588
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
• Pour ajouter :
– types de données
– méthodes d’indexation
– fonctions et opérateurs
– tables, vues...
• Tous sujets, tous publics
• Intégrées (« contribs ») ou projets externes
Les extensions sont un gros point fort de PostgreSQL. Elles permettent de rajouter des
fonctionnalités, aussi bien pour les utilisateurs que pour les administrateurs, sur tous les
sujets : fonctions utilitaires, types supplémentaires, outils d’administration avancés, voire
applications quasi-complètes. Certaines sont intégrées par le projet, mais n’importe qui
peut en proposer et en intégrer une.
589
https://dalibo.com/formations
SQL pour PostgreSQL
Techniquement :
• « packages » pour PostgreSQL, en C, SQL, PL/pgSQL...
• Langages : SQL, PL/pgSQL, C (!)…
• Ensemble d’objets livrés ensemble
• contrib <> extension
Une extension est un objet du catalogue, englobant d’autres objets. On peut la comparer
à un paquetage Linux.
Une extension peut provenir d’un projet séparé de PostgreSQL (PostGIS, par exemple, ou
le Foreign Data Wrapper Oracle).
Les extensions les plus simples peuvent se limiter à quelques objets en SQL, certaines
sont en PL/pgSQL, beaucoup sont en C. Dans ce dernier cas, il faut être conscient que la
stabilité du serveur est encore plus en jeu !
• Packagées ou à compiler
• Par base :
– CREATE EXTENSION … CASCADE
– ALTER EXTENSION UPDATE
– DROP EXTENSION
– \dx
• Listées dans pg_available_extensions
L’extension doit être ensuite déclarée dans chaque base où elle est jugée nécessaire avec
CREATE EXTENSION nom_extension. Les scripts fournis avec l’extension vont alors créer
les objets nécessaires (vues, procédures, tables…). En cas de désinstallation avec DROP
590
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
EXTENSION, ils seront supprimés. Une extension peut avoir besoin d’autres extensions : à
partir de la version 9.6 existe l’option CASCADE pour les installer automatiquement.
Le mécanisme couvre aussi la mise à jour des extensions : ALTER EXTENSION UPDATE
permet de mettre à jour une extension dans PostgreSQL suite à la mise de ses binaires.
Cela peut être nécessaire si elle contient des tables à mettre à jour, par exemple. Les
versions des extensions disponibles sur le système et celles installées dans la base en
cours sont visibles dans la vue pg_available_extensions.
Sous psql, les extensions présentes dans la base sont visibles avec \dx :
# \dx
Liste des extensions installées
Nom | Version | Schéma | Description
--------------------+---------+------------+--------------------------------------------------
amcheck | 1.2 | public | functions for verifying relation integrity
file_fdw | 1.0 | public | foreign-data wrapper for flat file access
hstore | 1.6 | public | data type for storing sets of (key, value) pairs
pageinspect | 1.7 | public | inspect the contents of database pages at...
pg_buffercache | 1.3 | public | examine the shared buffer cache
pg_prewarm | 1.2 | public | prewarm relation data
pg_rational | 0.0.1 | public | bigint fractions
pg_stat_statements | 1.7 | public | track execution statistics of all SQL statements...
plpgsql | 1.0 | pg_catalog | PL/pgSQL procedural language
plpython3u | 1.0 | pg_catalog | PL/Python3U untrusted procedural language
postgres_fdw | 1.0 | public | foreign-data wrapper for remote PostgreSQL servers
unaccent | 1.1 | public | text search dictionary that removes accents
13.3 CONTRIBS
Une « contrib » est habituellement une extension, sauf quelques exceptions qui ne créent
pas d’objets de catalogue (auto_explain par exemple). Elles sont fournies directement
dans l’arborescence de PostgreSQL, et suivent donc strictement son rythme de révision.
Leur compatibilité est ainsi garantie. Les distributions les proposent parfois dans des pa-
quets séparés (postgresql-contrib-9.6, postgresql13-contrib…), dont l’installation
est fortement conseillée.
Il s’agit soit de fonctionnalités qui n’intéressent pas tout le monde (hstore, pg_trgm,
pgstattuple…), ou en cours de stabilisation (comme l’autovacuum avant PostgreSQL 8.1),
ou à l’inverse de dépréciation (xml2).
La documentation des contribs est dans le chapitre F des annexes146 , et est donc
fréquemment oubliée par les nouveaux utilisateurs.
13.4.1 PGCRYPTO
• directement ;
• avec une clé PGP (gérée par exemple avec GnuPG), ce qui est préférable ;
• selon divers algorithmes courants ;
• différemment selon chaque ligne/champ.
592
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
L’appel à gen_salt permet de rajouter une partie aléatoire à la chaîne à chiffrer, ce qui
évite que la même chaîne chiffrée deux fois retourne le même résultat. Cela limite donc
les attaques par dictionnaire.
Un gros inconvénient des données chiffrées dans la table est l’impossibilité complète de
les indexer, même avec un index fonctionnel : les données déchiffrées seraient en clair
dans cet index ! Une recherche implique donc de parcourir et déchiffrer chaque ligne...
13.4.2 POSTGIS
Il fournit les fonctions d’indexation qui permettent d’accéder rapidement aux objets
géométriques, au moyen d’index GiST. La requête ci-dessous n’a évidemment pas besoin
de parcourir tous les restaurants à la recherche de ceux correspondant aux critères de
recherche.
593
https://dalibo.com/formations
SQL pour PostgreSQL
PostGIS est également respectueux des normes : Open Geospatial Consortium’s “Simple
Features for SQL Specification”
C’est donc une extension très avancée de PostgreSQL. Elle est avant tout utilisée par des
spécialistes du domaine Géospatial, mais peut être utilisée aussi dans des projets moins
complexes.
13.4.4 CITEXT
Ce type est très utile, par exemple dans le cas d’un portage d’une application de SQL
Server, ou MySQL, vers PostgreSQL : ces deux moteurs sont habituellement paramétrés
pour être insensibles à la casse.
Il suffit pour en profiter de créer l’extension citext, puis manipuler le type citext.
• Les performances sont moins bonnes sur les colonnes citext, surtout en l’absence
d’index, à cause des conversions de casse
• La maintenance de l’index, s’il y en a un, est plus coûteuse
148
https://postgis.net/features
594
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
• On ne peut pas donner de limite de taille comme avec un type varchar. Cette limi-
tation peut être contournée avec une contrainte CHECK, ou un DOMAIN.
• Contrib
• Type hstore
• Stockage clé-valeur
• Plus simple que JSON
INSERT INTO demo_hstore (meta) VALUES ('river=>t');
SELECT * FROM demo_hstore WHERE meta@>'river=>t';
id | meta
----+--------------
15 | "river"=>"t"
595
https://dalibo.com/formations
SQL pour PostgreSQL
• Compatibilité :
– orafce
• Extensions propriétaires évitant un fork :
– Citus (sharding)
– TimescaleDB (time series)
– être sûr que PostgreSQL a atteint ses limites !
Pour éviter de maintenir un fork complet de PostgreSQL, certains éditeurs offrent leur
produit sous forme d’extension, souvent avec une version communautaire intégrant les
principales fonctionnalités. Par exemple :
Face à des extensions extérieures, on gardera à l’esprit qu’il s’agit d’un produit supplémen-
taire à maîtriser et administrer, et l’on cherchera d’abord à tirer le maximum du PostgreSQL
communautaire.
SQL et PL/pgSQL ne sont pas les seuls langages utilisables au niveau d’un serveur Post-
greSQL. PL/pgSQL est installé par défaut en tant qu’extension. Il est possible de rajouter
les langages python, perl, R, etc. et de coder des fonctions dans ces langages. Ces lan-
gages ne sont pas fournis par l’installation standard de PostgreSQL. Une installation via
les paquets du système d’exploitation est sans doute le plus simple.
596
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
Les accès distants à d’autres bases de données sont généralement disponibles par des
extensions. L’extension dblink permet d’accéder à une autre instance PostgreSQL mais
elle est ancienne, et l’on préférera le foreign data wrapper postgresql_fdw, disponible dans
les contribs. D’autres FDW sont des projets extérieurs : ora_fdw, mysql_fdw, etc.
Une solution de sharding n’est pas encore intégrée à PostgreSQL mais des outils existent :
PL/Proxy fournit des fonctions pour répartir des accès mais implique de refondre le code.
Citus est une extension plus récente et plus transparente.
Tous ces modules permettent de manipuler une facette de PostgreSQL à laquelle on n’a
normalement pas accès. Leur utilisation est parfois très spécialisée et pointue.
En plus des contribs listés ci-dessus, de nombreux projets externes existent : toastinfo,
pg_stat_kcache, pg_qualstats, PoWa, pg_wait_sampling, hypopg...
597
https://dalibo.com/formations
SQL pour PostgreSQL
13.8 PGXN
Le site PGXN fournit une vitrine à de nombreux projets gravitant autour de PostgreSQL.
PGXN a de nombreux avantages, dont celui de demander aux projets participants de re-
specter un certain cahier des charges permettant l’installation automatisée des modules
hébergés. Ceci peut par exemple être réalisé avec le client pgxn fourni :
redis_fdw 1.0.0
Redis *FDW* for PostgreSQL 9.1+ ============================== This
PostgreSQL extension implements a Foreign Data Wrapper (*FDW*) for the
Redis key/value database: http://redis.io/ This code is...
jdbc_fdw 1.0.0
Also,since the JVM being used in jdbc *fdw* is created only once for the
entire psql session,therefore,the first query issued that uses jdbc
*fdw* shall set the value of maximum heap size of the JVM(if...
mysql_fdw 2.1.2
... This PostgreSQL extension implements a Foreign Data Wrapper (*FDW*)
for [MySQL][1]. Please note that this version of mysql_fdw only works
a
https://pgxn.org/
598
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
www_fdw 0.1.8
... library contains a PostgreSQL extension, a Foreign Data Wrapper
(*FDW*) handler of PostgreSQL which provides easy way for interacting
with different web-services.
mongo_fdw 2.0.0
MongoDB *FDW* for PostgreSQL 9.2 ============================== This
PostgreSQL extension implements a Foreign Data Wrapper (*FDW*) for
MongoDB.
firebird_fdw 0.1.0
... -
http://www.postgresql.org/docs/current/interactive/postgres-*fdw*.html *
Other FDWs - https://wiki.postgresql.org/wiki/*Fdw* -
http://pgxn.org/tag/*fdw*/
json_fdw 1.0.0
... This PostgreSQL extension implements a Foreign Data Wrapper (*FDW*)
for JSON files. The extension doesn't require any data to be loaded into
the database, and supports analytic queries against array...
postgres_fdw 1.0.0
This port provides a read-only Postgres *FDW* to PostgreSQL servers in
the 9.2 series. It is a port of the official postgres_fdw contrib module
available in PostgreSQL version 9.3 and later.
osm_fdw 3.0.0
... "Openstreetmap pbf foreign data wrapper") (*FDW*) for reading
[Openstreetmap PBF](http://wiki.openstreetmap.org/wiki/PBF_Format
"Openstreetmap PBF") file format (*.osm.pbf) ## Requirements *...
odbc_fdw 0.1.0
ODBC *FDW* (beta) for PostgreSQL 9.1+
=================================== This PostgreSQL extension implements
a Foreign Data Wrapper (*FDW*) for remote databases using Open Database
Connectivity(ODBC)...
599
https://dalibo.com/formations
SQL pour PostgreSQL
couchdb_fdw 0.1.0
CouchDB *FDW* (beta) for PostgreSQL 9.1+
====================================== This PostgreSQL extension
implements a Foreign Data Wrapper (*FDW*) for the CouchDB document-
oriented database...
treasuredata_fdw 1.2.14
## INSERT INTO statement This *FDW* supports `INSERT INTO` statement.
With `atomic_import` is `false`, the *FDW* imports INSERTed rows as
follows.
twitter_fdw 1.1.1
Installation ------------ $ make && make install $ psql -c "CREATE
EXTENSION twitter_fdw" db The CREATE EXTENSION statement creates not
only *FDW* handlers but also Data Wrapper, Foreign Server, User...
ldap_fdw 0.1.1
... is an initial working on a PostgreSQL's Foreign Data Wrapper (*FDW*)
to query LDAP servers. By all means use it, but do so entirely at your
own risk! You have been warned! Do you like to use it in...
git_fdw 1.0.2
# PostgreSQL Git Foreign Data Wrapper [![Build Status](https://travis-
ci.org/franckverrot/git_fdw.svg?branch=master)](https://travis-
ci.org/franckverrot/git_fdw) git\_fdw is a Git Foreign Data...
oracle_fdw 2.0.0
Foreign Data Wrapper for Oracle ===============================
oracle_fdw is a PostgreSQL extension that provides a Foreign Data
Wrapper for easy and efficient access to Oracle databases, including...
foreign_table_exposer 1.0.0
# foreign_table_exposer This PostgreSQL extension exposes foreign tables
like a normal table with rewriting Query tree. Some BI tools can't
detect foreign tables since they don't consider them when...
cstore_fdw 1.6.0
cstore_fdw ========== [![Build Status](https://travis-
ci.org/citusdata/cstore_fdw.svg?branch=master)][status] [![Coverage](htt
600
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
p://img.shields.io/coveralls/citusdata/cstore_fdw/master.svg)][coverage]
...
multicorn 1.3.5
[![PGXN version](https://badge.fury.io/pg/multicorn.svg)](https://badge.
fury.io/pg/multicorn) [![Build
Status](https://jenkins.dalibo.info/buildStatus/public/Multicorn)]()
Multicorn =========...
tds_fdw 1.0.7
# TDS Foreign data wrapper * **Author:** Geoff Montee * **Name:**
tds_fdw * **File:** tds_fdw/README.md ## About This is a [PostgreSQL
foreign data...
pmpp 1.2.3
... Having foreign server definitions and user mappings makes for
cleaner function invocations.
file_textarray_fdw 1.0.1
### File Text Array Foreign Data Wrapper for PostgreSQL This *FDW* is
similar to the provided file_fdw, except that instead of the foreign
table having named fields to match the fields in the data...
floatfile 1.3.0
Also I'd need to compare the performance of this vs an *FDW*. If I do
switch to an *FDW*, I'll probably use [Andrew Dunstan's
`file_text_array_fdw`](https://github.com/adunstan/file_text_array_fdw)
as a...
pg_pathman 1.4.13
... event handling; * Non-blocking concurrent table partitioning; *
*FDW* support (foreign partitions); * Various GUC toggles and
configurable settings.
Pour peu que le Instant Client d’Oracle soit installé, on peut par exemple lancer :
13.9 CONCLUSION
Cette possibilité d’étendre les fonctionnalités de PostgreSQL est vraiment un atout ma-
jeur du projet PostgreSQL. Cela permet de tester des fonctionnalités sans avoir à toucher
au moteur de PostgreSQL et risquer des états instables. Une fois l’extension mature, elle
peut être intégrée directement dans le code de PostgreSQL si elle est considérée utile au
moteur.
602
13. EXTENSIONS POSTGRESQL POUR L’UTILISATEUR
13.9.1 QUESTIONS
603
https://dalibo.com/formations
SQL pour PostgreSQL
14 PARTITIONNEMENT
Maintenir de très grosses tables peut devenir fastidieux voire impossible : VACUUM FULL
trop long, voire impossibles faute d’espace disque suffisant, autovacuum pas assez réac-
tif, réindexation interminable… Il est aussi aberrant de conserver beaucoup de données
d’archives dans des tables lourdement sollicitées pour les données récentes.
Maintenance
La maintenance s’effectue sur les partitions plutôt que sur l’ensemble complet des don-
nées. En particulier, un VACUUM FULL ou une réindexation peuvent s’effectuer partition
par partition, ce qui permet de limiter interruptions en production, et lisser la charge.
pg_dump ne sait pas paralléliser la sauvegarde d’une table volumineuse et non partition-
née, mais parallélise celle de différentes partitions d’une même table.
C’est aussi un moyen de déplacer une partie des données dans un autre tablespace pour
des raisons de place, ou pour déporter les parties les moins utilisées de la table vers des
disques plus lents et moins chers.
604
14. PARTITIONNEMENT
(partition pruning), par exemple celle de l’année en cours, ou des mois sélectionnés.
La suppression de données parmi un gros volume peut poser des problèmes d’accès con-
currents ou de performance, par exemple dans le cas de purges.
L’application peut gérer le partitionnement elle-même, par exemple en créant des tables
numérotées par mois, année… Le moteur de PostgreSQL ne voit que des tables classiques
et ne peut assurer l’intégrité entre ces données.
Jusqu’en 9.6, n’existaient que le partitionnement dit par héritage, nettement moins flexi-
ble, et celui géré intégralement par l’applicatif.
• Table principale :
– table mère définie normalement
• Tables filles :
– CREATE TABLE primates(debout boolean) INHERITS (mammiferes) ;
– héritent des propriétés de la table mère
– mais pas des contraintes, index et droits
• Insertion applicative ou par trigger (lent !)
PostgreSQL permet de créer des tables qui héritent les unes des autres.
L’héritage d’une table mère transmet les propriétés suivantes à la table fille :
Les tables filles peuvent ajouter leurs propres colonnes. Par exemple :
CREATE TABLE animaux (nom text PRIMARY KEY);
606
14. PARTITIONNEMENT
La table poissons possède les champs des tables dont elles héritent :
\d+ poissons
Table "public.poissons"
Column | Type | Collation | Nullable | Default | Storage | Stats target | Description
------------+---------+-----------+----------+---------+----------+--------------+-------------
nom | text | | not null | | extended | |
nb_membres | integer | | | 4 | plain | |
eau_douce | boolean | | | | plain | |
Inherits: tetrapodes
Access method: heap
On peut créer toute une hiérarchie avec des branches parallèles, chacune avec ses
colonnes propres :
\d+ primates
Table "public.primates"
607
https://dalibo.com/formations
SQL pour PostgreSQL
Par défaut une table affiche aussi le contenu de ses tables filles et les colonnes com-
munes :
nom
--------------
Anguille
Chameau
Chimpanzé
Cobra
Crocodile
Éponge
Girafe
Homme
Poulpe
Requin
Ver de terre
(11 lignes)
nom | nb_membres
-----------+------------
608
14. PARTITIONNEMENT
Anguille | 0
Chameau | 4
Chimpanzé | 4
Cobra | 0
Crocodile | 4
Girafe | 4
Homme | 4
Requin | 4
(8 lignes)
QUERY PLAN
---------------------------------------------------------------------------------
Sort (cost=420.67..433.12 rows=4982 width=36)
Sort Key: tetrapodes.nom
-> Append (cost=0.00..114.71 rows=4982 width=36)
-> Seq Scan on tetrapodes (cost=0.00..0.00 rows=1 width=36)
-> Seq Scan on poissons (cost=0.00..22.50 rows=1250 width=36)
-> Seq Scan on reptiles (cost=0.00..22.50 rows=1250 width=36)
-> Seq Scan on mammiferes (cost=0.00..0.00 rows=1 width=36)
-> Seq Scan on cetartiodactyles (cost=0.00..22.30 rows=1230 width=36)
-> Seq Scan on primates (cost=0.00..22.50 rows=1250 width=36)
Il faut être vigilant à bien recréer les contraintes et index manquants ainsi qu’à attribuer
les droits sur les objets de manière adéquate. L’une des erreurs les plus fréquentes est
d’oublier de créer les contraintes, index et droits qui n’ont pas été transmis.
nance des index, des contraintes et la nécessité d’un trigger pour aiguiller les insertions
vers la bonne table fille, ne facilitaient pas la maintenance. Les performances en écritures
étaient bien en-deçà des tables classiques ou du nouveau partitionnement déclaratif (voir
comparaison plus bas). S’il fonctionne toujours sur les versions récentes de PostgreSQL,
il est déconseillé pour les nouveaux développements.
• À partir de la version 10
• Mise en place et administration simplifiées car intégrées au moteur
• Gestion automatique des lectures et écritures
• Partitions
– attacher/détacher une partition
– contrainte implicite de partitionnement
– expression possible pour la clé de partitionnement
– sous-partitions possibles
– partition par défaut
Le but est de simplifier la mise en place et l’administration des tables partitionnées. Des
clauses spécialisées ont été ajoutées aux ordres SQL déjà existants, comme CREATE
TABLE et ALTER TABLE, pour attacher (ATTACH PARTITION) et détacher des partitions
(DETACH PARTITION).
610
14. PARTITIONNEMENT
Exemple complet :
Insertion de données :
Lors de l’insertion, les données sont correctement redirigées vers leur partition.
Si aucune partition correspondant à la clé insérée n’est trouvée et qu’aucune partition par
611
https://dalibo.com/formations
SQL pour PostgreSQL
Exemple complet :
postgres=# CREATE TABLE t2_1 PARTITION OF t2 FOR VALUES FROM (1) to (100);
CREATE TABLE
Insertion de données :
postgres=# INSERT INTO t2 VALUES (0);
ERROR: no PARTITION OF relation "t2" found for row
DETAIL: Partition key of the failing row contains (c1) = (0).
Lors de l’insertion, les données sont correctement redirigées vers leur partition.
Si aucune partition correspondant à la clé insérée n’est trouvée et qu’aucune partition par
défaut n’est déclarée, une erreur se produit.
612
14. PARTITIONNEMENT
• À partir de la version 11
• Hachage de valeurs par partition
• Créer une table partitionnée :
CREATE TABLE t3(c1 integer, c2 text) PARTITION BY HASH (c1);
• Ajouter les partitions :
CREATE TABLE t3_a PARTITION OF t3 FOR VALUES WITH (modulus 3,
remainder 0);
CREATE TABLE t3_b PARTITION OF t3 FOR VALUES WITH (modulus 3,
remainder 1);
CREATE TABLE t3_c PARTITION OF t3 FOR VALUES WITH (modulus 3,
remainder 2);
Exemple complet :
postgres=# CREATE TABLE t3_1 PARTITION OF t3 FOR VALUES WITH (modulus 3, remainder 0);
CREATE TABLE
postgres=# CREATE TABLE t3_2 PARTITION OF t3 FOR VALUES WITH (modulus 3, remainder 1);
CREATE TABLE
postgres=# CREATE TABLE t3_3 PARTITION OF t3 FOR VALUES WITH (modulus 3, remainder 2);
CREATE TABLE
Insertion de données :
postgres=# INSERT INTO t3 SELECT generate_series(1, 1000000);
INSERT 0 1000000
postgres=# SELECT relname, count(*)
FROM t3 JOIN pg_class ON t3.tableoid=pg_class.oid
GROUP BY 1;
relname | count
---------+--------
t3_1 | 333263
t3_2 | 333497
t3_3 | 333240
(3 rows)
613
https://dalibo.com/formations
SQL pour PostgreSQL
Lors de l’insertion, les données sont correctement redirigées vers leur partition.
Quand on utilise le partitionnement par intervalle, il est possible de créer les partitions en
utilisant plusieurs colonnes.
614
14. PARTITIONNEMENT
Enfin, on peut consulter la table pg_class afin de vérifier la présence des différentes
partitions :
postgres=# ANALYZE t2;
ANALYZE
t2_3 | t | r | 0
(5 lignes)
t1 (non partitionnée) :
INSERT INTO t1 select i, 'toto'
FROM generate_series(0, 9999999) i;
Time: 10097.098 ms (00:10.097)
t2 (nouveau partitionnement) :
INSERT INTO t2 select i, 'toto'
FROM generate_series(0, 9999999) i;
Time: 11448.867 ms (00:11.449)
t3 (ancien partitionnement par héritage) :
INSERT INTO t3 select i, 'toto'
FROM generate_series(0, 9999999) i;
Time: 125351.918 ms (02:05.352)
La table t1 est une table non partitionnée. Elle a été créée comme suit :
CREATE TABLE t1 (c1 integer, c2 text);
La table t2 est une table partitionnée utilisant les nouvelles fonctionnalités de la version
10 de PostgreSQL :
CREATE TABLE t2 (c1 integer, c2 text) PARTITION BY RANGE (c1);
CREATE TABLE t2_1 PARTITION OF t2 FOR VALUES FROM ( 0) TO ( 1000000);
CREATE TABLE t2_2 PARTITION OF t2 FOR VALUES FROM (1000000) TO ( 2000000);
CREATE TABLE t2_3 PARTITION OF t2 FOR VALUES FROM (2000000) TO ( 3000000);
CREATE TABLE t2_4 PARTITION OF t2 FOR VALUES FROM (3000000) TO ( 4000000);
CREATE TABLE t2_5 PARTITION OF t2 FOR VALUES FROM (4000000) TO ( 5000000);
CREATE TABLE t2_6 PARTITION OF t2 FOR VALUES FROM (5000000) TO ( 6000000);
CREATE TABLE t2_7 PARTITION OF t2 FOR VALUES FROM (6000000) TO ( 7000000);
CREATE TABLE t2_8 PARTITION OF t2 FOR VALUES FROM (7000000) TO ( 8000000);
CREATE TABLE t2_9 PARTITION OF t2 FOR VALUES FROM (8000000) TO ( 9000000);
CREATE TABLE t2_0 PARTITION OF t2 FOR VALUES FROM (9000000) TO (10000000);
616
14. PARTITIONNEMENT
CREATE TABLE t3_5 (CHECK (c1 BETWEEN 4000000 AND 5000000)) INHERITS (t3);
CREATE TABLE t3_6 (CHECK (c1 BETWEEN 5000000 AND 6000000)) INHERITS (t3);
CREATE TABLE t3_7 (CHECK (c1 BETWEEN 6000000 AND 7000000)) INHERITS (t3);
CREATE TABLE t3_8 (CHECK (c1 BETWEEN 7000000 AND 8000000)) INHERITS (t3);
CREATE TABLE t3_9 (CHECK (c1 BETWEEN 8000000 AND 9000000)) INHERITS (t3);
CREATE TABLE t3_0 (CHECK (c1 BETWEEN 9000000 AND 10000000)) INHERITS (t3);
CREATE TRIGGER tr_insert_t3 BEFORE INSERT ON t3 FOR EACH ROW EXECUTE PROCEDURE insert_into();
617
https://dalibo.com/formations
SQL pour PostgreSQL
pg_partition_root
-------------------
logs
(1 row)
pg_partition_root
-------------------
logs
(1 row)
pg_partition_ancestors
618
14. PARTITIONNEMENT
------------------------
logs_2018
logs
(2 rows)
pg_partition_ancestors
------------------------
logs_201901
logs_2019
logs
(3 rows)
Sous psql, \d affichera toutes les tables, partitions comprises. À partir de la version 12
du client, \dP affiche uniquement les tables et index partitionnés :
=# \dP
Liste des relations partitionnées
Schéma | Nom | Propriétaire | Type | Table
--------+----------+--------------+--------------------+----------
public | bigtable | postgres | table partitionnée |
public | bigidx | postgres | index partitionné | bigtable
619
https://dalibo.com/formations
SQL pour PostgreSQL
• Souple
• Performant
• Intégration au moteur
Par rapport à l’ancien système, le partitionnement déclaratif n’a que des avantages : ra-
pidité d’insertion, souplesse dans le choix du partitionnement, intégration au moteur (ce
qui garantit l’intégrité des données)…
Les partitions ont forcément le même schéma de données que leur partition mère.
Toute donnée doit pouvoir être placée dans une partition. Dans le cas contraire, la don-
née ne sera pas placée dans la table mère (contrairement à l’ancien partitionnement par
héritage). À la place, une erreur sera générée :
Néanmoins, à partir de la version 11, il est possible de définir une partition par défaut. Si
on reprend l’exemple de t1 :
TRUNCATE t1;
620
14. PARTITIONNEMENT
relname | count
---------+-------
t1_b | 2
t1_a | 4
t1_def | 5
(3 rows)
En version 10, il n’était pas possible d’ajouter un index à la table mère, sous peine de voir
l’erreur suivante apparaître :
Ceci implique qu’il n’est pas possible en version 10 de mettre une clé primaire, et une
contrainte unique sur une table partitionnée. De ce fait, il n’est pas non plus possible d’y
faire pointer une clé étrangère.
À partir de la version 11, les index sont propagés de la table mère aux partitions : tout in-
dex créé sur la table partitionnée sera automatiquement créé sur les partitions existantes.
Toute nouvelle partition disposera des index de la table partitionnée. La suppression d’un
index se fait sur la table partitionnée et concernera toutes les partitions. Il n’est pas pos-
sible de supprimer un index d’une seule partition.
En v11, on peut donc créer une clé primaire ou unique sur une table partitionnée, mais
aussi une clé étrangère d’une table partitionnée vers une table normale. Par contre, il
reste impossible de créer une clé étrangère vers une table partitionnée. Par exemple, si
lignes_commandes et commandes_id sont partitionnées, poser une clé étrangère entre
les deux échouera :
En cas d’attachement d’une partition avec ATTACH PARTITION, la partition sera complète-
ment parcourue pour vérifier qu’elle correspond bien au critère de partitionnement. Il est
conseillé d’ajouter une contrainte CHECK adéquate pour réduire la durée du verrou lié au
rattachement.
Il est possible d’attacher comme partition une table distante (déclarée avec postgres_fdw
notamment). En v10, cette partition ne sera cependant accessible qu’en lecture si elle est
accédée via la table mère. Pour un accès en écriture, il faudra modifier la table distante
directement, avec un risque d’incohérence si sa contrainte n’est pas la même que celle
déclarée dans son rattachement au partitionnement. Cette restriction est levée en v11 :
le routage des insertions ou des mises à jour se fait bien. Cependant, même en v11,
la propagation d’index ne fonctionne pas sur les tables distantes (elles ne peuvent en
posséder) et on ne peut ajouter de table distante à une table partitionnée avec des index.
Les triggers de lignes ne se propagent pas en v10. En v11, on peut créer des trigger
AFTER UPDATE ... FOR EACH ROW mais les BEFORE UPDATE ... FOR EACH ROW ne peu-
vent toujours pas être créés sur la table mère. Il reste là encore la possibilité de les créer
partition par partition au besoin. À partir de la version 13, les triggers BEFORE UPDATE
... FOR EACH ROW sont possibles complètement, mais il ne permettent pas de modifier
la partition de destination.
Enfin, la version 10 ne permet pas de faire une mise à jour (UPDATE) d’une ligne où la clé
de partitionnement est modifiée de telle façon que la ligne doit changer de partition. Il
faut faire un DELETE et un INSERT à la place. La version 11 gère mieux ce cas en déplaçant
directement la ligne dans la bonne partition.
622
14. PARTITIONNEMENT
• Outil : pg_partman
• Extensions dédiées à un domaine :
– timescaledb
– citus
timescaledb est une extension spécialisée dans les séries temporelles. Basée sur le par-
titionnement par héritage, elle vaut surtout pour sa technique de compression, ses util-
itaires. La version communautaire sur Github150 ne comprend pas tout ce qu’offre la
version commerciale.
citus est une autre extension commerciale. Le principe est de partitionner agressivement
les tables sur plusieurs instances, et d’utiliser simultanément les processeurs, disques de
toutes ces instances (sharding). Citus gère la distribution des requêtes, mais pas la main-
tenance des instances supplémentaires. Là encore, la version libre151 est utilisable mais
ne permet pas tout ce que peut la version commerciale. L’éditeur Citusdata a été racheté
par Microsoft.
149
https://github.com/pgpartman/pg_partman
150
https://github.com/timescale/timescaledb
151
https://github.com/citusdata/citus
623
https://dalibo.com/formations
SQL pour PostgreSQL
14.7.1 PARTITIONNEMENT
Nous travaillons sur la base cave. La base cave peut être téléchargée depuis https://dali.
bo/tp_cave (dump de 2,6 Mo, pour 71 Mo sur le disque au final) et importée ainsi :
$ psql -c "CREATE ROLE caviste LOGIN PASSWORD 'caviste'"
$ psql -c "CREATE DATABASE cave OWNER caviste"
$ pg_restore -d cave cave.dump # Une erreur sur un schéma 'public' existant est normale
Pour nous simplifier la vie, nous allons limiter le nombre d’années dans stock (cela nous
évitera la création de 50 partitions) :
-- Création de lignes en 2001-2005
INSERT INTO stock SELECT vin_id, contenant_id, 2001 + annee % 5, sum(nombre)
FROM stock GROUP BY vin_id, contenant_id, 2001 + annee % 5;
-- purge des lignes prédédentes
DELETE FROM stock WHERE annee<2001;
Nous n’avons maintenant que des bouteilles des années 2001 à 2005.
Passer les statistiques pour être sûr des plans à partir de main-
tenant (nous avons modifié beaucoup d’objets).
624
14. PARTITIONNEMENT
625
https://dalibo.com/formations
SQL pour PostgreSQL
626
14. PARTITIONNEMENT
14.8.1 PARTITIONNEMENT
Pour nous simplifier la vie, nous allons limiter le nombre d’années dans stock (cela nous
évitera la création de 50 partitions).
INSERT INTO stock
SELECT vin_id, contenant_id, 2001 + annee % 5, sum(nombre)
FROM stock
GROUP BY vin_id, contenant_id, 2001 + annee % 5 ;
Nous n’avons maintenant que des bouteilles des années 2001 à 2005.
Passer les statistiques pour être sûr des plans à partir de main-
tenant (nous avons modifié beaucoup d’objets).
ANALYZE;
627
https://dalibo.com/formations
SQL pour PostgreSQL
QUERY PLAN
------------------------------------------------------------------------------
Append (cost=0.00..417.36 rows=18192 width=16) (...)
-> Seq Scan on stock_2002 (cost=0.00..326.40 rows=18192 width=16) (...)
Filter: (annee = 2002)
Planning Time: 0.912 ms
Execution Time: 21.518 ms
Les autres index ne servent à rien sur les partitions : idx_stock_annee est évidemment
inutile, mais idx_stock_vin_annee aussi, puisqu’il est inclus dans l’index unique que nous
venons de créer.
628
14. PARTITIONNEMENT
C’est une violation de contrainte unique, qui est une erreur normale : nous avons déjà un
enregistrement de stock pour ce vin pour l’année 2004.
INSERT INTO stock (vin_id, contenant_id, annee, nombre) VALUES (1, 1, 2006, 100) ;
Il n’existe pas de partition définie pour l’année 2006, cela échoue donc.
INSERT INTO stock (vin_id, contenant_id, annee, nombre) VALUES (1, 1, 2006, 100) ;
629
https://dalibo.com/formations
SQL pour PostgreSQL
Cela échoue car des enregistrements présents dans la partition par défaut répondent à
cette nouvelle contrainte de partitionnement.
BEGIN ;
COMMIT ;
630
15. CONNEXIONS DISTANTES
15 CONNEXIONS DISTANTES
Il existe principalement 3 méthodes pour accéder à des données externes à la base sous
PostgreSQL.
Les Foreign Data Wrappers (norme SQL/MED) sont la méthode recommandée pour ac-
céder à un objet distant. Elle permet l’accès à de nombreuses sources de données.
PL/Proxy est un cas d’utilisation très différent : il s’agit de distribuer des appels de fonc-
tions PL sur plusieurs nœuds.
Le sharding n’est pas intégré de manière simple à PostgreSQL dans sa version commu-
nautaire. Il est déjà possible d’en faire une version primitive avec des partitions basées
sur des tables distantes passant par des foreign data wrappers, mais ce n’est qu’un début.
Des éditeurs proposent des extensions, propriétaires ou expérimentales, ou des forks de
PostgreSQL dédiés. Comme souvent, il faut se poser la question du besoin réel par rap-
port à un PostgreSQL bien optimisé avant d’utiliser des outils qui vont ajouter une couche
supplémentaire de complexité dans votre infrastructure.
SQL/MED est un des tomes de la norme SQL, traitant de l’accès aux données externes
(Management of External Data).
PostgreSQL suit cette norme et est ainsi capable de requêter des tables distantes à travers
des connecteurs FDW (Foreign Data Wrapper). Les seuls connecteurs livrés par défaut
sont file_fdw (fichier plat) et postgres_fdw (à partir de la 9.3) qui permet de se con-
necter à un autre serveur PostgreSQL.
Les deux wrappers les plus aboutis sont sans conteste ceux pour PostgreSQL (c’est un con-
trib) et Oracle (qui supporte jusqu’aux objets géométriques). Ces deux drivers supportent
les écritures sur la base distante.
De nombreux drivers spécialisés existent, entre autres pour accéder à des bases NoSQL
comme MongDB, CouchDB ou Redis.
La liste complète des Foreign Data Wrapper disponibles pour PostgreSQL peut être con-
sultée à cette adresse152 . Rappelons que leur présence sur PGXN n’est en aucun cas un
gage de maturité et de stabilité : testez soigneusement !
```sql
CREATE FOREIGN TABLE statistical_data (f1 numeric, f2 numeric)
SERVER file OPTIONS (filename '/tmp/statistical_data.csv',
format 'csv', delimiter ';') ;
IMPORT FOREIGN SCHEMA remote_schema FROM SERVER server_name INTO local_schema ;
152
https://pgxn.org/tag/foreign%20data%20wrapper/
632
15. CONNEXIONS DISTANTES
Quel que soit le driver, la création d’un accès se fait en 3 étapes minimum :
• Installation du driver : aucun foreign data wrapper n’est présent par défaut. Il se peut
que vous ayez d’abord à l’installer sur le serveur.
• Création du serveur : permet de spécifier un certain nombre d’informations
génériques à un serveur distant, qu’on n’aura pas à repréciser pour chaque objet
de ce serveur.
• Création de la table distante : l’objet qu’on souhaite rendre visible
La fastidieuse étape de création des tables distantes peut être remplacée par l’ordre
IMPORT FOREIGN SCHEMA. Disponible à partir de la version 9.5, il permet l’import d’un
schéma complet.
• Ajouter le FDW
• Ajouter un serveur
• Ajouter une table distante
• Lire la table distante
• Écrire dans la table distante
• Analyser la table distante
• Plus lent qu’une table locale, surtout pour les patterns d’accès complexes
Nous créons une table sur un serveur distant. Par simplicité, nous utiliserons le même
serveur mais une base différente. Créons cette base et cette table :
dalibo=# CREATE DATABASE distante;
CREATE DATABASE
dalibo=# \c distante
You are now connected to database "distante" as user "dalibo".
INSERT 0 4
Maintenant nous pouvons revenir à notre base d’origine et mettre en place la relation
avec le « serveur distant » :
distante=# \c dalibo
You are now connected to database "dalibo" as user "dalibo".
Et c’est tout ! Nous pouvons désormais utiliser la table distante personnes comme si elle
était une table locale de notre base.
634
15. CONNEXIONS DISTANTES
En plus, si nous filtrons notre requête, le filtre est exécuté sur le serveur distant, réduisant
considérablement le trafic réseau et le traitement associé.
À partir de la 9.3, il est possible d’écrire vers ces tables aussi, à condition que le connecteur
FDW le permette.
dalibo=# BEGIN;
BEGIN
635
https://dalibo.com/formations
SQL pour PostgreSQL
dalibo=# ROLLBACK;
ROLLBACK
Attention à ne pas perdre de vue qu’une table distante n’est pas une table locale. L’accès
à ses données est plus lent, surtout quand on souhaite récupérer de manière répétitive
peu d’enregistrements : on a systématiquement une latence réseau, éventuellement un
parsing de la requête envoyée au serveur distant, etc.
Les jointures ne sont pas « poussées » au serveur distant avant PostgreSQL 9.6 et pour
des bases PostgreSQL. Un accès par Nested Loop (boucle imbriquée entre les deux tables)
est habituellement inenvisageable entre deux tables distantes : la boucle interne (celle
qui en local serait un accès à une table par index) entraînerait une requête individuelle
par itération, ce qui serait horriblement peu performant.
Les tables distantes sont donc à réserver à des accès intermittents. Il ne faut pas les utiliser
pour développer une application transactionnelle par exemple. Noter qu’entre serveurs
PostgreSQL, chaque version améliore les performances (notamment pour « pousser » le
maximum d’informations et de critères au serveur distant).
636
15. CONNEXIONS DISTANTES
Pour améliorer les performances lors de l’utilisation de foreign data wrapper, une pratique
courante est de faire une vue matérialisée de l’objet distant. Les données sont récupérées
en bloc et cette vue matérialisée peut être indexée. C’est une sorte de mise en cache.
Évidemment cela ne convient pas à toutes les applications.
La table parent (ici une table distante) sera la table fgn_stock_londre et la table enfant
sera la table local_stock (locale). Ainsi la lecture de la table fgn_stock_londre retourn-
era les enregistrements de la table fgn_stock_londre et de la table local_stock.
Créer une table stock_londre sur l’instance distante dans la base nommée « cave » et
insérer des valeurs :
CREATE TABLE stock_londre (c1 int);
INSERT INTO stock_londre VALUES (1),(2),(4),(5);
637
https://dalibo.com/formations
SQL pour PostgreSQL
QUERY PLAN
----------------------------------------------------------------------------
Foreign Scan on fgn_stock_londre (cost=100.00..197.75 rows=2925 width=4)
(actual time=0.388..0.389 rows=4 loops=1)
Créer une table local_stock sur l’instance locale qui va hériter de la table mère :
CREATE TABLE local_stock () INHERITS (fgn_stock_londre);
638
15. CONNEXIONS DISTANTES
15
(2 lignes)
Note : Les données de la table stock_londre sur l’instance distante n’ont pas été modi-
fiées.
La table parent sera la table master_stock et la table fille (ici distante) sera la table
fgn_stock_londre. Ainsi une lecture de la table master_stock retournera les valeurs
de la table master_stock et de la table fgn_stock_londre, sachant qu’une lecture
de la table fgn_stock_londre retourne les valeurs de la table fgn_stock_londre et
local_stock. Une lecture de la table master_stock retournera les valeurs des 3 tables :
master_stock, fgn_stock_londre, local_stock.
639
https://dalibo.com/formations
SQL pour PostgreSQL
La lecture de la table master_stock nous montre bien les valeurs des 3 tables :
640
15. CONNEXIONS DISTANTES
master_stock
��fgn_stock_londre => stock_londre
��local_stock
Créons un index sur master_stock et ajoutons des données dans la table master_stock :
CREATE INDEX fgn_idx ON master_stock(c1);
INSERT INTO master_stock (SELECT generate_series(1,10000));
tableoid | c1
--------------+----
master_stock | 10
local_stock | 10
(2 lignes)
En ajoutant l’option ONLY après la clause FROM, on demande au moteur de n’afficher que
la table master_stock et pas les tables filles :
SELECT tableoid::regclass,* FROM ONLY master_stock WHERE c1=10;
tableoid | c1
641
https://dalibo.com/formations
SQL pour PostgreSQL
--------------+----
master_stock | 10
(1 ligne)
Attention, si on supprime les données sur la table parent, la suppression se fait aussi sur
les tables filles :
BEGIN;
DELETE FROM master_stock;
-- [DELETE 10008]
SELECT * FROM master_stock ;
c1
----
(0 ligne)
ROLLBACK;
En revanche avec l’option ONLY, on ne supprime que les données de la table parent :
BEGIN;
DELETE FROM ONLY master_stock;
-- [DELETE 10002]
ROLLBACK;
Enfin, si nous ajoutons une contrainte CHECK sur la table étrangère, l’exclusion de partition
basées sur ces contraintes s’appliquent naturellement :
ALTER TABLE fgn_stock_londre ADD CHECK (c1 < 100);
ALTER TABLE local_stock ADD CHECK (c1 < 100);
--local_stock hérite de fgn_stock_londre !
642
15. CONNEXIONS DISTANTES
15.7 DBLINK
Documentation officielle154 .
Le module dblink de PostgreSQL n’est pas aussi riche que son homonyme dans d’autres
SGBD concurrents bien connus.
Cette extension est un peu ancienne. On préférera utiliser à la place le Foreign Data Wrap-
per pour PostgreSQL (une autre contrib de plus en plus puissante au fil des versions).
dblink a encore l’intérêt d’émuler des transactions autonomes ou d’appeler des fonctions
sur le serveur distant, ce qui est impossible avec postgres_fdw.
154
https://docs.postgresql.fr/current/contrib-dblink-function.html
643
https://dalibo.com/formations
SQL pour PostgreSQL
On peut mettre en place un ensemble de fonctions PL/Proxy pour « découper » une table
volumineuse et le répartir sur plusieurs instances PostgreSQL.
644
15. CONNEXIONS DISTANTES
645
https://dalibo.com/formations
SQL pour PostgreSQL
Tout d’abord, vérifiez qu’avec psql vous arrivez à vous connecter chez lui. Sinon, vérifiez
son listen_addresses, son fichier pg_hba.conf, son firewall.
Une fois que la connexion avec psql fonctionne, vous pouvez entamer la création de la
table étrangère stock_remote chez votre voisin. Attention, si vous avez fait le TP parti-
tionnement précédemment, accédez plutôt à stock_old.
Créez le foreign server (déclaration du serveur de votre voisin). Ajustez les options pour
correspondre à votre environnement :
646
15. CONNEXIONS DISTANTES
Créez un user mapping, c’est-à-dire une correspondance entre votre utilisateur local et
l’utilisateur distant :
CREATE USER MAPPING FOR mon_utilisateur
SERVER serveur_voisin
OPTIONS (user 'utilisateur_distant', password 'mdp_utilisateur_distant');
Vérifiez le plan :
EXPLAIN ANALYZE VERBOSE SELECT * FROM stock_voisin WHERE vin_id=12;
Il faut l’option VERBOSE pour voir la requête envoyée au serveur distant. Vous constatez
que le prédicat sur vin_id a été transmis, ce qui est le principal avantage de cette implé-
mentation sur les DBLinks.
647
https://dalibo.com/formations
SQL pour PostgreSQL
16.1 PRÉAMBULE
Un table unlogged est une table non journalisée. Comme la journalisation est responsable
de la durabilité, une table non journalisée n’a pas cette garantie.
Un crash système, un arrêt d’urgence peuvent entraîner la corruption de cette table.
Comme elle n’est pas journalisée, il n’est pas possible de la corriger au redémarrage. De
ce fait, dans l’impossibilité de dire si elle est ou non corrompue, la table est systéma-
tiquement remise à zéro au redémarrage après un crash.
Le fait qu’elle ne soit pas journalisée implique aussi que ses données ne sont pas ré-
pliquées vers des serveurs secondaires, puisque la réplication native de PostgreSQL utilise
les journaux de transactions. Pour la même raison, une restauration de sauvegarde PITR
ne restaurera pas le contenu de la table.
Les contraintes doivent être respectées même si la table unlogged est vidée : une table
normale ne peut donc avoir de clé étrangère pointant vers une table unlogged. Mais les
deux tables peuvent être unlogged.
À part ces limitations, les tables unlogged se comportent exactement comme les autres.
Leur intérêt principal est d’être en moyenne 5 fois plus rapides à la mise à jour. Elles sont
648
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
• table de spooling/staging ;
• table de cache/session applicative ;
• table de travail partagée entre sessions ;
• table de travail systématiquement reconstruite avant utilisation dans le flux appli-
catif ;
• et de manière générale toute table contenant des données dont on peut accepter
la perte sans impact opérationnel ou dont on peut regénérer aisément les données.
Les tables unlogged ne doivent pas être confondues avec les tables temporaires (non jour-
nalisées et visibles uniquement dans la session qui les a créées). L’abus des tables tem-
poraires a tendance à générer de la fragmentation dans les tables système ; les tables
unlogged sont une alternative dans certains cas.
Une table unlogged se crée exactement comme une table journalisée classique, excepté
qu’on rajoute le mot UNLOGGED dans la création.
Depuis la version 9.5, on peut basculer une table à volonté de normale à unlogged et
vice-versa.
Dans le premier cas, la table doit tout de même être réécrite comme pour un VACUUM
FULL, pour des raisons techniques, mais sans qu’il y ait d’écriture dans les journaux à ce
moment, ni par la suite. Ce peut être long pour une grosse table, et il faudra voir si le gain
par la suite le justifie.
Dans le second, la réécriture a aussi lieu, et tout le contenu de la table est journalisé (c’est
indispensable pour la réplication notamment), ce qui génère énormément de journaux et
peut prendre du temps.
649
https://dalibo.com/formations
SQL pour PostgreSQL
Par exemple, une table modifiée de manière répétée pendant un batch, peut être définie
unlogged pour des raisons de performance, puis basculée en logged en fin de traitement
pour pérenniser son contenu.
Une des nouveautés les plus visibles et techniquement pointues de la v11 est la « com-
pilation à la volée » (Just In Time compilation, ou JIT) de certaines expressions dans les
requêtes SQL. Le JIT n’est activé par défaut qu’à partir de la version 12.
Dans certaines requêtes, l’essentiel du temps est passé à décoder des enregistrements
(tuple deforming), à analyser des clauses WHERE, à effectuer des calculs. En conséquence,
l’idée du JIT est de transformer tout ou partie de la requête en un programme natif di-
rectement exécuté par le processeur.
Cette compilation est une opération lourde qui ne sera effectuée que pour des requêtes
qui en valent le coup.
Sur CentOS/Red Hat 8, le dépôt EPEL n’est pas nécessaire. Les systèmes CentOS/Red Hat
6 ne permettent pas d’utiliser le JIT.
650
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
QUERY PLAN
-------------------------------------------------------------------------------
Result (cost=0.00..0.01 rows=1 width=4) (… rows=1 loops=1)
Planning Time: 0.069 ms
JIT:
Functions: 1
Options: Inlining false, Optimization false, Expressions true,
Deforming true
Timing: Generation 0.123 ms, Inlining 0.000 ms, Optimization 0.187 ms,
Emission 2.778 ms, Total 3.088 ms
Execution Time: 3.952 ms
• Tuple deforming
• Évaluation d’expressions :
– WHERE
– Agrégats, GROUP BY
• Appels de fonctions (inlining)
• Mais pas les jointures
Le JIT ne peut pas encore compiler toute une requête. La version actuelle se concentre
sur des goulots d’étranglement classiques :
• le décodage des enregistrements (tuple deforming) pour en extraire les champs in-
téressants ;
• les évaluations d’expressions, notamment dans les clauses WHERE pour filtrer les
lignes ;
• les agrégats, les GROUP BY...
Le code résultant est utilisable plus efficacement avec les processeurs actuels qui utilisent
les pipelines et les prédictions de branchement.
Pour les détails, on peut consulter notamment cette conférence très technique au FOS-
DEM 2018155 par l’auteur principal du JIT, Andres Freund.
155
https://archive.fosdem.org/2018/schedule/event/jiting_postgresql_using_llvm/
651
https://dalibo.com/formations
SQL pour PostgreSQL
De l’avis même de son auteur, l’algorithme de déclenchement du JIT est « naïf ». Quatre
paramètres existent (hors débogage).
La compilation n’a cependant lieu que pour un coût de requête calculé d’au moins
jit_above_cost (par défaut 100 000, une valeur élevée). Puis, si le coût atteint
jit_inline_above_cost (500 000), certaines fonctions utilisées par la requête et
supportées par le JIT sont intégrées dans la compilation. Si jit_optimize_above_cost
(500 000) est atteint, une optimisation du code compilé est également effectuée. Ces
deux dernières opérations étant longues, elles ne le sont que pour des coûts assez
importants.
Ces seuils sont à comparer avec les coûts des requêtes, qui incluent les entrées-sorties,
donc pas seulement le coût CPU. Ces seuils sont un peu arbitraires et nécessiteront sans
doute un certain tuning en fonction de vos requêtes et de vos processeurs.
Des contre-performances dues au JIT ont déjà été observées, menant à monter les seuils.
Le JIT est trop jeune pour que les développeurs de PostgreSQL eux-mêmes aient des
règles d’ajustement des valeurs des différents paramètres.
QUERY PLAN
-------------------------------------------------------------------------------
Finalize Aggregate (cost=3403866.94..3403866.95 rows=1 width=16) (…)
-> Gather (cost=3403866.19..3403866.90 rows=7 width=16)
(actual time=11778.983..11784.235 rows=8 loops=1)
Workers Planned: 7
Workers Launched: 7
-> Partial Aggregate (cost=3402866.19..3402866.20 rows=1 width=16)(…)
652
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
Dans l’exemple ci-dessus, on peut constater que ces coûts ne sont pas négligeables
par rapport au temps total. Il reste à voir si ce temps perdu est récupéré sur le temps
d’exécution de la requête… ce qui en pratique n’a rien d’évident.
Vu son coût élevé, le JIT n’a d’intérêt que pour les requêtes utilisant beaucoup le CPU et
où il est le facteur limitant.
Ce seront donc surtout des requêtes analytiques agrégeant beaucoup de lignes, com-
prenant beaucoup de calculs et filtres, et non les petites requêtes d’un ERP.
L’indexation FTS est un des cas les plus fréquents d’utilisation non-relationnelle d’une
base de données : les utilisateurs ont souvent besoin de pouvoir rechercher une informa-
tion qu’ils ne connaissent pas parfaitement, d’une façon floue :
PostgreSQL doit donc permettre de rechercher de façon efficace dans un champ texte.
L’avantage de cette solution est d’être intégrée au SGBD. Le moteur de recherche est
donc toujours parfaitement à jour avec le contenu de la base, puisqu’il est intégré avec le
reste des transactions.
Adrien Nayrat a donné une excellente conférence sur le sujet au PGDay France 2017 à
Toulouse157 (slides158 ).
156
https://docs.postgresql.fr/current/textsearch.html
157
https://www.youtube.com/embed/9S5dBqMbw8A
158
https://2017.pgday.fr/slides/nayrat_Le_Full_Text_Search_dans_PostgreSQL.pdf
654
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
• Décomposition :
# SELECT to_tsvector ('french','Longtemps je me suis couché de bonne heure');
to_tsvector
-----------------------------------------
'bon':7 'couch':5 'heur':8 'longtemp':1
• Recherche sur 2 mots :
SELECT * FROM textes
WHERE to_tsvector('french',contenu) @@ to_tsquery('Valjean & Cosette');
• Recherche sur une phrase : phrase_totsquery
# SHOW default_text_search_config ;
default_text_search_config
----------------------------
pg_catalog.french
Les mots courts et le verbe « être » sont repérés comme termes trop courants, la casse
est ignorée, même l’URL est décomposée en protocole et hôte. On peut voir en détail
comment la FTS a procédé :
Si l’on se trompe de langue, les termes courants sont mal repérés (et la recherche sera
inefficace) :
Les termes à chercher peuvent être combinés par &, | (ou), ! (négation), <-> (mots suc-
cessifs), <N> (séparés par N lexèmes). @@ est l’opérateur de correspondance. Il y en a
d’autres159 .
Il existe une fonction phraseto_tsquery pour donner une phrase entière comme critère,
laquelle sera décomposée en lexèmes :
656
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
-------------------------------------------------+----------------------------
…
Les misérables Tome V Jean Valjean, Hugo, Victor | Je suis tombé par terre,
Les misérables Tome V Jean Valjean, Hugo, Victor | C'est la faute à Voltaire,
Les lexèmes, les termes courants, la manière de décomposer un terme… sont fortement
liés à la langue.
Des configurations toutes prêtes sont fournies par PostgreSQL pour certaines langues :
# \dF
Liste des configurations de la recherche de texte
Schéma | Nom | Description
------------+------------+---------------------------------------
pg_catalog | arabic | configuration for arabic language
pg_catalog | danish | configuration for danish language
pg_catalog | dutch | configuration for dutch language
pg_catalog | english | configuration for english language
pg_catalog | finnish | configuration for finnish language
pg_catalog | french | configuration for french language
pg_catalog | german | configuration for german language
pg_catalog | hungarian | configuration for hungarian language
pg_catalog | indonesian | configuration for indonesian language
pg_catalog | irish | configuration for irish language
pg_catalog | italian | configuration for italian language
pg_catalog | lithuanian | configuration for lithuanian language
pg_catalog | nepali | configuration for nepali language
pg_catalog | norwegian | configuration for norwegian language
pg_catalog | portuguese | configuration for portuguese language
pg_catalog | romanian | configuration for romanian language
657
https://dalibo.com/formations
SQL pour PostgreSQL
La recherche plein textes est donc directement utilisable pour le français ou l’anglais
et beaucoup d’autres langues européennes. La configuration par défaut dépend du
paramètre default_text_search_config, même s’il est conseillé de toujours passer ex-
plicitement la configuration aux fonctions. Ce paramètre peut être modifié globalement,
par session ou par un ALTER DATABASE SET.
En demandant le détail de la configuration french, on peut voir qu’elle se base sur des
« dictionnaires » pour chaque type d’élément qui peut être rencontré : mots, phrases mais
aussi URL, entiers…
# \dF+ french
Configuration « pg_catalog.french » de la recherche de texte
Analyseur : « pg_catalog.default »
Jeton | Dictionnaires
-----------------+---------------
asciihword | french_stem
asciiword | french_stem
email | simple
file | simple
float | simple
host | simple
hword | french_stem
hword_asciipart | french_stem
hword_numpart | simple
hword_part | french_stem
int | simple
numhword | simple
numword | simple
sfloat | simple
uint | simple
url | simple
url_path | simple
version | simple
word | french_stem
658
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
# \dFd
Liste des dictionnaires de la recherche de texte
Schéma | Nom | Description
------------+-----------------+---------------------------------------------
…
pg_catalog | english_stem | snowball stemmer for english language
…
pg_catalog | french_stem | snowball stemmer for french language
…
pg_catalog | simple | simple dictionary: just lower case
| and check for stopword
…
D’autres dictionnaires peuvent être combinés aux existants pour créer une nouvelle con-
figuration. Le principe est que les dictionnaires reconnaissent certains éléments, et trans-
mettent aux suivants ce qu’ils n’ont pas reconnu. Les dictionnaires précédents, de type
Snowball, reconnaissent tout et doivent donc être placés en fin de liste.
Par exemple, la contrib unaccent permet de faire une configuration négligeant les
accents161 . La contrib dict_int fournit un dictionnaire qui réduit la précision des nom-
bres162 pour réduire la taille de l’index. La contrib dict_xsyn permet de créer un diction-
naire pour gérer une liste de synonymes163 . Mais les dictionnaires de synonymes peuvent
être gérés manuellement164 . Les fichiers adéquats sont déjà présents ou à ajouter dans
$SHAREDIR/tsearch_data/ (par exemple /usr/pgsql-12/share/tsearch_data sur
Red Hat/CentOS ou /usr/share/postgresql/12/tsearch_data sur Debian).
postgresql pgsql
postgre pgsql
gogle googl
160
https://snowballstem.org/
161
https://docs.postgresql.fr/current/unaccent.html
162
https://docs.postgresql.fr/current/dict-int.html
163
https://docs.postgresql.fr/current/dict-xsyn.html
164
https://docs.postgresql.fr/current/textsearch-dictionaries.html#textsearch-synonym-dictionary
659
https://dalibo.com/formations
SQL pour PostgreSQL
indices index*
to_tsvector
-------------------------
'abreg':3 'pgsql':1,5,7
Pour une analyse plus fine, on peut ajouter d’autres dictionnaires linguistiques depuis des
sources extérieures (Ispell, OpenOffice…). Ce n’est pas intégré par défaut à PostgreSQL
mais la procédure est dans la documentation165 .
Des « thesaurus » peuvent être même être créés pour remplacer des expressions par des
synonymes (et identifier par exemple « le meilleur SGBD » et « PostgreSQL »).
Sans indexation, une recherche FTS fonctionne, mais parcourra entièrement la table.
L’indexation est possible, avec GIN ou GiST. On peut stocker le vecteur résultat de
to_tsvector dans une autre colonne de la table, et c’est elle qui sera indexée. Jusque
PostgreSQL 11, il est nécessaire de le faire manuellement, ou d’écrire un trigger pour
cela. Avec PostgreSQL 12, on peut utiliser une colonne générée (il est nécessaire de
préciser la configuration FTS) :
165
https://docs.postgresql.fr/current/textsearch-dictionaries.html
660
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
• Ajout d’une colonne vectorisée à la table depeche, avec des poids différents pour
le titre et le texte, ici gérée manuellement avec un trigger.
UPDATE depeche
SET vect_depeche =
(setweight(to_tsvector('depeches',coalesce(titre,'')), 'A') ||
setweight(to_tsvector('depeches',coalesce(texte,'')), 'C'));
setweight(to_tsvector('depeches',coalesce(NEW.titre,'')), 'A') ||
setweight(to_tsvector('depeches',coalesce(NEW.texte,'')), 'C');
return NEW;
END
$function$;
• Utilisation basique :
SELECT titre,texte FROM depeche WHERE vect_depeche @@
to_tsquery('depeches','varicelle');
SELECT titre,texte FROM depeche WHERE vect_depeche @@
to_tsquery('depeches','varicelle & médecin');
Depuis la version 10 de PostgreSQL, une recherche FTS est directement possible sur des
champs JSON. Voici un exemple :
CREATE TABLE commandes (info jsonb);
662
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
VALUES
(
'{ "client": "Jean Dupont",
"articles": {"produit": "Enveloppes A4","qté": 24}}'
),
(
'{ "client": "Jeanne Durand",
"articles": {"produit": "Imprimante","qté": 1}}'
),
(
'{ "client": "Benoît Delaporte",
"items": {"produit": "Rame papier normal A4","qté": 5}}'
),
(
'{ "client": "Lucie Dumoulin",
"items": {"produit": "Pochette Papier dessin A3","qté": 5}}'
);
Plus d’information chez Depesz : Full Text Search support for json and jsonb166 .
166
https://www.depesz.com/2017/04/04/waiting-for-postgresql-10-full-text-search-support-for-json-and-jsonb/
663
https://dalibo.com/formations
SQL pour PostgreSQL
Créer une base pgbench vierge, de taille 80 (environ 1,2 Go). Les
tables doivent être en mode unlogged.
Réinitialiser la base pgbench mais avec une taille de 10. Les tables
doivent être en mode unlogged.
664
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
Vous aurez besoin de la base textes. La base est disponible en deux versions : complète
sur https://dali.bo/tp_gutenberg (dump de 0,5 Go, table de 21 millions de lignes dans
3 Go) ou https://dali.bo/tp_gutenberg10 pour un extrait d’un dizième. Le dump peut se
charger dans une base préexistante avec pg_restore et créera juste une table nommée
textes.
665
https://dalibo.com/formations
SQL pour PostgreSQL
Créer une base pgbench vierge, de taille 80 (environ 1,2 Go). Les
tables doivent être en mode unlogged.
$ createdb pgbench
Les 3 objets avec le suffixe pkey correspondent aux clés primaires des tables créées par
pgbench. Comme elles dépendent des tables, elles sont également en mode unlogged.
666
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
Comme toutes les tables de la base pgbench ont été passées en mode logged, une réécri-
ture de celles-ci a eu lieu (comme pour un VACUUM FULL). Cette réécriture additionnée
au mode logged a entraîné une forte écriture dans les journaux de transaction. Dans
notre cas, 83 journaux de transaction ont été consommés, soit approximativement 1,3
Go d’utilisé sur disque.
Le processus est le même que précedemment, mais, lors de la réécriture des tables, au-
cune information n’est stockée dans les journaux de transaction.
$ /usr/pgsql-13/bin/pgbench -i -s 80 -d pgbench
dropping old tables...
creating tables...
generating data (client-side)...
8000000 of 8000000 tuples (100%) done (elapsed 9.96 s, remaining 0.00 s)
vacuuming...
creating primary keys...
done in 16.60 s (drop tables 0.11 s, create tables 0.00 s, client-side generate 10.12 s,
vacuum 2.87 s, primary keys 3.49 s).
On constate que le temps mis par pgbench pour initialiser sa base est beaucoup plus long
en mode logged que unlogged. On passe de 8,84 secondes en unlogged à 16,60 secondes
en mode logged. Cette augmentation du temps de traitement est due à l’écriture dans les
journaux de transaction.
Réinitialiser la base pgbench mais avec une taille de 10. Les tables
doivent être en mode unlogged.
668
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
vacuuming...
creating primary keys...
done in 1.24 s (drop tables 0.02 s, create tables 0.02 s, client-side generate 0.62 s,
vacuum 0.27 s, primary keys 0.31 s).
$ kill -9 697
Lors d’un crash, PostgreSQL remet tous les objets unlogged à zéro.
669
https://dalibo.com/formations
SQL pour PostgreSQL
QUERY PLAN
-------------------------------------------------------------------------------
Bitmap Heap Scan on textes (cost=107.94..36936.16 rows=9799 width=123)
(actual time=0.423..1.149 rows=326 loops=1)
Recheck Cond: (to_tsvector('french'::regconfig, contenu)
@@ '''fantin'''::tsquery)
Heap Blocks: exact=155
Buffers: shared hit=159
-> Bitmap Index Scan on idx_fts (cost=0.00..105.49 rows=9799 width=0)
(actual time=0.210..0.211 rows=326 loops=1)
Index Cond: (to_tsvector('french'::regconfig, contenu)
@@ '''fantin'''::tsquery)
Buffers: shared hit=4
Planning Time: 1.248 ms
Execution Time: 1.298 ms
On constate donc que le Full Text Search est très efficace du moins pour le Full Text Search +
GIN : trouver 1 mot parmi plus de 100 millions avec 300 enregistrements correspondants
dure 1,5 ms (cache chaud).
Si l’on compare avec une recherche par trigramme (extension pg_trgm et index GIN), c’est
bien meilleur. À l’inverse, les trigrammes permettent des recherches floues (orthographe
approximative), des recherches sur autre chose que des mots, et ne nécessitent pas de
modification de code.
670
16. FONCTIONNALITÉS AVANCÉES POUR LA PERFORMANCE
Par contre, la recherche n’est pas exacte, « Fantin » est fréquemment trouvé. En fait, le
plan montre que c’est le vrai critère retourné par to_tsquery('french','fantine') et
transformé en 'fantin'::tsquery. Si l’on tient à ce critère précis il faudra ajouter une
clause plus classique contenu LIKE '%Fantine%' pour filtrer le résultat après que le FTS
ait « dégrossi » la recherche.
QUERY PLAN
-------------------------------------------------------------------------------
Bitmap Heap Scan on textes (cost=36.22..154.87 rows=28 width=123)
(actual time=6.642..6.672 rows=10 loops=1)
Recheck Cond: (to_tsvector('french'::regconfig, contenu)
@@ '''affair'' & ''couteau'''::tsquery)
Heap Blocks: exact=10
Buffers: shared hit=53
-> Bitmap Index Scan on idx_fts (cost=0.00..36.21 rows=28 width=0)
(actual time=6.624..6.624 rows=10 loops=1)
Index Cond: (to_tsvector('french'::regconfig, contenu)
@@ '''affair'' & ''couteau'''::tsquery)
Buffers: shared hit=43
Planning Time: 0.519 ms
Execution Time: 6.761 ms
Noter que les pluriels « couteaux » et « affaires » figurent parmi les résultats puisque la
recherche porte sur les léxèmes 'affair'' & ''couteau'.
671
https://dalibo.com/formations
SQL pour PostgreSQL
17 POOLING
672
17. POOLING
17.1 AU MENU
• Concepts
• Pool de connexion avec PgBouncer
Ce qui suit ne portera que sur un unique serveur, et n’aborde pas le sujet de la répartition
de charge.
17.1.1 OBJECTIFS
Dans cette partie, nous allons étudier la théorie des poolers de connexion. La partie
suivante sera la mise en pratique avec l’outil PgBouncer.
673
https://dalibo.com/formations
SQL pour PostgreSQL
Chaque connexion au SGBD est définie par deux paramètres : le rôle de connexion et
la base de donnée. Ainsi, une connexion maintenue par le pooler ne sera attribuée à un
utilisateur que si ce couple rôle/base de donnée est le même.
674
17. POOLING
Les conditions de création de connexions au SGBD sont donc définies dans la configura-
tion du pooler.
• comme brique logicielle incorporée dans le code applicatif sur les serveurs
d’applications (fourni par Hibernate ou Apache Tomcat, par exemple) ;
• comme service séparé, démarré sur un serveur et écoutant sur un port donné, où
les clients se connecteront pour accéder à la base de donnée voulue (exemples :
PgBouncer, pgPool)
Nous nous consacrons dans ce module aux pools de connexions accessibles à travers un
service.
Noter qu’il ne faut pas confondre un pooler avec un outil de répartition de charge (même
si un pooler peut également permettre la répartition de charge, comme PgPool).
L’emplacement d’un pooler se décide au cas par cas selon l’architecture. Il peut aussi
bien se trouver intégré à l’application, et lui être dédié, qu’être sur le serveur de base de
données et servir plusieurs applications, voire se trouver sur une troisième machine. Il
faut aussi réfléchir à ce qui se passera en cas de bascule entre deux instances.
Le maintien des connexions entre le pooler et le SGBD apporte un gain non négligeable
lors de l’établissement des connexions. Effectivement, pour chaque nouvelle connexion
à PostgreSQL, nous avons :
Ce travail peut durer plusieurs dizaines, voire centaines de millisecondes. Cette latence
induite peut alors devenir un réel goulot d’étranglement dans certains contextes. Or, une
connexion déjà active maintenue dans un pool peut être attribuée à une nouvelle session
immédiatement : cette latence est donc de facto fortement limitée par le pooler.
De plus, cette position privilégiée entre les utilisateurs et le SGBD permet au pooler de
contrôler et centraliser les connexions vers le ou les SGBD. Effectivement, les applications
pointant sur le serveur de pool de connexions, le SGBD peut être situé n’importe où, voire
sur plusieurs serveurs différents. Le pooler peut aiguiller les connexions vers un serveur
différent en fonction de la base de données demandée. Certains poolers peuvent détecter
une panne d’un serveur et aiguiller vers un autre. En cas de switchover, failover, évolution
ou déplacement du SGBD, il peut suffire de reconfigurer le pooler.
Enfin, les sessions entrantes peuvent être mises en attente si plus aucune connexion n’est
disponible et qu’elles ne peuvent pas en créer de nouvelle. On évite donc de lever immé-
diatement une erreur, ce qui est le comportement par défaut de PostgreSQL.
Pour la base de données, le pooler est une application comme une autre.
Les fonctionnalités de PostgreSQL utilisables au travers d’un pooler varient suivant son
676
17. POOLING
Un pooler est un élément en plus entre l’application et vos données, donc il aura un coût
en performances. Il ajoute notamment une certaine latence. On n’introduit donc pas un
pooler sans avoir identifié un problème. Si la configuration est bien faite, cet impact est
normalement négligeable, ou en tout cas sera compensé par des gains au niveau de la
base de données, ou en administration.
Comme dans tout système de proxy, un des points délicats de la configuration est
l’authentification, avec certaines restrictions.
Un pooler est un élément en plus dans votre architecture. Il la rend donc plus complexe
et y ajoute ses propres besoins en administration, supervision et ses propres modes de
défaillance. Si vous faites passer toutes vos connexions par un pooler, celui-ci devient un
nouveau point de défaillance possible (SPOF). Une redondance est bien sûr possible mais
complique à nouveau les choses.
677
https://dalibo.com/formations
SQL pour PostgreSQL
Un pool de connexion par session attribue une connexion au SGBD à un unique utilisateur
pendant toute la durée de sa session. Si aucune connexion à PostgreSQL n’est disponible,
une nouvelle connexion est alors créée, dans la limite exprimée dans la configuration du
pooler. Si cette limite est atteinte, la session est mise en attente ou une erreur est levée.
• Avantages :
– limite le temps d’établissement des connexions
– mise en attente si trop de sessions
– simple
– transparent pour les applications
• Inconvénients :
– périodes de non activité des sessions conservées
– nombre de sessions active au pooler égal au nombre de connexions actives
au SGBD
L’intérêt d’un pool de connexion en mode session est principalement de conserver les
connexions ouvertes vers le SGBD. On économise ainsi le temps d’établissement de la
connexion pour les nouvelles sessions entrantes si une connexion est déjà disponible.
Dans ce cas, le pooler permet d’avoir un comportement de type pre-fork côté SGBD.
678
17. POOLING
L’autre intérêt est de ne pas rejeter une connexion, même s’il n’y a plus de connexions
possibles au SGBD. Contrairement au comportement de PostgreSQL, les connexions sont
placées en attente si elles ne peuvent pas être satisfaites immédiatement.
Ce mode de fonctionnement est très simple et robuste, c’est le plus transparent vis-à-vis
des sessions clientes, avec un impact quasi nul sur le code applicatif.
Aucune optimisation du temps de travail côté SGBD n’est donc possible. S’il peut être
intéressant de limiter le nombre de sessions ouvertes sur le pooler, il sera en revanche
impossible d’avoir plus de sessions ouvertes sur le pooler que de connexions disponibles
sur le SGDB.
679
https://dalibo.com/formations
SQL pour PostgreSQL
Dans le schéma présenté ici, chaque bloc représente une transaction délimitée par une
instruction BEGIN, suivie plus tard d’un COMMIT ou d’un ROLLBACK. Chaque zone colorée
représente une requête au sein de la transaction.
Un pool de connexions par transactions multiplexe les transactions des utilisateurs en-
tre une ou plusieurs connexions au SGBD. Une transaction est débutée sur la première
connexion à la base qui soit inactive (idle). Toutes les requêtes d’une transaction sont
envoyées sur la même connexion.
• Avantages
– mêmes avantages que le pooling de sessions
– meilleure utilisation du temps de travail des connexions
* les connexions sont utilisées par une ou plusieurs sessions
– plus de sessions possibles côté pooler pour moins de connexions au SGBD
• Inconvénients
– interdit les requêtes préparées
680
17. POOLING
Les intérêts d’un pool de connexion en mode transaction sont multiples en plus de cu-
muler ceux d’un pool de connexion par session.
Il est désormais possible de partager une même connexion au SGBD entre plusieurs ses-
sions utilisateurs. En effet, il existe de nombreux contextes où une session a un taux
d’occupation relativement faible : requêtes très simples et exécutées très rapidement,
génération des requêtes globalement plus lente que la base de données, couche applica-
tive avec des temps de traitement des données reçues plus importants que l’exécution
côté SGBD, etc.
Avoir la capacité de multiplexer les transactions de plusieurs sessions entre plusieurs con-
nexions permet ainsi de limiter le nombre de connexions à la base en optimisant leur taux
d’occupation. Cet économie de connexions côté SGBD a plusieurs avantages :
• moins de connexions à gérer par le serveur, qui est donc plus disponible pour les
connexions actives ;
• moins de connexions, donc économie de mémoire, devenue disponible pour les re-
quêtes ;
• possibilité d’avoir un plus grand nombre de clients connectés côté pooler sans pour
autant atteindre un nombre critique de connexions côté SGBD.
Seules les requêtes au sein d’une même transaction sont assurées d’être exécutées sur la
même connexion. Ainsi, au début de cette transaction, la connexion est alors réservée
exclusivement à l’utilisateur propriétaire de la transaction. Même si ce dernier est inactif
dans sa transaction (idle in transaction), la connexion reste malgré tout inaccessible
aux autres sessions.
Ce type de pool de connexion a donc un impact non négligeable à prendre en compte lors
du développement.
681
https://dalibo.com/formations
SQL pour PostgreSQL
• Un pool de connexions en mode requêtes multiplexe toutes les requêtes sur une
ou plusieurs connexions
Un pool de connexions par requêtes multiplexe les requêtes des utilisateurs entre une ou
plusieurs connexions au SGBD.
Dans le schéma présenté ici, chaque bloc coloré représente une requête. Elles sont
placées exactement aux mêmes instants que dans le schéma présentant le pool de con-
nexion en mode transactions.
• Avantages
– les mêmes que pour le pooling de sessions et de transactions.
– utilisation optimale du temps de travail des connexions
– encore plus de sessions possibles côté pooler pour moins de connexions au
SGBD
• Inconvénients
– les mêmes que pour le pooling de transactions
– interdiction des transactions !
Les intérêts d’un pool de connexions en mode requêtes sont les mêmes que pour un pool
de connexion en mode de transactions. Cependant, dans ce mode, toutes les requêtes
682
17. POOLING
des clients sont multiplexées à travers les différentes connexions disponibles et inactives.
Ainsi, il est désormais possible d’optimiser encore plus le temps de travail des connex-
ions au SGBD, supprimant la possibilité de bloquer une connexion dans un état idle in
transaction. Nous sommes alors capable de partager une même connexion avec en-
core plus de clients, augmentant ainsi le nombre de sessions disponibles sur le pool de
connexions tout en conservant un nombre limité de connexions côté SGBD.
En revanche, si les avantages sont les mêmes que ceux d’un pooler de connexion en mode
transactions, les limitations sont elles aussi plus importantes. Il n’est effectivement plus
possible d’utiliser des transactions, en plus des requêtes préparées !
683
https://dalibo.com/formations
SQL pour PostgreSQL
Deux projets sous licence BSD coexistent dans l’écosystème de PostgreSQL pour mettre
en œuvre un pool de connexion : PgBouncer et PgPool-II.
PgPool-II167 est le projet le plus ancien, développé et maintenu principalement par SRA
OSS168 . Ce projet est un véritable couteau suisse capable d’effectuer bien plus que du
pooling (répartition de charge, bascules…). Malheureusement, cette polyvalence a un
coût important en terme de fonctionnalités et complexités. PgPool n’est effectivement
capable de travailler qu’en tant que pool de connexion par session.
PgBouncer étant le plus évolué des deux, nous allons le mettre en œuvre dans les pages
suivantes.
• Techniquement : un démon
• Disponible sous Unix & Windows
• Modes sessions / transactions / requêtes
• Redirection vers des serveurs et/ou bases différents
• Mise en attente si plus de connexions disponibles
• Mise en pause des connexions
• Paramétrage avancé des sessions clientes et des connexions aux bases
• Mise à jour sans couper les sessions existantes
• Supervision depuis une base virtuelle de maintenance
• Pas de répartition de charge
167
https://www.pgpool.net/
168
https://www.sraoss.co.jp/index_en.php
169
https://www.pgbouncer.org/
684
17. POOLING
PgBouncer est techniquement assez simple : il s’agit d’un simple démon, auxquelles les ap-
plicatifs se connectent (en croyant avoir affaire à PostgreSQL), et qui retransmet requêtes
et données.
Ce qui suit n’est qu’un extrait de la documentation de référence, assez courte : https:
//www.pgbouncer.org/config.html. La FAQ170 est également à lire.
PgBouncer est disponible sous la forme d’un paquet binaire sur les principales distribu-
tions Linux et les dépôts du PGDG. Il est possible de recompiler depuis les sources.
• Format « ini »
• Un paramètre par ligne
• Aucune unité dans les valeurs
• Tous les temps sont exprimés en seconde
• Sections : [databases], [users], [pgbouncer]
685
https://dalibo.com/formations
SQL pour PostgreSQL
parametre = valeur
PgBouncer n’accepte pas que l’utilisateur spécifie une unité pour les valeurs. L’unité prise
en compte par défaut est la seconde.
Il y a plusieurs sections :
• TCP/IP
– listen_addr : adresses
– listen_port (6432)
• Socket Unix (unix_socket_dir, unix_socket_mode, unix_socket_group)
• Chiffrement TLS
PgBouncer accepte les connexions en mode socket Unix et via TCP/IP. Les paramètres
disponibles ressemblent beaucoup à ce que PostgreSQL propose.
Pour une connexion uniquement en local par la socket Unix, il est possible d’indiquer
où le fichier socket doit être créé (paramètre unix_socket_dir : /tmp sur Red Hat/-
CentOS, /var/run/postgresql sur Debian et dérivés), quel groupe doit lui être affecté
(unix_socket_group) et les droits du fichier (unix_socket_mode). Si un groupe est in-
diqué, il est nécessaire que l’utilisateur détenteur du processus pgbouncer soit membre
de ce groupe.
686
17. POOLING
• Section [databases]
• Une ligne par base sous la forme libpq :
data1 = host=localhost port=5433 dbname=data1 pool_size=50
• Paramètres de connexion :
– host, port, dbname, user, password
– pool_size, connect_query
– client_encoding, datestyle, timezone…
• Base par défaut :
* = host=ip1 port=5432 dbname=data0
• auth_hba_file : équivalent à pg_hba.conf
PgBouncer n’a pas accès à l’authentification de PostgreSQL. De plus, son rôle est de don-
ner accès à des connexions déjà ouvertes à des clients. PgBouncer doit donc s’authentifier
auprès de PostgreSQL à la place des clients, et vérifier lui-même les mots de passe de ces
clients. (Ce mécanisme ne dispense évidemment pas les clients de fournir les mots de
passe.)
La première méthode, et la plus simple, est de déclarer les utilisateurs dans le fichier
pointé par le paramètre auth_file, par défaut userlist.txt. Les utilisateurs et mots de
passe y sont stockés comme ci-dessous selon le type d’authentification, obligatoirement
encadrés avec des guillemets doubles.
"guillaume" "supersecret"
"marc" "md59fa7827a30a483125ca3b7218bad6fee"
"pgbench" "SCRAM-SHA-256$4096:Rqk+MWaDN9rKXOLuoj8eCw==$ry5DD2Ptk…+6do76FN/ys="
Le type d’authentification est plus limité que ce que PostgreSQL propose. Le type trust
indique que l’utilisateur sera accepté par PgBouncer quel que soit le mot de passe qu’il
fournit ; il faut que le serveur PostgreSQL soit configuré de la même façon. Cela est
bien sur déconseillé. auth_type peut prendre les valeurs md5 ou scram-sha-256 pour
autoriser des mots de passe chiffrés. Pour des raisons de compatibilité descendante, md5
permet aussi d’utiliser scram-sha-256.
userlist.txt est évidemment un fichier dont les accès doivent être les plus restreints
possibles.
688
17. POOLING
La maintenance du fichier de mots de passe peut vite devenir fastidieuse. Il est possible
de déléguer un rôle à la recherche des mots de passe avec le paramètre auth_user (à
poser globalement ou au niveau de la base).
prod = host=p1 port=5432 dbname=erp pool_mode=transaction auth_user=frontend
Ce rôle se connectera et ira valider dans l’instance le hash du mot de passe du client. Il
sera donc inutile de déclarer d’autres rôles dans userlist.txt.
Il n’y aura pas de problème avec l’authentification MD5. Par contre, le principe même de
SCRAM-SHA-256 interdit de passer par un proxy. Le mot de passe de l’utilisateur dédié
devra donc forcément être encodé en MD5.
Exemple de configuration :
SET password_encryption = 'md5' ;
CREATE ROLE frontend PASSWORD 'pass' LOGIN ;
SELECT rolpassword FROM pg_authid WHERE rolname = 'frontend' \gx
Le paramètre auth_query définit la requête à exécuter pour ensuite comparer les résul-
tats avec les identifiants de connexion. Par défaut, il s’agit simplement de requêter la vue
pg_shadow :
auth_query = SELECT usename, passwd FROM pg_shadow WHERE usename=$1
D’autres variantes sont possibles, comme une requête plus élaborée sur pg_authid, ou
une fonction avec les bons droits de consultation avec une clause SECURITY DEFINER (la
documentation donne un exemple172 ). Il faut évidemment que l’utilisateur choisi ait les
droits nécessaires, et cela dans toutes les bases impliquées. La mise en place de cette con-
figuration est facilement source d’erreur, il faut bien surveiller les traces de PostgreSQL
et PgBouncer.
172
http://www.pgbouncer.org/config.html#example
689
https://dalibo.com/formations
SQL pour PostgreSQL
• Mode du multiplexage
– pool_mode (session)
• Nombre de connexions
– max_client_conn (100)
– default_pool_size (20)
– min_pool_size (0)
– reserve_pool_size (0)
• À la connexion
– ignore_startup_parameter (attention à PGOPTIONS)
• À la déconnexion
– server_reset_query
S’il y a trop de demandes de connexion pour le pool, les transactions sont mises en
attente. Ce peut être ce que l’on veut pour ne pas trop charger le serveur, mais de-
venir intolérable pour l’application. Une « réserve » de connexions peut être définie avec
reserve_pool_size : ces connexions sont utilisables dans une situation grave, c’est-à-
dire si des connexions se retrouvent à attendre plus de reserve_pool_timeout secondes.
690
17. POOLING
À l’inverse, pour faciliter les montées en charge rapides, min_pool_size définit un nom-
bre de connexions qui seront immédiatement ouvertes dès que le pool voit sa première
connexion.
PgBouncer utilise des descripteurs de fichiers pour les connexions. Le nombre de de-
scripteurs peut être bien plus important que ce que n’autorise par défaut le système
d’exploitation. Le maximum théorique est de :
max_client_conn + (max_pool_size * nombre de bases * nombre d’utilisateurs)
Lorsqu’un client se connecte, il peut utiliser des paramètres de connexion que PgBouncer
ne connaît pas ou ne sait pas gérer. Si PgBouncer détecte un paramètre de connexion
qu’il ne connaît pas, il rejette purement et simplement la connexion. Le paramètre
ignore_startup_parameters permet de changer ce comportement, d’ignorer le
paramètre et de procéder à la connexion. Par exemple, une variable d’environnement
PGOPTIONS interdit la connexion depuis psql, il faudra donc définir :
ignore_startup_parameters = options
En fin de connexion du client, comme la connexion vers PostgreSQL peut être réu-
tilisée par un autre client, il est nécessaire de réinitialiser la session : enlever la
configuration de session, supprimer les tables temporaires, supprimer les curseurs, etc.
Pour cela, PgBouncer exécute une liste de requêtes configurables avec le paramètre
server_reset_query. Par défaut il s’agit de DISCARD ALL, ce qui suffira généralement,
mais vous pouvez ajouter d’autres requêtes au besoin.
• D’une requête
– query_timeout = 0
PgBouncer dispose d’un grand nombre de paramètres de durée de vie. Ils permettent
d’éviter de conserver des connexions trop longues, notamment si elles sont inactives.
C’est un avantage sur PostgreSQL qui ne dispose pas de ce type de paramétrage. Les
paramètres en client_* concernent les connexions entre le client et PgBouncer, ceux
en server_* concernent les connexions entre PgBouncer et PostgreSQL.
Il faut faire bien attention à ces configurations. Par exemple, activer client_idle_timeout
(pour couper les connexions inactives) peut couper brutalement la connexion à une
application cliente qui ne s’y attend pas.
• Fichier
– logfile
• Événements tracés
– log_connections
– log_disconnections
– log_pooler_errors
• Statistiques
– log_stats (tous les stats_period s)
Ensuite, il est possible de configurer les événements tracés, notamment les connexions
(avec log_connections) et les déconnexions (avec log_disconnections).
Par défaut, log_stats est activé : PgBouncer trace alors les statistiques sur les dernières
60 secondes (paramètresstats_period).
2020-11-30 19:10:07.839 CET [290804] LOG stats: 54 xacts/s, 380 queries/s,
in 23993 B/s, out 10128 B/s, xact 304456 us, query 43274 us, wait 14685821 us
692
17. POOLING
• Pseudo-base pgbouncer
• Administration
– RELOAD, PAUSE, SUSPEND, RESUME, SHUTDOWN
• Supervision
– SHOW CONFIG|DATABASES|POOLS|CLIENTS|...
– ...|SERVERS|STATS|FDS|SOCKETS|...
– ...|ACTIVE_SOCKETS|LISTS|MEM
Les utilisateurs statistiques peuvent récupérer des informations sur l’activité de Pg-
Bouncer : statistiques sur les bases, les pools de connexions, les clients, les serveurs, etc.
avec SHOW STATS, SHOW STATS_AVERAGE, SHOW TOTALS, SHOW MEM, etc.
Toutes ces informations sont utilisées notamment par la sonde Nagios check_postgres173
pour permettre une supervision de cet outil.
Pour vous connecter à cette pseudo-base, vous pouvez passer par l’utilisateur pgbouncer.
# sudo -iu pgbouncer psql -h /var/run/postgresql -p 6432 pgbouncer
psql (13.1 (Ubuntu 13.1-1.pgdg20.04+1), serveur 1.14.0/bouncer)
693
https://dalibo.com/formations
SQL pour PostgreSQL
DISABLE <db>
ENABLE <db>
RECONNECT [<db>]
KILL <db>
SUSPEND
SHUTDOWN
694
17. POOLING
sv_login | 0
maxwait | 0
maxwait_us | 0
pool_mode | statement
695
https://dalibo.com/formations
SQL pour PostgreSQL
17.7 CONCLUSION
• Un outil pratique :
– pour parer à certaines limites de PostgreSQL
– pour faciliter l’administration
• Limitations généralement tolérables
• Ne jamais installer un pooler sans être certain de son apport :
– SPOF
– complexité
17.7.1 QUESTIONS
696
17. POOLING
Installer PgBouncer.
Configurer /etc/pgbouncer/pgbouncer.ini pour pouvoir se
connecter à n’importe quelle base du serveur via PgBouncer
(port 6432).
Ajouter pooler dans /etc/pgbouncer/userlist.txt.
L’authentification doit être md5.
Ne pas oublier pg_hba.conf.
Suivre le contenu de /var/log/pgbouncer/pgbouncer.log.
Se connecter par l’intermédiaire du pooler sur une base locale.
697
https://dalibo.com/formations
SQL pour PostgreSQL
17.8.4 PGBENCH
698
17. POOLING
Les connexions se feront avec l’utilisateur pooler que nous allons créer avec le (trop évi-
dent) mot de passe « pooler » :
$ createuser --login --pwprompt --echo pooler
Saisir le mot de passe pour le nouveau rôle :
Le saisir de nouveau :
…
CREATE ROLE pooler PASSWORD 'md52a1394e4bcb2e9370746790c13ac33ac'
NOSUPERUSER NOCREATEDB NOCREATEROLE INHERIT LOGIN;
(NB : le hash sera beaucoup plus complexe si le chiffrage SCRAM-SHA-256 est activé,
mais cela ne change rien au principe.)
PostgreSQL trace les rejets de connexion, mais, dans notre cas, il est intéressant de suivre
aussi les connexions abouties.
Dans postgresql.conf :
log_connections = on
log_disconnections = on
log_min_duration_statement = 0
Installer PgBouncer.
Configurer /etc/pgbouncer/pgbouncer.ini pour pouvoir se
connecter à n’importe quelle base du serveur via PgBouncer
(port 6432).
Ajouter pooler dans /etc/pgbouncer/userlist.txt.
L’authentification doit être md5.
Ne pas oublier pg_hba.conf.
699
https://dalibo.com/formations
SQL pour PostgreSQL
usename | passwd
---------+-------------------------------------
pooler | md52a1394e4bcb2e9370746790c13ac33ac
Il vaut mieux que seul l’utilisateur système dédié (pgbouncer sur Red Hat/CentOS) voit
ce fichier :
sudo chown pgbouncer: userlist.txt
De plus il faut préciser dans pgbouncer.ini que nous fournissons des mots de passe
hachés :
auth_type = md5
auth_file = /etc/pgbouncer/userlist.txt
Si ce n’est pas déjà possible, il faut autoriser l’accès de pooler en local à l’instance Post-
greSQL. Du point de vue de PostgreSQL, les connexions se feront depuis 127.0.0.1 (IP du
pooler). Ajouter cette ligne dans le fichier pg_hba.conf et recharger la configuration de
l’instance :
host all pooler 127.0.0.1/32 md5
700
17. POOLING
postgres=>
Dans pgbouncer.log :
2020-12-02 08:42:35.917 UTC [2208] LOG C-0x152a490: postgres/pooler@127.0.0.1:55096
login attempt: db=postgres user=pooler tls=no
Noter qu’en cas d’erreur de mot de passe, l’échec apparaîtra dans ce dernier fichier, et
pas dans postgresql.log.
; comma-separated list of users who are just allowed to use SHOW command
stats_users = stats, postgres,pooler
Si une connexion via PgBouncer est ouverte par ailleurs, on la retrouve ici :
pgbouncer=# SHOW POOLS \gx
-[ RECORD 1 ]---------
database | pgbouncer
701
https://dalibo.com/formations
SQL pour PostgreSQL
user | pgbouncer
cl_active | 1
cl_waiting | 0
sv_active | 0
sv_idle | 0
sv_used | 0
sv_tested | 0
sv_login | 0
maxwait | 0
maxwait_us | 0
pool_mode | statement
-[ RECORD 2 ]---------
database | postgres
user | pooler
cl_active | 1
cl_waiting | 0
sv_active | 1
sv_idle | 0
sv_used | 0
sv_tested | 0
sv_login | 0
maxwait | 0
maxwait_us | 0
pool_mode | session
postgres=>
702
17. POOLING
Ici, PgBouncer a donc bien ouvert autant de connexions côté serveur que côté pooler.
Dans la deuxième :
BEGIN ;
INSERT INTO log SELECT now() ;
END ;
Du point de vue du serveur PostgreSQL, tout s’est passé dans la même session (même
PID) :
… 10:01:45.448 UTC [2841] LOG: duration: 0.025 ms statement: BEGIN ;
… 10:01:45.450 UTC [2841] LOG: duration: 0.631 ms statement: CREATE TABLE log (i timestamptz) ;
… 10:01:45.454 UTC [2841] LOG: duration: 4.037 ms statement: COMMIT ;
704
17. POOLING
Session 1 :
Session 2 :
Cette deuxième connexion va rester ouverte, mais elle n’est pas forcément associée à la
deuxième session. Cela peut se voir simplement ainsi en demandant le PID du backend
sur le serveur, qui sera le même dans les deux sessions :
pg_backend_pid
----------------
2841
soit :
* = host=127.0.0.1 port=5432 pool_mode=statement
Redémarrage du pooler :
# systemctl restart pgbouncer
706
17. POOLING
17.9.4 PGBENCH
Le pooler n’est pas configuré pour que postgres puisse s’y connecter, il faut donc se con-
necter directement à l’instance pour créer la base :
postgres$ createdb -h /var/run/postgresql -p 5432 --owner pooler bench
NB : Pour des résultats rigoureux, pgbench doit être utilisé sur une plus longue durée.
On recommence directement sur l’instance. (Si l’ordre échoue par saturation des connex-
ions, il faudra attendre que PgBouncer relâche les 20 connexions qu’il a gardées ouvertes.)
$ /usr/pgsql-13/bin/pgbench \
--select -T 60 -c 80 -p 5432 -U pooler -h 127.0.0.1 -d bench 2>/dev/null
starting vacuum...end.
transaction type: <builtin: select only>
scaling factor: 100
query mode: simple
number of clients: 80
number of threads: 1
duration: 60 s
number of transactions actually processed: 241482
latency average = 19.884 ms
tps = 4023.255058 (including connections establishing)
tps = 4023.573501 (excluding connections establishing)
Le test n’est pas assez rigoureux (surtout sur une petite machine de test) pour dire plus
que : les résultats sont voisins.
Sur le serveur :
$ /usr/pgsql-13/bin/pgbench \
-C --select -T 60 -c 80 -p 5432 -U pooler -h 127.0.0.1 -d bench 2>/dev/null
Password:
transaction type: <builtin: select only>
scaling factor: 100
query mode: simple
number of clients: 80
number of threads: 1
duration: 60 s
number of transactions actually processed: 9067
latency average = 529.654 ms
tps = 151.041956 (including connections establishing)
tps = 152.922609 (excluding connections establishing)
708
17. POOLING
On ne retrouve pas les performances originales, mais le gain est tout de même d’un facteur
5, puisque les connexions existantes sur le serveur PostgreSQL sont réutilisées et n’ont
pas à être recréées.
Pendant ce dernier test, on peut consulter les connexions ouvertes : il n’y en que 20, pas
80. Noter le grand nombre de celles en attente.
pgbouncer=# SHOW POOLS \gx
-[ RECORD 1 ]---------
database | bench
user | pooler
cl_active | 20
cl_waiting | 54
sv_active | 20
sv_idle | 0
sv_used | 0
sv_tested | 0
sv_login | 0
maxwait | 0
maxwait_us | 73982
pool_mode | session
…
Ces tests n’ont pas pour objectif d’être représentatif mais juste de mettre en évidence le
coût d’ouverture/fermeture de connexion. Dans ce cas, le pooler peut apporter un gain
très significatif sur les performances.
709
https://dalibo.com/formations
NOTES
NOTES
NOTES
NOTES
NOS AUTRES PUBLICATIONS
FORMATIONS
LIVRES BLANCS
• Industrialiser PostgreSQL
TÉLÉCHARGEMENT GRATUIT
Les versions électroniques de nos publica ons sont disponibles gratuitement sous licence
open-source ou sous licence Crea ve Commons. Contactez-nous à l’adresse contact@
dalibo.com pour plus d’informa on.
DALIBO, L’EXPERTISE POSTGRESQL
Depuis 2005, DALIBO met à la disposi on de ses clients son savoir-faire dans le domaine
des bases de données et propose des services de conseil, de forma on et de support aux
entreprises et aux ins tu onnels.