20.06
Dalibo SCOP
https://dalibo.com/formations
Formation DEVSQLPG
TITRE : SQL pour PostgreSQL
SOUS-TITRE : Formation DEVSQLPG
REVISION: 20.06
DATE: 10 juin 2020
ISBN: -----------------
COPYRIGHT: © 2005-2020 DALIBO SARL SCOP
LICENCE: Creative Commons BY-NC-SA
Le logo éléphant de PostgreSQL (« Slonik ») est une création sous copyright et le nom
« PostgreSQL » est une marque déposée par PostgreSQL Community Association of
Canada.
À propos de DALIBO :
Dalibo ne peut retirer les autorisations concédées par la licence tant que vous appliquez
les termes de cette licence selon les conditions suivantes :
Attribution : Vous devez créditer l’œuvre, intégrer un lien vers la licence et indiquer si des
modifications ont été effectuées à l’œuvre. Vous devez indiquer ces informations par tous
les moyens raisonnables, sans toutefois suggérer que Dalibo vous soutient ou soutient la
façon dont vous avez utilisé ce document.
Pas d’Utilisation Commerciale: Vous n’êtes pas autorisé à faire un usage commercial de ce
document, tout ou partie du matériel le composant.
Partage dans les Mêmes Conditions : Dans le cas où vous effectuez un remix, que vous
transformez, ou créez à partir du matériel composant le document original, vous devez
diffuser le document modifié dans les même conditions, c’est à dire avec la même licence
avec laquelle le document original a été diffusé.
Pas de restrictions complémentaires : Vous n’êtes pas autorisé à appliquer des conditions
légales ou des mesures techniques qui restreindraient légalement autrui à utiliser le doc-
ument dans les conditions décrites par la licence.
Note : Ceci est un résumé de la licence. Le texte complet est disponible ici :
https://creativecommons.org/licenses/by-nc-sa/2.0/fr/legalcode
Pour toute demande au sujet des conditions d’utilisation de ce document, envoyez vos
questions à contact@dalibo.com !
Chers lectrices & lecteurs,
Au-delà du contenu technique en lui-même, notre intention est de transmettre les valeurs
qui animent et unissent les développeurs de PostgreSQL depuis toujours : partage, ou-
verture, transparence, créativité, dynamisme... Le but premier de nos formations est de
vous aider à mieux exploiter toute la puissance de PostgreSQL mais nous espérons égale-
ment qu’elles vous inciteront à devenir un membre actif de la communauté en partageant
à votre tour le savoir-faire que vous aurez acquis avec nous.
Nous mettons un point d’honneur à maintenir nos manuels à jour, avec des informations
précises et des exemples détaillés. Toutefois malgré nos efforts et nos multiples relec-
tures, il est probable que ce document contienne des oublis, des coquilles, des impréci-
sions ou des erreurs. Si vous constatez un souci, n’hésitez pas à le signaler via l’adresse
formation@dalibo.com !
Table des Matières
10
Table des Matières
14 Partitionnement 567
14.1 Principe & intérêts du partitionnement . . . . . . . . . . . . . . . . . . 567
14.2 Partitionnement applicatif . . . . . . . . . . . . . . . . . . . . . . . . . 568
14.3 Historique du partitionnement sur PostgreSQL . . . . . . . . . . . . . . 568
14.4 Partitionnement par héritage . . . . . . . . . . . . . . . . . . . . . . . . 569
14.5 Partitionnement déclaratif . . . . . . . . . . . . . . . . . . . . . . . . . 573
14.6 Extensions & outils . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 585
14.7 Travaux pratiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 587
12
Table des Matières
13
https://dalibo.com/formations
SQL pour PostgreSQL
14
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.1 PRÉAMBULE
• Quelle histoire !
– parmi les plus vieux logiciels libres
– et les plus sophistiqués
• Souvent cité comme exemple
– qualité du code
– indépendance des développeurs
– réactivité de la communauté
L’histoire de PostgreSQL est longue, riche et passionnante. Au côté des projets libres
Apache et Linux, PostgreSQL est l’un des plus vieux logiciels libres en activité et fait partie
des SGBD les plus sophistiqués à l’heure actuelle.
Au sein des différentes communautés libres, PostgreSQL est souvent cité comme exemple
à différents niveaux :
• qualité du code ;
• indépendance des développeurs et gouvernance du projet ;
• réactivité de la communauté ;
• stabilité et puissance du logiciel.
Tous ces atouts font que PostgreSQL est désormais reconnu et adopté par des milliers de
grandes sociétés de par le monde.
1.1.1 AU MENU
Cette première partie est un tour d’horizon pour découvrir les multiples facettes du sys-
tème de base de données libre PostgreSQL.
Les deux premières parties expliquent la genèse du projet et détaillent les différences
entres les versions successives du logiciel. PostgreSQL est un des plus vieux logiciels
open source ! Comprendre son histoire permet de mieux réaliser le chemin parcouru et
les raisons de son succès.
15
https://dalibo.com/formations
SQL pour PostgreSQL
Nous verrons ensuite quelques projets satellites et nous listerons quelques utilisateurs
renommés et cas d’utilisations remarquables.
• La licence
• L’origine du nom
• Les origines du projet
• Les principes
1.2.1 LICENCE
• Licence PostgreSQL
– BSD / MIT
– https://www.postgresql.org/about/licence/
• Droit, sans coûts de licence, de :
– utiliser, copier, modifier, distribuer, revendre
• Reconnue par l’Open Source Initiative
– https://opensource.org/licenses/PostgreSQL
• Utilisée par un grand nombre de projets de l’écosystème
PostgreSQL est distribué sous une licence spécifique, combinant la licence BSD et la li-
cence MIT. Cette licence spécifique est reconnue comme une licence libre par l’Open
Source Initiative.
Cette licence a ensuite été reprise par de nombreux projets de la communauté : pgAdmin,
pgCluu, pgstat, etc.
16
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
En 1995, avec l’ajout du support du langage SQL, Postgres fut renommé Postgres95 puis
PostgreSQL.
Aujourd’hui, le nom officiel est « PostgreSQL » (prononcez « post - gresse - Q - L »). Cepen-
dant, le nom « Postgres » est accepté comme alias.
Pour aller plus loin :
• Fil de discussion sur les listes de discussiona
• Article sur le wiki officielb
Depuis son origine, PostgreSQL a toujours privilégié la stabilité et le respect des standards
plutôt que les performances.
Ceci explique en partie la réputation de relative lenteur et de complexité face aux autres
SGBD du marché. Cette image est désormais totalement obsolète, notamment grâce aux
avancées réalisées depuis les versions 8.x.
La sécurité des données est un point essentiel. Un utilisateur doit être certain qu’à partir
du moment où il a exécuté l’odre COMMIT d’une transaction, les données modifiées rel-
atives à cette transaction se trouvent bien sur disque et que même un crash ne pourra
a
https://archives.postgresql.org/pgsql-advocacy/2007-11/msg00109.php
b
https://wiki.postgresql.org/wiki/Postgres
17
https://dalibo.com/formations
SQL pour PostgreSQL
pas les faire disparaitre. PostgreSQL est très attaché à ce concept et fait son possible
pour forcer le système d’exploitation à ne pas conserver les données en cache, mais de
les écriture sur disque dès l’arrivée d’un COMMIT.
Le respect des normes est un autre principe très respecté. Les devéloppeurs de Post-
greSQL cherchent à coller à la norme le plus possible. PostgreSQL n’est pas compatible
à 100%, aucun moteur ne l’est, mais il cherche à s’en approcher. Tout nouvel ajout d’une
syntaxe ne sera accepté que si la syntaxe de la norme est ajoutée. Des extensions sont
acceptées pour différentes raisons (performances, fonctionnalité en avance sur le comité
de la norme, facilité de transition d’un moteur de bases de données à un autre) mais si une
fonctionnalité existe dans la norme, une syntaxe différente ne peut être acceptée que si
la syntaxe de la norme est elle-aussi présente.
Ajouter des fonctionnalités est évidemment l’un des buts des développeurs de Post-
greSQL. Cependant, comme il s’agit d’un projet libre, rien n’empêche un développeur de
proposer une fonctionnalité, de la faire intégrer, puis de disparaitre laissant aux autres
la responsabilité de la corriger le cas échéant. Comme le nombre de développeurs de
PostgreSQL est restreint, il est important que les fonctionnalités ajoutées soient vraiment
utile au plus grand nombre pour justifier le coût potentiel du débogage. Donc ne sont
ajoutées dans PostgreSQL que ce qui est vraiment le coeur du moteur de bases de
données et que ce qui sera utilisé vraiment par le plus grand nombre. Une fonctionnalité
qui ne sert que une à deux personnes aura très peu de chances d’être intégrée.
Les performances ne viennent qu’après tout ça. En effet, rien ne sert d’avoir une modifi-
cation du code qui permet de gagner énormément en performance si cela met en péril le
stockage des données.
La simplicité du code est un point important. Le code est relu scrupuleusement par dif-
férents contributeurs pour s’assurer qu’il est facile à lire et à comprendre. En effet, cela
facilitera le débogage plus tard si cela devient nécessaire.
Enfin, la documentation est là-aussi un point essentiel dans l’admission d’une nouvelle
fonctionnalité. En effet, sans documentation, peu de personnes pourront connaître cette
fonctionnalité. Très peu sauront exactement ce qu’elle est supposée faire, et il serait
donc très difficile de déduire si un problème particulier est un manque actuel de cette
fonctionnalité ou un bug.
Tous ces points sont vérifiés à chaque relecture d’un patch (nouvelle fonctionnalité ou
correction).
18
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.2.4 ORIGINES
En 2000 apparaît la communauté japonaise. Elle dispose d’un grand groupe, capable de
réaliser des conférences chaque année, d’éditer des livres et des magazines. Elle compte
au dernier recensement connu, plus de 3000 membres.
En 2004 naît l’association française (loi 1901) appelée PostgreSQL Fr. Cette associa-
tion a pour but de fournir un cadre légal pour pouvoir participer à certains événements
a
https://www.postgresql.org/docs/current/static/history.html
19
https://dalibo.com/formations
SQL pour PostgreSQL
comme Solutions Linux, les RMLL ou d’en organiser comme le pgDay.fr (qui a déjà eu lieu
à Toulouse, Nantes, Lyon, Toulon, Marseilles). Elle permet aussi de récolter des fonds pour
aider à la promotion de PostgreSQL.
En 2006, le PGDG intègre Software in the Public Interest, Inc. (SPI)1 , une organisation à
but non lucratif chargée de collecter et redistribuer des financements. Ce n’est pas une
organisation spécifique à PostgreSQL. Elle a été créée à l’initiative de Debian et dispose
aussi de membres comme LibreOffice.org.
En 2008, douze ans après la création du projet, des associations d’utilisateurs apparais-
sent pour soutenir, promouvoir et développer PostgreSQL à l’échelle internationale. Post-
greSQL UK organise une journée de conférences à Londres, PostgreSQL Fr en organise
une à Toulouse. Des « sur-groupes » apparaissent aussi pour aider les groupes. PGUS
apparaît pour consolider les différents groupes américains d’utilisateurs PostgreSQL. Ces
derniers étaient plutôt créés géographiquement, par état ou grosse ville. Ils peuvent re-
joindre et être aidés par cette organisation. De même en Europe arrive PostgreSQL Eu-
rope, une association chargée d’aider les utilisateurs de PostgreSQL souhaitant mettre en
place des événements. Son principal travail est l’organisation d’un événement majeur en
Europe tous les ans : pgconf.eu. Cet événement a eu lieu la première fois en France (sous
le nom pgday.eu) à Paris, en 2009, puis en Allemagne à Stuttgart en 2010, à Amsterdam en
2011, à Prague en 2012, à Dublin en 2013, à Madrid en 2014, à Vienne en 2015, à Tallin
en 2016, à Varsovie en 2017, à Lisbonne en 2018 et à Milan en 2019. La prochaine aura
lieu à Berlin en 2020. Cependant, elle aide aussi les communautés allemande, française
et suédoise à monter leur propre événément (respectivement pgconf.de, pgday.paris et
nordic pgday).
En 2010, on dénombre plus d’une conférence par mois consacrée uniquement à Post-
greSQL dans le monde. Ce mouvement n’est pas prêt de s’arrêter :
• Communauté japonaise2
• Communauté francophone3
• Communauté italienne4
• Communauté européenne5
• Communauté US6
En 2011, l’association Postgres Community Association of Canada voit le jour. Elle est
créée par quelques membres de la Core Team pour gérer le nom déposé PostgreSQL, le
1
https://fr.wikipedia.org/wiki/Software_in_the_Public_Interest
2
https://www.postgresql.jp/
3
https://www.postgresql.fr/
4
https://www.itpug.org/
5
https://www.postgresql.eu/
6
https://www.postgresql.us/
20
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
logo, le nom de domaine sur Internet, etc. Josh Berkus en a fait l’annonce sur ce mail7
sur la liste pgsql-hackers.
On note une augmentation constante depuis 2000 avec une croissance régulière
d’environ 25 000 lignes de code C par an. Le plus intéressant est certainement de noter
que l’évolution est constante. Il n’y a pas de gros pics, ni dans un sens, ni dans l’autre.
L’autre point intéressant dans ce graphe concerne le ratio entre le nombre de lignes de
code (en bleu) et celui des commentaires (en gris). On a à peu près un tiers de commen-
taires pour deux tiers de lignes de code. Ce ratio montre que le code est très commenté,
très documenté. Ceci fait qu’il est facile à lire, et donc pratique à déboguer. Et le ratio ne
change pas au fil des ans.
Actuellement, PostgreSQL est composé d’1,3 million de lignes de code (dont un quart de
commentaires), essentiellement en C, pour environ 200 développeurs actifs.
7
https://www.postgresql.org/message-id/4DC440BE.5040104%40agliodbs.com%3E
8
https://www.postgresql.org/community/recognition/
9
https://www.openhub.net/p/postgres
21
https://dalibo.com/formations
SQL pour PostgreSQL
• Versions obsolètes
– 9.4 et antérieures
• Versions actuelles pour production
– de 9.5 à 12
• Version en cours de développement
– 13
• Versions dérivées
1.3.1 HISTORIQUE
10
https://en.wikipedia.org/wiki/Template:Timeline_PostgreSQL
11
https://www.postgresql.org/support/versioning/
22
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.3.2 HISTORIQUE
La version 7.4 est la première version réellement stable. La gestion des journaux de trans-
actions a été nettement améliorée, et de nombreuses optimisations ont été apportées au
moteur.
La version 8.0 marque l’entrée tant attendue de PostgreSQL dans le marché des SGDB
de haut niveau, en apportant des fonctionnalités telles que les tablespaces, les routines
stockées en Java, le Point In Time Recovery, ainsi qu’une version native pour Windows.
La version 8.3 se focalise sur les performances et les nouvelles fonctionnalités. C’est aussi
la version qui a causé un changement important dans l’organisation du développement :
gestion des commitfests, création de l’outil web commitfest, etc.
Les versions 9.x sont axées réplication physique. La 9.0 intègre un système de réplication
asynchrone asymétrique. La version 9.1 ajoute une réplication synchrone et améliore de
nombreux points sur la réplication (notamment pour la partie administration et supervi-
sion). La version 9.2 apporte la réplication en cascade. La 9.3 et la 9.4 ajoutent quelques
améliorations supplémentaires. La version 9.4 intègre surtout les premières briques pour
l’intégration de la réplication logique dans PostgreSQL. La version 9.6 apporte la paralléli-
sation, ce qui était attendu par de nombreux utilisateurs.
Il est toujours possible de télécharger les sources depuis la version 1.0 jusqu’à la version
courante sur postgresql.org12 .
12
https://www.postgresql.org/ftp/source/
23
https://dalibo.com/formations
SQL pour PostgreSQL
1.3.3 NUMÉROTATION
• Avant la version 10
– X.Y : version majeure (8.4, 9.6)
– X.Y.Z : version mineure (9.6.10)
• Après la version 10
– X : version majeure (10, 11, 12)
– X.Y : version mineure (10.5)
• Mise à jour en général sans souci
– Release notes
– Tests
– Redémarrage
Une version mineure ne comporte que des corrections de bugs ou de failles de sécurité.
Les publications de versions mineures sont plus fréquentes que celles de versions ma-
jeures, avec un rythme de sortie trimestriel, sauf bug majeur ou faille de sécurité. Chaque
bug est corrigé dans toutes les versions stables actuellement maintenues par le projet.
En général, les mises à jour se font sans soucis et ne nécessitent qu’un redémarrage. Mais
comme pour toute mise à jour, il convient d’être prudent sur d’éventuels effets de bord.
En particulier, on lira les Release Notes et, si possible, on testera ailleurs qu’en production.
Toutefois, même si cette philosophie reste très présente parmi les développeurs, depuis
quelques années, les choses évoluent et la tendance actuelle est de livrer une version
24
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
stable majeure tous les 12 à 15 mois, tout en conservant la qualité des versions. De ce
fait, toute fonctionnalité supposée pas suffisamment stable est repoussée à la version
suivante.
La tendance actuelle est de garantir un support pour chaque version courante pendant
une durée minimale de 5 ans. Ainsi, La version 9.2 n’est plus supportée septembre 2017,
la 9.3 depuis novembre 2018, la 9.4 depuis février 2020. La prochaine version qui subira
ce sort est la 9.5 en février 2021. Le support de la version 12 devrait durer jusqu’en 2024.
Pour plus de détails : Politique de versionnementa , Roadmap des versions mineuresb .
a
https://www.postgresql.org/support/versioning/
b
https://www.postgresql.org/developer/roadmap/
a
https://wiki.postgresql.org/wiki/What%27s_new_in_PostgreSQL_9.5
b
https://kb.dalibo.com/conferences/nouveautes_de_postgresql_9.5
25
https://dalibo.com/formations
SQL pour PostgreSQL
1.3.7 VERSION 10
Cependant, d’autres améliorations devraient attirer les utilisateurs comme celles concer-
nant le partitionnement déclaratif, les tables de transition ou encore les améliorations sur
la parallélisation.
26
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.3.8 VERSION 11
1.3.9 VERSION 12
a
https://wiki.postgresql.org/wiki/New_in_postgres_10
b
https://github.com/dalibo/workshops/tree/master/fr
27
https://dalibo.com/formations
SQL pour PostgreSQL
• Versions 7.x
– fondations
– durabilité
• Versions 8.x
– fonctionnalités
– performances
• Versions 9.x
– réplication physique
– extensibilité
• Versions 10, 11 et 12
– réplication logique
– parallélisation
Si nous essayons de voir cela avec de grosses mailles, les développements des versions 7
ciblaient les fondations d’un moteur de bases de données stable et durable. Ceux des ver-
sions 8 avaient pour but de rattraper les gros acteurs du marché en fonctionnalités et en
performances. Enfin, pour les versions 9, on est plutôt sur la réplication et l’extensibilité.
• 9.4 et inférieures
– Danger !
• 9.5
– planifier une migration rapidement
• 9.6, 10 et 11
– mise à jour uniquement
• 12
– nouvelles installations et nouveaux développements
Si vous avez une version 9.4 ou inférieure, planifiez le plus rapidement possible une mi-
gration vers une version plus récente, comme la 10 ou la 11. La 9.4 n’est plus maintenue
28
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
depuis février 2020. Si vous utilisez cette version ou une version antérieure, il serait bon
de commencer à étudier une migration de version dès que possible.
Toute version 9.5 devrait faire l’objet d’une mise à jour majeure le plus rapidement possi-
ble.
Pour les versions 9.6, 10, 11 et 12, le plus important est d’appliquer les mises à jour
correctives.
Les versions 11 et 12 sont officiellement stables depuis plusieurs mois. Ces versions
peuvent être utilisées pour les nouvelles installations en production.
La version 12, sortie en octobre 2019, peut également être utilisée pour les nouveaux pro-
jets. L’expérience montre qu’une version .0 est généralement stable, bien que nombre de
DBA préfèrent attendre les premières mises à jour mineures pour la mise en production.
Tableau comparatif des versionsa .
• Compatibilité Oracle
– EnterpriseDB
• Data warehouse
– Greenplum
– Netezza
– Amazon RedShift, Aurora
• Versions spécialisées
– BDR (multi-maître, fermé)
• Packages avec des outils & support
Des exemples connus sont Greenplum, de Pivotal, ou Netezza, d’IBM, dédiés aux en-
trepôts de données, dérivés d’anciennes versions de PostgreSQL. Greenplum fait l’effort
de se raccrocher au PostgreSQL communautaire toutes les quelques années, ce n’est pas
le cas de Netezza.
29
https://dalibo.com/formations
SQL pour PostgreSQL
Des versions existent qui tentent de combler certains manques. EDB Postgres Advanced
Server d’EnterpriseDB permet de faciliter la migration depuis Oracle (mais est soumise
à licence). BDR, de 2nd Quadrant, est un fork visant à fournir une version multimaître
de PostgreSQL, mais le code a été refermé dans les dernières versions. La société russe
Postgres Pro, tout comme EnterpriseDB, proposent diverses fonctionnalités dans leurs
versions propres, tout en proposant souvent leur inclusion dans la version communautaire
— ce qui n’est pas automatique.
Il existe une liste exhaustive des « forks »a , ainsi que cette conférence de Josh Berkusb
de 2009.
Sauf cas très précis, il est recommandé d’utiliser la version officielle, libre et gratuite.
Voici un schéma des différentes versions de PostgreSQL ainsi que des versions dérivées.
Cela montre principalement l’arrivée annuelle d’une nouvelle version majeure, ainsi que
a
https://wiki.postgresql.org/wiki/PostgreSQL_derived_databases
b
https://www.slideshare.net/pgconf/elephant-roads-a-tour-of-postgres-forks
30
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
de la faible résistance des versions dérivées. La majorité n’a pas survécu à la vitalité du
développement de PostgreSQL.
En conséquence, les éditeurs ont plus tendance de nos jours à publier des extensions à
PostgreSQL (parfois payantes selon la version) plutôt que de procéder à des forks difficile-
ment maintenables (citus, timescaledb...).
• Administration
• Sauvegarde
• Supervision
• Migration
• SIG
PostgreSQL n’est qu’un moteur de bases de données. Quand vous l’installez, vous n’avez
que ce moteur. Vous disposez de quelques outils en ligne de commande (détaillés dans
nos modules « Outils graphiques et consoles » et « Tâches courantes ») mais aucun outil
graphique n’est fourni.
Par choix, nous ne présenterons ici que des logiciels libres et gratuits. Pour chaque problé-
matique, il existe aussi des solutions propriétaires. Ces solutions peuvent parfois apporter
des fonctionnalités inédites. On peut néanmoins considérer que l’offre de la communauté
Open-Source répond à la plupart des besoins des utilisateurs de PostgreSQL.
• Administration
– pgAdmin
– OmniDB
• Développement
– DBeaver
• Modélisation
– pgModeler
31
https://dalibo.com/formations
SQL pour PostgreSQL
1.6.2 SAUVEGARDES
• Export logique
– pg_back
• Sauvegarde PITR
– pitrery, barman, pgbackrest
Les outils listés dans ce slide sont les outils principaux pour la réalisation des sauvegardes
et la gestion de leur rétention. Certains permettent aussi la restauration. Ils se basent de
toute façon sur les moyens standards de faire une sauvegarde.
1.6.3 SUPERVISION
• pgBadger
• PoWA
• check_pgactivity
Ce ne sont que trois outils parmi les très nombreux outils disponibles.
pgBadger est l’outil de base à avoir pour les analyses (a posteriori) des traces de Post-
greSQL.
PoWA est composé d’une extension qui historise les statistiques récupérées par
l’extension pg_stat_statements et d’une application web qui permet de récupérer les
requêtes et leur statistiques facilement.
check_pgactivity est une sonde Nagios pouvant récupérer un grand nombre de statis-
tiques d’activités renseignées par PostgreSQL. Il faut de ce fait un serveur Nagios (ou un
de ses nombreux forks ou surcharges) pour gérer les alertes et les graphes.
13
https://wiki.postgresql.org/wiki/Community_Guide_to_PostgreSQL_GUI_Tools
32
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.6.4 MIGRATION
Il existe de nombreux outils pour migrer vers PostgreSQL une base de données utilisant un
autre moteur. Ce qui pose le plus problème en pratique est le code applicatif (procédures
stockées).
Ora2Pg14 , de Gilles Darold, convertit le schéma de données, migre les données, et tente
même de convertir le code PL/SQL en PL/pgSQL. Il convertit aussi des bases MySQL.
db2topg16 génère les scripts de conversion et de migration depuis une base DB2 UDB
(mais pas zOS).
Ces outils sont libres. Des sociétés vivant de la prestation de service autour de la migra-
tion ont également souvent développé les leurs.
14
http://ora2pg.darold.net/
15
https://github.com/dalibo/sqlserver2pgsql
16
https://github.com/dalibo/db2topg
17
https://pgloader.io/
33
https://dalibo.com/formations
SQL pour PostgreSQL
PostGIS a été développé par la société Refractions Research comme une technologie
Open-Source de base de données spatiale. Cette société continue à développer PostGIS,
soutenue par une communauté active de contributeurs.
La version 2.0 apporte de nombreuses nouveautés attendues par les utilisateurs comme
le support des fonctionnalités raster et les surfaces tridimensionnelles.
34
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• Sponsors
• Références
– françaises
– et internationales
Au-delà de ses qualités, PostgreSQL suscite toujours les mêmes questions récurrentes :
1.7.1 SPONSORS
EnterpriseDB est une société américaine qui a décidé de fournir une version de Post-
greSQL propriétaire fournissant une couche de compatibilité avec Oracle. Ils emploient
plusieurs codeurs importants du projet PostgreSQL (dont deux font partie de la Core Team),
et reversent un certain nombre de leurs travaux au sein du moteur communautaire. Ils ont
aussi un poids financier qui leur permet de sponsoriser la majorité des grands événements
autour de PostgreSQL : PGEast et PGWest aux États-Unis, PGDay en Europe.
18
https://www.postgresql.org/about/sponsors/
35
https://dalibo.com/formations
SQL pour PostgreSQL
2nd Quadrant est une société anglaise fondée par Simon Riggs, développeur PostgreSQL
de longue date. Elle développe de nombreux outils autour de PostgreSQL comme pglogi-
cal, des versions dérivées comme Postgres-XL ou BDR, dont le code se retrouve souvent
dans la version communautaire après maturation, ou des outils annexes comme barman
ou repmgr.
Des sociétés comme Citusdata et Pivotal proposent ou ont proposé leur version dérivée
mais « jouent le jeu » et participent au développement de la version communautaire, no-
tamment en cherchant à ce que leur produit n’en diverge pas.
Ont également contribué à PostgreSQL nombre de sociétés non centrées autour des
bases de données.
Entre 2006 et 2016, le système d’exploitation Unix Solaris 10 de Sun embarquait Post-
greSQL dans sa distribution de base, comme base de données de référence. Cela a pris
fin avec le rachat par Oracle, sans que cela ait représenté un danger pour PostgreSQL.
Red Hat a longtemps employé Tom Lane à plein temps pour travailler sur PostgreSQL. Il
a pu dédier une très grande partie de son temps de travail à ce projet, bien qu’il ait eu
19
https://www.postgresql.org/about/sponsors/
20
https://www.dalibo.org/contributions
21
https://wiki.postgresql.org/wiki/Streaming_Replication
36
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
d’autres affectations au sein de Red Hat. Tom Lane a travaillé également chez SalesForce,
ensuite il a rejoint Crunchy Data Solutions fin 2015.
Skype a offert un certain nombre d’outils très intéressants : pgBouncer (pooler de connex-
ion), Londiste (réplication par trigger), etc. Ce sont des outils utilisés en interne et publiés
sous licence BSD comme retour à la communauté. Le rachat par Microsoft n’a pas affecté
le développement de ces outils.
Des sociétés liées au cloud comme Conova (Autriche), Heroku ou Rackspace (États-Unis)
figurent aussi parmi les sponsors.
1.7.2 RÉFÉRENCES
• Météo France
• IGN
• RATP, SNCF, Autolib
• CNAF
• MAIF, MSA
• Le Bon Coin
• Doctolib
• Air France-KLM
• Société Générale
• Carrefour, Leclerc, Leroy Merlin
• Instagram, Zalando, TripAdvisor
• Yandex
• CNES
• ...et plein d’autres
Météo France utilise PostgreSQL depuis plus d’une décennie pour l’essentiel de ses bases,
dont des instances critiques de plusieurs téraoctets (témoignage sur postgresql.fr22 ).
La Caisse Nationale d’Allocations Familiales a remplacé ses mainframes par des instances
PostgreSQL25 dès 2010 (4 To et 1 milliard de requêtes par jour).
22
https://www.postgresql.fr/temoignages/meteo_france
23
http://postgis.refractions.net/documentation/casestudies/ign/
24
https://www.journaldunet.com/solutions/dsi/1013631-la-ratp-integre-postgresql-a-son-systeme-d-information/
25
https://www.silicon.fr/cnaf-debarrasse-mainframes-149897.html?inf_by=5bc488a1671db858728b4c35
37
https://dalibo.com/formations
SQL pour PostgreSQL
Dès 2009, Leroy Merlin migrait vers PostgreSQL des milliers de logiciels de caisse31 .
Yandex, équivalent russe de Google a décrit en 2016 la migration des 300 To de données
de Yandex.Mail depuis Oracle vers PostgreSQL32 .
Autolib à Paris utilisait PostgreSQL. Le logiciel est encore utilisé dans les autres villes où
le service continue. Ils ont décrit leur infrastructure au PG Day 2018 à Marseille34 .
Cette liste ne comprend pas les innombrables sociétés qui n’ont pas communiqué sur
le sujet. PostgreSQL étant un logiciel libre, il n’existe nulle part de dénombrement des
instances actives.
26
https://media.postgresql.org/sfpug/instagram_sfpug.pdf
27
http://gotocon.com/dl/goto-berlin-2013/slides/HenningJacobs_and_ValentineGogichashvili_
WhyZalandoTrustsInPostgreSQL.pdf
28
https://www.postgresql.eu/events/pgconfeu2018/schedule/session/2135-highway-to-hell-or-stairway-to-cloud/
29
https://jobs.zalando.com/tech/blog/zalandos-patroni-a-template-for-high-availability-postgresql/
30
https://www.citusdata.com/blog/25-terry/285-matthew-kelly-tripadvisor-talks-about-pgconf-silicon-valley
31
https://wiki.postgresql.org/images/6/63/Adeo_PGDay.pdf
32
https://www.pgcon.org/2016/schedule/attachments/426_2016.05.19%20Yandex.Mail%20success%20story.pdf
33
https://github.com/societe-generale/code2pg
34
https://www.youtube.com/watch?v=vd8B7B-Zca8
35
https://www.postgresql.fr/entreprises/accueil
38
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
PostgreSQL tient la charge sur de grosses bases de données et des serveurs de grande
taille.
Le Bon Coin privilégie des serveurs physiques dans ses propres datacenters.
Pour plus de détails et l’évolution de la configuration, voir les témoignages de ses di-
recteurs technique36 (témoignage de juin 2012) et infrastructure37 (juin 2017), ou la
conférence de son DBA Flavio Gurgel au pgDay Paris 201938 .
Ce dernier s’appuie sur les outils classiques fournis par la communauté : pg_dump (pour
archivage, car ses exports peuvent être facilement restaurés), barman, pg_upgrade.
1.7.4 DOCTOLIB
Doctolib est le site de rendez-vous médicaux en ligne dominant sur le marché français,
couvrant 65 000 professionnels de santé, 1300 cliniques, hôpitaux et centres de santé,
et des millions de patients.
Une seule instance primaire PostgreSQL suffit, sans partitionnement, épaulée par une
instance secondaire qui assure une fraction du trafic web, et 4 autres secondaires pour
d’autres tâches.
36
https://www.postgresql.fr/temoignages:le_bon_coin
37
https://www.kissmyfrogs.com/jean-louis-bergamo-leboncoin-ce-qui-a-ete-fait-maison-est-ultra-performant/
38
https://www.postgresql.eu/events/pgdayparis2019/schedule/session/2376-large-databases-lots-of-servers
39
https://dalibo.com/formations
SQL pour PostgreSQL
Le RAID50 est un compromis entre le RAID 5 (pénalisant pour les écritures à cause du
calcul de parité) et le RAID 10 (trop consommateur d’espace disque).
• Cartographie du projet
• Pourquoi participer
• Comment participer
Quelques faits :
40
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Le terme Core Hackers désigne les personnes qui sont dans la communauté depuis
longtemps. Ces personnes désignent directement les nouveaux membres.
Le terme hacker peut porter à confusion, il s’agit ici de la définition « universitaire » :
https://fr.wikipedia.org/wiki/Hacker_(programmation)
La Core Team est un ensemble de personnes doté d’un pouvoir assez limité. Ils peuvent
décider de la date de sortie d’une version. Ce sont les personnes qui sont immédiatement
au courant des failles de sécurité du serveur PostgreSQL. Tout le reste des décisions est
pris par la communauté dans son ensemble après discussion, généralement sur la liste
41
https://dalibo.com/formations
SQL pour PostgreSQL
pgsql-hackers.
1.8.3 CONTRIBUTEURS
42
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• promotion du logiciel ;
• administration des serveurs ;
• rédaction de documentation ;
• conférences ;
• organisation de groupes locaux.
Le PGDG a fêté son 10e anniversaire à Toronto en juillet 2006. Ce « PostgreSQL Anniver-
sary Summit » a réuni pas moins de 80 membres actifs du projet.
Robert Haas publie chaque année une analyse sur les contributeurs de code et les partic-
ipants aux discussions sur le développement de PostgreSQL sur la liste pgsql-hackers.
• 2019 : http://rhaas.blogspot.com/2020/05/who-contributed-to-postgresql.html
• 2018 : http://rhaas.blogspot.com/2019/01/who-contributed-to-postgresql.html
• 2017 : http://rhaas.blogspot.com/2018/06/who-contributed-to-postgresql.html
• 2016 : http://rhaas.blogspot.com/2017/04/who-contributes-to-postgresql.html
39
https://www.postgresql.org/community/contributors/
43
https://dalibo.com/formations
SQL pour PostgreSQL
1.8.5 UTILISATEURS
• Vous !
• Le succès d’un logiciel libre dépend de ses utilisateurs.
• déclarer un bug ;
• tester les versions bêta ;
• témoigner.
Envoyer une description d’un problème applicatif aux développeurs est évidemment
le meilleur moyen d’obtenir sa correction. Attention toutefois à être précis et complet
lorsque vous déclarez un bug ! Assurez-vous que vous pouvez le reproduire...
Tester les versions « candidates » dans votre environnement (matériel et applicatif) est
la meilleure garantie que votre système d’information sera compatible avec les futures
versions du logiciel.
Les retours d’expérience et les cas d’utilisations professionnelles sont autant de preuves
de la qualité de PostgreSQL. Ces témoignages aident de nouveaux utilisateurs à opter
pour PostgreSQL, ce qui renforce la communauté.
S’impliquer dans les efforts de traductions, de relecture ou dans les forums d’entraide
ainsi que toute forme de transmission en général est un très bon moyen de vérifier et
d’approfondir ses compétences.
44
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Le site « Planet PostgreSQL » est un agrégateur réunissant les blogs des core hackers, des
contributeurs, des traducteurs et des utilisateurs de PostgreSQL.
Le site PGXN est l’équivalent pour PostgreSQL du CPAN de Perl, une collection en ligne
de librairies et extensions accessibles depuis la ligne de commande.
• pgsql-announce
• pgsql-general
• pgsql-admin
• pgsql-sql
• pgsql-performance
• pgsql-fr-generale
• pgsql-advocacy
Les mailing-lists sont les outils principaux de gouvernance du projet. Toute l’activité de
la communauté (bugs, promotion, entraide, décisions) est accessible par ce canal. Les
développeurs principaux du projets répondent parfois eux-mêmes.
Pour s’inscrire ou consulter les archives : https://www.postgresql.org/community/lists/
Si vous avez une question ou un problème, la réponse se trouve probablement dans les
archives ! Pourquoi ne pas utiliser un moteur de recherche spécifique ?
• http://www.nabble.com/
• http://markmail.org/
1.8.11 IRC
• Réseau Freenode
• IRC anglophone
– #postgresql
– #postgresql-eu
• IRC francophone
– #postgresqlfr
46
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.8.12 WIKI
• https://wiki.postgresql.org/
• https://wiki.postgresql.org/wiki/Fran%C3%A7ais
Le wiki est un outil de la communauté qui met à disposition une véritable mine
d’information.
Au départ, le wiki postgresql.org avait pour but de récupérer les spécifications écrites par
des développeurs pour les grosses fonctionnalités à développer à plusieurs. Cependant,
peu de développeurs l’utilisent dans ce cadre. L’utilisation du wiki a changé en passant
plus entre les mains des utilisateurs qui y intègrent un bon nombre de pages de documen-
tation (parfois reprises dans la documentation officielle). Le wiki est aussi utilisé par les
organisateurs d’événements pour y déposer les slides des conférences.
Il existe une partie spécifiquement en français, indiquant la liste des documents écrits en
français sur PostgreSQL. Elle n’est pas exhaustive et souffre fréquemment d’un manque
de mises à jour.
PostgreSQL est là pour durer. Il n’y a pas qu’une seule entreprise derrière ce projet. Il y
en a plusieurs, petites et grosses sociétés, qui s’impliquent pour faire avancer le projet.
1.9 CONCLUSION
Beaucoup d’acteurs font le choix de leur SGBD sans se soucier de son prix. En
l’occurrence, ce sont souvent les qualités intrinsèques de PostgreSQL qui séduisent :
• sécurité des données (reprise en cas de crash et résistance aux bogues applicatifs) ;
• facilité de configuration ;
• montée en puissance et en charge progressive ;
• gestion des gros volumes de données.
1.9.1 BIBLIOGRAPHIE
48
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
1.9.2 QUESTIONS
43
https://wiki.postgresql.org/wiki/Trademark_Policy
49
https://dalibo.com/formations
SQL pour PostgreSQL
ATTENTION : Red Hat et CentOS 6 et 7 fournissent par défaut des versions de Post-
greSQL qui ne sont plus supportées. Ne jamais installer les packages postgresql,
postgresql-client et postgresql-server !
Installation de PostgreSQL 12 :
Chemins :
Objet Chemin
Binaires /usr/pgsql-12/bin
Répertoire de l’utilisateur postgres /var/lib/pgsql
PGDATA par défaut /var/lib/pgsql/12/data
Fichiers de configuration dans PGDATA/
Traces dans PGDATA/log
50
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
Configuration :
Si des instances de versions majeures différentes doivent être installées, il faudra installer
les binaires pour chacune, et l’instance par défaut de chaque version vivra dans un sous-
répertoire différent de /var/lib/pgsql automatiquement créé à l’installation. Il faudra
juste modifier les ports dans les postgresql.conf.
• Ne pas utiliser de tiret dans le nom d’une instance (problèmes potentiels avec sys-
temd).
# cp /lib/systemd/system/postgresql-12.service \
/etc/systemd/system/postgresql-12-secondaire.service
• Commandes de maintenance :
Option : JIT
L’utilisation du JIT (Just In Time compilation) nécessite un autre paquet, qui lui-même né-
cessite des paquets du dépôt EPEL :
Référence : https://apt.postgresql.org/
Installation de PostgreSQL 12 :
52
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
# apt update
# apt install postgresql-12 postgresql-client-12
La première instance est directement créée, démarrée et déclarée comme service à lancer
au démarrage du système.
Chemins :
Objet Chemin
Binaires /usr/lib/postgresql/12/bin/
Répertoire de l’utilisateur postgres /var/lib/postgresql
PGDATA de l’instance par défaut /var/lib/postgresql/12/main
Fichiers de configuration dans /etc/postgresql/12/main/
Traces dans /var/log/postgresql/
Configuration
Ouverture du firewall :
# pg_lsclusters
# pg_dropcluster 12 main
Ce qui suit est valable pour remplacer l’instance par défaut par une autre, par exemple
pour mettre les checksums en place :
# pg_createcluster 12 secondaire \
--port=5433 \
--datadir=/PGDATA/11/basedecisionnelle \
--pgoption shared_buffers='8GB' --pgoption work_mem='50MB' \
-- --data-checksums --waldir=/ssd/postgresql/11/basedecisionnelle/journaux
• démarrage :
Par défaut, l’instance n’est accessible que par l’utilisateur système postgres, qui n’a pas
de mot de passe. Un détour par sudo est nécessaire :
Pour des tests (pas en production !), il suffit de passer à trust le type de la connexion en
local dans le pg_hba.conf :
La connexion en tant qu’utilisateur postgres (ou tout autre) n’est alors plus sécurisée :
54
1. POSTGRESQL : HISTORIQUE & COMMUNAUTÉ
• dans pg_hba.conf, mise en place d’une authentification par mot de passe (md5 par
défaut) pour les accès à localhost :
(une authentification scram-sha-256 est plus conseillée mais elle impose que
password_encryption soit à cette valeur dans postgresql.conf avant de définir
les mots de passe).
• pour se connecter sans taper le mot de passe, un fichier .pgpass dans le répertoire
personnel doit contenir les informations sur cette connexion :
localhost:5432:*:postgres:motdepassetrèslong
• pour n’avoir à taper que psql, on peut définir ces variables d’environnement dans
la session voire dans ~/.bashrc :
export PGUSER=postgres
55
https://dalibo.com/formations
SQL pour PostgreSQL
export PGDATABASE=postgres
export PGHOST=localhost
Rappels :
56
2. DÉCOUVERTE DES FONCTIONNALITÉS
57
https://dalibo.com/formations
SQL pour PostgreSQL
2.1 AU MENU
• Fonctionnalités du moteur
• Objets SQL
• Connaître les différentes fonctionnalités et possibilités
• Découvrir des exemples concrets
• Standard SQL
• Gestion transactionnelle
• Niveaux d’isolation
• Journaux de transactions
• Administration
• Sauvegardes
• Réplication
• Supervision
• Sécurité
• Extensibilité
Cette partie couvre les différentes fonctionnalités d’un moteur de bases de données. Il
ne s’agit pas d’aller dans le détail de chacune, mais de donner une idée de ce qui est
disponible. Les modules suivants de cette formation et des autres formations détaillent
certaines de ces fonctionnalités.
58
2. DÉCOUVERTE DES FONCTIONNALITÉS
• Atomicité (Atomic)
• Cohérence (Consistency)
• Isolation
• Durabilité (Durability)
Les propriétés ACID sont le fondement même de tout système transactionnel. Il s’agit de
quatre règles fondamentales :
Les propriétés ACID sont quatre propriétés essentielles d’un sous-système de traitement
de transactions d’un système de gestion de base de données. Certains SGBD ne four-
nissent pas les garanties ACID. C’est le cas de la plupart des SGBD non-relationnels
(« NoSQL »). Cependant, la plupart des applications ont besoin de telles garanties et la
décision d’utiliser un système ne garantissant pas ces propriétés ne doit pas être prise à
la légère.
59
https://dalibo.com/formations
SQL pour PostgreSQL
2.2.3 MVCC
MVCC (Multi Version Concurrency Control) est le mécanisme interne de PostgreSQL util-
isé pour garantir la cohérence des données lorsque plusieurs processus accèdent simul-
tanément à la même table.
MVCC maintient toutes les versions nécessaires de chaque ligne, ainsi chaque transaction
voit une image figée de la base (appelée snapshot). Cette image correspond à l’état de la
base lors du démarrage de la requête ou de la transaction, suivant le niveau d’isolation
demandé par l’utilisateur à PostgreSQL pour la transaction.
MVCC fluidifie les mises à jour en évitant les blocages trop contraignants (verrous sur
UPDATE) entre sessions et par conséquent de meilleures performances en contexte trans-
actionnel.
C’est notamment MVCC qui permet d’exporter facilement une base à chaud et d’obtenir
un export cohérent alors même que plusieurs utilisateurs sont potentiellement en train
de modifier des données dans la base.
60
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.2.4 TRANSACTIONS
BEGIN;
CREATE TABLE capitaines (id serial, nom text, age integer);
INSERT INTO capitaines VALUES (1, 'Haddock', 35);
SELECT age FROM capitaines;
age
-----
35
(1 ligne)
ROLLBACK;
SELECT age FROM capitaines;
ERROR: relation "capitaines" does not exist
LINE 1: SELECT age FROM capitaines;
^
On voit que la table capitaine a existé à l’intérieur de la transaction. Mais puisque cette
transaction a été annulée (ROLLBACK), la table n’a pas été créée au final.
Un point de sauvegarde est une marque spéciale à l’intérieur d’une transaction qui au-
torise l’annulation de toutes les commandes exécutées après son établissement, restau-
rant la transaction dans l’état où elle était au moment de l’établissement du point de sauve-
garde.
BEGIN;
61
https://dalibo.com/formations
SQL pour PostgreSQL
age
-----
35
(1 row)
Malgré le COMMIT après l’UPDATE, la mise à jour n’est pas prise en compte. En effet, le
ROLLBACK TO SAVEPOINT a permis d’annuler cet UPDATE mais pas les opérations précé-
dant le SAVEPOINT.
À partir de la version 12, il est possible de chaîner les transactions. Cela veut dire ter-
miner une transaction et en démarrer une autre immédiatement après avec les mêmes
propriétés (par exemple, le niveau d’isolation).
Chaque transaction, en plus d’être atomique, s’exécute séparément des autres. Le niveau
de séparation demandé sera un compromis entre le besoin applicatif (pouvoir ignorer sans
risque ce que font les autres transactions) et les contraintes imposées au niveau de Post-
greSQL (performances, risque d’échec d’une transaction).
Le standard SQL spécifie quatre niveaux, mais PostgreSQL n’en supporte que trois (pas
de read uncommitted : on ne peut pas cvoir les lignes non committées par les autres
transactions).
62
2. DÉCOUVERTE DES FONCTIONNALITÉS
Les journaux de transactions (appelés parfois WAL ou XLOG) sont une garantie contre les
pertes de données.
• PostgreSQL redémarre ;
• PostgreSQL vérifie s’il reste des données non intégrées aux fichiers de données dans
les journaux (mode recovery) ;
• si c’est le cas, ces données sont recopiées dans les fichiers de données afin de retrou-
ver un état stable et cohérent.
Plus d’informations, lire cet articlea .
Les écritures se font de façon séquentielle, donc sans grand déplacement de la tête
d’écriture. Généralement, le déplacement des têtes d’un disque est l’opération la plus
coûteuse. L’éviter est un énorme avantage.
De plus, comme on n’écrit que dans un seul fichier de transactions, la synchronisation sur
disque peut se faire sur ce seul fichier, à condition que le système de fichiers le supporte.
L’écriture asynchrone dans les fichiers de données permet là-aussi de gagner du temps.
a
https://www.dalibo.org/glmf108_postgresql_et_ses_journaux_de_transactions
63
https://dalibo.com/formations
SQL pour PostgreSQL
Mais les performances ne sont pas la seule raison des journaux de transactions. Ces jour-
naux ont aussi permis l’apparition de nouvelles fonctionnalités très intéressantes, comme
le PITR et la réplication physique, basés sur le rejeu des informations stockées dans ces
journaux.
2.2.7 SAUVEGARDES
La plus simple revient à sauvegarder à froid tous les fichiers des différents répertoires
de données mais cela nécessite d’arrêter le serveur, ce qui occasionne une mise hors
production plus ou moins longue, suivant la volumétrie à sauvegarder.
L’export logique se fait avec le serveur démarré. De ce fait, l’activité peut continuer
normalement. Plusieurs outils sont proposés : pg_dump pour sauvegarder une base,
pg_dumpall pour sauvegarder toutes les bases. Suivant le format de l’export, l’import
se fera avec les outils psql ou pg_restore. Les sauvegardes se font à chaud et sont
cohérentes sans blocage intempestif (seuls la suppression des tables et le changement
de leur définition sont interdits).
Enfin, il est possible de sauvegarder les fichiers à chaud. Cela nécessite de mettre en
place l’archivage des journaux de transactions. L’outil pg_basebackup est conseillé pour
ce type de sauvegarde.
Il est à noter qu’il existe un grand nombre d’outils développés par la communauté pour
faciliter encore plus la gestion des sauvegardes avec des fonctionnalités avancées comme
la gestion de la rétention.
64
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.2.8 RÉPLICATION
• Réplication physique
– instance complète
– même architecture
• Réplication logique
– table par table
– voire opération par opération
• Réplication asynchrone ou synchrone
• Réplication asymétrique
Le premier type de réplication intégrée est la réplication physique. Il n’y a pas de gran-
ularité, c’est forcément l’instance complète. La réplication est asymétrique : un serveur
primaire qui prend lectures comme écritures, et des serveurs secondaires qui n’acceptent
que des lectures.
Le deuxième type de réplication est bien plus récent vu qu’il a été ajouté en version 10.
Il s’agit d’une réplication logique, où il faut configurer chaque table à répliquer. Cette
réplication est elle-aussi asymétrique. Cependant, ceci se configure table par table (et
non pas au niveau de l’instance comme pour la réplication physique).
La réplication logique n’est pas intéressante quand on veut un serveur sur lequel bas-
culer en cas de problème sur le primaire. Dans ce cas, il vaut mieux utiliser la réplication
physique. Par contre, c’est le bon type de réplication pour une réplication partielle ou
pour une mise à jour de version majeure.
Dans les deux cas, les modifications sont transmises en asynchrone. Il est cependant
possible de la configurer en synchrone pour tous les serveurs ou seulement certains.
2.2.9 EXTENSIBILITÉ
• Extensions
– CREATE EXTENSION monextension ;
– nombreuses : contrib, packagées... selon provenance
– dont langages de procédures stockées !
• Système des hooks
• Background workers
Les développeurs de PostgreSQL sont peu nombreux par rapport aux développeurs de
65
https://dalibo.com/formations
SQL pour PostgreSQL
SGBD commerciaux. De ce fait, il n’est pas possible de tout intégrer dans PostgreSQL
et les développeurs ont donc orienté leur développement pour permettre d’étendre les
fonctionnalités de PostgreSQL sans avoir à modifier le code de PostgreSQL.
Autre exemple, la possibilité d’ajouter des types de données, des routines et des opéra-
teurs a permis l’émergence de la couche spatiale de PostgreSQL (appelée PostGIS).
Cependant, il est rapidement devenu évident que la gestion d’un grand nombre de types
de données, fonctions et opérateurs était compliquée, à l’installation comme à la désin-
stallation. Les développeurs de PostgreSQL ont donc ajouté la possibilité de créer des
extensions. Une extension contient un ensemble de types de données, de fonctions,
d’opérateurs, etc. en un seul objet logique. Il suffit de créer ou de supprimer cet objet
logique pour intégrer ou supprimer tous les objets qu’il contient. Les extensions peuvent
être codées en différents langages, généralement en C ou en PL/SQL.
Les extensions ont eu un grand succès. Leurs provenance, rôle et niveau de finition sont
très variables. Certaines sont des utilitaires éprouvés fournis avec PostgreSQL (parmi les
« contrib »). D’autres sont des utilitaires aussi complexes que PostGIS ou un langage de
procédures stockées. Des éditeurs diffusent leur produit comme une extension plutôt
que forker PostgreSQL (citus, timescaledb…). Beaucoup d’extensions peuvent être instal-
lées très simplement depuis des paquets disponible dans les dépôts habituels (de la dis-
tribution ou du PGDG), ou le site du concepteur. Certaines sont diffusées comme code
source à compiler. Comme tout logiciel, il faut faire attention à en vérifier la qualité, la
réputation et la pérennité.
Une fois les binaires de l’extension en place sur le serveur, l’ordre CREATE EXTENSION suf-
fit généralement dans la base cible, et les fonctionnalités sont immédiatement exploitable.
Les développeurs de PostgreSQL ont aussi ajouté des hooks pour accrocher du
code à exécuter sur certains cas. Cela a permis entre autres de créer l’extension
pg_stat_statements qui s’accroche au code de l’exécuteur de requêtes pour savoir quel
sont les requêtes exécutées et pour récupérer des statistiques sur ces requêtes.
Enfin, les background workers ont vu le jour. Ce sont des processus spécifiques lancés
par le serveur PostgreSQL lors de son démarrage et stoppés lors de son arrêt. Cela a
permis la création de PoWA (outil qui historise les statistiques sur les requêtes) et une
amélioration très intéressante de pg_prewarm (sauvegarde du contenu du cache disque à
l’arrêt de PostgreSQL, restauration du contenu au démarrage).
66
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.2.10 SÉCURITÉ
• Fichier pg_hba.conf
• Filtrage IP
• Authentification interne (MD5, SCRAM-SHA-256)
• Authentification externe (identd, LDAP, Kerberos...)
• Support natif de SSL
L’authentification peut se baser sur des mots de passe chiffrés propres à PostgreSQL (md5,
ou le plus récent et plus sécurisé scram-sha-256 en version 10), ou se baser sur une
méthode externe (auprès de l’OS, ou notamment LDAP ou Kerberos, ce qui couvre aussi
Active Directory).
• Instances
• Objets globaux
– Bases
– Rôles
– Tablespaces
• Objets locaux
– Schémas
– Tables
– Vues
– Index
– Routines
– ...
Le but de cette partie est de passer en revue les différents objets logiques maniés par un
moteur de bases de données PostgreSQL.
Nous allons donc aborder la notion d’instance, les différents objets globaux et les objets
locaux. Tous ne seront pas vus, mais l’idée est de donner une idée globale des objets et
des fonctionnalités de PostgreSQL.
67
https://dalibo.com/formations
SQL pour PostgreSQL
Il est déjà important de bien comprendre une distinction entre les objets. Une instance
est un ensemble de bases de données, de rôles et de tablespaces. Ces objets sont appelés
des objets globaux parce qu’ils sont disponibles quelque soit la base de données de con-
nexion. Chaque base de données contient ensuite des objets qui lui sont propres. Ils sont
spécifiques à cette base de données et accessibles uniquement lorsque l’utilisateur est
connecté à la base qui les contient. On peut donc voir les bases comme des conteneurs
hermétiques en dehors des objets globaux.
68
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.2 INSTANCES
• Une instance
– un répertoire de données
– un port TCP
– une configuration
• Plusieurs instances possibles sur un serveur
Une instance est un ensemble de bases de données. Après avoir installé PostgreSQL, il est
nécessaire de créer un répertoire de données contenant un certain nombre de répertoires
et de fichiers qui permettront à PostgreSQL de fonctionner de façon fiable. Le contenu de
ce répertoire est créé initialement par la commande initdb. Ce répertoire stocke ensuite
tous les objets des bases de données de l’instance, ainsi que leur contenu.
Chaque instance a sa propre configuration. On ne peut lancer qu’un seul postmaster par
instance, et ce dernier acceptera les connexions à partir d’un port TCP spécifique.
Il est possible d’avoir plusieurs instances sur le même serveur, physique ou virtuel. Dans
ce cas, chaque instance aura son répertoire de données dédié et son port TCP dédié.
Ceci est particulièrement utile quand on souhaite disposer de plusieurs versions de Post-
greSQL sur le même serveur (par exemple pour tester une application sur ces différentes
versions).
2.3.3 RÔLES
• Permet de se connecter
• Différents attributs et droits
• Utilisateurs / Groupes
Chaque rôle créé peut être utilisé pour se connecter à n’importe quel base de l’instance,
à condition que ce rôle en ait le droit. Ceci se gère directement soit avec un droit sur la
base, soit avec la configuration du fichier d’accès pg_hba.conf.
Chaque rôle peut être propriétaire d’objets, auquel cas il a tous les droits sur cet objet.
Pour les objets dont il n’est pas propriétaire, il peut se voir donner des droits, en lecture,
écriture, exécution, etc par le propriétaire.
69
https://dalibo.com/formations
SQL pour PostgreSQL
2.3.4 TABLESPACES
Toutes les données des tables, vues matérialisées et index sont stockées dans le répertoire
de données principal. Cependant, il est possible de stocker des données ailleurs que dans
ce répertoire. Il faut pour cela créer un tablespace. Un tablespace est tout simplement
la déclaration d’un autre répertoire de données utilisable par PostgreSQL pour y stocker
des données.
Il est possible d’avoir un tablespace par défaut pour une base de données, auquel cas
tous les objets logiques créés dans cette base seront enregistrés physiquement dans le
répertoire lié à ce tablespace. Il est aussi possible de créer des objets en indiquant spéci-
fiquement un tablespace, ou de les déplacer d’un tablespace à un autre. Cependant, un
objet spécifique ne pourra appartenir qu’à un seul tablespace (autrement dit, un index ne
pourra pas être enregistré sur deux tablespaces).
Le but des tablespaces est de fournir une solution à des problèmes d’espace disque ou de
performances. Si la partition où est stocké le répertoire des données principal se remplit
fortement, il est possible de créer un tablespace dans une autre partition et donc d’utiliser
l’espace disque de cette partition. Si on dispose de nouveaux disques plus rapides, il est
possible de placer les objets fréquemment utilisés sur le tablespace contenant les disques
rapides. Si on dispose de disques SSD, il est très intéressant d’y placer les index.
Par contre, contrairement à d’autres moteurs de bases de données, PostgreSQL n’a pas
de notion de quotas. Les tablespaces ne peuvent donc pas être utilisés pour contraindre
l’espace disque utilisé par certaines applications ou certains rôles.
70
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.5 BASES
• Conteneur hermétique
• Un rôle ne se connecte pas à une instance
– il se connecte forcément à une base
• Une fois connecté, il ne voit que les objets de cette base
– contournement : foreign data wrappers, dblink
Une base de données est un conteneur hermétique. En dehors des objets globaux, le rôle
connecté à une base de données ne voit et ne peut interagir qu’avec les objets contenus
dans cette base. De même, il ne voit pas les objets locaux des autres bases. On peut
néanmoins lui donner le droit d’accéder à certains objets d’une autre base (de la même
instance ou d’une autre instance) en utilisant les Foreign Data Wrappers (postgres_fdw)
ou l’extension dblink.
2.3.6 SCHÉMAS
• Espace de noms
• Sous-ensemble de la base
• Schéma visible par défaut : search_path
• Non lié à un utilisateur (≠ Oracle)
• pg_catalog, information_schema
– pour catalogues système (lecture seule)
Les schémas sont des espaces de noms à l’intérieur d’une base de données permettant :
Un schéma n’a à priori aucun lien avec un utilisateur donné. Les utilisateurs venant
d’Oracle doivent donc changer leurs habitudes sur ce point.
Un schéma est un espace logique sans lien avec les emplacements physiques des données
(ne pas confondre avec les tablespaces).
Un utilisateur peut avoir accès à tous les schémas ou à un sous-ensemble, tout dépend
des droits dont il dispose. Par défaut, il a accès au schéma public de chaque base.
71
https://dalibo.com/formations
SQL pour PostgreSQL
PostgreSQL vérifie la présence des objets par rapport au paramètre search_path valable
pour la session en cours lorsque le schéma n’est pas indiqué explicitement pour les objets
d’une requête.
-- comme le montre la méta-commande \d, la table est créée dans le schéma public
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
(3 rows)
72
2. DÉCOUVERTE DES FONCTIONNALITÉS
List of relations
Schema | Name | Type | Owner
--------+-------------------+----------+----------
public | capitaines | table | postgres
public | capitaines_id_seq | sequence | postgres
public | t1 | table | postgres
s1 | t2 | table | postgres
(4 rows)
73
https://dalibo.com/formations
SQL pour PostgreSQL
Tous ces exemples se basent sur des ordres de création de table. Cependant, le com-
portement serait identique sur d’autres types de commande (SELECT, INSERT, etc) et sur
d’autres types d’objets locaux.
Pour des raisons de sécurité, il est très fortement conseillé de laisser le schéma public
en toute fin du search_path. En effet, s’il est placé au début, comme tout le monde a
droit par défaut de créer des objets dans public, quelqu’un de mal intentionné pourrait
placer un objet dans le schéma public pour servir de proxy à un autre objet d’un schéma
situé après public.
Un simple utilisateur lit fréquemment ces tables, plus ou moins directement, mais n’a au-
cune raison d’y modifier des données. Il faut d’ailleurs être superutilisateur pour le faire.
Seules des exceptions particulièrement ésotériques peuvent le justifier, mais la plupart
des opérations sont disponibles sous la forme de commandes SQL. De ce fait, la modifi-
cation directe des catalogues système est de plus en plus rare.
74
2. DÉCOUVERTE DES FONCTIONNALITÉS
2.3.7 TABLES
Il est possible de créer des tables temporaires (CREATE TEMPORARY TABLE). Celles-ci ne
sont visibles que par la session qui les a créées et seront supprimées par défaut à la fin de
cette session. Il est aussi possible de les supprimer automatiquement à la fin de la trans-
action qui les a créées. Il n’existe pas dans PostgreSQL de notion de tables temporaires
globales. Cependant, une extension44 existe pour combler leur absence.
Pour des raisons de performance, il est possible de créer une table non journalisée (CREATE
UNLOGGED TABLE). La définition de la table est journalisée mais pas son contenu. De ce
fait, en cas de crash, il est impossible de dire si la table est corrompue ou non. Dans
ce cas, au redémarrage du serveur, PostgreSQL vide la table de tout contenu. De plus,
n’étant pas journalisée, elle n’est pas présente dans les sauvegardes PITR ni repliquée
vers d’éventuels serveurs secondaires.
Enfin, depuis la version 10, il est possible de partitionner les tables suivant un certain type
de partitionnement : par intervalle, par valeur ou par hachage. Avant la version 10, on
peut se rabattre sur le partitionnement par héritage, moins pratique et moins performant.
2.3.8 VUES
• Masquer la complexité
– structure : interface cohérente vers les données, même si les tables évoluent
– sécurité : contrôler l’accès aux données de manière sélective
• Vues matérialisées
– à rafraichir à une certaine fréquence
Le but des vues est de masquer une complexité, qu’elle soit du côté de la structure de la
base ou de l’organisation des accès. Dans le premier cas, elles permettent de fournir un
accès qui ne change pas même si les structures des tables évoluent. Dans le second cas,
44
https://github.com/darold/pgtt
75
https://dalibo.com/formations
SQL pour PostgreSQL
elles permettent l’accès à seulement certaines colonnes ou certaines lignes. De plus, les
vues étant exécutées en tant que l’utilisateur qui les a créées, cela permet un changement
temporaire des droits d’accès très appréciable dans certains cas.
-- création de la vue
CREATE VIEW capitaines_anon AS
SELECT nom,age,substring(num_cartecredit,0,10)||'******' AS num_cc_anon
FROM capitaines;
Il est possible de modifier une vue en lui ajoutant des colonnes à la fin, au lieu de devoir les
détruire et recréer (ainsi que toutes les vues qui en dépendent, ce qui peut être fastidieux).
Par exemple :
SET ROLE postgres;
76
2. DÉCOUVERTE DES FONCTIONNALITÉS
On peut aussi modifier les données au travers des vues simples, sans ajout de code et de
trigger :
PostgreSQL gère le support natif des vues matérialisées. Les vues matérialisées sont des
vues dont le contenu est figé sur disque, permettant de ne pas recalculer leur contenu à
chaque appel. De plus, on peut les indexer pour accélérer leur consultation. Il faut cepen-
dant faire attention à ce que leur contenu reste synchrone avec le reste des données.
-- Suppression de la vue
DROP VIEW capitaines_anon;
-- Le résultat est le même mais le plan montre bien que PostgreSQL ne passe
-- plus par la table mais par la vue matérialisée :
EXPLAIN SELECT * FROM capitaines_anon WHERE nom LIKE '%Surcouf';
QUERY PLAN
-----------------------------------------------------------------
Seq Scan on capitaines_anon (cost=0.00..20.62 rows=1 width=68)
Filter: (nom ~~ '%Surcouf'::text)
78
2. DÉCOUVERTE DES FONCTIONNALITÉS
(1 row)
2.3.9 INDEX
• Algorithmes supportés
– B-tree (par défaut)
– Hash (dangereux si version < 10)
– GiST / SP-GiST
– GIN
– BRIN (version 9.5)
– Bloom (version 9.6)
• Type
– Mono ou multi-colonnes
– Partiel
– Fonctionnel
– Couvrant
Pour une indexation standard, on utilise en général un index Btree, de par ses nombreuses
possibilités et ses très bonnes performances.
Les index hash sont peu utilisés, essentiellement dans la comparaison d’égalité de grandes
chaînes de caractères. Avant la version 10, leur utilisation est déconseillée car ils ne sont
pas journalisés, d’où plusieurs problèmes : reconstruction (REINDEX) obligatoire en cas de
crash ou de restauration PITR, pas de réplication possible.
Moins simples d’abord, les index plus spécifiques (GIN, GIST) sont spécialisés pour les
79
https://dalibo.com/formations
SQL pour PostgreSQL
Les index BRIN sont des index très compacts destinés aux grandes tables où les données
sont fortement corrélées par rapport à leur emplacement physique sur les disques.
Les index bloom sont des index probabilistes visant à indexer de nombreuses colonnes
interrogées simultanément. Ils nécessitent l’ajout d’une extension (nommée bloom).
Le module pg_trgm permet l’utilisation d’index dans des cas habituellement impossibles,
comme les expressions rationnelles et les LIKE '%...%'.
Généralement, l’indexation porte sur la valeur d’une ou plusieurs colonnes. Il est néan-
moins possible de n’indexer qu’une partie des lignes (index partiel) ou le résultat d’une
fonction sur une ou plusieurs colonnes en paramètre. Enfin, il est aussi possible de mod-
ifier les index de certaines contraintes (unicité et clé primaire) pour inclure des colonnes
supplémentaires.
Plus d’informations :
• Article Wikipédia sur les arbres Ba
• Article Wikipédia sur les tables de hachageb
• Documentation officielle françaisec
• Types de base
– natif : int, float
– standard SQL : numeric, char, varchar, date, time, timestamp, bool
• Type complexe
– tableau
– XML
– JSON (jsonb)
• Types métier
– réseau, géométrique, etc.
• Types créés par les utilisateurs
– structure SQL, C, Domaine, Enum
PostgreSQL dispose d’un grand nombre de types de base, certains natifs (comme la
famille des integer et celle des float), et certains issus de la norme SQL (numeric, char,
a
https://fr.wikipedia.org/wiki/Arbre_B
b
https://fr.wikipedia.org/wiki/Table_de_hachage
c
https://docs.postgresql.fr/current/textsearch-indexes.html
80
2. DÉCOUVERTE DES FONCTIONNALITÉS
Il dispose aussi de types plus complexes. Les tableaux (array) permettent de lister un
ensemble de valeurs discontinues. Les intervalles (range) permettent d’indiquer toutes
les valeurs comprises entre une valeur de début et une valeur de fin. Ces deux types
dépendent évidemment d’un type de base : tableau d’entiers, intervalle de dates, etc. On
peut aussi ajouter dans ces types complexes les données XML et JSON (préférer le type
optimisé jsonb).
Enfin, il existe des types métier ayant trait principalement au réseau (adresse IP, masque
réseau), à la géométrie (point, ligne, boite). Certains sont apportés par des extensions
Tout ce qui vient d’être décrit est natif. Il est cependant possible de créer ses propres
types de données, soit en SQL soit en C. Les possibilités et les performances ne sont
évidemment pas les mêmes.
Ce type de données va pouvoir être utilisé dans tous les objets SQL habituels : table, rou-
tine, opérateur (pour redéfinir l’opérateur + par exemple), fonction d’agrégat, contrainte,
etc.
Il est aussi possible de définir des domaines. Ce sont des types créés par les utilisateurs
à partir d’un type de base et en lui ajoutant des contraintes supplémentaires.
En voici un exemple :
CREATE DOMAIN code_postal_francais AS text check (value ~ '^\d{5}$');
ALTER TABLE capitaines ADD COLUMN cp code_postal_francais;
UPDATE capitaines SET cp='35400' WHERE nom LIKE '%Surcouf';
UPDATE capitaines SET cp='1420' WHERE nom = 'Haddock';
ERROR: value for domain code_postal_francais violates check constraint
81
https://dalibo.com/formations
SQL pour PostgreSQL
"code_postal_francais_check"
UPDATE capitaines SET cp='01420' WHERE nom = 'Haddock';
SELECT * FROM capitaines;
Le défaut par rapport à des contraintes CHECK classiques sur une table est que
l’information ne se trouvant pas dans la table, les contraintes sont plus difficiles à lister
sur une table.
Enfin, il existe aussi les enums. Ce sont des types créés par les utilisateurs composés
d’une liste ordonnée de chaînes de caractères.
En voici un exemple :
Les enums permettent de déclarer une liste de valeurs statiques dans le dictionnaire de
données plutôt que dans une table externe sur laquelle il faudrait rajouter des jointures :
dans l’exemple, on aurait pu créer une table jour_de_la_semaine, et stocker la clé asso-
82
2. DÉCOUVERTE DES FONCTIONNALITÉS
ciée dans planning. On aurait pu tout aussi bien positionner une contrainte CHECK, mais
on n’aurait plus eu une liste ordonnée.
Conférence de Heikki Linakangas sur la création d’un type colora .
2.3.11 CONTRAINTES
• CHECK
– prix > 0
• NOT NULL
– id_client NOT NULL
• Unicité
– id_client UNIQUE
• Clés primaires
– UNIQUE NOT NULL ==> PRIMARY KEY (id_client)
• Clés étrangères
– produit_id REFERENCES produits(id_produit)
• EXCLUDE
– EXCLUDE USING gist (room WITH =, during WITH &&)
Les contraintes sont la garantie de conserver des données de qualité ! Elles permettent
une vérification qualitative des données, au-delà du type de données.
Elles donnent des informations au planificateur qui lui permettent d’optimiser les
requêtes. Par exemple, le planificateur sait ne pas prendre en compte une jointure dans
certains cas, notamment grâce à l’existence d’une contrainte d’unicité.
Les contraintes d’exclusion permettent un test sur plusieurs colonnes avec différents
opérateurs (et non pas que l’égalité dans le cas d’une contrainte unique, qui n’est qu’une
contrainte d’exclusion très spécialisée). Si le test se révèle positif, la ligne est refusée.
a
https://wiki.postgresql.org/images/1/11/FOSDEM2011-Writing_a_User_defined_type.pdf
83
https://dalibo.com/formations
SQL pour PostgreSQL
Une colonne a par défaut la valeur NULL si aucune valeur n’est fournie lors de l’insertion
de la ligne.
Il existe néanmoins trois cas où le moteur peut substituer une autre valeur.
Le plus connu correspond à la clause DEFAULT. Dans ce cas, la valeur insérée correspond
à la valeur indiquée avec cette clause si aucune valeur n’est indiquée pour la colonne. Si
une valeur est précisée, cette valeur surcharge la valeur par défaut. L’exemple suivant
montre cela :
c1 | c2 | c3
----+----+----
1 | 2 | 3
2 | | 10
La clause DEFAULT ne peut pas être utilisée avec des clauses complexes, notamment des
clauses comprenant des requêtes.
Pour aller un peu plus loin, à partir de PostgreSQL, il est possible d’utiliser GENERATED
ALWAYS AS (generation_expr ) STORED. Cela permet d’avoir une valeur calculée pour
la colonne, valeur qui ne peut pas être surchargée, ni à l’insertion ni à la mise à jour (mais
qui est bien stockée sur le disque).
Comme exemple, nous allons reprendre la table capitaine et lui ajouter une colonne
ayant comme valeur la version modifiée du numéro de carte de crédit :
84
2. DÉCOUVERTE DES FONCTIONNALITÉS
nom | id2
-----------------------+-----
Robert Surcouf | 1
Haddock | 2
Joseph Pradere-Niquet | 3
(3 rows)
nom | id2
-----------------------+-----
Robert Surcouf | 1
85
https://dalibo.com/formations
SQL pour PostgreSQL
Haddock | 2
Joseph Pradere-Niquet | 3
Tom Souville | 4
(4 rows)
2.3.13 LANGAGES
• PL/pgSQL
• PL/Perl45
• PL/Python46 (version 2 et 3)
• PL/Tcl
Voici une liste non exhaustive des langages procéduraux disponibles, à différents degrés
de maturité :
• PL/sh47
• PL/R48
• PL/Java49
• PL/lolcode
• PL/Scheme
• PL/PHP
• PL/Ruby
• PL/Lua50
• PL/pgPSM
• PL/v851 (Javascript)
Tableau des langages supportésa .
45
https://docs.postgresql.fr/current/plperl.html
46
https://docs.postgresql.fr/current/plpython.html
47
https://github.com/petere/plsh
48
https://github.com/postgres-plr/plr
49
https://tada.github.io/pljava/
50
https://github.com/pllua/pllua
51
https://github.com/plv8/plv8
a
https://wiki.postgresql.org/wiki/PL_Matrix
86
2. DÉCOUVERTE DES FONCTIONNALITÉS
Pour qu’un langage soit utilisable, il doit être activé au niveau de la base où il sera utilisé.
Les trois langages activés par défaut sont le C, le SQL et le PL/pgSQL. Les autres doivent
être ajoutés à partir des paquets de la distribution ou du PGDG, ou compilés à la main,
puis l’extension installée dans la base (CREATE EXTENSION plperl ;, CREATE EXTENSION
plpython3u ;, etc.).
Chaque langage a ses avantages et inconvénients. Par exemple, PL/pgSQL est très simple
à apprendre mais n’est pas performant quand il s’agit de traiter des chaînes de caractères.
Pour ce traitement, il est souvent préférable d’utiliser PL/Perl, voire PL/Python. Évidem-
ment, une routine en C aura les meilleures performances mais sera beaucoup moins facile
à coder et à maintenir. Par ailleurs, les procédures peuvent s’appeler les unes les autres
quel que soit le langage. Les index et triggers peuvent utiliser ces langages également.
S’ajoute l’intérêt de ne pas avoir à réécrire en PL/pgSQL des fonctions existantes dans
d’autres langages ou d’accéder à des modules bien établis de ces langages.
2.3.14 ROUTINES
• Fonction
– renvoie une ou plusieurs valeurs
– SETOF ou TABLE pour plusieurs lignes
• Procédure (à partir de la v11)
– ne renvoie rien
– peut gérer le transactionnel dans certains cas
Une fonction renvoie une donnée. Cette donnée peut comporter une ou plusieurs
colonnes. Elle peut aussi avoir plusieurs lignes dans le cas d’une fonction SETOF ou
TABLE.
Une procédure ne renvoie rien. Elle a cependant un gros avantage par rapport aux fonc-
tions dans le fait qu’elle peut gérer le transactionnel. Elle peut valider ou annuler la trans-
action en cours. Dans ce cas, une nouvelle transaction est ouverte immédiatement après
la fin de la transaction précédente.
87
https://dalibo.com/formations
SQL pour PostgreSQL
2.3.15 OPÉRATEURS
Il est possible de créer de nouveaux opérateurs sur un type de base ou sur un type utilisa-
teur. Un opérateur exécute une fonction, soit à un argument pour un opérateur unitaire,
soit à deux arguments pour un opérateur binaire.
Voici un exemple d’opérateur acceptant une division par zéro sans erreur :
-- créons l'opérateur
CREATE OPERATOR // (FUNCTION=division0, LEFTARG=integer, RIGHTARG=integer);
SELECT 10/5;
?column?
----------
2
(1 row)
SELECT 10//5;
?column?
----------
88
2. DÉCOUVERTE DES FONCTIONNALITÉS
2
(1 row)
?column?
----------
(1 row)
2.3.16 TRIGGERS
Les triggers peuvent être exécutés avant (BEFORE) ou après (AFTER) une opération.
Il est possible de les déclencher pour chaque ligne impactée (FOR EACH ROW) ou une
seule fois pour l’ensemble de la requête (FOR STATEMENT). Dans le premier cas, il est
possible d’accéder à la ligne impactée (ancienne et nouvelle version). Dans le deuxième
cas, il a fallu attendre la version 10 pour disposer des tables de transition qui donnent à
l’utilisateur une vision des lignes avant et après modification.
Par ailleurs, les triggers peuvent être écrits dans n’importe lequel des langages de routine
supportés par PostgreSQL (C, PL/pgSQL, PL/Perl, etc. )
Exemple :
89
https://dalibo.com/formations
SQL pour PostgreSQL
RETURN NEW;
END;
$verif_salaire$ LANGUAGE plpgsql;
2.3.17 QUESTIONS
90
3. INTRODUCTION ET PREMIERS SELECT
3.1 PRÉAMBULE
Ce module a pour but de présenter le standard SQL. Un module ne permet pas de tout
voir, aussi ce module se concentrera sur la lecture de données déjà présentes en base.
Cela permet d’aborder aussi la question des types de données disponibles.
3.1.1 MENU
3.1.2 OBJECTIFS
• Base de données
– ensemble organisé d’informations
– Système de Gestion de Bases de Données
* acronyme SGBD (DBMS en anglais)
* programme assurant la gestion et l’accès à une base de données
* assure la cohérence des données
91
https://dalibo.com/formations
SQL pour PostgreSQL
Si des données sont récoltées, organisées et stockées afin de répondre à un besoin spé-
cifique, alors on parle de base de données. Une base de données peut utiliser différents
supports : papier, fichiers informatiques, etc.
• Modèle hiérarchique
– Modèle réseau
– Modèle relationnel
– Modèle objet
– Modèle relationnel-objet
– NoSQL
Au fil des années ont été développés plusieurs modèles de données, que nous allons
décrire.
• Modèle hiérarchique
– structure arborescente
– redondance des données
• Modèle réseau
– structure arborescente, mais permettant des associations
– ex : Bull IDS2 sur GCOS
Les modèles hiérarchiques et réseaux ont été les premiers modèles de données utilisées
dans les années 60 sur les mainframes IBM ou Bull. Ils ont été rapidement supplantés par
le modèle relationnel car les requêtes étaient dépendantes du modèle de données. Il était
nécessaire de connaître les liens entre les différents nœuds de l’arborescence pour con-
cevoir les requêtes. Les programmes sont donc complètement dépendants de la structure
de la base de données.
92
3. INTRODUCTION ET PREMIERS SELECT
• Modèle relationnel
– basé sur la théorie des ensembles et la logique des prédicats
– standardisé par la norme SQL
• Modèle objet
– structure objet
– pas de standard
• Modèle relationnel-objet
– le standard SQL ajoute des concepts objets
Le modèle relationnel est issu des travaux du Docteur Edgar F. Codd qu’il a menés dans les
laboratoires d’IBM à la fin des années 60. Ses travaux avaient pour but de rendre indépen-
dant le stockage physique de la vue logique de la base de données. Et, mathématicien de
formation, il s’est appuyé sur la théorie des ensembles et la logique des prédicats pour
établir les fondements des bases de données relationnelles. Pour manipuler les données
de façon ensembliste, le Dr Codd a mis au point le point langage SQL. Ce langage est
à l’origine du standard SQL qui a émergé dans les années 80 et qui a rendu le modèle
relationnel très populaire.
Le modèle objet est, quant à lui, issu de la mouvance autour des langages objets. Du fait
de l’absence d’un standard avéré, le modèle objet n’a jamais été populaire et est toujours
resté dans l’ombre du modèle relationnel.
Le modèle relationnel a néanmoins été étendu par la norme SQL:1999 pour intégrer des
fonctionnalités objets. On parle alors de modèle relationnel-objet. PostgreSQL en est un
exemple, c’est un SGBDRO (Système de Gestion de Bases de Données Relationnel-Objet).
Les bases NoSQL désigne une famille de bases de données qui répondent à d’autres be-
soins et contraintes que les bases relationnelles. Les bases NoSQL sont souvent des bases
« sans schéma », la base ne vérifiant plus l’intégrité des données selon des contraintes
définies dans le modèle de données. Chaque base de ce segment dispose d’un langage
de requête spécifique, qui n’est pas normé. Une tentative de standardisation, débutée en
2011, n’a d’ailleurs abouti à aucun résultat.
Ce type de base offre souvent la possibilité d’offrir du sharding simple à mettre en œuvre.
Le sharding consiste à répartir les données physiquement sur plusieurs serveurs. Cer-
taines technologies semblent mieux marcher que d’autres de ce point de vue là. En contre-
partie, la durabilité des données n’est pas assurée, au contraire d’une base relationnelle
qui assure la durabilité dès la réponse à un COMMIT.
db.demo.group({
"key": {
"person": true
},
"initial": {
"sumscore": 0,
"sumforaverageaveragescore": 0,
"countforaverageaveragescore": 0,
"countstar": 0
},
"reduce": function(obj, prev) {
prev.sumscore = prev.sumscore + obj.score - 0;
prev.sumforaverageaveragescore += obj.score;
prev.countforaverageaveragescore++;
prev.minimumvaluescore = isNaN(prev.minimumvaluescore) ? obj.score :
Math.min(prev.minimumvaluescore, obj.score);
prev.maximumvaluescore = isNaN(prev.maximumvaluescore) ? obj.score :
Math.max(prev.maximumvaluescore, obj.score);
if (true != null) if (true instanceof Array) prev.countstar +=
true.length;
else prev.countstar++;
},
"finalize": function(prev) {
94
3. INTRODUCTION ET PREMIERS SELECT
prev.averagescore = prev.sumforaverageaveragescore /
prev.countforaverageaveragescore;
delete prev.sumforaverageaveragescore;
delete prev.countforaverageaveragescore;
},
"cond": {
"score": {
"$gt": 0
},
"person": {
"$in": ["bob", "jake"]
}
}
});
Un des avantages de ces technologies, c’est qu’un modèle clé-valeur permet facilement
d’utiliser des algorithmes de type MapReduce : diviser le problème en sous-problèmes
traités parallèlement par différents nœuds (phase Map), puis synthétisés de façon cen-
tralisée (phase Reduce).
Les bases de données relationnelles ne sont pas incompatibles avec Map Reduce en soit.
Simplement, le langage SQL étant déclaratif, il est conceptuellement opposé à la descrip-
tion fine des traitements qu’on doit réaliser avec MapReduce. C’est (encore une fois) le
travail de l’optimiseur d’être capable d’effectuer ce genre d’opérations. On peut penser
au mode « parallèle » qu’on trouve dans certains SGBD comme Oracle (et que PostgreSQL
n’a pas encore), ou à des solutions comme Postgres-XC. On peut aussi utiliser des tech-
nologies comme PL/Proxy, mais on perd l’avantage du côté déclaratif de SQL, puisqu’on
utilise alors uniquement des procédures stockées.
Les objets logiques sont appelés des relations. Ce sont généralement les tables, mais il
95
https://dalibo.com/formations
SQL pour PostgreSQL
existe d’autres objets qui sont aussi des relations (les vues par exemple, mais aussi les
index et les séquences).
Le modèle relationnel se base sur la théorie des ensembles. Chaque relation contient un
ensemble de données et ces différents ensembles peuvent se joindre suivant certaines
conditions.
La logique des prédicats est un sous-ensemble de la théorie des ensembles. Elle sert à
exprimer des formules logiques qui permettent de filtrer les ensembles de départ pour
créer de nouveaux ensembles (autrement dit, filtrer les enregistrements d’une relation).
Cependant, tout élément d’un enregistrement n’est pas forcément connu à un instant t.
Les filtres et les jointures doivent donc gérer trois états lors d’un calcul de prédicat : vrai,
faux ou inconnu.
3.2.7 ACID
• Atomicité (Atomic)
• Cohérence (Consistent)
• Isolation (Isolated)
• Durabilité (Durable)
Les propriétés ACID (acronyme de Atomic Consistent Isolated Durable) sont le fondement
même de toute base de données. Il s’agit de quatre règles fondamentales que toute trans-
action doit respecter :
Les propriétés ACID sont quatre propriétés essentielles d’un sous-système de traitement
de transactions d’un système de gestion de base de données. On considère parfois
que seuls les SGBD qui respectent ces quatre propriétés sont dignes d’être considérées
96
3. INTRODUCTION ET PREMIERS SELECT
comme des bases de données relationnelles. Les SGBD de la famille des NoSQL (Mon-
goDB, Cassandra, BigTable...) sont en effet des bases de données, mais ne respectent
pas la Cohérence. Elles sont cohérentes à terme, ou en anglais eventually consistent, mais
la cohérence en fin de transaction n’est pas garantie.
Le langage SQL a été normalisé par l’ANSI en 1986 et est devenu une norme ISO inter-
nationale en 1987. Elle a subi plusieurs évolutions dans le but d’ajouter des fonctionnal-
ités correspondant aux attentes de l’industrie logicielle. Parmi ces améliorations, notons
l’intégration de quelques fonctionnalités objets pour le modèle relationnel-objet.
• Langage
– règles d’écriture
– règles de formatage
– commentaires
• Améliore la lisibilité d’une requête
Il n’y a pas de règles établies concernant l’écriture de requêtes SQL. Il faut néanmoins avoir
à l’esprit qu’il s’agit d’un langage à part entière et, au même titre que ce qu’un développeur
fait avec n’importe quel code source, il convient de l’écrire de façon lisible.
97
https://dalibo.com/formations
SQL pour PostgreSQL
• Écriture
– mots clés SQL en MAJUSCULES
– identifiants de colonnes/tables en minuscule
• Formatage
– dissocier les éléments d’une requête
– un prédicat par ligne
– indentation
celle-ci ?
select groupeid,datecreationitem from itemagenda where typeitemagenda = 5 and
groupeid in(12225,12376) and datecreationitem > now() order by groupeid,
datecreationitem ;
ou celle-ci ?
SELECT groupeid, datecreationitem
FROM itemagenda
WHERE typeitemagenda = 5
AND groupeid IN (12225,12376)
AND datecreationitem > now()
ORDER BY groupeid, datecreationitem;
3.2.11 COMMENTAIRES
Une requête SQL peut être commentée au même titre qu’un programme standard.
Un commentaire peut aussi se présenter sous la forme d’un bloc de commentaire, le bloc
pouvant occuper plusieurs lignes :
/* Ceci est un commentaire
sur plusieurs
52
https://forum.postgresql.fr/viewtopic.php?id=2610
98
3. INTRODUCTION ET PREMIERS SELECT
lignes
*/
• DDL
– Data Definition Language
– définit les structures de données
• DML
– Data Manipulation Language
– manipule les données
• DCL
– Data Control Language
– contrôle l’accès aux données
• TCL
– Transaction Control Language
– contrôle les transactions
– implicites si « autocommit »
Le langage SQL est divisé en quatre sous-ensembles qui ont chacun un but différent.
Les ordres DDL (pour Data Definition Language) permettent de définir les structures
de données. On retrouve les ordres suivants :
Les ordres DML (pour Data Manipulation Language) permettent l’accès et la modifica-
tion des données. On retrouve les ordres suivants :
Les ordres DCL (pour Data Control Language) permettent de contrôler l’accès aux don-
nées. Ils permettent plus précisément de donner ou retirer des droits à des utilisateurs
ou des groupes sur les objets de la base de données :
Enfin, les ordres TCL (pour Transaction Control Language) permettent de contrôler
les transactions :
Les ordres BEGIN et COMMIT sont souvent implicites dans le cas d’ordres isolés, si l’« au-
tocommit » est activé. Vous devez entrer donc manuellement BEGIN ; / COMMIT ; pour
faire des transactions de plus d’un ordre. C’est en fait dépendant de l’outil client, et psql
a un paramètre autocommit à on par défaut. Mais ce n’est pas forcément le cas sur votre
configuration précise et le défaut peut être inversé sur d’autres bases de données (notam-
ment Oracle).
Noter que, contrairement à d’autres bases (et surtout Oracle), PostgreSQL n’effectue pas
de COMMIT implicite sur certaines opérations : les ordres CREATE TABLE, DROP TABLE,
TRUNCATE TABLE... sont transactionnels, n’effectuent aucun COMMIT et peuvent être an-
nulés par ROLLBACK.
• Ordre SELECT
– lecture d’une ou plusieurs tables
– ou appel de fonctions
La lecture des données se fait via l’ordre SELECT. Il permet de récupérer des données
d’une ou plusieurs tables (il faudra dans ce cas joindre les tables). Il permet aussi de faire
appel à des fonctions stockées en base.
100
3. INTRODUCTION ET PREMIERS SELECT
SELECT expressions_colonnes
[ FROM elements_from ]
[ WHERE predicats ]
[ ORDER BY expressions_orderby ]
[ LIMIT limite ]
[ OFFSET offset ];
L’ordre SELECT est composé de différents éléments dont la plupart sont optionnels.
L’exemple de syntaxe donné ici n’est pas complet.
La liste de sélection décrit le format de la table virtuelle qui est retournée par l’ordre
SELECT. Les types de données des colonnes retournées seront conformes au type des
éléments donnés dans la liste de sélection.
101
https://dalibo.com/formations
SQL pour PostgreSQL
La liste de sélection décrit le format de la table virtuelle qui est retournée par l’ordre
SELECT. Cette liste est composée d’expressions séparées par une virgule.
Chaque expression peut être une simple constante, peut faire référence à des colonnes
d’une table lue par la requête, et peut être un appel à une fonction.
Une expression peut être plus complexe. Par exemple, elle peut combiner plusieurs con-
stantes et/ou colonnes à l’aide d’opérations. Parmi les opérations les plus classiques,
les opérateurs arithmétiques classiques sont utilisables pour les données numériques.
L’opérateur de concaténation permet de concaténer des chaînes de caractères.
SELECT 1;
?column?
----------
1
(1 row)
Elle peut aussi être une référence à une colonne d’une table :
SELECT appellation.libelle
FROM appellation;
SELECT libelle
FROM appellation;
Le SGBD saura déduire la table et la colonne mises en œuvre dans cette requête. Il faudra
néanmoins utiliser la forme complète table.colonne si la requête met en œuvre des
tables qui possèdent des colonnes qui portent des noms identiques.
Une requête peut sélectionner plusieurs colonnes. Dans ce cas, les expressions de
colonnes sont définies sous la forme d’une liste dont chaque élément est séparé par une
virgule :
Le joker * permet de sélectionner l’ensemble des colonnes d’une table, elles apparaitront
dans leur ordre physique (attention si l’ordre change !) :
SELECT *
FROM appellation;
Si une requête met en œuvre plusieurs tables, on peut choisir de retourner toutes les
colonnes d’une seule table :
102
3. INTRODUCTION ET PREMIERS SELECT
SELECT appellation.*
FROM appellation;
Une expression de colonne peut également être une opération, par exemple une addition :
SELECT 1 + 1;
?column?
----------
2
(1 row)
Ou une soustraction :
SELECT annee, nombre - 10
FROM stock;
• Renommage
– ou alias
– AS :
expression AS alias
• le résultat portera le nom de l’alias
Afin de pouvoir nommer de manière adéquate les colonnes du résultat d’une requête
SELECT, le mot clé AS permet de définir un alias de colonne. Cet alias sera utilisé dans le
résultat pour nommer la colonne en sortie :
SELECT 1 + 1 AS somme;
somme
-------
2
(1 row)
Cet alias n’est pas utilisable dans le reste de la requête (par exemple dans la clause WHERE).
103
https://dalibo.com/formations
SQL pour PostgreSQL
Par défaut, SELECT retourne tous les résultats d’une requête. Parfois, des doublons peu-
vent se présenter dans le résultat. La clause DISTINCT permet de les éviter en réalisant
un dédoublonnage des données avant de retourner le résultat de la requête.
En règle générale, la clause DISTINCT devient inutile lorsqu’elle doit trier un ensemble qui
contient des colonnes qui sont déjà uniques. Si une requête récupère une clé primaire,
les données sont uniques par définition. Le SELECT DISTINCT sera alors transformé en
simple SELECT.
3.3.6 DÉRIVATION
Les constantes et valeurs des colonnes peuvent être dérivées selon le type des données
manipulées.
Les données numériques peuvent être dérivées à l’aide des opérateurs arithmétiques stan-
dards : +, -, /, *. Elles peuvent faire l’objet d’autres calculs à l’aide de fonctions internes
et de fonctions définies par l’utilisateur.
La requête suivante permet de calculer le volume total en litres de vin disponible dans le
stock du caviste :
SELECT SUM(c.contenance * s.nombre) AS volume_total
FROM stock s
JOIN contenant c
ON (contenant_id=c.id);
104
3. INTRODUCTION ET PREMIERS SELECT
Dans la requête suivante, l’opérateur de concaténation est utilisé pour ajouter l’unité. Le
résultat est ainsi implicitement converti en chaîne de caractères.
SELECT SUM(c.contenance * s.nombre) || ' litres' AS volume_total
FROM stock AS s
JOIN contenant AS c
ON (contenant_id=c.id);
De manière générale, il n’est pas recommandé de réaliser les opérations de formatage des
données dans la base de données. La base de données ne doit servir qu’à récupérer les
résultats, le formatage étant assuré par l’application.
Parmi les fonctions les plus couramment utilisés, la fonction now() permet d’obtenir la
date et l’heure courante. Elle ne prend aucun argument. Elle est souvent utilisée, notam-
ment pour affecter automatiquement la valeur de l’heure courante à une colonne.
La fonction age(timestamp) permet de connaître l’âge d’une date par rapport à la date
courante.
Enfin, la fonction count(*) permet de compter le nombre de lignes. Il s’agit d’une fonction
d’agrégat, il n’est donc pas possible d’afficher les valeurs d’autres colonnes sans faire appel
aux capacités de regroupement des lignes de SQL.
105
https://dalibo.com/formations
SQL pour PostgreSQL
Exemples
La clause FROM permet de lister les tables qui sont mises en œuvres dans la requêtes
SELECT. Il peut s’agir d’une table physique, d’une vue ou d’une sous-requête. Le résultat
de leur lecture sera une table du point de vue de la requête qui la met en œuvre.
Plusieurs tables peuvent être mises en œuvre, généralement dans le cadre d’une jointure.
106
3. INTRODUCTION ET PREMIERS SELECT
• mot-clé AS
– optionnel :
reference_table alias
• la table sera ensuite référencée par l’alias sql reference_table [AS]
alias sql reference_table AS alias (alias_colonne1, ...)
De la même façon qu’on peut créer des alias de colonnes, on peut créer des alias de tables.
La table sera ensuite référencée uniquement par cet alias dans la requête. Elle ne pourra
plus être référencée par son nom réel. L’utilisation du nom réel provoquera d’ailleurs une
erreur.
Le mot clé AS permet de définir un alias de table. Le nom réel de la table se trouve à gauche,
l’alias se trouve à droite. L’exemple suivant définie un alias reg sur la table region :
SELECT id, libelle
FROM region AS reg;
La requête suivante montre l’utilisation d’un alias pour les deux tables mises en œuvre
dans la requête. La table stock a pour alias s et la table contenant a pour alias c. Les deux
tables possèdent toutes les deux une colonnes id, ce qui peut poser une ambiguïté dans
la clause de jointure (ON (contenant_id=c.id)). La condition de jointure portant sur la
colonne contenant_id de la table stock, son nom est unique et ne porte pas à ambiguïté.
La condition de jointure porte également sur la colonne id de table contenant, il faut
préciser le nom complet de la colonne en utilisant le préfixe c pour la nommer : c.id.
SELECT SUM(c.contenance * s.nombre) AS volume_total
FROM stock s
JOIN contenant c
ON (contenant_id=c.id);
107
https://dalibo.com/formations
SQL pour PostgreSQL
Avec PostgreSQL, les noms des objets sont automatiquement convertis en minuscule,
sauf s’ils sont englobés entre des guillemets doubles. Si jamais ils sont créés avec une
casse mixte en utilisant les guillemets doubles, chaque appel à cet objet devra utiliser la
bonne casse et les guillemets doubles. Il est donc conseillé d’utiliser une notation des
objets ne comprenant que des caractères minuscules.
Il est aussi préférable de ne pas utiliser d’accents ou de caractères exotiques dans les
noms des objets.
La clause WHERE permet de définir des conditions de filtrage des données. Ces conditions
de filtrage sont appelées des prédicats.
Après le traitement de la clause FROM, chaque ligne de la table virtuelle dérivée est vérifiée
avec la condition de recherche. Si le résultat de la vérification est positif (true), la ligne est
conservée dans la table de sortie, sinon (c’est-à-dire si le résultat est faux ou nul) la ligne
est ignorée.
108
3. INTRODUCTION ET PREMIERS SELECT
• Comparaison
– =, <, >, <=, >=, <>
• Négation
– NOT
expression operateur_comparaison expression
Un prédicat est composé d’une expression qui est soumise à un opérateur de prédicat
pour être éventuellement comparé à une autre expression. L’opérateur de prédicat re-
tourne alors true si la condition est vérifiée ou false si elle ne l’est pas ou NULL si son
résultat ne peut être calculé.
Les opérateurs de comparaison sont les opérateurs de prédicats les plus souvent utilisés.
L’opérateur d’égalité = peut être utilisé pour vérifier l’égalité de l’ensemble des types de
données supportés par PostgreSQL. Il faudra faire attention à ce que les données com-
parées soient de même type.
L’opérateur NOT est une négation. Si un prédicat est vrai, l’opérateur NOT retournera faux.
À l’inverse, si un prédicat est faux, l’opérateur NOT retournera vrai. La clause NOT se place
devant l’expression entière.
Exemples
SELECT *
FROM region
WHERE NOT id = 3;
109
https://dalibo.com/formations
SQL pour PostgreSQL
• OU logique
– predicat OR predicat
• ET logique
– predicat AND predicat
Au même titre qu’une multiplication ou une division sont prioritaires sur une addition ou
une soustraction dans un calcul, l’évaluation de l’opérateur AND est prioritaire sur celle de
l’opérateur OR. Et, tout comme dans un calcul, il est possible de protéger les opérations
prioritaires en les encadrant de parenthèses.
Exemples
Dans le stock, affiche les vins dont le nombre de bouteilles est inférieur à 2 ou supérieur
à 16 :
SELECT *
FROM stock
WHERE nombre < 2
OR nombre > 16;
L’opérateur LIKE permet de réaliser une recherche simple sur motif. La chaîne exprimant
le motif de recherche peut utiliser deux caractères joker : _ et %. Le caractère _ prend la
place d’un caractère inconnu, qui doit toujours être présent. Le caractère % est un joker
qui permet d’exprimer que PostgreSQL doit trouver entre 0 et plusieurs caractères.
Exploiter la clause LIKE avec un motif sans joker ne présente pas d’intérêt. Il est préférable
dans ce cas d’utiliser l’opérateur d’égalité.
110
3. INTRODUCTION ET PREMIERS SELECT
Le mot clé ESCAPE 'c' permet de définir un caractère d’échappement pour protéger les
caractères _ et % qui font légitimement partie de la chaîne de caractère du motif évalué.
Lorsque PostgreSQL rencontre le caractère d’échappement indiqué, les caractères _ et %
seront évalués comme étant les caractères _ et % et non comme des jokers.
L’opérateur LIKE dispose d’une déclinaison qui n’est pas sensible à la casse. Il s’agit de
l’opérateur ILIKE.
Exemples
Toutes les chaînes qui commencent par Dupon suivi d’un caractère inconnu. La chaîne
Dupon devrait être ignorée :
SELECT * FROM motif WHERE chaine LIKE 'Dupon_';
chaine
------------
Dupont
Dupond
111
https://dalibo.com/formations
SQL pour PostgreSQL
La clause IN permet de vérifier que l’expression de gauche est égale à une valeur présente
dans l’expression de droite, qui est une liste d’expressions. La négation peut être utilisée
en utilisant la construction NOT IN.
L’opérateur BETWEEN permet de vérifier que la valeur d’une expression est comprise entre
deux bornes. Par exemple, l’expression valeur BETWEEN 1 AND 10 revient à exprimer la
condition suivante : valeur >= 1 AND valeur<= 10. La négation peut être utilisée en
utilisant la construction NOT BETWEEN.
Exemples
3.3.16 TRIS
La clause ORDER BY permet de trier les lignes du résultat d’une requête selon une ou
plusieurs expressions combinées.
L’expression la plus simple est le nom d’une colonne. Dans ce cas, les lignes seront triées
selon les valeurs de la colonne indiquée, et par défaut dans l’ordre ascendant, c’est-à-dire
112
3. INTRODUCTION ET PREMIERS SELECT
de la valeur la plus petite à la plus grande pour une donnée numérique ou temporelle, et
dans l’ordre alphabétique pour une donnée textuelle.
Les lignes peuvent être triées selon une expression plus complexe, par exemple en déri-
vant la valeur d’une colonne.
L’ordre de tri peut être modifié à l’aide de la clause DESC qui permet un tri dans l’ordre
descendant, donc de la valeur la plus grande à la plus petite (ou alphabétique inverse le
cas échéant).
La clause NULLS permet de contrôler l’ordre d’apparition des valeurs NULL. La clause NULLS
FIRST permet de faire apparaître d’abord les valeurs NULL puis les valeurs non NULL selon
l’ordre de tri. La clause NULLS LAST permet de faire apparaître d’abord les valeurs non
NULL selon l’ordre de tri suivies par les valeurs NULL. Si cette clause n’est pas précisée,
alors PostgreSQL utilise implicitement NULLS LAST dans le cas d’un tri ascendant (ASC,
par défaut) ou NULLS FIRST dans le cas d’un tri descendant (DESC, par défaut).
Exemples
SELECT *
FROM region
ORDER BY libelle;
SELECT *
FROM stock
ORDER BY nombre DESC;
Enfin, la clause COLLATE permet d’influencer sur l’ordre de tri des chaînes de caractères.
La clause OFFSET permet d’exclure les n premières lignes du résultat. Toutes les autres
lignes sont ramenées.
La clause FETCH est synonyme de la clause LIMIT. Mais LIMIT est une clause propre à
PostgreSQL et quelques autres SGBD. Il est recommandé d’utiliser FETCH pour se con-
former au standard.
Ces deux opérations peuvent être combinées. La norme impose de faire apparaître la
clause OFFSET avant la clause FETCH. PostgreSQL permet néanmoins d’exprimer ces
clauses dans un ordre différent, mais la requête ne pourra pas être portée sur un autre
SGBD sans transformation.
Il faut faire attention au fait que ces fonctions ne permettent pas d’obtenir des résultats
stables si les données ne sont pas triées explicitement. En effet, le standard SQL ne
garantie en aucune façon l’ordre des résultats à moins d’employer la clause ORDER BY.
Exemples
114
3. INTRODUCTION ET PREMIERS SELECT
La clause OFFSET 4 permet d’exclure les quatre premières lignes et de retourner les autres
lignes du résultat :
Les clauses LIMIT et OFFSET peuvent être combinées pour ramener les deux lignes en
excluant les quatre premières :
• Clause FROM
– liste de tables séparées par ,
• Une table est combinée avec une autre
– jointure
– produit cartésien
Il est possible d’utiliser plusieurs tables dans une requête SELECT. Lorsque c’est le cas, et
sauf cas particulier, on fera correspondre les lignes d’une table avec les lignes d’une autre
115
https://dalibo.com/formations
SQL pour PostgreSQL
table selon certains critères. Cette mise en correspondance s’appelle une jointure et les
critères de correspondances s’appellent une condition de jointure.
Si aucune condition de jointure n’est donnée, chaque ligne de la première table est mise en
correspondance avec toutes les lignes de la seconde table. C’est un produit cartésien. En
général, un produit cartésien n’est pas souhaitable et est généralement le résultat d’une
erreur de conception de la requête.
Exemples
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (1, 1, 'fille 1');
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (2, 1, 'fille 2');
Pour procéder à une jointure entre les tables mere et fille, les identifiants id_mere de
la table fille doivent correspondre avec les identifiants id de la table mere :
Un produit cartésien est créé en omettant la condition de jointure, le résultat n’a plus de
sens :
116
3. INTRODUCTION ET PREMIERS SELECT
• Type de données
– du standard SQL
– certains spécifiques PostgreSQL
On utilise des types de données pour représenter une information de manière pertinente.
Les valeurs possibles d’une donnée vont dépendre de son type. Par exemple, un entier
long ne permet par exemple pas de coder des valeurs décimales. De la même façon,
un type entier ne permet pas de représenter une chaîne de caractère, mais l’inverse est
possible.
L’intérêt du typage des données est qu’il permet également à la base de données de valider
les données manipulées. Ainsi un entier integer permet de représenter des valeurs com-
prises entre -2,147,483,648 et 2,147,483,647. Si l’utilisateur tente d’insérer une don-
née qui dépasse les capacités de ce type de données, une erreur lui sera retournée. On
retrouve ainsi la notion d’intégrité des données. Comme pour les langages de program-
mation fortement typés, cela permet de détecter davantage d’erreurs, plus tôt : à la com-
pilation dans les langages typés, ou ici des la première exécution d’une requête, plutôt
que plus tard, quand une chaîne de caractère ne pourra pas être convertie à la volée en
entier par exemple.
Le choix d’un type de données va également influencer la façon dont les données sont
représentées. En effet, toute donnée à une représentation textuelle et une représentation
117
https://dalibo.com/formations
SQL pour PostgreSQL
en mémoire et sur disque. Ainsi, un integer est représenté sous la forme d’une suite de 4
octets, manipulables directement par le processeur, alors que sa représentation textuelle
est une suite de caractères. Cela a une implication forte sur les performances de la base
de données.
Le type de données choisi permet également de déterminer les opérations que l’on pourra
appliquer. Tous les types de données permettent d’utiliser des opérateurs qui leur sont
propres. Ainsi il est possible d’additionner des entiers, de concaténer des chaînes de
caractères, etc. Si une opération ne peut être réalisée nativement sur le type de données,
il faudra utiliser des conversions coûteuses. Vaut-il mieux additionner deux entiers issus
d’une conversion d’une chaîne de caractère vers un entier ou additionner directement
deux entiers ? Vaut-il mieux stocker une adresse IP avec un varchar ou avec un type de
données dédié ?
Il est à noter que l’utilisateur peut contrôler lui-même certains types de données
paramétrés. Le paramètre représente la longueur ou la précision du type de données.
Ainsi, un type varchar(15) permettra de représenter des chaînes de caractères de 15
caractères maximum.
Les types de données standards permettent de traiter la plupart des situations qui peu-
vent survenir. Dans certains cas, il peut être nécessaire de faire appel aux types spéci-
fiques à PostgreSQL, par exemple pour stocker des adresses IP avec le type spécifique
et bénéficier par la même occasion de toutes les classes d’opérateurs qui permettent de
manipuler simplement ce type de données.
118
3. INTRODUCTION ET PREMIERS SELECT
• Caractère
– char, varchar
• Numérique
– integer, smallint, bigint
– real, double precision
– numeric, decimal
• Booléen
– boolean
Le standard SQL propose des types standards pour stocker des chaînes de caractères
(de taille fixe ou variable), des données numériques (entières, à virgule flottante) et des
booléens.
• Temporel
– date, time
– timestamp
– interval
• Chaînes de bit
– bit, bit varying
• Formats validés
– XML
Le standard SQL propose également des types standards pour stocker des éléments tem-
porels (date, heure, la combinaison des deux avec ou sans fuseau horaire, intervalle).
D’utilisation plus rare, SQL permet également de stocker des chaînes de bit et des don-
nées validées au format XML.
119
https://dalibo.com/formations
SQL pour PostgreSQL
3.4.5 CARACTÈRES
• char(n)
– longueur fixe
– de n caractères
– complété à droite par des espaces si nécessaire
• varchar(n)
– longueur variable
– maximum n caractères
– n optionnel
Le type char(n) permet de stocker des chaînes de caractères de taille fixe, donnée par
l’argument n. Si la chaîne que l’on souhaite stocker est plus petite que la taille donnée à la
déclaration de la colonne, elle sera complétée par des espaces à droite. Si la chaîne que
l’on souhaite stocker est trop grande, une erreur sera levée.
• Norme SQL
– chaîne encadrée par '
– 'chaîne de caractères'
• Chaînes avec échappement du style C
– chaîne précédée par E ou e
– E'chaîne de caractères'
• Chaînes avec échappement Unicode
– chaîne précédée par U&
– U&'chaîne de caractères'
La norme SQL définit que les chaînes de caractères sont représentées encadrées de
guillemets simples (caractère '). Le guillemet double (caractère ") ne peut être utilisé
car il sert à protéger la casse des noms d’objets. PostgreSQL interprétera alors la chaîne
comme un nom d’objet et générera une erreur.
120
3. INTRODUCTION ET PREMIERS SELECT
Une représentation correcte d’une chaîne de caractères est donc de la forme suivante :
'chaîne de caractères'
Les caractères ' doivent être doublés s’ils apparaissent dans la chaîne :
'J''ai acheté des croissants'
Une extension de la norme par PostgreSQL permet d’utiliser les méta-caractères des lan-
gages tels que le C, par exemple \n pour un retour de ligne, \t pour une tabulation, etc. :
E'chaîne avec un retour \nde ligne et une \ttabulation'
3.4.7 NUMÉRIQUES
• Entier
– smallint, integer, bigint
– signés
• Virgule flottante
– real, double precision
– valeurs inexactes
• Précision arbitraire
– numeric(precision, echelle), decimal(precision, echelle)
– valeurs exactes
Le standard SQL propose des types spécifiques pour stocker des entiers signés. Le type
smallint permet de stocker des valeurs codées sur 2 octets, soit des valeurs comprises
entre -32768 et +32767. Le type integer ou int, codé sur 4 octets, permet de stocker
des valeurs comprises entre -2147483648 et +2147483647. Enfin, le type bigint, codé
sur 8 octets, permet de stocker des valeurs comprises entre -9223372036854775808
et 9223372036854775807. Le standard SQL ne propose pas de stockage d’entiers non
signés.
Le standard SQL permet de stocker des valeurs décimales en utilisant les types à virgules
flottantes. Avant de les utiliser, il faut avoir à l’esprit que ces types de données ne permet-
tent pas de stocker des valeurs exactes, des différences peuvent donc apparaître entre la
donnée insérée et la donnée restituée. Le type real permet d’exprimer des valeurs à vir-
gules flottantes sur 4 octets, avec une précision relative de six décimales. Le type double
precision permet d’exprimer des valeurs à virgules flottantes sur huit octets, avec une
précision relative de 15 décimales.
decimal, qui permet de stocker des valeurs exactes, selon la précision arbitraire donnée.
Dans la déclaration numeric(precision, echelle), la partie precision indique com-
bien de chiffres significatifs sont stockés, la partie echelle exprime le nombre de chiffres
après la virgule. Au niveau du stockage, PostgreSQL ne permet pas d’insérer des valeurs
qui dépassent les capacités du type déclaré. En revanche, si l’échelle de la valeur à stocker
dépasse l’échelle déclarée de la colonne, alors sa valeur est simplement arrondie.
On peut aussi utiliser numeric sans aucune contrainte de taille, pour stocker de façon
exacte n’importe quel nombre.
• Chiffres décimaux : 0 à 9
• Séparateur décimal : .
• chiffres
• chiffres.[chiffres][e[+-]chiffres]
• [chiffres].chiffres[e[+-]chiffres]
• chiffrese[+-]chiffres
• Conversion
– TYPE 'chaine'
Au moins un chiffre doit être placé avant ou après le point décimal, s’il est utilisé. Au
moins un chiffre doit suivre l’indicateur d’exponentiel (caractère e), s’il est présent. Il peut
ne pas y avoir d’espaces ou d’autres caractères imbriqués dans la constante. Notez que
tout signe plus ou moins en avant n’est pas forcément considéré comme faisant part de
la constante ; il est un opérateur appliqué à la constante.
42
3.5
4.
.001
5e2
1.925e-3
Une constante numérique contenant soit un point décimal soit un exposant est tout
d’abord présumée du type integer si sa valeur est contenue dans le type integer (4
octets). Dans le cas contraire, il est présumé de type bigint si sa valeur entre dans un
122
3. INTRODUCTION ET PREMIERS SELECT
type bigint (8 octets). Dans le cas contraire, il est pris pour un type numeric. Les con-
stantes contenant des points décimaux et/ou des exposants sont toujours présumées de
type numeric.
3.4.9 BOOLÉENS
• boolean
• 3 valeurs possibles
– TRUE
– FALSE
– NULL (ie valeur absente)
Le type boolean permet d’exprimer des valeurs booléennes, c’est-à-dire une valeur exp-
rimant vrai ou faux. Comme tous les types de données en SQL, une colonne booléenne
peut aussi ne pas avoir de valeur, auquel cas sa valeur sera NULL.
3.4.10 TEMPOREL
• Date
– date
• Heure
– time
– avec ou sans fuseau horaire
• Date et heure
– timestamp
– avec ou sans fuseau horaire
123
https://dalibo.com/formations
SQL pour PostgreSQL
• Intervalle de temps
– interval
Le type date exprime une date. Ce type ne connaît pas la notion de fuseau horaire.
Le type time exprime une heure. Par défaut, il ne connaît pas la notion de fuseau ho-
raire. En revanche, lorsque le type est déclaré comme time with time zone, il prend en
compte un fuseau horaire. Mais cet emploi n’est pas recommandé. En effet, une heure
convertie d’un fuseau horaire vers un autre pose de nombreux problèmes. En effet, le
décalage horaire dépend également de la date : quand il est 6h00, heure d’été, à Paris, il
est 21H00 sur la côte Pacifique aux États-Unis mais encore à la date de la veille.
Le type timestamp permet d’exprimer une date et une heure. Par défaut, il ne connaît pas
la notion de fuseau horaire. Lorsque le type est déclaré timestamp with time zone, il
est adapté aux conversions d’heure d’un fuseau horaire vers un autre car le changement
de date sera répercuté dans la composante date du type de données. Il est précis à la
microseconde.
La norme ISO (ISO-8601) impose le format de date « année-mois-jour ». La norme SQL est
plus permissive et permet de restituer une date au format « jour/mois/année » si DateStyle
est égal à 'SQL, DMY'.
SET datestyle = 'ISO, DMY';
SELECT current_timestamp;
now
-------------------------------
2017-08-29 16:11:58.290174+02
SELECT current_timestamp;
now
--------------------------------
29/08/2017 16:12:25.650716 CEST
124
3. INTRODUCTION ET PREMIERS SELECT
• Conversion explicite
– TYPE 'chaine'
• Format d’un timestamp
– 'YYYY-MM-DD HH24:MI:SS.ssssss'
– 'YYYY-MM-DD HH24:MI:SS.ssssss+fuseau'
– 'YYYY-MM-DD HH24:MI:SS.ssssss' AT TIME ZONE 'fuseau'
• Format d’un intervalle
– INTERVAL 'durée interval'
Expression d’une heure, avec fuseau horaire invariant. Cette forme est déconseillée :
TIME WITH TIME ZONE '10:20:10' AT TIME ZONE 'CEST'
• Paramètre timezone
• Session : SET TIME ZONE
• Expression d’un fuseau horaire
– nom complet : 'Europe/Paris'
– nom abbrégé : 'CEST'
– décalage : '+02'
Le fuseau horaire de l’instance peut également être défini au cours de la session à l’aide
de la commande SET TIME ZONE.
La France utilise deux fuseaux horaires normalisés. Le premier, CET, correspond à Central
European Time ou autrement dit à l’heure d’hiver en Europe centrale. Le second, CEST,
correspond à Central European Summer Time, c’est-à-dire l’heure d’été en Europe centrale.
La liste des fuseaux horaires supportés est disponible dans la table système pg_timezone_names :
SELECT * FROM pg_timezone_names ;
name | abbrev | utc_offset | is_dst
----------------------------------+--------+------------+--------
GB | BST | 01:00:00 | t
ROK | KST | 09:00:00 | f
Greenwich | GMT | 00:00:00 | f
(...)
Il est possible de positionner le fuseau horaire au niveau de la session avec l’ordre SET
TIME ZONE :
SET TIME ZONE "Europe/Paris";
SELECT now();
now
-------------------------------
2017-08-29 10:19:56.640162+02
126
3. INTRODUCTION ET PREMIERS SELECT
SELECT now();
now
-------------------------------
2017-08-29 11:20:17.199983+03
Conversion implicite d’une donnée de type timestamp dans le fuseau horaire courant :
SET TIME ZONE "Europe/Kiev";
Conversion explicite d’une donnée de type timestamp dans un autre fuseau horaire :
SELECT '2017-08-29 06:00:00' AT TIME ZONE 'US/Pacific';
timezone
---------------------
28/08/2017 21:00:00
• Chaînes de bits
– bit(n), bit varying(n)
Les types bit et bit varying permettent de stocker des masques de bits. Le type bit(n)
est à longueur fixe alors que le type bit varying(n) est à longueur variable mais avec
un maximum de n bits.
• Représentation binaire
– Chaîne de caractères précédée de la lettre B
– B'01010101'
• Représentation hexadécimale
– Chaîne de caractères précédée de la lettre X
– X'55'
127
https://dalibo.com/formations
SQL pour PostgreSQL
3.4.15 XML
• Type validé
– xml
• Chaîne de caractères
– validation du document XML
Le type xml permet de stocker des documents XML. Par rapport à une chaîne de carac-
tères simple, le type xml apporte la vérification de la structure du document XML ainsi
que des fonctions de manipulations spécifiques (voir la documentation officielle54 ).
Néanmoins, ces types restent assez proches de la norme car ils définissent au final une
colonne qui utilise un type et des objets standards. Selon le type dérivé utilisé, la colonne
sera de type smallint, integer ou bigint. Une séquence sera également créée et la
colonne prendra pour valeur par défaut la prochaine valeur de cette séquence.
Il est à noter que la notion d’identité apparaît en version 10 et qu’il est préférable de
passer par cette contrainte que par ces types dérivés.
Attention : ces types n’interdisent pas l’insertion manuelle de doublons. Une contrainte
de clé primaire explicite reste nécessaire pour les éviter.
54
https://docs.postgresql.fr/current/functions-xml.html
128
3. INTRODUCTION ET PREMIERS SELECT
Le type text est l’équivalent du type varchar mais sans limite de taille de la chaîne de
caractère.
• bytea
• array
• enum
• cidr, inet, macaddr
• uuid
• json, jsonb, hstore
• range
Les types standards ne sont pas toujours suffisants pour représenter certaines données.
À l’instar d’autres SGBDR, PostgreSQL propose des types de données pour répondre à
certains besoins.
On notera le type bytea qui permet de stocker des objets binaires dans une table. Le
type array permet de stocker des tableaux et enum des énumérations.
Les types json et hstore permettent de stocker des documents non structurés dans la
base de données. Le premier au format JSON, le second dans un format de type clé/-
valeur. Le type hstore est d’ailleurs particulièrement efficace car il dispose de méthodes
d’indexation et de fonctions de manipulations performantes. Le type json a été completé
par jsonb qui permet de stocker un document JSON binaire et optimisé, et d’accéder à
une propriété sans désérialiser intégralement le document.
Le type range permet de stocker des intervalles de données. Ces données sont ensuite
manipulables par un jeu d’opérateurs dédiés et par le biais de méthodes d’indexation per-
mettant d’accélérer les recherches.
129
https://dalibo.com/formations
SQL pour PostgreSQL
• Types utilisateurs
– composites
– énumérés (enum)
– intervalles (range)
– scalaires
– tableau
CREATE TYPE
PostgreSQL permet de créer ses propres types de données. Les usages les plus courants
consistent à créer des types composites pour permettre à des fonctions de retourner des
données sous forme tabulaire (retour de type SETOF).
L’utilisation du type énuméré (enum) nécessite aussi la création d’un type spécifique. Le
type sera alors employé pour déclarer les objets utilisant une énumération.
Enfin, si l’on souhaite étendre les types intervalles (range) déjà disponibles, il est néces-
saire de créer un type spécifique.
La création d’un type scalaire est bien plus marginale. Elle permet en effet d’étendre les
types fournis par PostgreSQL mais nécessite d’avoir des connaissances fines des mécan-
ismes de PostgreSQL. De plus, dans la majeure partie des cas, les types standards suffisent
en général à résoudre les problèmes qui peuvent se poser à la conception.
Quant aux types tableaux, ils sont créés implicitement par PostgreSQL quand un utilisa-
teur crée un type personnalisé.
Exemples
130
3. INTRODUCTION ET PREMIERS SELECT
3.5 CONCLUSION
3.5.1 BIBLIOGRAPHIE
Ce livre présente les notions essentielles pour modéliser une base de données et utiliser
le langage SQL pour utiliser les bases de données créées. L’auteur appuie ses exercices
sur PostgreSQL.
Ce livre est écrit par une personne ayant participé à l’élaboration du standard SQL. Il
a souhaité montré les bonnes pratiques pour utiliser le SQL pour résoudre un certain
nombre de problèmes de tous les jours. Le livre s’appuie cependant sur la norme SQL-92,
131
https://dalibo.com/formations
SQL pour PostgreSQL
voire SQL-89. L’édition anglaise SQL for Smarties est bien plus à jour. Pour les anglophones,
la lecture de l’ensemble des livres de Joe Celko est particulièrement recommandée.
Il s’agit du livre de référence sur les performances en SQL. Il dresse un inventaire des
différents cas d’utilisation des index par la base de données, ce qui permettra de mieux
prévoir l’indexation dès la conception. Ce livre s’adresse à un public avancé.
Ce livre s’adresse également à un public avancé. Il présente également les bonnes pra-
tiques lorsque l’on utilise une base de données.
3.5.2 QUESTIONS
55
https://use-the-index-luke.com/fr
132
3. INTRODUCTION ET PREMIERS SELECT
3. Ajouter 1 au nombre de type réel ’1.42’. Pourquoi ce résultat ? Quel type de don-
nées permet d’obtenir un résultat correct ?
4. Afficher le contenu de la table pays en classant les pays dans l’ordre alphabétique.
7. Pour chaque pays, afficher son nom et la région du monde dont il fait partie.
133
https://dalibo.com/formations
SQL pour PostgreSQL
nom_pays | nom_region
-------------------------------+---------------------------
ALGÉRIE | Afrique
(...)
Sortie attendue :
count
-------
12418
Sortie attendue :
numero_commande | nom_client
-----------------+--------------
67 | Client112078
68 | Client33842
(...)
10. Afficher les noms et codes des pays qui font partie de la région « Europe ».
Sortie attendue :
nom_pays | code_pays
-----------------------+-----------
ALLEMAGNE | DE
(...)
11. Pour chaque pays, afficher une chaîne de caractères composée de son nom, suivi
entre parenthèses de son code puis, séparé par une virgule, du nom de la région
dont il fait partie.
Sortie attendue :
detail_pays
--------------------------------------------------
ALGÉRIE (DZ), Afrique
(...)
134
3. INTRODUCTION ET PREMIERS SELECT
12. Pour les clients ayant passé des commandes durant le mois de janvier 2011, affichez
les identifiants des clients, leur nom, leur numéro de téléphone et le nom de leur
pays.
Sortie attendue :
13. Pour les dix premières commandes de l’année 2011, afficher le numéro de la com-
mande, la date de la commande ainsi que son âge.
Sortie attendue :
135
https://dalibo.com/formations
SQL pour PostgreSQL
Le type de données real est un type numérique à virgule flottante, codé sur 4 octets. Il
n’offre pas une précision suffisante pour les calculs précis. Son seul avantage est la vitesse
de calcul. Pour effectuer des calculs précis, il vaut mieux privilégier le type de données
numeric.
4. Afficher le contenu de la table pays en classant les pays dans l’ordre alphabétique.
SELECT * FROM pays ORDER BY nom_pays;
SELECT * FROM pays WHERE nom_pays LIKE '%a%' OR nom_pays LIKE '%A%';
En terme de performances, la seconde variante sera plus rapide sur un volume de données
important si l’on dispose du bon index. La taille de la table pays ne permet pas d’observer
de différence significative sur cette requête.
136
3. INTRODUCTION ET PREMIERS SELECT
7. Pour chaque pays, afficher son nom et la région du monde dont il fait partie :
SELECT nom_pays, nom_region
FROM pays p, regions r
WHERE p.region_id = r.region_id;
À noter que cette syntaxe est obsolète, il faut utiliser la clause JOIN, plus lisible et plus
complète, qui sera vue plus loin :
SELECT count(*)
FROM clients cl
JOIN contacts cn ON (cl.contact_id = cn.contact_id)
JOIN pays p ON (cn.code_pays = p.code_pays)
WHERE p.nom_pays IN ('FRANCE', 'ALLEMAGNE');
En connaissant les codes de ces pays, il est possible d’éviter la lecture de la table pays :
SELECT count(*)
FROM clients cl, contacts cn
WHERE cl.contact_id = cn.contact_id
AND cn.code_pays IN ('FR', 'DE');
10. Afficher les noms et codes des pays qui font partie de la région « Europe ».
SELECT nom_pays, code_pays
FROM regions r, pays p
WHERE r.region_id = p.region_id
AND r.nom_region = 'Europe';
11. Pour chaque pays, afficher une chaîne de caractères composée de son nom, suivi
entre parenthèses de son code puis, séparé par une virgule, du nom de la région
dont il fait partie.
SELECT nom_pays || ' (' || code_pays || '), ' || nom_region
FROM regions r, pays p
WHERE r.region_id = p.region_id;
138
3. INTRODUCTION ET PREMIERS SELECT
12. Pour les clients ayant passé des commandes durant le mois de janvier 2011, affichez
les identifiants des clients, leur nom, leur numéro de téléphone et le nom de leur
pays.
SELECT cl.client_id, nom, telephone, nom_pays
FROM clients cl, commandes cm, contacts cn, pays p
WHERE cl.client_id = cm.client_id
AND cl.contact_id = cn.contact_id
AND cn.code_pays = p.code_pays
AND date_commande BETWEEN '2011-01-01' AND '2011-01-31';
13. Pour les dix premières commandes de l’année 2011, afficher le numéro de la com-
mande, la date de la commande ainsi que son âge.
SELECT numero_commande, date_commande, now() - date_commande AS age
FROM commandes
WHERE date_commande BETWEEN '2011-01-01' AND '2011-12-31'
ORDER BY date_commande
LIMIT 10;
139
https://dalibo.com/formations
SQL pour PostgreSQL
4.1 INTRODUCTION
Le module précédent nous a permis de voir comment lire des données à partir de requêtes
SQL. Ce module a pour but de présenter la création et la gestion des objets dans la base
de données (par exemple les tables), ainsi que l’ajout, la suppression et la modification de
données.
4.1.1 MENU
4.1.2 OBJECTIFS
140
4. CRÉATION D’OBJET ET MISES À JOUR
4.2 DDL
• DDL
– Data Definition Language
– langage de définition de données
• Permet de créer des objets dans la base de données
Les ordres DDL (acronyme de Data Definition Language) permettent de créer des ob-
jets dans la base de données et notamment la structure de base du standard SQL : les
tables.
La norme SQL définit un certain nombre d’objets standards qu’il est possible de créer
en utilisant les ordres DDL. D’autres types d’objets existent bien entendu, comme les
domaines. Les ordres DDL permettent également de créer des index, bien qu’ils ne soient
pas définis dans la norme SQL.
La seule structure de données possible dans une base de données relationnelle est la
table.
141
https://dalibo.com/formations
SQL pour PostgreSQL
• Ordre CREATE
• Syntaxe spécifique au type d’objet
• Exemple :
CREATE SCHEMA s1;
La création d’objet passe généralement par l’ordre CREATE. La syntaxe dépend fortement
du type d’objet. Voici trois exemples :
CREATE SCHEMA s1;
CREATE TABLE t1 (c1 integer, c2 text);
CREATE SEQUENCE s1 INCREMENT BY 5 START 10;
Pour créer un objet, il faut être propriétaire du schéma ou de la base auquel appartiendra
l’objet ou avoir le droit CREATE sur le schéma ou la base.
• Ordre ALTER
• Syntaxe spécifique pour modifier la définition d’un objet, exemple:
• renommage sql ALTER type_objet ancien_nom RENAME TO
nouveau_nom ;
• changement de propriétaire sql ALTER type_objet nom_objet OWNER TO
proprietaire ;
• changement de schéma sql ALTER type_objet nom_objet SET SCHEMA
nom_schema ;
Modifier un objet veut dire modifier ses propriétés. On utilise dans ce cas l’ordre ALTER.
Il faut être propriétaire de l’objet pour pouvoir le faire.
Deux propriétés sont communes à tous les objets : le nom de l’objet et son propriétaire.
Deux autres sont fréquentes et dépendent du type de l’objet : le schéma et le tablespace.
Les autres propriétés dépendent directement du type de l’objet.
142
4. CRÉATION D’OBJET ET MISES À JOUR
• Ordre DROP
• Exemples :
– supprimer un objet :
DROP type_objet nom_objet ;
• supprimer un objet et ses dépendances : sql DROP type_objet nom_objet
CASCADE ;
Seul un propriétaire peut supprimer un objet. Il utilise pour cela l’ordre DROP. Pour les
objets ayant des dépendances, l’option CASCADE permet de tout supprimer d’un coup.
C’est très pratique, et c’est en même temps très dangereux : il faut donc utiliser cette
option à bon escient.
4.2.5 SCHÉMA
Les schémas sont utilisés pour répartir les objets de façon logique, suivant un schéma
interne à l’entreprise. Ils servent aussi à faciliter la gestion des droits (il suffit de révoquer
le droit d’utilisation d’un schéma à un utilisateur pour que les objets contenus dans ce
schéma ne soient plus accessibles à cet utilisateur).
Un schéma public est créé par défaut dans toute nouvelle base de données. Tout le
monde a le droit d’y créer des objets. Il est cependant possible de révoquer ce droit ou
supprimer ce schéma.
143
https://dalibo.com/formations
SQL pour PostgreSQL
L’ordre CREATE SCHEMA permet de créer un schéma. Il suffit de lui spécifier le nom du
schéma. CREATE SCHEMA offre d’autres possibilités qui sont rarement utilisées.
Enfin, l’ordre DROP SCHEMA permet de supprimer un schéma. La clause IF EXISTS permet
d’éviter la levée d’une erreur si le schéma n’existe pas (très utile dans les scripts SQL). La
clause CASCADE permet de supprimer le schéma ainsi que tous les objets qui sont posi-
tionnés dans le schéma.
Exemples
La suppression directe du schéma ne fonctionne pas car il porte encore la table communes :
DROP SCHEMA reference;
ERROR: cannot drop schema reference because other objects depend on it
DETAIL: table reference.communes depends on schema reference
HINT: Use DROP ... CASCADE to drop the dependent objects too.
144
4. CRÉATION D’OBJET ET MISES À JOUR
• Nommage explicite
– nom_schema.nom_objet
• Chemin de recherche de schéma
– paramètre search_path
– SET search_path = schema1,schema2,public;
– par défaut : $user, public
SHOW search_path;
search_path
----------------
"$user",public
(1 row)
Pour obtenir une configuration particulière, la variable search_path peut être position-
née dans le fichier postgresql.conf :
search_path = '"$user",public'
Cette variable peut aussi être positionnée au niveau d’un utilisateur. Chaque fois que
l’utilisateur se connectera, il prendra le search_path de sa configuration spécifique :
Cela peut aussi se faire au niveau d’une base de données. Chaque fois qu’un utilisateur
se connectera à la base, il prendra le search_path de cette base, sauf si l’utilisateur a déjà
une configuration spécifique :
Enfin, la variable search_path peut être modifiée dynamiquement dans la session avec
la commande SET :
Avant la version 9.3, les requêtes préparées et les fonctions conservaient en mémoire
le plan d’exécution des requêtes. Ce plan ne faisait plus référence aux noms des ob-
jets mais à leurs identifiants. Du coup, un search_path changeant entre deux exécu-
tions d’une requête préparée ou d’une fonction ne permettait pas de cibler une table
différente. Voici un exemple le montrant :
-- création des objets
CREATE SCHEMA s1;
CREATE SCHEMA s2;
CREATE TABLE s1.t1 (c1 text);
CREATE TABLE s2.t1 (c1 text);
INSERT INTO s1.t1 VALUES('schéma s1');
INSERT INTO s2.t1 VALUES('schéma s2');
EXECUTE req;
c1
-----------
schéma s1
(1 row)
146
4. CRÉATION D’OBJET ET MISES À JOUR
EXECUTE req;
c1
-----------
schéma s1
(1 row)
4.2.8 SÉQUENCES
• Séquence
– génère une séquence de nombres
• Paramètres
– valeur minimale MINVALUE
– valeur maximale MAXVALUE
– valeur de départ START
– incrément INCREMENT
– cache CACHE
– cycle autorisé CYCLE
Les séquences sont des objets standards qui permettent de générer des séquences de
valeur. Elles sont utilisées notamment pour générer un numéro unique pour un identifiant
ou, plus rarement, pour disposer d’un compteur informatif, mis à jour au besoin.
transactions. Il permet en revanche d’améliorer les performances sur des applications qui
utilisent massivement des numéros de séquences, notamment pour réaliser des insertions
massives.
Le mot clé TEMPORARY ou TEMP permet de définir si la séquence est temporaire. Si tel est
le cas, elle sera détruite à la déconnexion de l’utilisateur.
SELECT nextval('testseq');
nextval
---------
4
SELECT nextval('testseq');
nextval
---------
5
SELECT nextval('testseq');
148
4. CRÉATION D’OBJET ET MISES À JOUR
nextval
---------
3
Les propriétés de la séquence peuvent être modifiés avec l’ordre ALTER SEQUENCE.
Le mot clé CASCADE permet de supprimer la séquence ainsi que tous les objets dépendants
(par exemple la valeur par défaut d’une colonne).
149
https://dalibo.com/formations
SQL pour PostgreSQL
La fonction currval() permet d’obtenir le numéro de séquence courant, mais son usage
nécessite d’avoir utilisé nextval() dans la session.
Il est possible d’interroger une séquence avec une requête SELECT. Cela permet d’obtenir
des informations sur la séquence, dont la dernière valeur utilisée dans la colonne
last_value. Cet usage n’est pas recommandé en production et doit plutôt être utilisé à
titre informatif.
Exemples
SELECT currval('testseq');
ERROR: currval of sequence "testseq" is not yet defined in this session
150
4. CRÉATION D’OBJET ET MISES À JOUR
SELECT nextval('testseq');
nextval
---------
15
(1 row)
SELECT currval('testseq');
currval
---------
15
SELECT nextval('testseq');
nextval
---------
16
(1 row)
SELECT nextval('testseq');
nextval
---------
1
\d t2
Table "s2.t2"
Column | Type | Modifiers
--------+---------+-------------------------------------------------
151
https://dalibo.com/formations
SQL pour PostgreSQL
\d t2
Table "s2.t2"
Column | Type | Modifiers
--------+---------+-----------
id | integer | not null
• Type serial/bigserial/smallserial
– séquence générée automatiquement
– valeur par défaut nextval(...)
• (v 10+) Préférer un entier avec IDENTITY
PostgreSQL ne possède identity qu’à partir de la v 10. Jusqu’en 9.6 on pourra utiliser
serial un équivalent qui s’appuie sur les séquences et la possibilité d’appliquer une valeur
par défaut à une colonne.
On s’aperçoit que table a été créée telle que demandé, mais qu’une séquence a aussi été
créée. Elle porte un nom dérivé de la table associé à la colonne correspondant au type
serial, terminé par seq :
postgres=# \d
List of relations
Schema | Name | Type | Owner
--------+-----------------------+----------+--------
152
4. CRÉATION D’OBJET ET MISES À JOUR
smallserial et bigserial sont des variantes de serial s’appuyant sur des types
d’entiers plus courts ou plus longs.
4.2.14 DOMAINES
• Permet d’associer
– un type standard
– et une contrainte (optionnelle)
Un domaine est utilisé pour définir un type utilisateur qui est en fait un type utilisateur
standard accompagné de la définition de contraintes particulières.
Les domaines sont utiles pour ramener la définition de contraintes communes à plusieurs
colonnes sur un seul objet. La maintenance en est ainsi facilitée.
L’ordre CREATE DOMAIN permet de créer un domaine, ALTER DOMAIN permet de modifier
sa définition, et enfin, DROP DOMAIN permet de supprimer un domaine.
Exemples
\d employes
Table « public.employes »
Colonne | Type | NULL-able | Par défaut
---------+---------+------------+--------------------------------------
153
https://dalibo.com/formations
SQL pour PostgreSQL
154
4. CRÉATION D’OBJET ET MISES À JOUR
CHECK(
VALUE ~ '^\d{5}$'
OR VALUE ~ '^\d{5}-\d{4}$'
);
INSERT 0 1
4.2.15 TABLES
La table est l’élément de base d’une base de données. Elle est composée de colonnes (à
sa création) et est remplie avec des enregistrements (lignes de la table). Sa définition peut
aussi faire intervenir des contraintes, qui sont au niveau table ou colonne.
155
https://dalibo.com/formations
SQL pour PostgreSQL
Pour créer une table, il faut donner son nom et la liste des colonnes. Une colonne est
définie par son nom et son type, mais aussi des contraintes optionnelles.
Des options sont possibles pour les tables, comme les clauses de stockage. Dans ce cas,
on sort du contexte logique pour se placer au niveau physique.
La création d’une table passe par l’ordre CREATE TABLE. La définition des colonnes et des
contraintes sont entre parenthèse après le nom de la table.
Les colonnes sont indiquées l’une après l’autre, en les séparant par des virgules.
Deux informations sont obligatoires pour chaque colonne : le nom et le type de la colonne.
Dans le cas d’une colonne contenant du texte, il est possible de fournir le collationnement
de la colonne. Quelque soit la colonne, il est ensuite possible d’ajouter des contraintes.
156
4. CRÉATION D’OBJET ET MISES À JOUR
• DEFAULT
– affectation implicite
• Utiliser directement par les types sériés
La clause DEFAULT permet d’affecter une valeur par défaut lorsqu’une colonne n’est pas
référencée dans l’ordre d’insertion ou si une mise à jour réinitialise la valeur de la colonne
à sa valeur par défaut.
Les types sériés définissent une valeur par défaut sur les colonnes de ce type. Cette valeur
est le retour de la fonction nextval() sur la séquence affectée automatiquement à cette
colonne.
Exemples
L’ordre CREATE TABLE permet également de créer une table à partir de la définition d’une
table déjà existante en utilisant la clause LIKE en lieu et place de la définition habituelles
des colonnes. Par défaut, seule la définition des colonnes avec leur typage est repris.
• ALTER TABLE
• Définition de la table
– renommage de la table
– ajout/modification/suppression d’une colonne
– déplacement dans un schéma différent
– changement du propriétaire
• Définition des colonnes
– renommage d’une colonne
– changement de type d’une colonne
• Définition des contraintes
– ajout/suppression d’une contrainte
158
4. CRÉATION D’OBJET ET MISES À JOUR
Pour modifier la définition d’une table (et non pas son contenu), il convient d’utiliser l’ordre
ALTER TABLE. Il permet de traiter la définition de la table (nom, propriétaire, schéma, liste
des colonnes), la définition des colonnes (ajout, modification de nom et de type, suppres-
sion... mais pas de changement au niveau de leur ordre), et la définition des contraintes
(ajout et suppression).
Suivant l’opération réalisée, les verrous posés ne seront pas les mêmes, même si le verrou
par défaut sera un verrou exclusif. Par exemple, renommer une table nécessite un verrou
exclusif mais changer la taille de l’échantillon statistiques bloque uniquement certaines
opérations de maintenance (comme VACUUM et ANALYZE) et certaines opérations DDL. Il
convient donc d’être très prudent lors de l’utilisation de la commande ALTER TABLE sur
un serveur en production.
Certaines opérations nécessitent de vérifier les données. C’est évident lors de l’ajout
d’une contrainte (comme une clé primaire ou une contrainte NOT NULL), mais c’est aussi
le cas lors d’un changement de type de données. Passer une colonne du type text vers
le type timestamp nécessite de vérifier que les données de cette colonne ne contien-
nent que des données convertibles vers le type timestamp. Dans les anciennes ver-
sions, la vérification était effectuée en permanence, y compris pour des cas simples où
cela n’était pas nécessaire. Par exemple, convertir une colonne du type varchar(200) à
varchar(100) nécessite de vérifier que la colonne ne contient que des chaînes de carac-
tères de longueur inférieure à 100. Mais convertir une colonne du type varchar(100)
vers le type varchar(200) ne nécessite pas de vérification. Les dernières versions de
PostgreSQL font la différence, ce qui permet d’éviter de perdre du temps pour une vérifi-
cation inutile.
Certaines opérations nécessitent une réécriture de la table. Par exemple, convertir une
colonne de type varchar(5) vers le type int4 impose une réécriture de la table car il n’y a
pas de compatibilité binaire entre les deux types. Ce n’est pas le cas si la modification est
uniquement sur la taille d’une colonne varchar. Certaines optimisations sont ajoutées
sur les nouvelles versions de PostgreSQL. Par exemple, l’ajout d’une colonne avec une
valeur par défaut causait la réécriture complète de la table pour intégrer la valeur de
cette nouvelle colonne alors que l’ajout d’une colonne sans valeur par défaut n’avait pas
la même conséquence. À partir de la version 11, cette valeur par défaut est enregistrée
dans la colonne attmissingval du catalogue système pg_attribute et la table n’a de ce
fait plus besoin d’être réécrite.
159
https://dalibo.com/formations
SQL pour PostgreSQL
Il convient donc d’être très prudent lors de l’utilisation de la commande ALTER TABLE.
Elle peut poser des problèmes de performances, à cause de verrous posés par d’autres
commandes, de verrous qu’elle réclame, de vérification des données, voire de réécriture
de la table.
L’ordre DROP TABLE permet de supprimer une table. L’ordre DROP TABLE ... CASCADE
permet de supprimer une table ainsi que tous ses objets dépendants. Il peut s’agir de
séquences rattachées à une colonne d’une table, à des colonnes référençant la table à
supprimer, etc.
• ACID
– Cohérence
– une transaction amène la base d’un état stable à un autre
• Assurent la cohérence des données
– unicité des enregistrements
– intégrité référentielle
– vérification des valeurs
– identité des enregistrements
– règles sémantiques
Les données dans les différentes tables ne sont pas indépendantes mais obéissent à des
règles sémantiques mises en place au moment de la conception du modèle conceptuel des
données. Les contraintes d’intégrité ont pour principal objectif de garantir la cohérence
des données entre elles, et donc de veiller à ce qu’elles respectent ces règles sémantiques.
Si une insertion, une mise à jour ou une suppression viole ces règles, l’opération est pure-
ment et simplement annulée.
160
4. CRÉATION D’OBJET ET MISES À JOUR
Une clé primaire permet d’identifier une ligne de façon unique, il n’en existe qu’une seule
par table.
Une clé primaire garantit que toutes les valeurs de la ou des colonnes qui composent
cette clé sont uniques et non nulles. Elle peut être composée d’une seule colonne ou de
plusieurs colonnes, selon le besoin.
Les clés primaires créent implicitement un index qui permet de renforcer cette contrainte.
Construction :
[CONSTRAINT nom_contrainte]
PRIMARY KEY ( nom_colonne [, ... ] )
Exemples
PRIMARY KEY(id)
);
Une contrainte d’unicité permet de garantir que les valeurs de la ou des colonnes sur
lesquelles porte la contrainte sont uniques. Elle autorise néanmoins d’avoir plusieurs
valeurs NULL car elles ne sont pas considérées comme égales mais de valeur inconnue
(UNKNOWN).
Une contrainte d’unicité peut être créée simplement en créant un index UNIQUE approprié.
Ceci est fortement déconseillé du fait que la contrainte ne sera pas référencée comme
telle dans le schéma de la base de données. Il sera donc très facile de ne pas la remar-
quer au moment d’une reprise du schéma pour une évolution majeure de l’application.
Une colonne possédant un index UNIQUE peut malgré tout être référencée par une clé
étrangère.
Les contraintes d’unicité créent implicitement un index qui permet de renforcer cette
unicité.
162
4. CRÉATION D’OBJET ET MISES À JOUR
Construction :
[ CONSTRAINT nom_contrainte]
{ UNIQUE ( nom_colonne [, ... ] )
Une clé étrangère sur une table fait référence à une clé primaire ou une contrainte
d’unicité d’une autre table. La clé étrangère garantit que les valeurs des colonnes de
cette clé existent également dans la table portant la clé primaire ou la contrainte d’unicité.
On parle de contrainte référentielle d’intégrité : la contrainte interdit les valeurs qui
n’existent pas dans la table référencée.
Ainsi, la base cave définit une table region et une table appellation. Une appella-
tion d’origine est liée au terroir, et par extension à son origine géographique. La table
appellation est donc liée par une clé étrangère à la table region : la colonne region_id
de la table appellation référence la colonne id de la table region.
Cette contrainte permet d’empêcher les utilisateurs d’entrer dans la table appellation
des identifiants de région (region_id) qui n’existent pas dans la table region.
163
https://dalibo.com/formations
SQL pour PostgreSQL
4.2.29 EXEMPLE
Exemples
PRIMARY KEY(vin_id,contenant_id,annee),
Création d’une table mère et d’une table fille. La table fille possède une clé étrangère qui
référence la table mère :
164
4. CRÉATION D’OBJET ET MISES À JOUR
165
https://dalibo.com/formations
SQL pour PostgreSQL
La directive MATCH permet d’indiquer si la contrainte doit être entièrement vérifiée (MATCH
FULL) ou si la clé étrangère autorise des valeurs NULL (MATCH SIMPLE). MATCH SIMPLE est
la valeur par défaut.
Avec MATCH FULL, toutes les valeurs des colonnes qui composent la clé étrangère de la
table référençant doivent avoir une correspondance dans la table référencée.
Avec MATCH SIMPLE, les valeurs des colonnes qui composent la clé étrangère de la ta-
ble référençant peuvent comporter des valeurs NULL. Dans le cas des clés étrangères
multi-colonnes, toutes les colonnes peuvent ne pas être renseignées. Dans le cas des
clés étrangères sur une seule colonne, la contrainte autorise les valeurs NULL.
Exemples
Les exemples reprennent les tables mere et fille créées plus haut.
INSERT INTO fille VALUES (4, NULL, 'test');
166
4. CRÉATION D’OBJET ET MISES À JOUR
----+---------+------
1 | 1 | val1
2 | 2 | val2
4 | | test
(2 rows)
Cette contrainte permet d’avoir une colonne dont la valeur est incrémentée automatique-
ment, soit en permanence (clause ALWAYS), soit quand aucune valeur n’est saisie (clause
BY DEFAULT). Cette technique d’auto-incrémentation correspond au standard SQL, con-
trairement au pseudo-type serial qui était utilisé jusqu’à la version 10.
De plus, elle corrige certains défauts de ce pseudo-type. Avec le type serial, l’utilisation
de CREATE TABLE .. LIKE copiait la contrainte de valeur par défaut sans changer le nom
de la séquence. Il n’est pas possible d’ajouter ou de supprimer un pseudo-type serial
avec l’instruction ALTER TABLE. La suppression de la contrainte DEFAULT d’un type serial
ne supprime pas la séquence associée. Tout ceci fait que la définition d’une colonne
d’identité est préférable à l’utilisation du pseudo-type serial.
Il reste obligatoire de définir une clé primaire ou unique si l’on tient à l’unicité des valeurs
car même une clause GENERATED ALWAYS AS IDENTITY peut être contournée avec une
mise à jour portant la mention OVERRIDING SYSTEM VALUE.
Exemple :
CREATE table personnes (id int GENERATED ALWAYS AS IDENTITY, nom TEXT);
CREATE TABLE
167
https://dalibo.com/formations
SQL pour PostgreSQL
Si des valeurs d’une clé primaire sont mises à jour ou supprimées, cela peut entrainer des
168
4. CRÉATION D’OBJET ET MISES À JOUR
incohérences dans la base de données si des valeurs de clés étrangères font référence
aux valeurs de la clé primaire touchées par le changement.
Afin de pouvoir gérer cela, la norme SQL prévoit plusieurs comportements possibles.
La clause ON UPDATE permet de définir comment le SGBD va réagir si la clé primaire
référencée est mise à jour. La clause ON DELETE fait de même pour les suppressions.
• NO ACTION (ou RESTRICT), qui produit une erreur si une ligne référence encore le
ou les lignes touchées par le changement ;
• CASCADE, pour laquelle la mise à jour ou la suppression est propagée aux valeurs
référençant le ou les lignes touchées par le changement ;
• SET NULL, la valeur de la colonne devient NULL ;
• SET DEFAULT, pour lequel la valeur de la colonne prend la valeur par défaut de la
colonne.
Le comportement par défaut est NO ACTION, ce qui est habituellement recommandé pour
éviter les suppressions en chaîne mal maîtrisées.
Exemples
Les exemples reprennent les tables mere et fille créées plus haut.
Tentative d’insertion d’une ligne dont la valeur de mere_id n’existe pas dans la table mere :
Mise à jour d’une ligne de la table mere pour modifier son id. La clé étrangère est déclarée
ON UPDATE NO ACTION, donc la mise à jour devrait être interdite :
Suppression d’une ligne de la table mere. La clé étrangère sur fille est déclarée ON
DELETE CASCADE, la suppression sera donc propagée aux tables qui référencent la table
mere :
2 | 2 | val2
(1 row)
4.2.34 VÉRIFICATIONS
La clause NOT NULL permet de s’assurer que la valeur de la colonne portant cette con-
trainte est renseignée. Dis autrement, elle doit obligatoirement être renseignée. Par dé-
faut, la colonne peut avoir une valeur NULL, donc n’est pas obligatoirement renseignée.
La clause CHECK spécifie une expression de résultat booléen que les nouvelles lignes ou
celles mises à jour doivent satisfaire pour qu’une opération d’insertion ou de mise à jour
réussisse. Les expressions de résultat TRUE ou UNKNOWN réussissent. Si une des lignes
de l’opération d’insertion ou de mise à jour produit un résultat FALSE, une exception est
levée et la base de données n’est pas modifiée. Une contrainte de vérification sur une
colonne ne fait référence qu’à la valeur de la colonne tandis qu’une contrainte sur la table
fait référence à plusieurs colonnes.
Par défaut, toutes les contraintes d’intégrité sont vérifiées lors de l’exécution de chaque
ordre SQL de modification, y compris dans une transaction. Cela peut poser des prob-
lèmes de cohérences de données : insérer dans une table fille alors qu’on n’a pas encore
inséré les données dans la table mère, la clé étrangère de la table fille va rejeter l’insertion
et annuler la transaction.
170
4. CRÉATION D’OBJET ET MISES À JOUR
Le moment où les contraintes sont vérifiées est modifiable dynamiquement par l’ordre
SET CONSTRAINTS :
SET CONSTRAINTS { ALL | nom [, ...] } { DEFERRED | IMMEDIATE }
mais ce n’est utilisable que pour les contraintes déclarées comme déferrables.
• cette erreur survient aussi dans le cas où on demande que la vérification des con-
traintes soit différée pour cette transaction :
BEGIN;
SET CONSTRAINTS ALL DEFERRED;
UPDATE mere SET id=3 WHERE id=1;
ERROR: update or delete on table "mere" violates foreign key constraint
"fk_mere_fille" on table "fille"
DETAIL: Key (id)=(1) is still referenced from table "fille".
BEGIN;
SET CONSTRAINTS all deferred;
UPDATE mere SET id=3 WHERE id=1;
SELECT * FROM mere;
id | t
171
https://dalibo.com/formations
SQL pour PostgreSQL
----+------
2 | val2
3 | val1
(2 rows)
• Un trigger
– si une contrainte porte sur plusieurs tables
– si sa vérification nécessite une sous-requête
• Préférer les contraintes déclaratives
Les contraintes d’intégrités du SGBD ne permettent pas d’exprimer une contrainte qui
porte sur plusieurs tables ou simplement si sa vérification nécessite une sous-requête.
Dans ce cas là, il est nécessaire d’écrire un trigger spécifique qui sera déclenché après
chaque modification pour valider la contrainte.
Il ne faut toutefois pas systématiser l’utilisation de triggers pour valider des contraintes
d’intégrité. Cela aurait un impact fort sur les performances et sur la maintenabilité de
la base de données. Il vaut mieux privilégier les contraintes déclaratives et n’envisager
l’emploi de triggers que dans les cas où ils sont réellement nécessaires.
172
4. CRÉATION D’OBJET ET MISES À JOUR
L’ordre SELECT permet de lire une ou plusieurs tables. Les mises à jours utilisent des ordres
distincts.
L’ordre INSERT permet d’ajouter ou insérer des données dans une table. L’ordre UPDATE
permet de modifier des lignes déjà existantes. Enfin, l’ordre DELETE permet de supprimer
des lignes. Ces ordres ne peuvent travailler que sur une seule table à la fois. Si on
souhaite par exemple insérer des données dans deux tables, il est nécessaire de réaliser
deux INSERT distincts.
L’ordre INSERT insère de nouvelles lignes dans une table. Il permet d’insérer une ou
plusieurs lignes spécifiées par les expressions de valeur, ou zéro ou plusieurs lignes
provenant d’une requête.
La liste des noms de colonnes est optionnelle. Si elle n’est pas spécifiée, alors PostgreSQL
utilisera implicitement la liste de toutes les colonnes de la table dans l’ordre de leur décla-
ration, ou les N premiers noms de colonnes si seules N valeurs de colonnes sont fournies
dans la clause VALUES ou dans la requête. L’ordre des noms des colonnes dans la liste n’a
pas d’importance particulière, il suffit de nommer les colonnes mises à jour.
Chaque colonne absente de la liste, implicite ou explicite, se voit attribuer sa valeur par
défaut, s’il y en a une ou NULL dans le cas contraire. Les expressions de colonnes qui
173
https://dalibo.com/formations
SQL pour PostgreSQL
La clause VALUES permet de définir une liste d’expressions qui va constituer la ligne à in-
sérer dans la base de données. Les éléments de cette liste d’expression sont séparés par
une virgule. Cette liste d’expression est composée de constantes ou d’appels à des fonc-
tions retournant une valeur, pour obtenir par exemple la date courante ou la prochaine
valeur d’une séquence. Les valeurs fournies par la clause VALUES ou par la requête sont
associées à la liste explicite ou implicite des colonnes de gauche à droite.
Exemples
L’ordre INSERT peut aussi prendre une requête SQL en entrée. Dans ce cas, INSERT va
insérer autant de lignes dans la table d’arrivée qu’il y a de lignes retournées par la re-
quête SELECT. L’ordre des colonnes retournées par SELECT doit correspondre à l’ordre
des colonnes de la liste des colonnes. Leur type de données doit également correspon-
dre.
Exemples
Insertion dans une table stock2 à partir d’une requête SELECT sur la table stock1 :
INSERT INTO stock2 (vin_id, contenant_id, annee, nombre)
SELECT vin_id, contenant_id, annee, nombre FROM stock;
174
4. CRÉATION D’OBJET ET MISES À JOUR
Il est préférable de lister explicitement les colonnes touchées par l’ordre INSERT afin de
garder un ordre d’insertion déterministe. En effet, l’ordre des colonnes peut changer
notamment lorsque certains ETL sont utilisés pour modifier le type d’une colonne
varchar(10) en varchar(11). Par exemple, pour la colonne username, l’ETL Kettle
génère les ordres suivants :
ALTER TABLE utilisateurs ADD COLUMN username_KTL VARCHAR(11);
UPDATE utilisateurs SET username_KTL=username;
ALTER TABLE utilisateurs DROP COLUMN username;
ALTER TABLE utilisateurs RENAME username_KTL TO username
Il génère des ordres SQL inutiles et consommateurs d’entrées/sorties disques car il doit
générer des ordres SQL compris par tous les SGBD du marché. Or, tous les SGBD ne
permettent pas de changer le type d’une colonne aussi simplement que dans PostgreSQL.
Exemples
175
https://dalibo.com/formations
SQL pour PostgreSQL
• Ordre UPDATE
• Met à jour une ou plusieurs colonnes d’une même ligne
– à partir des valeurs de la requête
– à partir des anciennes valeurs
– à partir d’une requête SELECT
– à partir de valeurs d’une autre table
UPDATE nom_table
SET
{
nom_colonne = { expression | DEFAULT }
|
( nom_colonne [, ...] ) = ( { expression | DEFAULT } [, ...] )
} [, ...]
[ FROM liste_from ]
[ WHERE condition | WHERE CURRENT OF nom_curseur ]
L’ordre UPDATE ne met à jour que les lignes qui satisfont les conditions de la clause WHERE.
La clause SET permet de définir les colonnes à mettre à jour. Le nom des colonne mises à
jour doivent faire partie de la table mise à jour.
Les valeurs mises à jour peuvent faire référence aux valeurs avant mise à jour de la
colonne, dans ce cas on utilise la forme nom_colonne = nom_colonne. La partie de
gauche référence la colonne à mettre à jour, la partie de droite est une expression qui
permet de déterminer la valeur à appliquer à la colonne. La valeur à appliquer peut bien
entendu être une référence à une ou plusieurs colonnes et elles peuvent être dérivées
par une opération arithmétique.
La clause FROM ne fait pas partie de la norme SQL mais certains SGBDR la supportent,
notamment SQL Server et PostgreSQL. Elle permet de réaliser facilement la mise à jour
d’une table à partir des valeurs d’une ou plusieurs tables annexes.
La norme SQL permet néanmoins de réaliser des mises à jour en utilisant une sous-
requête, permettant d’éviter l’usage de la clause FROM.
176
4. CRÉATION D’OBJET ET MISES À JOUR
Exemples
Mise à jour d’une table employees à partir des données d’une table bonus_plan :
UPDATE employees e
SET commission_rate = bp.commission_rate
FROM bonus_plan bp
ON (e.bonus_plan = bp.planid)
Lorsque plusieurs colonnes doivent être mises à jour à partir d’une jointure, il est possible
d’utiliser ces deux écritures :
UPDATE employees e
SET commission_rate = bp.commission_rate,
commission_rate2 = bp.commission_rate2
FROM bonus_plan bp
ON (e.bonus_plan = bp.planid);
et
UPDATE employees e
SET (commission_rate, commission_rate2) = (
SELECT bp.commission_rate, bp.commission_rate2
FROM bonus_plan bp ON (e.bonus_plan = bp.planid)
);
177
https://dalibo.com/formations
SQL pour PostgreSQL
L’ordre DELETE supprime l’ensemble des lignes qui répondent au prédicat de la clause
WHERE.
DELETE FROM nom_table [ [ AS ] alias ]
[ WHERE condition | WHERE CURRENT OF nom_curseur ]
Exemples
• Spécifique à PostgreSQL
• Permet de retourner les lignes complètes ou partielles résultants de INSERT,
UPDATE ou DELETE
• Syntaxe :
requete_sql RETURNING ( * | expression )
La clause RETURNING est une extension de PostgreSQL. Elle permet de retourner les lignes
insérées, mises à jour ou supprimées par un ordre DML de modification. Il est également
possible de dériver une valeur retournée.
L’emploi de la clause RETURNING peut nécessiter des droits complémentaires sur les objets
de la base.
Exemples
178
4. CRÉATION D’OBJET ET MISES À JOUR
4.4 TRANSACTIONS
• ACID
– Atomicité
– un traitement se fait en entier ou pas du tout
• TCL pour Transaction Control Language
– valide une transaction
– annule une transaction
– points de sauvegarde
Les transactions sont une partie essentielle du langage SQL. Elles permettent de rendre
atomique un certain nombre de requêtes. Le résultat de toutes les requêtes d’une trans-
action est validée ou pas, mais on ne peut pas avoir d’état intermédiaire.
Le langage SQL définit qu’une transaction peut être validée ou annulée. Ce sont respec-
tivement les ordres COMMIT et ROLLBACK. Il est aussi possible de faire des points de reprise
ou de sauvegarde dans une transaction. Ils se font en utilisant l’ordre SAVEPOINT.
PostgreSQL fonctionne en auto-commit. Autrement dit, sans BEGIN, une requête est con-
sidérée comme une transaction complète et n’a donc pas besoin de COMMIT.
179
https://dalibo.com/formations
SQL pour PostgreSQL
Une transaction est toujours terminée par une COMMIT ou un END quand on veut que
les modifications soient définitivement enregistrées, et par un ROLLBACK dans le cas con-
traire.
La transaction en cours d’une session qui se termine, quelle que soit la raison, sans COMMIT
et sans ROLLBACK est considérée comme annulée.
Exemples
Avant de retirer une bouteille du stock, on vérifie tout d’abord qu’il reste suffisamment
de bouteilles en stock :
BEGIN TRANSACTION;
COMMIT;
180
4. CRÉATION D’OBJET ET MISES À JOUR
4.4.3 PROGRAMMATION
déroule jusqu’au bout, le point de sauvegarde pourra être relâché (RELEASE SAVEPOINT),
confirmant ainsi les traitements. Si le traitement tombe en erreur, il suffira de revenir au
point de sauvegarde (ROLLBACK TO SAVEPOINT pour annuler uniquement cette partie du
traitement sans affecter le reste de la transaction.
Les points de sauvegarde sont des éléments nommés, il convient donc de leur affecter un
nom particulier. Leur nom doit être unique dans la transaction courante.
En cas d’erreurs, la transaction peut être ramener à l’état du point de sauvegarde avec :
connection.rollback(save1);
Exemples
SAVEPOINT insert_fille;
INSERT INTO fille (id_fille, id_mere, val_fille) VALUES (1, 10, 'essai 2');
ERROR: duplicate key value violates unique constraint "fille_pkey"
DETAIL: Key (id_fille)=(1) already exists.
COMMIT;
4.5 CONCLUSION
Le standard SQL permet de traiter des ensembles d’enregistrements, que ce soit en lec-
ture, en insertion, en modification et en suppression. Les ensembles d’enregistrements
182
4. CRÉATION D’OBJET ET MISES À JOUR
sont généralement des tables qui, comme tous les autres objets, sont créées (CREATE),
modifier (ALTER) et/ou supprimer (DROP).
4.5.1 QUESTIONS
183
https://dalibo.com/formations
SQL pour PostgreSQL
Pour cet exercice, les modifications de schéma doivent être effectuées par un rôle ayant
suffisamment de droits pour modifier son schéma. Le rôle tpc_admin a les droits suff-
isants.
1. Ajouter une colonne email de type text à la table contacts. Cette colonne va
permettre de stocker l’adresse e-mail des clients et des fournisseurs. Ajouter égale-
ment un commentaire décrivant cette colonne dans le catalogue de PostgreSQL
(utiliser la commande COMMENT).
2. Mettre à jour la table des contacts pour indiquer l’adresse e-mail de Client6657 qui
est client6657@dalibo.com.
3. Ajouter une contrainte d’intégrité qui valide que la valeur de la colonne email créée
est bien formée (vérifier que la chaîne de caractère contient au moins le caractère
@).
5. Déterminer quels sont les contacts qui disposent d’une adresse e-mail et affichez
leur nom ainsi que le code de leur pays.
184
4. CRÉATION D’OBJET ET MISES À JOUR
1. Ajouter une colonne email de type text à la table contacts. Cette colonne va
permettre de stocker l’adresse e-mail des clients et des fournisseurs. Ajouter égale-
ment un commentaire décrivant cette colonne dans le catalogue de PostgreSQL
(utiliser la commande COMMENT).
ALTER TABLE contacts
ADD COLUMN email text
;
2. Mettre à jour la table des contacts pour indiquer l’adresse e-mail de Client6657 qui
est client6657@dalibo.com.
UPDATE contacts
SET email = 'client6657@dalibo.com'
WHERE nom = 'Client6657'
;
3. Ajouter une contrainte d’intégrité qui valide que la valeur de la colonne email créée
est bien formée (vérifier que la chaîne de caractère contient au moins le caractère
@).
ALTER TABLE contacts
ADD CONSTRAINT chk_contacts_email_valid
CHECK (email LIKE '%@%')
;
Cette expression régulière est simplifiée et simpliste pour les besoins de l’exercice. Des
expressions régulières plus complexes permettent de valider réellement une adresse e-
mail.
Voici un exemple un tout petit peu plus évolué en utilisant une expression rationnelle sim-
ple, ici pour vérifier que la chaîne précédent le caractère @ contient au moins un caractère,
et que la chaîne le suivant est une chaîne de caractères contenant un point :
ALTER TABLE contacts
ADD CONSTRAINT chk_contacts_email_valid
185
https://dalibo.com/formations
SQL pour PostgreSQL
Démarrer la transaction :
BEGIN ;
Tenter de mettre à jour la table contacts avec une adresse e-mail ne répondant pas à la
contrainte :
UPDATE contacts
SET email = 'test'
;
L’ordre UPDATE retourne l’erreur suivante, indiquant que l’expression régulière est fonc-
tionnelle :
5. Déterminer quels sont les contacts qui disposent d’une adresse e-mail et afficher
leur nom ainsi que le code de leur pays.
SELECT nom, code_pays
FROM contacts
WHERE email IS NOT NULL
;
La solution la plus simple pour imposer la sérialisation des numéros de commandes est
d’utiliser une table de séquences. Une ligne de cette table correspondra au compteur des
numéros de commande.
-- création de la table qui va contenir la séquence :
CREATE TABLE numeros_sequences (
nom text NOT NULL PRIMARY KEY,
186
4. CRÉATION D’OBJET ET MISES À JOUR
-- initialisation de la séquence :
INSERT INTO numeros_sequences (nom, sequence)
SELECT 'sequence_numero_commande', max(numero_commande)
FROM commandes
;
L’obtention d’un nouveau numéro de commande sera réalisé dans la transaction de créa-
tion de la commande de la façon suivante :
BEGIN ;
UPDATE numeros_sequences
SET sequence = sequence + 1
WHERE nom = 'numero_commande'
RETURNING sequence
;
COMMIT ;
L’ordre UPDATE pose un verrou exclusif sur la ligne mise à jour. Tant que la mise à jour
n’aura pas été validée ou annulée par COMMIT ou ROLLBACK, le verrou posé va bloquer
toutes les autres transactions qui tenteraient de mettre à jour cette ligne. De cette façon,
toutes les transactions seront sérialisées.
prix actuel est égal ou supérieur à 1500 €. Vérifier que le nombre de lignes mises à
jour au total correspond au nombre total de lignes de la table pieces.
BEGIN ;
SELECT count(*)
FROM pieces
;
UPDATE pieces
SET prix = prix * 1.05
WHERE prix < 1500
;
UPDATE pieces
SET prix = prix * 0.95
WHERE prix >= 1500
;
Au total, la transaction a mis à jour 214200 (99922+114278) lignes, soit 14200 lignes de
trop mises à jour.
Explication : Le premier UPDATE a majoré de 5 % les pièces dont le prix est inférieur à
1500 €. Or, tous les prix supérieurs à 1428,58 € passent la barre des 1500 € après le
premier UPDATE. Le second UPDATE minore les pièces dont le prix est égal ou supérieur à
1500 €, ce qui inclue une partie des prix majorés par le précédent UPDATE. Certaines lignes
ont donc subies deux modifications au lieu d’une. L’instruction CASE du langage SQL, qui
sera abordée dans le prochain module, propose une solution à ce genre de problématique
:
UPDATE pieces
SET prix = (
CASE
WHEN prix < 1500 THEN prix * 1.05
WHEN prix >= 1500 THEN prix * 0.95
END
)
;
188
4. CRÉATION D’OBJET ET MISES À JOUR
BEGIN ;
-- valider la transaction
COMMIT ;
189
https://dalibo.com/formations
SQL pour PostgreSQL
5.1 PRÉAMBULE
Maintenant que nous avons vu comment définir des objets, comment lire des données
provenant de relation et comment écrire des données, nous allons pousser vers les per-
fectionnements du langage SQL. Nous allons notamment aborder la lecture de plusieurs
tables en même temps, que ce soit par des jointures ou par des sous-requêtes.
5.1.1 MENU
• Valeur NULL
• Agrégats, GROUP BY, HAVING
• Sous-requêtes
• Jointures
• Expression conditionnelle CASE
• Opérateurs ensemblistes : UNION, EXCEPT, INTERSECT
5.1.2 OBJECTIFS
190
5. PLUS LOIN AVEC SQL
Le standard SQL définit très précisément la valeur que doit avoir une colonne dont on ne
connaît pas la valeur. Il faut utiliser le mot clé NULL. En fait, ce mot clé est utilisé dans
trois cas : pour les valeurs inconnues, pour les valeurs inapplicables et pour une absence
de valeurs.
5.2.1 AVERTISSEMENT
Il ne faut utiliser NULL que lorsque cela est réellement nécessaire. La gestion des valeurs
NULL est souvent source de confusions et d’erreurs, ce qui explique qu’il est préférable
de l’éviter tant qu’on n’entre pas dans les trois cas vu ci-dessus (valeur inconnue, valeur
inapplicable, absence de valeur).
191
https://dalibo.com/formations
SQL pour PostgreSQL
Il est possible de donner le mot-clé NULL pour certaines colonnes dans les INSERT et les
UPDATE. Si jamais une colonne n’est pas indiquée dans un INSERT, elle aura comme valeur
sa valeur par défaut (très souvent, il s’agit de NULL). Si jamais on veut toujours avoir une
valeur dans une colonne particulière, il faut utiliser la clause NOT NULL lors de l’ajout de
la colonne. C’est le cas pour les clés primaires par exemple.
-- assignation explicite
-- assignation implicite
192
5. PLUS LOIN AVEC SQL
L’affichage (null) dans psql est obtenu avec la méta-commande \pset null (null).
La valeur NULL est définie comme inapplicable. Ainsi, si elle présente dans un calcul, elle
est propagée sur l’ensemble du calcul : le résultat vaudra NULL.
Exemples de calcul
Calculs simples :
SELECT 1 + 2 AS resultat;
resultat
----------
3
(1 row)
L’affichage (null) est obtenu avec la méta-commande \pset null (null) du shell psql.
Les opérateurs de comparaisons classiques ne sont pas fonctionnels avec une valeur NULL.
Du fait de la logique à trois états de PostgreSQL, une comparaison avec NULL vaut toujours
NULL, ainsi expression = NULL vaudra toujours NULL et de même pour expression <>
NULL vaudra toujours NULL. Cette comparaison ne vaudra jamais ni vrai, ni faux.
De ce fait, il existe les opérateurs de prédicats IS NULL et IS NOT NULL qui permettent
de vérifier qu’une expression est NULL ou n’est pas NULL.
Pour en savoir plus sur la logique ternaire qui régit les règles de calcul des prédicats, se
conformer à la page Wikipédia sur la logique ternaire56 .
Exemples
56
https://fr.wikipedia.org/wiki/Logique_ternaire
194
5. PLUS LOIN AVEC SQL
L’opérateur IS NULL permet de retourner les lignes dont la date de naissance n’est pas
renseignée :
SELECT * FROM personnes WHERE date_naissance IS NULL;
id | nom | prenom | date_naissance
----+----------+--------+----------------
3 | Prunelle | Léon | (null)
(1 row)
• Opérateurs d’agrégats
– ignorent NULL
– sauf count(*)
195
https://dalibo.com/formations
SQL pour PostgreSQL
5.2.6 COALESCE
Cette fonction permet de tester une colonne et de récupérer sa valeur si elle n’est pas
NULL et une autre valeur dans le cas contraire. Elle peut avoir plus de deux arguments.
Dans ce cas, la première expression de la liste qui ne vaut pas NULL sera retournée par la
fonction.
5.3 AGRÉGATS
• Regroupement de données
• Calculs d’agrégats
Comme son nom l’indique, l’agrégation permet de regrouper des données, qu’elles vien-
nent d’une ou de plusieurs colonnes. Le but est principalement de réaliser des calculs sur
les données des lignes regroupées.
196
5. PLUS LOIN AVEC SQL
La clause GROUP BY permet de réaliser des regroupements de données. Les données re-
groupées sont alors représentées sur une seule ligne. Le principal intérêt de ces regroupe-
ments est de permettre de réaliser des calculs sur ces données.
La fonction count() permet de compter les éléments. La fonction est appelée de deux
façons.
La première forme consiste à utiliser count(*) qui revient à transmettre la ligne com-
plète à la fonction d’agrégat. Ainsi, toute ligne transmise à la fonction sera comptée,
même si elle n’est composée que de valeurs NULL. On rencontre parfois une forme du type
count(1), qui transmet une valeur arbitraire à la fonction, et qui permettait d’accélérer le
temps de traitement sur certains SGBD mais qui reste sans intérêt avec PostgreSQL.
La seconde forme consiste à utiliser une expression, par exemple le nom d’une colonne :
count(nom_colonne). Dans ce cas-là, seules les valeurs renseignées, donc non NULL,
197
https://dalibo.com/formations
SQL pour PostgreSQL
La fonction min() permet de déterminer la valeur la plus petite d’un ensemble de valeurs
données. La fonction max() permet à l’inverse de déterminer la valeur la plus grande d’un
ensemble de valeurs données. Les valeurs NULL sont bien ignorées. Ces deux fonctions
permettent de travailler sur des données numériques, mais fonctionnent également sur
les autres types de données comme les chaînes de caractères.
Exemples
57
http://docs.postgresql.fr/current/functions-aggregate.html
198
5. PLUS LOIN AVEC SQL
Ces fonctions retournent NULL si aucune donnée n’est applicable. Elles ne prennent en
compte que des valeurs numériques.
Exemples
58
https://docs.postgresql.fr/current/functions-aggregate.html
199
https://dalibo.com/formations
SQL pour PostgreSQL
• pente : regr_slope(Y,X)
• intersection avec l’axe des ordonnées : regr_intercept(Y,X)
• indice de corrélation : corr (Y,X)
200
5. PLUS LOIN AVEC SQL
La clause HAVING permet de filtrer les résultats sur les regroupements réalisés par la clause
GROUP BY. Il est possible d’utiliser une fonction d’agrégat dans la clause HAVING.
Il faudra néanmoins faire attention à ne pas utiliser la clause HAVING comme clause de
filtrage des données lues par la requête. La clause HAVING ne doit permettre de filtrer
que les données traitées par la requête.
Ainsi, si l’on souhaite le nombre de vins rouge référencés dans le catalogue. La requête
va donc exclure toutes les données de la table vin qui ne correspondent pas au filtre
type_vin = 3. Pour réaliser cela, on utilisera la clause WHERE.
En revanche, si l’on souhaite connaître le nombre de vins par type de cépage si ce nombre
est supérieur à 2030, on utilisera la clause HAVING.
Exemples
SELECT type_vin_id, count(*)
FROM vin
GROUP BY type_vin_id
HAVING count(*) > 2030;
type_vin_id | count
-------------+-------
1 | 2031
Si la colonne correspondant à la fonction d’agrégat est renommée avec la clause AS, il n’est
pas possible d’utiliser le nouveau nom au sein de la clause HAVING. Par exemple :
SELECT type_vin_id, count(*) AS nombre
FROM vin
GROUP BY type_vin_id
HAVING nombre > 2030;
201
https://dalibo.com/formations
SQL pour PostgreSQL
5.4 SOUS-REQUÊTES
• Corrélation requête/sous-requête
• Sous-requêtes retournant une seule ligne
• Sous-requêtes retournant une liste de valeur
• Sous-requêtes retournant un ensemble
• Sous-requêtes retournant un ensemble vide ou non-vide
Une sous-requête peut faire référence à des variables de la requête principale. Ces vari-
ables seront ainsi transformées en constante à chaque évaluation de la sous-requête.
Une sous-requête consiste à exécuter une requête à l’intérieur d’une autre requête. La
requête principale peut être une requête de sélection (SELECT) ou une requête de modi-
fication (INSERT, UPDATE, DELETE). La sous-requête est obligatoirement un SELECT.
202
5. PLUS LOIN AVEC SQL
La requête suivante permet d’obtenir le cumul du nombre de bouteilles année par année.
SELECT annee,
sum(nombre) AS stock,
(SELECT sum(nombre)
FROM stock s
WHERE s.annee <= stock.annee) AS stock_cumule
FROM stock
GROUP BY annee
ORDER BY annee;
annee | stock | stock_cumule
-------+--------+--------------
1950 | 210967 | 210967
1951 | 201977 | 412944
1952 | 202183 | 615127
1953 | 202489 | 817616
1954 | 202041 | 1019657
...
Une telle sous-requête peut également être positionnée au niveau de la clause WHERE ou
de la clause HAVING.
203
https://dalibo.com/formations
SQL pour PostgreSQL
• La sous-requête retourne
– plusieurs lignes
– sur une seule colonne
• Positionnée
– avec une clause IN
Les sous-requêtes retournant une liste de valeur sont plus fréquemment utilisées. Ce
type de sous-requête permet de filtrer les résultats de la requête principale à partir des
résultats de la sous-requête.
5.4.5 CLAUSE IN
204
5. PLUS LOIN AVEC SQL
----
f
Mais IN vaut NULL si aucune correspondance n’est trouvée et que la liste de droite contient
au moins une valeur NULL :
SELECT 1 IN (2, 4, NULL) AS in;
in
--------
(null)
Exemples
La requête suivante permet de sélectionner les bouteilles du stock de la cave dont la con-
tenance est comprise entre 0,3 litre et 1 litre. Pour répondre à la question, la sous-requête
retourne les identifiants de contenant qui correspondent à la condition. La requête princi-
pale ne retient alors que les lignes dont la colonne contenant_id correspond à une valeur
d’identifiant retournée par la sous-requête.
SELECT *
FROM stock
WHERE contenant_id IN (SELECT id
FROM contenant
WHERE contenance
BETWEEN 0.3 AND 1.0);
205
https://dalibo.com/formations
SQL pour PostgreSQL
À l’inverse, la clause NOT IN permet dans la requête principale de sélectionner les lignes
dont la colonne impliquée dans la condition ne correspond pas aux valeurs retournées
par la sous-requête.
SELECT *
FROM stock
WHERE contenant_id NOT IN (SELECT id
FROM contenant
WHERE contenance < 2.0);
Il est à noter que les requêtes impliquant les clauses IN ou NOT IN peuvent généralement
être réécrites sous la forme d’une jointure.
De plus, les optimiseurs SQL parviennent difficilement à optimiser une requête impliquant
NOT IN. Il est préférable d’essayer de réécrire ces requêtes en utilisant une jointure.
SELECT *
FROM stock
WHERE contenant_id <> ALL (SELECT id
FROM contenant
WHERE contenance < 2.0);
Avec NOT IN, la gestion des valeurs NULL est à l’inverse de celle de la clause IN :
206
5. PLUS LOIN AVEC SQL
Si aucune correspondance n’est trouvée mais que la liste de valeurs de droite contient au
moins un NULL, NOT IN vaut NULL :
SELECT 1 NOT IN (2, 4, NULL) AS notin;
notin
--------
(null)
Les sous-requêtes retournant des valeurs NULL posent souvent des problèmes avec NOT
IN. Il est préférable d’utiliser EXISTS ou NOT EXISTS pour ne pas avoir à se soucier des
valeurs NULL.
• La sous-requête retourne
– plusieurs lignes
– sur plusieurs colonnes
• Positionnée au niveau de la clause FROM
• Nommée avec un alias de table
La sous-requête peut être utilisée dans la clause FROM afin d’être utilisée comme une ta-
ble dans la requête principale. La sous-requête devra obligatoirement être nommée avec
un alias de table. Lorsqu’elles sont issues d’un calcul, les colonnes résultantes doivent
également être nommées avec un alias de colonne afin d’éviter toute confusion ou com-
portement incohérent.
EXISTS présente peu d’intérêt sans corrélation entre la sous-requête et la requête princi-
pale.
Le prédicat EXISTS est en général plus performant que IN. Lorsqu’une requête utilisant IN
ne peut pas être réécrite sous la forme d’une jointure, il est recommandé d’utiliser EXISTS
en lieu et place de IN. Et à l’inverse, une clause NOT IN sera réécrite avec NOT EXISTS.
La requête suivante permet d’identifier les vins pour lesquels il y a au moins une bouteille
en stock :
SELECT *
FROM vin
WHERE EXISTS (SELECT *
FROM stock
WHERE vin_id = vin.id);
5.5 JOINTURES
Les jointures permettent d’écrire des requêtes qui impliquent plusieurs tables. Elles per-
mettent de combiner les colonnes de plusieurs tables selon des critères particuliers, ap-
pelés conditions de jointures.
Les jointures permettent de tirer parti du modèle de données dans lequel les tables sont
associées à l’aide de clés étrangères.
208
5. PLUS LOIN AVEC SQL
Bien qu’il soit possible de décrire une jointure interne sous la forme d’une requête SELECT
portant sur deux tables dont la condition de jointure est décrite dans la clause WHERE,
cette forme d’écriture n’est pas recommandée. Elle est essentiellement historique et se
retrouve surtout dans des projets migrés sans modification.
En effet, les conditions de jointures se trouvent mélangées avec les clauses de filtrage,
rendant ainsi la compréhension et la maintenance difficiles. Il arrive aussi que, noyé dans
les autres conditions de filtrage, l’utilisateur oublie la configuration de jointure, ce qui
aboutit à un produit cartésien, n’ayant rien à voir avec le résultat attendu, sans même
parler de la lenteur de la requête.
Comparer ces deux exemples d’une requête typique d’ERP pourtant simplifiée :
SELECT
clients.numero,
SUM(lignes_commandes.chiffre_affaire)
FROM
lignes_commandes
INNER JOIN commandes ON (lignes_commandes.commande_id = commandes.id)
INNER JOIN clients ON (commandes.client_id = clients.id)
INNER JOIN addresses ON (clients.adresse_id = addresses.id)
INNER JOIN pays ON (adresses.pays_id = pays.id)
WHERE
pays.code = 'FR'
AND addresses.ville = 'Strasbourg'
209
https://dalibo.com/formations
SQL pour PostgreSQL
et :
SELECT
clients.numero,
SUM(lignes_commandes.chiffre_affaire)
FROM
lignes_commandes,
commandes,
clients,
addresses,
pays
WHERE
pays.code = 'FR'
AND lignes_commandes.commande_id = commandes.id
AND commandes.client_id = clients.id
AND commandes.statut = 'LIVRÉ'
AND clients.type = 'PARTICULIER'
AND clients.actif IS TRUE
AND clients.adresse_id = addresses.id
AND adresses.pays_id = pays.id
AND addresses.ville = 'Strasbourg'
GROUP BY clients.numero ;
Le produit cartésien peut être exprimé avec la clause de jointure CROSS JOIN :
210
5. PLUS LOIN AVEC SQL
Ou plus simplement, en listant les deux tables dans la clause FROM sans indiquer de con-
dition de jointure :
SELECT id_sonde,
heures_releves
FROM sondes
CROSS JOIN generate_series('2013-01-01 12:00:00','2013-01-01 14:00:00',
interval '1 hour') series(heures_releves)
WHERE NOT EXISTS
(SELECT 1
FROM releves_horaires
WHERE releves_horaires.id_sonde=sondes.id_sonde
AND releves_horaires.heure_releve=series.heures_releves);
id_sonde | heures_releves
----------+------------------------
3 | 2013-01-01 13:00:00+01
(1 ligne)
Une jointure interne est considérée comme un produit cartésien accompagné d’une clause
de jointure pour ne conserver que les lignes qui répondent à la condition de jointure. Les
SGBD réalisent néanmoins l’opération plus simplement.
La condition de jointure est généralement une égalité, ce qui permet d’associer entre elles
les lignes de la table à gauche et de la table à droite dont les colonnes de condition de
jointure sont égales.
La jointure interne est exprimée à travers la clause INNER JOIN ou plus simplement JOIN.
En effet, si le type de jointure n’est pas spécifié, l’optimiseur considère la jointure comme
étant une jointure interne.
212
5. PLUS LOIN AVEC SQL
La clause ON permet d’écrire les conditions de jointures sous la forme de prédicats tels
qu’on les retrouve dans une clause WHERE.
La clause USING permet de spécifier les colonnes sur lesquelles porte la jointure. Les
tables jointes devront posséder toutes les colonnes sur lesquelles portent la jointure. La
jointure sera réalisée en vérifiant l’égalité entre chaque colonne portant le même nom.
La clause NATURAL permet de réaliser la jointure entre deux tables en utilisant les colonnes
qui portent le même nom sur les deux tables comme condition de jointure. NATURAL
JOIN est fortement déconseillé car elle peut facilement entraîner des comportements
inattendus.
La requête suivante permet de joindre la table appellation avec la table region pour déter-
miner l’origine d’une appellation :
SELECT apl.libelle AS appellation, reg.libelle AS region
FROM appellation apl
213
https://dalibo.com/formations
SQL pour PostgreSQL
Il existe deux types de jointure externe : la jointure à gauche et la jointure à droite. Cela
ne concerne que l’ordre de la jointure, le traitement en lui- même est identique.
214
5. PLUS LOIN AVEC SQL
215
https://dalibo.com/formations
SQL pour PostgreSQL
Il existe trois écritures différentes d’une jointure externe à gauche. La clause NATURAL
permet de réaliser la jointure entre deux tables en utilisant les colonnes qui portent le
même nom sur les deux tables comme condition de jointure.
Les jointures à droite sont moins fréquentes mais elles restent utilisées.
216
5. PLUS LOIN AVEC SQL
• Condition de jointure par prédicats : sql table1 FULL OUTER JOIN table2
ON prédicat [...]
• Condition de jointure implicite par liste des colonnes impliquées : sql
table1 FULL OUTER JOIN table2 USING (colonne [, ...])
• Liste des colonnes implicites : sql table1 NATURAL FULL OUTER JOIN
table2
• Jointures
– algorithmes très efficaces
– ne gèrent pas tous les cas
• Sous-requêtes
– parfois peu performantes
– répondent à des besoins non couverts par les jointures
Les sous-requêtes sont fréquemment utilisées mais elles sont moins performantes que
les jointures. Ces dernières permettent d’utiliser des optimisations très efficaces.
217
https://dalibo.com/formations
SQL pour PostgreSQL
CASE expression
WHEN valeur THEN expression
WHEN valeur THEN expression
(...)
ELSE expression
END
Il est possible de tester le résultat d’une expression avec CASE. Dans ce cas, chaque clause
WHEN reprendra la valeur à laquelle on souhaite associé une expression particulière :
CASE nom_region
WHEN 'Afrique' THEN 1
WHEN 'Amérique' THEN 2
WHEN 'Asie' THEN 3
WHEN 'Europe' THEN 4
ELSE 0
END
Une expression peut être évaluée pour chaque clause WHEN. Dans ce cas, l’expression CASE
retourne la première expression qui est vraie. Si une autre peut satisfaire la suivante, elle
ne sera pas évaluée.
Par exemple :
CASE WHEN salaire * prime < 1300 THEN salaire * prime
WHEN salaire * prime < 3000 THEN salaire
WHEN salaire * prime > 5000 THEN salaire * prime
END
218
5. PLUS LOIN AVEC SQL
• Comportement procédural
– les expressions sont évaluées dans l’ordre d’apparition
• Transtypage
– le type du retour de l’expression dépend du type de rang le plus élevé de
toute l’expression
• Imbrication
– des expressions CASE à l’intérieur d’autres expressions CASE
• Clause ELSE
– recommandé
Il est possible de placer plusieurs clauses WHEN. Elles sont évaluées dans leur ordre
d’apparition.
CASE nom_region
WHEN 'Afrique' THEN 1
WHEN 'Amérique' THEN 2
/* l'expression suivante ne sera jamais évaluée */
WHEN 'Afrique' THEN 5
WHEN 'Asie' THEN 1
WHEN 'Europe' THEN 3
ELSE 0
END
Le type de données renvoyé par l’instruction CASE correspond au type indiqué par
l’expression au niveau des THEN et du ELSE. Ce doit être le même type. Si les types de
données ne correspondent pas, alors PostgreSQL retournera une erreur :
SELECT *,
CASE nom_region
WHEN 'Afrique' THEN 1
WHEN 'Amérique' THEN 2
WHEN 'Asie' THEN 1
WHEN 'Europe' THEN 3
ELSE 'inconnu'
END
FROM regions;
ERROR: invalid input syntax for integer: "inconnu"
LIGNE 7 : ELSE 'inconnu'
La clause ELSE n’est pas obligatoire mais fortement recommandé. En effet, si une expres-
sion CASE ne comporte pas de clause ELSE, alors la base de données ajoutera une clause
ELSE NULL à l’expression.
CASE
WHEN salaire < 1000 THEN 'bas'
WHEN salaire > 3000 THEN 'haut'
END
• UNION
• INTERSECT
• EXCEPT
L’opérateur ensembliste UNION permet de regrouper deux ensembles dans un même ré-
sultat.
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
La requête suivante assemble les résultats de deux requêtes pour produire le résultat :
SELECT *
FROM appellation
WHERE region_id = 1
UNION ALL
SELECT *
FROM appellation
WHERE region_id = 3;
220
5. PLUS LOIN AVEC SQL
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
L’exemple suivant n’a pas d’autre intérêt que de montrer le résultat de l’opérateur
INTERSECT sur deux ensembles simples :
SELECT *
FROM region
INTERSECT
SELECT *
FROM region
WHERE id = 3;
id | libelle
----+---------
3 | Alsace
Le dédoublonnage peut être particulièrement coûteux car il implique un tri des données.
Exemples
221
https://dalibo.com/formations
SQL pour PostgreSQL
L’exemple suivant n’a pas d’autre intérêt que de montrer le résultat de l’opérateur EXCEPT
sur deux ensembles simples. La première requête retourne l’ensemble des lignes de la
table region alors que la seconde requête retourne la ligne qui correspond au prédicat
id = 3. Cette ligne est ensuite retirée du résultat car elle est présente dans les deux
ensembles de gauche et de droite :
SELECT *
FROM region
EXCEPT
SELECT *
FROM region
WHERE id = 3;
id | libelle
----+----------------------------
11 | Cotes du Rhone
12 | Provence produit a Cassis.
10 | Beaujolais
19 | Savoie
7 | Languedoc-Roussillon
4 | Loire
6 | Provence
16 | Est
8 | Bordeaux
14 | Lyonnais
15 | Auvergne
2 | Bourgogne
17 | Forez
9 | Vignoble du Sud-Ouest
18 | Charente
13 | Champagne
5 | Jura
1 | Provence et Corse
(18 rows)
5.8 CONCLUSION
Le standard SQL va bien plus loin que ce que les requêtes simplistes laissent penser.
Utiliser des requêtes complexes permet de décharger l’application d’un travail conséquent
et le développeur de coder quelque chose qui existe déjà. Cela aide aussi la base de
222
5. PLUS LOIN AVEC SQL
données car il est plus simple d’optimiser une requête complexe qu’un grand nombre de
requêtes simplistes.
5.8.1 QUESTIONS
223
https://dalibo.com/formations
SQL pour PostgreSQL
Sortie attendue :
nom_pays | nombre
-------------------------------+--------
ARABIE SAOUDITE | 425
ARGENTINE | 416
(...)
Sortie attendue :
nom_region | nombre
---------------------------+--------
Afrique | 1906
Moyen-Orient | 2113
224
5. PLUS LOIN AVEC SQL
Europe | 2094
Asie | 2002
Amérique | 1885
Sortie attendue :
num | count
-----+-------
1 | 13733
2 | 27816
3 | 27750
4 | 27967
5 | 27687
6 | 27876
7 | 13895
4. Pour les 30 premières commandes (selon la date de commande), affichez le prix total
de la commande, en appliquant la remise accordée sur chaque article commandé. La
sortie sera triée de la commande la plus chère à la commande la moins chère.
Sortie attendue :
numero_commande | prix_total
-----------------+------------
3 | 259600.00
40 | 258959.00
6 | 249072.00
69 | 211330.00
70 | 202101.00
4 | 196132.00
(...)
5. Affichez, par année, le total des ventes. La date de commande fait foi. La sortie
sera triée par année.
Sortie attendue :
annee | total_vente
-------+---------------
2005 | 3627568010.00
2006 | 3630975501.00
2007 | 3627112891.00
225
https://dalibo.com/formations
SQL pour PostgreSQL
(...)
6. Pour toutes les commandes, calculez le temps moyen de livraison, depuis la date
d’expédition. Le temps de livraison moyen sera exprimé en jours, arrondi à l’entier
supérieur (fonction ceil()).
Sortie attendue :
temps_moyen_livraison
-----------------------
8 jour(s)
7. Pour les 30 commandes les plus récentes (selon la date de commande), calculez le
temps moyen de livraison de chaque commande, depuis la date de commande. Le
temps de livraison moyen sera exprimé en jours, arrondi à l’entier supérieur (fonc-
tion ceil()).
Sortie attendue :
temps_moyen_livraison
-----------------------
38 jour(s)
Sortie attendue :
taux_retour
-------------
24.29
Sortie attendue :
mode_expedition | delai
-----------------+--------------------
AIR | 7.4711070230494535
10. Un bug applicatif est soupçonné, déterminez s’il existe des commandes dont la date
de commande est postérieure à la date de livraison des articles.
Sortie attendue :
count
-------
2
226
5. PLUS LOIN AVEC SQL
11. Écrivez une requête qui corrige les données erronés en positionnant la date de com-
mande à la date de livraison la plus ancienne des marchandises. Vérifiez qu’elle soit
correcte. Cette requête permet de corriger des calculs de statistiques sur les délais
de livraison.
12. Écrivez une requête qui calcule le délai total maximal de livraison de la totalité d’une
commande donnée, depuis la date de la commande.
delai_max
-----------
102
13. Écrivez une requête pour déterminer les 10 commandes dont le délai de livraison,
entre la date de commande et la date de réception, est le plus important, pour
l’année 2011 uniquement.
Sortie attendue :
numero_commande | delai
-----------------+-------
413510 | 146
123587 | 143
224453 | 143
(...)
14. Un autre bug applicatif est détecté. Certaines commandes n’ont pas de lignes de
commandes. Écrivez une requête pour les retrouver.
-[ RECORD 1 ]------------------------
numero_commande | 91495
client_id | 93528
etat_commande | P
prix_total |
date_commande | 2007-07-07
priorite_commande | 5-NOT SPECIFIED
vendeur | Vendeur 000006761
priorite_expedition | 0
commentaire | xxxxxxxxxxxxx
15. Écrivez une requête pour supprimer ces commandes. Vérifiez le travail avant de
valider.
227
https://dalibo.com/formations
SQL pour PostgreSQL
16. Écrivez une requête pour déterminer les 20 pièces qui ont eu le plus gros volume
de commande.
Sortie attendue :
nom | sum
--------------------------------------------+--------
lemon black goldenrod seashell plum | 461.00
brown lavender dim white indian | 408.00
burlywood white chiffon blanched lemon | 398.00
(...)
17. Affichez les fournisseurs des 20 pièces qui ont été le plus commandées sur l’année
2011.
Sortie attendue :
nom | piece_id
--------------+----------
Supplier4395 | 191875
Supplier4397 | 191875
Supplier6916 | 191875
Supplier9434 | 191875
Supplier4164 | 11662
Supplier6665 | 11662
(...)
18. Affichez le pays qui a connu, en nombre, le plus de commandes sur l’année 2011.
Sortie attendue :
nom_pays | count
-----------------+-------
ARABIE SAOUDITE | 1074
19. Affichez pour les commandes passées en 2011, la liste des continents et la marge
brute d’exploitation réalisée par continents, triés dans l’ordre décroissant.
Sortie attendue :
nom_region | benefice
---------------------------+---------------
Moyen-Orient | 2008595508.00
(...)
228
5. PLUS LOIN AVEC SQL
20. Affichez le nom, le numéro de téléphone et le pays des fournisseurs qui ont un
commentaire contenant le mot clé Complaints :
Sortie attendue :
21. Déterminez le top 10 des fournisseurs ayant eu le plus long délai de livraison, entre
la date de commande et la date de réception, pour l’année 2011 uniquement.
Sortie attendue :
229
https://dalibo.com/formations
SQL pour PostgreSQL
4. Pour les 30 premières commandes (selon la date de commande), affichez le prix total
de la commande, en appliquant la remise accordée sur chaque article commandé. La
sortie sera triée de la commande la plus chère à la commande la moins chère.
SELECT c.numero_commande, sum(quantite * prix_unitaire - remise) prix_total
FROM (
SELECT numero_commande, date_commande
FROM commandes
230
5. PLUS LOIN AVEC SQL
ORDER BY date_commande
LIMIT 30
) c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
GROUP BY c.numero_commande
ORDER BY sum(quantite * prix_unitaire - remise) DESC
;
5. Affichez, par année, le total des ventes. La date de commande fait foi. La sortie
sera triée par année.
SELECT
extract ('year' FROM date_commande),
sum(quantite * prix - remise) AS prix_total
FROM commandes c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
JOIN pieces p ON lc.piece_id = p.piece_id
GROUP BY extract ('year' FROM date_commande)
ORDER BY extract ('year' FROM date_commande)
;
6. Pour toutes les commandes, calculez le temps moyen de livraison, depuis la date
d’expédition. Le temps de livraison moyen sera exprimé en jours, arrondi à l’entier
supérieur (fonction ceil()).
7. Pour les 30 commandes les plus récentes (selon la date de commande), calculez le
temps moyen de livraison de chaque commande, depuis la date de commande. Le
temps de livraison moyen sera exprimé en jours, arrondi à l’entier supérieur (fonc-
tion ceil()).
Note : la colonne date_commande de la table commandes n’a pas de contrainte NOT NULL,
il est donc possible d’avoir des commandes sans date de commande renseignée. Dans ce
cas, ces commandes vont remonter par défaut en haut de la liste, puisque la clause ORDER
BY renvoie les NULL après les valeurs les plus grandes, et que l’on inverse le tri. Pour éviter
231
https://dalibo.com/formations
SQL pour PostgreSQL
que ces commandes ne faussent les résultats, il faut donc les exclure de la sous-requête,
de la façon suivante :
SELECT numero_commande, date_commande
FROM commandes
WHERE date_commande IS NOT NULL
ORDER BY date_commande DESC
LIMIT 30
10. Un bug applicatif est soupçonné, déterminez s’il existe des commandes dont la date
de commande est postérieure à la date d’expédition des articles.
SELECT count(*)
FROM commandes c
232
5. PLUS LOIN AVEC SQL
11. Écrivez une requête qui corrige les données erronés en positionnant la date de com-
mande à la date d’expédition la plus ancienne des marchandises. Vérifiez qu’elle soit
correcte. Cette requête permet de corriger des calculs de statistiques sur les délais
de livraison.
Si ce n’est pas le cas, il doit y avoir une erreur dans la transaction, on l’annule :
ROLLBACK;
12. Écrivez une requête qui calcule le délai total maximal de livraison de la totalité d’une
commande donnée, depuis la date de la commande.
13. Écrivez une requête pour déterminer les 10 commandes dont le délai de livraison,
entre la date de commande et la date de réception, est le plus important, pour
l’année 2011 uniquement.
SELECT
c.numero_commande,
max(date_reception - date_commande)
FROM commandes c
JOIN lignes_commandes lc ON c.numero_commande = lc.numero_commande
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY c.numero_commande
ORDER BY max(date_reception - date_commande) DESC
LIMIT 10
;
14. Un autre bug applicatif est détecté. Certaines commandes n’ont pas de lignes de
commandes. Écrivez une requête pour les retrouver.
Pour réaliser cette requête, il faut effectuer une jointure spéciale, nommée « Anti-jointure
». Il y a plusieurs façons d’écrire ce type de jointure. Les différentes méthodes sont don-
nées de la moins efficace à la plus efficace.
234
5. PLUS LOIN AVEC SQL
Enfin, l’écriture généralement préférée, tant pour la lisibilité que pour les performances,
avec NOT EXISTS :
SELECT c.numero_commande
FROM commandes c
WHERE NOT EXISTS (
SELECT 1
FROM lignes_commandes lc
WHERE lc.numero_commande = c.numero_commande
)
;
15. Écrivez une requête pour supprimer ces commandes. Vérifiez le travail avant de
valider.
COMMIT;
16. Écrivez une requête pour déterminer les 20 pièces qui ont eu le plus gros volume
de commande.
SELECT p.nom,
sum(quantite)
FROM pieces p
JOIN lignes_commandes lc ON p.piece_id = lc.piece_id
GROUP BY p.nom
ORDER BY sum(quantite) DESC
LIMIT 20
;
17. Affichez les fournisseurs des 20 pièces qui ont été le plus commandées sur l’année
2011.
SELECT co.nom, max_p.piece_id, total_pieces
FROM (
/* cette sous-requête est sensiblement la même que celle de l'exercice
précédent, sauf que l'on remonte cette fois l'id de la piece plutôt
que son nom pour pouvoir faire la jointure avec pieces_fournisseurs, et
que l'on ajoute une jointure avec commandes pour pouvoir filtrer sur
l'année 2011 */
SELECT
p.piece_id,
sum(quantite) AS total_pieces
FROM pieces p
JOIN lignes_commandes lc ON p.piece_id = lc.piece_id
JOIN commandes c ON c.numero_commande = lc.numero_commande
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY p.piece_id
ORDER BY sum(quantite) DESC
LIMIT 20
) max_p
/* il faut passer par la table de liens pieces_fournisseurs pour récupérer
la liste des fournisseurs d'une piece */
JOIN pieces_fournisseurs pf ON max_p.piece_id = pf.piece_id
JOIN fournisseurs f ON f.fournisseur_id = pf.fournisseur_id
-- la jointure avec la table contact permet d'afficher le nom du fournisseur
JOIN contacts co ON f.contact_id = co.contact_id
;
18. Affichez le pays qui a connu, en nombre, le plus de commandes sur l’année 2011.
SELECT nom_pays,
count(c.numero_commande)
FROM commandes c
236
5. PLUS LOIN AVEC SQL
19. Affichez pour les commandes passées en 2011, la liste des régions et la marge brute
d’exploitation réalisée par régions, triés dans l’ordre décroissant.
SELECT
nom_region,
round(sum(quantite * prix - remise) - sum(quantite * cout_piece), 2)
AS marge_brute
FROM
commandes c
JOIN lignes_commandes lc ON lc.numero_commande = c.numero_commande
/* il faut passer par la table de liens pieces_fournisseurs pour récupérer
la liste des fournisseurs d'une piece - attention, la condition de
jointure entre lignes_commandes et pieces_fournisseurs porte sur deux
colonnes ! */
JOIN pieces_fournisseurs pf ON lc.piece_id = pf.piece_id
AND lc.fournisseur_id = pf.fournisseur_id
JOIN pieces p ON p.piece_id = pf.piece_id
JOIN fournisseurs f ON f.fournisseur_id = pf.fournisseur_id
JOIN clients cl ON c.client_id = cl.client_id
JOIN contacts co ON cl.contact_id = co.contact_id
JOIN pays pa ON co.code_pays = pa.code_pays
JOIN regions r ON r.region_id = pa.region_id
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY nom_region
ORDER BY sum(quantite * prix - remise) - sum(quantite * cout_piece) DESC
;
20. Affichez le nom, le numéro de téléphone et le pays des fournisseurs qui ont un
commentaire contenant le mot clé Complaints :
SELECT
nom,
telephone,
nom_pays
FROM
fournisseurs f
JOIN contacts c ON f.contact_id = c.contact_id
JOIN pays p ON c.code_pays = p.code_pays
237
https://dalibo.com/formations
SQL pour PostgreSQL
21. Déterminez le top 10 des fournisseurs ayant eu le plus long délai de livraison, entre
la date de commande et la date de réception, pour l’année 2011 uniquement.
SELECT
f.fournisseur_id,
co.nom,
max(date_reception - date_commande)
FROM
lignes_commandes lc
JOIN commandes c ON c.numero_commande = lc.numero_commande
JOIN pieces_fournisseurs pf ON lc.piece_id = pf.piece_id
AND lc.fournisseur_id = pf.fournisseur_id
JOIN fournisseurs f ON pf.fournisseur_id = f.fournisseur_id
JOIN contacts co ON f.contact_id = co.contact_id
WHERE date_commande BETWEEN to_date('01/01/2011', 'DD/MM/YYYY')
AND to_date('31/12/2011', 'DD/MM/YYYY')
GROUP BY f.fournisseur_id, co.nom
ORDER BY max(date_reception - date_commande) DESC
LIMIT 10
;
238
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.0.1 PRÉAMBULE
Ce module a pour objectif de voir les fonctionnalités pouvant être utiles pour développer
une application transactionnelle.
6.0.2 MENU
• LIMIT/OFFSET
• Jointures LATERAL
• UPSERT : INSERT ou UPDATE
• Common Table Expressions
• Serializable Snapshot Isolation
6.0.3 OBJECTIFS
239
https://dalibo.com/formations
SQL pour PostgreSQL
6.1 LIMIT
• Clause LIMIT
• ou syntaxe en norme SQL : FETCH FIRST xx ROWS
• Utilisation :
– limite le nombre de lignes du résultat
La clause LIMIT, ou sa déclinaison normalisée par le comité ISO FETCH FIRST xx ROWS,
permet de limiter le nombre de lignes résultant d’une requête SQL. La syntaxe normalisée
vient de DB2 d’IBM et va être amenée à apparaître sur la plupart des bases de données.
La syntaxe LIMIT reste néanmoins disponible sur de nombreux SGBD et est plus concise.
SELECT *
FROM employes
LIMIT 2;
SELECT *
FROM employes ;
matricule | nom | service | salaire
-----------+----------+-------------+----------
00000001 | Dupuis | | 10000.00
00000004 | Fantasio | Courrier | 4500.00
00000006 | Prunelle | Publication | 4000.00
00000020 | Lagaffe | Courrier | 3000.00
00000040 | Lebrac | Publication | 3000.00
(5 lignes)
Il faut faire attention au fait que ces fonctions ne permettent pas d’obtenir des résultats
stables si les données ne sont pas triées explicitement. En effet, le standard SQL ne
garantit en aucune façon l’ordre des résultats à moins d’employer la clause ORDER BY, et
que l’ensemble des champs sur lequel on trie soit unique et non null.
Si une ligne était modifiée, changeant sa position physique dans la table, le résultat de la
240
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
requête ne serait pas le même. Par exemple, en réalisant une mise à jour fictive de la ligne
correspondant au matricule 00000001 :
UPDATE employes
SET nom = nom
WHERE matricule = '00000001';
6.1.2 OFFSET
• Clause OFFSET
– à utiliser avec LIMIT
• Utilité :
– pagination de résultat
– sauter les n premières lignes avant d’afficher le résultat
• Sans offset :
SELECT *
FROM employes
LIMIT 2
ORDER BY matricule;
242
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
sql2=# \d posts
Table « public.posts »
Colonne | Type | Modificateurs
------------+--------------------------+---------------
id_article | integer |
id_post | integer |
ts | timestamp with time zone |
message | text |
243
https://dalibo.com/formations
SQL pour PostgreSQL
La requête est rapide et ne lit que peu de données, ce qui est bien.
Le plan d’exécution n’est plus le même. Pour répondre à la requête, PostgreSQL choisit la
lecture de l’ensemble des résultats, puis leur tri, pour enfin appliquer la limite. Le temps
d’exécution est alors de 4 milliseconde sur le serveur de test, et 1014 blocs sont accédés,
ce qui reste encore raisonnable. Voici le plan généré :
244
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Le problème de ce plan est que, plus le jeu de données sera important, plus les temps de
réponse seront importants. Ils seront encore plus importants si le tri déclenche un tri sur
disque. Il faut donc trouver une solution pour les minimiser.
Les problèmes de l’utilisation de la clause OFFSET sont parfaitement expliqués dans cet
article59 . Le TP qui suit ce chapitre propose d’implémenter les solutions proposées dans
l’article par Markus Winand.
6.2 RETURNING
• Clause RETURNING
• Utilité :
– récupérer les enregistrements modifiés
– avec INSERT
– avec UPDATE
– avec DELETE
La clause RETURNING permet de récupérer les valeurs modifiées par un ordre DML. Ainsi,
la clause RETURNING associée à l’ordre INSERT permet d’obtenir une ou plusieurs colonnes
des lignes insérées.
id | val
----+-----
1 | 10
(1 ligne)
Cela permet par exemple de récupérer la valeur de colonnes portant une valeur par défaut,
comme la valeur affectée par une séquence, comme sur l’exemple ci-dessus.
59
https://use-the-index-luke.com/fr/no-offset
245
https://dalibo.com/formations
SQL pour PostgreSQL
La clause RETURNING permet également de récupérer les valeurs des colonnes mises à
jour :
UPDATE test_returning
SET val = val + 10
WHERE id = 1
RETURNING id, val;
id | val
----+-----
1 | 20
(1 ligne)
6.3 UPSERT
• INSERT ou UPDATE ?
– INSERT ... ON CONFLICT DO { NOTHING | UPDATE }
– À partir de la version 9.5
• Utilité :
– mettre à jour en cas de conflit sur un INSERT
– ne rien faire en cas de conflit sur un INSERT
246
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
autre possibilité aurait été d’utiliser une CTE en écriture, mais elle présente également
les problèmes de concurrence d’accès décrits dans l’article.
Sur des traitements d’intégration de données, il s’agit d’un comportement qui n’est pas
toujours souhaitable. La norme SQL propose l’ordre MERGE pour palier à des problèmes de
ce type, mais il est peu probable de le voir rapidement implémenté dans PostgreSQL61 .
L’ordre INSERT s’est toutefois vu étendu avec PostgreSQL 9.5 pour gérer les conflits à
l’insertion.
\d employes
Table "public.employes"
Column | Type | Modifiers
-----------+--------------+-----------
matricule | character(8) | not null
nom | text | not null
service | text |
salaire | numeric(7,2) |
Indexes:
"employes_pkey" PRIMARY KEY, btree (matricule)
61
La solution actuelle semble techniquement meilleure et la solution actuelle a donc été choisie. Le wiki du projet
PostgreSQL montre que l’ordre MERGE a été étudié et qu’un certain nombre d’aspects cruciaux n’ont pas été spécifiés,
amenant le projet PostgreSQL à utiliser sa propre version. Voir la documentation : https://wiki.postgresql.org/wiki/
UPSERT#MERGE_disadvantages.
247
https://dalibo.com/formations
SQL pour PostgreSQL
Si l’on souhaite insérer une ligne contenant un matricule déjà existant, une erreur de clé
dupliquée est levée et toute la transaction est annulée.
248
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
INSERT ....
ON CONFLICT
DO NOTHING;
Il suffit d’indiquer à PostgreSQL de ne rien faire en cas de conflit sur une valeur dupliquée
avec la clause ON CONFLICT DO NOTHING placée à la fin de l’ordre INSERT qui peut poser
problème.
Dans ce cas, si une rupture d’unicité est détectée, alors PostgreSQL ignorera l’erreur, si-
lencieusement. En revanche, si une erreur apparaît sur une autre contrainte, l’erreur sera
levée.
L’erreur d’unicité est bien ignorée si la ligne existe déjà, le résultat est INSERT 0 0 qui
indique qu’aucune ligne n’a été insérée :
INSERT INTO test_upsert (v, x)
VALUES ('x', 1)
ON CONFLICT DO NOTHING;
INSERT 0 0
L’insertion est aussi ignorée si l’on tente d’insérer des lignes rompant la contrainte
d’unicité mais ne comportant pas les mêmes valeurs pour d’autres colonnes :
INSERT INTO test_upsert (v, x)
VALUES ('x', 4)
ON CONFLICT DO NOTHING;
INSERT 0 0
Si l’on insère une valeur interdite par la contrainte CHECK, une erreur est bien levée :
INSERT INTO test_upsert (v, x)
VALUES ('x', 0)
ON CONFLICT DO NOTHING;
249
https://dalibo.com/formations
SQL pour PostgreSQL
La clause ON CONFLICT permet de déterminer une colonne sur laquelle le conflit peut
arriver. Cette colonne ou ces colonnes doivent porter une contrainte d’unicité ou une
contrainte d’exclusion, c’est à dire une contrainte portée par un index. La clause DO
UPDATE associée fait référence aux valeurs rejetées par le conflit à l’aide de la pseudo-
table excluded. Les valeurs courantes sont accessibles en préfixant les colonnes avec le
nom de la table. L’exemple montre cela.
Avec la requête de l’exemple, on voit que le salaire du directeur n’a pas été modifié, mais
son nom l’a été :
La clause ON CONFLICT permet également de définir une contrainte d’intégrité sur laque-
lle on réagit en cas de conflit :
250
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Bien sûr, on peut insérer plusieurs lignes, INSERT ON CONFLICT réagira uniquement sur
les doublons :
La nouvelle employée, Moizelle Jeanne a été intégrée dans la tables des employés, et Lebrac
a été traité comme un doublon, en appliquant la règle de mise à jour vue plus haut : seul
le nom est mis à jour et le salaire est inchangé.
SELECT * FROM employes ;
matricule | nom | service | salaire
-----------+-----------------+-------------+----------
00000004 | Fantasio | Courrier | 4500.00
00000006 | Prunelle | Publication | 4000.00
00000020 | Lagaffe | Courrier | 3000.00
00000001 | M. Pirate | Direction | 50000.00
00000002 | Moizelle Jeanne | Publication | 3000.00
00000040 | Lebrac | Publication | 3000.00
(6 rows)
251
https://dalibo.com/formations
SQL pour PostgreSQL
À noter que la clause SET salaire = employes.salaire est inutile, c’est ce que fait
PostgreSQL implicitement.
Si l’on choisit de réaliser une mise à jour plutôt que de générer une erreur, on utilisera
la clause ON CONFLICT DO UPDATE. Il faudra dans ce cas préciser la ou les colonnes qui
portent une contrainte d’unicité. Cette contrainte d’unicité permettra de détecter la du-
plication de valeur, PostgreSQL pourra alors appliquer la règle de mise à jour édictée.
La règle de mise à jour permet de définir très finement les colonnes à mettre à jour et les
colonnes à ne pas mettre à jour. Dans ce contexte, la pseudo-table excluded représente
l’ensemble rejeté par l’INSERT. Il faudra explicitement indiquer les colonnes dont la valeur
sera mise à jour à partir des valeurs que l’on tente d’insérer, reprise de la pseudo-table
excluded :
ON CONFLICT (...)
DO UPDATE
SET colonne = excluded.colonne,
autre_colonne = excluded.autre_colonne,
...
En alternative, il est possible d’indiquer un nom de contrainte plutôt que le nom d’une
colonne portant une contrainte d’unicité :
INSERT ....
ON CONFLICT ON CONSTRAINT nom_contrainte
DO UPDATE
SET colonne_a_modifier = excluded.colonne,
autre_colonne_a_modifier = excluded.autre_colonne,
...;
252
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.4 LATERAL
• Jointures LATERAL
– SQL:99
– PostgreSQL 9.3
– équivalent d’une boucle foreach
• Utilisations
– top-N à partir de plusieurs tables
– jointure avec une fonction retournant un ensemble
LATERAL apparaît dans la révision de la norme SQL de 1999. Elle permet d’appliquer une
requête ou une fonction sur le résultat d’une table.
• Jointure LATERAL
– équivalent de foreach
• Utilité :
– Top-N à partir de plusieurs tables
– exemple : afficher les 5 derniers messages des 5 derniers sujets actifs d’un forum
La clause LATERAL existe dans la norme SQL depuis plusieurs années. L’implémentation
de cette clause dans la plupart des SGBD reste cependant relativement récente.
Elle permet d’utiliser les données de la requête principale dans une sous-requête. La
sous-requête sera appliquée à chaque enregistrement retourné par la requête principale.
253
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT titre,
top_5_messages.date_publication,
top_5_messages.extrait
FROM sujets,
LATERAL(SELECT date_publication,
substr(message, 0, 100) AS extrait
FROM messages
WHERE sujets.sujet_id = messages.sujet_id
ORDER BY date_publication DESC
LIMIT 5) top_5_messages
ORDER BY sujets.date_modification DESC,
top_5_messages.date_publication DESC
LIMIT 25;
L’exemple ci-dessus montre comment afficher les 5 derniers messages postés sur les 5
derniers sujets actifs d’un forum avec la clause LATERAL.
Une autre forme d’écriture emploie le mot clé JOIN, inutile dans cet exemple. Il peut
avoir son intérêt si l’on utilise une jointure externe (LEFT JOIN par exemple si un sujet
n’impliquait pas forcément la présence d’un message) :
Il aurait été possible de réaliser cette requête par d’autres moyens, mais LATERAL permet
d’obtenir la requête la plus performante. Une autre approche quasiment aussi perfor-
mante aurait été de faire appel à une fonction retournant les 5 enregistrements souhaités.
À noter qu’une colonne date_modification a été ajouté à la table sujets afin de déter-
miner rapidement les derniers sujets modifiés. Sans cela, il faudrait parcourir l’ensemble
des sujets, récupérer la date de publication des derniers messages avec une jointure
LATERAL et récupérer les 5 derniers sujets actifs. Cela nécessite de lire beaucoup de
données. Un trigger positionné sur la table messages permettra d’entretenir la colonne
date_modification sur la table sujets sans difficulté. Il s’agit donc ici d’une entorse
aux règles de modélisation en vue d’optimiser les traitements.
254
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Si nous n’avions pas la clause LATERAL, nous pourrions être tentés d’écrire la requête
suivante :
SELECT titre, top_5_messages.date_publication, top_5_messages.extrait
FROM sujets
JOIN (SELECT date_publication, substr(message, 0, 100) AS extrait
FROM messages
WHERE sujets.sujet_id = messages.sujet_id
ORDER BY date_message DESC
LIMIT 5) top_5_messages
ORDER BY sujets.date_modification DESC
LIMIT 25;
Cependant, la norme SQL interdit une telle construction, il n’est pas possible de référencer
la table principale dans une sous-requête. Mais avec la clause LATERAL, la sous-requête
peut faire appel à la table principale.
255
https://dalibo.com/formations
SQL pour PostgreSQL
L’exemple ci-dessous montre qu’il est possible d’utiliser une fonction retournant un en-
semble (SRF pour Set Returning Functions).
SELECT titre,
top_5_messages.date_publication,
top_5_messages.extrait
FROM sujets,
get_top_5_messages(sujet_id) AS top_5_messages
ORDER BY sujets.date_modification DESC
LIMIT 25;
256
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
• Utilité
– factoriser des sous-requêtes
– améliorer la lisibilité d’une requête
Les CTE permettent de factoriser la définition d’une sous-requête qui pourrait être ap-
pelée plusieurs fois.
Une CTE est exprimée avec la clause WITH. Cette clause permet de définir des vues
éphémères qui seront utilisées les unes après les autres et au final utilisées dans la re-
quête principale.
Avant la version 12, une CTE était forcément matérialisée. À partir de la version 12, ce
n’est plus le cas. Le seul moyen de s’en assurer revient à ajouter la clause MATERIALIZED.
WITH resultat AS (
/* requête complexe */
)
SELECT *
FROM resultat
WHERE nb < 5;
On utilise principalement une CTE pour factoriser la définition d’une sous-requête com-
mune, comme dans l’exemple ci-dessus.
ON (c.numero_commande = l.numero_commande)
WHERE date_commande BETWEEN '2014-01-01' AND '2014-12-31'
)
SELECT type_client, NULL AS pays, SUM(montant) AS montant_total_commande
FROM resume_commandes
JOIN clients
ON (resume_commandes.client_id = clients.client_id)
GROUP BY type_client
UNION ALL
SELECT NULL, code_pays AS pays, SUM(montant)
FROM resume_commandes r
JOIN clients cl
ON (r.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
GROUP BY code_pays;
Le plan d’exécution de la requête montre que la vue resume_commandes est exécutée une
seule fois et son résultat est utilisé par les deux opérations de regroupements définies
dans la requête principale :
QUERY PLAN
-------------------------------------------------------------------------------
Append (cost=244618.50..323855.66 rows=12 width=67)
CTE resume_commandes
-> Hash Join (cost=31886.90..174241.18 rows=1216034 width=26)
Hash Cond: (l.numero_commande = c.numero_commande)
-> Seq Scan on lignes_commandes l
(cost=0.00..73621.47 rows=3141947 width=18)
-> Hash (cost=25159.00..25159.00 rows=387032 width=16)
-> Seq Scan on commandes c
(cost=0.00..25159.00 rows=387032 width=16)
Filter: ((date_commande >= '2014-01-01'::date)
AND (date_commande <= '2014-12-31'::date))
-> HashAggregate (cost=70377.32..70377.36 rows=3 width=34)
Group Key: clients.type_client
-> Hash Join (cost=3765.00..64297.15 rows=1216034 width=34)
Hash Cond: (resume_commandes.client_id = clients.client_id)
-> CTE Scan on resume_commandes
(cost=0.00..24320.68 rows=1216034 width=40)
-> Hash (cost=2026.00..2026.00 rows=100000 width=10)
-> Seq Scan on clients
(cost=0.00..2026.00 rows=100000 width=10)
-> HashAggregate (cost=79236.89..79237.00 rows=9 width=35)
Group Key: co.code_pays
-> Hash Join (cost=12624.57..73156.72 rows=1216034 width=35)
Hash Cond: (r.client_id = cl.client_id)
258
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Si la requête avait été écrite sans CTE, donc en exprimant deux fois la même sous-requête,
le coût d’exécution aurait été multiplié par deux car il aurait fallu exécuter la sous-requête
deux fois au lieu d’une.
On utilise également les CTE pour améliorer la lisibilité des requêtes complexes, mais cela
peut poser des problèmes d’optimisations, comme cela sera discuté plus bas.
On peut néanmoins enchaîner plusieurs vues les unes à la suite des autres :
WITH nom_vue1 AS (
<requête pour générer la vue 1>
), nom_vue2 AS (
<requête pour générer la vue 2, pouvant utiliser la vue 1>
)
<requête principale utilisant vue 1 et/ou vue2>;
259
https://dalibo.com/formations
SQL pour PostgreSQL
Il faut néanmoins être vigilant car l’optimiseur n’inclut pas la définition des CTE dans la
requête principale quand il réalise les différentes passes d’optimisations.
Par exemple, sans CTE, si un prédicat appliqué dans la requête principale peut être re-
monté au niveau d’une sous-requête, l’optimiseur de PostgreSQL le réalisera :
EXPLAIN
SELECT MAX(date_embauche)
FROM (SELECT * FROM employes WHERE num_service = 4) e
WHERE e.date_embauche < '2006-01-01';
QUERY PLAN
------------------------------------------------------------------------------
Aggregate (cost=1.21..1.22 rows=1 width=4)
-> Seq Scan on employes (cost=0.00..1.21 rows=2 width=4)
Filter: ((date_embauche < '2006-01-01'::date) AND (num_service = 4))
(3 lignes)
Les deux prédicats num_service = 4 et date_embauche < '2006-01-01' ont été ap-
pliqués en même temps, réduisant ainsi le jeu de données à considérer dès le départ. En
anglais, on parle de predicate push-down.
Une requête équivalente basée sur une CTE ne permet pas d’appliquer le filtre au plus
tôt : ici le filtre inclus dans la CTE est appliqué, pas le second.
EXPLAIN
WITH e AS
(SELECT * FROM employes WHERE num_service = 4)
SELECT MAX(date_embauche)
FROM e
WHERE e.date_embauche < '2006-01-01';
QUERY PLAN
-----------------------------------------------------------------
Aggregate (cost=1.29..1.30 rows=1 width=4)
CTE e
-> Seq Scan on employes (cost=0.00..1.18 rows=5 width=43)
Filter: (num_service = 4)
-> CTE Scan on e (cost=0.00..0.11 rows=2 width=4)
Filter: (date_embauche < '2006-01-01'::date)
260
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
On peut se faire piéger également en voulant calculer trop de choses dans les CTE. Dans
cet autre exemple, on cherche à afficher les 7 commandes d’un client donné, le cumul des
valeurs des lignes par commande étant réalisé dans un CTE :
EXPLAIN ANALYZE
WITH nos_commandes AS
(
SELECT c.numero_commande, c.client_id, SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
GROUP BY 1,2
)
SELECT clients.client_id, type_client, nos_commandes.*
FROM nos_commandes
INNER JOIN clients
ON (nos_commandes.client_id = clients.client_id)
WHERE clients.client_id = 6845
;
QUERY PLAN
-----------------------------------------------------------------
Nested Loop (cost=154567.68..177117.90 rows=5000 width=58)
(actual time=7.757..5526.148 rows=7 loops=1)
CTE nos_commandes
-> GroupAggregate (cost=3.51..154567.39 rows=1000000 width=48)
(actual time=0.043..5076.121 rows=1000000 loops=1)
Group Key: c.numero_commande
-> Merge Join (cost=3.51..110641.89 rows=3142550 width=26)
(actual time=0.017..2511.385 rows=3142632 loops=1)
Merge Cond: (c.numero_commande = l.numero_commande)
-> Index Scan using commandes_pkey on commandes c
(cost=0.42..16290.72 rows=1000000 width=16)
(actual time=0.008..317.547 rows=1000000 loops=1)
-> Index Scan using lignes_commandes_pkey on lignes_commandes l
(cost=0.43..52570.08 rows=3142550 width=18)
(actual time=0.006..1030.420 rows=3142632 loops=1)
-> Index Scan using clients_pkey on clients
(cost=0.29..0.51 rows=1 width=10)
(actual time=0.009..0.009 rows=1 loops=1)
Index Cond: (client_id = 6845)
-> CTE Scan on nos_commandes (cost=0.00..22500.00 rows=5000 width=48)
(actual time=7.746..5526.128 rows=7 loops=1)
Filter: (client_id = 6845)
Rows Removed by Filter: 999993
Notez que la construction de la CTE fait un calcul sur l’intégralité des 5000 commandes
261
https://dalibo.com/formations
SQL pour PostgreSQL
et brasse un million de lignes. Puis, une fois connu le client_id, PostgreSQL parcourt
cette CTE pour en récupérer une seule ligne. C’est évidemment extrêmement coûteux et
dure plusieurs secondes.
Alors que sans la CTE, l’optimiseur se permet de faire la jointure avec les tables, donc à
filtrer sur le client demandé, et ne fait la somme des lignes qu’après, en quelques millisec-
ondes.
EXPLAIN ANALYZE
SELECT clients.client_id, type_client, nos_commandes.*
FROM
(
SELECT c.numero_commande, c.client_id, SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
GROUP BY 1,2
) AS nos_commandes
INNER JOIN clients
ON (nos_commandes.client_id = clients.client_id)
WHERE clients.client_id = 6845
;
QUERY PLAN
-----------------------------------------------------------------
Nested Loop (cost=12.83..13.40 rows=11 width=58)
(actual time=0.113..0.117 rows=7 loops=1)
-> Index Scan using clients_pkey on clients (cost=0.29..0.51 rows=1 width=10)
(actual time=0.007..0.007 rows=1 loops=1)
Index Cond: (client_id = 6845)
-> HashAggregate (cost=12.54..12.67 rows=11 width=48)
(actual time=0.106..0.108 rows=7 loops=1)
Group Key: c.numero_commande
-> Nested Loop (cost=0.85..12.19 rows=35 width=26)
(actual time=0.028..0.087 rows=23 loops=1)
-> Index Scan using commandes_clients_fkey on commandes c
(cost=0.42..1.82 rows=11 width=16)
(actual time=0.022..0.028 rows=7 loops=1)
Index Cond: (client_id = 6845)
-> Index Scan using lignes_commandes_pkey on lignes_commandes l
(cost=0.43..0.89 rows=5 width=18)
(actual time=0.006..0.007 rows=3 loops=7)
Index Cond: (numero_commande = c.numero_commande)
En plus d’améliorer la lisibilité et d’éviter la duplication de code, le mécanisme des CTE est
aussi un moyen contourner certaines limitations de l’optimiseur de PostgreSQL en vue de
contrôler précisément le plan d’exécution d’une requête.
262
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
WITH donnees_a_archiver AS (
DELETE FROM donnes_courantes
WHERE date < '2015-01-01'
RETURNING *
)
INSERT INTO donnes_archivees
SELECT * FROM donnees_a_archiver;
La requête d’exemple permet d’archiver des données dans une table dédiée à l’archivage
en utilisant une CTE en écriture. L’emploi de la clause RETURNING permet de récupérer
les lignes purgées.
Le même principe s’applique pour une table que l’on vient de partitionner. Les enreg-
istrements se trouvent initialement dans la table mère, il faut les répartir sur les différentes
partitions. On utilisera une requête reposant sur le même principe que la précédente.
L’ordre INSERT visera la table principale si l’on souhaite utiliser le trigger de partition
pour répartir les données. Il pourra également viser une partition donnée afin d’éviter le
surcoût du trigger de partition.
En plus de ce cas d’usage simple, il est possible d’utiliser cette fonctionnalité pour débug-
ger une requête complexe.
WITH sous-requete1 AS (
263
https://dalibo.com/formations
SQL pour PostgreSQL
),
debug_sous-requete1 AS (
INSERT INTO debug_sousrequete1
SELECT * FROM sous-requete1
), sous-requete2 AS (
SELECT ...
FROM sous-requete1
JOIN ....
WHERE ....
GROUP BY ...
),
debug_sous-requete2 AS (
INSERT INTO debug_sousrequete2
SELECT * FROM sous-requete2
)
SELECT *
FROM sous-requete2;
On peut également envisager une requête CTE en écriture pour émuler une requête
MERGE pour réaliser une intégration de données complexe, là où l’UPSERT ne serait pas
suffisant. Il faut toutefois avoir à l’esprit qu’une telle requête présente des problèmes
de concurrences d’accès, pouvant entraîner des résultats inattendus si elle est employée
alors que d’autres sessions modifient les données. On se contentera d’utiliser une telle
requête dans des traitements batchs.
Il est important de noter que sur PostgreSQL, chaque sous-partie d’une CTE qui exécute
une opération de mise à jour sera exécutée, même si elle n’est pas explicitement appelée.
Par exemple :
WITH del AS (DELETE FROM nom_table),
fonction_en_ecriture AS (SELECT * FROM fonction_en_ecriture())
SELECT 1;
supprimera l’intégralité des données de la table nom_table, mais n’appellera pas la fonc-
tion fonction_en_ecriture(), même si celle-ci effectue des écritures.
264
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Le langage SQL permet de réaliser des récursions avec des CTE récursives. Son princi-
pal intérêt est de pouvoir parcourir des arborescences, comme par exemple des arbres
généalogiques, des arborescences de service ou des entrées de menus hiérarchiques.
Il permet également de réaliser des parcours de graphes, mais les possibilités en SQL sont
plus limitées de ce côté-là. En effet, SQL utilise un algorithme de type Breadth First (par-
cours en largeur) où PostgreSQL produit tout le niveau courant, et approfondit ensuite
la récursion. Ce fonctionnement est à l’opposé d’un algorithme Depth First (parcours en
profondeur) où chaque branche est explorée à fond individuellement avant de passer à
la branche suivante. Ce principe de fonctionnement de l’implémentation dans SQL peut
poser des problèmes sur des recherches de types réseaux sociaux où des bases de don-
nées orientées graphes, tel que Neo4J, seront bien plus efficaces. À noter que l’extension
pgRouting implémente des algorithmes de parcours de graphes plus efficace. Cela per-
met de rester dans PostgreSQL mais nécessite un certain formalisme et il faut avoir con-
science que pgRouting n’est pas l’outil le plus efficace car il génère un graphe en mémoire
à chaque requête à résoudre, qui est perdu après l’appel.
valeur
--------
1
265
https://dalibo.com/formations
SQL pour PostgreSQL
2
3
4
5
6
7
8
9
10
(10 rows)
L’exécution de cette requête commence avec le SELECT 1 AS valeur (la requête avant
le UNION ALL), d’où la première ligne avec la valeur 1. Puis PostgreSQL exécute le SELECT
valeur+1 FROM suite WHERE valeur < 10 tant que cette requête renvoie des lignes.
À la première exécution, il additionne 1 avec la valeur précédente (1), ce qui fait qu’il
renvoie 2. A la deuxième exécution, il additionne 1 avec la valeur précédente (2), ce qui
fait qu’il renvoie 3. Etc. La récursivité s’arrête quand la requête ne renvoie plus de ligne,
autrement dit quand la colonne vaut 10.
Cet exemple n’a aucun autre intérêt que de présenter la syntaxe permettant de réaliser
une récursion en langage SQL.
266
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
267
https://dalibo.com/formations
SQL pour PostgreSQL
Cet exemple suivant porte sur le parcours d’une arborescence de menu hiérarchique.
268
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
18 | Couleur | 14
19 | Afficher la barre d'outils | 3
20 | Plein écran | 3
21 | Modifier le titre | 4
22 | Définir l'encodage | 4
23 | Réinitialiser | 4
24 | UTF-8 | 22
25 | Europe occidentale | 22
26 | Europe centrale | 22
27 | ISO-8859-1 | 25
28 | ISO-8859-15 | 25
29 | WINDOWS-1252 | 25
30 | ISO-8859-2 | 26
31 | ISO-8859-3 | 26
32 | WINDOWS-1250 | 26
33 | Onglet précédent | 5
34 | Onglet suivant | 5
(34 rows)
Nous allons définir une CTE récursive qui va afficher l’arborescence du menu Terminal.
La récursion va donc commencer par chercher la ligne correspondant à cette entrée de
menu dans la table entrees_menu. Une colonne calculée arborescence est créée, elle
servira plus tard dans la récursion :
La requête qui réalisera la récursion est une jointure entre le résultat de l’itération précé-
dente, obtenu par la vue parcours_menu de la CTE, qui réalisera une jointure avec la ta-
ble entrees_menu sur la colonne entrees_menu.parent_id qui sera jointe à la colonne
menu_id de l’itération précédente.
La condition d’arrêt de la récursion n’a pas besoin d’être exprimée. En effet, les entrées
terminales des menus ne peuvent pas être jointes avec de nouvelles entrées de menu, car
il n’y a pas d’autre correspondance avec parent_id).
À titre d’exemple, voici l’implémentation du jeu des six degrés de Kevin Bacon en utilisant
pgRouting :
WITH dijkstra AS (
SELECT seq, id1 AS node, id2 AS edge, cost
FROM pgr_dijkstra('
SELECT f.film_id AS id,
269
https://dalibo.com/formations
SQL pour PostgreSQL
f.actor_id::integer AS source,
f2.actor_id::integer AS target,
1.0::float8 AS cost
FROM film_actor f
JOIN film_actor f2
ON (f.film_id = f2.film_id and f.actor_id <> f2.actor_id)'
, 29539, 29726, false, false)
)
SELECT *
FROM actors
JOIN dijkstra
on (dijkstra.node = actors.actor_id) ;
Tout d’abord, des UPDATE peuvent être perdus, dans le cas où plusieurs transactions
lisent la même ligne, puis la mettent à jour sans concertation. Par exemple, si la transaction
1 ouvre une transaction et effectue une lecture d’une ligne donnée :
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004';
270
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Après un traitement applicatif, la transaction 1 met les données à jour pour noter
l’augmentation de 5 % du salarié. La transaction est validée dans la foulée avec COMMIT :
UPDATE employes
SET salaire = <valeur récupérée préalablement * 1.05>
WHERE matricule = '00000004';
COMMIT;
Après un traitement applicatif, la transaction 2 met également les données à jour pour
noter une augmentation exceptionnelle de 100 € :
UPDATE employes
SET salaire = <valeur récupérée préalablement + 100>
WHERE matricule = '00000004';
COMMIT;
La première solution n’est pas toujours envisageable, il faut donc se tourner vers les deux
autres solutions.
Le problème des lectures sales (dirty reads) ne peut pas se poser car PostgreSQL
n’implémente pas le niveau d’isolation READ UNCOMMITTED. Si ce niveau d’isolation est
sélectionné, PostgreSQL utilise alors le niveau READ COMMITTED.
L’ordre SELECT FOR UPDATE permet de lire des lignes tout en les réservant en posant un
verrou dessus en vue d’une future mise à jour. Le verrou permettra une lecture parallèle,
mais mettra toute mise à jour en attente.
Reprenons l’exemple précédent et utilisons SELECT FOR UPDATE pour voir si le problème
de concurrence d’accès peut être résolu.
271
https://dalibo.com/formations
SQL pour PostgreSQL
session 1
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE;
matricule | nom | service | salaire
-----------+----------+----------+---------
00000004 | Fantasio | Courrier | 4500.00
(1 row)
session 2
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE;
session 3
Une troisième session effectue une lecture, sans poser de verrou explicite :
Le SELECT n’a pas été bloqué par la session 1. Seule la session 2 est bloquée car elle
tente d’obtenir le même verrou.
session 1
L’application a effectué ses calculs et met à jour les données en appliquant l’augmentation
de 5 % :
UPDATE employes
SET salaire = 4725
WHERE matricule = '00000004';
COMMIT;
272
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
session 2
La session 2 a rendu la main, le temps d’attente a été important pour réaliser ces calculs
complexes :
Time: 128127,105 ms
Le salaire obtenu est bien le salaire mis à jour par la session 1. Sur cette base, l’application
applique l’augmentation de 100 € :
UPDATE employes
SET salaire = 4825.00
WHERE matricule = '00000004';
COMMIT;
Les deux transactions ont donc été effectuée de manière sérialisée, l’augmentation de
100 € ET l’augmentation de 5 % ont été accordées à Fantasio. En contre-partie, l’une des
deux transactions concurrentes a été mise en attente afin de pouvoir sérialiser les trans-
actions. Cela implique de penser les traitements en verrouillant les ressources auxquelles
on souhaite accéder.
L’ordre SELECT FOR UPDATE dispose également d’une option NOWAIT qui permet d’annuler
la transaction courante si un verrou ne pouvait être acquis. Si l’on reprend les premières
étapes de l’exemple précédent :
session 1
BEGIN TRANSACTION;
SELECT * FROM employes WHERE matricule = '00000004' FOR UPDATE NOWAIT;
matricule | nom | service | salaire
-----------+----------+----------+---------
00000004 | Fantasio | Courrier | 4500.00
(1 row)
Aucun verrou préalable n’avait été posé, la requête SELECT a retourné les données
souhaitées.
273
https://dalibo.com/formations
SQL pour PostgreSQL
session 2
Comme la session n°1 possède déjà un verrou sur la ligne qui nous intéresse, l’option
NOWAIT sur le SELECT a annulé la transaction.
Il faut maintenant effectuer un ROLLBACK explicite pour pouvoir recommencer les traite-
ments au risque d’obtenir le message suivant :
Une dernière fonctionnalité intéressante de SELECT FOR UPDATE, apparue avec Post-
greSQL 9.5, permet de mettre en oeuvre différents workers qui consomment des
données issues d’une table représentant une file d’attente. Il s’agit de la clause SKIP
LOCKED, dont le principe de fonctionnement est identique à son équivalent sous Oracle.
En prenant une table représentant la file d’attente suivante, peuplée avec des données
générées :
CREATE TABLE test_skiplocked (id serial primary key, val text);
INSERT INTO test_skiplocked (val) SELECT md5(i::text)
FROM generate_series(1, 1000) i;
Une première transaction est ouverte et tente d’obtenir un verrou sur les 10 premières
lignes :
BEGIN TRANSACTION;
SELECT *
FROM test_skiplocked
LIMIT 10
FOR UPDATE SKIP LOCKED;
274
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
id | val
----+----------------------------------
1 | c4ca4238a0b923820dcc509a6f75849b
2 | c81e728d9d4c2f636f067f89cc14862c
3 | eccbc87e4b5ce2fe28308fd9f2a7baf3
4 | a87ff679a2f3e71d9181a67b7542122c
5 | e4da3b7fbbce2345d7772b0674a318d5
6 | 1679091c5a880faf6fb5e6087eb1b2dc
7 | 8f14e45fceea167a5a36dedd4bea2543
8 | c9f0f895fb98ab9159f51fd0297e236d
9 | 45c48cce2e2d7fbdea1afc51c7c6ad26
10 | d3d9446802a44259755d38e6d163e820
(10 rows)
Avec la clause SKIP LOCKED, les 10 premières verrouillées par la transaction n°1 seront
passées et ce sont les 10 lignes suivantes qui seront verrouillées et retournées par l’ordre
SELECT :
BEGIN TRANSACTION;
SELECT *
FROM test_skiplocked
LIMIT 10
FOR UPDATE SKIP LOCKED;
id | val
----+----------------------------------
11 | 6512bd43d9caa6e02c990b0a82652dca
12 | c20ad4d76fe97759aa27a0c99bff6710
13 | c51ce410c124a10e0db5e4b97fc2af39
14 | aab3238922bcc25a6f606eb525ffdc56
15 | 9bf31c7ff062936a96d3c8bd1f8f2ff3
16 | c74d97b01eae257e44aa9d5bade97baf
17 | 70efdf2ec9b086079795c442636b55fb
18 | 6f4922f45568161a8cdf4ad2299f6d23
19 | 1f0e3dad99908345f7439f8ffabdffc4
20 | 98f13708210194c475687be6106a3b84
(10 rows)
WHERE id IN (...);
COMMIT;
De même pour la seconde transaction, qui aura traité d’autres lignes en parallèle de la
transaction #1.
Voici un exemple.
Dans cet exemple, il y a des enregistrements avec une colonne couleur contenant ’blanc’
ou ’noir’. Deux utilisateurs essayent simultanément de convertir tous les enregistrements
vers une couleur unique, mais chacun dans une direction opposée. Un veut passer tous
les blancs en noir, et l’autre tous les noirs en blanc.
276
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Session 1 :
set default_transaction_isolation = 'serializable';
begin;
update points set couleur = 'noir'
where couleur = 'blanc';
Session 2 :
set default_transaction_isolation = 'serializable';
begin;
update points set couleur = 'blanc'
where couleur = 'noir';
Session 2 :
commit;
id | couleur
----+-------
1 | blanc
2 | blanc
3 | blanc
4 | blanc
5 | blanc
6 | blanc
7 | blanc
8 | blanc
9 | blanc
10 | blanc
(10 rows)
id | couleur
----+-------
1 | noir
2 | noir
3 | noir
4 | noir
5 | noir
6 | noir
7 | noir
8 | noir
9 | noir
10 | noir
(10 rows)
Le mode SERIALIZABLE permet de s’affranchir des SELECT FOR UPDATE qu’on écrit
habituellement, dans les applications en mode READ COMMITTED. Toutefois, il fait bien
plus que ça, puisqu’il réalise du verrouillage de prédicats. Un enregistrement qui « ap-
paraît » ultérieurement suite à une mise à jour réalisée par une transaction concurrente
déclenchera aussi une erreur de sérialisation. Il permet aussi de gérer les problèmes
ci-dessus avec plus de deux sessions.
Pour des exemples plus complets, le mieux est de consulter la documentation officielle63
.
63
https://wiki.postgresql.org/wiki/SSI/fr
278
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
6.8 CONCLUSION
279
https://dalibo.com/formations
SQL pour PostgreSQL
Jointure latérale
Cette série de question utilise la base magasin, qui est disponible dans le schéma magasin
de la base de TP.
Pour chacune des 10 dernières commandes passées, afficher le premier article com-
mandé :
CTE récursive
Généalogie
Cet exercice propose de manipuler des données généalogiques, disposées dans le schéma
genealogie de l’environnement de TP.
\d genealogie
Table "public.genealogie"
Column | Type | Modifiers
----------------+---------+---------------------------------------
id | integer | not null default +
| | nextval('genealogie_id_seq'::regclass)
nom | text |
prenom | text |
date_naissance | date |
pere | integer |
mere | integer |
Indexes:
"genealogie_pkey" PRIMARY KEY, btree (id)
À partir de la table genealogie, déterminer qui sont les descendants de Fernand DE-
VAUX.
Réseau social
Cet exercice est assez similaire au précédent et propose de manipuler des arborescences.
Les tables de travail sont disponibles dans le schéma socialnet.
Les tableaux et la fonction unnest peuvent être utiles pour résoudre plus facilement ce
problème.
280
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
La table personnes contient la liste de toutes les personnes d’un réseau social.
Table "public.personnes"
Column | Type | Modifiers
--------+---------+--------------------------------------------------------
id | integer | not null default nextval('personnes_id_seq'::regclass)
nom | text | not null
prenom | text | not null
Indexes:
"personnes_pkey" PRIMARY KEY, btree (id)
Table "public.relation"
Column | Type | Modifiers
--------+---------+-----------
gauche | integer | not null
droite | integer | not null
Indexes:
"relation_droite_idx" btree (droite)
"relation_gauche_idx" btree (gauche)
Dépendance de vues
Les dépendances entre objets est un problème classique dans les bases de données :
• dans quel ordre charger des tables selon les clés étrangères ?
• dans quel ordre recréer des vues ?
• etc.
• Catalogue pg_depend64
• Catalogue pg_rewrite65
• Catalogue pg_class66
• Fonction d’information du catalogue système67
64
https://www.postgresql.org/docs/current/static/catalog-pg-depend.html
65
https://www.postgresql.org/docs/current/static/catalog-pg-rewrite.html
66
https://www.postgresql.org/docs/current/static/catalog-pg-class.html
67
https://www.postgresql.org/docs/current/static/functions-info.html#FUNCTIONS-INFO-CATALOG-TABLE
282
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
Jointure latérale
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
magasin :
SET search_path = magasin;
Une simple jointure nous permet de retrouver les 10 derniers articles commandés :
SELECT lc.produit_id, p.nom
FROM commandes c
JOIN lignes_commandes lc
ON (c.numero_commande = lc.numero_commande)
JOIN produits p
ON (lc.produit_id = p.produit_id)
ORDER BY c.numero_commande DESC, numero_ligne_commande DESC
LIMIT 10;
Pour chacune des 10 dernières commandes passées, afficher le premier article commandé
:
La requête précédente peut être dérivée pour répondre à la question demandée. Ici, pour
chacune des dix dernières commandes, nous voulons récupérer le nom du dernier article
commandé, ce qui sera transcrit sous la forme d’une jointure latérale :
SELECT numero_commande, produit_id, nom
FROM commandes c,
LATERAL (SELECT p.produit_id, p.nom
FROM lignes_commandes lc
JOIN produits p
ON (lc.produit_id = p.produit_id)
WHERE (c.numero_commande = lc.numero_commande)
ORDER BY numero_ligne_commande ASC
LIMIT 1
) premier_article_par_commande
ORDER BY c.numero_commande DESC
LIMIT 10;
CTE récursive
283
https://dalibo.com/formations
SQL pour PostgreSQL
Généalogie
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
genealogie :
SET search_path = genealogie;
\d genealogie
Table "public.genealogie"
Column | Type | Modifiers
----------------+---------+---------------------------------------
id | integer | not null default +
| | nextval('genealogie_id_seq'::regclass)
nom | text |
prenom | text |
date_naissance | date |
pere | integer |
mere | integer |
Indexes:
"genealogie_pkey" PRIMARY KEY, btree (id)
À partir de la table genealogie, déterminer qui sont les descendants de Fernand DEVAUX.
WITH RECURSIVE arbre_genealogique AS (
SELECT id, nom, prenom, date_naissance, pere, mere
FROM genealogie
WHERE nom = 'DEVAUX'
AND prenom = 'Fernand'
UNION ALL
SELECT g.*
FROM arbre_genealogique ancetre
JOIN genealogie g
ON (g.pere = ancetre.id OR g.mere = ancetre.id)
)
SELECT id, nom, prenom, date_naissance
FROM arbre_genealogique;
284
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
UNION ALL
SELECT ancetre.id, ancetre.nom, ancetre.prenom, ancetre.date_naissance,
ancetre.pere, ancetre.mere
FROM arbre_genealogique descendant
JOIN genealogie ancetre
ON (descendant.pere = ancetre.id OR descendant.mere = ancetre.id)
)
SELECT id, nom, prenom, date_naissance
FROM arbre_genealogique;
Réseau social
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
socialnet :
Les tableaux et la fonction unnest peuvent être utiles pour résoudre plus facilement ce
problème
La table personnes contient la liste de toutes les personnes d’un réseau social.
Table "public.personnes"
Column | Type | Modifiers
--------+---------+--------------------------------------------------------
id | integer | not null default nextval('personnes_id_seq'::regclass)
nom | text | not null
prenom | text | not null
Indexes:
"personnes_pkey" PRIMARY KEY, btree (id)
Table "public.relation"
Column | Type | Modifiers
--------+---------+-----------
gauche | integer | not null
droite | integer | not null
Indexes:
"relation_droite_idx" btree (droite)
"relation_gauche_idx" btree (gauche)
Cet exemple fonctionne sur une faible volumétrie, mais les limites des bases relation-
nelles sont rapidement atteintes sur de telles requêtes.
Une solution consisterait à implémenter un algorithme de parcours de graphe avec
pgRoutinga , mais cela nécessitera de présenter les données sous une forme particulière.
Pour les problématiques de traitement de graphe, notamment sur de grosses
volumétries, une base de données orientée graphe comme Neo4J sera probablement
plus adaptée.
Dépendance de vues
Les dépendances entre objets est un problème classique dans les bases de données :
• dans quel ordre charger des tables selon les clés étrangères ?
• dans quel ordre recréer des vues ?
• etc.
286
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
• Catalogue pg_depend68
• Catalogue pg_rewrite69
• Catalogue pg_class70
• Fonction d’information du catalogue système71
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
brno2015 :
SET search_path = brno2015;
Si la jointure entre pg_depend et pg_rewrite est possible pour l’objet de départ, alors
il s’agit probablement d’une vue. En discriminant sur les objets qui référencent la vue
pilotes_brno, nous arrivons à la requête de départ suivante :
SELECT DISTINCT pg_rewrite.ev_class as objid, refobjid as refobjid, 0 as depth
FROM pg_depend
JOIN pg_rewrite ON pg_depend.objid = pg_rewrite.oid
WHERE refobjid = 'pilotes_brno'::regclass;
Nous pouvons donc créer un graphe de dépendances à partir de cette requête de départ,
transformée en requête récursive :
WITH RECURSIVE graph AS (
SELECT distinct pg_rewrite.ev_class as objid, refobjid as refobjid, 0 as depth
FROM pg_depend
JOIN pg_rewrite ON pg_depend.objid = pg_rewrite.oid
WHERE refobjid = 'pilotes_brno'::regclass
UNION ALL
SELECT distinct pg_rewrite.ev_class as objid, pg_depend.refobjid as refobjid,
depth + 1 as depth
FROM pg_depend
68
http://www.postgresql.org/docs/9.4/static/catalog-pg-depend.html
69
http://www.postgresql.org/docs/9.4/static/catalog-pg-rewrite.html
70
http://www.postgresql.org/docs/9.4/static/catalog-pg-class.html
71
http://www.postgresql.org/docs/9.4/static/functions-info.html#FUNCTIONS-INFO-CATALOG-TABLE
287
https://dalibo.com/formations
SQL pour PostgreSQL
Il faut maintenant résoudre les OID pour déterminer les noms des vues et leur schéma.
Pour cela, nous ajoutons une vue resolved telle que :
Nous pouvons maintenant présenter les ordres de suppression et de recréation des vues,
dans le bon ordre. Les vues doivent être supprimées selon le numéro d’ordre décroissant
et recrées selon le numéro d’ordre croissant :
288
6. SQL AVANCÉ POUR LE TRANSACTIONNEL
289
https://dalibo.com/formations
SQL pour PostgreSQL
7 TYPES DE BASE
7.0.1 PRÉAMBULE
7.0.2 MENU
7.0.3 OBJECTIFS
290
7. TYPES DE BASE
• Un type définit :
– les valeurs que peut prendre une donnée
– les opérateurs applicables à cette donnée
Le choix du type employé pour stocker une donnée est primordial pour garantir l’intégrité
des données.
Par exemple, sur une base de données mal conçue, il peut arriver que les dates soient
stockées sous la forme d’une chaîne de caractère. Ainsi, une date malformée ou invalide
pourra être enregistrée dans la base de données, passant outre les mécanismes de con-
trôle d’intégrité de la base de données. Si une date est stockée dans une colonne de type
date, alors ces problèmes ne se posent pas :
postgres=# create table test_date (dt date);
CREATE TABLE
291
https://dalibo.com/formations
SQL pour PostgreSQL
• Entiers
• Flottants
• Précision fixée
• 3 types entiers :
– smallint : 2 octets
– integer : 4 octets
– bigint : 8 octets
• Valeur exacte
• Signé
• Utilisation :
– véritable entier
– clé technique
292
7. TYPES DE BASE
• 2 types flottants :
– real/float4
– double precision/float8
• Données numériques « floues »
– valeurs non exactes
• Utilisation :
– stockage des données issues de capteurs
• 1 type
– numeric(.., ..)
• Type exact
– mais calcul lent
• Précision choisie : totale, partie décimale
• Utilisation :
– données financières
– calculs exacts
• Déconseillé pour :
– clés primaires
– données non exactes (ex : résultats de capteurs)
Tout les types numériques sont indexables avec des indexes standards btree, permettant
la recherche avec les opérateurs d’égalité / inégalité. Pour les entiers, il est possible de
réaliser des opérations bit-à-bit :
293
https://dalibo.com/formations
SQL pour PostgreSQL
postgres=# select 2 | 4;
?column?
----------
6
(1 ligne)
Il faut toutefois être vigilant face aux opérations de cast implicites et de promotions des
types numériques. Par exemple, les deux requêtes suivantes ramèneront le même résul-
tat, mais l’une sera capable d’utiliser un éventuel index sur id, l’autre non :
postgres=# explain select * from t1 where id = 10::int4;
QUERY PLAN
-------------------------------------------------------------------------
Bitmap Heap Scan on t1 (cost=4.67..52.52 rows=50 width=4)
Recheck Cond: (id = 10)
-> Bitmap Index Scan on t1_id_idx (cost=0.00..4.66 rows=50 width=0)
Index Cond: (id = 10)
(4 lignes)
Cela peut paraître contre-intuitif, mais le cast est réalisé dans ce sens pour ne pas perdre
d’information. Par exemple, si la valeur numérique cherchée n’est pas un entier. Il faut
donc faire spécialement attention aux types utilisés côté applicatif. Avec un ORM tel
Hibernate, il peut être tentant de faire correspondre un BigInt à un numeric côté SQL,
ce qui engendrera des casts implicites, et potentiellement des indexes non utilisés.
294
7. TYPES DE BASE
7.3
• integer ou biginteger :
– identifiants (clés primaires et autre)
– nombres entiers
• numeric :
– valeurs décimales exactes
– performance non critique
• float, real :
– valeurs flottantes, non exactes
– performance demandée : SUM(), AVG(), etc.
Pour les identifiants, il est préférable d’utiliser des entiers ou grands entiers. En effet, il
n’est pas nécessaire de s’encombrer du bagage technique et de la pénalité en performance
dû à l’utilisation de numeric. Contrairement à d’autres SGBD, PostgreSQL ne transforme
pas un numeric sans partie décimale en entier, et celui-ci souffre donc des performances
inhérentes au type numeric.
De même, lorsque les valeurs sont entières, il faut utiliser le type adéquat.
Pour les nombres décimaux, lorsque la performance n’est pas critique, préférer le type
numeric: il est beaucoup plus simple de raisonner sur ceux-ci et leur précision que de
garder à l’esprit les subtilités du standard IEEE 754 définissant les opérations sur les flot-
tants. Dans le cas de données décimales nécessitant une précision exacte, il est impératif
d’utiliser le type numeric.
Les nombres flottants (float et real) ne devraient être utilisés que lorsque les implica-
tions en terme de perte de précision sont intégrées, et que la performance d’un type
numeric devient gênante. En pratique, cela est généralement le cas lors d’opérations
d’agrégations.
Pour bien montrer les subtilités des types float, et les risques auquels ils nous exposent,
considérons l’exemple suivant, en créant une table contenant 25000 fois la valeur 0.4,
stockée soit en float soit en numeric :
postgres=# create table t_float as (
select 0.04::float as cf,
0.04::numeric as cn
from generate_series(1, 25000)
);
SELECT 25000
postgres=# select sum(cn), sum(cf) from t_float ;
295
https://dalibo.com/formations
SQL pour PostgreSQL
sum | sum
---------+-----------------
1000.00 | 999.99999999967
(1 ligne)
Temps : 10,611 ms
postgres=# select sum(cf) from t_float ;
sum
-----------------
999.99999999967
(1 ligne)
Temps : 6,434 ms
Pour aller (beaucoup) plus loin, le document suivant détaille le comportement des flot-
tants selon le standard IEEE : https://docs.oracle.com/cd/E19957-01/806-3568/ncg_
goldberg.html
• Date
• Date & heure
– …avec ou sans fuseau
296
7. TYPES DE BASE
• date
– représente une date, sans heure
– affichage format ISO : YYYY-MM-DD
• Utilisation :
– stockage d’une date lorsque la composante heure n’est pas utilisée
• Cas déconseillés :
– stockage d’une date lorsque la composante heure est utilisée
# SELECT now()::date ;
now
------------
2019-11-13
• time
– représente une heure sans date
– affichage format ISO HH24:MI:SS
• Peu de cas d’utilisation
• À éviter :
– stockage d’une date et de la composante heure dans deux colonnes
# SELECT now()::time ;
now
-----------------
15:19:39.947677
297
https://dalibo.com/formations
SQL pour PostgreSQL
• timestamp
– représente une date et une heure
– fuseau horaire non précisé
• Utilisation :
– stockage d’une date et d’une heure
# SELECT now()::timestamp ;
now
----------------------------
2019-11-13 15:20:54.222233
Ces deux exemples ont été exécutés à quelques secondes d’intervalle sur des instances
en France (heure d’hiver) et au Brésil :
# SHOW timezone;
TimeZone
--------------
Europe/Paris
# SELECT now() ;
now
-------------------------------
2019-11-13 15:32:09.615455+01
# SHOW timezone;
TimeZone
298
7. TYPES DE BASE
-------------
Brazil/West
(1 ligne)
# SELECT now() ;
now
-------------------------------
2019-11-13 10:32:39.536972-04
# SELECT now() ;
now
-------------------------------
2019-11-13 15:33:00.824096+01
• interval
– représente une durée
• Utilisation :
– exprimer une durée
– dans une requête, pour modifier une date/heure existante
299
https://dalibo.com/formations
SQL pour PostgreSQL
De manière générale, il est beaucoup plus simple de gérer des dates avec timezone côté
base. En effet, dans le cas où une seule timezone est gérée, les clients ne verront pas la
différence. Si en revanche les besoins évoluent, il sera beaucoup plus simple de gérer les
différentes timezones à ce moment là.
Les points suivants concernent plus de la modélisation que des types de données à propre-
ment parler, mais il est important de considérer les types ranges dès lors que l’on souhaite
stocker un couple « date de début / date de fin ». Nous aurons l’occasion de revenir sur
ces types dans la suite de ce module.
Enfin, une problématique assez commune consiste à vouloir effectuer des jointures con-
tre une table de dates de références. Une (mauvaise) solution à ce problème consiste
à stocker ces dates dans une table. Il est beaucoup plus avantageux en terme de main-
tenance de ne pas stocker ces dates, mais de les générer à la volée. Par exemple, pour
générer tous les jours de janvier 2015 :
300
7. TYPES DE BASE
2015-01-16 00:00:00+01
2015-01-17 00:00:00+01
2015-01-18 00:00:00+01
2015-01-19 00:00:00+01
2015-01-20 00:00:00+01
2015-01-21 00:00:00+01
2015-01-22 00:00:00+01
2015-01-23 00:00:00+01
2015-01-24 00:00:00+01
2015-01-25 00:00:00+01
2015-01-26 00:00:00+01
2015-01-27 00:00:00+01
2015-01-28 00:00:00+01
2015-01-29 00:00:00+01
2015-01-30 00:00:00+01
2015-01-31 00:00:00+01
En général on choisira une chaîne de longueur variable. Nous ne parlerons pas ici du type
char (à tailel fixe), d’utilisation très restreinte.
• varchar(_n_), text
• Représentent une chaîne de caractères
• Valident l’encodage
• Valident la longueur maximale de la chaîne (contrainte !)
• Utilisation :
– stocker des chaînes de caractères non binaires
301
https://dalibo.com/formations
SQL pour PostgreSQL
• bytea
• Stockage de données binaires
– encodage en hexadécimal ou séquence d’échappement
• Utilisation :
– stockage de courtes données binaires
• Cas déconseillés :
– stockage de fichiers binaires
Le type bytea permet de stocker des données binaires dans une base de données Post-
greSQL.
En règle générale, il est recommandé d’utiliser un champ de type varchar tout court, et
de vérifier la longueur au niveau d’une contrainte. En effet, il sera plus simple de modifier
celle-ci par la suite, en modifiant uniquement la contrainte. De plus, la contrainte permet
plus de possibilités, comme par exemple d’imposer une longueur minimale.
302
7. TYPES DE BASE
L’ordre de collation peut varier suivant le contenu d’une colonne. L’ordre de tri français
n’est évidemment pas le même que celui du japonais ou du chinois, mais il diffère aussi
des autres langues européennes par exemple.
Dans l’exemple suivant, il peut être nécessaire de générer la locale de_DE.UTF8 au niveau
du système d’exploitation.
CREATE COLLATION "de_DE.utf8" (LOCALE = "de_DE.utf8");
column1
---------
élevé
élève
Élève
élever
column1
---------
élève
Élève
élevé
élever
L’ordre des caractères accentué est le même entre l’allemand et le français. La règle de tri
des mots accentués par contre est différente :
• En allemand, on trie les mots en faisant abstraction des accents. Puis, s’il y a des
ex-aequo, on fait une seconde comparaison entre les mots ex-aequo, en prenant en
compte les accents.
• En français, on trie les mots en faisant abstraction des accents. Puis, s’il y a des
ex-aequo, on fait une seconde comparaison entre les mots ex-aequo, en prenant en
compte les accents, mais en comparant les mots de droite à gauche.
• par base ;
• par colonne ;
• par index ;
• par requête.
Nous venons de voir un exemple de syntaxe de collation par requête et par table. On
303
https://dalibo.com/formations
SQL pour PostgreSQL
La collation effective est celle précisée dans l’ordre SQL, celui de la colonne dans la table
sinon, et celui de la base en dernier recours.
La collation effective d’un index est celle précisée dans l’index, celui de la colonne de la
table qu’il indexe sinon, et celui de la base en dernier recours.
Un index ne pourra être utilisé pour un tri que si la collation effective dans l’ordre est la
même que celle de l’index.
72
https://blog.2ndquadrant.com/icu-support-postgresql-10/
73
https://docs.postgresql.fr/current/collation.html
304
7. TYPES DE BASE
7.6.2 JSON
• json
– stockage sous forme d’une chaîne de caractère
– valide un document JSON sans modification
• jsonb (PG > 9.4)
– stockage binaire optimisé
– beaucoup plus de fonctions (dont jsonpath en v12)
– à préférer
305
https://dalibo.com/formations
SQL pour PostgreSQL
7.6.3 XML
• xml
– stocke un document XML
– valide sa structure
• Quelques opérateurs disponibles
• Représentation d’intervalle
– utilisable avec plusieurs types : entiers, dates, timestamps, etc.
– contrainte d’exclusion
7.7.1 RANGE
• range
• exprime un intervalle
– entre deux bornes
– incluses ou non
– notation américaine !
• pour plusieurs types de bases
– int, bigint, numeric
– date, timestamp, timestamp with timezone
• Contrainte d’exclusion
• Utilisation :
– éviter le chevauchement de deux intervalles (range)
• Performance :
– s’appuie sur un index
306
7. TYPES DE BASE
Les types composites sont assez difficiles à utiliser, car ils nécessitent d’adapter la syn-
taxe spécifiquement au type composite. S’il ne s’agit que de regrouper quelques attributs
ensemble, autant les lister simplement dans la déclaration de la table.
En revanche, il peut être intéressant pour stocker un tableau de données composites dans
une table.
307
https://dalibo.com/formations
SQL pour PostgreSQL
Référence :
• Type énumération74
74
https://docs.postgresql.fr/current/datatype-enum.html
308
8. TYPES AVANCÉS
8 TYPES AVANCÉS
Ces types sont utilisés quand le modèle relationnel n’est pas assez souple. Les contextes
où, lors de la conception, il serait nécessaire d’ajouter dynamiquement des colonnes à
la table suivant les besoins du client, où le détail des attributs d’une entité ne sont pas
connus (modélisation géographique par exemple), etc.
Toute recherche complexe est très inefficace : une recherche multi-critères sur ce schéma
va être extrêmement peu performante. Quant aux contraintes d’intégrité entre valeurs,
elles deviennent pour le moins complexes à gérer.
309
https://dalibo.com/formations
SQL pour PostgreSQL
8.1.1 HSTORE
Hstore est une extension, fournie en contrib. Elle est donc systématiquement disponible.
Les hstores sont indexables, peuvent recevoir des contraintes d’intégrité (unicité, non
recouvrement…).
Les hstore ne permettent par contre qu’un modèle « plat ». Il s’agit d’un pur stockage clé-
valeur. Si vous avez besoin de stocker des informations davantage orientées document,
vous devrez vous tourner vers un type JSON.
Ce type perd de son intérêt depuis que PostgreSQL 9.4 a apporté le type jsonb,
310
8. TYPES AVANCÉS
8.1.3 JSON
• Type texte
• Validation du format JSON
• onctions de manipulation JSON
– Mais ré-analyse du champ pour chaque appel de fonction
– On peut indexer une propriété (index sur fonction)
– Mais pas d’index avancé comme pour hstore
• => Peu utile (comme XML)
Le type json, dans PostgreSQL, n’est rien d’autre qu’un habillage autour du type texte.
Il valide à chaque insertion/modification que la donnée fournie est une syntaxe JSON
valide.
Toutefois, le fait que la donnée soit validée comme du JSON permet d’utiliser des fonc-
tions de manipulation, comme l’extraction d’un attribut, la conversion d’un JSON en en-
registrement, de façon systématique sur un champ sans craindre d’erreur.
On peut bien sûr créer des index sur certaines propriétés. Par exemple :
CREATE INDEX idx_test ON json(json_extract_path_text(datas,'ouvrages')) ;
Ce type de données n’est donc pas très efficace pour une recherche rapide. Son intérêt
est de conserver intact un objet JSON sous sa forme originale.
8.1.4 JSONB
Apparu en 9.4, le type jsonb permet de stocker les données dans un format optimisé.
Ainsi, il n’est plus nécessaire de désérialiser l’intégralité du document pour accéder à une
propriété. Pour un exemple extrême (document JSON d’une centaine de Mo), voici le
résultat :
EXPLAIN (ANALYZE, BUFFERS) SELECT document->'id' FROM test_json;
QUERY PLAN
---------------------------------------------------------------------
Seq Scan on test_json (cost=0.00..26.38 rows=1310 width=32)
(actual time=893.454..912.168 rows=1 loops=1)
Buffers: shared hit=170
Planning time: 0.021 ms
Execution time: 912.194 ms
(4 lignes)
Le principal avantage réside dans la capacité de tirer parti des fonctionnalités avancées
de PostgreSQL. En effet, deux classes d’opérateurs sont proposées et mettent à profit le
travail d’optimisation réalisé pour les indexes GIN :
CREATE INDEX ON test_jsonb USING gin(document jsonb_path_ops);
312
8. TYPES AVANCÉS
Le support des statistiques n’est pas encore optimal, mais devrait être amélioré dans les
prochaines versions.
Il n’est en revanche pas possible de faire des recherches sur des opérateurs Btree clas-
siques (<, <=, >, >=), ou sur le contenu de tableaux. On est obligé pour cela de revenir
au monde relationnel, et l’indexation devra alors utiliser des indexes fonctionnels sur les
clés que l’on souhaite indexer. Il est donc préférable d’utiliser les opérateurs spécifiques,
comme « contient » (@>).
Par exemple, si l’on souhaite filtrer des documents de la sorte pour ne ramener que ceux
dont une catégorie est categorie :
{
"id": 3,
"sous_document": {
"label": "mon_sous_document",
"mon_tableau": [
{"categorie": "categorie"},
{"categorie": "unique"}
]
}
}
"sous_document": {
"label": "mon_sous_document",
"mon_tableau": [
{"categorie": "categorie"},
{"categorie": "unique"}
]
}
}
');
SELECT document->'id'
FROM json_table j,
LATERAL jsonb_array_elements(document #> '{sous_document, mon_tableau}')
AS elements_tableau
WHERE elements_tableau->>'categorie' = 'categorie';
314
8. TYPES AVANCÉS
8.2.1 BYTEA
Type natif :
• Se manipule exactement comme les autres :
– bytea : bytea array, tableau d’octets
– Représentation textuelle de son contenu
– Deux formats : hex et escape (bytea_output)
• Si le champ est gros, sa récupération l’alloue intégralement en mémoire
• Toute modification d’un morceau du bytea entraîne la réécriture complète du
bytea
• Intéressant pour les petits volumes, jusqu’à quelques méga-octets
Voici un exemple :
=# CREATE TABLE demo_bytea(a bytea);
CREATE TABLE
=# INSERT INTO demo_bytea VALUES ('bonjour'::bytea);
INSERT 0 1
=# SELECT * FROM demo_bytea ;
a
------------------
\x626f6e6a6f7572
(1 ligne)
Nous avons inséré la chaîne de caractère « bonjour » dans le champ bytea. Le bytea
contenant des données binaires, nous avons en fait stocké la représentation binaire de la
chaîne « bonjour », dans l’encodage courant. Si nous interrogeons la table, nous voyons
la représentation textuelle hex du champ bytea : elle commence par \x pour expliquer
que cette chaîne est un encodage hex, suivie de valeurs hexadécimales. Chaque paire de
valeur hexadécimale représente donc un octet.
journ\303\251e
(2 lignes)
Le format escape ne protège que les valeurs qui ne sont pas représentables en ASCII
7 bits. Il peut être plus approprié par exemple si on cherche à manipuler une donnée
textuelle sans se soucier de son encodage : le plus gros des données n’aura pas besoin
d’être protégé, le format texte sera donc plus compact. Toutefois, le format hex est bien
plus efficace à convertir, ce qui en fait le choix par défaut.
Le format hex est apparu avec PostgreSQL 9.0. Il est donc primordial que les librairies
clientes (Java par exemple) soient d’une version au moins équivalente, afin qu’elles
sachent interpréter les deux formats. Sans cela, il faut forcer bytea_output à escape,
sous peine d’avoir des corruptions des champs bytea.
Large Object :
• Totalement indépendant de la table
• Identifié par un OID (identifiant numérique unique)
• On stocke habituellement cet OID dans la table « principale »
• Suppression manuelle, par trigger, ou par batch (extensions)
• lo_create, lo_import, lo_seek, lo_open, lo_read, lo_write…
Un Large Object est donc un objet totalement décorrelé des tables. Le code doit donc
gérer cet objet séparément :
316
8. TYPES AVANCÉS
• On peut récupérer un Large Object par parties. C’est très intéressant par exem-
ple si le contenu des Large Objects doit être transmis à un client par un serveur
d’application : on peut transférer le contenu du Large Object au fur et à mesure, au
lieu de devoir tout allouer puis tout envoyer comme on le ferait avec un bytea. Le
driver JDBC de PostgreSQL fournit une méthode à cet usage, par exemple, dans sa
classe LargeObject.
Le point essentiel est que les Large Objects doivent être supprimés manuellement : ce
n’est pas automatique, contrairement à un bytea.
• Utiliser la fonction trigger fournie par l’extension contrib lo : lo_manage. Elle per-
met de supprimer automatiquement un Large Object quand l’enregistrement asso-
cié ne le référence plus. Ceci n’est évidemment possible que si les Large Objects ne
sont référencés qu’une fois en base (ce qui est habituellement le cas)
• Utiliser le programme vacuumlo (un contrib) : celui-ci fait la liste de toutes les
références à tous les Large Objects dans une base (en listant tous les OID stockés
dans tous les champs de type oid ou lo), puis supprime tous les Large Objects qui
ne sont pas dans cette liste. Ce traitement est bien sûr un peu lourd, et devrait être
lancé en traitement de nuit, quotidien ou hebdomadaire
• Supprimer les Large Objects avec un appel à lo_unlink dans le code client. Il y a
évidemment le risque d’oublier un cas dans le code.
317
https://dalibo.com/formations
SQL pour PostgreSQL
8.3.1 JSONB
Comme lors de l’exercice précédent, nous allons créer une table dénormalisée mais cette
fois au format jsonb. Celle ci aura la structure suivante :
document jsonb
Pour écrire une requête permettant de générer ces documents, nous allons procéder par
étapes.
318
8. TYPES AVANCÉS
Écrivez des requêtes pour tirer parti de ce document, et de l’index créé dessus :
319
https://dalibo.com/formations
SQL pour PostgreSQL
320
8. TYPES AVANCÉS
8.4.1 HSTORE
SELECT stock.vin_id,
stock.annee,
stock.nombre,
recoltant.nom AS recoltant,
appellation.libelle AS appellation,
region.libelle AS region,
type_vin.libelle AS type_vin,
contenant.contenance,
contenant.libelle as contenant
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
JOIN contenant ON (stock.contenant_id=contenant.id)
LIMIT 10;
Une fois que votre requête est prête, servez-vous en pour remplir
stock_denorm. Une des écritures possibles passe par la généra-
tion d’un tableau, ce qui permet de passer tous les éléments au
constructeur de hstore sans se soucier de formatage de chaîne
de caractères. Appuyez-vous sur la documentation officielle du
type hstore pour trouver des possibilités d’écriture.
Une remarque toutefois : les éléments du tableau doivent tous être de même type, d’où
la conversion en text des quelques éléments entiers. C’est aussi une limitation du type
hstore : il ne supporte que les attributs texte.
Cela donne :
CREATE EXTENSION hstore;
hstore(ARRAY['annee', stock.annee::text,
'recoltant', recoltant.nom,
'appellation',appellation.libelle,
'region',region.libelle,
'type_vin',type_vin.libelle,
'contenance',contenant.contenance::text,
'contenant',contenant.libelle]) AS attributs
FROM stock
JOIN vin ON (stock.vin_id=vin.id)
JOIN recoltant ON (vin.recoltant_id=recoltant.id)
JOIN appellation ON (vin.appellation_id=appellation.id)
JOIN region ON (appellation.region_id=region.id)
JOIN type_vin ON (vin.type_vin_id=type_vin.id)
JOIN contenant ON (stock.contenant_id=contenant.id);
ANALYZE stock_denorm;
322
8. TYPES AVANCÉS
324
8. TYPES AVANCÉS
La requête sur le schéma normalisé est ici plus rapide. On constate tout de même qu’elle
accède à 6300 buffers, contre 1300 à la requête dénormalisée, soit 4 fois plus de don-
nées. Un test identique exécuté sur des données hors du cache donne environ 80 ms
pour la requête sur la table dénormalisée, contre près d’une seconde pour les tables nor-
malisées. Ce genre de transformation est très utile lorsque le schéma ne se prête pas à
une normalisation, et lorsque le volume de données à manipuler est trop important pour
tenir en mémoire. Les tables dénormalisées avec hstore se prêtent aussi bien mieux aux
recherches multi-critères.
8.4.2 JSONB
Il nous faut d’abord récupérer l’intégralité des données concernées à l’aide de jointures :
SELECT
recoltant.nom,
325
https://dalibo.com/formations
SQL pour PostgreSQL
recoltant.adresse,
appellation.libelle,
region.libelle,
type_vin.libelle
FROM vin
INNER JOIN recoltant on vin.recoltant_id = recoltant.id
INNER JOIN appellation on vin.appellation_id = appellation.id
INNER JOIN region on region.id = appellation.region_id
INNER JOIN type_vin on vin.type_vin_id = type_vin.id;
326
8. TYPES AVANCÉS
contenant.libelle),
'annee', stock.annee,
'nombre', stock.nombre))
FROM stock
INNER JOIN contenant on stock.contenant_id = contenant.id
WHERE vin_id = 1
GROUP BY vin_id;
Création de l’index :
CREATE INDEX ON stock_jsonb USING gin (document jsonb_path_ops);
327
https://dalibo.com/formations
SQL pour PostgreSQL
La table contient toutes les mêmes informations que l’ensemble des tables normalisées
de la base cave (à l’exception des id). Elle occupe en revanche une place beaucoup moins
importante, puisque les documents individuels vont pouvoir être compressés en utilisant
le mécanisme TOAST.
Pour la première requête, on peut utiliser l’opérateur « contient » pour passer par l’index :
SELECT DISTINCT document #> '{vin, recoltant, nom}'
FROM stock_jsonb
WHERE document @> '{"vin": {"appellation": {"region": "Beaujolais"}}}';
La seconde ne peut malheureusement pas être réécrite pour tirer partie d’un index avec
les fonctionnalités intégrées à PostgreSQL.
Il est en revanche possible de le faire grâce à l’extension jsquery, qui n’est pas fournie
par défaut avec PostgreSQL) :
CREATE INDEX ON stock_jsonb USING gin (document jsonb_path_value_ops);
SELECT DISTINCT document #> '{vin, recoltant, nom}'
FROM stock_jsonb
WHERE document @@ 'stocks.#.annee($ >= 1992 AND $ <= 1995)';
328
8. TYPES AVANCÉS
329
https://dalibo.com/formations
SQL pour PostgreSQL
9.1 PRÉAMBULE
9.1.1 MENU
• agrégation de données
• clause FILTER
• fonctions window
• GROUPING SETS, ROLLUP, CUBE
• WITHIN GROUPS
9.1.2 OBJECTIFS
9.2 AGRÉGATS
À l’aide des fonctions de calcul d’agrégats, on peut réaliser un certain nombre de calculs
permettant d’analyser les données d’une table.
La plupart des exemples utilisent une table employes définie telle que :
CREATE TABLE employes (
matricule char(8) primary key,
330
9. SQL POUR L’ANALYSE DE DONNÉES
Ainsi, on peut déduire le salaire moyen avec la fonction avg(), les salaires maximum et
minimum versés par la société avec les fonctions max() et min(), ainsi que la somme
totale des salaires versés avec la fonction sum() :
La base de données réalise les calculs sur l’ensemble des données de la table et n’affiche
que le résultat du calcul.
Si l’on applique un filtre sur les données, par exemple pour ne prendre en compte que le
service Courrier, alors PostgreSQL réalise le calcul uniquement sur les données issues de
la lecture :
max(salaire) AS salaire_maximum,
min(salaire) AS salaire_minimum,
sum(salaire) AS somme_salaires
FROM employes
WHERE service = 'Courrier';
salaire_moyen | salaire_maximum | salaire_minimum | somme_salaires
-----------------------+-----------------+-----------------+----------------
3750.0000000000000000 | 4500.00 | 3000.00 | 7500.00
(1 ligne)
En revanche, il n’est pas possible de référencer d’autres colonnes pour les afficher à côté
du résultat d’un calcul d’agrégation à moins de les utiliser comme critère de regroupe-
ment :
• agrégat + GROUP BY
• Utilité
– effectue des calculs sur des regroupements : moyenne, somme, comptage,
etc.
– regroupement selon un critère défini par la clause GROUP BY
– exemple : calcul du salaire moyen de chaque service
L’opérateur d’agrégat GROUP BY indique à la base de données que l’on souhaite regrouper
les données selon les mêmes valeurs d’une colonne.
332
9. SQL POUR L’ANALYSE DE DONNÉES
Des calculs pourront être réalisés sur les données agrégées selon le critère de regroupe-
ment donné. Le résultat sera alors représenté en n’affichant que les colonnes de regroupe-
ment puis les valeurs calculées par les fonctions d’agrégation :
333
https://dalibo.com/formations
SQL pour PostgreSQL
L’agrégation est ici réalisée sur la colonne service. En guise de calcul d’agrégation, une
somme est réalisée sur les salaires payés dans chaque service.
SELECT service,
sum(salaire) AS salaires_par_service
FROM employes
GROUP BY service;
service | salaires_par_service
-------------+----------------------
Courrier | 7500.00
Direction | 10000.00
Publication | 7000.00
(3 lignes)
SQL permet depuis le début de réaliser des calculs d’agrégation. Pour cela, la base de
données observe les critères de regroupement définis dans la clause GROUP BY de la re-
quête et effectue l’opération sur l’ensemble des lignes qui correspondent au critère de
regroupement.
On peut combiner le résultat de deux requêtes d’agrégation avec UNION ALL, si les en-
sembles retournées sont de même type :
SELECT service,
sum(salaire) AS salaires_par_service
FROM employes GROUP BY service
UNION ALL
SELECT 'Total' AS service,
334
9. SQL POUR L’ANALYSE DE DONNÉES
sum(salaire) AS salaires_par_service
FROM employes;
service | salaires_par_service
-------------+----------------------
Courrier | 7500.00
Direction | 10000.00
Publication | 7000.00
Total | 24500.00
(4 lignes)
On le verra plus loin, cette dernière requête peut être écrite plus simplement avec les
GROUPING SETS, mais qui nécessitent au minimum PostgreSQL 9.5.
Les fonctions array_agg, string_agg et xmlagg permettent d’agréger des éléments dans
un tableau, dans une chaîne ou dans une arborescence XML. Autant l’ordre dans lequel
les données sont utilisées n’a pas d’importance lorsque l’on réalise un calcul d’agrégat
classique, autant cet ordre va influencer la façon dont les données seront produites par
les trois fonctions citées plus haut. En effet, le tableau généré par array_agg est composé
d’éléments ordonnés, de même que la chaîne de caractères ou l’arborescence XML.
SELECT service,
string_agg(nom, ', ' ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+-------------------
Courrier | Fantasio, Lagaffe
Direction | Dupuis
Publication | Lebrac, Prunelle
335
https://dalibo.com/formations
SQL pour PostgreSQL
(3 lignes)
La requête suivante permet d’obtenir, pour chaque service, la liste des employés dans un
tableau, trié par ordre alphabétique :
SELECT service,
string_agg(nom, ', ' ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+-------------------
Courrier | Fantasio, Lagaffe
Direction | Dupuis
Publication | Lebrac, Prunelle
(3 lignes)
Il est possible de réaliser la même chose mais pour obtenir un tableau plutôt qu’une chaîne
de caractère :
SELECT service,
array_agg(nom ORDER BY nom) AS liste_employes
FROM employes
GROUP BY service;
service | liste_employes
-------------+--------------------
Courrier | {Fantasio,Lagaffe}
Direction | {Dupuis}
Publication | {Lebrac,Prunelle}
• Clause FILTER
• Utilité :
– filtrer les données sur les agrégats
– évite les expressions CASE complexes
• SQL:2003
• Intégré dans la version 9.4
La clause FILTER permet de remplacer des expressions complexes écrites avec CASE et
donc de simplifier l’écriture de requêtes réalisant un filtrage dans une fonction d’agrégat.
336
9. SQL POUR L’ANALYSE DE DONNÉES
Avec cette syntaxe, dès que l’on a besoin d’avoir de multiples filtres ou de filtres plus
complexes, la requête devient très rapidement peu lisible et difficile à maintenir. Le risque
d’erreur est également élevé.
L’exemple suivant montre l’utilisation de la clause FILTER et son équivalent écrit avec une
expression CASE :
sql=# SELECT count(*) AS compte_pays,
count(*) FILTER (WHERE r.nom_region='Europe') AS compte_pays_europeens,
count(CASE WHEN r.nom_region='Europe' THEN 1 END)
AS oldschool_compte_pays_europeens
FROM pays p
JOIN regions r
ON (p.region_id = r.region_id);
compte_pays | compte_pays_europeens | oldschool_compte_pays_europeens
-------------+-----------------------+---------------------------------
25 | 5 | 5
(1 ligne)
337
https://dalibo.com/formations
SQL pour PostgreSQL
• Fonctions window
– travaille sur des ensembles de données regroupés et triés indépendamment
de la requête principale
• Utilisation :
– utiliser plusieurs critères d’agrégation dans la même requête
– utiliser des fonctions de classement
– faire référence à d’autres lignes de l’ensemble de données
PostgreSQL supporte les fonctions de fenêtrage depuis la version 8.4. Elles apportent
des fonctionnalités analytiques à PostgreSQL, et permettent d’écrire beaucoup plus sim-
plement certaines requêtes.
Prenons un exemple.
338
9. SQL POUR L’ANALYSE DE DONNÉES
9.4.1 REGROUPEMENT
• Regroupement
– clause OVER (PARTITION BY ...)
• Utilité :
– plusieurs critères de regroupement différents
– avec des fonctions de calcul d’agrégats
La clause OVER permet de définir la façon dont les données sont regroupées - uniquement
pour la colonne définie - avec la clause PARTITION BY.
339
https://dalibo.com/formations
SQL pour PostgreSQL
Les calculs réalisés par cette requête sont identiques à ceux réalisés avec une agrégation
utilisant GROUP BY. La principale différence est que l’on évite de ici de perdre le détail des
données tout en disposant des données agrégées dans le résultat de la requête.
340
9. SQL POUR L’ANALYSE DE DONNÉES
SELECT ...
agregation OVER (PARTITION BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
9.4.5 TRI
• Tri
– OVER (ORDER BY …)
• Utilité :
– numéroter les lignes : row_number()
– classer des résultats : rank(), dense_rank()
– faire appel à d’autres lignes du résultat : lead(), lag()
La fonction row_number() permet de numéroter les lignes selon un critère de tri défini
dans la clause OVER.
L’ordre de tri de la clause OVER n’influence pas l’ordre de tri explicite d’une requête :
341
https://dalibo.com/formations
SQL pour PostgreSQL
On dispose aussi de fonctions de classement, pour déterminer par exemple les employés
les moins bien payés :
SELECT matricule, nom, salaire, service,
rank() OVER (ORDER BY salaire),
dense_rank() OVER (ORDER BY salaire)
FROM employes ;
matricule | nom | salaire | service | rank | dense_rank
-----------+----------+----------+-------------+------+------------
00000020 | Lagaffe | 3000.00 | Courrier | 1 | 1
00000040 | Lebrac | 3000.00 | Publication | 1 | 1
00000006 | Prunelle | 4000.00 | Publication | 3 | 2
00000004 | Fantasio | 4500.00 | Courrier | 4 | 3
00000001 | Dupuis | 10000.00 | Direction | 5 | 4
(5 lignes)
342
9. SQL POUR L’ANALYSE DE DONNÉES
Lorsque l’on utilise une clause de tri, la portion de données visible par l’opérateur
d’agrégat correspond aux données comprises entre la première ligne examinée et la ligne
courante. La fenêtre est définie selon le critère RANGE BETWEEN UNBOUNDED PRECEDING
AND CURRENT ROW.
343
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT ...
agregation OVER (ORDER BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
Le terme ORDER BY permet d’indiquer les critères de tri de la fenêtre sur laquelle on
souhaite travailler.
Il est possible de combiner les clauses de fenêtrage PARTITION BY et ORDER BY. Cela
permet d’isoler des jeux de données entre eux avec la clause PARTITION BY, tout en ap-
pliquant un critère de tri avec la clause ORDER BY. Beaucoup d’applications sont possibles
si l’on associe à cela les nombreuses fonctions analytiques disponibles.
344
9. SQL POUR L’ANALYSE DE DONNÉES
Si l’on applique les deux clauses PARTITION BY et ORDER BY à une fonction de fenêtrage,
alors le critère de tri est appliqué dans la partition et chaque partition est indépendante
l’une de l’autre.
SELECT ...
<agregation> OVER (PARTITION BY <colonnes>
ORDER BY <colonnes>)
FROM <liste_tables>
WHERE <predicats>
346
9. SQL POUR L’ANALYSE DE DONNÉES
Sans les fonctions analytiques, il était difficile en SQL d’écrire des requêtes nécessitant
de faire appel à des données provenant d’autres lignes que la ligne courante.
Par exemple, pour renvoyer la liste détaillée de tous les employés ET le salaire le plus
élevé du service auquel il appartient, on peut utiliser la fonction first_value() :
SELECT matricule, nom, salaire, service,
first_value(salaire) OVER (PARTITION BY service ORDER BY salaire DESC)
AS salaire_maximum_service
FROM employes ;
matricule | nom | salaire | service | salaire_maximum_service
-----------+----------+----------+-------------+-------------------------
00000004 | Fantasio | 4500.00 | Courrier | 4500.00
00000020 | Lagaffe | 3000.00 | Courrier | 4500.00
00000001 | Dupuis | 10000.00 | Direction | 10000.00
00000006 | Prunelle | 4000.00 | Publication | 4000.00
00000040 | Lebrac | 3000.00 | Publication | 4000.00
(5 lignes)
347
https://dalibo.com/formations
SQL pour PostgreSQL
• lead(colonne, n)
– retourne la valeur d’une colonne, n lignes après la ligne courante
• lag(colonne, n)
– retourne la valeur d’une colonne, n lignes avant la ligne courante
La requête présentée en exemple ne s’appuie que sur un jeu réduit de données afin de
montrer un résultat compréhensible.
348
9. SQL POUR L’ANALYSE DE DONNÉES
NULL est renvoyé lorsque la valeur n’est pas accessible dans la fenêtre de données, comme
par exemple si l’on souhaite utiliser la valeur d’une colonne appartenant à la ligne précé-
dant la première ligne de la partition.
9.4.18 FIRST/LAST/NTH_VALUE
• first_value(colonne)
– retourne la première valeur pour la colonne
• last_value(colonne)
– retourne la dernière valeur pour la colonne
• nth_value(colonne, n)
– retourne la n-ème valeur (en comptant à partir de 1) pour la colonne
Utilisé avec ORDER BY et PARTITION BY, la fonction first_value() permet par exemple
d’obtenir le salaire le plus élevé d’un service :
SELECT matricule, nom, salaire, service,
first_value(salaire) OVER (PARTITION BY service ORDER BY salaire DESC)
AS salaire_maximum_service
FROM employes ;
Par exemple, si l’on exécute la même requête en utilisant last_value() plutôt que
first_value(), on récupère à chaque fois la valeur de la colonne sur la ligne courante :
SELECT pays, continent, population,
last_value(population) OVER (PARTITION BY continent
ORDER BY population DESC)
FROM population;
Il est alors nécessaire de redéfinir le comportement de la fenêtre visible pour que la fonc-
tion se comporte comme attendu, en utilisant RANGE BETWEEN UNBOUNDED PRECEDING
AND UNBOUNDED FOLLOWING - cet aspect sera décrit dans la section sur les possibilités de
modification de la définition de la fenêtre.
350
9. SQL POUR L’ANALYSE DE DONNÉES
Il arrive que l’on ait besoin d’utiliser plusieurs fonctions de fenêtrage au sein d’une même
requête qui utilisent la même définition de fenêtre (même clause PARTITION BY et/ou
ORDER BY). Afin d’éviter de dupliquer cette clause, il est possible de définir une fenêtre
nommée et de l’utiliser à plusieurs endroits de la requête. Par exemple, l’exemple précé-
dent des fonctions de classement pourrait s’écrire :
SELECT matricule, nom, salaire, service,
rank() OVER w,
dense_rank() OVER w
FROM employes
WINDOW w AS (ORDER BY salaire);
matricule | nom | salaire | service | rank | dense_rank
-----------+----------+----------+-------------+------+------------
00000020 | Lagaffe | 3000.00 | Courrier | 1 | 1
00000040 | Lebrac | 3000.00 | Publication | 1 | 1
00000006 | Prunelle | 4000.00 | Publication | 3 | 2
00000004 | Fantasio | 4500.00 | Courrier | 4 | 3
00000001 | Dupuis | 10000.00 | Direction | 5 | 4
(5 lignes)
À noter qu’il est possible de définir de multiples définitions de fenêtres au sein d’une
même requête, et qu’une définition de fenêtre peut surcharger la clause ORDER BY si la
définition parente ne l’a pas définie. Par exemple, la requête SQL suivante est correcte :
SELECT matricule, nom, salaire, service,
rank() OVER w_asc,
dense_rank() OVER w_desc
FROM employes
WINDOW w AS (PARTITION BY service),
w_asc AS (w ORDER BY salaire),
w_desc AS (w ORDER BY salaire DESC);
351
https://dalibo.com/formations
SQL pour PostgreSQL
352
9. SQL POUR L’ANALYSE DE DONNÉES
• Indique un intervalle borné par un nombre de ligne défini avant et après la ligne
courante
• Borne de départ :
– xxx PRECEDING : depuis les xxx valeurs devant la ligne courante
– CURRENT ROW : depuis la ligne courante
• Borne de fin :
– xxx FOLLOWING : depuis les xxx valeurs derrière la ligne courante
– CURRENT ROW : jusqu’à la ligne courante
OVER (PARTITION BY ...
ORDER BY ...
ROWS BETWEEN 2 PRECEDING AND 1 FOLLOWING
353
https://dalibo.com/formations
SQL pour PostgreSQL
354
9. SQL POUR L’ANALYSE DE DONNÉES
• WITHIN GROUP
– PostgreSQL 9.4
• Utilité :
– calcul de médianes, centiles
La clause WITHIN GROUP est une nouvelle clause pour les agrégats utilisant des fonctions
dont les données doivent être triées. Quelques fonctions ont été ajoutées pour profiter
au mieux de cette nouvelle clause.
SELECT continent,
percentile_disc(0.5)
WITHIN GROUP (ORDER BY population) AS "mediane",
percentile_disc(0.95)
WITHIN GROUP (ORDER BY population) AS "95pct",
ROUND(AVG(population), 1) AS moyenne
FROM population
GROUP BY continent;
En ajoutant le support de cette clause, PostgreSQL améliore son support de la norme SQL
2008 et permet le développement d’analyses statistiques plus élaborées.
• GROUPING SETS/ROLLUP/CUBE
• Extension de GROUP BY
• PostgreSQL 9.5
• Utilité :
– présente le résultat de plusieurs agrégations différentes
– réaliser plusieurs agrégations différentes dans la même requête
Les GROUPING SETS permettent de définir plusieurs clauses d’agrégation GROUP BY. Les ré-
sultats seront présentés comme si plusieurs requêtes d’agrégation avec les clauses GROUP
BY mentionnées étaient assemblées avec UNION ALL.
356
9. SQL POUR L’ANALYSE DE DONNÉES
SELECT piece,region,sum(quantite)
FROM stock GROUP BY GROUPING SETS (piece,region);
piece | region | sum
--------+--------+-----
clous | | 70
ecrous | | 90
vis | | 160
| est | 120
| nord | 60
| ouest | 50
| sud | 90
357
https://dalibo.com/formations
SQL pour PostgreSQL
Le comportement de la clause GROUPING SETS peut être émulée avec deux requêtes util-
isant chacune une clause GROUP BY sur les colonnes de regroupement souhaitées.
QUERY PLAN
-------------------------------------------------------------------------
Append (cost=1.12..2.38 rows=7 width=44)
-> HashAggregate (cost=1.12..1.15 rows=3 width=45)
Group Key: stock.piece
-> Seq Scan on stock (cost=0.00..1.08 rows=8 width=9)
-> HashAggregate (cost=1.12..1.16 rows=4 width=44)
Group Key: stock_1.region
-> Seq Scan on stock stock_1 (cost=0.00..1.08 rows=8 width=8)
La requête utilisant la clause GROUPING SETS propose un plan bien plus efficace :
358
9. SQL POUR L’ANALYSE DE DONNÉES
9.6.5 ROLLUP
• ROLLUP
• PostgreSQL 9.5
• Utilité :
– calcul de totaux dans la même requête
La clause ROLLUP est une fonctionnalité d’analyse type OLAP du langage SQL. Elle s’utilise
dans la clause GROUP BY, tout comme GROUPING SETS
359
https://dalibo.com/formations
SQL pour PostgreSQL
SELECT piece,region,sum(quantite)
FROM stock GROUP BY ROLLUP (piece,region);
Cette requête est équivalente à la requête suivante utilisant GROUPING SETS :
SELECT piece,region,sum(quantite)
FROM stock
GROUP BY GROUPING SETS ((),(piece),(piece,region));
Sur une requête un peu plus intéressante, effectuant des statistiques sur des ventes :
SELECT row_number()
OVER ( ORDER BY grouping(piece,region)) AS ligne,
360
9. SQL POUR L’ANALYSE DE DONNÉES
grouping(piece,region)::bit(2) AS g,
piece,
region,
sum(quantite)
FROM stock
GROUP BY CUBE (piece,region)
ORDER BY g ;
SELECT COALESCE(service,
CASE
WHEN GROUPING(service) = 0 THEN 'Unknown' ELSE 'Total'
END) AS service,
sum(salaire) AS salaires_service, count(*) AS nb_employes
FROM employes
GROUP BY ROLLUP (service);
service | salaires_service | nb_employes
-------------+------------------+-------------
Courrier | 7500.00 | 2
Direction | 50000.00 | 1
Publication | 7000.00 | 2
Total | 64500.00 | 5
(4 rows)
SELECT COALESCE(type_client,
CASE
361
https://dalibo.com/formations
SQL pour PostgreSQL
362
9. SQL POUR L’ANALYSE DE DONNÉES
9.6.8 CUBE
• CUBE
– PostgreSQL 9.5
• Utilité :
– calcul de totaux dans la même requête
– sur toutes les clauses de regroupement
La clause CUBE est une autre fonctionnalité d’analyse type OLAP du langage SQL. Tout
comme ROLLUP, elle s’utilise dans la clause GROUP BY.
SELECT piece,region,sum(quantite)
FROM stock GROUP BY CUBE (piece,region);
Cette requête est équivalente à la requête suivante utilisant GROUPING SETS :
SELECT piece,region,sum(quantite)
FROM stock
GROUP BY GROUPING SETS (
(),
(piece),
(region),
(piece,region)
);
363
https://dalibo.com/formations
SQL pour PostgreSQL
Elle permet de réaliser des regroupements sur l’ensemble des combinaisons possibles des
clauses de regroupement indiquées. Pour de plus amples détails, se référer à cet article
Wikipédia75 .
SELECT type_client,
code_pays,
SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients cl
ON (c.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
WHERE date_commande BETWEEN '2014-01-01' AND '2014-12-31'
GROUP BY CUBE (type_client, code_pays);
364
9. SQL POUR L’ANALYSE DE DONNÉES
E | | 414152232.57
P | CA | 292975985.52
P | CN | 287795272.87
P | DE | 287337725.21
P | DZ | 302501132.54
P | FR | 2341977444.49
P | IN | 295256262.73
P | PE | 300278960.24
P | RU | 287605812.99
P | US | 296424154.49
P | | 4692152751.08
| | 5217862160.65
| CA | 327706809.65
| CN | 321261454.05
| DE | 319488602.46
| DZ | 333727307.87
| FR | 2606641183.25
| IN | 329268913.95
| PE | 332177174.71
| RU | 319769574.36
| US | 327821140.35
Dans ce genre de contexte, lorsque le regroupement est réalisé sur l’ensemble des valeurs
d’un critère de regroupement, alors la valeur qui apparaît est NULL pour la colonne cor-
respondante. Si la colonne possède des valeurs NULL légitimes, il est alors difficile de
les distinguer. On utilise alors la fonction GROUPING() qui permet de déterminer si le re-
groupement porte sur l’ensemble des valeurs de la colonne. L’exemple suivant montre
une requête qui exploite cette fonction :
SELECT GROUPING(type_client,code_pays)::bit(2),
GROUPING(type_client)::boolean g_type_cli,
GROUPING(code_pays)::boolean g_code_pays,
type_client,
code_pays,
SUM(quantite*prix_unitaire) AS montant
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients cl
ON (c.client_id = cl.client_id)
JOIN contacts co
ON (cl.contact_id = co.contact_id)
365
https://dalibo.com/formations
SQL pour PostgreSQL
L’application sera alors à même de gérer la présentation des résultats en fonction des
valeurs de grouping ou g_type_client et g_code_pays.
366
9. SQL POUR L’ANALYSE DE DONNÉES
Le schéma brno2015 dispose d’une table pilotes ainsi que les résultats tour par tour de la
course de MotoGP de Brno (CZ) de la saison 2015.
La table brno2015 indique pour chaque tour, pour chaque pilote, le temps réalisé dans le
tour :
Table "public.brno_2015"
Column | Type | Modifiers
-----------+----------+-----------
no_tour | integer |
no_pilote | integer |
lap_time | interval |
Table "public.pilotes"
Column | Type | Modifiers
-------------+---------+-----------
no | integer |
nom | text |
nationalite | text |
ecurie | text |
moto | text |
Précisions sur les données à manipuler : la course est réalisée en plusieurs tours; certains
coureurs n’ont pas terminé la course, leur relevé de tours s’arrête donc brutalement.
Agrégation
1. Quel est le pilote qui a le moins gros écart entre son meilleur tour et son moins bon
tour ?
Window Functions
• le nom du pilote ;
• son rang dans le tour ;
367
https://dalibo.com/formations
SQL pour PostgreSQL
6. Pour chaque coureur, quel est son meilleur tour et quelle place avait-il sur ce tour ?
7. Déterminer quels sont les coureurs ayant terminé la course qui ont gardé la même
position tout au long de la course.
Grouping Sets
Ce TP nécessite PostgreSQL 9.5 ou supérieur. Il s’appuie sur les tables présentes dans le
schéma magasin.
9. En une seule requête, afficher le montant total des commandes par année et pays
et le montant total des commandes uniquement par année.
10. Ajouter également le montant total des commandes depuis le début de l’activité.
368
9. SQL POUR L’ANALYSE DE DONNÉES
Le schéma brno2015 dispose d’une table pilotes ainsi que les résultats tour par tour de la
course de MotoGP de Brno (CZ) de la saison 2015.
La table brno2015 indique pour chaque tour, pour chaque pilote, le temps réalisé dans le
tour :
Table "public.brno_2015"
Column | Type | Modifiers
-----------+----------+-----------
no_tour | integer |
no_pilote | integer |
lap_time | interval |
Table "public.pilotes"
Column | Type | Modifiers
-------------+---------+-----------
no | integer |
nom | text |
nationalite | text |
ecurie | text |
moto | text |
Précisions sur les données à manipuler : la course est réalisée en plusieurs tours; certains
coureurs n’ont pas terminé la course, leur relevé de tours s’arrête donc brutalement.
Agrégation
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
brno2015 :
1. Quel est le pilote qui a le moins gros écart entre son meilleur tour et son moins bon
tour ?
Le coureur :
ORDER BY 2
LIMIT 1;
nom | ecart
-----------------+--------------
Jorge LORENZO | 00:00:04.661
(1 row)
Nous excluons le premier tour car il s’agit d’une course avec départ arrêté, donc ce tour
est plus lent que les autres, ici d’au moins 8 secondes :
SELECT nom, stddev(extract (epoch from lap_time)) as stddev
FROM brno_2015
JOIN pilotes
ON (no_pilote = no)
WHERE no_tour > 1
GROUP BY 1
ORDER BY 2
LIMIT 1;
nom | stddev
-----------------+-------------------
Alex DE ANGELIS | 0.130107647741847
(1 row)
On s’aperçoit qu’Alex De Angelis n’a pas terminé la course. Il semble donc plus intéressant
de ne prendre en compte que les pilotes qui ont terminé la course et toujours en excluant
le premier tour (il y a 22 tours sur cette course, on peut le positionner soit en dur dans
la requête, soit avec un sous-select permettant de déterminer le nombre maximum de
tours) :
SELECT nom, stddev(extract (epoch from lap_time)) as stddev
FROM brno_2015
JOIN pilotes
ON (no_pilote = no)
WHERE no_tour > 1
AND no_pilote in (SELECT no_pilote FROM brno_2015 WHERE no_tour=22)
GROUP BY 1
ORDER BY 2
LIMIT 1;
370
9. SQL POUR L’ANALYSE DE DONNÉES
nom | stddev
-----------------+-------------------
Alvaro BAUTISTA | 0.222825823492654
Window Functions
Si ce n’est pas déjà fait, nous positionnons le search_path pour chercher les objets du
schéma brno2015 :
SET search_path = brno2015;
Les coureurs qui ne franchissent pas la ligne d’arrivée sont dans le classement malgré tout.
Il faut donc tenir compte de cela dans l’affichage des résultats.
SELECT rank() OVER (ORDER BY max_lap desc, total_time asc) AS rang,
nom, ecurie, total_time
FROM (SELECT no_pilote,
sum(lap_time) over (PARTITION BY no_pilote) as total_time,
max(no_tour) over (PARTITION BY no_pilote) as max_lap
FROM brno_2015
) AS race_data
JOIN pilotes
ON (race_data.no_pilote = pilotes.no)
GROUP BY nom, ecurie, max_lap, total_time
ORDER BY max_lap desc, total_time asc;
La requête n’est pas beaucoup modifiée, seule la fonction first_value() est utilisée
pour déterminer le temps du vainqueur, temps qui sera ensuite retranché au temps du
coureur courant.
372
9. SQL POUR L’ANALYSE DE DONNÉES
• le nom du pilote ;
• son rang dans le tour ;
• son temps depuis le début de la course ;
• dans le tour, la différence de temps par rapport au premier.
Pour construire cette requête, nous avons besoin d’obtenir le temps cumulé tour après
tour pour chaque coureur. Nous commençons donc par écrire une première requête :
SELECT *,
SUM(lap_time)
OVER (PARTITION BY no_pilote ORDER BY no_tour) AS temps_tour_glissant
FROM brno_2015
4 | 4 | 00:01:56.943 | 00:07:53.743
5 | 4 | 00:01:57.012 | 00:09:50.755
6 | 4 | 00:01:57.011 | 00:11:47.766
7 | 4 | 00:01:57.313 | 00:13:45.079
8 | 4 | 00:01:57.95 | 00:15:43.029
9 | 4 | 00:01:57.296 | 00:17:40.325
10 | 4 | 00:01:57.295 | 00:19:37.62
11 | 4 | 00:01:57.185 | 00:21:34.805
12 | 4 | 00:01:57.45 | 00:23:32.255
13 | 4 | 00:01:57.457 | 00:25:29.712
14 | 4 | 00:01:57.362 | 00:27:27.074
15 | 4 | 00:01:57.482 | 00:29:24.556
16 | 4 | 00:01:57.358 | 00:31:21.914
17 | 4 | 00:01:57.617 | 00:33:19.531
18 | 4 | 00:01:57.594 | 00:35:17.125
19 | 4 | 00:01:57.412 | 00:37:14.537
20 | 4 | 00:01:57.786 | 00:39:12.323
21 | 4 | 00:01:58.087 | 00:41:10.41
22 | 4 | 00:01:58.357 | 00:43:08.767
(...)
Cette requête de base est ensuite utilisée dans une CTE qui sera utilisée par la requête
répondant à la question de départ. La colonne temps_tour_glissant est utilisée pour
calculer le rang du pilote dans la course, est affiché et le temps cumulé du meilleur pilote
est récupéré avec la fonction first_value :
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
ORDER BY no_pilote, no_tour
)
374
9. SQL POUR L’ANALYSE DE DONNÉES
On pouvait également utiliser une simple sous-requête pour obtenir le même résultat :
SELECT no_tour,
nom,
rank()
OVER (PARTITION BY no_tour
ORDER BY temps_tour_glissant ASC
) AS place_course,
temps_tour_glissant,
temps_tour_glissant - first_value(temps_tour_glissant)
OVER (PARTITION BY no_tour
ORDER BY temps_tour_glissant asc
) AS difference
FROM (
SELECT *, SUM(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour)
AS temps_tour_glissant
FROM brno_2015) course
JOIN pilotes
ON (pilotes.no = course.no_pilote)
ORDER BY no_tour;
6. Pour chaque coureur, quel est son meilleur tour et quelle place avait-il sur ce tour ?
Il est ici nécessaire de sélectionner pour chaque tour le temps du meilleur tour. On peut
alors sélectionner les tours pour lequels le temps du tour est égal au meilleur temps :
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time)
OVER (PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
ORDER BY no_pilote, no_tour
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course,
temps_tour_glissant,
min(lap_time) OVER (PARTITION BY no_pilote) as meilleur_temps
FROM temps_glissant
)
376
9. SQL POUR L’ANALYSE DE DONNÉES
7. Déterminer quels sont les coureurs ayant terminé la course qui ont gardé la même
position tout au long de la course.
WITH nb_tour AS (
SELECT max(no_tour) FROM brno_2015
),
temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant,
max(no_tour) OVER (PARTITION BY no_pilote) as total_tour
FROM brno_2015
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time, total_tour,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course
377
https://dalibo.com/formations
SQL pour PostgreSQL
FROM temps_glissant
)
SELECT no_pilote
FROM classement_tour t
JOIN nb_tour n ON n.max = t.total_tour
GROUP BY no_pilote
HAVING count(DISTINCT place_course) = 1;
no_pilote
-----------
93
99
(2 lignes)
WITH temps_glissant AS (
SELECT no_tour, no_pilote, lap_time,
sum(lap_time) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) as temps_tour_glissant
FROM brno_2015
),
classement_tour AS (
SELECT no_tour, no_pilote, lap_time,
rank() OVER (
PARTITION BY no_tour
ORDER BY temps_tour_glissant
) as place_course,
temps_tour_glissant
FROM temps_glissant
),
depassement AS (
SELECT no_pilote,
last_value(place_course) OVER (PARTITION BY no_pilote) as rang,
CASE
WHEN lag(place_course) OVER (
PARTITION BY no_pilote
ORDER BY no_tour
) - place_course < 0
THEN 0
ELSE lag(place_course) OVER (
PARTITION BY no_pilote
378
9. SQL POUR L’ANALYSE DE DONNÉES
ORDER BY no_tour
) - place_course
END AS depasse
FROM classement_tour t
)
Grouping Sets
Tout d’abord, nous positionnons le search_path pour chercher les objets du schéma
magasin :
SET search_path = magasin;
9. En une seule requête, afficher le montant total des commandes par année et pays
et le montant total des commandes uniquement par année.
SELECT extract('year' from date_commande) AS annee, code_pays,
SUM(quantite*prix_unitaire) AS montant_total_commande
FROM commandes c
JOIN lignes_commandes l
ON (c.numero_commande = l.numero_commande)
JOIN clients
ON (c.client_id = clients.client_id)
JOIN contacts co
ON (clients.contact_id = co.contact_id)
GROUP BY GROUPING SETS (
(extract('year' from date_commande), code_pays),
(extract('year' from date_commande))
);
2008 | DE | 694787.87
2008 | DZ | 663045.33
2008 | FR | 5860607.27
2008 | IN | 741850.87
2008 | PE | 1167825.32
2008 | RU | 577164.50
2008 | US | 928661.06
2008 | | 12451687.15
(...)
10. Ajouter également le montant total des commandes depuis le début de l’activité.
12. À partir de la requête précédente, ajouter une colonne par critère de regroupement,
de type booléen, qui est positionnée à true lorsque le regroupement est réalisé sur
l’ensemble des valeurs de la colonne.
380
9. SQL POUR L’ANALYSE DE DONNÉES
381
https://dalibo.com/formations
SQL pour PostgreSQL
• Modélisation
• Écriture de requêtes
• Conception de l’application
382
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Le modèle relationnel est apparu suite à un constat : les bases de données de l’époque
(hiérarchiques) reposaient sur la notion de pointeur. Une mise à jour pouvait donc facile-
ment casser le modèle : doublons simples, données pointant sur du « vide », doublons
incohérents entre eux, etc.
Le modèle relationnel a donc été proposé pour remédier à tous ces problèmes. Un sys-
tème relationnel repose sur le concept de relation (table en SQL). Une relation est un
ensemble de faits. Chaque fait est identifié par un identifiant (clé naturelle). Le fait lie
cet identifiant à un certain nombre d’attributs. Une relation ne peut donc pas avoir de
doublon.
La modélisation relationnelle étant un vaste sujet en soi, nous n’allons pas tout détailler
ici, mais plutôt rappeler les points les plus importants.
Une relation (table) est en troisième forme normale si tous les attributs (colonnes) dépen-
dent de la clé (primaire), de toute la clé (pas d’un sous-ensemble de ses colonnes), et de
383
https://dalibo.com/formations
SQL pour PostgreSQL
Si vos tables vérifient déjà ces trois points, votre modélisation est probablement assez
bonne.
10.3 ATOMICITÉ
Par ailleurs, on n’a évidemment aucun contrôle sur ce qui est mis dans le champ
caractéristiques, ce qui est la garantie de données incohérentes au bout de quelques
jours (heures ?) d’utilisation.
Dans ce cas, rien n’empêche d’ajouter une ligne avec des caractéristiques similaires mais
définie autrement :
76
https://fr.wikipedia.org/wiki/Forme_normale_(bases_de_donn%C3%A9es_relationnelles)
384
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Ce modèle facilite les recherches et assure la cohérence. L’indexation est facilitée, et les
performances ne sont pas dégradées, bien au contraire.
Dans le cas où le nombre de propriétés n’est pas aussi bien défini qu’ici, même un modèle
clé-valeur vaut mieux que l’accumulation de propriétés dans un champ texte. Ce sujet est
traité plus bas.
Les contraintes d’intégrité et notamment les clés étrangères sont parfois absentes des
modèles de données. Les problématiques de performance et de flexibilité sont souvent
385
https://dalibo.com/formations
SQL pour PostgreSQL
mises en avant, alors que les contraintes sont justement une aide pour l’optimisation de re-
quêtes par le planificateur, mais surtout une garantie contre de très coûteuses corruption
de données logiques.
• Conséquences
– problèmes d’intégrité des données
– fonctions de vérification de cohérence des données
• Les contraintes sont utiles à l’optimiseur :
– déterminent l’unicité des valeurs
– éradiquent des lectures de tables inutiles sur des LEFT JOIN
– utilisent les contraintes CHECK pour exclure une partition
Ce cas est très facilement gérable pour un moteur de base de donnée si une clé étrangère
existe. Redévelopper ces mêmes contrôles dans la couche applicative sera toujours plus
coûteux en terme de performance, voire impossible à faire dans certains cas sans passer
par la base de donnée elle-même (multiples serveurs applicatifs accédant à la même base
de donnée).
Il peut s’ensuivre des calculs d’agrégats faux et des problèmes applicatifs de toute sorte.
Souvent, plutôt que de corriger le modèle de données, des fonctions de vérification de la
cohérence des données seront mises en place, entraînant ainsi un travail supplémentaire
pour trouver et corriger les incohérences.
Lorsque ces problèmes d’intégrité seront détectés, il s’en suivra également la création
de procédures de vérification de cohérence des données qui vont aussi alourdir les
développements, entraînant ainsi un travail supplémentaire pour trouver et corriger les
77
Situation où deux sessions ou plus modifient des données en tables au même moment.
386
10. SQL : CE QU’IL NE FAUT PAS FAIRE
incohérences. Ce qui a été gagné d’un côté est perdu de l’autre, mais sous une forme
différente.
De plus, les contraintes d’intégrité sont des informations qui garantissent non seulement
la cohérence des données mais qui vont également influencer l’optimiseur dans ses choix
de plans d’exécution.
Parmi les informations utilisées par l’optimiseur, les contraintes d’unicité permettent de
déterminer sans difficulté la répartition des valeurs stockées dans une colonne : chaque
valeur est simplement unique. L’utilisation des index sur ces colonnes sera donc prob-
ablement favorisée. Les contraintes d’intégrité permettent également à l’optimiseur de
pouvoir éliminer des jointures inutiles avec un LEFT JOIN. Enfin, les contraintes CHECK sur
des tables partitionnées permettent de cibler les lectures sur certaines partitions seule-
ment, et donc d’exclure les partitions inutiles.
• Solution :
– contraintes DEFERRABLE !
Parfois, les clés étrangères sont supprimées simplement parce que des transactions sont
en erreur car des données sont insérées dans une table fille sans avoir alimenté la table
mère. Des identifiants de clés étrangères de la table fille sont absents de la table mère,
entraînant l’arrêt en erreur de la transaction. Il est possible de contourner cela en différant
la vérification des contraintes d’intégrité à la fin de la transaction
La transaction insère d’abord les données dans la table fille, puis ensuite dans la table
mère :
BEGIN ;
SET CONSTRAINTS ALL DEFERRED ;
COMMIT;
Sans le SET CONSTRAINTS ALL DEFERRED, le premier ordre serait tombé en erreur.
Le modèle relationnel a été critiqué depuis sa création pour son manque de souplesse
pour ajouter de nouveaux attributs ou pour proposer plusieurs attributs sans pour autant
nécessiter de redévelopper l’application.
La solution souvent retenue est d’utiliser une table « à tout faire » entité-attribut-valeur
qui est associée à une autre table de la base de données. Techniquement, une telle table
comporte trois colonnes. La première est un identifiant généré qui permet de référencer
la table mère. Les deux autres colonnes stockent le nom de l’attribut représenté et la
valeur représentée.
388
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Un tel modèle peut sembler souple mais pose plusieurs problèmes. Le premier concerne
l’intégrité des données. Il n’est pas possible de garantir la présence d’un attribut comme
on le ferait avec une contrainte NOT NULL. Si l’on souhaite stocker des données dans un
autre format qu’une chaîne de caractère, pour bénéficier des contrôles de la base de don-
nées sur ce type, la seule solution est de créer autant de colonnes d’attributs qu’il y a
de types de données à représenter. Ces colonnes ne permettront pas d’utiliser des con-
traintes CHECK pour garantir la cohérence des valeurs stockées avec ce qui est attendu,
car les attributs peuvent stocker n’importe quelle donnée.
1 nom Prunelle
1 prenom Léon
1 telephone 0123456789
389
https://dalibo.com/formations
SQL pour PostgreSQL
1 fonction dba
Les requêtes SQL qui permettent de récupérer les données requises dans l’application
sont également particulièrement lourdes à écrire et à maintenir, à moins de récupérer les
données attribut par attribut.
Des problèmes de performances vont donc très rapidement se poser. Cette représenta-
tion des données entraîne souvent l’effondrement des performances d’une base de don-
nées relationnelle. Les requêtes sont difficilement optimisables et nécessitent de réaliser
beaucoup d’entrées-sorties disque, car les données sont éparpillées un peu partout dans
la table.
• Solutions :
– revenir sur la conception du modèle de données
– utiliser un type de données plus adapté : hstore, jsonb
• On économise jointures et place disque.
Lorsque de telles solutions sont déployées pour stocker des données transactionnelles,
il vaut mieux revenir à un modèle de données traditionnel qui permet de typer correcte-
ment les données, de mettre en place les contraintes d’intégrité adéquates et d’écrire des
requêtes SQL efficaces.
Dans d’autres cas où le nombre de champs est vraiment élevé et variable, il vaut mieux
utiliser un type de données de PostgreSQL qui est approprié, comme hstore qui permet
390
10. SQL : CE QU’IL NE FAUT PAS FAIRE
de stocker des données sous la forme clé->valeur. On conserve ainsi l’intégrité des
données (on n’a qu’une ligne par personne), on évite de très nombreuses jointures source
d’erreurs et de ralentissements, et même de la place disque.
De plus, ce type de données peut être indexé pour garantir de bons temps de réponses
des requêtes qui nécessitent des recherches sur certaines clés ou certaines valeurs.
391
https://dalibo.com/formations
SQL pour PostgreSQL
• Pourquoi
– stocker plusieurs attributs pour une même ligne
– exemple : les différents numéros de téléphone d’une personne
• Pratique courante
– ex : telephone_1, telephone_2
• Conséquences
– et s’il faut rajouter encore une colonne ?
– maîtrise de l’unicité des valeurs ?
– requêtes complexes à maintenir
• Solutions
– créer une table dépendante
– ou un type tableau
Dans certains cas, le modèle de données doit être étendu pour pouvoir stocker des don-
nées complémentaires. Un exemple typique est une table qui stocke les informations
pour contacter une personne. Une table personnes ou contacts possède une colonne
telephone qui permet de stocker le numéro de téléphone d’une personne. Or, une per-
sonne peut disposer de plusieurs numéros. Le premier réflexe est souvent de créer une
seconde colonne telephone_2 pour stocker un numéro de téléphone complémentaire.
S’en suit une colonne telephone_3 voire telephone_4 en fonction des besoins.
Dans de tels cas, les requêtes deviennent plus complexes à maintenir et il est difficile
de garantir l’unicité des valeurs stockées pour une personne car l’écriture des contraintes
d’intégrité devient de plus en plus complexe au fur et à mesure que l’on ajoute une colonne
pour stocker un numéro.
La solution la plus pérenne pour gérer ce cas de figure est de créer une table de dépen-
dance qui est dédiée au stockage des numéros de téléphone. Ainsi, la table personnes ne
portera plus de colonnes telephone, mais une table telephones portera un identifiant
référençant une personne et un numéro de téléphone. Ainsi, si une personne dispose de
trois, quatre... numéros de téléphone, la table telephones comportera autant de lignes
qu’il y a de numéros pour une personne.
Les différents numéros de téléphone seront obtenus par jointure entre la table personnes
et la table telephones. L’application se chargera de l’affichage.
392
10. SQL : CE QU’IL NE FAUT PAS FAIRE
L’unicité des valeurs sera garantie à l’aide d’une contrainte d’unicité posée sur l’identifiant
per_id et le numéro de téléphone.
Une autre solution consiste à utiliser un tableau pour représenter cette information. D’un
point de vue conceptuel, le lien entre une personne et son ou ses numéros de téléphone
est plus une « composition » qu’une réelle « relation » : le numéro de téléphone ne nous
intéresse pas en tant que tel, mais uniquement en tant que détail d’une personne. On
n’accédera jamais à un numéro de téléphone séparément : la table telephones donnée
plus haut n’a pas de clé « naturelle », un simple rattachement à la table personnes par
l’identifiant de la personne. Sans même parler de partitionnement, on gagnerait donc en
performances en stockant directement les numéros de téléphone dans la table personnes,
ce qui est parfaitement faisable sous PostgreSQL :
SELECT *
FROM personnes;
per_id | nom | pnom | numero
--------+---------+------+--------------
1 | Simpson | Omer | {0607080910}
(1 ligne)
-- Vérification de l'ajout :
SELECT *
FROM personnes;
per_id | nom | pnom | numero
--------+---------+------+-------------------------
1 | Simpson | Omer | {0607080910,0102030420}
Dans le modèle MVCC de PostgreSQL, chaque ligne utilise au bas mot 23 octets pour
stocker xmin, xmax et les autres informations de maintenance de la ligne. On peut donc
se retrouver avec un overhead représentant la majorité de la table. Cela peut avoir un fort
impact sur la volumétrie :
394
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Il est parfois possible de regrouper les valeurs sur une même ligne au sein d’un ARRAY, ici
pour chaque seconde :
CREATE TABLE valeurs_capteur_2 (d timestamp, tv smallint[]);
Dans cet exemple, on économise la plupart des entêtes de ligne, mais aussi les données re-
dondantes (la date), et le coût de l’alignement des champs. Avec suffisamment de valeurs
à stocker, une partie des données peut même se retrouver compressée dans la partie
TOAST de la table.
Évidemment cette technique est à réserver aux cas où les données mises en tableau sont
insérées et mises à jour ensemble.
Tout cela est détaillé et mesuré dans ce billet de Julien Rouhaud79 . Il évoque aussi le cas
de structures plus complexes : au lieu d’un hstore ou d’un ARRAY, on peut utiliser un type
qui regroupe les différentes valeurs.
Une autre option, complémentaire, est le partitionnement. Il peut être géré manuellement
(tables générées par l’applicatif, par date et/ou par source de données...) ou profiter des
deux modes de partitionnement de PostgreSQL. Il n’affectera pas la volumétrie totale mais
permet de gérer des partitions plus maniables. Il a aussi l’intérêt de ne pas nécessiter de
modification du code pour lire les données.
Surtout si vous trouvez dans les dernières colonnes des attributs comme attribut_supplementaire_1…
78
https://www.postgresql.org/docs/current/static/arrays.html
79
https://rjuju.github.io/postgresql/2016/09/16/minimizing-tuple-overhead.html
396
10. SQL : CE QU’IL NE FAUT PAS FAIRE
• Objectif
– représenter des valeurs décimales
• Pratique courante
– utiliser le type float ou double
• Problèmes :
– types flottants = approximation de la valeur représentée
– erreurs d’arrondis
– résultats faux
• Solutions
– numeric(x, y) pour les calculs précis (financiers notamment)
Certaines applications scientifiques se contentent de types flottants standards car ils per-
mettent d’encoder des valeurs plus importantes que les types entiers standards. Néan-
moins, les types flottants sont peu précis, notamment pour les applications financières
où une erreur d’arrondi n’est pas envisageable.
test=# CREATE TABLE comptes (compte_id SERIAL PRIMARY KEY, solde FLOAT);
CREATE TABLE
test=# CREATE TABLE comptes (compte_id SERIAL PRIMARY KEY, solde NUMERIC);
CREATE TABLE
100000100010010.5
(1 row)
TP-108-AX 12
TF-112-IR ANNULÉE
avec bien sûr une table tournée décrivant la tournée elle-même, avec une clé technique
numérique.
Un autre classique est le champ date stocké au format texte. Le format correct de cette
date ne peut être garanti par la base, ce qui mène systématiquement à des erreurs de con-
version si un humain est impliqué. Dans un environnement international où l’on mélange
DD-MM-YYYY et MM-DD-YYYY, un rattrapge manuel est même illusoire. Les calculs de
398
10. SQL : CE QU’IL NE FAUT PAS FAIRE
• Utilisation de NULL
• Ordre implicite des colonnes
• Requêtes spaghetti
• Moteur de recherche avec LIKE
Le langage SQL est généralement méconnu, ce qui amène à l’écriture de requêtes peu
performantes, voire peu pérennes.
10.12 NULL
Une table qui contient majoritairement des valeurs NULL contient bien peu de faits utilis-
ables. La plupart du temps, c’est une table dans laquelle on stocke beaucoup de choses
n’ayant que peu de rapport entre elles, les champs étant renseignés suivant le type de
chaque « chose ». C’est donc le plus souvent un signe de mauvaise modélisation. Cette
table aurait certainement dû être éclatée en plusieurs tables, chacune représentant une
des relations qu’on veut modéliser.
Il est donc recommandé que tous les attributs d’une table portent une contrainte NOT
NULL. Quelques colonnes peuvent ne pas porter ce type de contraintes, mais elles doivent
être une exception. En effet, le comportement de la base de données est souvent source
de problèmes lorsqu’une valeur NULL entre en jeu, par exemple la concaténation d’une
chaîne de caractères avec une valeur retourne une valeur NULL, car elle est propagée
dans les calculs. D’autres types de problèmes apparaissent également pour les prédicats.
Il ne ne s’agit pas de remplacer ce NULL par des valeurs « magiques » (par exemple -1 pour
« Non renseigné » , cela ne ferait que complexifier le code) mais de se demander si NULL a
une vraie signification.
• Objectif
– s’économiser d’écrire la liste des colonnes dans une requête
• Problèmes
– si l’ordre des colonnes change, les résultats changent
– résultats faux
– données corrompues
• Solutions
– nommer les colonnes impliquées
Le langage SQL permet de s’appuyer sur l’ordre physique des colonnes d’une table. Or,
faire confiance à la base de données pour conserver cet ordre physique peut entraîner
de graves problèmes applicatifs en cas de changements. Dans le meilleur des cas,
l’application ne fonctionnera plus, ce qui permet d’éviter les corruptions de données
silencieuses, où une colonne prend des valeurs destinées normalement à être stockées
dans une autre colonne. Si l’application continue de fonctionner, elle va générer des
résultats faux et des incohérences d’affichage.
Par exemple, l’ordre des colonnes peut changer notamment lorsque certains ETL sont
utilisés pour modifier le type d’une colonne varchar(10) en varchar(11). Par exemple,
pour la colonne username, l’ETL Kettle génère les ordres suivants :
Il génère des ordres SQL inutiles et consommateurs d’entrées/sorties disques car il doit
générer des ordres SQL compris par tous les SGBD du marché. Or, tous les SGBD ne
400
10. SQL : CE QU’IL NE FAUT PAS FAIRE
permettent pas de changer le type d’une colonne aussi simplement que dans PostgreSQL.
PostgreSQL, lui, ne permet pas de changer l’ordre d’apparition des colonnes.
C’est pourquoi il est préférable de lister explicitement les colonnes dans les ordres INSERT
et SELECT, afin de garder un ordre d’insertion déterministe.
Exemples
INSERT INTO insere (id, col1, col2) VALUES (2, 'XXX', 10);
L’utilisation de SELECT * à la place d’une liste explicite est une erreur similaire. Le nombre
de colonnes peut brutalement varier. De plus, toutes les colonnes sont rarement utilisées
dans un tel cas, ce qui provoque un gaspillage de ressources.
401
https://dalibo.com/formations
SQL pour PostgreSQL
402
10. SQL : CE QU’IL NE FAUT PAS FAIRE
join da_majmas MM
ON MM.id = MA.idda_majmas
join gt_tmtprg TMT
ON TMT.id = MM.idgt_tmtprg
join gt_prog PROG
ON PROG.id = TMT.idgt_prog
WHERE idda_article = Article.id
AND TO_DATE(TO_CHAR(PROG.date_lancement, 'DDMMYYYY')
|| TO_CHAR(PROG.heure_lancement, ' HH24:MI:SS'),
'DDMMYYYY HH24:MI:SS') >= SYSDATE) >= 1 THEN 1
ELSE 0
END AS Article_1_74,
Article.iddp_compnat AS Article_2_0,
Article.iddp_modven AS Article_2_1,
Article.iddp_nature AS Article_2_2,
Article.iddp_preclin AS Article_2_3,
Article.iddp_raybala AS Article_2_4,
Article.iddp_sensgrt AS Article_2_5,
Article.iddp_tcdtfl AS Article_2_6,
Article.iddp_unite AS Article_2_8,
Article.idda_untgrat AS Article_2_9,
Article.idda_unpoids AS Article_2_10,
Article.iddp_unilogi AS Article_2_11,
ArticleComplement.datem AS ArticleComplement_5_6,
ArticleComplement.extgar_depl AS ArticleComplement_5_9,
ArticleComplement.extgar_mo AS ArticleComplement_5_10,
ArticleComplement.extgar_piece AS ArticleComplement_5_11,
ArticleComplement.id AS ArticleComplement_5_20,
ArticleComplement.iddf_collect AS ArticleComplement_5_22,
ArticleComplement.iddp_gpdtcul AS ArticleComplement_5_23,
ArticleComplement.iddp_support AS ArticleComplement_5_25,
ArticleComplement.iddp_typcarb AS ArticleComplement_5_27,
ArticleComplement.mt_ext_gar AS ArticleComplement_5_36,
ArticleComplement.pres_cpt AS ArticleComplement_5_44,
GenreProduitCulturel.code AS GenreProduitCulturel_6_0,
Collection.libelle AS Collection_8_1,
Gtin.date_dern_vte AS Gtin_10_0,
Gtin.gtin AS Gtin_10_1,
Gtin.id AS Gtin_10_3,
Fabricant.code AS Fabricant_14_0,
Fabricant.nom AS Fabricant_14_2,
ClassificationVenteLocale.niveau1 AS ClassificationVenteL_16_2,
ClassificationVenteLocale.niveau2 AS ClassificationVenteL_16_3,
ClassificationVenteLocale.niveau3 AS ClassificationVenteL_16_4,
ClassificationVenteLocale.niveau4 AS ClassificationVenteL_16_5,
MarqueCommerciale.code AS MarqueCommerciale_18_0,
403
https://dalibo.com/formations
SQL pour PostgreSQL
MarqueCommerciale.libellelong AS MarqueCommerciale_18_4,
Composition.code AS Composition_20_0,
CompositionTextile.code AS CompositionTextile_21_0,
AssoArticleInterfaceBalance.datem AS AssoArticleInterface_23_0,
AssoArticleInterfaceBalance.lib_envoi AS AssoArticleInterface_23_3,
AssoArticleInterfaceCaisse.datem AS AssoArticleInterface_24_0,
AssoArticleInterfaceCaisse.lib_envoi AS AssoArticleInterface_24_3,
NULL AS TypeTraitement_25_0,
NULL AS TypeTraitement_25_1,
RayonBalance.code AS RayonBalance_31_0,
RayonBalance.max_cde_article AS RayonBalance_31_5,
RayonBalance.min_cde_article AS RayonBalance_31_6,
TypeTare.code AS TypeTare_32_0,
GrilleDePrix.datem AS GrilleDePrix_34_1,
GrilleDePrix.libelle AS GrilleDePrix_34_3,
FicheAgreage.code AS FicheAgreage_38_0,
Codelec.iddp_periact AS Codelec_40_1,
Codelec.libelle AS Codelec_40_2,
Codelec.niveau1 AS Codelec_40_3,
Codelec.niveau2 AS Codelec_40_4,
Codelec.niveau3 AS Codelec_40_5,
Codelec.niveau4 AS Codelec_40_6,
PerimetreActivite.code AS PerimetreActivite_41_0,
DonneesPersonnalisablesCodelec.gestionreftech AS DonneesPersonnalisab_42_0,
ClassificationArticleInterne.id AS ClassificationArticl_43_0,
ClassificationArticleInterne.niveau1 AS ClassificationArticl_43_2,
DossierCommercial.id AS DossierCommercial_52_0,
DossierCommercial.codefourndc AS DossierCommercial_52_1,
DossierCommercial.anneedc AS DossierCommercial_52_3,
DossierCommercial.codeclassdc AS DossierCommercial_52_4,
DossierCommercial.numversiondc AS DossierCommercial_52_5,
DossierCommercial.indice AS DossierCommercial_52_6,
DossierCommercial.code_ss_classement AS DossierCommercial_52_7,
OrigineNegociation.code AS OrigineNegociation_53_0,
MotifBlocageInformation.libellelong AS MotifBlocageInformat_54_3,
ArbreLogistique.id AS ArbreLogistique_63_1,
ArbreLogistique.codesap AS ArbreLogistique_63_5,
Fournisseur.code AS Fournisseur_66_0,
Fournisseur.nom AS Fournisseur_66_2,
Filiere.code AS Filiere_67_0,
Filiere.nom AS Filiere_67_2,
ValorisationAchat.val_ach_patc AS Valorisation_74_3,
LienPrixVente.code AS LienPrixVente_76_0,
LienPrixVente.datem AS LienPrixVente_76_1,
LienGratuite.code AS LienGratuite_78_0,
LienGratuite.datem AS LienGratuite_78_1,
404
10. SQL : CE QU’IL NE FAUT PAS FAIRE
LienCoordonnable.code AS LienCoordonnable_79_0,
LienCoordonnable.datem AS LienCoordonnable_79_1,
LienStatistique.code AS LienStatistique_81_0,
LienStatistique.datem AS LienStatistique_81_1
FROM da_article Article
join (SELECT idarticle,
poids,
ROW_NUMBER()
over (
PARTITION BY RNA.id
ORDER BY INNERSEARCH.poids) RN,
titre,
nom,
prenom
FROM da_article RNA
join (SELECT idarticle,
pkg_db_indexation.CALCULPOIDSMOTS(chaine,
'foire vins%') AS POIDS,
DECODE(index_clerecherche, 'Piste.titre', chaine,
'') AS TITRE,
DECODE(index_clerecherche, 'Artiste.nom_prenom',
SUBSTR(chaine, 0, INSTR(chaine, '_') - 1),
'') AS NOM,
DECODE(index_clerecherche, 'Artiste.nom_prenom',
SUBSTR(chaine, INSTR(chaine, '_') + 1),
'') AS PRENOM
FROM ((SELECT index_idenreg AS IDARTICLE,
C.cde_art AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticle'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.cde_art AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticle'
405
https://dalibo.com/formations
SQL pour PostgreSQL
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT index_idenreg AS IDARTICLE,
C.cde_art_bal AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticleBalance'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.cde_art_bal AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.codeArticleBalance'
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT index_idenreg AS IDARTICLE,
C.lib_com AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.libelleCommercial'
join da_article C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT index_idenreg AS IDARTICLE,
C.lib_com AS CHAINE,
index_clerecherche
FROM cstd_mots M
406
10. SQL : CE QU’IL NE FAUT PAS FAIRE
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Article.libelleCommercial'
join da_article C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT idda_article AS IDARTICLE,
C.gtin AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Gtin.gtin'
join da_gtin C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
SELECT idda_article AS IDARTICLE,
C.gtin AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'Gtin.gtin'
join da_gtin C
ON id = index_idenreg
WHERE mots_mot LIKE 'vins%'
AND 1 = 1)
UNION ALL
(SELECT idda_article AS IDARTICLE,
C.ref_frn AS CHAINE,
index_clerecherche
FROM cstd_mots M
join cstd_index I
ON I.mots_id = M.mots_id
AND index_clerecherche =
'ArbreLogistique.referenceFournisseur'
join da_arblogi C
ON id = index_idenreg
WHERE mots_mot = 'foire'
INTERSECT
407
https://dalibo.com/formations
SQL pour PostgreSQL
408
10. SQL : CE QU’IL NE FAUT PAS FAIRE
ON Categorie.id = Article.iddf_categor
left join df_grille GrilleDePrix
ON GrilleDePrix.id = Categorie.iddf_grille
left join dp_agreage FicheAgreage
ON FicheAgreage.id = Article.iddp_agreage
join dp_codelec Codelec
ON Article.iddp_codelec = Codelec.id
left join dp_periact PerimetreActivite
ON PerimetreActivite.id = Codelec.iddp_periact
left join dp_perscod DonneesPersonnalisablesCodelec
ON Codelec.id = DonneesPersonnalisablesCodelec.iddp_codelec
AND DonneesPersonnalisablesCodelec.db_suplog = 0
AND DonneesPersonnalisablesCodelec.iddb_sitecl = 1012124
left join dp_clsart ClassificationArticleInterne
ON DonneesPersonnalisablesCodelec.iddp_clsart =
ClassificationArticleInterne.id
left join da_artdeno ArticleDenormalise
ON Article.id = ArticleDenormalise.idda_article
left join df_clasmnt ClassementFournisseur
ON ArticleDenormalise.iddf_clasmnt = ClassementFournisseur.id
left join tr_dosclas DossierDeClassement
ON ClassementFournisseur.id = DossierDeClassement.iddf_clasmnt
AND DossierDeClassement.date_deb <= '2013-09-27'
AND COALESCE(DossierDeClassement.date_fin,
TO_DATE('31129999', 'DDMMYYYY')) >= '2013-09-27'
left join tr_doscomm DossierCommercial
ON DossierDeClassement.idtr_doscomm = DossierCommercial.id
left join dp_valdico OrigineNegociation
ON DossierCommercial.iddp_dossref = OrigineNegociation.id
left join dp_motbloc MotifBlocageInformation
ON MotifBlocageInformation.id = ArticleDenormalise.idda_motinf
left join da_arblogi ArbreLogistique
ON Article.id = ArbreLogistique.idda_article
AND ArbreLogistique.princ = 1
AND ArbreLogistique.db_suplog = 0
left join df_filiere Filiere
ON ArbreLogistique.iddf_filiere = Filiere.id
left join df_fourn Fournisseur
ON Filiere.iddf_fourn = Fournisseur.id
left join od_dosal dossierALValo
ON dossierALValo.idda_arblogi = ArbreLogistique.id
AND dossierALValo.idod_dossier IS NULL
left join tt_val_dal valoDossier
ON valoDossier.idod_dosal = dossierALValo.id
AND valoDossier.estarecalculer = 0
left join tt_valo ValorisationAchat
409
https://dalibo.com/formations
SQL pour PostgreSQL
ON ValorisationAchat.idtt_val_dal = valoDossier.id
AND ValorisationAchat.date_modif_retro IS NULL
AND ValorisationAchat.date_debut_achat <= '2013-09-27'
AND COALESCE(ValorisationAchat.date_fin_achat,
TO_DATE('31129999', 'DDMMYYYY')) >= '2013-09-27'
AND ValorisationAchat.val_ach_pab IS NOT NULL
left join da_lienart assoALPXVT
ON assoALPXVT.idda_article = Article.id
AND assoALPXVT.iddp_typlien = 14893
left join da_lien LienPrixVente
ON LienPrixVente.id = assoALPXVT.idda_lien
left join da_lienart assoALGRAT
ON assoALGRAT.idda_article = Article.id
AND assoALGRAT.iddp_typlien = 14894
left join da_lien LienGratuite
ON LienGratuite.id = assoALGRAT.idda_lien
left join da_lienart assoALCOOR
ON assoALCOOR.idda_article = Article.id
AND assoALCOOR.iddp_typlien = 14899
left join da_lien LienCoordonnable
ON LienCoordonnable.id = assoALCOOR.idda_lien
left join da_lienal assoALSTAT
ON assoALSTAT.idda_arblogi = ArbreLogistique.id
AND assoALSTAT.iddp_typlien = 14897
left join da_lien LienStatistique
ON LienStatistique.id = assoALSTAT.idda_lien WHERE
SEARCHMC.rn = 1
AND ( ValorisationAchat.id IS NULL
OR ValorisationAchat.date_debut_achat = (
SELECT MAX(VALMAX.date_debut_achat)
FROM tt_valo VALMAX
WHERE VALMAX.idtt_val_dal = ValorisationAchat.idtt_val_dal
AND VALMAX.date_modif_retro IS NULL
AND VALMAX.val_ach_pab IS NOT NULL
AND VALMAX.date_debut_achat <= '2013-09-27') )
AND ( Article.id IN (SELECT A.id
FROM da_article A
join du_ucutiar AssoUcUtiAr
ON AssoUcUtiAr.idda_article = A.id
join du_asucuti AssoUcUti
ON AssoUcUti.id = AssoUcUtiAr.iddu_asucuti
WHERE ( AssoUcUti.iddu_uti IN ( 90000000000022 ) )
AND a.iddb_sitecl = 1012124) )
AND Article.db_suplog = 0
ORDER BY SEARCHMC.poids ASC
Comprendre un tel monstre implique souvent de l’imprimer pour acquérir une vision glob-
410
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Ce code a été généré initialement par Hibernate, puis édité plusieurs fois à la main.
411
https://dalibo.com/formations
SQL pour PostgreSQL
• Objectif
– ajouter un moteur de recherche à l’application
• Pratique courante
– utiliser l’opérateur LIKE
• Problèmes
– requiert des index spécialisés
– recherche uniquement le terme exact
• Solutions
– pg_trgm
– Full Text Search
Les bases de données qui stockent des données textuelles ont souvent pour but de per-
mettre des recherches sur ces données textuelles.
La première solution envisagée lorsque le besoin se fait sentir est d’utiliser l’opérateur
LIKE. Il permet en effet de réaliser des recherches de motif sur une colonne stockant
des données textuelles. C’est une solution simple et qui peut s’avérer simpliste dans de
nombreux cas.
Tout d’abord, les recherches de type LIKE '%motif%' ne peuvent généralement pas tirer
partie d’un index btree normal. Cela étant dit l’extension pg_trgm permet d’optimiser ces
recherches à l’aide d’un index GiST ou GIN. Elle fait partie des extensions standard et ne
nécessite pas d’adaptation du code.
Exemples
412
10. SQL : CE QU’IL NE FAUT PAS FAIRE
-----------------------------------------------------------------------------
Bitmap Heap Scan on appellation (cost=4.27..7.41 rows=3 width=24)
Recheck Cond: (libelle ~~ '%wur%'::text)
-> Bitmap Index Scan on idx_appellation_libelle_trgm (cost=0.00..4.27...)
Index Cond: (libelle ~~ '%wur%'::text)
Mais cette solution n’offre pas la même souplesse que la recherche plein texte, en anglais
Full Text Search, de PostgreSQL. Elle est cependant plus complexe à mettre en œuvre et
possède une syntaxe spécifique.
10.16 CONCLUSION
413
https://dalibo.com/formations
SQL pour PostgreSQL
Exécuter aussi un VACUUM VERBOSE ANALYZE sur la base, afin d’avoir les statistiques à
jour !
Normalisation de base
La table voitures viole la première forme normale (attribut répétitif, non atomique). De
plus elle n’a pas de clé primaire.
Entité-clé-valeur
• La table voiture existe aussi dans cette base au format « entité/clé/valeur » : table
voitures_ecv. Trouvez toutes les caractéristiques de toutes les voitures ayant un
toit ouvrant dans cette table.
– Convertir cette table pour qu’elle utilise un hstore, créer un index sur la
colonne de type hstore, réécrire la requête et comparer. Il y a de nombreuses
solutions pour écrire cette conversion. Se reporter à la documentation de
l’extension hstore80 .
– Afficher toutes les voitures ayant un ABS et un toit ouvrant, avec les deux
modèles.
80
http://www.postgresql.org/docs/9.6/static/hstore.html
414
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Il est possible, si on peut réécrire la requête, d’obtenir de bonnes performances avec la pre-
mière table voitures : PostgreSQL sait indexer des tableaux et des fonctions. Il saurait
donc indexer un tableau résultat d’une fonction sur le champ caracteristiques.
• Trouver cette fonction (chercher dans les fonctions de découpage de chaîne de car-
actères, dans la documentation de PostgreSQL).
• Définir l’index (c’est un index sur un type tableau).
• Écrire la requête et son plan.
Pagination et index
La pagination est une fonctionnalité que l’on retrouve de plus en plus souvent, surtout
depuis que les applications web ont pris une place prépondérante.
Dans la base TP existe une table posts. C’est une version simplifiée d’une table de forum.
Nous voulons afficher très rapidement les messages (posts) d’un article : les 10 premiers,
puis du 11 au 20, etc. le plus rapidement possible. Nous allons examiner les différentes
stratégies possibles.
• Écrire une requête permettant de récupérer les 10 premiers posts de l’article 12. La
table a été créée sans index, la requête va être très lente. Utiliser id_post, pas le
timestamp (il servira dans le prochain TP).
• Créer un index permettant d’améliorer cette requête.
• Écrire la même requête permettant de récupérer les 10 posts suivants. Puis du post
901 au 921. Que constate-t-on sur le plan d’exécution ?
• Trouver une réécriture de la requête pour trouver directement les posts 901 à 911
une fois connu le post 900 récupéré au travers de la pagination.
Nous allons maintenant manipuler le champ ts (de type timestamp) de la table posts.
416
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Normalisation de base
REFERENCES voitures(immatriculation);
418
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Ce qu’on gagne réellement, c’est la garantie que les caractéristiques ne seront que celles
existant dans la table caractéristique, ce qui évite d’avoir à réparer la base plus tard.
Si on recherche plusieurs options en même temps, l’optimiseur peut améliorer les choses
en prenant en compte la fréquence de chaque option pour restreindre plus efficacement
419
https://dalibo.com/formations
SQL pour PostgreSQL
les recherches :
420
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Entité-clé-valeur
EXPLAIN (ANALYZE,BUFFERS)
SELECT *
FROM voitures_hstore
WHERE caracteristiques @> '"toit ouvrant" => true';
QUERY PLAN
---------------------------------------------------------------------
Index Scan using voitures_hstore_caracteristiques on voitures_hstore
(cost=0.28..4.62 rows=37 width=64)
(actual time=0.093..18.026 rows=8343 loops=1)
Index Cond: (caracteristiques @> '"toit ouvrant"=>"true"'::hstore)
Buffers: shared hit=6731
Total runtime: 19.195 ms
Avec voitures_ecv :
# EXPLAIN (ANALYZE,BUFFERS)
SELECT * FROM voitures_ecv
WHERE EXISTS (
SELECT 1
FROM voitures_ecv test
WHERE test.entite=voitures_ecv.entite
AND cle = 'toit ouvrant' AND valeur = true
)
AND EXISTS (
SELECT 1 FROM voitures_ecv test
WHERE test.entite=voitures_ecv.entite
AND cle = 'abs' AND valeur = true
);
QUERY PLAN
--------------------------------------------------------------------------
Merge Semi Join (cost=1.24..2549.89 rows=4012 width=25)
(actual time=0.121..152.364 rows=5416 loops=1)
Merge Cond: (test.entite = test_1.entite)
Buffers: shared hit=2172
-> Merge Semi Join (cost=0.83..1881.36 rows=15136 width=35)
(actual time=0.078..116.027 rows=17485 loops=1)
Merge Cond: (voitures_ecv.entite = test.entite)
Buffers: shared hit=1448
-> Index Scan using voitures_ecv_pkey on voitures_ecv
(cost=0.41..939.03 rows=57728 width=25)
(actual time=0.018..24.430 rows=57728 loops=1)
Buffers: shared hit=724
422
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Avec hstore :
# EXPLAIN (ANALYZE,BUFFERS)
SELECT * FROM voitures_hstore
WHERE caracteristiques @> '"toit ouvrant" => true, "abs" => true';
QUERY PLAN
---------------------------------------------------------------------
Index Scan using voitures_hstore_caracteristiques on voitures_hstore
(cost=0.28..4.62 rows=37 width=55)
(actual time=0.102..4.759 rows=1538 loops=1)
Index Cond: (caracteristiques @> '"abs"=>"true",
"toit ouvrant"=>"true"'::hstore)
Buffers: shared hit=1415
Total runtime: 5.063 ms
423
https://dalibo.com/formations
SQL pour PostgreSQL
• Définir l’index :
CREATE INDEX idx_voitures_array ON voitures_orig
USING gin (regexp_split_to_array(caracteristiques,','));
424
10. SQL : CE QU’IL NE FAUT PAS FAIRE
'{"toit ouvrant"}'::text[])
Total runtime: 10.139 ms
Pagination et index
La pagination est une fonctionnalité que l’on retrouve de plus en plus souvent, surtout
depuis que les applications Web ont pris une place prépondérante.
Dans la base TP existe une table posts. C’est une version simplifiée d’une table de forum.
Nous voulons afficher très rapidement les messages (posts) d’un article : les 10 premiers,
puis du 11 au 20, etc. le plus rapidement possible. Nous allons examiner les différentes
stratégies possibles.
EXPLAIN ANALYZE
SELECT * FROM posts
WHERE id_article =12
ORDER BY id_post
LIMIT 10;
QUERY PLAN
------------------------------------------------------------------------------
Limit (cost=161809.55..161809.57 rows=10 width=261)
(actual time=2697.841..2697.844 rows=10 loops=1)
-> Sort (cost=161809.55..161812.00 rows=982 width=261)
(actual time=2697.839..2697.841 rows=10 loops=1)
Sort Key: id_post
Sort Method: top-N heapsort Memory: 29kB
-> Seq Scan on posts (cost=0.00..161788.33 rows=982 width=261)
(actual time=2.274..2695.722 rows=964 loops=1)
Filter: (id_article = 12)
Rows Removed by Filter: 9999036
Total runtime: 2697.924 ms
EXPLAIN ANALYZE
SELECT *
FROM posts
425
https://dalibo.com/formations
SQL pour PostgreSQL
C’est bien plus rapide : l’index retourne les enregistrements directement triés par
id_article, id_post. On peut donc trouver le premier enregistrement ayant
id_article = 12, puis récupérer de ce point tous les enregistrements par id_post
croissant.
Écrire la même requête permettant de récupérer les 10 posts suivants. Puis du post 901
au 921. Que constate-t-on sur le plan d’exécution ?
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
ORDER BY id_post
LIMIT 10
OFFSET 10;
QUERY PLAN
---------------------------------------------------------
Limit (cost=1.61..2.79 rows=10 width=260)
(actual time=0.070..0.136 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..115.90 rows=981 width=260)
(actual time=0.034..0.133 rows=20 loops=1)
Index Cond: (id_article = 12)
Total runtime: 0.161 ms
(4 lignes)
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
426
10. SQL : CE QU’IL NE FAUT PAS FAIRE
ORDER BY id_post
LIMIT 10
OFFSET 900;
QUERY PLAN
---------------------------------------------------------
Limit (cost=106.37..107.55 rows=10 width=260)
(actual time=5.310..5.362 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.43..115.90 rows=981 width=260)
(actual time=0.038..5.288 rows=910 loops=1)
Index Cond: (id_article = 12)
Total runtime: 5.397 ms
(4 lignes)
Cette requête est 50 fois plus lente. Il serait intéressant de trouver plus rapide.
Trouver une réécriture de la requête pour trouver directement les posts 901 à 911 une
fois connu le post 900 récupéré au travers de la pagination.
id_article | id_post
------------+---------
12 | 9245182
(1 ligne)
Il suffit donc de récupérer les 10 articles pour lesquels id_article = 12 et id_post >
9245182. (Ces valeurs peuvent être différentes pour votre TP, suivant le contenu de la
table posts).
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE id_article = 12
AND id_post> 9245182
ORDER BY id_post
LIMIT 10;
QUERY PLAN
----------------------------------------------------------------
Limit (cost=0.43..1.65 rows=10 width=260)
(actual time=0.037..0.056 rows=10 loops=1)
427
https://dalibo.com/formations
SQL pour PostgreSQL
Attention : dans une base de données réaliste, le critère de sélection peut être plus com-
pliqué. On peut avoir par exemple besoin d’un filtre sur plus d’une colonne. Ou on peut
par exemple imaginer (ici ça n’a pas de sens) qu’on veut continuer sur l’article 13 si on
arrive à la fin de l’article 12. Dans ce cas, on peut utiliser cette syntaxe (qui n’est pas
supportée par tous les SGBD, alors que cela fait partie du standard SQL-92) :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE (id_article, id_post) > (12, 9245182)
ORDER BY id_article, id_post
LIMIT 10;
QUERY PLAN
------------------------------------------------------------------
Limit (cost=0.44..1.57 rows=10 width=260)
(actual time=0.039..0.057 rows=10 loops=1)
-> Index Scan using posts_id_article_id_post on posts
(cost=0.44..1135139.20 rows=9990333 width=260)
(actual time=0.036..0.052 rows=10 loops=1)
Index Cond: (ROW(id_article, id_post) > ROW(12, 9245182))
Total runtime: 0.096 ms
(4 lignes)
Nous allons maintenant manipuler le champ ts (de type timestamp) de la table posts.
428
10. SQL : CE QU’IL NE FAUT PAS FAIRE
QUERY PLAN
---------------------------------------------------------------------
Seq Scan on posts (cost=0.00..187728.49 rows=50000 width=269)
(actual time=0.380..14163.371 rows=18234 loops=1)
Filter: (to_char(ts, 'YYYYMM'::text) = '201302'::text)
Rows Removed by Filter: 9981766
Total runtime: 14166.265 ms
(4 lignes)
On a un scan complet de la table (Seq Scan). C’est normal : PostgreSQL ne peut pas
deviner que to_char(ts,'YYYYMM')='201302' veut dire « toutes les dates du mois de
février 2013 ». Une fonction est pour lui une boîte noire. Cela équivaut à rechercher tous
les mots anglais se traduisant par « Bonjour » dans un dictionnaire Anglais => Français : la
seule solution est de lire tout le dictionnaire.
Ceci est une des causes les plus habituelles de ralentissement de requêtes : une fonction
est appliquée à une colonne, ce qui rend le filtre incompatible avec l’utilisation d’un index.
NB : on trouve parfois le terme « sargable » dans la littérature pour définir les clauses
WHERE pouvant être résolues par parcours d’index.
C’est à nous d’indiquer une clause WHERE au moteur qu’il puisse directement appliquer sur
notre timestamp :
EXPLAIN ANALYZE
SELECT *
FROM posts
WHERE ts >= '2013-02-01'
AND ts < '2013-03-01';
QUERY PLAN
------------------------------------------------------------------------------
Index Scan using idx_posts_ts on posts
(cost=0.43..2314.75 rows=19641 width=269)
(actual time=0.054..104.416 rows=18234 loops=1)
Index Cond: ((ts >= '2013-02-01 00:00:00+01'::timestamp with time zone)
AND (ts < '2013-03-01 00:00:00+01'::timestamp with time zone))
Total runtime: 105.712 ms
(3 lignes)
• Plus compliqué : retourner tous les posts ayant eu lieu un dimanche, en 2013, en
passant par un index et en une seule requête.
– Indice : il est possible de générer la liste de tous les dimanches de l’année 2013
avec generate_series().
429
https://dalibo.com/formations
SQL pour PostgreSQL
produit la liste de tous les dimanches de 2013 (le premier dimanche est le 6 janvier).
SELECT '2013-01-01'::timestamp
+ INTERVAL '1 day'
* (7-extract (dow FROM timestamp '2013-01-01')) ;
Ensuite :
SELECT i debut,
i + INTERVAL '1 day' fin
FROM generate_series(
'2013-01-06 00:00:00',
'2014-01-01 00:00:00',
INTERVAL '7 days'
) g(i);
430
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Attention : les inéqui-jointures entraînent forcément des nested loops. Ici tout va bien
parce que la liste des dimanches est raisonnablement courte. De plus, pour avoir un
tel plan, il faut que shared_buffers et/ou effective_cache_size soient suffisamment
élevés (pour que le moteur estime qu’il peut passer par les index).
Le seul nœud de cette requête à être lent est le Seq Scan on posts. Il prend l’essentiel de
la durée de la requête. Pourquoi ? On compare pourtant id_article à une constante.
432
10. SQL : CE QU’IL NE FAUT PAS FAIRE
Heap Fetches: 1
Total runtime: 5.293 ms
(12 lignes)
433
https://dalibo.com/formations
SQL pour PostgreSQL
434
11. PL/PGSQL : LES BASES
11.1 PRÉAMBULE
• Vous apprendrez :
– À choisir si vous voulez écrire du PL
– À choisir votre langage PL
– Les principes généraux des langages PL autres que PL/pgSQL
– Les bases de PL/pgSQL
11.1.1 AU MENU
11.1.2 OBJECTIFS
435
https://dalibo.com/formations
SQL pour PostgreSQL
11.2 INTRODUCTION
• PL = Procedural Languages
• 3 langages activés par défaut : C, SQL et PL/pgSQL
Les quatre langages PL supportés nativement sont décrits en détail dans la documentation
officielle : * PL/PgSQL81 * PL/Tcl82 (existe en version trusted et untrusted) * PL/Perl83
(existe en version trusted et untrusted) * PL/Python84 (uniquement uniquement en version
untrusted)
D’autres langages PL sont accessibles en tant qu’extensions tierces. Les plus stables sont
également mentionnés dans la documentation85 .
Une liste plus large est par ailleurs disponible sur le wiki PostgreSQL86 . Il en ressort
qu’au moins 18 langages sont disponibles, dont 10 installables en production. De plus, il
est possible d’en ajouter d’autres, comme décrit dans la documentation87 .
81
https://docs.postgresql.fr/current/plpgsql.html
82
https://docs.postgresql.fr/current/pltcl.html
83
https://docs.postgresql.fr/current/plperl.html
84
https://docs.postgresql.fr/current/plpython.html
85
https://docs.postgresql.fr/current/external-pl.html
86
https://wiki.postgresql.org/wiki/PL_Matrix
87
https://docs.postgresql.fr/current/plhandler.html
436
11. PL/PGSQL : LES BASES
• Langage de confiance
– ne permet que l’accès à la base de données
– donc pas d’accès aux systèmes de fichiers, aux sockets réseaux, etc.
• Trusted : SQL, PL/pgSQL, PL/Perl, PL/Tcl
• Untrusted : PL/TclU, PL/PerlU, PL/Python, C…
Les langages de confiance ne peuvent accèder qu’à la base de données. Ils ne peuvent pas
accéder aux autres bases, aux systèmes de fichiers, au réseau, etc. Ils sont donc confinés,
ce qui les rend moins facilement utilisable pour compromettre le système. PL/pgSQL est
l’exemple typique. Mais de ce fait, ils offrent moins de possibilités que les autres langages.
Seuls les superutilisateurs peuvent créer une routine dans un langage untrusted. Par con-
tre, ils peuvent ensuite donner les droits d’exécution à ces routines aux autres utilisateurs.
Il peut y avoir de nombreuses raisons différentes à l’utilisation d’un langage PL. Simpli-
fier et centraliser des traitements clients directement dans la base est l’argument le plus
fréquent. Par exemple, une insertion complexe dans plusieurs tables, avec mise en place
d’identifiants pour liens entre ces tables, peut évidemment être écrite côté client. Il est
quelquefois plus pratique de l’écrire sous forme de PL. On y gagne :
Il est par exemple très simple d’écrire un traitement d’insertion/mise à jour en PL/pgSQL,
le langage étant créé pour simplifier ce genre de traitements, et la gestion des exceptions
437
https://dalibo.com/formations
SQL pour PostgreSQL
pouvant s’y produire. Si vous avez besoin de réaliser du traitement de chaîne puissant, ou
de la manipulation de fichiers, PL/Perl ou PL/Python seront probablement des options
plus intéressantes car plus performantes.
La grande variété des différents langages PL supportés par PostgreSQL permet normale-
ment d’en trouver un correspondant aux besoins et aux langages déjà maîtrisés dans
l’entreprise.
Les langages PL permettent donc de rajouter une couche d’abstraction et d’effectuer des
traitements avancés directement en base.
La plupart des gens ont eu l’occasion de faire du Pascal ou de l’ADA, et sont donc familiers
avec la syntaxe de PL/pgSQL. Cette syntaxe est d’ailleurs très proche de celle de PLSQL
d’Oracle.
Elle permet d’écrire des requêtes directement dans le code PL sans déclaration préalable,
sans appel à des méthodes complexes, ni rien de cette sorte. Le code SQL est mélangé
naturellement au code PL, et on a donc un sur-ensemble de SQL qui est procédural.
PL/pgSQL étant intégré à PostgreSQL, il hérite de tous les types déclarés dans le moteur,
même ceux rajoutés par l’utilisateur. Il peut les manipuler de façon transparente.
PL/pgSQL est trusted. Tous les utilisateurs peuvent donc créer des routines dans ce lan-
gage (par défaut). Vous pouvez toujours soit supprimer le langage, soit retirer les droits à
un utilisateur sur ce langage (via la commande SQL REVOKE).
438
11. PL/PGSQL : LES BASES
Les langages PL « autres », comme PL/Perl et PL/Python (les deux plus utilisés après
PL/pgSQL), sont bien plus évolués que PL/PgSQL. Par exemple, ils sont bien plus effi-
caces en matière de traitement de chaînes de caractères, ils possèdent des structures
avancées comme des tables de hachage, permettent l’utilisation de variables statiques
pour maintenir des caches, voire, pour leurs versions untrusted, peuvent effectuer des
appels systèmes. Dans ce cas, il devient possible d’appeler un Webservice par exemple,
ou d’écrire des données dans un fichier externe.
Il existe des langages PL spécialisés. Le plus emblématique d’entre eux est PL/R. R est
un langage utilisé par les statisticiens pour manipuler de gros jeux de données. PL/R
permet donc d’effectuer ces traitements R directement en base, traitements qui seraient
très pénibles à écrire dans d’autres langages.
Il existe aussi un langage qui est, du moins sur le papier, plus rapide que tous les langages
cités précédemment : vous pouvez écrire des procédures stockées en C, directement.
Elles seront compilées à l’extérieur de PosgreSQL, en respectant un certain formalisme,
puis seront chargées en indiquant la bibliothèque C qui les contient et leurs paramètres et
types de retour. Attention, toute erreur dans le code C est susceptible d’accéder à toute
la mémoire visible par le processus PostgreSQL qui l’exécute, et donc de corrompre les
données. Il est donc conseillé de ne faire ceci qu’en dernière extrémité.
Le gros défaut est simple et commun à tous ces langages : vous utilisez par exemple
PL/Perl. Perl n’est pas spécialement conçu pour s’exécuter en tant que langage de procé-
dures stockées. Ce que vous utilisez quand vous écrivez du PL/Perl est donc du code
Perl, avec quelques fonctions supplémentaires (préfixées par spi) pour accéder à la base
de données. L’accès aux données est donc rapide, mais assez fastidieux au niveau syntax-
ique, comparé à PL/pgSQL.
Un autre problème des langages PL (autre que C et PL/pgSQL), est que ces langages
n’ont pas les mêmes types natifs que PostgreSQL, et s’exécutent dans un interpréteur
relativement séparé. Les performances sont donc moindres que PL/pgSQL et C pour
les traitements dont le plus consommateur est l’accès aux données. Souvent, le temps
de traitement dans un de ces langages plus évolués est tout de même meilleur grâce au
temps gagné par les autres fonctionnalités (la possibilité d’utiliser un cache, ou une table
439
https://dalibo.com/formations
SQL pour PostgreSQL
• Procédure stockée
– ne renvoit pas de données
– permet le contrôle transactionnel
– disponible à partir de la version 11
• Fonction
– peut renvoyer des données
– utilisable dans un SELECT
– peut être de type TRIGGER, agrégat, fenêtrage
• Routine
– terme utilisé pour signifier procédure ou fonction
Les programmes écrits à l’aide des langages PL sont habituellement enregistrés sous forme
de routines :
• procédures ;
• fonctions ;
• fonctions trigger ;
• fonctions d’agrégat ;
• fonctions de fenêtrage (window functions).
Le code source de ces objets est stocké dans la table pg_proc du catalogue.
Les procédures, apparues avec PostgreSQL 11, sont très similaires aux fonctions. Les
principales différences entre les deux sont :
• Les fonctions doivent déclarer des arguments en sortie (RETURNS ou arguments OUT).
Il est possible d’utiliser void pour une fonction sans argument de sortie ; c’était
d’ailleurs la méthode utilisée pour émuler le comportement d’une procédure avant
leur introduction avec PostgreSQL 11.
• Les procédures offrent le support du contrôle transactionnel, c’est-à-dire la capacité
de valider (COMMIT) ou annuler (ROLLBACK) les modifications effectuées jusqu’à ce
point par la procédure.
• Les procédures sont appelées exclusivement par la commande SQL CALL ; les fonc-
tions sont peuvent être appelées dans la plupart des ordres DML/DQL (notamment
SELECT), mais pas par CALL.
• Les fonctions peuvent être déclarées de telle manière qu’elles peuvent être utilisées
dans des rôles spécifiques (TRIGGER, agrégat ou fonction de fenêtrage).
440
11. PL/PGSQL : LES BASES
11.3 INSTALLATION
Cependant, dans les paquets fournis par le PGDG pour Red Hat ou Debian, il faudra in-
staller explicitement le paquet dédié à plperl (yum install postgresql12-plperl ou
apt install postgresql-plperl-12).
Ainsi, la bibliothèque plperl.so que l’on trouvera dans ces répertoires contiendra les
fonctions qui permettent l’utilisation du langage PL/Perl. Elle est chargée par le moteur
à la première utilisation d’une procédure utilisant ce langage.
Le langage est activé uniquement dans la base dans laquelle la commande est lancée.
S’il faut l’activer sur plusieurs bases, il sera nécessaire d’exécuter cet ordre SQL sur les
différentes bases ciblées.
Activer un langage dans la base modèle template1 l’activera aussi pour toutes les bases
créées par la suite.
441
https://dalibo.com/formations
SQL pour PostgreSQL
lanname | lanpltrusted
---------+--------------
plpgsql | t
(1 ligne)
Si un langage est trusted, tous les utilisateurs peuvent créer des procédures dans ce lan-
gage. Sinon seuls les superutilisateurs le peuvent. Il existe par exemple deux variantes de
PL/Perl : PL/Perl et PL/PerlU. La seconde est la variante untrusted et est un Perl « com-
plet ». La version trusted n’a pas le droit d’ouvrir des fichiers, des sockets, ou autres appels
systèmes qui seraient dangereux.
Il est à noter que les langages PL sont généralement installés par le biais d’extensions :
base=# \dx
Liste des extensions installées
Nom | Version | Schéma | Description
-------------+---------+------------+---------------------------------------
plpgsql | 1.0 | pg_catalog | PL/pgSQL procedural language
442
11. PL/PGSQL : LES BASES
Demander l’exécution d’une procédure se fait en utilisant un ordre SQL spécifique : CALL.
L’usage en est extrêmement simple, puisque l’ordre ne sert qu’à invoquer une procédure.
Ainsi, la commande suivante :
Les fonctions ne sont quant à elles pas directement compatibles avec la commande CALL,
il faut les invoquer dans le contexte d’une commande SQL. Elles sont le plus couramment
appelées depuis des commandes de type DML (SELECT, INSERT, etc.), mais on peut aussi
les trouver dans d’autres commandes. Voici quelques exemples :
• dans un SELECT, en passant en argument les valeurs d’une colonne d’une table :
• dans le FROM d’un SELECT, la fonction renvoit ici généralement plusieurs lignes
(SETOF), et un résultat de type RECORD :
• dans une création d’index (index fonctionnel, la fonction sera réellement appelée
lors des mises à jour de l’index... attention la fonction doit être déclarée IMMUTABLE) :
• appel d’une fonction en paramètre d’une autre fonction ou d’une procédure, par
exemple ici le résultat de la fonction ma_fonction() (qui doit renvoyer une seule
ligne) est passé en argument d’entrée de la procédure ma_procedure() :
Par ailleurs, certaines fonctions sont spécialisées et ne peuvent être invoquées que dans
le contexte pour lequel elles ont été conçues (fonctions trigger, d’agrégat, de fenêtrage,
etc.).
444
11. PL/PGSQL : LES BASES
11.5.2 ARGUMENTS
L’option VARIADIC permet de définir une fonction avec un nombre d’arguments libres à
condition de respecter le type de l’argument (comme printf en C par exemple). Seul
un argument OUT peut suivre un argument VARIADIC : l’argument VARIADIC doit être le
dernier de la liste des paramètres en entrée puisque tous les paramètres en entrée suivant
seront considérées comme faisant partie du tableau variadic. Seuls les arguments IN et
VARIADIC sont utilisables avec une fonction déclarée renvoyant une table (clause RETURNS
445
https://dalibo.com/formations
SQL pour PostgreSQL
• Fonctions uniquement !
• Il faut aussi indiquer un type de retour : [ RETURNS rettype | RETURNS TABLE
( column_name column_type [, ...] ) ]
• sauf si un ou plusieurs paramètres sont en mode OUT ou INOUT
• rettype : type de la valeur en retour (parmi tous les types de base et les types
utilisateurs)
• void est un type de retour valide
• Il est aussi possible d’indiquer un type TABLE
• Peut renvoyer plusieurs lignes : clause SETOF
Le type de retour est obligatoire pour les fonctions et interdit pour les procédures.
Avant la version 11, il n’était pas possible de créer une procédure mais il était possible de
créer une fonction se comportant globalement comme une procédure en utilisant le type
de retour void.
Il est possible de renvoyer plusieurs colonnes grâce à la clause TABLE et plusieurs lignes
grâce à la clause SETOF.
446
11. PL/PGSQL : LES BASES
11.5.4 LANGAGE
Il n’y a pas de langage par défaut. Il est donc nécessaire de le spécifier à chaque création
d’une routine.
11.5.5 MODE
• Fonctions uniquement !
• Mode de la fonction IMMUTABLE | STABLE | VOLATILE
• Ce mode précise la « volatilité » de la fonction.
On peut indiquer à PostgreSQL le niveau de volatilité (ou de stabilité) d’une fonction. Ceci
permet d’aider PostgreSQL à optimiser les requêtes utilisant ces fonctions, mais aussi
d’interdire leur utilisation dans certains contextes.
Une fonction est IMMUTABLE (immuable) si son exécution ne dépend que de ses
paramètres. Elle ne doit donc dépendre ni du contenu de la base (pas de SELECT, ni de
modification de donnée de quelque sorte), ni d’aucun autre élément qui ne soit pas un
de ses paramètres. Par exemple, now() n’est évidemment pas immuable. Une fonction
sélectionnant des données d’une table non plus. to_char() n’est pas non plus immuable :
son comportement dépend des paramètres de session, par exemple to_char(timestamp
with time zone, text) dépend du paramètre de session timezone…
Une fonction est STABLE si son exécution donne toujours le même résultat sur toute la
durée d’un ordre SQL, pour les mêmes paramètres en entrée. Cela signifie que la fonction
ne modifie pas les données de la base. to_char() est stable.
Une fonction est VOLATILE dans tous les autres cas. random() est volatile. Une fonction
non déclarée comme stable ou immuable est volatile par défaut.
Une fonction immuable peut être remplacée par son résultat avant même la planification
d’une requête l’utilisant. L’exemple le plus simple est une simple opération arithmétique :
PostgreSQL substitue abs(-2) par 2 et planifie ensuite la requête. Cela fonctionne aussi,
bien sûr, avec les opérateurs (comme +), qui ne sont qu’un habillage syntaxique au-dessus
d’une fonction.
Une fonction stable pourrait en théorie être remplacée par son résultat pendant
l’exécution de la requête. C’est impossible de le faire avant car on ne sait pas dans
quel contexte la fonction va être appelée (en cas de requête préparée par exemple, les
paramètres de la session ou les données de la base peuvent changer entre la planification
et l’exécution). Par exemple, avec :
SELECT * FROM ma_table WHERE mon_timestamp > now()
PostgreSQL sait que now() (le timestamp de démarrage de la transaction) va être constant
pendant toute la durée de la transaction. Néanmoins, now() n’est pas immuable, il ne va
donc pas le remplacer par sa valeur avant d’exécuter la requête. Par contre, il pourrait en
théorie n’exécuter now() qu’une seule fois.
Néanmoins, cette optimisation n’est pas implémentée dans les versions actuelles de Post-
greSQL (voir par exemple cet échange sur pgsql-performances88 ).
Une autre importance existe, pour la création d’index sur fonction. Par exemple :
CREATE INDEX mon_index ON ma_table ((ma_fonction(ma_colonne)) ;
Ceci n’est possible que si la fonction est immuable. En effet, si le résultat de la fonction
dépend de l’état de la base ou d’autres paramètres, la fonction exécutée au moment de
la création de la clé d’index pourrait ne plus retourner le même résultat quand viendra le
moment de l’interroger. PostgreSQL n’acceptera donc que les fonctions IMMUTABLE dans
la déclaration des index fonctionnels.
88
https://www.postgresql.org/message-id/14964.1484780049%40sss.pgh.pa.us
448
11. PL/PGSQL : LES BASES
• Fonctions uniquement !
• Précision sur la façon dont la fonction gère les valeurs NULL : CALLED ON NULL
INPUT | RETURNS NULL ON NULL INPUT | STRICT
• CALLED ON NULL INPUT
– fonction appelée même si certains arguments sont NULL
• RETURNS NULL ON NULL INPUT ou STRICT
– la fonction renvoie NULL à chaque fois qu’au moins un argument est NULL
Si une fonction est définie comme STRICT et qu’un des arguments d’entrée est NULL, Post-
greSQL n’exécute même pas la fonction et utilise NULL comme résultat.
Dans la logique relationnelle, NULL signifie « la valeur est inconnue ». La plupart du temps,
il est logique qu’une fonction ayant un paramètre à une valeur inconnue retourne aussi
une valeur inconnue, ce qui fait que cette optimisation est très souvent pertinente.
On gagne à la fois en temps d’exécution, mais aussi en simplicité du code (il n’y a pas à
gérer les cas NULL pour une fonction dans laquelle NULL ne doit jamais être injecté).
Une fonction SECURITY INVOKER s’exécute avec les droits de l’appelant. C’est le mode
par défaut.
Une fonction SECURITY DEFINER s’exécute avec les droits du créateur. Cela permet, au
travers d’une fonction, de permettre à un utilisateur d’outrepasser ses droits de façon
contrôlée.
Bien sûr, une fonction SECURITY DEFINER doit faire l’objet d’encore plus d’attention
qu’une fonction normale. Elle peut facilement constituer un trou béant dans la sécurité
de votre base.
• Par défaut, toute fonction est exécutable par public. La première chose à faire est
donc de révoquer ce droit.
449
https://dalibo.com/formations
SQL pour PostgreSQL
• Il faut se protéger des variables de session qui pourraient être utilisées pour modifier
le comportement de la fonction, en particulier le search_path. Il doit donc impéra-
tivement être positionné en dur dans cette fonction (soit d’emblée, avec un SET
dans la fonction, soit en positionnant un SET dans le CREATE FUNCTION).
Le mot clé EXTERNAL est facultatif, et n’est là que pour être en conformité avec la norme
SQL. En effet, dans PostgreSQL, on peut modifier le security definer pour toutes les fonc-
tions, qu’elles soient externes ou pas.
link_symbol n’est à utiliser que quand le nom de la routine diffère du nom de la fonction
C qui l’implémente.
• Fonctions uniquement !
• COST cout_execution
– coût estimé pour l’exécution de la fonction
• ROWS nb_lignes_resultat
– nombre estimé de lignes que la fonction renvoie
ROWS vaut par défaut 1000 pour les fonctions SETOF. Pour les autres fonctions, la valeur
de ce paramètre est ignorée et remplacée par 1.
Ces deux paramètres ne modifient pas le comportement de la fonction. Ils ne servent que
pour aider l’optimiseur de requête à estimer le coût d’appel à la fonction, afin de savoir, si
plusieurs plans sont possibles, lequel est le moins coûteux par rapport au nombre d’appels
de la fonction et au nombre d’enregistrements qu’elle retourne.
450
11. PL/PGSQL : LES BASES
11.5.10 PARALLÉLISATION
• Fonctions uniquement !
• PARALLEL [UNSAFE | RESTRICTED | SAFE]
– la fonction peut-elle être exécutée en parallèle ?
PARALLEL UNSAFE indique que la fonction ne peut pas être exécutée dans le mode
parallèle. La présence d’une fonction de ce type dans une requête SQL force un plan
d’exécution en série. C’est la valeur par défaut.
Une fonction est non parallélisable si elle modifie l’état d’une base ou si elle fait des
changements sur la transaction.
PARALLEL RESTRICTED indique que la fonction peut être exécutée en mode parallèle mais
l’exécution est restreinte au processus principal d’exécution.
Une fonction peut être déclarée comme restreinte si elle accède aux tables temporaires,
à l’état de connexion des clients, aux curseurs, aux requêtes préparées.
PARALLEL SAFE indique que la fonction s’exécute correctement dans le mode parallèle
sans restriction.
En général, si une fonction est marquée sûre ou restreinte à la parallélisation alors qu’elle
ne l’est pas, elle pourrait renvoyer des erreurs ou fournir de mauvaises réponses lorsqu’elle
est utilisée dans une requête parallèle.
En cas de doute, les fonctions doivent être marquées comme UNSAFE, ce qui correspond
à la valeur par défaut.
use strict;
my ($nom_client, $titre_facture)=@_;
my $rv;
my $id_facture;
my $id_client;
$id_facture = $rv->{rows}[0]->{id_facture};
return $id_facture;
$function$ ;
Cette fonction n’est pas parfaite, elle ne protège pas de tout. Il est tout à fait possible
d’avoir une insertion concurrente entre le SELECT et le INSERT par exemple.
Il est clair que l’accès aux données est malaisé en PL/Perl, comme dans la plupart des
langages, puisqu’ils ne sont pas prévus spécifiquement pour cette tâche. Par contre, on
dispose de toute la puissance de Perl pour les traitements de chaîne, les appels système…
PL/Perl, c’est :
• Perl, moins les fonctions pouvant accéder à autre chose qu’à PostgreSQL (il faut
utiliser PL/PerlU pour passer outre cette limitation)
• Un bloc de code anonyme appelé par PostgreSQL
• Des fonctions d’accès à la base, spi_*
452
11. PL/PGSQL : LES BASES
Pour éviter les conflits avec les objets de la base, il est conseillé de préfixer les variables.
CREATE OR REPLACE FUNCTION
public.demo_insert_plpgsql(p_nom_client text, p_titre_facture text)
RETURNS integer
LANGUAGE plpgsql
STRICT
AS $function$
DECLARE
v_id_facture int;
v_id_client int;
BEGIN
-- Le client existe t'il ?
SELECT id_client
INTO v_id_client
FROM mes_clients
WHERE nom_client = p_nom_client;
-- Sinon on le crée :
IF NOT FOUND THEN
INSERT INTO mes_clients (nom_client)
VALUES (p_nom_client)
RETURNING id_client INTO v_id_client;
END IF;
-- Dans les deux cas, l'id client est maintenant dans v_id_client
return v_id_facture;
END;
$function$ ;
453
https://dalibo.com/formations
SQL pour PostgreSQL
Le langage PL/pgSQL n’est pas sensible à la casse, tout comme SQL (sauf les noms de
colonnes, si vous les mettez entre des guillemets doubles).
• DECLARE
– pour la déclaration des variables locales
• BEGIN
– pour indiquer le début du code de la routine
• END
– pour en indiquer la fin
• Instructions séparées par des points-virgules
• Commentaires commençant par -- ou compris entre /* et */
Une routine est composée d’un bloc de déclaration des variables locales et d’un bloc de
code. Le bloc de déclaration commence par le mot clé DECLARE et se termine avec le mot
clé BEGIN. Ce mot clé est celui qui débute le bloc de code. La fin est indiquée par le mot
clé END.
Toutes les instructions se terminent avec des points-virgules. Attention, DECLARE, BEGIN
et END ne sont pas des instructions.
Il est possible d’ajouter des commentaires. -- indique le début d’un commentaire qui se
terminera en fin de ligne. Pour être plus précis dans la délimitation, il est aussi possible
d’utiliser la notation C : /* est le début d’un commentaire et */ la fin.
454
11. PL/PGSQL : LES BASES
<<mon_label>>
-- le code (blocs DECLARE, BEGIN-END, et EXCEPTION)
[ <<mon_label>> ]
LOOP
ordres …
END LOOP [ mon_label ];
Bien sûr, il est aussi possible d’utiliser des labels pour des boucles FOR, WHILE, FOREACH.
On sort d’un bloc ou d’une boucle avec la commande EXIT, on peut aussi utiliser CONTINUE
pour passer à l’exécution suivante d’une boucle sans terminer l’itération courante.
Par exemple :
Une routine est surchargeable. La seule façon de les différencier est de prendre en compte
les arguments (nombre et type). Les noms des arguments peuvent être indiqués mais ils
seront ignorés.
455
https://dalibo.com/formations
SQL pour PostgreSQL
Deux routines identiques aux arguments près (on parle de prototype) ne sont pas iden-
tiques, mais bien deux routines distinctes.
CREATE OR REPLACE a principalement pour but de modifier le code d’une routine, mais il
est aussi possible de modifier les méta-données.
Toutes les méta-données discutées plus haut sont modifiables avec un ALTER.
456
11. PL/PGSQL : LES BASES
AS $ma_fonction_addition$
DECLARE
resultat integer;
BEGIN
resultat := entier1 + entier2;
RETURN resultat;
END
$ma_fonction_addition$;
On est obligé de multiplier les guillements pour les protéger, le code devient difficile à
lire.
Si vous avez besoin de mettre entre guillemets du texte qui inclut $$, vous pouvez utiliser
$Q$, et ainsi de suite. Le plus simple étant de définir un marqueur de fin de routine plus
complexe, par exemple incluant le nom de la fonction…
11.6 DÉCLARATIONS
En dehors des types natifs de PostgreSQL, PL/pgSQL y ajoute des types spécifiques pour
faciliter l’écriture des routines.
457
https://dalibo.com/formations
SQL pour PostgreSQL
Il est aussi possible d’utiliser une notation numérotée : le premier argument a pour nom
$1, le deuxième $2, etc.
En PL/pgSQL, pour utiliser une variable dans le corps de la routine (entre le BEGIN et le
END), il est obligatoire de l’avoir déclarée précédemment :
• sa valeur initiale (si rien n’est précisé, ce sera NULL par défaut) :
answer integer := 42;
• une contrainte NOT NULL (dans ce cas, il faut impérativement un défault différent
de NULL, et toute éventuelle affectation ultérieure de NULL à la variable provoquera
une erreur) :
answer integer NOT NULL DEFAULT 42;
458
11. PL/PGSQL : LES BASES
L’option CONSTANT permet de définir une variable pour laquelle il sera alors impossible
d’assigner une valeur dans le reste de la routine.
• Possible de récupérer le type d’une autre variable avec %TYPE sql quantite
integer; total quantite%TYPE
• Possible de récupérer le type de la colonne d’une table sql quantite
ma_table.ma_colonne%TYPE
• But
– utilisation de structures
– renvoi de plusieurs valeurs à partir d’une fonction
• Utiliser un type composite sql CREATE TYPE ma_structure AS
(un_entier integer, une_chaine text, ...); CREATE
FUNCTION ma_fonction () RETURNS ma_structure...;
• Possible d’utiliser le type composite défini par la ligne d’une table sql CREATE
FUNCTION ma_fonction () RETURNS integer AS ' DECLARE
ligne ma_table%ROWTYPE; ...
L’utilisation de %ROWTYPE permet de définir une variable qui contient la structure d’un
enregistrement de la table spécifiée. %ROWTYPE n’est pas obligatoire, il est néanmoins
préférable d’utiliser cette forme, bien plus portable. En effet, dans PostgreSQL, toute
459
https://dalibo.com/formations
SQL pour PostgreSQL
création de table crée un type associé de même nom, le nom de la table seul est donc
suffisant.
RECORD est beaucoup utilisé pour manipuler des curseurs : cela évite de devoir se préoc-
cuper de déclarer un type correspondant exactement aux colonnes de la requête associée
à chaque curseur.
460
11. PL/PGSQL : LES BASES
RETURN est inutile avec des paramètres OUT parce que c’est la valeur des paramètres OUT
à la fin de la fonction qui est retournée.
Dans le cas d’un RETURN NEXT, cela signifie que la fonction retourne un SETOF
d’enregistrements. Chaque appel à RETURN NEXT retourne donc un enregistrement
composé d’une copie de toutes les variables, au moment de l’appel à RETURN NEXT.
11.7 INSTRUCTIONS
• Concernent les opérations sur la base de données, comme une extraction ou mod-
ification
• Ou d’autres expressions, comme des calculs, comparaisons, etc.
• Toute expression écrite en PL/pgSQL sera passée à la commande SELECT pour
l’interprétation par le moteur
Dans ce cas, l’expression myvar > 0 sera préparée par le moteur en de la façon suivante :
Puis cette requête préparée sera exécutée en lui passant en paramètre la valeur de myvar
et la constante 0.
Privilégiez la première écriture pour la lisibilité, la seconde écriture est moins claire et
n’apporte rien puisqu’il s’agit ici d’une affectation de constante.
À noter que l’écriture suivante est également possible pour une affectation :
ma_variable := une_colonne FROM ma_table WHERE id = 5;
Cette méthode profite du fait que toutes les expressions du code PL/pgSQL vont être
passées au moteur SQL de PostgrSQL dans un SELECT pour être résolues. Cela va fonc-
tionner, mais c’est très peu lisible, et donc non recommandé.
• Affectation de la ligne renvoyée dans une variable de type RECORD ou ROW : sql
SELECT * INTO ma_variable_ligne FROM ma_table...;
• Si plusieurs enregistrements renvoyés : seul le premier est récupéré
• Pour contrôler qu’un seul enregistrement est renvoyé : remplacer INTO par INTO
STRICT
• Pour récupérer plus d’un enregistrement : écrire une boucle
• L’ordre est statique : on ne peut pas faire varier les colonnes retournées, la clause
WHERE, les tables…
Dans le cas du type ROW, la définition de la ligne doit correspondre parfaitement à la défi-
nition de la ligne renvoyée. Utiliser un type RECORD permet d’éviter ce type de problème.
La variable obtient directement le type ROW de la ligne renvoyée.
462
11. PL/PGSQL : LES BASES
• Exemple :
CREATE FUNCTION liste_entier (limite integer)
RETURNS SETOF integer
AS $$
BEGIN
FOR i IN 1..limite LOOP
RETURN NEXT i;
END LOOP;
END
$$ LANGUAGE plpgsql;
Ceci n’est qu’un exemple qui tente de reproduire la fonction generate_series. En pra-
tique, il est inutile et même contre-productif de créer ses propres fonctions pour réaliser
en moins bien ce que le moteur sait déjà faire.
Ainsi, la fonction native generate_series() possède plus d’options, gère d’autres types
comme des timestamps, etc. Programmée en C, une fonction intégrée est aussi générale-
ment plus rapide.
• Exécution :
ma_base=# SELECT * FROM liste_entier(5);
liste_entier
--------------
1
2
3
4
5
(5 lignes)
463
https://dalibo.com/formations
SQL pour PostgreSQL
On peut déterminer qu’aucune ligne n’a été trouvé par la requête en utilisant la variable
FOUND :
PERFORM * FROM ma_table WHERE une_colonne>0;
IF NOT FOUND THEN
...
END IF;
Pour récupérer le nombre de lignes affectées lar l’instruction exécutée, il faut récupérer
la variable de diagnostic ROW_COUNT :
GET DIAGNOSTICS variable = ROW_COUNT;
Il est à noter que le ROW_COUNT récupéré ainsi s’applique à l’ordre SQL précédent, quel
qu’il soit :
• PERFORM ;
• EXECUTE ;
• ou même à un ordre statique directement dans le code PL/pgSQL.
464
11. PL/PGSQL : LES BASES
• Sans STRICT
– cible contient la première ligne d’un résultat multi-lignes
– ou NULL s’il n’y a pas de résultat
• Avec STRICT
– une exception est levée si le résultat ne contient aucune ligne
(NO_DATA_FOUND) ou en contient plusieurs (TOO_MANY_ROWS)
• GET DIAGNOSTICS integer_var = ROW_COUNT
• Fonction quote_ident
– pour mettre entre guillemets un identifiant d’un objet PostgreSQL (table,
colonne, etc.)
• Fonction quote_literal
– pour mettre entre guillemets une valeur (chaîne de caractères)
• Fonction quote_nullable
– pour mettre entre guillemets une valeur (chaîne de caractères), sauf NULL
qui sera alors renvoyé sans les guillemets
• || à utiliser pour concaténer tous les morceaux de la requête
• ou fonction format(...), équivalent de sprintf en C
La fonction format est l’équivalent de la fonction sprintf en C : elle formate une chaine
en fonction d’un patron et de valeurs à appliquer à ses paramètres et la retourne. Les
types de paramètre reconnus par format sont :
465
https://dalibo.com/formations
SQL pour PostgreSQL
466
11. PL/PGSQL : LES BASES
IF condition THEN
instructions
[ELSEIF condition THEN
instructions]
[ELSEIF condition THEN
instructions]
[ELSE
instructions]
END IF
Ce dernier est l’équivalent d’un CASE en C pour une vérification de plusieurs alternatives.
Exemple :
IF nombre = 0 THEN
resultat := 'zero';
ELSEIF nombre > 0 THEN
resultat := 'positif';
ELSEIF nombre < 0 THEN
resultat := 'négatif';
ELSE
resultat := 'indéterminé';
END IF;
467
https://dalibo.com/formations
SQL pour PostgreSQL
Deux possibilités :
• 1ère : sql CASE variable WHEN expression THEN instructions
ELSE instructions END CASE
• 2nde : sql CASE WHEN expression-booléene THEN instructions
ELSE instructions END CASE
Quelques exemples :
CASE x
WHEN 1, 2 THEN
msg := 'un ou deux';
ELSE
msg := 'autre valeur que un ou deux';
END CASE;
CASE
WHEN x BETWEEN 0 AND 10 THEN
msg := 'la valeur est entre 0 et 10';
WHEN x BETWEEN 11 AND 20 THEN
msg := 'la valeur est entre 11 et 20';
END CASE;
468
11. PL/PGSQL : LES BASES
Exemple :
LOOP
resultat := resultat + 1;
EXIT WHEN resultat > 100;
CONTINUE WHEN resultat < 50;
resultat := resultat + 1;
END LOOP;
Cette boucle incrémente le résultat de 1 à chaque itération tant que la valeur du résultat
est inférieure à 50. Ensuite, le résultat est incrémenté de 1 à deux reprises pour chaque
tout de boucle, on incrémente donc de 2 par tour de boucle. Arrivé à 100, la procédure
sort de la boucle.
469
https://dalibo.com/formations
SQL pour PostgreSQL
Exemple :
FOR a, b, c, d IN SELECT col_a, col_b, col_c, col_d FROM ma_table
LOOP
-- instructions
END LOOP;
• sans SLICE :
do $$
declare a int[] := ARRAY[[1,2],[3,4],[5,6]];
b int;
begin
470
11. PL/PGSQL : LES BASES
• Avec SLICE :
do $$
declare a int[] := ARRAY[[1,2],[3,4],[5,6]];
b int[];
begin
foreach b slice 1 in array a loop
raise info 'var: %', b;
end loop;
end $$;
INFO: var: {1,2}
INFO: var: {3,4}
INFO: var: {5,6}
• RETURN [expression]
• Renvoie cette expression à la requête appelante
• expression optionnelle si argument(s) déclarés OUT
– RETURN lui-même optionnel si argument(s) déclarés OUT
471
https://dalibo.com/formations
SQL pour PostgreSQL
Tout est conservé en mémoire jusqu’à la fin de la fonction. Donc, si beaucoup de données
sont renvoyées, cela pourrait occasionner quelques lenteurs.
Par ce mécanisme, on peut très simplement produire une fonction retournant le résultat
d’une requête complexe fabriquée à partir de quelques paramètres.
11.10 CONCLUSION
472
11. PL/PGSQL : LES BASES
• Documentation officielle
– « Chapitre 40. PL/pgSQL - Langage de procédures SQL »
11.10.2 QUESTIONS
89
https://docs.postgresql.fr/current/plpgsql.html
473
https://dalibo.com/formations
SQL pour PostgreSQL
TP1.1 Écrire une fonction hello qui renvoie la chaîne de caractère « Hello World! » en
SQL.
Écrire une fonction hello_pl qui renvoie la chaîne de caractère « Hello World! » en
PL/pgSQL.
Comparer les coûts des deux plans d’exécutions de ces requêtes. Expliquer les coûts.
TP1.2 Écrire une fonction de division appelée division. Elle acceptera en entrée deux
arguments de type entier et renverra un nombre flottant.
Comment corriger le problème de la division par zéro ? Écrivez cette nouvelle fonction
dans les deux languages.
Conseil : dans ce genre de calcul impossible, il est possible d’utiliser avec PostgreSQL la
constante NaN (Not A Number).
TP1.3 Écrire une fonction de multiplication dont les arguments sont des chiffres en toute
lettre.
Par exemple, appeler la fonction avec comme arguments les chaînes « deux » et « trois »
doit renvoyer 6.
TP1.4 Écrire une fonction qui prend en argument le nom de l’utilisateur puis lui dit «
Bonjour » ou « Bonsoir » suivant l’heure actuelle. Pour cela, aidez-vous de la fonction
to_char().
Trouvez une meilleure méthode, plus performante, que l’utilisation de to_char() pour
calculer l’heure courante.
474
11. PL/PGSQL : LES BASES
TP1.5
Problème
Enfin, écrire une fonction qui renvoie tous les jours fériés d’une année (libellé et date).
Quelques conseils
Les valeurs de p et de q varient de 100 ans en 100 ans. De 2000 à 2100, p vaut 24, q
vaut 5.
En ce qui concerne l’Ascension, cette fête a lieu le jeudi de la sixième semaine après
Pâques (soit trente-neuf jours après Pâques).
TP1.6 Écrire une fonction qui inverse une chaîne (si « toto » en entrée, « otot » en sortie).
(note : une fonction reverse() existe déjà dans PostgreSQL, utiliser un autre nom pour
cette fonction, par exemple inverser()).
Utiliser la fonction \timing de psql pour tester la rapidité de cette fonction. Quelque
fois, PL/pgSQL n’est pas un langage assez rapide.
Créer une fonction nb_bouteilles qui renvoie le nombre de bouteilles en stock suivant
une année et un type de vin (donc passés en paramètre).
475
https://dalibo.com/formations
SQL pour PostgreSQL
TP1.8 Créer une fonction qui renvoie le même résultat que la requête précédente mais
sans utiliser generate_series. Elle a donc trois arguments : l’année de début, l’année de
fin et le type de fin. Elle renvoie pour chaque année, l’année elle-même et le nombre de
bouteilles pour cette année. Elle peut faire appel à nb_bouteilles.
Pour aller plus loin - Écrire la même fonction que la question précédente, mais avec des
paramètres OUT. - Écrire la même fonction que la question précédente, mais en utilisant
une fonction variadic pour les années.
476
11. PL/PGSQL : LES BASES
TP1.1 Solution :
Requêtage :
Par défaut, si on ne précise pas le coût (COST) d’une fonction, cette dernière a un coût par
défaut de 100. Ce coût est à multiplier par la valeur de cpu_operator_cost, par défaut
à 0.0025. Le coût total d’appel de la fonction hello_pl est donc par défaut de :
100*cpu_operator_cost + cpu_tuple_cost
TP1.2 Solution :
END
$BODY$
LANGUAGE plpgsql;
Requêtage :
cave=# SELECT division(4,2);
division
----------
2
(1 ligne)
Solution 2 :
CREATE OR REPLACE FUNCTION division(arg1 integer, arg2 integer)
RETURNS float4
AS $BODY$
BEGIN
IF arg2 = 0 THEN
RETURN 'NaN';
ELSE
RETURN arg1::float4/arg2::float4;
END IF;
END $BODY$
LANGUAGE plpgsql;
478
11. PL/PGSQL : LES BASES
Requêtage 2 :
TP1.3 Solution :
RETURN a1*a2;
END
$BODY$
LANGUAGE plpgsql;
Requêtage:
480
11. PL/PGSQL : LES BASES
(1 ligne)
Solution 2 :
ret := NULL;
END IF;
RETURN ret;
END
$BODY$
LANGUAGE 'plpgsql';
Requêtage 2 :
(1 ligne)
TP1.4 Solution :
482
11. PL/PGSQL : LES BASES
BEGIN
heure := to_char(now(), 'HH24');
IF heure > 12
THEN
libelle := 'Bonsoir';
ELSE
libelle := 'Bonjour';
END IF;
Requêtage :
cave=# SELECT salutation ('Guillaume');
salutation
---------------------
Bonsoir Guillaume !
(1 ligne)
Solution 2 :
CREATE OR REPLACE FUNCTION salutation(IN utilisateur text, OUT message text)
AS $BODY$
DECLARE
heure integer;
libelle text;
BEGIN
heure := to_char(now(), 'HH24');
IF heure > 12
THEN
libelle := 'Bonsoir';
ELSE
libelle := 'Bonjour';
END IF;
Requêtage 2 :
cave=# SELECT salutation ('Guillaume');
salutation
---------------------
Bonsoir Guillaume !
483
https://dalibo.com/formations
SQL pour PostgreSQL
(1 ligne)
Solution 3 :
Fonction en SQL :
TP1.5 Solution :
484
11. PL/PGSQL : LES BASES
RETURN r;
END;
$$
LANGUAGE plpgsql;
485
https://dalibo.com/formations
SQL pour PostgreSQL
RETURN;
END;
$$
LANGUAGE plpgsql;
Requêtage :
Cette solution nécessite d’utiliser un alias de la fonction lors de son appel, sinon Post-
greSQL ne sait pas déterminer la définition des colonnes retournées par la fonction.
Solution 2 :
Une autre forme d’écriture possible consiste à indiquer les deux colonnes de retour
comme des paramètres OUT :
486
11. PL/PGSQL : LES BASES
DECLARE
f integer;
r record;
BEGIN
SELECT 'Jour de l''an'::text, (annee::text||'-01-01')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Pâques'::text, paques(annee)::date + 1 INTO libelle, jour;
RETURN NEXT;
SELECT 'Ascension'::text, ascension(annee)::date INTO libelle, jour;
RETURN NEXT;
SELECT 'Fête du travail'::text, (annee::text||'-05-01')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Victoire 1945'::text, (annee::text||'-05-08')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Fête nationale'::text, (annee::text||'-07-14')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Assomption'::text, (annee::text||'-08-15')::date INTO libelle, jour;
RETURN NEXT;
SELECT 'La toussaint'::text, (annee::text||'-11-01')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Armistice 1918'::text, (annee::text||'-11-11')::date
INTO libelle, jour;
RETURN NEXT;
SELECT 'Noël'::text, (annee::text||'-12-25')::date INTO libelle, jour;
RETURN NEXT;
RETURN;
END;
$function$;
À noter l’ajout d’une valeur par défaut pour le paramètre alsace_moselle. Cela permet
d’appeler la fonction vacances sans spécifier le seconde argument :
TP1.6 Solution :
488
11. PL/PGSQL : LES BASES
TP1.7 Solution :
CREATE OR REPLACE FUNCTION nb_bouteilles(v_annee integer, v_typevin text)
RETURNS integer
AS $BODY$
DECLARE
nb integer;
BEGIN
SELECT INTO nb count(*) FROM vin v
JOIN stock s ON v.id=s.vin_id
JOIN type_vin t ON v.type_vin_id=t.id
WHERE
s.annee=v_annee
AND t.libelle=v_typevin;
RETURN nb;
END
$BODY$
LANGUAGE 'plpgsql';
Requêtage :
ORDER BY a;
TP1.8 Solution :
CREATE OR REPLACE FUNCTION
nb_bouteilles(v_anneedeb integer, v_anneefin integer, v_typevin text)
RETURNS SETOF record
AS $BODY$
DECLARE
resultat record;
i integer;
BEGIN
FOR i in v_anneedeb..v_anneefin
LOOP
SELECT INTO resultat i, nb_bouteilles(i, v_typevin);
RETURN NEXT resultat;
END LOOP;
RETURN;
END
$BODY$
LANGUAGE 'plpgsql';
Requêtage :
SELECT * FROM nb_bouteilles(1990, 2000, 'blanc')
AS (annee integer, nb integer);
490
12. PL/PGSQL AVANCÉ
12 PL/PGSQL AVANCÉ
491
https://dalibo.com/formations
SQL pour PostgreSQL
12.1 PRÉAMBULE
12.1.1 AU MENU
12.1.2 OBJECTIFS
492
12. PL/PGSQL AVANCÉ
L’utilisation du mot clé VARIADIC dans la déclaration des routines permet d’utiliser un
nombre variable d’arguments dans la mesure où tous les arguments optionnels sont du
même type de données. Ces arguments sont passés à la fonction sous forme de tableau
d’arguments du même type.
Il n’est pas possible d’utiliser d’autres arguments en entrée à la suite d’un paramètre
VARIADIC.
493
https://dalibo.com/formations
SQL pour PostgreSQL
En PL/pgSQL, il est possible d’utiliser une boucle FOREACH pour parcourir directement le
tableau des arguments optionnels.
CREATE OR REPLACE FUNCTION pluspetit(VARIADIC liste numeric[])
RETURNS numeric
LANGUAGE plpgsql
AS $function$
DECLARE
courant numeric;
plus_petit numeric;
BEGIN
FOREACH courant IN ARRAY liste LOOP
IF plus_petit IS NULL OR courant < plus_petit THEN
plus_petit := courant;
END IF;
END LOOP;
RETURN plus_petit;
END
$function$;
494
12. PL/PGSQL AVANCÉ
• Typer les variables oblige à dupliquer les routines communes à plusieurs types
• PostgreSQL propose des types polymorphes
• Le typage se fait à l’exécution
Pour pouvoir utiliser la même fonction en utilisant des types différents, il est nécessaire
de la redéfinir avec les différents types autorisés en entrée. Par exemple, pour autoriser
l’utilisation de données de type integer ou float en entrée et retournés par une même
fonction, il faut la dupliquer.
CREATE OR REPLACE FUNCTION
addition(var1 integer, var2 integer)
RETURNS integer
AS $$
DECLARE
somme integer;
BEGIN
somme := var1 + var2;
RETURN somme;
END;
$$ LANGUAGE plpgsql;
495
https://dalibo.com/formations
SQL pour PostgreSQL
496
12. PL/PGSQL AVANCÉ
L’opérateur + étant défini pour les entiers comme pour les numeric, la fonction ne pose
aucun problème pour ces deux types de données, et retourne une donnée du même type
que les données d’entrée.
Le typage n’étant connu qu’à l’exécution, c’est aussi à ce moment que se déclenchent les
erreurs.
De même, l’affectation du type unique pour tous les éléments se fait sur la base du premier
élément, ainsi :
génère une erreur car du premier argument est déduit le type integer, ce qui n’est évide-
ment pas le cas du deuxième. Il peut donc être nécessaire d’utiliser une conversion ex-
plicite pour résoudre ce genre de problématique.
• Fonction stockée
• Action déclenchée par INSERT (incluant COPY), UPDATE, DELETE, TRUNCATE
• Mode par ligne ou par instruction
• Exécution d’une fonction stockée codée à partir de tout langage de procédure
activée dans la base de données
Un trigger est une spécification précisant que la base de données doit exécuter une fonc-
tion particulière quand un certain type d’opération est traité. Les fonctions trigger peu-
vent être définies pour s’exécuter avant ou après une commande INSERT, UPDATE, DELETE
ou TRUNCATE.
La fonction trigger doit être définie avant que le trigger lui-même puisse être créé. La
fonction trigger doit être déclarée comme une fonction ne prenant aucun argument et
retournant un type trigger.
Une fois qu’une fonction trigger est créée, le trigger est créé avec CREATE TRIGGER. La
même fonction trigger est utilisable par plusieurs triggers.
Un trigger TRUNCATE ne peut utiliser que le mode par instruction, contrairement aux autres
triggers pour lesquels vous avez le choix entre « par ligne » et « par instruction ».
Enfin, l’instruction COPY est traitée comme s’il s’agissait d’une commande INSERT.
498
12. PL/PGSQL AVANCÉ
À noter que les problématiques de visibilité et de volatilité depuis un trigger sont assez
complexes dès lors que l’on lit ou modifie les données. Voir la documentation90 pour plus
de détails à ce sujet.
• OLD :
– type de données RECORD correspondant à la ligne avant modification
– valable pour un DELETE et un UPDATE
• NEW :
– type de données RECORD correspondant à la ligne après modification
– valable pour un INSERT et un UPDATE
• Ces deux variables sont valables uniquement pour les triggers en mode ligne
– pour les triggers en mode instruction, la version 10 propose les tables de
transition
• Accès aux champs par la notation pointée
– NEW.champ1 pour accéder à la nouvelle valeur de champ1
• TG_NAME
– nom du trigger qui a déclenché l’appel de la fonction
• TG_WHEN
– chaîne valant BEFORE, AFTER ou INSTEAD OF suivant le type du trigger
• TG_LEVEL
– chaîne valant ROW ou STATEMENT suivant le mode du trigger
• TG_OP
– chaîne valant INSERT, UPDATE, DELETE, TRUNCATE suivant l’opération qui a
déclenché le trigger
90
https://docs.postgresql.fr/current/trigger-datachanges.html
499
https://dalibo.com/formations
SQL pour PostgreSQL
• TG_RELID
– OID de la table qui a déclenché le trigger
• TG_TABLE_NAME
– nom de la table qui a déclenché le trigger
• TG_TABLE_SCHEMA
– nom du schéma contenant la table qui a déclenché le trigger
Vous pourriez aussi rencontrer dans du code la variable TG_RELNAME. C’est aussi le nom de
la table qui a déclenché le trigger. Attention, cette variable est obsolète, il est préférable
d’utiliser maintenant TG_TABLE_NAME.
• TG_NARGS
– nombre d’arguments donnés à la fonction trigger
• TG_ARGV
– les arguments donnés à la fonction trigger (le tableau commence à 0)
La fonction trigger est déclarée sans arguments mais il est possible de lui en passer dans
la déclaration du trigger. Dans ce cas, il faut utiliser les deux variables ci-dessus pour y
accéder. Attention, tous les arguments sont convertis en texte. Il faut donc se cantonner
à des informations simples, sous peine de compliquer le code.
NEW.datecreate := current_timestamp;
return NEW;
500
12. PL/PGSQL AVANCÉ
END;
$$
LANGUAGE plpgsql;
Une fonction trigger retourne le type spécial trigger. Pour cette raison, ces fonctions ne
peuvent être utilisées que dans le contexte d’un ou plusieurs triggers. Pour pouvoir être
utilisée comme valeur de retour dans la fonction (avec RETURN), une variable doit être de
structure identique à celle de la table sur laquelle le trigger a été déclenché. Les variables
spéciales OLD (ancienne valeur avant application de l’action à l’origine du déclenchement)
et NEW (nouvelle valeur après application de l’action) sont également disponibles, utilis-
ables et même modifiables.
La valeur de retour d’un trigger de type ligne (ROW) déclenché avant l’opération (BEFORE)
peut changer complètement l’effet de la commande ayant déclenché le trigger. Par exem-
ple, il est possible d’annuler complètement l’action sans erreur (et d’empêcher également
tout déclenchement ultérieur d’autres triggers pour cette même action) en retournant
NULL. Il est également possible de changer les valeurs de la nouvelle ligne créée par une
action INSERT ou UPDATE en retournant une des valeurs différentes de NEW (ou en modi-
fiant NEW directement). Attention, dans le cas d’une fonction trigger BEFORE déclenchée
501
https://dalibo.com/formations
SQL pour PostgreSQL
par une action DELETE, in faut prendre en compte que NEW contient NULL, en conséquence
RETURN NEW; provoquera l’annulation du DELETE ! Dans ce cas, si on désire laisser l’action
inchangée, la convention est de faire un RETURN OLD;.
En revanche, la valeur de retour utilisée n’a pas d’effet dans les cas des triggers ROW et
AFTER, et des triggers STATEMENT. À noter que bien que la valeur de retour soit ignorée
dans ce cas, il est possible d’annuler l’action d’un trigger de type ligne intervenant après
l’opération ou d’un trigger à l’instruction en remontant une erreur à l’exécution de la fonc-
tion.
502
12. PL/PGSQL AVANCÉ
• On peut ne déclencher un trigger que si une condition est vérifiée. Cela simplifie
souvent le code du trigger, et gagne en performances : plus besoin pour le moteur
d’aller exécuter la fonction.
• On peut ne déclencher un trigger que si une colonne spécifique a été modifiée. Il
ne s’agit donc que de triggers sur UPDATE. Encore un moyen de simplifier le code et
de gagner en performances en évitant les déclenchements inutiles.
• On peut créer un trigger en le déclarant comme étant un trigger de contrainte. Il
peut alors être deferrable, deferred, comme tout autre contrainte, c’est-à-dire n’être
exécuté qu’au moment de la validation de la transaction, ce qui permet de ne vérifier
les contraintes implémentées par le trigger qu’au moment de la validation finale.
• On peut créer un trigger sur une vue. C’est un trigger INSTEAD OF, qui permet de
programmer de façon efficace les INSERT/UPDATE/DELETE/TRUNCATE sur les vues.
Auparavant, il fallait passer par le système de règles (RULES), complexe et sujet à
erreurs.
Dans le cas d’un trigger en mode instruction, il n’est pas possible d’utiliser les variables
OLD et NEW car elles ciblent une seule ligne. Pour cela, le standard SQL parle de tables de
transition.
503
https://dalibo.com/formations
SQL pour PostgreSQL
Nous allons créer une table t1 qui aura le trigger et une table archives qui a pour but de
récupérer les enregistrements supprimés de la table t1.
CREATE TABLE t1 (c1 integer, c2 text);
504
12. PL/PGSQL AVANCÉ
Donc la suppression des lignes met 0,7 seconde alors que l’exécution du trigger met 1,5
seconde.
Pour comparer, voici l’ancienne façon de faire (configuration d’un trigger en mode ligne) :
TRUNCATE archives;
TRUNCATE t1;
TRUNCATE archives;
Donc avec un trigger en mode ligne, la suppression du million de lignes met presque
9 secondes à s’exécuter, dont 7,7 pour l’exécution du trigger. Sur le trigger en mode
instruction, il faut compter 2,2 secondes, dont 1,5 sur le trigger. Les tables de transition
nous permettent de gagner en performance.
Le gros intérêt des tables de transition est le gain en performance que cela apporte.
12.5 CURSEURS
À noter que la notion de curseur existe aussi en SQL pur, sans passer par une routine
PL/pgSQL. On les crée en utilisant la commande DECLARE, et les règles de manipulation
sont légèrement différentes (on peut par exemple créer un curseur WITH HOLD, qui per-
sistera après la fin de la transaction). Voir la documentation pour plus d’informations à ce
sujet : https://docs.postgresql.fr/current/sql-declare.html
506
12. PL/PGSQL AVANCÉ
La première forme permet la création d’un curseur non lié à une requête.
507
https://dalibo.com/formations
SQL pour PostgreSQL
• direction du FETCH :
– NEXT, PRIOR
– FIRST, LAST
– ABSOLUTE nombre, RELATIVE nombre
– nombre
– ALL
– FORWARD, FORWARD nombre, FORWARD ALL
– BACKWARD, BACKWARD nombre, BACKWARD ALL
• Mise à jour d’une ligne d’un curseur : sql UPDATE une_table SET ...
WHERE CURRENT OF curseur;
• Suppression d’une ligne d’un curseur : sql DELETE FROM une_table
WHERE CURRENT OF curseur;
Attention, ces différentes syntaxes ne modifient pas les données dans le curseur en
mémoire, mais font réellement la modification dans la table. L’emplacement actuel du
curseur est utilisé ici pour identifier la ligne correspondante à mettre à jour.
508
12. PL/PGSQL AVANCÉ
Voici un exemple d’utilisation d’une référence de curseur retournée par une fonction :
• Procédures uniquement !
• COMMIT et ROLLBACK
• Pas de BEGIN
– automatique après la fin d’une transaction
• Ne fonctionne pas à l’intérieur d’une transaction
• Incompatible avec une clause EXCEPTION
Voici un exemple avec COMMIT ou ROLLBACK suivant que le nombre est pair ou impair :
509
https://dalibo.com/formations
SQL pour PostgreSQL
CALL transaction_test1();
Une exemple plus fréquemment utilisé est celui d’une procédure effectuant un traitement
de modification des données par lots, et donc faisant un COMMIT à intervalle régulier.
Noter qu’il n’y a pas de BEGIN explicite dans la gestion des transactions. Après un COMMIT
ou un ROLLBACK, un BEGIN est immédiatement exécuté.
On ne peut pas utiliser en même temps une clause EXCEPTION et le contrôle transaction-
nel :
DO LANGUAGE plpgsql $$
BEGIN
BEGIN
510
12. PL/PGSQL AVANCÉ
• Sans exceptions :
– toute erreur provoque un arrêt de la fonction
– toute modification suite à une instruction SQL (INSERT, UPDATE, DELETE) est
annulée
– d’où l’ajout d’une gestion personnalisée des erreurs avec le concept des ex-
ceptions
END
512
12. PL/PGSQL AVANCÉ
• Les erreurs sont contenues dans des classes d’erreurs plus génériques, qui peuvent
aussi être utilisées
L’instruction GET STACKED DIAGNOSTICS permet d’avoir une vision plus précise de
l’erreur récupéré par le bloc de traitement des exceptions. La liste de toutes les
informations que l’on peut collecter est disponible dans la documentation92 .
91
https://docs.postgresql.fr/current/errcodes-appendix.html
92
https://docs.postgresql.fr/current/plpgsql-control-structures.html#plpgsql-exception-diagnostics-values
513
https://dalibo.com/formations
SQL pour PostgreSQL
END;
RETURN;
END;
$$ LANGUAGE plpgsql;
# SELECT test(2);
test
------
(1 row)
# SELECT test(2);
NOTICE: Et une exception :
state : 23505
message: duplicate key value violates unique constraint "t5_pkey"
detail : Key (c1)=(2) already exists.
hint :
context: SQL statement "INSERT INTO t5 (c1) VALUES ($1)"
PL/pgSQL function test(integer) line 10 at SQL statement
test
------
(1 row)
• Envoyer une trace dans les journaux applicatifs et/ou vers le client
– RAISE niveau message
• Niveau correspond au niveau d’importance du message
– DEBUG, LOG, INFO, NOTICE, WARNING, EXCEPTION
• Message est la trace à enregistrer
• Message dynamique... tout signe % est remplacé par la valeur indiquée après le
message
• Champs DETAIL et HINT disponibles
Il convient de noter qu’un message envoyé de cette manière ne fera pas partie de
l’éventuel résultat d’une fonction, et ne sera donc pas exploitable en SQL. Pour cela, il
faut utiliser l’instruction RETURN avec un type de retour approprié.
Le traitement des messages de ce type et leur destination d’envoi sont contrôlés par le
serveur à l’aide des paramètres log_min_messages et client_min_messages.
514
12. PL/PGSQL AVANCÉ
Exemples :
RAISE WARNING 'valeur % interdite', valeur;
RAISE WARNING 'valeur % ambigue',
valeur
USING HINT = 'Controlez la valeur saisie en amont';
Les autres niveaux pour RAISE ne sont que des messages, sans déclenchement
d’exception.
515
https://dalibo.com/formations
SQL pour PostgreSQL
Exemple :
RAISE EXCEPTION 'erreur interne';
-- La chose à ne pas faire !
Le rôle d’une exception est d’intercepter une erreur pour exécuter un traitement per-
mettant soit de corriger l’erreur, soit de remonter une erreur pertinente. Intercepter un
problème pour retourner « erreur interne » n’est pas une bonne idée.
# SELECT demo_exception();
ERROR: duplicate key value violates unique constraint "ma_table_id_key"
DETAIL: Key (id)=(1) already exists.
CONTEXT: SQL statement "INSERT INTO ma_table VALUES (1)"
PL/pgSQL function demo_exception() line 6 at SQL statement
516
12. PL/PGSQL AVANCÉ
# SELECT demo_exception();
NOTICE: violation d'unicite, mais celle-ci n'est pas grave
NOTICE: erreur: duplicate key value violates unique constraint "ma_table_id_key"
demo_exception
----------------
(1 row)
La table n’en reste pas moins vide pour autant puisque le bloc a été annulé.
517
https://dalibo.com/formations
SQL pour PostgreSQL
# SELECT demo_exception();
NOTICE: violation d'unicite, mais celle-ci n'est pas grave
NOTICE: erreur: duplicate key value violates unique constraint "ma_table_id_key"
demo_exception
----------------
(1 row)
Mais cette fois-ci, le bloc BEGIN parent n’a pas eu d’exception, il s’est donc bien terminé.
518
12. PL/PGSQL AVANCÉ
On commence par ajouter une contrainte sur la colonne pour empêcher les valeurs
supérieures ou égales à 10 :
Puis, on recrée la fonction de façon à ce qu’elle déclenche cette erreur dans le bloc le plus
bas, et la gère uniquement dans le bloc parent :
Exécutons la fonction :
# SELECT demo_exception();
ERROR: duplicate key value violates unique constraint "ma_table_id_key"
DETAIL: Key (id)=(1) already exists.
CONTEXT: SQL statement "INSERT INTO ma_table VALUES (1)"
PL/pgSQL function demo_exception() line 4 at SQL statement
se déclenche donc dans le bloc parent, sans espoir d’interception: nous n’avons pas
d’exception pour lui.
Le gestionnaire d’exception qui intercepte l’erreur est bien ici celui de l’appelant. Par
ailleurs, comme nous retournons nous-même une exception, la requête ne retourne pas
de résultat, mais une erreur : il n’y a plus personne pour récupérer l’exception, c’est donc
PostgreSQL lui-même qui s’en charge.
12.8 SÉCURITÉ
520
12. PL/PGSQL AVANCÉ
• SECURITY INVOKER
– la routine s’exécute avec les droits de l’utilisateur qui l’exécute
• SECURITY DEFINER
– la routine s’exécute avec les droits de l’utilisateur qui en est le propriétaire
– équivalent du sudo Unix
• Il faut impérativement sécuriser les variables d’environnement (surtout le search
path) en SECURITY DEFINER
521
https://dalibo.com/formations
SQL pour PostgreSQL
• LEAKPROOF
– indique au planificateur que la routine ne peut pas faire fuiter d’information
de contexte
– réservé aux superutilisateurs
– si on la déclare telle, s’assurer que la routine est véritablement sûre !
• Option utile lorsque l’on utilise des vues avec l’option security_barrier
Certains utilisateurs créent des vues pour filtrer des lignes, afin de restreindre la visibil-
ité sur certaines données. Or, cela peut se révéler dangereux si un utilisateur malinten-
tionné a la possibilité de créer une fonction car il peut facilement contourner cette sécu-
rité si cette option n’est pas utilisée, notamment en jouant sur des paramètres de fonction
comme COST, qui permet d’indiquer au planificateur un coût estimé pour la fonction.
522
12. PL/PGSQL AVANCÉ
-[ RECORD 1 ]--------------------------
proargnames | {var1,var2}
prosrc |
: DECLARE
: somme ALIAS FOR $0;
: BEGIN
: somme := var1 + var2;
: RETURN somme;
: END;
:
DECLARE
ma_requete text;
ma_ligne record;
BEGIN
ma_requete := 'SELECT * FROM ma_table_secrete1 WHERE ' || param1 || ' = ' ||
value1 || ' AND a < 10';
RETURN QUERY EXECUTE ma_requete;
END
$function$;
524
12. PL/PGSQL AVANCÉ
(20 lignes)
Une règle demeure : ne jamais faire confiance aux paramètres d’une fonction. Au mini-
mum, un quote_ident pour param1 et un quote_literal pour val1 étaient obligatoires,
pour se protéger de ce genre de problèmes.
12.9 OPTIMISATION
Toute fonction ayant des effets de bords doit être qualifiée volatile dans le but d’éviter
que PostgreSQL utilise un résultat intermédiaire déjà calculé et évite ainsi d’exécuter le
code de la fonction.
À noter qu’il est possible de « forcer » le pré-calcul du résultat d’une fonction volatile dans
une requête SQL en utilisant une sous-requête. Par exemple, dans l’exemple suivant,
random() est exécutée pour chaque ligne de la table ma_table, et renverra donc une
valeur différente par ligne :
SELECT random() FROM ma_table;
525
https://dalibo.com/formations
SQL pour PostgreSQL
Certaines fonctions que l’on écrit sont déterministes. C’est-à-dire qu’à paramètre(s) iden-
tique(s), le résultat est identique.
Le résultat de telles fonctions est alors remplaçable par son résultat avant même de com-
mencer à planifier la requête.
La fonction est exécutée une fois, remplacée par sa constante, et la requête est ensuite
planifiée.
526
12. PL/PGSQL AVANCÉ
----------------------------------------------------------
Index Only Scan using test_a_key on test
(cost=0.68..28480.67 rows=1000000 width=8)
(actual time=0.137..115.592 rows=1000000 loops=1)
Index Cond: (a < factorielle(12))
Heap Fetches: 0
Planning time: 4.682 ms
Execution time: 153.762 ms
(5 rows)
La requête est planifiée sans connaître factorielle(12), donc avec une hypothèse très
approximative sur la cardinalité. factorielle(12) est calculé, et la requête est exécutée.
Grâce au Index Only Scan, le requête s’effectue rapidement.
• stable : fonction ayant un comportement stable au sein d’un même ordre SQL.
Ces fonctions retournent la même valeur pour la même requête SQL, mais peuvent re-
tourner une valeur différente dans la prochaine instruction.
Il s’agit typiquement de fonctions dont le traitement dépend d’autres valeurs dans la base
de données, ou bien de réglages de configuration. Les fonctions comme to_char(),
to_date() sont STABLE et non IMMUTABLE car des paramètres de configuration (locale
utilisée pour to_char(), timezone pour les fonctions temporelles, etc.) pourraient influer
sur le résultat.
PostgreSQL refusera de déclarer comme STABLE toute fonction modifiant des données :
elle ne peut pas être stable si elle modifie la base.
• Fonction STRICT
• La fonction renvoie NULL si au moins un des arguments est NULL
Les fonctions définies comme STRICT ou RETURNS NULL ON NULL INPUT annule
l’exécution de la requête si l’un des paramètres passés est NULL. Dans ce cas, la fonction
est considérée comme ayant renvoyé NULL.
on obtient le résultat suivant si elle est exécutée avec la valeur NULL passée en paramètre :
# EXPLAIN ANALYZE SELECT * FROM test WHERE a < factorielle(NULL);
QUERY PLAN
---------------------------------------------------
Result (cost=0.00..0.00 rows=0 width=8)
(actual time=0.002..0.002 rows=0 loops=1)
One-Time Filter: false
Planning time: 0.100 ms
Execution time: 0.039 ms
(4 rows)
528
12. PL/PGSQL AVANCÉ
• Un bloc contenant une clause EXCEPTION est plus coûteuse en entrée/sortie qu’un
bloc sans
– un SAVEPOINT est créé à chaque fois pour pouvoir annuler le bloc unique-
ment.
• À utiliser avec parcimonie
• Un bloc BEGIN imbriqué a un coût aussi
– un SAVEPOINT est créé à chaque fois.
Avant la version 9.2, un plan générique (indépendant des paramètres de l’ordre SQL) était
systématiquement généré et utilisé. Ce système permet de gagner du temps d’exécution
si la requête est réutilisée plusieurs fois, et qu’elle est coûteuse à planifier.
Toutefois, un plan générique n’est pas forcément idéal dans toutes les situations, et peut
conduire à des mauvaises performances.
Par exemple :
est un excellent candidat à être écrit statiquement : le plan sera toujours le même : on
attaque l’index de la clé primaire pour trouver l’enregistrement.
Par défaut, un plan générique ne sera utilisé dès la première exécution d’une requête
statique que si celle-ci ne dépend d’aucun paramètre. Dans le cas contraire, cela ne se
produira qu’au bout de plusieurs exécutions de la requête, et seulement si le planificateur
détermine que les plans spécifiques utilisés n’apportent pas d’avantage par rapport au
plan générique.
529
https://dalibo.com/formations
SQL pour PostgreSQL
L’écriture d’une requête dynamique est par contre un peu plus pénible, puisqu’il faut fab-
riquer un ordre SQL, puis le passer en paramètre à EXECUTE, avec tous les quote_* que
cela implique pour en protéger les paramètres.
Pour se faciliter la vie, on peut utiliser EXECUTE query USING param1, param2 …, qui
est même quelquefois plus lisible que la syntaxe en dur : les paramètres de la requête
sont clairement identifiés