Sens et dénotation

	En cours de rédaction
	Cet article est actuellement en cours de rédaction par son auteur. Veuillez en tenir compte à la lecture.

Précaution terminologique préliminaire

Cet article concerne les notions fondamentales introduites par Frege (1892) sous les termes originaux de Sinn et Bedeutung. Sinn se traduit naturellement par sens (et sense en anglais). Dans l'usage courant, l'allemand Bedeutung est habituellement traduit par signification; mais il serait inapproprié d'intituler en français l'opposition Sinn vs. Bedeutung par sens vs. signification. Pour Bedeutung le terme français que l'usage en sémantique formelle retient est celui de la traduction de C. Imbert, dénotation. On trouve également le terme de référence, qui par définition (cf. infra) semble un candidat valable pour nommer cette notion. Il existe plusieurs traductions anglaises de l'article de Frege dont l'une des plus connues est celle de M. Black dans Geach & Black (1952) justement intitulée « On sense and reference ». Mais d'autres auteurs, comme Church et Montague, préfèrent utiliser denotation, d'autres encore esquivent l'alternative en parlant d'interprétation ou de valeur sémantique. Ces variantes de traduction ne sont pas sans créer quelque complication. En philosophie et en linguistique, aussi bien dans les traditions française qu'anglo-saxonne, référence et dénotation, en tant que termes, préexistent à l'article de Frege en désignant des notions qui sont parfois un peu éloignées de celles qu'il définit. Par la suite certains auteurs vont jusqu'à établir un distinction radicale entre référence et dénotation (cf. par exemple Lyons (1977)¹). Sous l'influence notamment de travaux de sémiotique, il arrive que le terme de dénotation soit utilisé en linguistique (souvent en lexicologie) avec une acception assez peu frégéenne. Il désigne alors la composante stable, consensuelle et objective de la signification, s'opposant ainsi à la connotation qui désigne, entre autres, la charge affective et subjective attachée à un mot ou une expression². Cette double généalogie du terme dénotation peut prêter à confusion, une acception pouvant s'imprégner de l'autre. Dans ce qui suit, dénotation sera utilisée exclusivement pour mentionner la Bedeutung de Frege, en traitant dans un premier temps référence comme un synonyme acceptable; plus tard dans l'article ** à modifier**, l'opposition notionnelle entre dénotation et référence sera examinée plus en détail. Les premières sections font d'abord le point sur la dichotomie originale de Frege et sur son implémentation en sémantique formelle.

Définitions

Dénotation (Bedeutung)

La dénotation d'une expression linguistique est l'objet du monde (c'est-à-dire de la portion de réalité intersubjective) que cette expression désigne. En termes concis et (probablement trop) simples, il s'agit de la chose que le mot représente. Les mots, et plus exactement les énoncés qu'ils composent, nous permettent de parler des choses, et c'est cette connexion naturelle entre l'univers langagier et l'univers extra-linguistique que capte la notion de dénotation.

Les illustrations les plus simples et élémentaires sont données par les groupes nominaux comme les noms propres et autres expressions qui s'y apparentent. L'exemple fameux de Frege est celui de « l'étoile du matin » et « l'étoile du soir » qui dénotent le même objet, à savoir la planète Vénus³. Et on pourra dire ici naturellement et légitimement que ces deux expressions font référence (ou réfèrent) à Vénus. De manière générale, de tels groupes nominaux dénotent des objets individuels, ou plus simplement des individus (du monde).

Un point important de la théorie initiée par Frege est qu'à toute catégorie (grammaticale) d'expressions interprétables correspond un type de dénotations possibles. Ainsi Frege propose d'identifier la dénotation d'une phrase déclarative à sa valeur de vérité, le vrai ou le faux. Cette conception est largement admise aujourd'hui dans le domaine de la sémantique formelle, mais il faut noter qu'elle a plusieurs fois fait l'objet de réserves et de critiques. Il semble en effet peu intuitif de considérer les notions abstraites de vérité et de fausseté comme des éléments du monde au même titre que les individus tangibles comme Vénus ou Napoléon. Partant, on peut être peu enclin à dire qu'une phrase comme (1) « fait référence au vrai ou à la vérité ».

(1)	Vénus tourne autour du Soleil.

L'argument de Frege repose sur une application du principe de Leibniz (dit aussi de substitution ou d'extensionnalité) qui dans sa formulation originale peut être formuler ainsi :

Sont identiques ceux qui peuvent être substitués l'un à l'autre [dans une phrase] salva veritate.

Un jugement d'identité, par exemple établi dans un énoncé entre deux expressions nominales comme (2), correspond à une identité de dénotations, et le principe de Leibniz concerne bien les éléments de réalités évoqués dans une phrase, c'est-à-dire les dénotations. Le principe peut donc être reformulé en : la dénotation du tout (eg une phrase) ne change pas tant qu'on ne change pas la dénotation de ses parties. Frege en conclut que la dénotation d'une phrase consiste en sa valeur de vérité, puisque c'est ce qui ne change pas lorsqu'on applique les substitutions du principe.

(2)	Raoul d'Andrésy est Arsène Lupin.

Cette vision permet aussi d'une part de caractériser uniformément en termes de dénotation l'ensemble des phrases déclaratives : toute phrase déclarative a cette propriété de dénoter une valeur de vérité. Au contraire, si l'on considérait qu'une phrase déclarative devait dénoter un événement ou une situation, certaines phrases, comme les conditionnelles ou les génériques risqueraient d'échapper à la caractérisation. D'autre part, la proposition de Frege permet de distinguer par la dénotation les phrases qui ne sont pas déclaratives, c'est-à-dire les interrogatives et les impératives puisqu'elles n'ont pas de valeur de vérité.

Le type de dénotation des autres catégories d'expressions interprétables peut souvent se déduire des deux premiers. Ainsi la plupart des substantifs, adjectifs et verbes intransitifs, et plus généralement toute expression qui se traduit logiquement par un prédicat à une place, peuvent être vue comme dénotant un ensemble (ou une classe) d'individus. Par exemple le nom éléphant dénote simplement l'ensemble de tous les éléphants du monde, et le verbe dormir dénote l'ensemble de tout les individus du monde qui dorment.

Puisque les dénotations sont des élément de la réalité et que non seulement la réalité évolue sans cesse mais qu'aussi la connaissance que nous en avons est forcément fragmentaire et parfois hypothétique, il est normal que la dénotation d'une expression linguistique ne soit jamais absolue mais qu'elle dépende d'une certaine configuration de la réalité. Il convient donc de toujours déterminer la dénotation d'une expression relativement à un certain état du monde ou un modèle ou encore un indice. Ainsi « le vaincu de Waterloo » dénote Napoléon relativement à un monde conforme aux faits connus de l'histoire de France, mais ce groupe nominal peut dénoter un autre individu si on l'évalue par rapport à un monde où les faits historiques sont différents. Il en va de même pour la dénotation des prédicats et des phrases.

Sens (Sinn)

Frege fait remarquer que certaines expressions de la langue n'ont pas de dénotation. C'est le cas, par exemple, de « la suite qui converge le moins rapidement », « le plus grand nombre entier » ou « la quinzième planète du système solaire ». Pourtant ces expressions ne sont pas vides sémantiquement, elles sont parfaitement compréhensibles, et ce en vertu de leur sens. De même, si les phrases déclaratives dénotent des valeurs de vérité, alors en termes de dénotation il n'existe que deux grandes catégories de phrases: les phrases vraies et les phrases fausses. Ce qui singularise sémantiquement chaque phrase d'une langue c'est son contenu, c'est-à-dire justement son sens. Enfin les phrases (3) et (4) en termes strictement dénotationnels se ramènent à la même équation : Vénus = Vénus. Cependant elles n'ont pas le même statut sémantique: (4) est une tautologie alors que (3) est contingente et donc informative. C'est que les deux groupes nominaux « l'étoile du matin » et « l'étoile du soir », bien qu'ayant la même dénotation (dans notre monde) n'ont pas le même sens.

(3)	L'étoile du matin est l'étoile du soir.
(4)	L'étoile du matin est l'étoile du matin.

La notion de sens se distingue donc fondamentalement de celle de dénotation. Mais les deux sont connectées par définition. Frege définit le sens d'une expression comme « le mode de donation » de la dénotation de cette expression. Autrement dit, le sens d'une expression est ce qui nous donne, ou ce qui nous permet de connaître, sa dénotation. Le sens peut donc être vu comme un procédé, un système de règles ou de critères qui détermine la dénotation d'une expression pour n'importe quel état du monde.

Puisque la dénotation d'une phrase déclarative est sa valeur de vérité, on peut appliquer la définition de Frege dans les termes suivants:

Connaître le sens d'une phrase, c'est, si l'on connaît les circonstances (ie l'état du monde ou le modèle) auxquelles s'applique cette phrase, être capable de juger si la phrase est vraie ou fausse.

Ou encore, si l'on retourne la formulation:

Connaître le sens d'une phrase c'est savoir comment doit être le monde pour que cette phrase soit vraie.

C'est là le postulat qui fonde la sémantique vériconditionnelle : le sens d'une phrase consiste en ses conditions de vérité (dans quelles conditions la phrase est vraie).

Le sens d'un terme prédicatif comme éléphant, triangle, enrhumé, dormir, etc. peut se caractériser de la même manière. Connaître le sens de éléphant c'est être savoir reconnaître que tel ou tel individu du monde fait partie ou non de la classe de éléphants (ie de la dénotation de ce nom). Une telle connaissance peut être analysée au moyen de critères ou de traits sémantiques définitoires de la classe dénotée. Par exemple : « animal très grand à trompe et à peau grise et épaisse etc. » pour éléphant, « figure ou forme à trois côtés » pour triangle. Par conséquent, le sens est ce en vertu de quoi un locuteur compétent saura nommer correctement une chose, une action, un état, etc.

On voit que, contrairement à la dénotation, le sens d'une expression est indépendant de la configuration du monde. Car le sens est précisément cet ensemble de conditions qui détermine la dénotation pour chaque configuration possible du monde (c'est-à-dire pour n'importe quelle configuration). La classe des enrhumés peut évoluer constamment, on saura toujours reconnaître qui en fait partie en vertu du sens du mot, de même on saura toujours reconnaître un éléphant quel que soit le monde (même imaginaire) dans lequel on se place. Cette constante du sens est, somme toute normale, car le sens est constitutif de la langue, pas du monde, il est inscrit dans le code linguistique. Frege insiste d'ailleurs sur le fait que le sens, tel qu'il le définit, est conventionnel, commun à tous les locuteurs, et donc objectif.

Formalisation: intension et extension

A la suite de Carnap, les notions de sens et de dénotation sont également dénommées respectivement intension et extension. Ces termes, empruntés aux mathématiques, renvoient généralement à une formalisation précise dans le cadre de la théorie des modèles. Une sémantique (ou une logique) est dite extensionnelle lorsque les expressions y sont interprétées relativement à une seul modèle donné. Chaque expression a alors une unique extension (ou dénotation). Un modèle défini par <math>{M}=\langle {A}, I \rangle</math>, où <math>{A}</math> est un ensemble d'individus (le domaine) et <math>I</math> une fonction d'interprétation des constantes non logiques, est donc extensionnel. La sémantique devient intensionnelle lorsque le modèle est démultiplié par un ensemble d'indices (par exemple des mondes possibles). L'extension d'une expression <math>\alpha</math> est alors déterminée relativement au modèle et à un indice donné (<math>w</math>), et on la note habituellement par <math>[\![\alpha]\!]^{{M},w}</math>.

Extension

Les termes (constantes et variables d'individus), qui correspondent entre autres aux noms propres et aux pronoms, prennent leur extension directement dans le domaine <math>{A}</math> ; celle-ci est donnée par la fonction <math>I</math> pour les constantes, et par une fonction d'assignation pour les variables. L'extension des formules (ie les phrases déclaratives), quant à elles, se projettent dans l'ensemble de valeurs de vérité, <math>\{0;1\}</math> par exemple.

Depuis entre autres Montague (1973), qui exploite le λ-calcul et la théorie des types, on considère que l'extension de toutes les autres catégories d'expressions interprétables se formalise par des fonctions. Ainsi l'extension d'un prédicat à une place (représentant un substantif, un adjectif, un verbe intransitif, etc.) est une fonction de <math>{A}</math> vers <math>\{0;1\}</math> (<math>{A} \rightarrow \{0;1\}</math>) qui renvoie 1 (vrai) si l'argument est un individu qui appartient à (ou vérifie) la dénotation du prédicat et 0 (faux) sinon. Cela n'est pas en contradiction avec ce qui a été mentionné ci-dessus car mathématiquement la définition d'un ensemble est équivalente, ou assimilable, à sa fonction caractéristique, c'est-à-dire une fonction qui se projette sur l'ensemble des valeurs de vérité <math>\{0;1\}</math>.

(5)	<math>[\![\textit{elephant}]\!]^{M,w} = X \mapsto 1 </math> si <math>X</math> est un éléphant, et <math>0</math> sinon

De même, l'extension d'un prédicat à deux places est une fonction à deux arguments pris dans <math>{A}</math> vers <math>\{0;1\}</math> (<math>{A} \rightarrow ({A} \rightarrow \{0;1\})</math>⁴. Et ainsi de suite pour les prédicats à n places.

(6)	<math>[\![\textit{aimer}]\!]^{M,w} = Y \mapsto (X \mapsto 1) </math> si <math>X</math> aime <math> Y</math>, et <math>0</math> sinon

Par compositionnalité, l'extension de toute expression interprétable peut donc être formalisée de la sorte, en tirant parti de la logique d'ordre supérieur qui accompagne le λ-calcul. Par exemple, Montague définit l'extension des GN quantificationnels (et, par montée de type, de tous les GN, y compris les référentiels) comme une fonction qui prend en argument l'extension d'un prédicat (en l'occurrence le prédicat verbal, lorsque le GN en question en est le sujet⁵), et cette fonction retourne une valeur de vérité (celle de la phrase ainsi analysée). C'est donc une fonction de <math>(A \rightarrow \{0;1\}) \rightarrow \{0;1\}</math> qui retourne 1 pour (l'extension de) chaque prédicat que vérifient « globalement&nbsp» la ou les valeurs extensionnelles possible du GN ; et en termes ensemblistes elle correspond à un ensemble d'ensembles d'individus ou encore à un ensemble de propriétés (si l'on assimile un ensemble d'individus à une propriété⁶). Pour un GN référentiel comme « Napoléon », ce sera l'ensemble de toutes les propriétés que possède l'individu Napoléon ; pour un GN quantifié universellement comme « tous les étudiants » ce sera l'ensemble de toutes les propriétés partagées par tous les individus étudiants et pour un GN quantifié existentiellement comme « un étudiant » ce sera l'ensemble de toutes les propriétés qui sont chacune satisfaites par au moins un étudiant.

Il est donc important de noter que selon cette théorie la question du type d'extension d'un GN est loin d'avoir une réponse uniforme. De plus la théorie prédit une possible alternative du type d'extension d'au moins certains GN. C'est par exemple le cas des expressions référentielles qui, comme nous venons de le voir, peuvent être interprétées comme dénotant soit directement des individus soit des ensembles de propriétés. C'est le principe du type-shifting, ou changement de type. Une telle variante de type d'extension ne devrait pas être considérée tant comme une ambiguïté produite (plus ou moins artificiellement) par le formalisme que comme une façon de moduler la présentation d'une information et comme un moyen technique d'encoder différentes propriétés sémantique et combinatoires.

Récapitulons: la plupart des expressions interprétables ont une extension formalisable au moyen de fonctions à un ou plusieurs arguments, c'est-à-dire des « fonctions de fonctions » construites à partir des domaines <math>A</math> et <math>\{0;1\}</math>. Le domaine <math>A</math> reflète les choix ontologiques de la théorie sémantique, c'est-à-dire la détermination des types d'entités élémentaires qui peuplent le modèle (ie la représentation du monde) et qui peuvent à ce titre être la cible de la dénotation d'expressions linguistiques. Les exemples donnés ci-dessus s'appuient sur un ensemble <math>A</math> constitué d'individus (objets normalement concrets et unitaires). Mais il faut également tenir compte de ce qu' aujourd'hui de nombreux développements en sémantique formelle ont amené à étendre les domaines de dénotation de base en y incluant d'autres types d'entités comme les événements, les instants, les espèces, les groupes, les propriétés, les portions de matière, les degrés, etc.

Référence et référent

Cette section va être splitée vers une fiche séparée: référence.

Notes

¹ Lyons (1977), Chapitre 7, « Sense, reference and denotation ». Que l'on songe également à « On referring » de Strawson (1950) répondant à « On denoting » de Russell (1905).

² L'opposition dénotation vs. connotation se relie alors souvent à celle de sens propre vs. sens figuré.

³ Et on pourra compléter le paradigme avec les expressions « l'étoile du berger », « Hesperus », « Phosphorus », « Vénus », « la deuxième planète la plus proche du Soleil », etc. D'autres exemples abondent dans la littérature comme par exemple « le vainqueur d'Iéna », « le vaincu de Waterloo », « le père du code civil »...

⁴ Voir curryfication.

⁵ Voir les entrées Quantification, Quantifying in et Quantifier Raising pour plus de détails sur cette analyse.

⁶ En fait un ensemble d'individus constitue l'extension d'une propriété (dans un certain monde), plutôt que la propriété elle-même.

Références bibliographiques

• Carnap, R. (1947). Meaning and Necessity. University of Chicago Press, Chicago.

• Frege, G. (1892). Über Sinn und Bedeutung. Zeitschrift für Philosophie und philosophische Kritik, 100:22-50. Trad. fr. Sens et dénotation, in Ecrits logiques et philosophiques (pp. 102-126), Paris : Seuil, 1971.

• Geach, P. & Black M. (eds) (1952). Translations from the Philosophical Writings of Gottlob Frege. Blackwell, Oxford.

• Lyons, J. (1977). Semantics I. Cambridge University Press, Cambridge. Trad. fr. Eléments de sémantique, Langue et langage, Paris : Larousse, 1977.

• Montague, R. (1973). The proper treatment of quantification in ordinary English. In K. J. J. Hintikka, J. M. E. Moravcsik, & P. Suppes (eds), Approaches to Natural Language, pp. 221-242. Reidel, Dordrecht.

Renvois

• Référence
• Indice (en sémantique intensionnelle)
• Modèle
• Théorie des types
• Ambiguïté
• Quantification
• λ-calcul