Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASA‘Bias’, ‘Companion’, ‘Hallucinations’: three examples to understand the significance of the terminology used in and around AI
sylvain.riffe-…
Fri 09/10/2026 - 14:01
This conversation between Arnaud Billion and Bjorn Fasterling (EDHEC) stems from a discussion that took place during the Summer School organised in early September by the EDHEC Augmented Law Institute. The aim was to challenge participants’ relationship with language in the face of the rise of artificial intelligence.
Arnaud Billion , Associate Professor
Fasterling Bjorn ,
EDHEC Vox
Research
EDHEC Corporate
Finance
MSc in Accounting & Finance
MSc in Climate Change & Sustainable Finance
MSc in Corporate Finance & Banking
MSc in Financial Engineering
MSc in International Finance
Business & Management
LL.M. in Law & Tax Management
MSc Creative business & social innovation
MSc in Data Analytics & Artificial Intelligence
MSc in Entrepreneurship & Innovation
MSc in Global & Sustainable Business
MSc in Management & Leadership
MSc in Marketing Analytics
MSc in Marketing Management
MSc in Strategy Organisation & Consulting
Doubles Degree Programmes
MSc & Global MBA Double-Degree
Master in Management
Global Master in Management (GETT) - EDHEC/SKK/BERKELEY
Master in Management -Business Management Track
Master in Management -Data Science & AI for Business Track
Master in Management – Finance Track
Recherche
EDHEC Artificial Intelligence Centre
EDHEC Augmented Law Institute
Accounting, Control and Law
EDHEC VOX
Think differently
The Future of Work
AI & Platforms Regulation
Data & IP Protection
Household Economics
The Future of Law
Why does the choice of words matter so much when we talk with and about artificial intelligence?
Björn Fasterling: Words matter. They shape the way we understand what they are meant to represent. Some of the anthropomorphisms applied to AI (1) act as mental shortcuts. They sometimes help us to grasp complex issues, but they can also seriously mislead us.
More generally, language influences the way we frame problems. But before we can seek a solution or an answer, we first need to agree on the question itself. Let’s be honest: are we really capable of understanding the reality of technology clearly enough to achieve this? Especially when the words we use sometimes tend to obscure that reality rather than help us understand it?
When we say that AI is ‘biased’, what are we really saying, and what does that word prevent us from seeing?
Arnaud Billion: Certain terms commonly used in the field of artificial intelligence influence strategic decisions, whilst also highlighting the errors and weaknesses of the conceptual frameworks within which they are embedded.
For example, it is often claimed that AI is biased (in terms of its data or its algorithms (2)) in order to consider how to correct this or at least control the harmful consequences of these limitations. For instance, due to the training data, we know that AI-driven CV selection heavily excludes statistically under-represented groups, such as women (3) or older people (4). An AI system used by an organisation’s human resources department would therefore be ‘discriminatory by design’.
Yet this notion of bias is misleading, even perverse. Indeed, to argue that a method is biased, one must know exactly in relation to what. One needs a benchmark for what is unbiased. But what would be the method for automatically selecting applications; what would be the ‘normal’ or ‘neutral’ method? Is it not rather the very idea of automation that introduces a bias? Or the very idea of sorting, selecting or choosing CVs?
Björn Fasterling: I agree with Arnaud that, in a technical context, ‘bias’ simply refers to a formal property assessed against a given benchmark. Similarly, ‘discrimination’ can simply mean distinguishing between different elements. This is something that any digital decision-making system does, as it classifies, selects or processes situations differently according to certain criteria.
Arnaud Billion: Yet if every choice is discriminatory, then we would have to resort to drawing CVs at random – a task which, incidentally, AI would perform very well. The point is that the concept of bias is rather pointless, as it encourages us to seek a ‘normal’ answer. However, in many fields, this ‘normality’ is in fact conventional and arbitrary, not scientifically grounded.
Björn Fasterling: Returning to the terms ‘bias’ and ‘discrimination’, these two terms are also commonly used in a normative sense. The moral principle of non-discrimination requires that every person be treated with the same dignity and respect (5). It prohibits any unjustified differential treatment based on protected characteristics such as skin colour, gender, religion or age… .
In this normative sense, ‘discriminatory bias’ constitutes a deviation from this moral standard. Confusion arises when these different meanings of ‘bias’ become conflated. A technical bias may be mistaken for an injustice. Unjust discrimination may be reduced to a technical flaw. Well, everything then ends up becoming a ‘bias’, which means we can continue the discussion without really knowing what we’re talking about any more…
Arnaud Billion: Ultimately, we are entitled to ask ourselves: hasn’t this notion of ‘AI bias’ primarily served as an argument for developing and selling new (AI) software designed to combat bias? In short, numerous solutions to a problem that is poorly understood.
What lies behind the concept of an ‘AI companion’?
Arnaud Billion: What a sense of security it is to have an AI companion by your side – a highly powerful and knowledgeable entity, like Dr Faust’s Mephisto – who will help me with my administrative tasks, organising my life and my business, or simply support me in my social and emotional life!
Unfortunately, the AI companion, the AI assistant or the AI agent are nothing more than mirages; worse still: mere facades. One need only remember that ‘AI’ is merely software – or even less than that: a piece of code corresponding to an electronic procedure (6).
‘AI’ is the name we give to a fiction that conceals value chains orchestrated by digital giants who, ultimately, seek to generate profits from individuals or businesses. The problem with positing and believing in an AI companion is that it assumes an entity within the computer will obey me and defend my interests. Yet we have no credible reason to assume this, and we should question the series of misunderstandings that have led us to this belief.
Björn Fasterling: So this “companion” doesn’t really resemble someone with whom we’d share a meal. Perhaps it’s more like a catheter inserted into our brain. Behind this companion - this seemingly singular access point (7) - lies an entire distributed infrastructure, made up of machines, programs, permissions, and institutional arrangements. Through this catheter, the infrastructure extracts information from our environment and injects content into it to trigger our actions. Yet, as if by magic, all this complexity disappears behind the illusion of a single assistant, who stands by your side and shares with you the burden of existence.
Arnaud Billion: Beyond that, all these anthropomorphic concepts (learning, hallucination, memory, attention, etc.) are particularly misleading and reflect an irrational and persistent belief, a belief fostered by powerful messaging, or even propaganda, toward which many are very gullible, and which we would do well to question.
Can we really say that AI “hallucinates,” and what does this expression reveal about our own relationship with machines?
Arnaud Billion: When we receive a response from the AI that seems clearly wrong to us, or that we find unsatisfactory, we often refer to it as an “AI hallucination” (8). It’s a bit as if the AI had made a mistake, had been fooled by a deceptive appearance, and was providing us with incorrect information. Technically, however, there is no error or bug present at the moment of the so-called “hallucination”: on the contrary, the calculation proceeds perfectly.
Björn Fasterling: To hallucinate is to experience something that isn’t there. But there’s no reason to believe that an AI experiences anything at all. It’s, in a way, a hallucination squared. We’re hallucinating an AI that’s hallucinating.
Arnaud Billion: So what happens then? It’s precisely that we stop fantasizing about a “truth-telling machine”; we have a chance to remember that the output of the software suite called “AI” will simply be a response calculated based on numerous criteria (9) (potentially reusing my profiling data, my purchase predictions, maximizing my engagement, executing real-time ad targeting, seeking to influence my next vote, etc.)
Above all, a prompt is nothing more than a computer command designed to trigger extremely sophisticated calculations - but there is little reason to believe these calculations will be appropriate (10). In any case, this is a far cry from the everyday computing experience of searching a database configured to provide the expected answer.
Björn Fasterling: You’re talking about the prompt: now that’s an honest term, one that describes almost exactly what’s going on. In theater, the person we call the “souffleur” in French is known as “the prompter” in English. The prompter whispers the lines to the actor, but doesn’t perform in the play. With generative AI, it’s now the human who provides the “prompt.” In other words, the human whispers the line to the massive computing infrastructure, and it’s the infrastructure that takes the stage!
References
(1) https://pubmed.ncbi.nlm.nih.gov/17907867/
(2) https://dl.acm.org/doi/10.1145/3457607
(3) https://onlinelibrary.wiley.com/doi/10.1111/1748-8583.12511
(4) https://pmc.ncbi.nlm.nih.gov/articles/PMC5554369/
(5) https://www.un.org/fr/about-us/universal-declaration-of-human-rights
(6) https://www.edhec.edu/en/research-and-faculty/edhec-vox/ai-in-business-here-are-5-phrases-arnaud-billion-urges-us-stop-saying-and-why
(7) https://technologymagazine.com/news/openais-super-app-and-the-next-wave-of-ai-native-shopping
(8) https://dl.acm.org/doi/10.1145/3703155
(9) https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
(10) https://dl.acm.org/doi/10.1145/3544548.3581388
Björn Fasterling : Les mots comptent. Ils façonnent notre manière de comprendre ce qu’ils sont censés représenter. Certains des anthropomorphismes appliqués à l’IA (1) fonctionnent comme des raccourcis mentaux. Ils nous aident parfois à saisir des questions complexes, mais ils peuvent aussi nous induire sérieusement en erreur.
Plus généralement, le langage influence la manière dont nous posons les problèmes. Mais avant de chercher une solution ou une réponse, encore faut-il s’entendre sur la question. Soyons honnêtes : sommes-nous vraiment capables de comprendre la réalité de la technologie assez clairement pour y parvenir ? Surtout lorsque les mots que nous utilisons tendent parfois à obscurcir cette réalité plutôt qu’à nous aider à la comprendre ?
Quand on affirme que l'IA est « biaisée », que dit-on vraiment, et qu'est-ce que ce mot nous empêche de voir ?Arnaud Billion : Certains mots couramment usités dans le champ de l'intelligence artificielle influencent les décisions stratégiques, et aussi soulignent les erreurs et faiblesses des imaginaires dans lesquels ils s'inscrivent.
Par exemple, on affirme souvent que l'IA est biaisée (quant à ses données, ou ses algorithmes (2)) pour se demander comment la corriger ou au moins contrôler les conséquences néfastes de ces limites. Par exemple, à cause des données d'entraînement, on sait que le choix de CV par IA disqualifie fortement des populations statistiquement sous-représentées, telles que les femmes (3) ou les seniors (4). Une IA utilisée par les ressources humaines d’une organisation serait alors « discriminatoire by design ».
Pourtant cette notion de biais est trompeuse, voire perverse. En effet, pour soutenir qu'une méthode est biaisée, il faut bien savoir par rapport à quoi. Il faut un référentiel de ce qui n'est pas biaisé. Or quelle serait la méthode de sélection automatique des candidatures, quelle serait la méthode normale ou neutre ? N'est-ce pas plutôt l'idée-même de l'automatisme, qui introduit un biais ? Ou l'idée-même de tri, ou de sélection ou de choix de CV ?
Björn Fasterling : Je suis d’accord avec Arnaud sur le point que dans un contexte technique, « biais » ne désigne qu’une propriété formelle évaluée par rapport à une référence donnée. De même, « discrimination » peut simplement exprimer qu’on distingue différents éléments. C’est quelque chose que tout système numérique de décision fait, puisqu’il classe, sélectionne ou traite différemment des situations selon certains critères.
Arnaud Billion : Or si tout choix est discriminatoire, alors il faudrait se résoudre à tirer au sort les CV, tâche dont l'IA s'acquitterait d'ailleurs fort bien. Ceci pour dire que la notion de biais est assez inutile, puisqu'elle incite à chercher une réponse "normale". Pourtant, dans beaucoup de domaines, cette normalité est en fait conventionnelle et arbitraire, pas scientifiquement fondée.
Björn Fasterling : Pour revenir sur « biais » et « discrimination », ces deux termes sont aussi couramment employés dans un sens normatif. Le principe moral de non-discrimination exige que toute personne soit traitée avec le même dignité et le même respect (5). Il interdit tout traitement différencié injustifié lié à des caractéristiques protégées telles que la couleur de peau, le genre, la religion, l’âge...
Dans ce sens normatif, un « biais discriminatoire » constitue un écart par rapport à cette norme morale. La confusion apparaît lorsque ces différentes significations de « biais » se mélangent. Un biais technique sera pris pour une injustice. Une discrimination abusive sera réduite à un défaut technique. Eh bien, tout finit alors par devenir un « biais », ce qui permet de poursuivre la discussion sans plus très bien savoir de quoi l’on parle…
Arnaud Billion : Au fond, nous sommes en droit de nous interroger : cette notion de "biais de l'IA" n’a-t-elle pas surtout servi d'argument pour développer et vendre de nouveaux logiciels (d'IA) de lutte contre les biais ? De nombreuses solutions à un problème mal compris en somme.
Que se cache-t-il derrière l'idée d'un « compagnon d'IA » ?Arnaud Billion : Quelle sécurité de sentir avec soi un compagnon d'IA, entité très puissante et très savante, comme le Méphisto du Dr Faust, qui va m'aider dans mes démarches administratives, l'organisation de ma vie, mon business, ou simplement m'accompagner dans ma vie amicale et affective !
Malheureusement le compagnon d'IA, l'assistant d'IA, ou l'agent d'IA ne sont que des mirages, pire : des simulacres. Il suffit de se souvenir que "IA" n'est qu'un logiciel, même moins qu'un logiciel : un bout de code correspondant à de la procédure électronique (6).
"IA" c'est le nom que nous donnons à une fiction qui cache des chaînes de valeur orchestrées par des géants du numérique qui, in fine, cherchent à générer des profits auprès des particuliers ou des entreprises. Le problème de postuler et croire à un compagnon d'IA, c'est de partir du principe qu'une entité dans l'ordinateur va m'obéir et défendre mes intérêts. Or nous n'avons aucune raison crédible de le supposer et nous devrions nous interroger sur la série de malentendus qui nous a menés à cette croyance.
Björn Fasterling : Ce « compagnon » ne ressemble donc pas vraiment à quelqu’un avec qui l’on partagerait son pain. Peut-être ressemble-t-il plutôt à un cathéter introduit dans notre cerveau. Derrière ce compagnon, ce point d’accès apparemment unique (7), se cache tout une infrastructure distribuée, faite de machines, de programmes, d’autorisations et d’arrangements institutionnels. Par ce cathéter, l’infrastructure prélève des informations dans notre environnement et elle y injecte des contenus pour déclencher nos actions. Pourtant, comme par magie, toute cette multiplicité disparaît derrière l’illusion d’un assistant unique, qui se tient à vos côtés et partage avec vous le fardeau de l’existence.
Arnaud Billion : Au-delà, toutes ces images anthropomorphiques (apprentissage, hallucination, mémoire, attention etc.) sont particulièrement trompeuses et manifestent une croyance irrationnelle et persistante, croyance provoquée par une communication puissante, voire une propagande, face à laquelle beaucoup sont très crédules, et sur quoi il serait bon de s'interroger.
Peut-on vraiment dire que l'IA « hallucine », et que révèle cette expression sur notre propre rapport à la machine ?Arnaud Billion : Lorsque nous obtenons une réponse de l’IA qui nous paraît manifestement erronée, ou qui ne nous satisfait pas, nous parlons volontiers d'hallucination de l'IA (8). Un peu comme si l'IA s'était trompée, s'était laissée berner par une apparence trompeuse et nous informait par erreur. Or techniquement, aucune erreur, aucun bug n'est présent au moment de la prétendue « hallucination » : le calcul se déroule au contraire parfaitement.
Björn Fasterling : Halluciner, c’est faire l’expérience de quelque chose qui n’est pas là. Mais, rien ne permet de penser qu’une IA fasse l’expérience de quoi que ce soit. C’est en quelque sorte, une hallucination au carré. Nous hallucinons une IA en train d’halluciner.
Arnaud Billion : Que se passe-t-il alors ? C'est justement que nous cessons d'halluciner une machine-à-répondre-la-vérité ; nous avons une chance de nous rappeler que le résultat de la suite logicielle nommée "IA", sera simplement une réponse calculée en fonction de nombreux impératifs (9) (réutilisant potentiellement mon profilage, mes prédictions d'achat, maximisant mon engagement, exécutant du ciblage publicitaire en temps réel, cherchant à influencer mon prochain vote etc.)
Surtout, un prompt, ce n'est jamais qu'une commande informatique faite pour déclencher des calculs extrêmement sophistiqués, mais dont il y a peu de raison de penser qu'ils seront opportuns (10). En tout cas l'on se trouve très loin de l'expérience informatique courante, la recherche dans une base de données configurée pour donner la réponse attendue.
Björn Fasterling : Tu parles du prompt : voilà enfin un mot honnête, qui dit presque exactement ce qui se passe. Au théâtre, celui que nous appelons en français le souffleur s’appelle en anglais « the prompter ». Il souffle ses répliques à l’acteur, mais il ne joue pas la pièce. Avec l’IA générative, c’est désormais l’humain qui fournit le « prompt ». Autrement dit, il souffle sa réplique à l’immense infrastructure informatique et c’est elle qui monte sur scène !
Références
(1) https://pubmed.ncbi.nlm.nih.gov/17907867/
(2) https://dl.acm.org/doi/10.1145/3457607
(3) https://onlinelibrary.wiley.com/doi/10.1111/1748-8583.12511
(4) https://pmc.ncbi.nlm.nih.gov/articles/PMC5554369/
(5) https://www.un.org/fr/about-us/universal-declaration-of-human-rights
(7) https://technologymagazine.com/news/openais-super-app-and-the-next-wave-of-ai-native-shopping
(8) https://dl.acm.org/doi/10.1145/3703155
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | (Newsletter #29) Bridging the Gap - How to know what really counts? | 0 | 18.38 | 21-09-2026 |
| 2 | Entreprises et géopolitique : la fin de l’illusion de neutralité ? Regards croisés de Luc de Rancourt et Theresa Reinold (EDHEC) | 0 | 14.44 | 23-09-2026 |
| 3 | Le droit, infrastructure stratégique des entreprises | 0 | 19.34 | 07-09-2026 |
| 4 | Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains | 0 | 16.7 | 16-09-2026 |
| 5 | Vivre avec la surveillance numérique en Chine : entre adhésion et malaise | 0 | 22.27 | 06-10-2026 |
| 6 | Écrire nous clarifie : pourquoi et comment pratiquer le self-journaling | 0 | 23.48 | 07-10-2026 |
| 7 | When words move money | 0 | 20.66 | 28-09-2026 |
| 8 | 'Idiocracy' is here as Trump falls for a dangerous trap | 0 | 7.62 | 21-09-2026 |
| 9 | Deep Market Research with AI for Product Owners | 0 | 10.74 | 14-09-2026 |
| 10 | Thank you, Associated Press! | 0 | 18.01 | 11-10-2026 |