Utilisez-vous l'IA pour Penser ou pour Éviter de Penser ?
Le bon niveau de confiance n'est ni le maximum ni zéro
Bien avant qu'on parle à des agents conversationnels, des chercheurs étudiaient comment les gens s'appuient sur des machines bonnes mais imparfaites : pilotes automatiques, logiciels médicaux, outils de prévision. Ils ont trouvé deux échecs opposés, tous deux coûteux. Certains font trop confiance et cessent de vérifier. D'autres abandonnent un système qui les surpasse dès la première erreur, et reviennent à le faire moins bien à la main. Les deux sont des défauts de calibrage et non d'intelligence, et tout ce qu'on a découvert sur les outils antérieurs s'applique directement à celui-ci.
Avant de commencer Il n'y a pas de bonne réponse. Choisissez ce qui est habituellement vrai pour vous, pas ce qui sonne le mieux.
Répondez sur votre usage réel de ces outils dans une semaine ordinaire - travail, écriture, décisions, recherches. Aucun score ici ne fait de vous quelqu'un de meilleur ou de pire.
Ce qu'il mesure
Trois choses qui décident si un bon outil vous aide. La dépendance, c'est ce que vous lui confiez. La vérification, c'est le contrôle de ce qui revient. La substitution, c'est quand l'outil fait la pensée au lieu de la porter - la différence entre une calculatrice qui vous épargne des calculs et une qui fait que vous ne savez plus estimer si une réponse est plausible.
Basé sur: Trust in automation (Lee & See, 2004), algorithm aversion (Dietvorst et al., 2015) and cognitive offloading (Risko & Gilbert, 2016)
Résultats possibles
Dépendance
Ce que vous lui confiez.
Vérification
Si vous contrôlez ce qui revient.
Substitution
Si elle porte la pensée ou la remplace.
Questions fréquentes
M'appuyer sur l'IA me rend-il moins bon pour penser ?
Personne ne peut encore y répondre avec des données, et la position honnête est que cela dépend de l'ordre et non de la quantité. Confier du travail après s'être fait un avis est ce qu'on a toujours fait avec des outils, et rien n'indique que cela coûte quelque chose. Confier la formation de l'avis est d'une autre nature, car ce qui est délesté est la pratique - et la pratique est ce qui entretient une compétence. Le bon contrôle n'est pas combien vous l'utilisez, mais si vous sauriez encore faire sans.
Est-il plus sûr de ne pas faire confiance ?
Non, et c'est la part contre-intuitive. La recherche sur l'automatisation traite la sous-confiance comme un échec au même titre que la surconfiance, car refuser un outil meilleur que vous sur une tâche vous coûte en exactitude réelle. Les expériences sur l'aversion aux algorithmes ont vu des gens abandonner un système après une seule erreur, alors même qu'ils l'avaient vu battre l'alternative humaine - ce n'est pas de la prudence, c'est un mauvais échange. La cible n'est ni une confiance haute ni basse, mais une confiance qui suit la qualité réelle de l'outil sur la tâche précise devant vous.
À quoi ressemble un bon profil ici ?
Dépendance élevée, vérification élevée, substitution basse. Cette combinaison décrit quelqu'un qui tire tout le bénéfice d'un outil puissant tout en gardant le jugement et la pratique. Les deux profils à regarder deux fois sont les coins opposés : dépendance élevée avec vérification faible, celui contre lequel la recherche met en garde, et dépendance très basse née d'une seule mauvaise expérience, qui vous coûte discrètement quelque chose chaque semaine sans jamais s'annoncer.
Sources
- Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors.
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General.
- Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences.
Une note honnête La recherche mobilisée ici est réelle et bien établie, mais aucune n'a été menée sur les outils que vous utilisez aujourd'hui. La confiance dans l'automatisation, l'aversion aux algorithmes et le délestage cognitif ont tous été étudiés sur des systèmes antérieurs - pilotes automatiques, logiciels de prévision, notes et rappels - et les constats se transfèrent par raisonnement, non par preuve directe. Ce raisonnement est défendable, car les mécanismes portent sur la façon dont les gens s'appuient sur des choses et non sur une machine en particulier, mais c'est une extrapolation et doit être lue comme telle. Il n'existe aucune échelle validée de l'usage de ces outils : ceci est une description bâtie à partir de trois lignes de travaux, non une mesure. Enfin, la question du titre est volontairement provocante et la réponse honnête est que personne ne sait encore ce qu'un usage soutenu fait aux compétences concernées. Quiconque vous l'affirme dans un sens ou dans l'autre devance les données.
Essayez maintenant l'un de ceux-ci
Quel Est Votre Contrôle de l'Attention ?
Garder votre attention où vous l'avez posée, et la déplacer quand il le faut
Comment Vous Entendez-vous avec Votre Corps ?
Une image du corps positive n'est pas l'absence de reproches - c'est quelque chose qu'on peut avoir
Écoutez-vous Vraiment Votre Corps ?
Remarquer les signaux venus de l'intérieur, et savoir qu'en faire