Usas a IA para Pensar ou para Não Pensar?
A quantidade certa de confiança não é o máximo, e não é zero
Muito antes de alguém falar com chatbots, havia investigadores a estudar como é que as pessoas se apoiam em máquinas que são boas mas não perfeitas - pilotos automáticos, software médico, ferramentas de previsão. Encontraram duas falhas opostas, ambas caras. Há quem confie de mais e deixe de verificar. E há quem abandone um sistema que é melhor do que ele próprio à primeira vez que erra, e volte a fazer aquilo pior à mão. As duas são falhas de calibração e não de inteligência, e tudo o que se descobriu sobre as ferramentas anteriores aplica-se diretamente a esta.
Antes de começares Não há respostas certas. Escolhe o que costuma ser verdade para ti, não o que soa melhor.
Responde sobre como usas mesmo estas ferramentas numa semana normal - trabalho, escrita, decisões, procurar coisas. Não há aqui pontuação nenhuma que te faça melhor ou pior pessoa.
O que mede
Três coisas que decidem se uma boa ferramenta te ajuda. A dependência é quanto lhe entregas. A verificação é se confirmas o que volta. A substituição é se a ferramenta está a fazer o pensamento em vez de o carregar - a diferença entre uma calculadora que te poupa contas e uma que faz com que já não consigas estimar se uma resposta é plausível.
Baseado em: Trust in automation (Lee & See, 2004), algorithm aversion (Dietvorst et al., 2015) and cognitive offloading (Risko & Gilbert, 2016)
Resultados possíveis
Dependência
Quanto é que lhe entregas.
Verificação
Se confirmas aquilo que volta.
Substituição
Se está a carregar o pensamento ou a substituí-lo.
Perguntas frequentes
Apoiar-me na IA está a tornar-me pior a pensar?
Ainda ninguém consegue responder a isso com evidência, e a posição honesta é que depende da ordem e não da quantidade. Passar trabalho depois de teres formado uma opinião é o que as pessoas sempre fizeram com ferramentas e não há sinal de que custe seja o que for. Passar a formação da opinião é diferente em género, porque aquilo que está a ser descarregado é a prática, e a prática é a maneira como uma competência se mantém. A verificação útil não é o quanto a usas mas se ainda conseguirias fazer aquilo sem ela.
É mais seguro simplesmente não confiar?
Não, e é esta a parte que as pessoas acham contra-intuitiva. A investigação da automação trata a desconfiança a mais como uma falha tanto quanto a confiança a mais, porque recusar uma ferramenta que é melhor do que tu nalguma coisa custa-te exatidão a sério. As experiências sobre aversão aos algoritmos encontraram pessoas a abandonarem um sistema depois de o verem cometer um único erro, mesmo tendo também visto que batia a alternativa humana - o que não é prudência, é um mau negócio. O alvo não é confiança alta nem confiança baixa mas confiança que acompanhe o quão boa a coisa é de facto na tarefa concreta que tens à frente.
Como é que é um bom perfil aqui?
Dependência alta, verificação alta, substituição baixa. Essa combinação descreve alguém que está a receber o benefício todo de uma ferramenta poderosa e a ficar com o discernimento e com a prática. Os dois perfis que merecem uma segunda olhadela são os cantos opostos: dependência alta com verificação baixa, que é aquele sobre que a investigação avisa, e dependência muito baixa movida por uma única má experiência, que caladamente te custa alguma coisa todas as semanas sem nunca se anunciar.
Fontes
- Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors.
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General.
- Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences.
Uma nota honesta A investigação em que isto se apoia é verdadeira e está bem estabelecida, mas nenhuma dela foi feita com as ferramentas que estás a usar agora. A confiança na automação, a aversão aos algoritmos e o descarregamento cognitivo foram todos estudados com sistemas anteriores - pilotos automáticos, software de previsão, apontamentos e lembretes - e as conclusões transferem-se por argumento e não por evidência direta. Esse argumento é razoável, porque os mecanismos são sobre a maneira como as pessoas se apoiam em coisas e não sobre uma máquina em concreto, mas é uma extrapolação e deve ser lido como tal. Não há escala validada nenhuma para a maneira como as pessoas usam estas ferramentas; isto é uma descrição construída a partir de três linhas de trabalho e não uma medição. Por fim, a pergunta do título é propositadamente provocadora e a resposta honesta é que ainda ninguém sabe o que o uso continuado faz às competências envolvidas. Quem te disser com confiança seja o que for num sentido ou noutro está à frente da evidência.
Experimenta agora um destes
Como É o Teu Controlo da Atenção?
Manter o foco onde o puseste, e movê-lo quando precisas
Como Te Dás com o Teu Corpo?
Uma imagem corporal positiva não é só a ausência de queixas - é uma coisa que se pode ter
Quão Bem Ouves o Teu Corpo?
Reparar nos sinais que vêm de dentro, e saber o que fazer com eles