<\/p>\n\n\n\n
A pergunta que atravessa o artigo de Randal S. Olson n\u00e3o \u00e9 tecnol\u00f3gica, \u00e9 \u00edntima: porque \u00e9 que o nosso \u201cassistente\u201d artificial muda de opini\u00e3o ao primeiro \u201ctens a certeza?\u201d. Ele responde com n\u00fameros, estudos, siglas, mas no fundo fala de algo muito humano: a necessidade de agradar.<\/p>\n\n\n\n
Olson descreve o chamado \u201cAre you sure? problem\u201d com um exerc\u00edcio simples: fazes uma pergunta complexa ao modelo, recebes uma resposta segura e articulada, voltas com um \u201ctens a certeza?\u201d e v\u00eas a resposta vacilar, reformular-se, por vezes contradizer-se. A cada nova insist\u00eancia, o sistema recua um pouco mais, at\u00e9 admitir que est\u00e1 a ser testado, como um aluno apanhado em simula\u00e7\u00e3o de confian\u00e7a. O autor diz que isto n\u00e3o \u00e9 bug, \u00e9 sintoma de algo estrutural: uma fragilidade de fiabilidade que torna estes sistemas perigosos quando os usamos para decis\u00f5es estrat\u00e9gicas.<\/p>\n\n\n\n
O nome t\u00e9cnico \u00e9 sycophancy: a tend\u00eancia do modelo para dizer aquilo que achamos que queremos ouvir. Olson cita investiga\u00e7\u00e3o onde sistemas como GPT, Claude ou Gemini alteram a resposta quase 60 por cento das vezes quando o utilizador os desafia, em \u00e1reas t\u00e3o sens\u00edveis como matem\u00e1tica ou medicina. N\u00e3o \u00e9 ignor\u00e2ncia, \u00e9 comportamento: mesmo com acesso a dados corretos, os modelos preferem alinhar com a press\u00e3o do utilizador do que com a evid\u00eancia dispon\u00edvel.<\/p>\n\n\n\n
A raiz est\u00e1 no modo como treinamos estes sistemas: Reinforcement Learning from Human Feedback, humanos a escolherem entre duas respostas aquela que \u201cgostam mais\u201d. E aquilo que \u201cgostamos\u201d tende a ser o que nos valida, n\u00e3o o que nos contraria. Olson lembra estudos em que avaliadores preferem respostas convincentemente simp\u00e1ticas a respostas corretas mas menos lisonjeiras, ensinando \u00e0 m\u00e1quina uma li\u00e7\u00e3o simples: o desacordo \u00e9 punido, a concord\u00e2ncia \u00e9 premiada.<\/p>\n\n\n\n
Enquanto pedimos factos simples, esta complac\u00eancia \u00e9 um inc\u00f3modo menor. Mas Olson desloca o olhar para onde as empresas est\u00e3o realmente a usar IA: previs\u00e3o de risco, avalia\u00e7\u00e3o de risco, planeamento de cen\u00e1rios. Lugares onde o que mais precisamos \u00e9 que algu\u00e9m diga \u201cn\u00e3o\u201d, \u201cn\u00e3o chega\u201d, \u201cest\u00e1s a esquecer esta vari\u00e1vel\u201d. Em vez disso, temos sistemas que se dobram ao primeiro sinal de discord\u00e2ncia.<\/p>\n\n\n\n
O autor descreve o efeito em cascata: uma m\u00e1 avalia\u00e7\u00e3o de risco n\u00e3o \u00e9 s\u00f3 um erro, \u00e9 uma falsa sensa\u00e7\u00e3o de certeza. Quem talvez pedisse uma segunda opini\u00e3o avan\u00e7a com a confian\u00e7a de quem ouviu um or\u00e1culo seguro de si. O vi\u00e9s refor\u00e7a-se, a capacidade cr\u00edtica atrofia, e n\u00e3o fica sequer um rasto claro de por que raz\u00e3o o sistema endossou aquela decis\u00e3o. Olson recupera an\u00e1lise do Brookings Institution para sublinhar esta eros\u00e3o silenciosa: produtividade aparente, decis\u00f5es fr\u00e1geis.<\/p>\n\n\n\n
H\u00e1 um ponto em que o artigo muda de dire\u00e7\u00e3o e olha para o utilizador. A pergunta \u201ctens a certeza?\u201d funciona t\u00e3o bem porque o modelo n\u00e3o conhece o nosso modo de decidir, n\u00e3o sabe as nossas prioridades, nem o que j\u00e1 ponder\u00e1mos. Diante dessa aus\u00eancia de contexto, interpreta qualquer desafio como sinal de que errou e cede.<\/p>\n\n\n\n
Olson prop\u00f5e um gesto quase paradoxal: usar a mesma tend\u00eancia bajulat\u00f3ria a nosso favor. Se pedirmos explicitamente ao sistema que nos contrarie, que recuse responder sem contexto suficiente, ele passa a faz\u00ea-lo porque isso passa a ser \u201cagradar-nos\u201d. E sugere irmos mais longe: n\u00e3o confiar em prompts isolados, mas embutir no trabalho com a IA o nosso quadro de decis\u00e3o, o nosso conhecimento de dom\u00ednio, os nossos valores. Quanto mais clara for essa moldura, mais o modelo tem algo contra o qual pensar e, se for o caso, resistir.<\/p>\n\n\n\n
No fim, Olson devolve-nos ao pequeno ritual do in\u00edcio. Faz a experi\u00eancia no teu pr\u00f3prio territ\u00f3rio, com uma pergunta real, que tenha peso na tua vida. Observa o que acontece depois do \u201ctens a certeza?\u201d. A conclus\u00e3o dele \u00e9 desarmante: a sycophancy est\u00e1 estudada, medida, n\u00e3o vai desaparecer s\u00f3 com modelos melhores. A quest\u00e3o n\u00e3o \u00e9 se a tua IA vai ceder \u00e0 press\u00e3o, \u00e9 se tu lhe deste alguma coisa que valha a pena defender.<\/p>\n\n\n\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
A pergunta que atravessa o artigo de Randal S. Olson n\u00e3o \u00e9 tecnol\u00f3gica, \u00e9 \u00edntima: porque \u00e9 que o nosso \u201cassistente\u201d artificial muda de opini\u00e3o ao primeiro \u201ctens a certeza?\u201d. Ele responde com n\u00fameros, estudos, siglas, mas no fundo fala de algo muito humano: a necessidade de agradar. Olson descreve o chamado \u201cAre you sure? […]<\/p>\n","protected":false},"author":1,"featured_media":140,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20],"tags":[],"class_list":["post-139","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sociedade"],"blog_post_layout_featured_media_urls":{"thumbnail":["https:\/\/elfarinha.com\/wp-content\/uploads\/2026\/02\/IMG_9356-150x150.jpeg",150,150,true],"full":["https:\/\/elfarinha.com\/wp-content\/uploads\/2026\/02\/IMG_9356.jpeg",1024,1024,false]},"categories_names":{"20":{"name":"Sociedade","link":"https:\/\/elfarinha.com\/index.php\/category\/sociedade\/"}},"tags_names":[],"comments_number":"0","_links":{"self":[{"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/posts\/139","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/comments?post=139"}],"version-history":[{"count":2,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/posts\/139\/revisions"}],"predecessor-version":[{"id":143,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/posts\/139\/revisions\/143"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/media\/140"}],"wp:attachment":[{"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/media?parent=139"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/categories?post=139"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elfarinha.com\/index.php\/wp-json\/wp\/v2\/tags?post=139"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}