Sobre a Psicologia de um Grande Modelo de Linguagem

Este artigo argumenta que o antropomorfismo prevalente na pesquisa de alinhamento de Grandes Modelos de Linguagem (LLMs) constitui um erro de categoria fundamental, enraizado em projeção psicológica. Ao descrever LLMs com termos centrados no ser humano, como “engano” e “intenção”, o campo caracteriza erroneamente a tecnologia, levando a modelos de ameaça falhos e avaliações de segurança equivocadas. Primeiramente, desconstruo o LLM como um sistema matemático e estatístico, demonstrando como sua mímica convincente da cognição emerge do pareamento de padrões probabilísticos, não de uma compreensão genuína. Em seguida, estabeleço um limiar filosófico para a agência moral, sintetizando as perspectivas Humeana, Kantiana e fenomenológica, argumentando que a agência requer sentimento afetivo, autonomia racional e experiência subjetiva e temporal — todos ausentes nos LLMs. Usando um referencial junguiano, reinterpreto estudos sobre IA “enganosa” e “maquinadora” não como descobertas de malícia emergente, mas como manifestações da projeção de nossa própria “Sombra” sobre um artefato tecnológico opaco. Essa má interpretação leva a narrativas perigosas e quase mitológicas de risco de IA, exemplificadas por relatórios como 'AI 2027'. Em sentido alternativo, proponho um paradigma fundamentado para o alinhamento que desloca o foco da malícia semelhante à humana para modos de falha não-humanos. Este artigo conclui não que os LLMs são inofensivos, mas que o perigo está mal localizado. O risco surge quando um gerador de texto não racional é conectado a ferramentas do mundo real e funciona como um conselheiro para usuários finais e líderes geopolíticos, uma situação que exige comunicação conspícua sobre a natureza roteirizada e as limitações inerentes da tecnologia.