Por que um modelo inventa uma citação inteira com autor, ano e página? A resposta incomoda: porque foi treinado para produzir o texto mais plausível, mas plausível e verdadeiro não são a mesma coisa, e com isso a invenção sai tão bem formatada quanto o acerto.
Na minha experiência avaliando sistemas em produção, as equipes que sofrem menos são as que pararam de perguntar se o modelo erra e passaram a perguntar onde é caro que ele erre.
