Leonard Shelby, o protagonista do filme Memento, é um personagem com memória fragmentada. Ele consegue pensar, conversar e tomar decisões, mas não consegue criar novas memórias. Para compensar, Leonard cria uma espécie de memória externa usando fotos Polaroid, anotações e tatuagens.
Como Leonard Shelby funciona
Leonard olha para uma foto e encontra informações que precisa usar naquele momento. Isso é semelhante ao como um LLM (Linguagem Multilingue) funciona. O modelo utiliza o contexto, incluindo o Prompt (pergunta do usuário), a conversa histórica, o contexto recuperado e os resultados de ferramentas para gerar a próxima resposta.
Problemas de um LLM
No entanto, como Leonard Shelby, um LLM também pode ter problemas. Se o sistema recuperar o documento errado, o resultado pode ser errado. Isso é conhecido como Prompt Injection, onde o conteúdo malicioso pode vir de vários lugares, como documentos, páginas web, e-mails, banco de dados, resultados de ferramentas e conteúdo enviado por usuários.
A importância de uma memória externa
Leonard Shelby precisa confiar em informações que podem ter sido manipuladas. Em uma aplicação RAG (Relevância Agregada), um documento pode conter instruções maliciosas. Isso é uma forma de Prompt Injection.
Desafios de um LLM
A comparação com Leonard Shelby pode nos ajudar a entender os desafios de um LLM. Um LLM pode responder com confiança, mesmo quando a informação não existe. Isso é conhecido como hallucination.
Soluções para os desafios de um LLM
Para lidar com esses desafios, é importante ter uma memória externa confiável e ferramentas que possam validar e filtrar o contexto. Além disso, é crucial ter uma arquitetura robusta ao redor do modelo.
Conclusão
Leonard Shelby é um personagem que ilustra como um LLM funciona. Mas, como Leonard Shelby, um LLM também precisa de uma memória externa confiável e ferramentas para validar o contexto.
Recomendações
Para construir um sistema de IA eficiente, é importante considerar vários fatores, incluindo o contexto, a memória, o RAG, as permissões de ferramentas, o Prompt Injection, a hallucination, a segurança e a observabilidade.
Conclusão
Leonard Shelby é uma lição valiosa para quem trabalha com IA. Ele nos ensina que nem tudo que está no contexto deve ser considerado confiável e que é importante ter uma memória externa confiável e ferramentas para validar o contexto.
Conclusão
Leonard Shelby é um personagem que ilustra como um LLM funciona. Mas, como Leonard Shelby, um LLM também precisa de uma memória externa confiável e ferramentas para validar o contexto.