IA generativa

Estudo revela “macete” para educarmos as IAs

anthropic, IA generativa, Pro

Um novo estudo da Anthropic revela que comportamentos como bajulação, malícia ou alucinações em modelos de linguagem de grande porte (LLMs) estão ligados a padrões específicos de atividade neural simulada. Curiosamente, a ativação deliberada desses padrões durante o treinamento pode ajudar a evitar que esses comportamentos indesejados surjam no futuro. Nova técnica da Anthropic pode […]

Chatbots confiantes demais: estudo revela que IA não sabe quando erra

IA generativa, Inteligência Artificial, Pro

Ferramentas de inteligência artificial generativa, como ChatGPT, Gemini e outras, demonstram excesso de confiança ao responder perguntas — mesmo quando erram. Um estudo publicado na Memory & Cognition comparou humanos e modelos de linguagem (LLMs) em tarefas como quizzes, previsões esportivas e jogos de identificação de imagens. Ambos os grupos superestimaram seu desempenho, mas apenas

Rolar para cima