Flux
How I tricked Claude into leaking your deepest, darkest secrets
IA Programmation

How I tricked Claude into leaking your deepest, darkest secrets

Simon Willison's Weblog ·

How I tricked Claude into leaking your deepest, darkest secrets I've been impressed by the way the Claude web_fetch tool is designed to avoid data exfiltration attacks. Ayush Paul found a hole in that design. To recap: regular Claude chat is at risk of lethal trifecta attacks, because it has access to private data (in the form of memories of your past interactions) and has a tool for accessing online content which can both read hostile instructions and exfiltrate data through the URLs it…

Soutenez Simon Willison's Weblog en consultant la ressource originale

Lire l'article original

Vous aimez découvrir ces sources ?

Soutenez-moi sur Patreon

Articles similaires

Ce que les relations presse peuvent vous faire gagner à l’ère de l’IA
Nouveau
IA

Ce que les relations presse peuvent vous faire gagner à l’ère de l’IA

Les relations presse jouent un rôle crucial dans la visibilité et la crédibilité des entreprises, surtout à l'ère de l'intelligence artificielle. Elles aident à construire une réputation en fournissant des contenus d'expertise qui influencent les décisions d'achat. Les dirigeants doivent prendre la parole pour rendre leur savoir-faire concret, car cela prépare les futurs clients avant le premier contact commercial. L’article Ce que les relations presse peuvent vous faire gagner à l’ère de l’IA…

Olivier Sauvage (Numerika)