# ScoreProtect.fr - robots.txt User-agent: * Allow: / # Sitemap Sitemap: https://scoreprotect.fr/sitemap.xml # Bloquer les pages admin Disallow: /admin Disallow: /admin/ # Bloquer les pages de résultats (éviter contenu dupliqué) Disallow: /assurance-auto/resultats Disallow: /assurance-habitation/resultats Disallow: /mutuelle-sante/resultats Disallow: /assurance-emprunteur/resultats Disallow: /assurance-vie/resultats Disallow: /assurance-animaux/resultats Disallow: /assurance-pro/resultats # Bloquer les pages dynamiques par utilisateur Disallow: /devis/ Disallow: /offline # Bloquer les API Disallow: /api/ # Crawl-delay pour être gentil avec le serveur Crawl-delay: 1 # LLMs Allow: /llms.txt Allow: /ai-index.json # AI Crawlers - Explicitly allowed User-agent: GPTBot Allow: / User-agent: OAI-SearchBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: ClaudeBot Allow: / User-agent: PerplexityBot Allow: / User-agent: Google-Extended Allow: / User-agent: CCBot Allow: /