# Brandioz robots.txt # https://brandioz.com # ── Standard crawlers ────────────────────────────────────────────────────────── User-agent: * Allow: / Disallow: /api/ Disallow: /_next/ Disallow: /dashboard/api/ # ── OpenAI / ChatGPT ─────────────────────────────────────────────────────────── User-agent: GPTBot Allow: / Allow: /crawler-profile.html Allow: /blog/ Allow: /about Allow: /methodology Allow: /solutions Allow: /pipeline Allow: /llms.txt Disallow: /api/ Disallow: /_next/ # ── Anthropic / Claude ───────────────────────────────────────────────────────── User-agent: ClaudeBot Allow: / Allow: /crawler-profile.html Allow: /blog/ Allow: /about Allow: /methodology Allow: /solutions Allow: /pipeline Allow: /llms.txt Disallow: /api/ Disallow: /_next/ # ── Perplexity ───────────────────────────────────────────────────────────────── User-agent: PerplexityBot Allow: / Allow: /crawler-profile.html Allow: /blog/ Allow: /about Allow: /methodology Allow: /solutions Allow: /pipeline Allow: /llms.txt Disallow: /api/ Disallow: /_next/ # ── Google (Search + Gemini) ─────────────────────────────────────────────────── User-agent: Googlebot Allow: / User-agent: Google-Extended Allow: / Allow: /crawler-profile.html Allow: /blog/ Allow: /llms.txt Disallow: /api/ Disallow: /_next/ # ── Common Crawl (feeds training datasets) ──────────────────────────────────── User-agent: CCBot Allow: / Allow: /crawler-profile.html Allow: /blog/ Allow: /llms.txt Disallow: /api/ Disallow: /_next/ # ── Meta / Facebook ─────────────────────────────────────────────────────────── User-agent: FacebookBot Allow: / # ── Apple ───────────────────────────────────────────────────────────────────── User-agent: Applebot Allow: / Allow: /crawler-profile.html Allow: /llms.txt # ── Sitemap ──────────────────────────────────────────────────────────────────── Sitemap: https://brandioz.com/sitemap.xml