# 計算ナビ - robots.txt # # 重要(2026-08-26 是正・R9監査で発覚・CEOアクション必須): # 本ファイル(サイト自前の記述)は下記で GPTBot / ClaudeBot / PerplexityBot / # Google-Extended 等の主要AIクローラーを明示的に Allow しているが、本番配信では # Cloudflare の「Managed robots.txt」機能により、本ファイルの内容より前に # Cloudflare 独自の Disallow ルール(下記9クローラー対象)が自動挿入される。 # robots.txt の仕様上、同一 User-agent に対して先に出現するグループが有効になるため、 # 後方にある本ファイルの Allow は事実上無効化されている。 # # Cloudflareの挿入ブロックは常にファイル冒頭に前置され、サイト運営者側は挿入位置を # 制御できない仕様のため(出典: Cloudflare Docs "Managed robots.txt" # https://developers.cloudflare.com/bots/additional-configurations/managed-robots-txt/ # 2026-08-26確認)、本ファイル側の記述変更・並び替えでは是正できない。 # # 現在 Disallow: / されている9クローラー(本番 curl 実測・2026-08-26): # Amazonbot / Applebot-Extended / Bytespider / CCBot / ClaudeBot / # CloudflareBrowserRenderingCrawler / Google-Extended / GPTBot / meta-externalagent # # 是正には Cloudflare ダッシュボード側の操作が必須(コード変更・このファイルの編集だけでは解除不可): # 1. https://dash.cloudflare.com/ にログイン → 対象アカウント → 対象ゾーン(keisan-navi.jp)を選択 # 2. 左メニュー「AI Crawl Control」を開く # (旧称/近縁機能: Security > Settings の「Block AI bots」トグル。 # 直リンク: https://dash.cloudflare.com/?to=/:account/:zone/ai ) # 3. 「Crawlers」タブのクローラー一覧で、GPTBot / ClaudeBot / Google-Extended / CCBot / # Amazonbot / Applebot-Extended / Bytespider / meta-externalagent の # 「Action」列を "Block" から "Allow" に変更 # 4. 対象は本ドメインだけでなく、同一Cloudflareアカウント配下の全ゾーンに及ぶ。 # 2026-08-26時点で以下6ゾーン全てが同一のDisallowブロックを返すことを確認済み: # keisan-navi.jp / template-free.jp / kaiyaku-navi.jp / kurashi-sos.jp / # tools-navi.jp / shindan-navi.jp # (2026-06-06に一度「全6ゾーン解除済み」と記録されていたが、2026-08-26時点で # 全ゾーンとも再ブロック状態に戻っている=Cloudflare側設定が既定値に巻き戻った可能性) # # 詳細調査ログ: zawa-media/reports/keisan-monetization-2026-08-25/fix-r16-llms-truth.md # # --- 以下、サイト自前の記述(本番では上記Cloudflare挿入ブロックの"後"に配信される) --- User-agent: * Allow: / # 主要AIクローラ(明示許可 — ただし上記の通り一部は本番でCloudflare側に上書きされ無効) User-agent: GPTBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: Claude-Web Allow: / User-agent: ClaudeBot Allow: / User-agent: anthropic-ai Allow: / User-agent: PerplexityBot Allow: / User-agent: Perplexity-User Allow: / User-agent: Google-Extended Allow: / User-agent: Applebot Allow: / User-agent: Applebot-Extended Allow: / User-agent: CCBot Allow: / User-agent: Bytespider Allow: / User-agent: meta-externalagent Allow: / User-agent: FacebookBot Allow: / User-agent: OAI-SearchBot Allow: / User-agent: cohere-ai Allow: / User-agent: AI2Bot Allow: / User-agent: DuckAssistBot Allow: / User-agent: Amazonbot Allow: / User-agent: Diffbot Allow: / User-agent: Timpibot Allow: / # サイトマップ Sitemap: https://keisan-navi.jp/sitemap-index.xml # LLM向けサイト概要ファイル # LLMs.txt: https://keisan-navi.jp/llms.txt