SEO 最適化ツール
無料 Robots.txt ジェネレーター
検索エンジンにあなたのサイトをより良く理解してもらいましょう。
最適化された robots.txt ファイルをわずか数秒で生成できます。
デフォルトのアクセス権限
このルールは、すべての検索エンジンボットに適用されます (User-agent: *)。
サイトマップとクロール制御
高度なボット設定 人気
AI およびデータ収集ボット
Google AI (Google-Extended)
Google AI (例: Gemini) の学習データ収集をブロックします。
CCBot (Common Crawl)
大規模データセットの収集をブロックします。
SEO マーケティングツール (競合分析をブロック)
アクセス制限ディレクトリ (Disallow)
robots.txt — Generated
インストールガイド
- 左側のパネルでルールを設定します。
- [ファイルをダウンロード] ボタンをクリックします。
- ファイルをあなたのウェブサイトの ルートディレクトリ にアップロードしてください。
- https://yourdomain.com/robots.txt
Robots.txt の重要なガイド
Robots.txtとは?
検索エンジンのクローラー(ロボット)に対し、ウェブサイトのどの部分をクロールして良いか、または禁止するかを伝える国際的なプロトコルファイルです。サイトの「門番」の役割を果たします。
SEOにおける重要性
重要でないページ(管理画面やログインページなど)のクロールを阻止することで、「クロールバジェット (Crawl Budget)」を節約します。これにより、検索エンジンが重要なコンテンツに集中するよう促し、検索ランキングに好影響を与えます。
重要な要件
ファイルは必ずドメインの **ルートディレクトリ** に配置する必要があります(例: example.com/robots.txt)。サブフォルダに配置すると、検索エンジンはそのファイルを見つけることができません。