●noindex:index.htmlに設置、wordpressの場合は管理画面で設定
●robots.txt:クローラーのブロック
●X-Robots-Tag:ファイルごとの指定、フォルダ(ディレクトリ)の指定は不可、.htaccessを使用
※index.htmlとindex.phpの同居は不可
※noindexとrobots.txtは同居させない方がよい、クローラーをブロックするとnoindexを読み取れず、クローラー以外からの経路(リンクされているなど)でindexされてしまう場合があるため
https://www.google.com/amp/s/www.iscle.com/web-it/pdf-notsearch.html/amp
https://bazubu.com/robots-txt-16678.html
https://qiita.com/shotets/items/17bed9029140a6d925d2
【robots.txt】
https://www.youtube.com/watch?v=vA0uVynWHaU
https://www.youtube.com/watch?v=cBjuPIY-Tps
https://lucy.ne.jp/bazubu/robots-txt-16678.html
https://developers.google.com/search/docs/advanced/robots/create-robots-txt?hl=ja
https://developers.google.com/search/docs/crawling-indexing/robots/intro?hl=ja
https://so-zou.jp/web-app/tech/search-engine/robots-txt/
https://technical-seo.jp/robots-txt/
【インデックスされているか確認する】
・Google Search Consoleで確認
・site: で確認
https://okuden-labo.com/noindex