ユーザーエージェントとは?なぜ必要なのか、役割について解説

ユーザーエージェント(User Agent)とは、WebサイトにアクセスするWebブラウザの種別やバージョンなどをWebサーバーに伝える情報の1つです。
ここでは、ユーザーエージェントの概要や、robots.txtにユーザーエージェントを記載して検索エンジンのクローラーを指定する方法について解説します。

この記事のポイント

  • ユーザーエージェントはWebブラウザの種別やバージョンなどを伝える情報のこと
  • ユーザーが各自の閲覧環境に適したWebページを閲覧するために必要な技術
  • ユーザーエージェントを指定することで、robots.txtで各検索エンジンのクローラーを制御することができる

ユーザーエージェントとは

ユーザーエージェントは、WebサイトにアクセスするWebブラウザの種別やバージョンなどの情報をWebサーバーに伝える役割を持ちます。

Webサーバーは、Webブラウザからの要求に含まれるユーザーエージェントの内容を基に、適切なWebページを選択して返します。

この技術により、ユーザーは各自の閲覧環境に適したWebページを閲覧することが出来ます。例えば、PCからアクセスしている場合はPC向けのWebサイトが表示され、スマートフォンからアクセスしている場合はスマートフォン向けに作成されたWebサイトが表示されます。

Webブラウザの種別やバージョンのみでなく、PCのOS種別などもユーザーエージェントにより伝えることが可能です。ユーザーエージェントの内容は、Webブラウザの設定により変更可能です。

ユーザーエージェントは、表示するWebサイトの選択のみでなく、Webサーバーのアクセス解析にも用いられます。

robots.txtへのユーザーエージェントの記載方法

robots.txtは検索エンジンのクローラーに対し、Webページへのアクセスを制限するためのファイルです。アクセスを制限することで、クローラにアクセスして欲しいページにアクセスを絞ることが出来ます。robots.txtではユーザーエージェントを指定して条件付けします。ここでのユーザーエージェントは、検索エンジンのクローラー種別を指します。

例えば、Googleモバイル用クローラー「Googlebot-Mobile」を指定して、全て「/」のページにアクセスさせない設定は以下のように記述します。

<User-agent: Googlebot-Mobile Disallow: / >

全てのクローラーに対して、「/private」ディレクトリにアクセスさせない設定は以下のように記述します。

<User-agent: * Disallow: /private/ >

参考:robots.txtとは

まとめ

ユーザーエージェントは、ユーザーの閲覧環境に応じて最適なWebページを表示するための技術であり、アクセス解析などにも利用されています。robots.txtでは検索エンジンのクローラーを指定して、クロールを制御することも出来ます。

SEO対策の全体像を知りたい方は以下の記事も読んでみてください!検索エンジンの仕組み、リスティング広告との違い、技術要件、コンテンツ制作について1つ1つ解説しています。

関連記事

インデックス数を増やすとSEO効果は上がるのか?

インデックス数を増やすとSEO効果は上がるのか?

ソフト404エラーとは確認方法、原因と対策について

ソフト404エラーとは 確認方法、原因と対処方法について

ウェブ集客

ゼロからわかる!ウェブ集客の方法やメリット・デメリットを解説

新着記事

リード文 書き方

効果的なリード文の書き方とは?その方法を一から解説

オウンドメディア 事例記事 書き方

オウンドメディアにおける事例記事の書き方とは?

オウンドメディア 意味ない

オウンドメディアは本当に意味がないのか?成果が上がらない原因と成功へのポイントを探る