ユーザーエージェントとは?なぜ必要なのか、役割について解説

更新日: 公開日:

ユーザーエージェント(User Agent)とは、WebサイトにアクセスするWebブラウザの種別やバージョンなどをWebサーバーに伝える情報の1つです。
ここでは、ユーザーエージェントの概要や、robots.txtにユーザーエージェントを記載して検索エンジンのクローラーを指定する方法について解説します。

この記事のポイント

  • ユーザーエージェントはWebブラウザの種別やバージョンなどを伝える情報のこと
  • ユーザーが各自の閲覧環境に適したWebページを閲覧するために必要な技術
  • ユーザーエージェントを指定することで、robots.txtで各検索エンジンのクローラーを制御することができる

ユーザーエージェントとは

ユーザーエージェントは、WebサイトにアクセスするWebブラウザの種別やバージョンなどの情報をWebサーバーに伝える役割を持ちます。

Webサーバーは、Webブラウザからの要求に含まれるユーザーエージェントの内容を基に、適切なWebページを選択して返します。

この技術により、ユーザーは各自の閲覧環境に適したWebページを閲覧することが出来ます。例えば、PCからアクセスしている場合はPC向けのWebサイトが表示され、スマートフォンからアクセスしている場合はスマートフォン向けに作成されたWebサイトが表示されます。

Webブラウザの種別やバージョンのみでなく、PCのOS種別などもユーザーエージェントにより伝えることが可能です。ユーザーエージェントの内容は、Webブラウザの設定により変更可能です。

ユーザーエージェントは、表示するWebサイトの選択のみでなく、Webサーバーのアクセス解析にも用いられます。

robots.txtへのユーザーエージェントの記載方法

robots.txtは検索エンジンのクローラーに対し、Webページへのアクセスを制限するためのファイルです。アクセスを制限することで、クローラにアクセスして欲しいページにアクセスを絞ることが出来ます。robots.txtではユーザーエージェントを指定して条件付けします。ここでのユーザーエージェントは、検索エンジンのクローラー種別を指します。

例えば、Googleモバイル用クローラー「Googlebot-Mobile」を指定して、全て「/」のページにアクセスさせない設定は以下のように記述します。

<User-agent: Googlebot-Mobile Disallow: / >

全てのクローラーに対して、「/private」ディレクトリにアクセスさせない設定は以下のように記述します。

<User-agent: * Disallow: /private/ >

参考:robots.txtとは

まとめ

ユーザーエージェントは、ユーザーの閲覧環境に応じて最適なWebページを表示するための技術であり、アクセス解析などにも利用されています。robots.txtでは検索エンジンのクローラーを指定して、クロールを制御することも出来ます。

SEO対策の全体像を知りたい方は以下の記事も読んでみてください!
SEOとは?SEO対策を分かりやすく徹底解説!
検索エンジンの仕組み、リスティング広告との違い、技術要件、コンテンツ制作について1つ1つ解説しています。

関連記事

meta description(メタディスクリプション)の基本を解説!/SEOで押さえたい6つのポイント

meta description(メタディスクリプション)の基本を解説!/SEOで押さえたい6つのポイント

【閲覧注意】「クロールバジェット」という言葉について

リッチスニペット(Googleリッチリザルト)とは?設定方法と注意点について

リッチスニペット(Googleリッチリザルト)とは?設定方法と注意点について

新着記事

ホワイトペーパー ダウンロード

ホワイトペーパーのダウンロード数を伸ばす方法とは?

ホワイトペーパー 意味

ホワイトペーパーの意味は?営業資料との違いや種類を解説

リード 獲得 単価

リード獲得単価(CPL)とは?活用方法から改善のコツまで解説

サイト内検索