...

ファイル共有ソフトの利用に関する調査 ∼クローリング調査∼ 報 告 書

by user

on
Category: Documents
9

views

Report

Comments

Transcript

ファイル共有ソフトの利用に関する調査 ∼クローリング調査∼ 報 告 書
ファイル共有ソフトの利用に関する調査
∼クローリング調査∼
報 告 書(概 要 版)
2008年12月
社団法人コンピュータソフトウェア著作権協会
社団法人日本レコード協会
日本国際映画著作権協会
目
次
Ⅰ.調査概要 ................................................................................... 1
1.調査の前提 ............................................................................... 1
(1)Winny2 ............................................................................... 1
(2)Share EX2 ............................................................................ 1
(3)Gnutella(Limewire、Cabos 等) ....................................................... 1
2.データの抽出 ............................................................................. 2
(1)フィルタリング ....................................................................... 2
(2)権利の対象性算出方法 ................................................................. 2
Ⅱ.調査結果 ................................................................................... 3
1.Winny2 ................................................................................... 3
(1)無許諾コンテンツの流通状況 ........................................................... 3
(2)権利の対象性について ................................................................. 4
(3)ファイル量について ................................................................... 4
(4)ノード量について ..................................................................... 4
(5)検出ノードの国・地域について ......................................................... 4
2.Share EX2 ................................................................................ 5
(1)無許諾コンテンツの流通状況 ........................................................... 5
(2)権利の対象について ................................................................... 6
(3)ファイル量について ................................................................... 6
(4)ノード量について ..................................................................... 6
(5)検出ノードの国・地域について ......................................................... 6
3.Gnutella(Limewire、Cabos 等) ........................................................... 7
(1)無許諾コンテンツの流通状況 ........................................................... 7
(2)権利の対象性について ................................................................. 8
(3)検出ノードの国・地域について ......................................................... 8
補足 ........................................................................................... 9
調査期間について ............................................................................. 9
Winny の検出ノード数について ................................................................. 9
Gnutella(Limewire、Cabos 等)の調査について.................................................. 9
Ⅰ.調査概要
1.調査の前提
調査は 2008 年 9 月 19 日 17:00 から 2008 年 9 月 20 日 17:00 の 24 時間、以下の P2P ネットワーク
に対応した手法を用いて実際のネットワークをクローリングし、実際に流通している情報を取得、分析
する形で実施した。
(1)Winny2
Winny プロトコルを利用したクローラを用いて、特にキーワードを設定することなく Winny ネット
ワーク上に流通するキー情報(ノード情報、ファイル情報)の自動収集を行った。複数のクローラを用
いる事で、24 時間でほぼネットワーク全域をクローリングできる性能を確保している。
■基礎情報
・利用したソフトウェア
P2P FINDER(Winny) 2008 年 9 月 Version
・設定情報
総スレッド数 1600
(2)Share EX2
Share プロトコルを利用したクローラを用いて、特にキーワードを設定することなく Share ネットワ
ーク上に流通するキー情報(ノード情報、ファイル情報)の自動収集を行った。複数のクローラを用い
る事で、24 時間でほぼネットワーク全域をクローリングできる性能を確保している。
■基礎情報
・利用したソフトウェア
P2P FINDER(Share) 2008 年 9 月 Version
・設定情報
総スレッド数 4300
(3)Gnutella(Limewire、Cabos 等)
Gnutella バージョン 0.6 プロトコルを利用したクローラを用いて、Gnutella ネットワーク上に流通
するキー情報(ノード情報、ファイル情報)の自動収集を行った。Gnutella(Limewire、Cabos 等)
は全世界にノードが広がっており全域はクローリングしていない。
クローラは 2 種類あり、全ファイルを意味するキーワード(半角スペース 4 つ)を指定してクローリ
ングを行う「キー情報クローラ」と、ハンドシェイク時に Crawler ヘッダを指定し、ノード情報を取得
する「ノード情報クローラ」を用いている。
■基礎情報
・利用したソフトウェア
P2P FINDER(Gnutella) 2008 年 9 月 Version
・設定情報
キー情報クローラ
総スレッド数 150
ノード情報クローラ
総スレッド数 1800
1
2.データの抽出
(1)フィルタリング
ファイル共有ソフトネットワーク上で、権利者に無許諾で送信可能な状態におかれ、流通しているフ
ァイルの調査を行った。
調査を行うにあたり、総取得件数からノード(IP とポート)およびファイル名が同一なデータを取り除
いた後(調査対象データ)、2万件のデータをランダムに抽出した。調査対象データに対する抽出デー
タ(2 万件)の割合は、Winny:0.0323%、 Share: 0.131% 、Gnutella(Limewire、Cabos 等)
:4.98%
となった。その後アダルト系キーワード、共通除外キーワードを含むデータを除外し、データを目視
において確認し、各ファイルについて推定されるジャンル、権利の対象および許諾の有無について
調査した。
工程
①総取得件数
クローラにより IP、ポート、ファイル名、時間を取得
②重複件数の削除
①で取得したデータのうち、IP、ポート番号、ファイル名が重複した
データを削除。
③間引き後件数
②で取得したデータを 20,000 件になるようにランダムに抽出
④アダルトキーワード除去
③で抽出したデータのうちアダルトキーワード(「18 禁」
「無修正」な
ど)を除外
⑤共通除外キーワード除去
④のデータから共通除外キーワード(「同人」「ハッシュリスト」な
ど)を除外
⑥合法ファイル抽出
④のデータから「合法」のキーワードがあるデータを抽出
⑦キーワード抽出
⑤のデータを各ジャンルのキーワードで抽出
(2)権利の対象性算出方法
2(1)で抽出したデータを目視にて以下のジャンルに分類を行った。
・著作物と推測されるもの
・アダルト
・同人
・不明ファイル
・危険ファイル
・合法ファイル
2
Ⅱ.調査結果
1.Winny2
(1)無許諾コンテンツの流通状況
流通コンテンツのうち約 50%のコンテンツが著作物と推測される。著作物と推測されるコンテンツの
内訳は図2の通りである。
危険ファイル
0.1%
情報
3.2%
合法
0.0%
不明ファイル
5.2%
同人
15.7%
著作物と推測
されるもの
47.6%
アダルト
28.2%
図 1 Winny コンテンツ流通状況(n=20000)
※「著作物と推測されるもの」とは本調査で権利の所在が推定できるもの
※「アダルト」、「同人」とは本調査で権利の所在が判別できないため、権利の対象に関しての調査は見送ったもの
※「不明ファイル」とはタイトルからコンテンツの内容が判別できないもの
※「危険ファイル」とはタイトル、拡張子からウィルスなどと推定されるもの
※「情報」とはウィルス感染などで流出した個人・組織等の情報だと推定されるもの
※「その他」とはコンテンツの分類が音楽、映像関連、プログラム、書籍関連に含まれないもの
その他
12.7%
音楽
24.4%
映画
0.5%
コミック
17.8%
映像
7.0%
書籍
4.9%
アニメ
24.5%
ゲーム
3.3%
アプリ
1.6%
映画(海外)
0.6%
映像(海外)
1.3%
PV
1.4%
図 2 Winny 著作物と推測されるコンテンツの内訳(n=9518)
3
(2)権利の対象性について
著作物と推測されるもののうち、約 97%に権利があり、かつ許諾がないものだと推定される。
権利の所在、
許諾が不明な
もの
0.4%
許諾あり、もし
くは必要がな
いもの
0.3%
不明なファイル
2.6%
権利があり、
許諾がないと
推測されるも
の
96.7%
図 3 Winny 権利の対象性(全体)
(n=20000)
(3)ファイル量について
Winny のネットワークではファイルの情報はファイル本体から計算で算出されるハッシュ値を用い
て管理されているため、一意なハッシュ値の件数を算出する事で Winny ネットワーク上に流通してい
るファイルの量を推定できる。本調査では、一日で 5,316,576 件の一意なハッシュ値が収集され、全数
としてはおよそ 600 万件程度と推定される。
(4)ノード量について
本調査では IP アドレスとポート番号の一意な組み合わせをノードの量として算出した。その結果、
一日で 181,487 件の一意なノード情報が収集され、全数としてはおよそ 19 万ノード程度と推定される。
(5)検出ノードの国・地域について
一日で検出した 181,487 件のノードについて国・地域を調べた結果、約 98%が日本国内 IP の利用で
あった。
図 4
Winny
検出ノード国・地域別分布(n=181487)
4
2.Share EX2
(1)無許諾コンテンツの流通状況
流通コンテンツのうち約 56%のコンテンツが著作物と推測される。著作物と推測されるコンテンツの
内訳は図7の通りである。
危険ファイル
0.1%
不明ファイル
5.7%
同人
6.6%
情報
1.2%
合法
0.0%
著作物と推測
されるもの
55.5%
アダルト
30.9%
図 5 Share コンテンツ流通状況(n=20000)
※「著作物と推測されるもの」とは本調査で権利の所在が推定できるもの
※「アダルト」、「同人」とは本調査で権利の所在が判別できないため、権利の対象に関しての調査は見送ったもの
※「不明ファイル」とはタイトルからコンテンツの内容が判別できないもの
※「危険ファイル」とはタイトル、拡張子からウィルスなどと推定されるもの
※「情報」とはウィルス感染などで流出した個人・組織等の情報だと推定されるもの
※「その他」とはコンテンツの分類が音楽、映像関連、プログラム、書籍関連に含まれないもの
その他
6.5%
映画
1.4%
映画(海外)
4.2%
音楽
10.0%
コミック
15.2%
書籍
1.7%
映像
14.6%
ゲーム
5.6%
アプリ
1.9%
PV
2.9%
図 6
アニメ
31.3%
映像(海外)
4.5%
Share 著作物と推測されるコンテンツの内訳(n=11103)
5
(2)権利の対象について
著作物と推測されるもののうち、97%に権利があり、かつ許諾がないものだと推定される。
許諾あり、もし
くは必要がな
権利の所在、
いもの
許諾が不明な
0.3%
もの
0.4%
不明なファイル
2.3%
権利があり、
許諾がないと
推測されるも
の
97.0%
図 7 Share 権利の対象性(全体)
(n=20000)
(3)ファイル量について
Share 上ではファイルの情報はファイル本体から計算で算出されるハッシュ値を用いて管理されてい
るため、一意なハッシュ値の数を算出する事で Share 上の流通しているファイルの量を推定できる。本
調査では、一日で 712,144 件の一意なハッシュ値が収集され、全数としてはおよそ 75 万∼80 万件程度
と推定される。
(4)ノード量について
本調査では IP アドレスとポート番号の一意な組み合わせをノードの量として算出した。その結果、
一日で 209,367 件の一意なノード情報が収集され、全数としてはおよそ 21 万∼22 万ノード程度と推定
される。
(5)検出ノードの国・地域について
一日で検出された 209,367 件のノードについて国・地域を調べた結果、約 94%が日本国内 IP の利用
であった。
図 8 Share 検出ノード国・地域別分布(n=209367)
6
3.Gnutella(Limewire、Cabos 等)
(1)無許諾コンテンツの流通状況
流通コンテンツのうち約 80%のコンテンツが著作物と推測される。著作物と推測されるコンテンツの
内訳は図 11 の通りである。
不明ファイル
4.9%
情報
0.0% 合法
0.0%
危険ファイル
3.3%
同人
0.0%
アダルト
11.5%
著作物と推測
されるもの
80.3%
図 9 Gnutella(Limewire、Cabos 等)コンテンツ流通状況(n=20000)
※「著作物と推測されるもの」とは本調査で権利の所在が推定できるもの
※「アダルト」、「同人」とは本調査で権利の所在が判別できないため、権利の対象に関しての調査は見送ったもの
※「不明ファイル」とはタイトルからコンテンツの内容が判別できないもの
※「危険ファイル」とはタイトル、拡張子からウィルスなどと推定されるもの
※「情報」とはウィルス感染などで流出した個人・組織等の情報だと推定されるもの
※「その他」とはコンテンツの分類が音楽、映像関連、プログラム、書籍関連に含まれないもの
アニメ
0.2%
映画(海外)
0.4%
映像 PV
0.1% 0.7%
アプリ
映画
1.8%
0.0%
書籍
0.0%
コミック
0.0%
ゲーム
0.0% その他
0.2%
映像(海外)
0.3%
音楽
96.3%
図 10
Gnutella(Limewire、Cabos 等)著作物と推測されるコンテンツの内訳(n=16063)
7
(2)権利の対象性について
著作物と推測されるもののうち、約 98%に権利があり、かつ許諾がないものだと推定される。
権利の所在、
許諾が不明な
もの
0.3%
許諾あり、もし
くは必要がな
いもの
1.3%
不明なファイル
1.0%
権利があり、
許諾がないと
推測されるも
の
97.4%
図 11
Gnutella(Limewire、Cabos 等)権利の対象性(全体)(n=20000)
(3)検出ノードの国・地域について
Winny や Share と異なり、日本以外の IP の利用が約 98%であった。特にアメリカが約 55%と半数
以上のノードが検出された。
図 12 Gnutella(Limewire、Cabos 等)検出ノード国・地域別分布(n=771848)
8
補足
調査期間について
今回の調査は 2008 年 9 月 19 日 17:00 から 2008 年 9 月 20 日 17:00 までの 24 時間を調査した。
2008
年 9 月 29 日が土曜日であったため、日中の Winny,Share の稼働ノードが平日よりも多めに観測されて
いる。週末の日中の稼働ノードが多い傾向は継続的に観測されている。
Winny の検出ノード数について
Winny の検出ノード数には Port0 設定で利用しているノードは含まれていない。Port0 設定を行って
いる Winny のキー情報は中継している Winny ノードのキーとして流通するため、Port0 のノード
(IP,PORT の組み合わせ)はキー情報では検知されないためである。
Gnutella(Limewire、Cabos 等)の調査について
収集効率を上げるため、ノード情報のみ収集するノード情報クローラと、キーワードその他の情報を
収集するキー情報クローラを使い Gnutella ネットワークの情報を取得した。
Gnutella ネットワークは全世界に広がっており、Winny、Share に比べてはるかに多いノードが検出
されている。そのため、ネットワーク全体の総量ではなくサンプリングした割合で算出している。
9
Fly UP