« ガンバレ!ファミリーレストランみのり(埼玉県秩父市) | Main

June 02, 2012

複数のディレクトリ下にあるファイルすべての MD5 ハッシュをとって,一致してるファイルを表示する perl script

先日,別の拠点にあるファイルサーバーのデータを持ってきてこちらのファイルサーバーにコピーしようとしたのだけども,どうも中身が同じファイルが多いようなので,ファイルの MD5 ハッシュとって同じだったら同一内容のファイルだとして消そうと思った次第.

$ ./filecomp.pl /hoge /booboo 

みたいに実行すると,/hoge も /booboo にもある(そのサブディレクトリも含む)ファイルも全部ごっちゃにして MD5 ハッシュ計算して一致したファイル名をフルパスで表示します.
例えば /hoge/ahhan.txt と /hoge/uhhun.txt, /booboo/ahhan.txt が一致してると,順番はどうなるかわかりませんが,



use strict;
use warnings;

use File::Util;
use Digest::MD5;

my $file_obj = File::Util->new(max_dives => 50000);
my @total_filelist;
my %key_filename;
my %key_hashed;
my $flag_overtwo;

foreach (@ARGV) {
my @temp_filelist = $file_obj->list_dir($_,'--files-only','--recurse');
push @total_filelist, @temp_filelist;

foreach (@total_filelist) {
open(TARGET, $_) || die "Can't open file, name: $_ :$!";
$key_filename{$_} = Digest::MD5->new->addfile(*TARGET)->hexdigest;

foreach (sort{$key_filename{$b} cmp $key_filename{$a}} keys %key_filename) {
if($key_hashed{$key_filename{$_}}) {
if(! defined($flag_overtwo)) {
print "$key_hashed{$key_filename{$_}} \t $_\n";
$flag_overtwo = "deja été";
else {
print "\t\t $_\n";
}else {
$key_hashed{$key_filename{$_}} = $_;

コード内で File::Util のオブジェクト作るときの max_dives ってのは最大で何個のファイル(ディレクトリも含む?)を“掘る”かっていう感じの数字でデフォルトがかなり小さくて小生の目的では全然ダメなので大きくしてます.cpan 見てデフォルトで行くなり増やすなり適宜よろしくお願いします.
最初のループでは,引数で指定されたディレクトリ以下のファイルをぶりぶり調べてフルパスで配列 total_filelist にぶち込む.次のループでは total_filelist にある全ファイルの MD5 ハッシュを計算して,ファイル名をキー,ハッシュ値を値とするハッシュ:key_filename にぶち込む,最後のループでは %key_file ハッシュを値(すなわち MD5 ハッシュ値)でソートして,MD5 ハッシュ値をキー,フルパスのファイル名を値とするハッシュ:key_hashed を作る(すなわち reverse(%hash) をいちいちやる)ループなのですが,MD5 ハッシュ値であるキーがダブルと上書きされていくので,すでにそのキーがあると標準出力に書きだすし,一回そのキーで書き出すとフラグ:flag_overtwo がたってそれ以降の同じ MD5 ハッシュ値のダブりの処理ではタブ二個と最新の値(ファイルフルパス名)が標準出力に出てくるという話.

$ cd /ahhan
$ find . -type f > ahhan
$ cd /uhhun
$ find . -type f > uhhun
$ wc -l ahhan uhhun


$ diff ahhan uhhun

みたいな感じで確認してディレクトリごと片方を削除したりしてます.それさえもスクリプトに含めるのは一瞬考えましたが,ファイラーもどきを書いてしまうのは too much でもあり,僭越でもあり,汎用性を考えて上のままで使ってます.
BSD マシン上では動いてますけど,active perl 上ではどうなのでしょう?
はるか前にもエントリーあげましたが,MD5 ハッシュを cpan のモジュールで云々するというのはゆーすけべーさんのエントリー“いかにして効率よく大量のおっぱい画像をダウンロードするか”のコードの最後のほうに触発されたということが大きいです(最近は改良版とか ruby 版とか出ているといううわさですが)


« ガンバレ!ファミリーレストランみのり(埼玉県秩父市) | Main




Hearing this affirmation, most online marketers take this as a relief. and it can not always be possible because of your hard schedule, exercising after a meal when you may will help with your very own weight loss. So, you need to tweet continuously and write many followers.

Posted by: how to twitter and tweet | November 13, 2013 at 12:13 PM

This happens to be a incredibly potent way to improve your web site hits by providing specials to your Twitter followers and directing them to your site. Reviews and ratings by customers across social media are so important to your business for 2 reasons. Being currently one of the most popular social networking internet, Twitter is a powerful marketing tool.

Posted by: jtigers.com | December 04, 2013 at 04:47 PM

It is really not that difficult a undertaking, especially if you have read the points discussed. Place your Twitter address on letterhead, item packaging and website. This is where you have the potential to market yourself and your internet based companies.

Posted by: how to twitter a book | February 28, 2014 at 04:05 PM

It's amazing to go to see this website and reading the views of all friends on the topic of this article, while I am also eager of getting knowledge.

Posted by: sexvideo | May 28, 2014 at 02:06 AM

Link exchange is nothing else but it is only placing the other person's website link on your page at appropriate place and other person will also do same in favor of you.

Posted by: http://wallpapergrid.com/profile/mamarcell.html | July 02, 2014 at 06:52 PM

I know this web site presents quality based articles and other information, is there any other web site which offers these kinds of data in quality?

Posted by: Phillip | August 14, 2014 at 09:38 PM

Very good information. Lucky me I recently found your site by accidnt (stumbleupon). I've saved it ffor later!

Posted by: Fifa 14 monete hackerare|#KM16 fifa 14 hacker | August 22, 2014 at 11:19 PM

Post a comment

(Not displayed with comment.)


TrackBack URL for this entry:

Listed below are links to weblogs that reference 複数のディレクトリ下にあるファイルすべての MD5 ハッシュをとって,一致してるファイルを表示する perl script:

« ガンバレ!ファミリーレストランみのり(埼玉県秩父市) | Main