/[webpac2]/trunk/lib/WebPAC/Input.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/WebPAC/Input.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 496 by dpavlin, Sun May 14 19:45:26 2006 UTC revision 784 by dpavlin, Wed Dec 6 23:43:45 2006 UTC
# Line 3  package WebPAC::Input; Line 3  package WebPAC::Input;
3  use warnings;  use warnings;
4  use strict;  use strict;
5    
6    use blib;
7    
8  use WebPAC::Common;  use WebPAC::Common;
9  use base qw/WebPAC::Common/;  use base qw/WebPAC::Common/;
10  use Text::Iconv;  use Data::Dump qw/dump/;
11  use Data::Dumper;  use Encode qw/from_to/;
12    
13  =head1 NAME  =head1 NAME
14    
# Line 14  WebPAC::Input - read different file form Line 16  WebPAC::Input - read different file form
16    
17  =head1 VERSION  =head1 VERSION
18    
19  Version 0.04  Version 0.16
20    
21  =cut  =cut
22    
23  our $VERSION = '0.04';  our $VERSION = '0.16';
24    
25  =head1 SYNOPSIS  =head1 SYNOPSIS
26    
# Line 37  C<fetch_rec> and optional C<init> functi Line 39  C<fetch_rec> and optional C<init> functi
39    
40  Perhaps a little code snippet.  Perhaps a little code snippet.
41    
42      use WebPAC::Input;          use WebPAC::Input;
43    
44      my $db = WebPAC::Input->new(          my $db = WebPAC::Input->new(
45          module => 'WebPAC::Input::ISIS',                  module => 'WebPAC::Input::ISIS',
46                  config => $config,          );
                 lookup => $lookup_obj,  
                 low_mem => 1,  
     );  
47    
48      $db->open('/path/to/database');          $db->open( path => '/path/to/database' );
49          print "database size: ",$db->size,"\n";          print "database size: ",$db->size,"\n";
50          while (my $rec = $db->fetch) {          while (my $rec = $db->fetch) {
51                  # do something with $rec                  # do something with $rec
# Line 62  Create new input database object. Line 61  Create new input database object.
61    
62    my $db = new WebPAC::Input(    my $db = new WebPAC::Input(
63          module => 'WebPAC::Input::MARC',          module => 'WebPAC::Input::MARC',
64          code_page => 'ISO-8859-2',          encoding => 'ISO-8859-2',
         low_mem => 1,  
65          recode => 'char pairs',          recode => 'char pairs',
66          no_progress_bar => 1,          no_progress_bar => 1,
67    );    );
68    
69  C<module> is low-level file format module. See L<WebPAC::Input::Isis> and  C<module> is low-level file format module. See L<WebPAC::Input::ISIS> and
70  L<WebPAC::Input::MARC>.  L<WebPAC::Input::MARC>.
71    
72  Optional parametar C<code_page> specify application code page (which will be  Optional parametar C<encoding> specify application code page (which will be
73  used internally). This should probably be your terminal encoding, and by  used internally). This should probably be your terminal encoding, and by
74  default, it C<ISO-8859-2>.  default, it C<ISO-8859-2>.
75    
 Default is not to use C<low_mem> options (see L<MEMORY USAGE> below).  
   
76  C<recode> is optional string constisting of character or words pairs that  C<recode> is optional string constisting of character or words pairs that
77  should be replaced in input stream.  should be replaced in input stream.
78    
# Line 94  sub new { Line 90  sub new {
90    
91          my $log = $self->_get_logger;          my $log = $self->_get_logger;
92    
93          $log->logconfess("specify low-level file format module") unless ($self->{module});          $log->logconfess("code_page argument is not suppored any more. change it to encoding") if ($self->{lookup});
94          my $module = $self->{module};          $log->logconfess("lookup argument is not suppored any more. rewrite call to lookup_ref") if ($self->{lookup});
95          $module =~ s#::#/#g;          $log->logconfess("low_mem argument is not suppored any more. rewrite it to load_row and save_row") if ($self->{low_mem});
         $module .= '.pm';  
         $log->debug("require low-level module $self->{module} from $module");  
   
         require $module;  
         #eval $self->{module} .'->import';  
   
         # check if required subclasses are implemented  
         foreach my $subclass (qw/open_db fetch_rec init/) {  
                 my $n = $self->{module} . '::' . $subclass;  
                 if (! defined &{ $n }) {  
                         my $missing = "missing $subclass in $self->{module}";  
                         $self->{$subclass} = sub { $log->logwarn($missing) };  
                 } else {  
                         $self->{$subclass} = \&{ $n };  
                 }  
         }  
   
         if ($self->{init}) {  
                 $log->debug("calling init");  
                 $self->{init}->($self, @_);  
         }  
   
         $self->{'code_page'} ||= 'ISO-8859-2';  
   
         # running with low_mem flag? well, use DBM::Deep then.  
         if ($self->{'low_mem'}) {  
                 $log->info("running with low_mem which impacts performance (<32 Mb memory usage)");  
   
                 my $db_file = "data.db";  
   
                 if (-e $db_file) {  
                         unlink $db_file or $log->logdie("can't remove '$db_file' from last run");  
                         $log->debug("removed '$db_file' from last run");  
                 }  
   
                 require DBM::Deep;  
96    
97                  my $db = new DBM::Deep $db_file;          $log->logconfess("specify low-level file format module") unless ($self->{module});
98            my $module_path = $self->{module};
99                  $log->logdie("DBM::Deep error: $!") unless ($db);          $module_path =~ s#::#/#g;
100            $module_path .= '.pm';
101            $log->debug("require low-level module $self->{module} from $module_path");
102    
103                  if ($db->error()) {          require $module_path;
                         $log->logdie("can't open '$db_file' under low_mem: ",$db->error());  
                 } else {  
                         $log->debug("using file '$db_file' for DBM::Deep");  
                 }  
104    
105                  $self->{'db'} = $db;          $self->{'encoding'} ||= 'ISO-8859-2';
         }  
106    
107          $self ? return $self : return undef;          $self ? return $self : return undef;
108  }  }
# Line 154  sub new { Line 111  sub new {
111    
112  This function will read whole database in memory and produce lookups.  This function will read whole database in memory and produce lookups.
113    
114     my $store;     # simple in-memory hash
115    
116   $input->open(   $input->open(
117          path => '/path/to/database/file',          path => '/path/to/database/file',
118          code_page => '852',          code_page => 'cp852',
119          limit => 500,          limit => 500,
120          offset => 6000,          offset => 6000,
121          lookup => $lookup_obj,          stats => 1,
122            lookup_coderef => sub {
123                    my $rec = shift;
124                    # store lookups
125            },
126            modify_records => {
127                    900 => { '^a' => { ' : ' => '^b' } },
128                    901 => { '*' => { '^b' => ' ; ' } },
129            },
130            modify_file => 'conf/modify/mapping.map',
131            save_row => sub {
132                    my $a = shift;
133                    $store->{ $a->{id} } = $a->{row};
134            },
135            load_row => sub {
136                    my $a = shift;
137                    return defined($store->{ $a->{id} }) &&
138                            $store->{ $a->{id} };
139            },
140    
141   );   );
142    
143  By default, C<code_page> is assumed to be C<852>.  By default, C<code_page> is assumed to be C<cp852>.
144    
145  C<offset> is optional parametar to position at some offset before reading from database.  C<offset> is optional parametar to position at some offset before reading from database.
146    
147  C<limit> is optional parametar to read just C<limit> records from database  C<limit> is optional parametar to read just C<limit> records from database
148    
149    C<stats> create optional report about usage of fields and subfields
150    
151    C<lookup_coderef> is closure to called to save data into lookups
152    
153    C<modify_records> specify mapping from subfields to delimiters or from
154    delimiters to subfields, as well as oprations on fields (if subfield is
155    defined as C<*>.
156    
157    C<modify_file> is alternative for C<modify_records> above which preserves order and offers
158    (hopefully) simplier sintax than YAML or perl (see L</modify_file_regex>). This option
159    overrides C<modify_records> if both exists for same input.
160    
161    C<save_row> and C<load_row> are low-level implementation of store engine. Calling convention
162    is documented in example above.
163    
164  Returns size of database, regardless of C<offset> and C<limit>  Returns size of database, regardless of C<offset> and C<limit>
165  parametars, see also C<size>.  parametars, see also C<size>.
166    
# Line 179  sub open { Line 172  sub open {
172    
173          my $log = $self->_get_logger();          my $log = $self->_get_logger();
174    
175            $log->logconfess("lookup argument is not suppored any more. rewrite call to lookup_coderef") if ($arg->{lookup});
176            $log->logconfess("lookup_coderef must be CODE, not ",ref($arg->{lookup_coderef}))
177                    if ($arg->{lookup_coderef} && ref($arg->{lookup_coderef}) ne 'CODE');
178    
179            $log->debug( $arg->{lookup_coderef} ? '' : 'not ', "using lookup_coderef");
180    
181          $log->logcroak("need path") if (! $arg->{'path'});          $log->logcroak("need path") if (! $arg->{'path'});
182          my $code_page = $arg->{'code_page'} || '852';          my $code_page = $arg->{'code_page'} || 'cp852';
183    
184          # store data in object          # store data in object
185          $self->{'input_code_page'} = $code_page;          $self->{'input_code_page'} = $code_page;
# Line 188  sub open { Line 187  sub open {
187                  $self->{$v} = $arg->{$v} if ($arg->{$v});                  $self->{$v} = $arg->{$v} if ($arg->{$v});
188          }          }
189    
190          # create Text::Iconv object          if ($arg->{load_row} || $arg->{save_row}) {
191          $self->{iconv} = Text::Iconv->new($code_page,$self->{'code_page'});                  $log->logconfess("save_row and load_row must be defined in pair and be CODE") unless (
192                            ref($arg->{load_row}) eq 'CODE' &&
193                            ref($arg->{save_row}) eq 'CODE'
194                    );
195                    $self->{load_row} = $arg->{load_row};
196                    $self->{save_row} = $arg->{save_row};
197                    $log->debug("using load_row and save_row instead of in-memory hash");
198            }
199    
200          my $filter_ref;          my $filter_ref;
201            my $recode_regex;
202            my $recode_map;
203    
204          if ($self->{recode}) {          if ($self->{recode}) {
205                  my @r = split(/\s/, $self->{recode});                  my @r = split(/\s/, $self->{recode});
206                  if ($#r % 2 != 1) {                  if ($#r % 2 != 1) {
207                          $log->logwarn("recode needs even number of elements (some number of valid pairs)");                          $log->logwarn("recode needs even number of elements (some number of valid pairs)");
208                  } else {                  } else {
                         my $recode;  
209                          while (@r) {                          while (@r) {
210                                  my $from = shift @r;                                  my $from = shift @r;
211                                  my $to = shift @r;                                  my $to = shift @r;
212                                  $recode->{$from} = $to;                                  $recode_map->{$from} = $to;
213                          }                          }
214    
215                          my $regex = join '|' => keys %{ $recode };                          $recode_regex = join '|' => keys %{ $recode_map };
   
                         $log->debug("using recode regex: $regex");  
                           
                         $filter_ref = sub {  
                                 my $t = shift;  
                                 $t =~ s/($regex)/$recode->{$1}/g;  
                                 return $t;  
                         };  
216    
217                            $log->debug("using recode regex: $recode_regex");
218                  }                  }
219    
220          }          }
221    
222          my ($db, $size) = $self->{open_db}->( $self,          my $rec_regex;
223            if (my $p = $arg->{modify_file}) {
224                    $log->debug("using modify_file $p");
225                    $rec_regex = $self->modify_file_regexps( $p );
226            } elsif (my $h = $arg->{modify_records}) {
227                    $log->debug("using modify_records ", sub { dump( $h ) });
228                    $rec_regex = $self->modify_record_regexps(%{ $h });
229            }
230            $log->debug("rec_regex: ", sub { dump($rec_regex) }) if ($rec_regex);
231    
232            my $class = $self->{module} || $log->logconfess("can't get low-level module name!");
233    
234            my $ll_db = $class->new(
235                  path => $arg->{path},                  path => $arg->{path},
236                  filter => $filter_ref,  #               filter => sub {
237    #                       my ($l,$f_nr) = @_;
238    #                       return unless defined($l);
239    #                       from_to($l, $code_page, $self->{'encoding'});
240    #                       $l =~ s/($recode_regex)/$recode_map->{$1}/g if ($recode_regex && $recode_map);
241    #                       return $l;
242    #               },
243                    %{ $arg },
244          );          );
245    
246          unless (defined($db)) {          unless (defined($ll_db)) {
247                  $log->logwarn("can't open database $arg->{path}, skipping...");                  $log->logwarn("can't open database $arg->{path}, skipping...");
248                  return;                  return;
249          }          }
250    
251            my $size = $ll_db->size;
252    
253          unless ($size) {          unless ($size) {
254                  $log->logwarn("no records in database $arg->{path}, skipping...");                  $log->logwarn("no records in database $arg->{path}, skipping...");
255                  return;                  return;
# Line 238  sub open { Line 259  sub open {
259          my $to_rec = $size;          my $to_rec = $size;
260    
261          if (my $s = $self->{offset}) {          if (my $s = $self->{offset}) {
262                  $log->info("skipping to MFN $s");                  $log->debug("skipping to MFN $s");
263                  $from_rec = $s;                  $from_rec = $s;
264          } else {          } else {
265                  $self->{offset} = $from_rec;                  $self->{offset} = $from_rec;
# Line 253  sub open { Line 274  sub open {
274          # store size for later          # store size for later
275          $self->{size} = ($to_rec - $from_rec) ? ($to_rec - $from_rec + 1) : 0;          $self->{size} = ($to_rec - $from_rec) ? ($to_rec - $from_rec + 1) : 0;
276    
277          $log->info("processing $self->{size}/$size records [$from_rec-$to_rec] convert $code_page -> $self->{code_page}");          $log->info("processing $self->{size}/$size records [$from_rec-$to_rec] convert $code_page -> $self->{encoding}", $self->{stats} ? ' [stats]' : '');
278    
279          # read database          # read database
280          for (my $pos = $from_rec; $pos <= $to_rec; $pos++) {          for (my $pos = $from_rec; $pos <= $to_rec; $pos++) {
281    
282                  $log->debug("position: $pos\n");                  $log->debug("position: $pos\n");
283    
284                  my $rec = $self->{fetch_rec}->($self, $db, $pos );                  my $rec = $ll_db->fetch_rec($pos, sub {
285                                    my ($l,$f_nr) = @_;
286    #                               return unless defined($l);
287    #                               return $l unless ($rec_regex && $f_nr);
288    
289                                    $log->debug("-=> $f_nr ## $l");
290    
291                                    # codepage conversion and recode_regex
292                                    from_to($l, $code_page, $self->{'encoding'});
293                                    $l =~ s/($recode_regex)/$recode_map->{$1}/g if ($recode_regex && $recode_map);
294    
295                                    # apply regexps
296                                    if ($rec_regex && defined($rec_regex->{$f_nr})) {
297                                            $log->logconfess("regexps->{$f_nr} must be ARRAY") if (ref($rec_regex->{$f_nr}) ne 'ARRAY');
298                                            my $c = 0;
299                                            foreach my $r (@{ $rec_regex->{$f_nr} }) {
300                                                    my $old_l = $l;
301                                                    eval '$l =~ ' . $r;
302                                                    if ($old_l ne $l) {
303                                                            $log->debug("REGEX on $f_nr eval \$l =~ $r\n## old l: [$old_l]\n## new l: [$l]");
304                                                    }
305                                                    $log->error("error applying regex: $r") if ($@);
306                                            }
307                                    }
308    
309                                    $log->debug("<=- $f_nr ## $l");
310                                    return $l;
311                    });
312    
313                  $log->debug(sub { Dumper($rec) });                  $log->debug(sub { dump($rec) });
314    
315                  if (! $rec) {                  if (! $rec) {
316                          $log->warn("record $pos empty? skipping...");                          $log->warn("record $pos empty? skipping...");
# Line 270  sub open { Line 318  sub open {
318                  }                  }
319    
320                  # store                  # store
321                  if ($self->{low_mem}) {                  if ($self->{save_row}) {
322                          $self->{db}->put($pos, $rec);                          $self->{save_row}->({
323                                    id => $pos,
324                                    row => $rec,
325                            });
326                  } else {                  } else {
327                          $self->{data}->{$pos} = $rec;                          $self->{data}->{$pos} = $rec;
328                  }                  }
329    
330                  # create lookup                  # create lookup
331                  $self->{'lookup'}->add( $rec ) if ($rec && $self->{'lookup'});                  $arg->{'lookup_coderef'}->( $rec ) if ($rec && $arg->{'lookup_coderef'});
332    
333                    # update counters for statistics
334                    if ($self->{stats}) {
335    
336                            # fetch clean record with regexpes applied for statistics
337                            my $rec = $ll_db->fetch_rec($pos);
338    
339                            foreach my $fld (keys %{ $rec }) {
340                                    $self->{_stats}->{fld}->{ $fld }++;
341    
342                                    $log->logdie("invalid record fild $fld, not ARRAY")
343                                            unless (ref($rec->{ $fld }) eq 'ARRAY');
344            
345                                    foreach my $row (@{ $rec->{$fld} }) {
346    
347                                            if (ref($row) eq 'HASH') {
348    
349                                                    foreach my $sf (keys %{ $row }) {
350                                                            next if ($sf eq 'subfields');
351                                                            $self->{_stats}->{sf}->{ $fld }->{ $sf }->{count}++;
352                                                            $self->{_stats}->{sf}->{ $fld }->{ $sf }->{repeatable}++
353                                                                            if (ref($row->{$sf}) eq 'ARRAY');
354                                                    }
355    
356                                            } else {
357                                                    $self->{_stats}->{repeatable}->{ $fld }++;
358                                            }
359                                    }
360                            }
361                    }
362    
363                  $self->progress_bar($pos,$to_rec) unless ($self->{no_progress_bar});                  $self->progress_bar($pos,$to_rec) unless ($self->{no_progress_bar});
364    
# Line 290  sub open { Line 371  sub open {
371          $self->{max_pos} = $to_rec;          $self->{max_pos} = $to_rec;
372          $log->debug("max_pos: $to_rec");          $log->debug("max_pos: $to_rec");
373    
374            # save for dump
375            $self->{ll_db} = $ll_db;
376    
377          return $size;          return $size;
378  }  }
379    
# Line 329  sub fetch { Line 413  sub fetch {
413    
414          my $rec;          my $rec;
415    
416          if ($self->{low_mem}) {          if ($self->{load_row}) {
417                  $rec = $self->{db}->get($mfn);                  $rec = $self->{load_row}->({ id => $mfn });
418          } else {          } else {
419                  $rec = $self->{data}->{$mfn};                  $rec = $self->{data}->{$mfn};
420          }          }
# Line 400  sub seek { Line 484  sub seek {
484          return $self->{pos} = (($pos - 1) || -1);          return $self->{pos} = (($pos - 1) || -1);
485  }  }
486    
487    =head2 stats
488    
489    Dump statistics about field and subfield usage
490    
491      print $input->stats;
492    
493    =cut
494    
495    sub stats {
496            my $self = shift;
497    
498            my $log = $self->_get_logger();
499    
500            my $s = $self->{_stats};
501            if (! $s) {
502                    $log->warn("called stats, but there is no statistics collected");
503                    return;
504            }
505    
506  =head1 MEMORY USAGE          my $max_fld = 0;
507    
508  C<low_mem> options is double-edged sword. If enabled, WebPAC          my $out = join("\n",
509  will run on memory constraint machines (which doesn't have enough                  map {
510  physical RAM to create memory structure for whole source database).                          my $f = $_ || die "no field";
511                            my $v = $s->{fld}->{$f} || die "no s->{fld}->{$f}";
512  If your machine has 512Mb or more of RAM and database is around 10000 records,                          $max_fld = $v if ($v > $max_fld);
513  memory shouldn't be an issue. If you don't have enough physical RAM, you  
514  might consider using virtual memory (if your operating system is handling it                          my $o = sprintf("%4s %d ~", $f, $v);
515  well, like on FreeBSD or Linux) instead of dropping to L<DBM::Deep> to handle  
516  parsed structure of ISIS database (this is what C<low_mem> option does).                          if (defined($s->{sf}->{$f})) {
517                                    map {
518  Hitting swap at end of reading source database is probably o.k. However,                                          $o .= sprintf(" %s:%d%s", $_,
519  hitting swap before 90% will dramatically decrease performance and you will                                                  $s->{sf}->{$f}->{$_}->{count},
520  be better off with C<low_mem> and using rest of availble memory for                                                  $s->{sf}->{$f}->{$_}->{repeatable} ? '*' : '',
521  operating system disk cache (Linux is particuallary good about this).                                          );
522  However, every access to database record will require disk access, so                                  } sort keys %{ $s->{sf}->{$f} };
523  generation phase will be slower 10-100 times.                          }
524    
525  Parsed structures are essential - you just have option to trade RAM memory                          if (my $v_r = $s->{repeatable}->{$f}) {
526  (which is fast) for disk space (which is slow). Be sure to have planty of                                  $o .= " ($v_r)" if ($v_r != $v);
527  disk space if you are using C<low_mem> and thus L<DBM::Deep>.                          }
528    
529  However, when WebPAC is running on desktop machines (or laptops :-), it's                          $o;
530  highly undesireable for system to start swapping. Using C<low_mem> option can                  } sort { $a cmp $b } keys %{ $s->{fld} }
531  reduce WecPAC memory usage to around 64Mb for same database with lookup          );
532  fields and sorted indexes which stay in RAM. Performance will suffer, but  
533  memory usage will really be minimal. It might be also more confortable to          $log->debug( sub { dump($s) } );
534  run WebPAC reniced on those machines.  
535            return $out;
536    }
537    
538    =head2 dump_ascii
539    
540    Display humanly readable dump of record
541    
542    =cut
543    
544    sub dump_ascii {
545            my $self = shift;
546    
547            return unless $self->{ll_db};
548    
549            if ($self->{ll_db}->can('dump_rec')) {
550                    return $self->{ll_db}->dump_ascii( $self->{pos} );
551            } else {
552                    return dump( $self->{ll_db}->fetch_rec( $self->{pos} ) );
553            }
554    }
555    
556    =head2 modify_record_regexps
557    
558    Generate hash with regexpes to be applied using l<filter>.
559    
560      my $regexpes = $input->modify_record_regexps(
561                    900 => { '^a' => { ' : ' => '^b' } },
562                    901 => { '*' => { '^b' => ' ; ' } },
563      );
564    
565    =cut
566    
567    sub _get_regex {
568            my ($sf,$from,$to) = @_;
569            if ($from =~ m/^regex:(.+)$/) {
570                    $from = $1;
571            } else {
572                    $from = '\Q' . $from . '\E';
573            }
574            if ($sf =~ /^\^/) {
575                    return
576                            's/\Q'. $sf .'\E([^\^]*?)'. $from .'([^\^]*?)/'. $sf .'$1'. $to .'$2/';
577            } else {
578                    return
579                            's/'. $from .'/'. $to .'/g';
580            }
581    }
582    
583    sub modify_record_regexps {
584            my $self = shift;
585            my $modify_record = {@_};
586    
587            my $regexpes;
588    
589            my $log = $self->_get_logger();
590    
591            foreach my $f (keys %$modify_record) {
592                    $log->debug("field: $f");
593    
594                    foreach my $sf (keys %{ $modify_record->{$f} }) {
595                            $log->debug("subfield: $sf");
596    
597                            foreach my $from (keys %{ $modify_record->{$f}->{$sf} }) {
598                                    my $to = $modify_record->{$f}->{$sf}->{$from};
599                                    #die "no field?" unless defined($to);
600                                    $log->debug("transform: |$from| -> |$to|");
601    
602                                    my $regex = _get_regex($sf,$from,$to);
603                                    push @{ $regexpes->{$f} }, $regex;
604                                    $log->debug("regex: $regex");
605                            }
606                    }
607            }
608    
609            return $regexpes;
610    }
611    
612    =head2 modify_file_regexps
613    
614    Generate hash with regexpes to be applied using l<filter> from
615    pseudo hash/yaml format for regex mappings.
616    
617    It should be obvious:
618    
619            200
620              '^a'
621                ' : ' => '^e'
622                ' = ' => '^d'
623    
624    In field I<200> find C<'^a'> and then C<' : '>, and replace it with C<'^e'>.
625    In field I<200> find C<'^a'> and then C<' = '>, and replace it with C<'^d'>.
626    
627      my $regexpes = $input->modify_file_regexps( 'conf/modify/common.pl' );
628    
629    On undef path it will just return.
630    
631    =cut
632    
633    sub modify_file_regexps {
634            my $self = shift;
635    
636            my $modify_path = shift || return;
637    
638            my $log = $self->_get_logger();
639    
640            my $regexpes;
641    
642            CORE::open(my $fh, $modify_path) || $log->logdie("can't open modify file $modify_path: $!");
643    
644            my ($f,$sf);
645    
646            while(<$fh>) {
647                    chomp;
648                    next if (/^#/ || /^\s*$/);
649    
650                    if (/^\s*(\d+)\s*$/) {
651                            $f = $1;
652                            $log->debug("field: $f");
653                            next;
654                    } elsif (/^\s*'([^']*)'\s*$/) {
655                            $sf = $1;
656                            $log->die("can't define subfiled before field in: $_") unless ($f);
657                            $log->debug("subfield: $sf");
658                    } elsif (/^\s*'([^']*)'\s*=>\s*'([^']*)'\s*$/) {
659                            my ($from,$to) = ($1, $2);
660    
661                            $log->debug("transform: |$from| -> |$to|");
662    
663                            my $regex = _get_regex($sf,$from,$to);
664                            push @{ $regexpes->{$f} }, $regex;
665                            $log->debug("regex: $regex");
666                    }
667            }
668    
669            return $regexpes;
670    }
671    
672  =head1 AUTHOR  =head1 AUTHOR
673    
# Line 438  Dobrica Pavlinusic, C<< <dpavlin@rot13.o Line 675  Dobrica Pavlinusic, C<< <dpavlin@rot13.o
675    
676  =head1 COPYRIGHT & LICENSE  =head1 COPYRIGHT & LICENSE
677    
678  Copyright 2005 Dobrica Pavlinusic, All Rights Reserved.  Copyright 2005-2006 Dobrica Pavlinusic, All Rights Reserved.
679    
680  This program is free software; you can redistribute it and/or modify it  This program is free software; you can redistribute it and/or modify it
681  under the same terms as Perl itself.  under the same terms as Perl itself.
Legend:
Removed from v.496  
changed lines
  Added in v.784
  ViewVC Help
Powered by ViewVC 1.1.26