/[webpac2]/trunk/lib/WebPAC/Input.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/WebPAC/Input.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 585 by dpavlin, Wed Jul 5 19:52:45 2006 UTC revision 613 by dpavlin, Wed Aug 23 11:04:32 2006 UTC
# Line 16  WebPAC::Input - read different file form Line 16  WebPAC::Input - read different file form
16    
17  =head1 VERSION  =head1 VERSION
18    
19  Version 0.07  Version 0.10
20    
21  =cut  =cut
22    
23  our $VERSION = '0.07';  our $VERSION = '0.10';
24    
25  =head1 SYNOPSIS  =head1 SYNOPSIS
26    
# Line 39  C<fetch_rec> and optional C<init> functi Line 39  C<fetch_rec> and optional C<init> functi
39    
40  Perhaps a little code snippet.  Perhaps a little code snippet.
41    
42      use WebPAC::Input;          use WebPAC::Input;
43    
44      my $db = WebPAC::Input->new(          my $db = WebPAC::Input->new(
45          module => 'WebPAC::Input::ISIS',                  module => 'WebPAC::Input::ISIS',
                 config => $config,  
46                  low_mem => 1,                  low_mem => 1,
47      );          );
48    
49      $db->open('/path/to/database');          $db->open( path => '/path/to/database' );
50          print "database size: ",$db->size,"\n";          print "database size: ",$db->size,"\n";
51          while (my $rec = $db->fetch) {          while (my $rec = $db->fetch) {
52                  # do something with $rec                  # do something with $rec
# Line 69  Create new input database object. Line 68  Create new input database object.
68          no_progress_bar => 1,          no_progress_bar => 1,
69    );    );
70    
71  C<module> is low-level file format module. See L<WebPAC::Input::Isis> and  C<module> is low-level file format module. See L<WebPAC::Input::ISIS> and
72  L<WebPAC::Input::MARC>.  L<WebPAC::Input::MARC>.
73    
74  Optional parametar C<encoding> specify application code page (which will be  Optional parametar C<encoding> specify application code page (which will be
# Line 169  This function will read whole database i Line 168  This function will read whole database i
168                  my ($k,$v) = @_;                  my ($k,$v) = @_;
169                  # store lookup $k => $v                  # store lookup $k => $v
170          },          },
171            modify_records => {
172                    900 => { '^a' => { ' : ' => '^b' } },
173                    901 => { '*' => { '^b' => ' ; ' } },
174            },
175   );   );
176    
177  By default, C<code_page> is assumed to be C<852>.  By default, C<code_page> is assumed to be C<852>.
# Line 179  C<limit> is optional parametar to read j Line 182  C<limit> is optional parametar to read j
182    
183  C<stats> create optional report about usage of fields and subfields  C<stats> create optional report about usage of fields and subfields
184    
185  C<lookup_coderef> is closure to call when adding key => $value combinations to  C<lookup_coderef> is closure to call when adding C<< key => 'value' >> combinations to
186  lookup.  lookup.
187    
188    C<modify_records> specify mapping from subfields to delimiters or from
189    delimiters to subfields, as well as oprations on fields (if subfield is
190    defined as C<*>.
191    
192  Returns size of database, regardless of C<offset> and C<limit>  Returns size of database, regardless of C<offset> and C<limit>
193  parametars, see also C<size>.  parametars, see also C<size>.
194    
# Line 210  sub open { Line 217  sub open {
217          $self->{iconv} = Text::Iconv->new($code_page,$self->{'encoding'});      ## FIXME remove!          $self->{iconv} = Text::Iconv->new($code_page,$self->{'encoding'});      ## FIXME remove!
218    
219          my $filter_ref;          my $filter_ref;
220            my $recode_regex;
221            my $recode_map;
222    
223          if ($self->{recode}) {          if ($self->{recode}) {
224                  my @r = split(/\s/, $self->{recode});                  my @r = split(/\s/, $self->{recode});
225                  if ($#r % 2 != 1) {                  if ($#r % 2 != 1) {
226                          $log->logwarn("recode needs even number of elements (some number of valid pairs)");                          $log->logwarn("recode needs even number of elements (some number of valid pairs)");
227                  } else {                  } else {
                         my $recode;  
228                          while (@r) {                          while (@r) {
229                                  my $from = shift @r;                                  my $from = shift @r;
230                                  my $to = shift @r;                                  my $to = shift @r;
231                                  $recode->{$from} = $to;                                  $recode_map->{$from} = $to;
232                          }                          }
233    
234                          my $regex = join '|' => keys %{ $recode };                          $recode_regex = join '|' => keys %{ $recode_map };
   
                         $log->debug("using recode regex: $regex");  
                           
                         $filter_ref = sub {  
                                 my $t = shift;  
                                 $t =~ s/($regex)/$recode->{$1}/g;  
                                 return $t;  
                         };  
235    
236                            $log->debug("using recode regex: $recode_regex");
237                  }                  }
238    
239          }          }
240    
241            my $rec_regex = $self->modify_record_regexps(%{ $arg->{modify_records} });
242            $log->debug("rec_regex: ", Dumper($rec_regex));
243    
244          my ($db, $size) = $self->{open_db}->( $self,          my ($db, $size) = $self->{open_db}->( $self,
245                  path => $arg->{path},                  path => $arg->{path},
246                  filter => $filter_ref,                  filter => sub {
247                                    my ($l,$f_nr) = @_;
248                                    return unless defined($l);
249    
250                                    ## FIXME remove iconv!
251                                    $l = $self->{iconv}->convert($l) if ($self->{iconv});
252            
253                                    $l =~ s/($recode_regex)/$recode_map->{$1}/g if ($recode_regex && $recode_map);
254    
255                                    ## FIXME remove this warning when we are sure that none of API is calling
256                                    ## this wrongly
257                                    #warn "filter called without field number" unless ($f_nr);
258    
259                                    return $l unless ($rec_regex && $f_nr);
260    
261    #                               my $max_regex = 100;
262    
263                                    # apply regexps
264                                    if ($rec_regex && defined($rec_regex->{$f_nr})) {
265                                            $log->logconfess("regexps->{$f_nr} must be ARRAY") if (ref($rec_regex->{$f_nr}) ne 'ARRAY');
266                                            my $c = 0;
267                                            foreach my $r (@{ $rec_regex->{$f_nr} }) {
268                                                    #$log->debug("\$l = $l\neval \$l =~ $r");
269                                                    eval '$l =~ ' . $r;
270                                                    $log->error("error applying regex: $r") if ($@);
271    
272    #                                               while ( $c < $max_regex && eval '$l =~ ' . $r ) { $c++ };
273    #                                               $log->error("field $f_nr has more than $max_regex regex iterations\n\$l = $l\neval \$l =~ $r") if ($c == $max_regex);
274    
275                                            }
276                                    }
277    
278                                    return $l;
279                    },
280                  %{ $arg },                  %{ $arg },
281          );          );
282    
# Line 300  sub open { Line 337  sub open {
337    
338                  # update counters for statistics                  # update counters for statistics
339                  if ($self->{stats}) {                  if ($self->{stats}) {
340                          map {  
341                                  my $fld = $_;                          foreach my $fld (keys %{ $rec }) {
342                                  $self->{_stats}->{fld}->{ $fld }++;                                  $self->{_stats}->{fld}->{ $fld }++;
343                                  if (ref($rec->{ $fld }) eq 'ARRAY') {  
344                                          map {                                  $log->logdie("invalid record fild $fld, not ARRAY")
345                                                  if (ref($_) eq 'HASH') {                                          unless (ref($rec->{ $fld }) eq 'ARRAY');
346                                                          map {          
347                                                                  $self->{_stats}->{sf}->{ $fld }->{ $_ }++;                                  foreach my $row (@{ $rec->{$fld} }) {
348                                                          } keys %{ $_ };  
349                                                  } else {                                          if (ref($row) eq 'HASH') {
350                                                          $self->{_stats}->{repeatable}->{ $fld }++;  
351                                                    foreach my $sf (keys %{ $row }) {
352                                                            $self->{_stats}->{sf}->{ $fld }->{ $sf }->{count}++;
353                                                            $self->{_stats}->{sf}->{ $fld }->{ $sf }->{repeatable}++
354                                                                            if (ref($row->{$sf}) eq 'ARRAY');
355                                                  }                                                  }
356                                          } @{ $rec->{$fld} };  
357                                            } else {
358                                                    $self->{_stats}->{repeatable}->{ $fld }++;
359                                            }
360                                  }                                  }
361                          } keys %{ $rec };                          }
362                  }                  }
363    
364                  $self->progress_bar($pos,$to_rec) unless ($self->{no_progress_bar});                  $self->progress_bar($pos,$to_rec) unless ($self->{no_progress_bar});
# Line 469  sub stats { Line 513  sub stats {
513    
514                          if (defined($s->{sf}->{$f})) {                          if (defined($s->{sf}->{$f})) {
515                                  map {                                  map {
516                                          $o .= sprintf(" %s:%d", $_, $s->{sf}->{$f}->{$_});                                          $o .= sprintf(" %s:%d%s", $_,
517                                                    $s->{sf}->{$f}->{$_}->{count},
518                                                    $s->{sf}->{$f}->{$_}->{repeatable} ? '*' : '',
519                                            );
520                                  } sort keys %{ $s->{sf}->{$f} };                                  } sort keys %{ $s->{sf}->{$f} };
521                          }                          }
522    
# Line 486  sub stats { Line 533  sub stats {
533          return $out;          return $out;
534  }  }
535    
536    =head2 modify_record_regexps
537    
538    Generate hash with regexpes to be applied using L<filter>.
539    
540      my $regexpes = $input->modify_record_regexps(
541                    900 => { '^a' => { ' : ' => '^b' } },
542                    901 => { '*' => { '^b' => ' ; ' } },
543      );
544    
545    =cut
546    
547    sub modify_record_regexps {
548            my $self = shift;
549            my $modify_record = {@_};
550    
551            my $regexpes;
552    
553            foreach my $f (keys %$modify_record) {
554    warn "--- f: $f\n";
555                    foreach my $sf (keys %{ $modify_record->{$f} }) {
556    warn "---- sf: $sf\n";
557                            foreach my $from (keys %{ $modify_record->{$f}->{$sf} }) {
558                                    my $to = $modify_record->{$f}->{$sf}->{$from};
559                                    #die "no field?" unless defined($to);
560    warn "----- transform: |$from| -> |$to|\n";
561    
562                                    if ($sf =~ /^\^/) {
563                                            my $regex =
564                                                    's/\Q'. $sf .'\E([^\^]+)\Q'. $from .'\E([^\^]+)/'. $sf .'$1'. $to .'$2/g';
565                                            push @{ $regexpes->{$f} }, $regex;
566    warn ">>>>> $regex [sf]\n";
567                                    } else {
568                                            my $regex =
569                                                    's/\Q'. $from .'\E/'. $to .'/g';
570                                            push @{ $regexpes->{$f} }, $regex;
571    warn ">>>>> $regex [global]\n";
572                                    }
573    
574                            }
575                    }
576            }
577    
578            return $regexpes;
579    }
580    
581  =head1 MEMORY USAGE  =head1 MEMORY USAGE
582    
583  C<low_mem> options is double-edged sword. If enabled, WebPAC  C<low_mem> options is double-edged sword. If enabled, WebPAC
# Line 523  Dobrica Pavlinusic, C<< <dpavlin@rot13.o Line 615  Dobrica Pavlinusic, C<< <dpavlin@rot13.o
615    
616  =head1 COPYRIGHT & LICENSE  =head1 COPYRIGHT & LICENSE
617    
618  Copyright 2005 Dobrica Pavlinusic, All Rights Reserved.  Copyright 2005-2006 Dobrica Pavlinusic, All Rights Reserved.
619    
620  This program is free software; you can redistribute it and/or modify it  This program is free software; you can redistribute it and/or modify it
621  under the same terms as Perl itself.  under the same terms as Perl itself.
Legend:
Removed from v.585  
changed lines
  Added in v.613
  ViewVC Help
Powered by ViewVC 1.1.26