/[webpac2]/trunk/lib/WebPAC/Normalize.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/WebPAC/Normalize.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 566 by dpavlin, Sun Jul 2 21:17:54 2006 UTC revision 603 by dpavlin, Sun Jul 23 20:19:56 2006 UTC
# Line 8  use Exporter 'import'; Line 8  use Exporter 'import';
8          tag search display          tag search display
9          marc marc_indicators marc_repeatable_subfield          marc marc_indicators marc_repeatable_subfield
10          marc_compose marc_leader          marc_compose marc_leader
11            marc_duplicate marc_remove
12    
13          rec1 rec2 rec          rec1 rec2 rec
14          regex prefix suffix surround          regex prefix suffix surround
# Line 22  use strict; Line 23  use strict;
23  #use base qw/WebPAC::Common/;  #use base qw/WebPAC::Common/;
24  use Data::Dump qw/dump/;  use Data::Dump qw/dump/;
25  use Encode qw/from_to/;  use Encode qw/from_to/;
26    use Storable qw/dclone/;
27    
28  # debugging warn(s)  # debugging warn(s)
29  my $debug = 0;  my $debug = 0;
# Line 33  WebPAC::Normalize - describe normalisato Line 35  WebPAC::Normalize - describe normalisato
35    
36  =head1 VERSION  =head1 VERSION
37    
38  Version 0.09  Version 0.15
39    
40  =cut  =cut
41    
42  our $VERSION = '0.09';  our $VERSION = '0.15';
43    
44  =head1 SYNOPSIS  =head1 SYNOPSIS
45    
# Line 67  Return data structure Line 69  Return data structure
69          row => $row,          row => $row,
70          rules => $normalize_pl_config,          rules => $normalize_pl_config,
71          marc_encoding => 'utf-8',          marc_encoding => 'utf-8',
72            config => $config,
73    );    );
74    
75  Options C<lookup>, C<row>, C<rules> and C<log> are mandatory while all  Options C<lookup>, C<row>, C<rules> and C<log> are mandatory while all
# Line 88  sub data_structure { Line 91  sub data_structure {
91          no strict 'subs';          no strict 'subs';
92          _set_lookup( $arg->{lookup} );          _set_lookup( $arg->{lookup} );
93          _set_rec( $arg->{row} );          _set_rec( $arg->{row} );
94            _set_config( $arg->{config} );
95          _clean_ds( %{ $arg } );          _clean_ds( %{ $arg } );
96          eval "$arg->{rules}";          eval "$arg->{rules}";
97          die "error evaling $arg->{rules}: $@\n" if ($@);          die "error evaling $arg->{rules}: $@\n" if ($@);
# Line 109  sub _set_rec { Line 113  sub _set_rec {
113          $rec = shift or die "no record hash";          $rec = shift or die "no record hash";
114  }  }
115    
116    =head2 _set_config
117    
118    Set current config hash
119    
120      _set_config( $config );
121    
122    Magic keys are:
123    
124    =over 4
125    
126    =item _
127    
128    Code of current database
129    
130    =item _mfn
131    
132    Current MFN
133    
134    =back
135    
136    =cut
137    
138    my $config;
139    
140    sub _set_config {
141            $config = shift;
142    }
143    
144  =head2 _get_ds  =head2 _get_ds
145    
146  Return hash formatted as data structure  Return hash formatted as data structure
# Line 117  Return hash formatted as data structure Line 149  Return hash formatted as data structure
149    
150  =cut  =cut
151    
152  my ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators);  my ($out, $marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators);
153    my ($marc_record_offset, $marc_fetch_offset) = (0, 0);
154    
155  sub _get_ds {  sub _get_ds {
156          return $out;          return $out;
# Line 134  Clean data structure hash for next recor Line 167  Clean data structure hash for next recor
167  sub _clean_ds {  sub _clean_ds {
168          my $a = {@_};          my $a = {@_};
169          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators) = ();          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators) = ();
170            ($marc_record_offset, $marc_fetch_offset) = (0,0);
171          $marc_encoding = $a->{marc_encoding};          $marc_encoding = $a->{marc_encoding};
172  }  }
173    
# Line 182  and following rules: Line 216  and following rules:
216  which might not be what you have in mind. If you need repeatable subfield,  which might not be what you have in mind. If you need repeatable subfield,
217  define it using C<marc_repeatable_subfield> like this:  define it using C<marc_repeatable_subfield> like this:
218    
219  ....    marc_repeatable_subfield('900','a');
220      marc('900','a', rec('200','a') );
221      marc('900','b', rec('200','b') );
222      marc('900','c', rec('200','c') );
223    
224    will create:
225    
226      900a-1 900a-2 900a-3 900b-1 900c-1
227      900b-2
228    
229    There is also support for returning next or specific using:
230    
231      while (my $mf = WebPAC::Normalize:_get_marc_fields( fetch_next => 1 ) ) {
232            # do something with $mf
233      }
234    
235    will always return fields from next MARC record or
236    
237      my $mf = WebPAC::Normalize::_get_marc_fields( offset => 42 );
238    
239    will return 42th copy record (if it exists).
240    
241  =cut  =cut
242    
243  sub _get_marc_fields {  sub _get_marc_fields {
244    
245          return if (! $marc_record || ref($marc_record) ne 'ARRAY' || $#{ $marc_record } < 0);          my $arg = {@_};
246            warn "### _get_marc_fields arg: ", dump($arg), $/ if ($debug > 2);
247            my $offset = $marc_fetch_offset;
248            if ($arg->{offset}) {
249                    $offset = $arg->{offset};
250            } elsif($arg->{fetch_next}) {
251                    $marc_fetch_offset++;
252            }
253    
254            return if (! $marc_record || ref($marc_record) ne 'ARRAY');
255    
256            warn "### full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 2);
257    
258            my $marc_rec = $marc_record->[ $offset ];
259    
260            warn "## _get_marc_fields (at offset: $offset) -- marc_record = ", dump( @$marc_rec ), $/ if ($debug > 1);
261    
262            return if (! $marc_rec || ref($marc_rec) ne 'ARRAY' || $#{ $marc_rec } < 0);
263    
264          # first, sort all existing fields          # first, sort all existing fields
265          # XXX might not be needed, but modern perl might randomize elements in hash          # XXX might not be needed, but modern perl might randomize elements in hash
266          my @sorted_marc_record = sort {          my @sorted_marc_record = sort {
267                  $a->[0] . $a->[3] cmp $b->[0] . $b->[3]                  $a->[0] . ( $a->[3] || '' ) cmp $b->[0] . ( $b->[3] || '')
268          } @{ $marc_record };          } @{ $marc_rec };
269    
270          @sorted_marc_record = @{ $marc_record };        ### FIXME disable sorting          @sorted_marc_record = @{ $marc_rec };   ### FIXME disable sorting
271                    
272          # output marc fields          # output marc fields
273          my @m;          my @m;
274    
275          # count unique field-subfields (used for offset when walking to next subfield)          # count unique field-subfields (used for offset when walking to next subfield)
276          my $u;          my $u;
277          map { $u->{ $_->[0] . $_->[3]  }++ } @sorted_marc_record;          map { $u->{ $_->[0] . ( $_->[3] || '')  }++ } @sorted_marc_record;
278    
279          if ($debug) {          if ($debug) {
280                  warn "## marc_repeatable_subfield ", dump( $marc_repeatable_subfield ), $/;                  warn "## marc_repeatable_subfield = ", dump( $marc_repeatable_subfield ), $/ if ( $marc_repeatable_subfield );
281                  warn "## marc_record ", dump( $marc_record ), $/;                  warn "## marc_record[$offset] = ", dump( $marc_rec ), $/;
282                  warn "## sorted_marc_record ", dump( \@sorted_marc_record ), $/;                  warn "## sorted_marc_record = ", dump( \@sorted_marc_record ), $/;
283                  warn "## subfield count ", dump( $u ), $/;                  warn "## subfield count = ", dump( $u ), $/;
284          }          }
285    
286          my $len = $#sorted_marc_record;          my $len = $#sorted_marc_record;
# Line 227  sub _get_marc_fields { Line 298  sub _get_marc_fields {
298                  # mark it visited                  # mark it visited
299                  $visited->{$i}++;                  $visited->{$i}++;
300    
301                  my $row = $sorted_marc_record[$i];                  my $row = dclone( $sorted_marc_record[$i] );
302    
303                  # field and subfield which is key for                  # field and subfield which is key for
304                  # marc_repeatable_subfield and u                  # marc_repeatable_subfield and u
305                  my $fsf = $row->[0] . $row->[3];                  my $fsf = $row->[0] . ( $row->[3] || '' );
306    
307                  if ($debug > 1) {                  if ($debug > 1) {
308    
# Line 285  sub _get_marc_fields { Line 356  sub _get_marc_fields {
356                  warn "## saved/3 ", dump( $field ),$/ if ($debug);                  warn "## saved/3 ", dump( $field ),$/ if ($debug);
357          }          }
358    
359          return @m;          return \@m;
360  }  }
361    
362  =head2 _debug  =head2 _debug
# Line 299  Change level of debug warnings Line 370  Change level of debug warnings
370  sub _debug {  sub _debug {
371          my $l = shift;          my $l = shift;
372          return $debug unless defined($l);          return $debug unless defined($l);
373          warn "debug level $l" if ($l > 0);          warn "debug level $l",$/ if ($l > 0);
374          $debug = $l;          $debug = $l;
375  }  }
376    
# Line 381  sub marc_leader { Line 452  sub marc_leader {
452  Save value for MARC field  Save value for MARC field
453    
454    marc('900','a', rec('200','a') );    marc('900','a', rec('200','a') );
455      marc('001', rec('000') );
456    
457  =cut  =cut
458    
# Line 388  sub marc { Line 460  sub marc {
460          my $f = shift or die "marc needs field";          my $f = shift or die "marc needs field";
461          die "marc field must be numer" unless ($f =~ /^\d+$/);          die "marc field must be numer" unless ($f =~ /^\d+$/);
462    
463          my $sf = shift or die "marc needs subfield";          my $sf;
464            if ($f >= 10) {
465                    $sf = shift or die "marc needs subfield";
466            }
467    
468          foreach (@_) {          foreach (@_) {
469                  my $v = $_;             # make var read-write for Encode                  my $v = $_;             # make var read-write for Encode
470                  next unless (defined($v) && $v !~ /^\s*$/);                  next unless (defined($v) && $v !~ /^\s*$/);
471                  from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);                  from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);
472                  my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');                  my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');
473                  push @{ $marc_record }, [ $f, $i1, $i2, $sf => $v ];                  if (defined $sf) {
474                            push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $i1, $i2, $sf => $v ];
475                    } else {
476                            push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $v ];
477                    }
478          }          }
479  }  }
480    
# Line 446  Save values for each MARC subfield expli Line 525  Save values for each MARC subfield expli
525          'c', rec('200','c')          'c', rec('200','c')
526    );    );
527    
528    If you specify C<+> for subfield, value will be appended
529    to previous defined subfield.
530    
531  =cut  =cut
532    
533  sub marc_compose {  sub marc_compose {
# Line 455  sub marc_compose { Line 537  sub marc_compose {
537          my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');          my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');
538          my $m = [ $f, $i1, $i2 ];          my $m = [ $f, $i1, $i2 ];
539    
540            warn "### marc_compose input subfields = ", dump(@_),$/ if ($debug > 2);
541    
542          while (@_) {          while (@_) {
543                  my $sf = shift or die "marc_compose $f needs subfield";                  my $sf = shift or die "marc_compose $f needs subfield";
544                  my $v = shift;                  my $v = shift;
545    
546                  next unless (defined($v) && $v !~ /^\s*$/);                  next unless (defined($v) && $v !~ /^\s*$/);
547                  from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);                  from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);
548                  push @$m, ( $sf, $v );                  warn "## ++ marc_compose($f,$sf,$v) ", dump( $m ),$/ if ($debug > 1);
549                  warn "## ++ marc_compose($f,$sf,$v) ", dump( $m ) if ($debug > 1);                  if ($sf ne '+') {
550                            push @$m, ( $sf, $v );
551                    } else {
552                            $m->[ $#$m ] .= $v;
553                    }
554          }          }
555    
556          warn "## marc_compose(d) ", dump( $m ) if ($debug > 1);          warn "## marc_compose current marc = ", dump( $m ),$/ if ($debug > 1);
557    
558            push @{ $marc_record->[ $marc_record_offset ] }, $m if ($#{$m} > 2);
559    }
560    
561    =head2 marc_duplicate
562    
563    Generate copy of current MARC record and continue working on copy
564    
565      marc_duplicate();
566    
567    Copies can be accessed using C<< _get_marc_fields( fetch_next => 1 ) >> or
568    C<< _get_marc_fields( offset => 42 ) >>.
569    
570    =cut
571    
572          push @{ $marc_record }, $m if ($#{$m} > 2);  sub marc_duplicate {
573             my $m = $marc_record->[ -1 ];
574             die "can't duplicate record which isn't defined" unless ($m);
575             push @{ $marc_record }, dclone( $m );
576             warn "## marc_duplicate = ", dump(@$marc_record), $/ if ($debug > 1);
577             $marc_record_offset = $#{ $marc_record };
578             warn "## marc_record_offset = $marc_record_offset", $/ if ($debug > 1);
579  }  }
580    
581    =head2 marc_remove
582    
583    Remove some field or subfield from MARC record.
584    
585      marc_remove('200');
586      marc_remove('200','a');
587    
588    This will erase field C<200> or C<200^a> from current MARC record.
589    
590    This is useful after calling C<marc_duplicate> or on it's own (but, you
591    should probably just remove that subfield definition if you are not
592    using C<marc_duplicate>).
593    
594    FIXME: support fields < 10.
595    
596    =cut
597    
598    sub marc_remove {
599            my ($f, $sf) = @_;
600    
601            die "marc_remove needs record number" unless defined($f);
602    
603            my $marc = $marc_record->[ $marc_record_offset ];
604    
605            warn "### marc_remove before = ", dump( $marc ), $/ if ($debug > 2);
606    
607            my $i = 0;
608            foreach ( 0 .. $#{ $marc } ) {
609                    last unless (defined $marc->[$i]);
610                    warn "#### working on ",dump( @{ $marc->[$i] }), $/ if ($debug > 3);
611                    if ($marc->[$i]->[0] eq $f) {
612                            if (! defined $sf) {
613                                    # remove whole field
614                                    splice @$marc, $i, 1;
615                                    warn "#### slice \@\$marc, $i, 1 = ",dump( @{ $marc }), $/ if ($debug > 3);
616                                    $i--;
617                            } else {
618                                    foreach my $j ( 0 .. (( $#{ $marc->[$i] } - 3 ) / 2) ) {
619                                            my $o = ($j * 2) + 3;
620                                            if ($marc->[$i]->[$o] eq $sf) {
621                                                    # remove subfield
622                                                    splice @{$marc->[$i]}, $o, 2;
623                                                    warn "#### slice \@{\$marc->[$i]}, $o, 2 = ", dump( @{ $marc }), $/ if ($debug > 3);
624                                                    # is record now empty?
625                                                    if ($#{ $marc->[$i] } == 2) {
626                                                            splice @$marc, $i, 1;
627                                                            warn "#### slice \@\$marc, $i, 1 = ", dump( @{ $marc }), $/ if ($debug > 3);
628                                                            $i--;
629                                                    };
630                                            }
631                                    }
632                            }
633                    }
634                    $i++;
635            }
636    
637            warn "### marc_remove($f", $sf ? ",$sf" : "", ") after = ", dump( $marc ), $/ if ($debug > 2);
638    
639            $marc_record->[ $marc_record_offset ] = $marc;
640    
641            warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);
642    }
643    
644  =head1 Functions to extract data from input  =head1 Functions to extract data from input
645    
# Line 488  TODO: order of values is probably same a Line 658  TODO: order of values is probably same a
658    
659  sub rec1 {  sub rec1 {
660          my $f = shift;          my $f = shift;
661            warn "rec1($f) = ", dump( $rec->{$f} ), $/ if ($debug > 1);
662          return unless (defined($rec) && defined($rec->{$f}));          return unless (defined($rec) && defined($rec->{$f}));
663            warn "rec1($f) = ", dump( $rec->{$f} ), $/ if ($debug > 1);
664          if (ref($rec->{$f}) eq 'ARRAY') {          if (ref($rec->{$f}) eq 'ARRAY') {
665                  return map {                  return map {
666                          if (ref($_) eq 'HASH') {                          if (ref($_) eq 'HASH') {
# Line 514  sub rec2 { Line 686  sub rec2 {
686          my $f = shift;          my $f = shift;
687          return unless (defined($rec && $rec->{$f}));          return unless (defined($rec && $rec->{$f}));
688          my $sf = shift;          my $sf = shift;
689          return map { $_->{$sf} } grep { ref($_) eq 'HASH' && $_->{$sf} } @{ $rec->{$f} };          warn "rec2($f,$sf) = ", dump( $rec->{$f} ), $/ if ($debug > 1);
690            return map {
691                    if (ref($_->{$sf}) eq 'ARRAY') {
692                            @{ $_->{$sf} };
693                    } else {
694                            $_->{$sf};
695                    }
696            } grep { ref($_) eq 'HASH' && $_->{$sf} } @{ $rec->{$f} };
697  }  }
698    
699  =head2 rec  =head2 rec
# Line 527  syntaxtic sugar for Line 706  syntaxtic sugar for
706  =cut  =cut
707    
708  sub rec {  sub rec {
709            my @out;
710          if ($#_ == 0) {          if ($#_ == 0) {
711                  return rec1(@_);                  @out = rec1(@_);
712          } elsif ($#_ == 1) {          } elsif ($#_ == 1) {
713                  return rec2(@_);                  @out = rec2(@_);
714            }
715            if (@out) {
716                    return @out;
717            } else {
718                    return '';
719          }          }
720  }  }
721    
# Line 563  Prefix all values with a string Line 748  Prefix all values with a string
748  =cut  =cut
749    
750  sub prefix {  sub prefix {
751          my $p = shift or die "prefix needs string as first argument";          my $p = shift or return;
752          return map { $p . $_ } grep { defined($_) } @_;          return map { $p . $_ } grep { defined($_) } @_;
753  }  }
754    
# Line 626  sub lookup { Line 811  sub lookup {
811          }          }
812  }  }
813    
814    =head2 config
815    
816    Consult config values stored in C<config.yml>
817    
818      # return database code (key under databases in yaml)
819      $database_code = config();    # use _ from hash
820      $database_name = config('name');
821      $database_input_name = config('input name');
822      $tag = config('input normalize tag');
823    
824    Up to three levels are supported.
825    
826    =cut
827    
828    sub config {
829            return unless ($config);
830    
831            my $p = shift;
832    
833            $p ||= '';
834    
835            my $v;
836    
837            warn "### getting config($p)\n" if ($debug > 1);
838    
839            my @p = split(/\s+/,$p);
840            if ($#p < 0) {
841                    $v = $config->{ '_' };  # special, database code
842            } else {
843    
844                    my $c = dclone( $config );
845    
846                    foreach my $k (@p) {
847                            warn "### k: $k c = ",dump($c),$/ if ($debug > 1);
848                            if (ref($c) eq 'ARRAY') {
849                                    $c = shift @$c;
850                                    warn "config($p) taking first occurence of '$k', probably not what you wanted!\n";
851                                    last;
852                            }
853    
854                            if (! defined($c->{$k}) ) {
855                                    $c = undef;
856                                    last;
857                            } else {
858                                    $c = $c->{$k};
859                            }
860                    }
861                    $v = $c if ($c);
862    
863            }
864    
865            warn "## config( '$p' ) = ",dump( $v ),$/ if ($v && $debug);
866            warn "config( '$p' ) is empty\n" if (! $v);
867    
868            return $v;
869    }
870    
871    =head2 id
872    
873    Returns unique id of this record
874    
875      $id = id();
876    
877    Returns C<42/2> for 2nd occurence of MFN 42.
878    
879    =cut
880    
881    sub id {
882            my $mfn = $config->{_mfn} || die "no _mfn in config data";
883            return $mfn . $#{$marc_record} ? $#{$marc_record} + 1 : '';
884    }
885    
886  =head2 join_with  =head2 join_with
887    
888  Joins walues with some delimiter  Joins walues with some delimiter
# Line 636  Joins walues with some delimiter Line 893  Joins walues with some delimiter
893    
894  sub join_with {  sub join_with {
895          my $d = shift;          my $d = shift;
896          return join($d, grep { defined($_) && $_ ne '' } @_);          warn "### join_with('$d',",dump(@_),")\n" if ($debug > 2);
897            my $v = join($d, grep { defined($_) && $_ ne '' } @_);
898            return '' unless defined($v);
899            return $v;
900  }  }
901    
902  =head2 split_rec_on  =head2 split_rec_on
# Line 658  sub split_rec_on { Line 918  sub split_rec_on {
918          die "split_rec_on need (fld,sf,regex[,part]" if ($#_ < 2);          die "split_rec_on need (fld,sf,regex[,part]" if ($#_ < 2);
919    
920          my ($fld, $sf, $regex, $part) = @_;          my ($fld, $sf, $regex, $part) = @_;
921          warn "### regex ", ref($regex), $regex if ($debug > 2);          warn "### regex ", ref($regex), $regex, $/ if ($debug > 2);
922    
923          my @r = rec( $fld, $sf );          my @r = rec( $fld, $sf );
924          my $v = shift @r;          my $v = shift @r;
925          warn "### first rec($fld,$sf) = ",dump($v) if ($debug > 2);          warn "### first rec($fld,$sf) = ",dump($v),$/ if ($debug > 2);
926    
927          return '' if( ! defined($v) || $v =~ /^\s*$/);          return '' if( ! defined($v) || $v =~ /^\s*$/);
928    
929          my @s = split( $regex, $v );          my @s = split( $regex, $v );
930          warn "## split_rec_on($fld,$sf,$regex,$part) = ",dump(@s) if ($debug > 1);          warn "## split_rec_on($fld,$sf,$regex,$part) = ",dump(@s),$/ if ($debug > 1);
931          if ($part && $part > 0) {          if ($part && $part > 0) {
932                  return $s[ $part - 1 ];                  return $s[ $part - 1 ];
933          } else {          } else {
934                  return [ @s ];                  return @s;
935          }          }
936  }  }
937    

Legend:
Removed from v.566  
changed lines
  Added in v.603

  ViewVC Help
Powered by ViewVC 1.1.26