/[webpac2]/trunk/lib/WebPAC/Normalize.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/WebPAC/Normalize.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 601 by dpavlin, Sun Jul 23 17:33:11 2006 UTC revision 973 by dpavlin, Fri Nov 2 14:59:12 2007 UTC
# Line 2  package WebPAC::Normalize; Line 2  package WebPAC::Normalize;
2  use Exporter 'import';  use Exporter 'import';
3  @EXPORT = qw/  @EXPORT = qw/
4          _set_rec _set_lookup          _set_rec _set_lookup
5            _set_load_row
6          _get_ds _clean_ds          _get_ds _clean_ds
7          _debug          _debug
8            _pack_subfields_hash
9    
10            search_display search display sorted
11    
         tag search display  
12          marc marc_indicators marc_repeatable_subfield          marc marc_indicators marc_repeatable_subfield
13          marc_compose marc_leader          marc_compose marc_leader marc_fixed
14          marc_duplicate marc_remove          marc_duplicate marc_remove marc_count
15            marc_original_order
16    
17          rec1 rec2 rec          rec1 rec2 rec
18          regex prefix suffix surround          regex prefix suffix surround
19          first lookup join_with          first lookup join_with
20            save_into_lookup
21    
22          split_rec_on          split_rec_on
23    
24            get set
25            count
26  /;  /;
27    
28  use warnings;  use warnings;
# Line 22  use strict; Line 30  use strict;
30    
31  #use base qw/WebPAC::Common/;  #use base qw/WebPAC::Common/;
32  use Data::Dump qw/dump/;  use Data::Dump qw/dump/;
 use Encode qw/from_to/;  
33  use Storable qw/dclone/;  use Storable qw/dclone/;
34    use Carp qw/confess/;
35    
36  # debugging warn(s)  # debugging warn(s)
37  my $debug = 0;  my $debug = 0;
# Line 33  my $debug = 0; Line 41  my $debug = 0;
41    
42  WebPAC::Normalize - describe normalisaton rules using sets  WebPAC::Normalize - describe normalisaton rules using sets
43    
 =head1 VERSION  
   
 Version 0.14  
   
44  =cut  =cut
45    
46  our $VERSION = '0.14';  our $VERSION = '0.31';
47    
48  =head1 SYNOPSIS  =head1 SYNOPSIS
49    
# Line 52  means that you check it's validity befor Line 56  means that you check it's validity befor
56  C<perl -c normalize.pl>.  C<perl -c normalize.pl>.
57    
58  Normalisation can generate multiple output normalized data. For now, supported output  Normalisation can generate multiple output normalized data. For now, supported output
59  types (on the left side of definition) are: C<tag>, C<display>, C<search> and  types (on the left side of definition) are: C<search_display>, C<display>, C<search> and
60  C<marc>.  C<marc>.
61    
62  =head1 FUNCTIONS  =head1 FUNCTIONS
# Line 65  All other functions are available for us Line 69  All other functions are available for us
69  Return data structure  Return data structure
70    
71    my $ds = WebPAC::Normalize::data_structure(    my $ds = WebPAC::Normalize::data_structure(
72          lookup => $lookup->lookup_hash,          lookup => $lookup_hash,
73          row => $row,          row => $row,
74          rules => $normalize_pl_config,          rules => $normalize_pl_config,
75          marc_encoding => 'utf-8',          marc_encoding => 'utf-8',
76          config => $config,          config => $config,
77            load_row_coderef => sub {
78                    my ($database,$input,$mfn) = shift;
79                    $store->load_row( database => $database, input => $input, id => $mfn );
80            },
81    );    );
82    
83  Options C<lookup>, C<row>, C<rules> and C<log> are mandatory while all  Options C<row>, C<rules> and C<log> are mandatory while all
84  other are optional.  other are optional.
85    
86    C<load_row_coderef> is closure only used when executing lookups, so they will
87    die if it's not defined.
88    
89  This function will B<die> if normalizastion can't be evaled.  This function will B<die> if normalizastion can't be evaled.
90    
91  Since this function isn't exported you have to call it with  Since this function isn't exported you have to call it with
# Line 82  C<WebPAC::Normalize::data_structure>. Line 93  C<WebPAC::Normalize::data_structure>.
93    
94  =cut  =cut
95    
96    my $load_row_coderef;
97    
98  sub data_structure {  sub data_structure {
99          my $arg = {@_};          my $arg = {@_};
100    
# Line 89  sub data_structure { Line 102  sub data_structure {
102          die "need normalisation argument" unless ($arg->{rules});          die "need normalisation argument" unless ($arg->{rules});
103    
104          no strict 'subs';          no strict 'subs';
105          _set_lookup( $arg->{lookup} );          _set_lookup( $arg->{lookup} ) if defined($arg->{lookup});
106          _set_rec( $arg->{row} );          _set_rec( $arg->{row} );
107          _set_config( $arg->{config} );          _set_config( $arg->{config} ) if defined($arg->{config});
108          _clean_ds( %{ $arg } );          _clean_ds( %{ $arg } );
109            $load_row_coderef = $arg->{load_row_coderef};
110    
111            # FIXME load this conditionally
112            use WebPAC::Normalize::ISBN;
113    
114          eval "$arg->{rules}";          eval "$arg->{rules}";
115          die "error evaling $arg->{rules}: $@\n" if ($@);          die "error evaling $arg->{rules}: $@\n" if ($@);
116    
# Line 149  Return hash formatted as data structure Line 167  Return hash formatted as data structure
167    
168  =cut  =cut
169    
170  my ($out, $marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators);  my ($out, $marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators, $marc_leader);
171  my ($marc_record_offset, $marc_fetch_offset) = (0, 0);  my ($marc_record_offset, $marc_fetch_offset) = (0, 0);
172    
173  sub _get_ds {  sub _get_ds {
# Line 166  Clean data structure hash for next recor Line 184  Clean data structure hash for next recor
184    
185  sub _clean_ds {  sub _clean_ds {
186          my $a = {@_};          my $a = {@_};
187          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators) = ();          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators, $marc_leader) = ();
188          ($marc_record_offset, $marc_fetch_offset) = (0,0);          ($marc_record_offset, $marc_fetch_offset) = (0,0);
189          $marc_encoding = $a->{marc_encoding};          $marc_encoding = $a->{marc_encoding};
190  }  }
# Line 185  sub _set_lookup { Line 203  sub _set_lookup {
203          $lookup = shift;          $lookup = shift;
204  }  }
205    
206    =head2 _get_lookup
207    
208    Get current lookup hash
209    
210      my $lookup = _get_lookup();
211    
212    =cut
213    
214    sub _get_lookup {
215            return $lookup;
216    }
217    
218    =head2 _set_load_row
219    
220    Setup code reference which will return L<data_structure> from
221    L<WebPAC::Store>
222    
223      _set_load_row(sub {
224                    my ($database,$input,$mfn) = @_;
225                    $store->load_row( database => $database, input => $input, id => $mfn );
226      });
227    
228    =cut
229    
230    sub _set_load_row {
231            my $coderef = shift;
232            confess "argument isn't CODE" unless ref($coderef) eq 'CODE';
233    
234            $load_row_coderef = $coderef;
235    }
236    
237  =head2 _get_marc_fields  =head2 _get_marc_fields
238    
239  Get all fields defined by calls to C<marc>  Get all fields defined by calls to C<marc>
# Line 240  will return 42th copy record (if it exis Line 289  will return 42th copy record (if it exis
289    
290  =cut  =cut
291    
292    my $fetch_pos;
293    
294  sub _get_marc_fields {  sub _get_marc_fields {
295    
296          my $arg = {@_};          my $arg = {@_};
297          warn "### _get_marc_fields arg: ", dump($arg), $/ if ($debug > 2);          warn "### _get_marc_fields arg: ", dump($arg), $/ if ($debug > 2);
298          my $offset = $marc_fetch_offset;          $fetch_pos = $marc_fetch_offset;
299          if ($arg->{offset}) {          if ($arg->{offset}) {
300                  $offset = $arg->{offset};                  $fetch_pos = $arg->{offset};
301          } elsif($arg->{fetch_next}) {          } elsif($arg->{fetch_next}) {
302                  $marc_fetch_offset++;                  $marc_fetch_offset++;
303          }          }
# Line 255  sub _get_marc_fields { Line 306  sub _get_marc_fields {
306    
307          warn "### full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 2);          warn "### full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 2);
308    
309          my $marc_rec = $marc_record->[ $offset ];          my $marc_rec = $marc_record->[ $fetch_pos ];
310    
311          warn "## _get_marc_fields (at offset: $offset) -- marc_record = ", dump( @$marc_rec ), $/ if ($debug > 1);          warn "## _get_marc_fields (at offset: $fetch_pos) -- marc_record = ", dump( @$marc_rec ), $/ if ($debug > 1);
312    
313          return if (! $marc_rec || ref($marc_rec) ne 'ARRAY' || $#{ $marc_rec } < 0);          return if (! $marc_rec || ref($marc_rec) ne 'ARRAY' || $#{ $marc_rec } < 0);
314    
# Line 278  sub _get_marc_fields { Line 329  sub _get_marc_fields {
329    
330          if ($debug) {          if ($debug) {
331                  warn "## marc_repeatable_subfield = ", dump( $marc_repeatable_subfield ), $/ if ( $marc_repeatable_subfield );                  warn "## marc_repeatable_subfield = ", dump( $marc_repeatable_subfield ), $/ if ( $marc_repeatable_subfield );
332                  warn "## marc_record[$offset] = ", dump( $marc_rec ), $/;                  warn "## marc_record[$fetch_pos] = ", dump( $marc_rec ), $/;
333                  warn "## sorted_marc_record = ", dump( \@sorted_marc_record ), $/;                  warn "## sorted_marc_record = ", dump( \@sorted_marc_record ), $/;
334                  warn "## subfield count = ", dump( $u ), $/;                  warn "## subfield count = ", dump( $u ), $/;
335          }          }
# Line 359  sub _get_marc_fields { Line 410  sub _get_marc_fields {
410          return \@m;          return \@m;
411  }  }
412    
413    =head2 _get_marc_leader
414    
415    Return leader from currently fetched record by L</_get_marc_fields>
416    
417      print WebPAC::Normalize::_get_marc_leader();
418    
419    =cut
420    
421    sub _get_marc_leader {
422            die "no fetch_pos, did you called _get_marc_fields first?" unless ( defined( $fetch_pos ) );
423            return $marc_leader->[ $fetch_pos ];
424    }
425    
426  =head2 _debug  =head2 _debug
427    
428  Change level of debug warnings  Change level of debug warnings
# Line 378  sub _debug { Line 442  sub _debug {
442    
443  Those functions generally have to first in your normalization file.  Those functions generally have to first in your normalization file.
444    
445  =head2 tag  =head2 search_display
446    
447  Define new tag for I<search> and I<display>.  Define output for L<search> and L<display> at the same time
448    
449    tag('Title', rec('200','a') );    search_display('Title', rec('200','a') );
450    
451    
452  =cut  =cut
453    
454  sub tag {  sub search_display {
455          my $name = shift or die "tag needs name as first argument";          my $name = shift or die "search_display needs name as first argument";
456          my @o = grep { defined($_) && $_ ne '' } @_;          my @o = grep { defined($_) && $_ ne '' } @_;
457          return unless (@o);          return unless (@o);
         $out->{$name}->{tag} = $name;  
458          $out->{$name}->{search} = \@o;          $out->{$name}->{search} = \@o;
459          $out->{$name}->{display} = \@o;          $out->{$name}->{display} = \@o;
460  }  }
461    
462    =head2 tag
463    
464    Old name for L<search_display>, but supported
465    
466    =cut
467    
468    sub tag {
469            search_display( @_ );
470    }
471    
472  =head2 display  =head2 display
473    
474  Define tag just for I<display>  Define output just for I<display>
475    
476    @v = display('Title', rec('200','a') );    @v = display('Title', rec('200','a') );
477    
478  =cut  =cut
479    
480  sub display {  sub _field {
481          my $name = shift or die "display needs name as first argument";          my $type = shift or confess "need type -- BUG?";
482            my $name = shift or confess "needs name as first argument";
483          my @o = grep { defined($_) && $_ ne '' } @_;          my @o = grep { defined($_) && $_ ne '' } @_;
484          return unless (@o);          return unless (@o);
485          $out->{$name}->{tag} = $name;          $out->{$name}->{$type} = \@o;
         $out->{$name}->{display} = \@o;  
486  }  }
487    
488    sub display { _field( 'display', @_ ) }
489    
490  =head2 search  =head2 search
491    
492  Prepare values just for I<search>  Prepare values just for I<search>
# Line 420  Prepare values just for I<search> Line 495  Prepare values just for I<search>
495    
496  =cut  =cut
497    
498  sub search {  sub search { _field( 'search', @_ ) }
499          my $name = shift or die "search needs name as first argument";  
500          my @o = grep { defined($_) && $_ ne '' } @_;  =head2 sorted
501          return unless (@o);  
502          $out->{$name}->{tag} = $name;  Insert into lists which will be automatically sorted
503          $out->{$name}->{search} = \@o;  
504  }   sorted('Title', rec('200','a') );
505    
506    =cut
507    
508    sub sorted { _field( 'sorted', @_ ) }
509    
510    
511  =head2 marc_leader  =head2 marc_leader
512    
# Line 441  sub marc_leader { Line 521  sub marc_leader {
521          my ($offset,$value) = @_;          my ($offset,$value) = @_;
522    
523          if ($offset) {          if ($offset) {
524                  $out->{' leader'}->{ $offset } = $value;                  $marc_leader->[ $marc_record_offset ]->{ $offset } = $value;
525          } else {          } else {
526                  return $out->{' leader'};                  
527                    if (defined($marc_leader)) {
528                            die "marc_leader not array = ", dump( $marc_leader ) unless (ref($marc_leader) eq 'ARRAY');
529                            return $marc_leader->[ $marc_record_offset ];
530                    } else {
531                            return;
532                    }
533            }
534    }
535    
536    =head2 marc_fixed
537    
538    Create control/indentifier fields with values in fixed positions
539    
540      marc_fixed('008', 00, '070402');
541      marc_fixed('008', 39, '|');
542    
543    Positions not specified will be filled with spaces (C<0x20>).
544    
545    There will be no effort to extend last specified value to full length of
546    field in standard.
547    
548    =cut
549    
550    sub marc_fixed {
551            my ($f, $pos, $val) = @_;
552            die "need marc(field, position, value)" unless defined($f) && defined($pos);
553    
554            confess "need val" unless defined $val;
555    
556            my $update = 0;
557    
558            map {
559                    if ($_->[0] eq $f) {
560                            my $old = $_->[1];
561                            if (length($old) <= $pos) {
562                                    $_->[1] .= ' ' x ( $pos - length($old) ) . $val;
563                                    warn "## marc_fixed($f,$pos,'$val') append '$old' -> '$_->[1]'\n" if ($debug > 1);
564                            } else {
565                                    $_->[1] = substr($old, 0, $pos) . $val . substr($old, $pos + length($val));
566                                    warn "## marc_fixed($f,$pos,'$val') update '$old' -> '$_->[1]'\n" if ($debug > 1);
567                            }
568                            $update++;
569                    }
570            } @{ $marc_record->[ $marc_record_offset ] };
571    
572            if (! $update) {
573                    my $v = ' ' x $pos . $val;
574                    push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $v ];
575                    warn "## marc_fixed($f,$pos,'val') created '$v'\n" if ($debug > 1);
576          }          }
577  }  }
578    
# Line 468  sub marc { Line 597  sub marc {
597          foreach (@_) {          foreach (@_) {
598                  my $v = $_;             # make var read-write for Encode                  my $v = $_;             # make var read-write for Encode
599                  next unless (defined($v) && $v !~ /^\s*$/);                  next unless (defined($v) && $v !~ /^\s*$/);
                 from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);  
600                  my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');                  my ($i1,$i2) = defined($marc_indicators->{$f}) ? @{ $marc_indicators->{$f} } : (' ',' ');
601                  if (defined $sf) {                  if (defined $sf) {
602                          push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $i1, $i2, $sf => $v ];                          push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $i1, $i2, $sf => $v ];
# Line 525  Save values for each MARC subfield expli Line 653  Save values for each MARC subfield expli
653          'c', rec('200','c')          'c', rec('200','c')
654    );    );
655    
656    If you specify C<+> for subfield, value will be appended
657    to previous defined subfield.
658    
659  =cut  =cut
660    
661  sub marc_compose {  sub marc_compose {
# Line 536  sub marc_compose { Line 667  sub marc_compose {
667    
668          warn "### marc_compose input subfields = ", dump(@_),$/ if ($debug > 2);          warn "### marc_compose input subfields = ", dump(@_),$/ if ($debug > 2);
669    
670            if ($#_ % 2 != 1) {
671                    die "ERROR: marc_compose",dump($f,@_)," not valid (must be even).\nDo you need to add first() or join() around some argument?\n";
672            }
673    
674          while (@_) {          while (@_) {
675                  my $sf = shift or die "marc_compose $f needs subfield";                  my $sf = shift;
676                  my $v = shift;                  my $v = shift;
677    
678                  next unless (defined($v) && $v !~ /^\s*$/);                  next unless (defined($v) && $v !~ /^\s*$/);
                 from_to($v, 'iso-8859-2', $marc_encoding) if ($marc_encoding);  
                 push @$m, ( $sf, $v );  
679                  warn "## ++ marc_compose($f,$sf,$v) ", dump( $m ),$/ if ($debug > 1);                  warn "## ++ marc_compose($f,$sf,$v) ", dump( $m ),$/ if ($debug > 1);
680                    if ($sf ne '+') {
681                            push @$m, ( $sf, $v );
682                    } else {
683                            $m->[ $#$m ] .= $v;
684                    }
685          }          }
686    
687          warn "## marc_compose current marc = ", dump( $m ),$/ if ($debug > 1);          warn "## marc_compose current marc = ", dump( $m ),$/ if ($debug > 1);
# Line 566  sub marc_duplicate { Line 704  sub marc_duplicate {
704           my $m = $marc_record->[ -1 ];           my $m = $marc_record->[ -1 ];
705           die "can't duplicate record which isn't defined" unless ($m);           die "can't duplicate record which isn't defined" unless ($m);
706           push @{ $marc_record }, dclone( $m );           push @{ $marc_record }, dclone( $m );
707           warn "## marc_duplicate = ", dump(@$marc_record), $/ if ($debug > 1);           push @{ $marc_leader }, dclone( marc_leader() );
708             warn "## marc_duplicate = ", dump(@$marc_leader, @$marc_record), $/ if ($debug > 1);
709           $marc_record_offset = $#{ $marc_record };           $marc_record_offset = $#{ $marc_record };
710           warn "## marc_record_offset = $marc_record_offset", $/ if ($debug > 1);           warn "## marc_record_offset = $marc_record_offset", $/ if ($debug > 1);
711    
712  }  }
713    
714  =head2 marc_remove  =head2 marc_remove
# Line 580  Remove some field or subfield from MARC Line 720  Remove some field or subfield from MARC
720    
721  This will erase field C<200> or C<200^a> from current MARC record.  This will erase field C<200> or C<200^a> from current MARC record.
722    
723      marc_remove('*');
724    
725    Will remove all fields in current MARC record.
726    
727  This is useful after calling C<marc_duplicate> or on it's own (but, you  This is useful after calling C<marc_duplicate> or on it's own (but, you
728  should probably just remove that subfield definition if you are not  should probably just remove that subfield definition if you are not
729  using C<marc_duplicate>).  using C<marc_duplicate>).
# Line 597  sub marc_remove { Line 741  sub marc_remove {
741    
742          warn "### marc_remove before = ", dump( $marc ), $/ if ($debug > 2);          warn "### marc_remove before = ", dump( $marc ), $/ if ($debug > 2);
743    
744          my $i = 0;          if ($f eq '*') {
745          foreach ( 0 .. $#{ $marc } ) {  
746                  last unless (defined $marc->[$i]);                  delete( $marc_record->[ $marc_record_offset ] );
747                  warn "#### working on ",dump( @{ $marc->[$i] }), $/ if ($debug > 3);                  warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);
748                  if ($marc->[$i]->[0] eq $f) {  
749                          if (! defined $sf) {          } else {
750                                  # remove whole field  
751                                  splice @$marc, $i, 1;                  my $i = 0;
752                                  warn "#### slice \@\$marc, $i, 1 = ",dump( @{ $marc }), $/ if ($debug > 3);                  foreach ( 0 .. $#{ $marc } ) {
753                                  $i--;                          last unless (defined $marc->[$i]);
754                          } else {                          warn "#### working on ",dump( @{ $marc->[$i] }), $/ if ($debug > 3);
755                                  foreach my $j ( 0 .. (( $#{ $marc->[$i] } - 3 ) / 2) ) {                          if ($marc->[$i]->[0] eq $f) {
756                                          my $o = ($j * 2) + 3;                                  if (! defined $sf) {
757                                          if ($marc->[$i]->[$o] eq $sf) {                                          # remove whole field
758                                                  # remove subfield                                          splice @$marc, $i, 1;
759                                                  splice @{$marc->[$i]}, $o, 2;                                          warn "#### slice \@\$marc, $i, 1 = ",dump( @{ $marc }), $/ if ($debug > 3);
760                                                  warn "#### slice \@{\$marc->[$i]}, $o, 2 = ", dump( @{ $marc }), $/ if ($debug > 3);                                          $i--;
761                                                  # is record now empty?                                  } else {
762                                                  if ($#{ $marc->[$i] } == 2) {                                          foreach my $j ( 0 .. (( $#{ $marc->[$i] } - 3 ) / 2) ) {
763                                                          splice @$marc, $i, 1;                                                  my $o = ($j * 2) + 3;
764                                                          warn "#### slice \@\$marc, $i, 1 = ", dump( @{ $marc }), $/ if ($debug > 3);                                                  if ($marc->[$i]->[$o] eq $sf) {
765                                                          $i--;                                                          # remove subfield
766                                                  };                                                          splice @{$marc->[$i]}, $o, 2;
767                                                            warn "#### slice \@{\$marc->[$i]}, $o, 2 = ", dump( @{ $marc }), $/ if ($debug > 3);
768                                                            # is record now empty?
769                                                            if ($#{ $marc->[$i] } == 2) {
770                                                                    splice @$marc, $i, 1;
771                                                                    warn "#### slice \@\$marc, $i, 1 = ", dump( @{ $marc }), $/ if ($debug > 3);
772                                                                    $i--;
773                                                            };
774                                                    }
775                                          }                                          }
776                                  }                                  }
777                          }                          }
778                            $i++;
779                  }                  }
                 $i++;  
         }  
780    
781          warn "### marc_remove($f", $sf ? ",$sf" : "", ") after = ", dump( $marc ), $/ if ($debug > 2);                  warn "### marc_remove($f", $sf ? ",$sf" : "", ") after = ", dump( $marc ), $/ if ($debug > 2);
782    
783          $marc_record->[ $marc_record_offset ] = $marc;                  $marc_record->[ $marc_record_offset ] = $marc;
784            }
785    
786          warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);          warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);
787  }  }
788    
789    =head2 marc_original_order
790    
791    Copy all subfields preserving original order to marc field.
792    
793      marc_original_order( marc_field_number, original_input_field_number );
794    
795    Please note that field numbers are consistent with other commands (marc
796    field number first), but somewhat counter-intuitive (destination and then
797    source).
798    
799    You might want to use this command if you are just renaming subfields or
800    using pre-processing modify_record in C<config.yml> and don't need any
801    post-processing or want to preserve order of original subfields.
802    
803    
804    =cut
805    
806    sub marc_original_order {
807    
808            my ($to, $from) = @_;
809            die "marc_original_order needs from and to fields\n" unless ($from && $to);
810    
811            return unless defined($rec->{$from});
812    
813            my $r = $rec->{$from};
814            die "record field $from isn't array\n" unless (ref($r) eq 'ARRAY');
815    
816            my ($i1,$i2) = defined($marc_indicators->{$to}) ? @{ $marc_indicators->{$to} } : (' ',' ');
817            warn "## marc_original_order($to,$from) source = ", dump( $r ),$/ if ($debug > 1);
818    
819            foreach my $d (@$r) {
820    
821                    if (! defined($d->{subfields}) && ref($d->{subfields}) ne 'ARRAY') {
822                            warn "# marc_original_order($to,$from): field $from doesn't have subfields specification\n";
823                            next;
824                    }
825            
826                    my @sfs = @{ $d->{subfields} };
827    
828                    die "field $from doesn't have even number of subfields specifications\n" unless($#sfs % 2 == 1);
829    
830                    warn "#--> d: ",dump($d), "\n#--> sfs: ",dump(@sfs),$/ if ($debug > 2);
831    
832                    my $m = [ $to, $i1, $i2 ];
833    
834                    while (my $sf = shift @sfs) {
835    
836                            warn "#--> sf: ",dump($sf), $/ if ($debug > 2);
837                            my $offset = shift @sfs;
838                            die "corrupted sufields specification for field $from\n" unless defined($offset);
839    
840                            my $v;
841                            if (ref($d->{$sf}) eq 'ARRAY') {
842                                    $v = $d->{$sf}->[$offset] if (defined($d->{$sf}->[$offset]));
843                            } elsif ($offset == 0) {
844                                    $v = $d->{$sf};
845                            } else {
846                                    die "field $from subfield '$sf' need occurence $offset which doesn't exist", dump($d->{$sf});
847                            }
848                            push @$m, ( $sf, $v ) if (defined($v));
849                    }
850    
851                    if ($#{$m} > 2) {
852                            push @{ $marc_record->[ $marc_record_offset ] }, $m;
853                    }
854            }
855    
856            warn "## marc_record = ", dump( $marc_record ),$/ if ($debug > 1);
857    }
858    
859    =head2 marc_count
860    
861    Return number of MARC records created using L</marc_duplicate>.
862    
863      print "created ", marc_count(), " records";
864    
865    =cut
866    
867    sub marc_count {
868            return $#{ $marc_record };
869    }
870    
871    
872  =head1 Functions to extract data from input  =head1 Functions to extract data from input
873    
874  This function should be used inside functions to create C<data_structure> described  This function should be used inside functions to create C<data_structure> described
875  above.  above.
876    
877    =head2 _pack_subfields_hash
878    
879     @subfields = _pack_subfields_hash( $h );
880     $subfields = _pack_subfields_hash( $h, 1 );
881    
882    Return each subfield value in array or pack them all together and return scalar
883    with subfields (denoted by C<^>) and values.
884    
885    =cut
886    
887    sub _pack_subfields_hash {
888    
889            warn "## _pack_subfields_hash( ",dump(@_), " )\n" if ($debug > 1);
890    
891            my ($h,$include_subfields) = @_;
892    
893            # sanity and ease of use
894            return $h if (ref($h) ne 'HASH');
895    
896            if ( defined($h->{subfields}) ) {
897                    my $sfs = delete $h->{subfields} || die "no subfields?";
898                    my @out;
899                    while (@$sfs) {
900                            my $sf = shift @$sfs;
901                            push @out, '^' . $sf if ($include_subfields);
902                            my $o = shift @$sfs;
903                            if ($o == 0 && ref( $h->{$sf} ) ne 'ARRAY' ) {
904                                    # single element subfields are not arrays
905    #warn "====> $sf $o / $#$sfs ", dump( $sfs, $h->{$sf} ), "\n";
906    
907                                    push @out, $h->{$sf};
908                            } else {
909    #warn "====> $sf $o / $#$sfs ", dump( $sfs, $h->{$sf} ), "\n";
910                                    push @out, $h->{$sf}->[$o];
911                            }
912                    }
913                    if ($include_subfields) {
914                            return join('', @out);
915                    } else {
916                            return @out;
917                    }
918            } else {
919                    if ($include_subfields) {
920                            my $out = '';
921                            foreach my $sf (sort keys %$h) {
922                                    if (ref($h->{$sf}) eq 'ARRAY') {
923                                            $out .= '^' . $sf . join('^' . $sf, @{ $h->{$sf} });
924                                    } else {
925                                            $out .= '^' . $sf . $h->{$sf};
926                                    }
927                            }
928                            return $out;
929                    } else {
930                            # FIXME this should probably be in alphabetical order instead of hash order
931                            values %{$h};
932                    }
933            }
934    }
935    
936  =head2 rec1  =head2 rec1
937    
938  Return all values in some field  Return all values in some field
# Line 655  sub rec1 { Line 949  sub rec1 {
949          return unless (defined($rec) && defined($rec->{$f}));          return unless (defined($rec) && defined($rec->{$f}));
950          warn "rec1($f) = ", dump( $rec->{$f} ), $/ if ($debug > 1);          warn "rec1($f) = ", dump( $rec->{$f} ), $/ if ($debug > 1);
951          if (ref($rec->{$f}) eq 'ARRAY') {          if (ref($rec->{$f}) eq 'ARRAY') {
952                  return map {                  my @out;
953                          if (ref($_) eq 'HASH') {                  foreach my $h ( @{ $rec->{$f} } ) {
954                                  values %{$_};                          if (ref($h) eq 'HASH') {
955                                    push @out, ( _pack_subfields_hash( $h ) );
956                          } else {                          } else {
957                                  $_;                                  push @out, $h;
958                          }                          }
959                  } @{ $rec->{$f} };                  }
960                    return @out;
961          } elsif( defined($rec->{$f}) ) {          } elsif( defined($rec->{$f}) ) {
962                  return $rec->{$f};                  return $rec->{$f};
963          }          }
# Line 696  syntaxtic sugar for Line 992  syntaxtic sugar for
992    @v = rec('200')    @v = rec('200')
993    @v = rec('200','a')    @v = rec('200','a')
994    
995    If rec() returns just single value, it will
996    return scalar, not array.
997    
998  =cut  =cut
999    
1000  sub rec {  sub rec {
# Line 705  sub rec { Line 1004  sub rec {
1004          } elsif ($#_ == 1) {          } elsif ($#_ == 1) {
1005                  @out = rec2(@_);                  @out = rec2(@_);
1006          }          }
1007          if (@out) {          if ($#out == 0 && ! wantarray) {
1008                    return $out[0];
1009            } elsif (@out) {
1010                  return @out;                  return @out;
1011          } else {          } else {
1012                  return '';                  return '';
# Line 741  Prefix all values with a string Line 1042  Prefix all values with a string
1042  =cut  =cut
1043    
1044  sub prefix {  sub prefix {
1045          my $p = shift or return;          my $p = shift;
1046            return @_ unless defined( $p );
1047          return map { $p . $_ } grep { defined($_) } @_;          return map { $p . $_ } grep { defined($_) } @_;
1048  }  }
1049    
# Line 754  suffix all values with a string Line 1056  suffix all values with a string
1056  =cut  =cut
1057    
1058  sub suffix {  sub suffix {
1059          my $s = shift or die "suffix needs string as first argument";          my $s = shift;
1060            return @_ unless defined( $s );
1061          return map { $_ . $s } grep { defined($_) } @_;          return map { $_ . $s } grep { defined($_) } @_;
1062  }  }
1063    
# Line 767  surround all values with a two strings Line 1070  surround all values with a two strings
1070  =cut  =cut
1071    
1072  sub surround {  sub surround {
1073          my $p = shift or die "surround need prefix as first argument";          my $p = shift;
1074          my $s = shift or die "surround needs suffix as second argument";          my $s = shift;
1075            $p = '' unless defined( $p );
1076            $s = '' unless defined( $s );
1077          return map { $p . $_ . $s } grep { defined($_) } @_;          return map { $p . $_ . $s } grep { defined($_) } @_;
1078  }  }
1079    
# Line 789  sub first { Line 1094  sub first {
1094    
1095  Consult lookup hashes for some value  Consult lookup hashes for some value
1096    
1097    @v = lookup( $v );    @v = lookup(
1098    @v = lookup( @v );          sub {
1099                    'ffkk/peri/mfn'.rec('000')
1100            },
1101            'ffkk','peri','200-a-200-e',
1102            sub {
1103                    first(rec(200,'a')).' '.first(rec('200','e'))
1104            }
1105      );
1106    
1107    Code like above will be B<automatically generated> using L<WebPAC::Parse> from
1108    normal lookup definition in C<conf/lookup/something.pl> which looks like:
1109    
1110      lookup(
1111            # which results to return from record recorded in lookup
1112            sub { 'ffkk/peri/mfn' . rec('000') },
1113            # from which database and input
1114            'ffkk','peri',
1115            # such that following values match
1116            sub { first(rec(200,'a')) . ' ' . first(rec('200','e')) },
1117            # if this part is missing, we will try to match same fields
1118            # from lookup record and current one, or you can override
1119            # which records to use from current record using
1120            sub { rec('900','x') . ' ' . rec('900','y') },
1121      )
1122    
1123    You can think about this lookup as SQL (if that helps):
1124    
1125      select
1126            sub { what }
1127      from
1128            database, input
1129      where
1130        sub { filter from lookuped record }
1131      having
1132        sub { optional filter on current record }
1133    
1134    Easy as pie, right?
1135    
1136  =cut  =cut
1137    
1138  sub lookup {  sub lookup {
1139          my $k = shift or return;          my ($what, $database, $input, $key, $having) = @_;
1140          return unless (defined($lookup->{$k}));  
1141          if (ref($lookup->{$k}) eq 'ARRAY') {          confess "lookup needs 5 arguments: what, database, input, key, having\n" unless ($#_ == 4);
1142                  return @{ $lookup->{$k} };  
1143            warn "## lookup ($database, $input, $key)", $/ if ($debug > 1);
1144            return unless (defined($lookup->{$database}->{$input}->{$key}));
1145    
1146            confess "lookup really need load_row_coderef added to data_structure\n" unless ($load_row_coderef);
1147    
1148            my $mfns;
1149            my @having = $having->();
1150    
1151            warn "## having = ", dump( @having ) if ($debug > 2);
1152    
1153            foreach my $h ( @having ) {
1154                    if (defined($lookup->{$database}->{$input}->{$key}->{$h})) {
1155                            warn "lookup for $database/$input/$key/$h return ",dump($lookup->{$database}->{$input}->{$key}->{$h}),"\n" if ($debug);
1156                            $mfns->{$_}++ foreach keys %{ $lookup->{$database}->{$input}->{$key}->{$h} };
1157                    }
1158            }
1159    
1160            return unless ($mfns);
1161    
1162            my @mfns = sort keys %$mfns;
1163    
1164            warn "# lookup loading $database/$input/$key mfn ", join(",",@mfns)," having ",dump(@having),"\n" if ($debug);
1165    
1166            my $old_rec = $rec;
1167            my @out;
1168    
1169            foreach my $mfn (@mfns) {
1170                    $rec = $load_row_coderef->( $database, $input, $mfn );
1171    
1172                    warn "got $database/$input/$mfn = ", dump($rec), $/ if ($debug);
1173    
1174                    my @vals = $what->();
1175    
1176                    push @out, ( @vals );
1177    
1178                    warn "lookup for mfn $mfn returned ", dump(@vals), $/ if ($debug);
1179            }
1180    
1181    #       if (ref($lookup->{$k}) eq 'ARRAY') {
1182    #               return @{ $lookup->{$k} };
1183    #       } else {
1184    #               return $lookup->{$k};
1185    #       }
1186    
1187            $rec = $old_rec;
1188    
1189            warn "## lookup returns = ", dump(@out), $/ if ($debug);
1190    
1191            if ($#out == 0) {
1192                    return $out[0];
1193          } else {          } else {
1194                  return $lookup->{$k};                  return @out;
1195          }          }
1196  }  }
1197    
1198    =head2 save_into_lookup
1199    
1200    Save value into lookup. It associates current database, input
1201    and specific keys with one or more values which will be
1202    associated over MFN.
1203    
1204    MFN will be extracted from first occurence current of field 000
1205    in current record, or if it doesn't exist from L<_set_config> C<_mfn>.
1206    
1207      my $nr = save_into_lookup($database,$input,$key,sub {
1208            # code which produce one or more values
1209      });
1210    
1211    It returns number of items saved.
1212    
1213    This function shouldn't be called directly, it's called from code created by
1214    L<WebPAC::Parser>.
1215    
1216    =cut
1217    
1218    sub save_into_lookup {
1219            my ($database,$input,$key,$coderef) = @_;
1220            die "save_into_lookup needs database" unless defined($database);
1221            die "save_into_lookup needs input" unless defined($input);
1222            die "save_into_lookup needs key" unless defined($key);
1223            die "save_into_lookup needs CODE" unless ( defined($coderef) && ref($coderef) eq 'CODE' );
1224    
1225            warn "## save_into_lookup rec = ", dump($rec), " config = ", dump($config), $/ if ($debug > 2);
1226    
1227            my $mfn =
1228                    defined($rec->{'000'}->[0])     ?       $rec->{'000'}->[0]      :
1229                    defined($config->{_mfn})        ?       $config->{_mfn}         :
1230                                                                                    die "mfn not defined or zero";
1231    
1232            my $nr = 0;
1233    
1234            foreach my $v ( $coderef->() ) {
1235                    $lookup->{$database}->{$input}->{$key}->{$v}->{$mfn}++;
1236                    warn "# saved lookup $database/$input/$key [$v] $mfn\n" if ($debug > 1);
1237                    $nr++;
1238            }
1239    
1240            return $nr;
1241    }
1242    
1243  =head2 config  =head2 config
1244    
1245  Consult config values stored in C<config.yml>  Consult config values stored in C<config.yml>
# Line 812  Consult config values stored in C<config Line 1248  Consult config values stored in C<config
1248    $database_code = config();    # use _ from hash    $database_code = config();    # use _ from hash
1249    $database_name = config('name');    $database_name = config('name');
1250    $database_input_name = config('input name');    $database_input_name = config('input name');
   $tag = config('input normalize tag');  
1251    
1252  Up to three levels are supported.  Up to three levels are supported.
1253    
# Line 917  sub split_rec_on { Line 1352  sub split_rec_on {
1352          my $v = shift @r;          my $v = shift @r;
1353          warn "### first rec($fld,$sf) = ",dump($v),$/ if ($debug > 2);          warn "### first rec($fld,$sf) = ",dump($v),$/ if ($debug > 2);
1354    
1355          return '' if( ! defined($v) || $v =~ /^\s*$/);          return '' if ( ! defined($v) || $v =~ /^\s*$/);
1356    
1357          my @s = split( $regex, $v );          my @s = split( $regex, $v );
1358          warn "## split_rec_on($fld,$sf,$regex,$part) = ",dump(@s),$/ if ($debug > 1);          warn "## split_rec_on($fld,$sf,$regex,$part) = ",dump(@s),$/ if ($debug > 1);
# Line 928  sub split_rec_on { Line 1363  sub split_rec_on {
1363          }          }
1364  }  }
1365    
1366    my $hash;
1367    
1368    =head2 set
1369    
1370      set( key => 'value' );
1371    
1372    =cut
1373    
1374    sub set {
1375            my ($k,$v) = @_;
1376            warn "## set ( $k => ", dump($v), " )", $/ if ( $debug );
1377            $hash->{$k} = $v;
1378    };
1379    
1380    =head2 get
1381    
1382      get( 'key' );
1383    
1384    =cut
1385    
1386    sub get {
1387            my $k = shift || return;
1388            my $v = $hash->{$k};
1389            warn "## get $k = ", dump( $v ), $/ if ( $debug );
1390            return $v;
1391    }
1392    
1393    =head2 count
1394    
1395      if ( count( @result ) == 1 ) {
1396            # do something if only 1 result is there
1397      }
1398    
1399    =cut
1400    
1401    sub count {
1402            warn "## count ",dump(@_),$/ if ( $debug );
1403            return @_ . '';
1404    }
1405    
1406  # END  # END
1407  1;  1;

Legend:
Removed from v.601  
changed lines
  Added in v.973

  ViewVC Help
Powered by ViewVC 1.1.26