/[webpac2]/trunk/lib/WebPAC/Normalize.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/WebPAC/Normalize.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 707 by dpavlin, Mon Sep 25 15:26:12 2006 UTC revision 1011 by dpavlin, Tue Nov 6 20:26:31 2007 UTC
# Line 1  Line 1 
1  package WebPAC::Normalize;  package WebPAC::Normalize;
2  use Exporter 'import';  use Exporter 'import';
3  @EXPORT = qw/  our @EXPORT = qw/
4          _set_rec _set_lookup          _set_ds _set_lookup
5            _set_load_row
6          _get_ds _clean_ds          _get_ds _clean_ds
7          _debug          _debug
8          _pack_subfields_hash          _pack_subfields_hash
9    
10          tag search display          search_display search display sorted
11    
12          marc marc_indicators marc_repeatable_subfield          marc marc_indicators marc_repeatable_subfield
13          marc_compose marc_leader          marc_compose marc_leader marc_fixed
14          marc_duplicate marc_remove          marc_duplicate marc_remove marc_count
15          marc_original_order          marc_original_order
16    
17          rec1 rec2 rec          rec1 rec2 rec
18            frec
19          regex prefix suffix surround          regex prefix suffix surround
20          first lookup join_with          first lookup join_with
21          save_into_lookup          save_into_lookup
22    
23          split_rec_on          split_rec_on
24    
25            get set
26            count
27    
28  /;  /;
29    
30  use warnings;  use warnings;
# Line 26  use strict; Line 33  use strict;
33  #use base qw/WebPAC::Common/;  #use base qw/WebPAC::Common/;
34  use Data::Dump qw/dump/;  use Data::Dump qw/dump/;
35  use Storable qw/dclone/;  use Storable qw/dclone/;
36    use Carp qw/confess/;
37    
38  # debugging warn(s)  # debugging warn(s)
39  my $debug = 0;  my $debug = 0;
40    
41    use WebPAC::Normalize::ISBN;
42    push @EXPORT, ( 'isbn_10', 'isbn_13' );
43    
44  =head1 NAME  =head1 NAME
45    
46  WebPAC::Normalize - describe normalisaton rules using sets  WebPAC::Normalize - describe normalisaton rules using sets
47    
 =head1 VERSION  
   
 Version 0.20  
   
48  =cut  =cut
49    
50  our $VERSION = '0.20';  our $VERSION = '0.32';
51    
52  =head1 SYNOPSIS  =head1 SYNOPSIS
53    
# Line 54  means that you check it's validity befor Line 60  means that you check it's validity befor
60  C<perl -c normalize.pl>.  C<perl -c normalize.pl>.
61    
62  Normalisation can generate multiple output normalized data. For now, supported output  Normalisation can generate multiple output normalized data. For now, supported output
63  types (on the left side of definition) are: C<tag>, C<display>, C<search> and  types (on the left side of definition) are: C<search_display>, C<display>, C<search> and
64  C<marc>.  C<marc>.
65    
66  =head1 FUNCTIONS  =head1 FUNCTIONS
# Line 67  All other functions are available for us Line 73  All other functions are available for us
73  Return data structure  Return data structure
74    
75    my $ds = WebPAC::Normalize::data_structure(    my $ds = WebPAC::Normalize::data_structure(
76          lookup => $lookup_variable,          lookup => $lookup_hash,
77          row => $row,          row => $row,
78          rules => $normalize_pl_config,          rules => $normalize_pl_config,
79          marc_encoding => 'utf-8',          marc_encoding => 'utf-8',
80          config => $config,          config => $config,
81            load_row_coderef => sub {
82                    my ($database,$input,$mfn) = @_;
83                    $store->load_row( database => $database, input => $input, id => $mfn );
84            },
85    );    );
86    
87  Options C<row>, C<rules> and C<log> are mandatory while all  Options C<row>, C<rules> and C<log> are mandatory while all
88  other are optional.  other are optional.
89    
90    C<load_row_coderef> is closure only used when executing lookups, so they will
91    die if it's not defined.
92    
93  This function will B<die> if normalizastion can't be evaled.  This function will B<die> if normalizastion can't be evaled.
94    
95  Since this function isn't exported you have to call it with  Since this function isn't exported you have to call it with
# Line 84  C<WebPAC::Normalize::data_structure>. Line 97  C<WebPAC::Normalize::data_structure>.
97    
98  =cut  =cut
99    
100    my $load_row_coderef;
101    
102  sub data_structure {  sub data_structure {
103          my $arg = {@_};          my $arg = {@_};
104    
105          die "need row argument" unless ($arg->{row});          die "need row argument" unless ($arg->{row});
106          die "need normalisation argument" unless ($arg->{rules});          die "need normalisation argument" unless ($arg->{rules});
107    
108          no strict 'subs';          _set_lookup( $arg->{lookup} ) if defined($arg->{lookup});
109          _set_lookup( $arg->{lookup} ) if (defined( $arg->{lookup} ));          _set_ds( $arg->{row} );
110          _set_rec( $arg->{row} );          _set_config( $arg->{config} ) if defined($arg->{config});
         _set_config( $arg->{config} ) if (defined( $arg->{config} ));  
111          _clean_ds( %{ $arg } );          _clean_ds( %{ $arg } );
112          eval "$arg->{rules}";          $load_row_coderef = $arg->{load_row_coderef};
113    
114            no strict 'subs';
115            no warnings 'redefine';
116            eval "$arg->{rules};";
117          die "error evaling $arg->{rules}: $@\n" if ($@);          die "error evaling $arg->{rules}: $@\n" if ($@);
118    
119          return _get_ds();          return _get_ds();
120  }  }
121    
122  =head2 _set_rec  =head2 _set_ds
123    
124  Set current record hash  Set current record hash
125    
126    _set_rec( $rec );    _set_ds( $rec );
127    
128  =cut  =cut
129    
130  my $rec;  my $rec;
131    
132  sub _set_rec {  sub _set_ds {
133          $rec = shift or die "no record hash";          $rec = shift or die "no record hash";
134  }  }
135    
# Line 151  Return hash formatted as data structure Line 169  Return hash formatted as data structure
169    
170  =cut  =cut
171    
172  my ($out, $marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators);  my ($out, $marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators, $marc_leader);
173  my ($marc_record_offset, $marc_fetch_offset) = (0, 0);  my ($marc_record_offset, $marc_fetch_offset) = (0, 0);
174    
175  sub _get_ds {  sub _get_ds {
176    #warn "## out = ",dump($out);
177          return $out;          return $out;
178  }  }
179    
# Line 168  Clean data structure hash for next recor Line 187  Clean data structure hash for next recor
187    
188  sub _clean_ds {  sub _clean_ds {
189          my $a = {@_};          my $a = {@_};
190          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators) = ();          ($out,$marc_record, $marc_encoding, $marc_repeatable_subfield, $marc_indicators, $marc_leader) = ();
191          ($marc_record_offset, $marc_fetch_offset) = (0,0);          ($marc_record_offset, $marc_fetch_offset) = (0,0);
192          $marc_encoding = $a->{marc_encoding};          $marc_encoding = $a->{marc_encoding};
193  }  }
# Line 199  sub _get_lookup { Line 218  sub _get_lookup {
218          return $lookup;          return $lookup;
219  }  }
220    
221    =head2 _set_load_row
222    
223    Setup code reference which will return L<data_structure> from
224    L<WebPAC::Store>
225    
226      _set_load_row(sub {
227                    my ($database,$input,$mfn) = @_;
228                    $store->load_row( database => $database, input => $input, id => $mfn );
229      });
230    
231    =cut
232    
233    sub _set_load_row {
234            my $coderef = shift;
235            confess "argument isn't CODE" unless ref($coderef) eq 'CODE';
236    
237            $load_row_coderef = $coderef;
238    }
239    
240  =head2 _get_marc_fields  =head2 _get_marc_fields
241    
242  Get all fields defined by calls to C<marc>  Get all fields defined by calls to C<marc>
# Line 254  will return 42th copy record (if it exis Line 292  will return 42th copy record (if it exis
292    
293  =cut  =cut
294    
295    my $fetch_pos;
296    
297  sub _get_marc_fields {  sub _get_marc_fields {
298    
299          my $arg = {@_};          my $arg = {@_};
300          warn "### _get_marc_fields arg: ", dump($arg), $/ if ($debug > 2);          warn "### _get_marc_fields arg: ", dump($arg), $/ if ($debug > 2);
301          my $offset = $marc_fetch_offset;          $fetch_pos = $marc_fetch_offset;
302          if ($arg->{offset}) {          if ($arg->{offset}) {
303                  $offset = $arg->{offset};                  $fetch_pos = $arg->{offset};
304          } elsif($arg->{fetch_next}) {          } elsif($arg->{fetch_next}) {
305                  $marc_fetch_offset++;                  $marc_fetch_offset++;
306          }          }
# Line 269  sub _get_marc_fields { Line 309  sub _get_marc_fields {
309    
310          warn "### full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 2);          warn "### full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 2);
311    
312          my $marc_rec = $marc_record->[ $offset ];          my $marc_rec = $marc_record->[ $fetch_pos ];
313    
314          warn "## _get_marc_fields (at offset: $offset) -- marc_record = ", dump( @$marc_rec ), $/ if ($debug > 1);          warn "## _get_marc_fields (at offset: $fetch_pos) -- marc_record = ", dump( @$marc_rec ), $/ if ($debug > 1);
315    
316          return if (! $marc_rec || ref($marc_rec) ne 'ARRAY' || $#{ $marc_rec } < 0);          return if (! $marc_rec || ref($marc_rec) ne 'ARRAY' || $#{ $marc_rec } < 0);
317    
# Line 292  sub _get_marc_fields { Line 332  sub _get_marc_fields {
332    
333          if ($debug) {          if ($debug) {
334                  warn "## marc_repeatable_subfield = ", dump( $marc_repeatable_subfield ), $/ if ( $marc_repeatable_subfield );                  warn "## marc_repeatable_subfield = ", dump( $marc_repeatable_subfield ), $/ if ( $marc_repeatable_subfield );
335                  warn "## marc_record[$offset] = ", dump( $marc_rec ), $/;                  warn "## marc_record[$fetch_pos] = ", dump( $marc_rec ), $/;
336                  warn "## sorted_marc_record = ", dump( \@sorted_marc_record ), $/;                  warn "## sorted_marc_record = ", dump( \@sorted_marc_record ), $/;
337                  warn "## subfield count = ", dump( $u ), $/;                  warn "## subfield count = ", dump( $u ), $/;
338          }          }
# Line 373  sub _get_marc_fields { Line 413  sub _get_marc_fields {
413          return \@m;          return \@m;
414  }  }
415    
416    =head2 _get_marc_leader
417    
418    Return leader from currently fetched record by L</_get_marc_fields>
419    
420      print WebPAC::Normalize::_get_marc_leader();
421    
422    =cut
423    
424    sub _get_marc_leader {
425            die "no fetch_pos, did you called _get_marc_fields first?" unless ( defined( $fetch_pos ) );
426            return $marc_leader->[ $fetch_pos ];
427    }
428    
429  =head2 _debug  =head2 _debug
430    
431  Change level of debug warnings  Change level of debug warnings
# Line 392  sub _debug { Line 445  sub _debug {
445    
446  Those functions generally have to first in your normalization file.  Those functions generally have to first in your normalization file.
447    
448  =head2 tag  =head2 search_display
449    
450  Define new tag for I<search> and I<display>.  Define output for L<search> and L<display> at the same time
451    
452    tag('Title', rec('200','a') );    search_display('Title', rec('200','a') );
453    
454    
455  =cut  =cut
456    
457  sub tag {  sub search_display {
458          my $name = shift or die "tag needs name as first argument";          my $name = shift or die "search_display needs name as first argument";
459          my @o = grep { defined($_) && $_ ne '' } @_;          my @o = grep { defined($_) && $_ ne '' } @_;
460          return unless (@o);          return unless (@o);
         $out->{$name}->{tag} = $name;  
461          $out->{$name}->{search} = \@o;          $out->{$name}->{search} = \@o;
462          $out->{$name}->{display} = \@o;          $out->{$name}->{display} = \@o;
463  }  }
464    
465    =head2 tag
466    
467    Old name for L<search_display>, but supported
468    
469    =cut
470    
471    sub tag {
472            search_display( @_ );
473    }
474    
475  =head2 display  =head2 display
476    
477  Define tag just for I<display>  Define output just for I<display>
478    
479    @v = display('Title', rec('200','a') );    @v = display('Title', rec('200','a') );
480    
481  =cut  =cut
482    
483  sub display {  sub _field {
484          my $name = shift or die "display needs name as first argument";          my $type = shift or confess "need type -- BUG?";
485            my $name = shift or confess "needs name as first argument";
486          my @o = grep { defined($_) && $_ ne '' } @_;          my @o = grep { defined($_) && $_ ne '' } @_;
487          return unless (@o);          return unless (@o);
488          $out->{$name}->{tag} = $name;          $out->{$name}->{$type} = \@o;
         $out->{$name}->{display} = \@o;  
489  }  }
490    
491    sub display { _field( 'display', @_ ) }
492    
493  =head2 search  =head2 search
494    
495  Prepare values just for I<search>  Prepare values just for I<search>
# Line 434  Prepare values just for I<search> Line 498  Prepare values just for I<search>
498    
499  =cut  =cut
500    
501  sub search {  sub search { _field( 'search', @_ ) }
502          my $name = shift or die "search needs name as first argument";  
503          my @o = grep { defined($_) && $_ ne '' } @_;  =head2 sorted
504          return unless (@o);  
505          $out->{$name}->{tag} = $name;  Insert into lists which will be automatically sorted
506          $out->{$name}->{search} = \@o;  
507  }   sorted('Title', rec('200','a') );
508    
509    =cut
510    
511    sub sorted { _field( 'sorted', @_ ) }
512    
513    
514  =head2 marc_leader  =head2 marc_leader
515    
# Line 455  sub marc_leader { Line 524  sub marc_leader {
524          my ($offset,$value) = @_;          my ($offset,$value) = @_;
525    
526          if ($offset) {          if ($offset) {
527                  $out->{' leader'}->{ $offset } = $value;                  $marc_leader->[ $marc_record_offset ]->{ $offset } = $value;
528          } else {          } else {
529                  return $out->{' leader'};                  
530                    if (defined($marc_leader)) {
531                            die "marc_leader not array = ", dump( $marc_leader ) unless (ref($marc_leader) eq 'ARRAY');
532                            return $marc_leader->[ $marc_record_offset ];
533                    } else {
534                            return;
535                    }
536            }
537    }
538    
539    =head2 marc_fixed
540    
541    Create control/indentifier fields with values in fixed positions
542    
543      marc_fixed('008', 00, '070402');
544      marc_fixed('008', 39, '|');
545    
546    Positions not specified will be filled with spaces (C<0x20>).
547    
548    There will be no effort to extend last specified value to full length of
549    field in standard.
550    
551    =cut
552    
553    sub marc_fixed {
554            my ($f, $pos, $val) = @_;
555            die "need marc(field, position, value)" unless defined($f) && defined($pos);
556    
557            confess "need val" unless defined $val;
558    
559            my $update = 0;
560    
561            map {
562                    if ($_->[0] eq $f) {
563                            my $old = $_->[1];
564                            if (length($old) <= $pos) {
565                                    $_->[1] .= ' ' x ( $pos - length($old) ) . $val;
566                                    warn "## marc_fixed($f,$pos,'$val') append '$old' -> '$_->[1]'\n" if ($debug > 1);
567                            } else {
568                                    $_->[1] = substr($old, 0, $pos) . $val . substr($old, $pos + length($val));
569                                    warn "## marc_fixed($f,$pos,'$val') update '$old' -> '$_->[1]'\n" if ($debug > 1);
570                            }
571                            $update++;
572                    }
573            } @{ $marc_record->[ $marc_record_offset ] };
574    
575            if (! $update) {
576                    my $v = ' ' x $pos . $val;
577                    push @{ $marc_record->[ $marc_record_offset ] }, [ $f, $v ];
578                    warn "## marc_fixed($f,$pos,'val') created '$v'\n" if ($debug > 1);
579          }          }
580  }  }
581    
# Line 589  sub marc_duplicate { Line 707  sub marc_duplicate {
707           my $m = $marc_record->[ -1 ];           my $m = $marc_record->[ -1 ];
708           die "can't duplicate record which isn't defined" unless ($m);           die "can't duplicate record which isn't defined" unless ($m);
709           push @{ $marc_record }, dclone( $m );           push @{ $marc_record }, dclone( $m );
710           warn "## marc_duplicate = ", dump(@$marc_record), $/ if ($debug > 1);           push @{ $marc_leader }, dclone( marc_leader() );
711             warn "## marc_duplicate = ", dump(@$marc_leader, @$marc_record), $/ if ($debug > 1);
712           $marc_record_offset = $#{ $marc_record };           $marc_record_offset = $#{ $marc_record };
713           warn "## marc_record_offset = $marc_record_offset", $/ if ($debug > 1);           warn "## marc_record_offset = $marc_record_offset", $/ if ($debug > 1);
714    
715  }  }
716    
717  =head2 marc_remove  =head2 marc_remove
# Line 603  Remove some field or subfield from MARC Line 723  Remove some field or subfield from MARC
723    
724  This will erase field C<200> or C<200^a> from current MARC record.  This will erase field C<200> or C<200^a> from current MARC record.
725    
726      marc_remove('*');
727    
728    Will remove all fields in current MARC record.
729    
730  This is useful after calling C<marc_duplicate> or on it's own (but, you  This is useful after calling C<marc_duplicate> or on it's own (but, you
731  should probably just remove that subfield definition if you are not  should probably just remove that subfield definition if you are not
732  using C<marc_duplicate>).  using C<marc_duplicate>).
# Line 620  sub marc_remove { Line 744  sub marc_remove {
744    
745          warn "### marc_remove before = ", dump( $marc ), $/ if ($debug > 2);          warn "### marc_remove before = ", dump( $marc ), $/ if ($debug > 2);
746    
747          my $i = 0;          if ($f eq '*') {
748          foreach ( 0 .. $#{ $marc } ) {  
749                  last unless (defined $marc->[$i]);                  delete( $marc_record->[ $marc_record_offset ] );
750                  warn "#### working on ",dump( @{ $marc->[$i] }), $/ if ($debug > 3);                  warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);
751                  if ($marc->[$i]->[0] eq $f) {  
752                          if (! defined $sf) {          } else {
753                                  # remove whole field  
754                                  splice @$marc, $i, 1;                  my $i = 0;
755                                  warn "#### slice \@\$marc, $i, 1 = ",dump( @{ $marc }), $/ if ($debug > 3);                  foreach ( 0 .. $#{ $marc } ) {
756                                  $i--;                          last unless (defined $marc->[$i]);
757                          } else {                          warn "#### working on ",dump( @{ $marc->[$i] }), $/ if ($debug > 3);
758                                  foreach my $j ( 0 .. (( $#{ $marc->[$i] } - 3 ) / 2) ) {                          if ($marc->[$i]->[0] eq $f) {
759                                          my $o = ($j * 2) + 3;                                  if (! defined $sf) {
760                                          if ($marc->[$i]->[$o] eq $sf) {                                          # remove whole field
761                                                  # remove subfield                                          splice @$marc, $i, 1;
762                                                  splice @{$marc->[$i]}, $o, 2;                                          warn "#### slice \@\$marc, $i, 1 = ",dump( @{ $marc }), $/ if ($debug > 3);
763                                                  warn "#### slice \@{\$marc->[$i]}, $o, 2 = ", dump( @{ $marc }), $/ if ($debug > 3);                                          $i--;
764                                                  # is record now empty?                                  } else {
765                                                  if ($#{ $marc->[$i] } == 2) {                                          foreach my $j ( 0 .. (( $#{ $marc->[$i] } - 3 ) / 2) ) {
766                                                          splice @$marc, $i, 1;                                                  my $o = ($j * 2) + 3;
767                                                          warn "#### slice \@\$marc, $i, 1 = ", dump( @{ $marc }), $/ if ($debug > 3);                                                  if ($marc->[$i]->[$o] eq $sf) {
768                                                          $i--;                                                          # remove subfield
769                                                  };                                                          splice @{$marc->[$i]}, $o, 2;
770                                                            warn "#### slice \@{\$marc->[$i]}, $o, 2 = ", dump( @{ $marc }), $/ if ($debug > 3);
771                                                            # is record now empty?
772                                                            if ($#{ $marc->[$i] } == 2) {
773                                                                    splice @$marc, $i, 1;
774                                                                    warn "#### slice \@\$marc, $i, 1 = ", dump( @{ $marc }), $/ if ($debug > 3);
775                                                                    $i--;
776                                                            };
777                                                    }
778                                          }                                          }
779                                  }                                  }
780                          }                          }
781                            $i++;
782                  }                  }
                 $i++;  
         }  
783    
784          warn "### marc_remove($f", $sf ? ",$sf" : "", ") after = ", dump( $marc ), $/ if ($debug > 2);                  warn "### marc_remove($f", $sf ? ",$sf" : "", ") after = ", dump( $marc ), $/ if ($debug > 2);
785    
786          $marc_record->[ $marc_record_offset ] = $marc;                  $marc_record->[ $marc_record_offset ] = $marc;
787            }
788    
789          warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);          warn "## full marc_record = ", dump( @{ $marc_record }), $/ if ($debug > 1);
790  }  }
# Line 727  sub marc_original_order { Line 859  sub marc_original_order {
859          warn "## marc_record = ", dump( $marc_record ),$/ if ($debug > 1);          warn "## marc_record = ", dump( $marc_record ),$/ if ($debug > 1);
860  }  }
861    
862    =head2 marc_count
863    
864    Return number of MARC records created using L</marc_duplicate>.
865    
866      print "created ", marc_count(), " records";
867    
868    =cut
869    
870    sub marc_count {
871            return $#{ $marc_record };
872    }
873    
874    
875  =head1 Functions to extract data from input  =head1 Functions to extract data from input
876    
# Line 749  sub _pack_subfields_hash { Line 893  sub _pack_subfields_hash {
893    
894          my ($h,$include_subfields) = @_;          my ($h,$include_subfields) = @_;
895    
896            # sanity and ease of use
897            return $h if (ref($h) ne 'HASH');
898    
899          if ( defined($h->{subfields}) ) {          if ( defined($h->{subfields}) ) {
900                  my $sfs = delete $h->{subfields} || die "no subfields?";                  my $sfs = delete $h->{subfields} || die "no subfields?";
901                  my @out;                  my @out;
# Line 848  syntaxtic sugar for Line 995  syntaxtic sugar for
995    @v = rec('200')    @v = rec('200')
996    @v = rec('200','a')    @v = rec('200','a')
997    
998    If rec() returns just single value, it will
999    return scalar, not array.
1000    
1001  =cut  =cut
1002    
1003    sub frec {
1004            my @out = rec(@_);
1005            warn "rec(",dump(@_),") has more than one return value, ignoring\n" if $#out > 0;
1006            return shift @out;
1007    }
1008    
1009  sub rec {  sub rec {
1010          my @out;          my @out;
1011          if ($#_ == 0) {          if ($#_ == 0) {
# Line 857  sub rec { Line 1013  sub rec {
1013          } elsif ($#_ == 1) {          } elsif ($#_ == 1) {
1014                  @out = rec2(@_);                  @out = rec2(@_);
1015          }          }
1016          if (@out) {          if ($#out == 0 && ! wantarray) {
1017                    return $out[0];
1018            } elsif (@out) {
1019                  return @out;                  return @out;
1020          } else {          } else {
1021                  return '';                  return '';
# Line 893  Prefix all values with a string Line 1051  Prefix all values with a string
1051  =cut  =cut
1052    
1053  sub prefix {  sub prefix {
1054          my $p = shift or return;          my $p = shift;
1055            return @_ unless defined( $p );
1056          return map { $p . $_ } grep { defined($_) } @_;          return map { $p . $_ } grep { defined($_) } @_;
1057  }  }
1058    
# Line 906  suffix all values with a string Line 1065  suffix all values with a string
1065  =cut  =cut
1066    
1067  sub suffix {  sub suffix {
1068          my $s = shift or die "suffix needs string as first argument";          my $s = shift;
1069            return @_ unless defined( $s );
1070          return map { $_ . $s } grep { defined($_) } @_;          return map { $_ . $s } grep { defined($_) } @_;
1071  }  }
1072    
# Line 919  surround all values with a two strings Line 1079  surround all values with a two strings
1079  =cut  =cut
1080    
1081  sub surround {  sub surround {
1082          my $p = shift or die "surround need prefix as first argument";          my $p = shift;
1083          my $s = shift or die "surround needs suffix as second argument";          my $s = shift;
1084            $p = '' unless defined( $p );
1085            $s = '' unless defined( $s );
1086          return map { $p . $_ . $s } grep { defined($_) } @_;          return map { $p . $_ . $s } grep { defined($_) } @_;
1087  }  }
1088    
# Line 941  sub first { Line 1103  sub first {
1103    
1104  Consult lookup hashes for some value  Consult lookup hashes for some value
1105    
1106    @v = lookup( $v );    @v = lookup(
1107    @v = lookup( @v );          sub {
1108                    'ffkk/peri/mfn'.rec('000')
1109            },
1110            'ffkk','peri','200-a-200-e',
1111            sub {
1112                    first(rec(200,'a')).' '.first(rec('200','e'))
1113            }
1114      );
1115    
1116    Code like above will be B<automatically generated> using L<WebPAC::Parse> from
1117    normal lookup definition in C<conf/lookup/something.pl> which looks like:
1118    
1119  FIXME B<currently this one is broken!>    lookup(
1120            # which results to return from record recorded in lookup
1121            sub { 'ffkk/peri/mfn' . rec('000') },
1122            # from which database and input
1123            'ffkk','peri',
1124            # such that following values match
1125            sub { first(rec(200,'a')) . ' ' . first(rec('200','e')) },
1126            # if this part is missing, we will try to match same fields
1127            # from lookup record and current one, or you can override
1128            # which records to use from current record using
1129            sub { rec('900','x') . ' ' . rec('900','y') },
1130      )
1131    
1132    You can think about this lookup as SQL (if that helps):
1133    
1134      select
1135            sub { what }
1136      from
1137            database, input
1138      where
1139        sub { filter from lookuped record }
1140      having
1141        sub { optional filter on current record }
1142    
1143    Easy as pie, right?
1144    
1145  =cut  =cut
1146    
1147  sub lookup {  sub lookup {
1148          my $k = shift or return;          my ($what, $database, $input, $key, $having) = @_;
1149          return unless (defined($lookup->{$k}));  
1150          if (ref($lookup->{$k}) eq 'ARRAY') {          confess "lookup needs 5 arguments: what, database, input, key, having\n" unless ($#_ == 4);
1151                  return @{ $lookup->{$k} };  
1152            warn "## lookup ($database, $input, $key)", $/ if ($debug > 1);
1153            return unless (defined($lookup->{$database}->{$input}->{$key}));
1154    
1155            confess "lookup really need load_row_coderef added to data_structure\n" unless ($load_row_coderef);
1156    
1157            my $mfns;
1158            my @having = $having->();
1159    
1160            warn "## having = ", dump( @having ) if ($debug > 2);
1161    
1162            foreach my $h ( @having ) {
1163                    if (defined($lookup->{$database}->{$input}->{$key}->{$h})) {
1164                            warn "lookup for $database/$input/$key/$h return ",dump($lookup->{$database}->{$input}->{$key}->{$h}),"\n" if ($debug);
1165                            $mfns->{$_}++ foreach keys %{ $lookup->{$database}->{$input}->{$key}->{$h} };
1166                    }
1167            }
1168    
1169            return unless ($mfns);
1170    
1171            my @mfns = sort keys %$mfns;
1172    
1173            warn "# lookup loading $database/$input/$key mfn ", join(",",@mfns)," having ",dump(@having),"\n" if ($debug);
1174    
1175            my $old_rec = $rec;
1176            my @out;
1177    
1178            foreach my $mfn (@mfns) {
1179                    $rec = $load_row_coderef->( $database, $input, $mfn );
1180    
1181                    warn "got $database/$input/$mfn = ", dump($rec), $/ if ($debug);
1182    
1183                    my @vals = $what->();
1184    
1185                    push @out, ( @vals );
1186    
1187                    warn "lookup for mfn $mfn returned ", dump(@vals), $/ if ($debug);
1188            }
1189    
1190    #       if (ref($lookup->{$k}) eq 'ARRAY') {
1191    #               return @{ $lookup->{$k} };
1192    #       } else {
1193    #               return $lookup->{$k};
1194    #       }
1195    
1196            $rec = $old_rec;
1197    
1198            warn "## lookup returns = ", dump(@out), $/ if ($debug);
1199    
1200            if ($#out == 0) {
1201                    return $out[0];
1202          } else {          } else {
1203                  return $lookup->{$k};                  return @out;
1204          }          }
1205  }  }
1206    
1207  =head2 save_into_lookup  =head2 save_into_lookup
1208    
1209  Save value into lookup.  Save value into lookup. It associates current database, input
1210    and specific keys with one or more values which will be
1211    associated over MFN.
1212    
1213    save_into_lookup($key,sub {  MFN will be extracted from first occurence current of field 000
1214    in current record, or if it doesn't exist from L<_set_config> C<_mfn>.
1215    
1216      my $nr = save_into_lookup($database,$input,$key,sub {
1217          # code which produce one or more values          # code which produce one or more values
1218    });    });
1219    
1220  This function shouldn't be called directly, it's called from code created by L<WebPAC::Parser>.  It returns number of items saved.
1221    
1222    This function shouldn't be called directly, it's called from code created by
1223    L<WebPAC::Parser>.
1224    
1225  =cut  =cut
1226    
1227  sub save_into_lookup {  sub save_into_lookup {
1228          my ($k,$coderef) = @_;          my ($database,$input,$key,$coderef) = @_;
1229          die "save_into_lookup needs key" unless defined($k);          die "save_into_lookup needs database" unless defined($database);
1230            die "save_into_lookup needs input" unless defined($input);
1231            die "save_into_lookup needs key" unless defined($key);
1232          die "save_into_lookup needs CODE" unless ( defined($coderef) && ref($coderef) eq 'CODE' );          die "save_into_lookup needs CODE" unless ( defined($coderef) && ref($coderef) eq 'CODE' );
1233          my $mfn = $rec->{'000'}->[0] || die "mfn not defined or zero";  
1234            warn "## save_into_lookup rec = ", dump($rec), " config = ", dump($config), $/ if ($debug > 2);
1235    
1236            my $mfn =
1237                    defined($rec->{'000'}->[0])     ?       $rec->{'000'}->[0]      :
1238                    defined($config->{_mfn})        ?       $config->{_mfn}         :
1239                                                                                    die "mfn not defined or zero";
1240    
1241            my $nr = 0;
1242    
1243          foreach my $v ( $coderef->() ) {          foreach my $v ( $coderef->() ) {
1244                  $lookup->{$k}->{$v}->{$mfn}++;                  $lookup->{$database}->{$input}->{$key}->{$v}->{$mfn}++;
1245                  warn "# lookup $k $v $mfn saved\n";     # if ($debug > 1);                  warn "# saved lookup $database/$input/$key [$v] $mfn\n" if ($debug > 1);
1246                    $nr++;
1247          }          }
1248    
1249            return $nr;
1250  }  }
1251    
1252  =head2 config  =head2 config
# Line 989  Consult config values stored in C<config Line 1257  Consult config values stored in C<config
1257    $database_code = config();    # use _ from hash    $database_code = config();    # use _ from hash
1258    $database_name = config('name');    $database_name = config('name');
1259    $database_input_name = config('input name');    $database_input_name = config('input name');
   $tag = config('input normalize tag');  
1260    
1261  Up to three levels are supported.  Up to three levels are supported.
1262    
# Line 1105  sub split_rec_on { Line 1372  sub split_rec_on {
1372          }          }
1373  }  }
1374    
1375    my $hash;
1376    
1377    =head2 set
1378    
1379      set( key => 'value' );
1380    
1381    =cut
1382    
1383    sub set {
1384            my ($k,$v) = @_;
1385            warn "## set ( $k => ", dump($v), " )", $/ if ( $debug );
1386            $hash->{$k} = $v;
1387    };
1388    
1389    =head2 get
1390    
1391      get( 'key' );
1392    
1393    =cut
1394    
1395    sub get {
1396            my $k = shift || return;
1397            my $v = $hash->{$k};
1398            warn "## get $k = ", dump( $v ), $/ if ( $debug );
1399            return $v;
1400    }
1401    
1402    =head2 count
1403    
1404      if ( count( @result ) == 1 ) {
1405            # do something if only 1 result is there
1406      }
1407    
1408    =cut
1409    
1410    sub count {
1411            warn "## count ",dump(@_),$/ if ( $debug );
1412            return @_ . '';
1413    }
1414    
1415  # END  # END
1416  1;  1;

Legend:
Removed from v.707  
changed lines
  Added in v.1011

  ViewVC Help
Powered by ViewVC 1.1.26