/[webpac2]/trunk/run.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/run.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1084 by dpavlin, Sun Dec 23 22:06:08 2007 UTC revision 1160 by dpavlin, Sat Apr 25 14:17:27 2009 UTC
# Line 23  use Data::Dump qw/dump/; Line 23  use Data::Dump qw/dump/;
23  use Storable qw/dclone/;  use Storable qw/dclone/;
24  use Pod::Usage qw/pod2usage/;  use Pod::Usage qw/pod2usage/;
25    
 use Proc::Queue size => 1;  
26  use POSIX ":sys_wait_h"; # imports WNOHANG  use POSIX ":sys_wait_h"; # imports WNOHANG
27    
28  =head1 NAME  =head1 NAME
# Line 207  my $start_t = time(); Line 206  my $start_t = time();
206  my @links;  my @links;
207    
208  if ($parallel) {  if ($parallel) {
209            eval 'use Proc::Queue size => 1;';
210            die $@ if $@;
211          $log->info("Using $parallel processes for speedup");          $log->info("Using $parallel processes for speedup");
212          Proc::Queue::size($parallel);          Proc::Queue::size($parallel);
213  }  }
# Line 349  foreach my $database ( sort keys %{ $con Line 350  foreach my $database ( sort keys %{ $con
350                  $log->info("database $database doesn't have inputs defined");                  $log->info("database $database doesn't have inputs defined");
351          } );          } );
352    
353            if ( -e 'out/debug' ) { # FIXME flag?
354                    my $out;
355                    foreach my $i ( @inputs ) {
356                            warn dump( $i );
357                            next unless defined $i->{normalize};
358                            warn dump( $i->{normalize} );
359                            foreach my $normalize ( @{ $i->{normalize} } ) {
360                                    my $path = $normalize->{path};
361                                    $out .= qq/\n##\n## $path\n##\n\n/;
362                                    $out .= read_file( $path );
363                            }
364                    }
365                    my $all = "out/debug/all-normalize.pl";
366                    write_file( $all, $out );
367                    warn "### all normalize for this input saved to: $all";
368            };
369    
370          foreach my $input (@inputs) {          foreach my $input (@inputs) {
371    
372                  my $input_name = $input->{name} || $log->logdie("input without a name isn't valid: ",dump($input));                  my $input_name = $input->{name} || $log->logdie("input without a name isn't valid: ",dump($input));
373    
374                    if ( $input->{skip} ) {
375                            $log->info("skip $input_name");
376                            next;
377                    }
378    
379                  next if ($only_input && ($input_name !~ m#$only_input#i && $input->{type} !~ m#$only_input#i));                  next if ($only_input && ($input_name !~ m#$only_input#i && $input->{type} !~ m#$only_input#i));
380    
381                  my $type = lc($input->{type});                  my $type = lc($input->{type});
# Line 382  foreach my $database ( sort keys %{ $con Line 405  foreach my $database ( sort keys %{ $con
405    
406                  my $input_db = new WebPAC::Input(                  my $input_db = new WebPAC::Input(
407                          module => $input_module,                          module => $input_module,
                         encoding => $config->webpac('webpac_encoding'),  
408                          limit => $limit || $input->{limit},                          limit => $limit || $input->{limit},
409                          offset => $offset,                          offset => $offset,
410                          recode => $input->{recode},                          recode => $input->{recode},
# Line 427  foreach my $database ( sort keys %{ $con Line 449  foreach my $database ( sort keys %{ $con
449    
450                  my $maxmfn = $input_db->open(                  my $maxmfn = $input_db->open(
451                          path => $input->{path},                          path => $input->{path},
452                          code_page => $input->{encoding},        # database encoding                          input_encoding => $input->{encoding},   # database encoding
453                          lookup_coderef => $lookup_coderef,                          lookup_coderef => $lookup_coderef,
454                          lookup => $lookup_jar,                          lookup => $lookup_jar,
455                          %{ $input },                          %{ $input },
# Line 651  foreach my $database ( sort keys %{ $con Line 673  foreach my $database ( sort keys %{ $con
673                  close($report_fh) if ($report_fh);                  close($report_fh) if ($report_fh);
674          }          }
675    
676          eval { $indexer->finish } if ($indexer && $indexer->can('finish'));          $indexer->finish if $indexer && $indexer->can('finish');
677    
678          foreach my $out ( @output_modules ) {          foreach my $out ( @output_modules ) {
679                  $out->finish if $out->can('finish');                  $out->finish if $out->can('finish');
Legend:
Removed from v.1084  
changed lines
  Added in v.1160
  ViewVC Help
Powered by ViewVC 1.1.26