/[Search-Estraier]/trunk/Estraier.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/Estraier.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 15 by dpavlin, Wed Jan 4 22:24:57 2006 UTC revision 39 by dpavlin, Thu Jan 5 22:36:10 2006 UTC
# Line 306  sub delete { Line 306  sub delete {
306    
307  package Search::Estraier::Condition;  package Search::Estraier::Condition;
308    
309    use Carp qw/confess croak/;
310    
311  use Search::Estraier;  use Search::Estraier;
312  our @ISA = qw/Search::Estraier/;  our @ISA = qw/Search::Estraier/;
313    
314    =head1 Search::Estraier::Condition
315    
316    =head2 new
317    
318      my $cond = new Search::HyperEstraier::Condition;
319    
320    =cut
321    
322    sub new {
323            my $class = shift;
324            my $self = {};
325            bless($self, $class);
326    
327            $self->{max} = -1;
328            $self->{options} = 0;
329    
330            $self ? return $self : return undef;
331    }
332    
333    =head2 set_phrase
334    
335      $cond->set_phrase('search phrase');
336    
337    =cut
338    
339    sub set_phrase {
340            my $self = shift;
341            $self->{phrase} = $self->_s( shift );
342    }
343    
344    =head2 add_attr
345    
346      $cond->add_attr('@URI STRINC /~dpavlin/');
347    
348    =cut
349    
350    sub add_attr {
351            my $self = shift;
352            my $attr = shift || return;
353            push @{ $self->{attrs} }, $self->_s( $attr );
354    }
355    
356    =head2 set_order
357    
358      $cond->set_order('@mdate NUMD');
359    
360    =cut
361    
362    sub set_order {
363            my $self = shift;
364            $self->{order} = shift;
365    }
366    
367    =head2 set_max
368    
369      $cond->set_max(42);
370    
371    =cut
372    
373    sub set_max {
374            my $self = shift;
375            my $max = shift;
376            croak "set_max needs number" unless ($max =~ m/^\d+$/);
377            $self->{max} = $max;
378    }
379    
380    =head2 set_options
381    
382      $cond->set_options( SURE => 1 );
383    
384    =cut
385    
386  my $options = {  my $options = {
387          # check N-gram keys skipping by three          # check N-gram keys skipping by three
388          SURE => 1 << 0,          SURE => 1 << 0,
# Line 324  my $options = { Line 398  my $options = {
398          SIMPLE => 1 << 10,          SIMPLE => 1 << 10,
399  };  };
400    
401  =head1 Search::Estraier::Condition  sub set_options {
402            my $self = shift;
403            my $option = shift;
404            confess "unknown option" unless ($options->{$option});
405            $self->{options} ||= $options->{$option};
406    }
407    
408    =head2 phrase
409    
410    Return search phrase.
411    
412      print $cond->phrase;
413    
414    =cut
415    
416    sub phrase {
417            my $self = shift;
418            return $self->{phrase};
419    }
420    
421    =head2 order
422    
423    Return search result order.
424    
425      print $cond->order;
426    
427    =cut
428    
429    sub order {
430            my $self = shift;
431            return $self->{order};
432    }
433    
434    =head2 attrs
435    
436    Return search result attrs.
437    
438      my @cond_attrs = $cond->attrs;
439    
440    =cut
441    
442    sub attrs {
443            my $self = shift;
444            #croak "attrs return array, not scalar" if (! wantarray);
445            return @{ $self->{attrs} };
446    }
447    
448    =head2 max
449    
450    Return maximum number of results.
451    
452      print $cond->max;
453    
454    C<-1> is returned for unitialized value, C<0> is unlimited.
455    
456    =cut
457    
458    sub max {
459            my $self = shift;
460            return $self->{max};
461    }
462    
463    =head2 options
464    
465    Return options for this condition.
466    
467      print $cond->options;
468    
469    Options are returned in numerical form.
470    
471    =cut
472    
473    sub options {
474            my $self = shift;
475            return $self->{options};
476    }
477    
478    
479    package Search::Estraier::ResultDocument;
480    
481    use Carp qw/croak/;
482    
483    #use Search::Estraier;
484    #our @ISA = qw/Search::Estraier/;
485    
486    =head1 Search::Estraier::ResultDocument
487    
488  =head2 new  =head2 new
489    
490    my $cond = new Search::HyperEstraier::Condition;    my $rdoc = new Search::HyperEstraier::ResultDocument(
491            uri => 'http://localhost/document/uri/42',
492            attrs => {
493                    foo => 1,
494                    bar => 2,
495            },
496            snippet => 'this is a text of snippet'
497            keywords => 'this\tare\tkeywords'
498      );
499    
500  =cut  =cut
501    
502  sub new {  sub new {
503          my $class = shift;          my $class = shift;
504          my $self = {};          my $self = {@_};
505          bless($self, $class);          bless($self, $class);
506    
507            foreach my $f (qw/uri attrs snippet keywords/) {
508                    croak "missing $f for ResultDocument" unless defined($self->{$f});
509            }
510    
511          $self ? return $self : return undef;          $self ? return $self : return undef;
512  }  }
513    
514    =head2 uri
515    
516  package Search::Estraier::Master;  Return URI of result document
517    
518  use Carp;    print $rdoc->uri;
519    
520    =cut
521    
522    sub uri {
523            my $self = shift;
524            return $self->{uri};
525    }
526    
 =head1 Search::Estraier::Master  
527    
528  Controll node master. This requires user with administration priviledges.  =head2 attr_names
529    
530    Returns array with attribute names from result document object.
531    
532      my @attrs = $rdoc->attr_names;
533    
534  =cut  =cut
535    
536  {  sub attr_names {
537          package RequestAgent;          my $self = shift;
538          our @ISA = qw(LWP::UserAgent);          croak "attr_names return array, not scalar" if (! wantarray);
539            return sort keys %{ $self->{attrs} };
540    }
541    
542          sub new {  =head2 attr
                 my $self = LWP::UserAgent::new(@_);  
                 $self->agent("Search-Estraier/$Search::Estraer::VERSION");  
                 $self;  
         }  
543    
544          sub get_basic_credentials {  Returns value of an attribute.
545                  my($self, $realm, $uri) = @_;  
546  #               return ($user, $password);    my $value = $rdoc->attr( 'attribute' );
547          }  
548    =cut
549    
550    sub attr {
551            my $self = shift;
552            my $name = shift || return;
553            return $self->{attrs}->{ $name };
554  }  }
555    
556    =head2 snippet
557    
558    Return snippet from result document
559    
560  =head2 new    print $rdoc->snippet;
561    
562  Create new connection to node master.  =cut
563    
564    sub snippet {
565            my $self = shift;
566            return $self->{snippet};
567    }
568    
569    =head2 keywords
570    
571    my $master = new Search::Estraier::Master(  Return keywords from result document
572          url => 'http://localhost:1978',  
573          user => 'admin',    print $rdoc->keywords;
574          passwd => 'admin',  
575    =cut
576    
577    sub keywords {
578            my $self = shift;
579            return $self->{keywords};
580    }
581    
582    
583    package Search::Estraier::NodeResult;
584    
585    use Carp qw/croak/;
586    
587    #use Search::Estraier;
588    #our @ISA = qw/Search::Estraier/;
589    
590    =head1 Search::Estraier::NodeResult
591    
592    =head2 new
593    
594      my $res = new Search::HyperEstraier::NodeResult(
595            docs => @array_of_rdocs,
596            hits => %hash_with_hints,
597    );    );
598    
599  =cut  =cut
# Line 386  sub new { Line 603  sub new {
603          my $self = {@_};          my $self = {@_};
604          bless($self, $class);          bless($self, $class);
605    
606          foreach my $p (qw/url user passwd/) {          foreach my $f (qw/docs hints/) {
607                  croak "need $p" unless ($self->{$p});                  croak "missing $f for ResultDocument" unless defined($self->{$f});
608            }
609    
610            $self ? return $self : return undef;
611    }
612    
613    =head2 doc_num
614    
615    Return number of documents
616    
617      print $res->doc_num;
618    
619    =cut
620    
621    sub doc_num {
622            my $self = shift;
623            return $#{$self->{docs}};
624    }
625    
626    =head2 get_doc
627    
628    Return single document
629    
630      my $doc = $res->get_doc( 42 );
631    
632    Returns undef if document doesn't exist.
633    
634    =cut
635    
636    sub get_doc {
637            my $self = shift;
638            my $num = shift;
639            croak "expect number as argument" unless ($num =~ m/^\d+$/);
640            return undef if ($num < 0 || $num > $self->{docs});
641            return $self->{docs}->[$num];
642    }
643    
644    =head2 hint
645    
646    Return specific hint from results.
647    
648      print $rec->hint( 'VERSION' );
649    
650    Possible hints are: C<VERSION>, C<NODE>, C<HIT>, C<HINT#n>, C<DOCNUM>, C<WORDNUM>,
651    C<TIME>, C<LINK#n>, C<VIEW>.
652    
653    =cut
654    
655    sub hint {
656            my $self = shift;
657            my $key = shift || return;
658            return $self->{hints}->{$key};
659    }
660    
661    
662    package Search::Estraier::Node;
663    
664    use Carp qw/carp croak/;
665    use URI;
666    use MIME::Base64;
667    use IO::Socket::INET;
668    
669    =head1 Search::Estraier::Node
670    
671    =head2 new
672    
673      my $node = new Search::HyperEstraier::Node;
674    
675    =cut
676    
677    sub new {
678            my $class = shift;
679            my $self = {
680                    pxport => -1,
681                    timeout => 0,   # this used to be -1
682                    dnum => -1,
683                    wnum => -1,
684                    size => -1.0,
685                    wwidth => 480,
686                    hwidth => 96,
687                    awidth => 96,
688                    status => -1,
689            };
690            bless($self, $class);
691    
692            if (@_) {
693                    $self->{debug} = 1;
694                    warn "## Node debug on\n";
695          }          }
696    
697          $self ? return $self : return undef;          $self ? return $self : return undef;
698  }  }
699    
700    =head2 set_url
701    
702    Specify URL to node server
703    
704      $node->set_url('http://localhost:1978');
705    
706    =cut
707    
708    sub set_url {
709            my $self = shift;
710            $self->{url} = shift;
711    }
712    
713    =head2 set_proxy
714    
715    Specify proxy server to connect to node server
716    
717      $node->set_proxy('proxy.example.com', 8080);
718    
719    =cut
720    
721    sub set_proxy {
722            my $self = shift;
723            my ($host,$port) = @_;
724            croak "proxy port must be number" unless ($port =~ m/^\d+$/);
725            $self->{pxhost} = $host;
726            $self->{pxport} = $port;
727    }
728    
729    =head2 set_timeout
730    
731    Specify timeout of connection in seconds
732    
733      $node->set_timeout( 15 );
734    
735    =cut
736    
737    sub set_timeout {
738            my $self = shift;
739            my $sec = shift;
740            croak "timeout must be number" unless ($sec =~ m/^\d+$/);
741            $self->{timeout} = $sec;
742    }
743    
744    =head2 set_auth
745    
746    Specify name and password for authentication to node server.
747    
748      $node->set_auth('clint','eastwood');
749    
750    =cut
751    
752    sub set_auth {
753            my $self = shift;
754            my ($login,$passwd) = @_;
755            $self->{auth} = encode_base64( "$login:$passwd" );
756    }
757    
758    =head2 status
759    
760    Return status code of last request.
761    
762      print $res->status;
763    
764    C<-1> means connection failure.
765    
766    =cut
767    
768    sub status {
769            my $self = shift;
770            return $self->{status};
771    }
772    
773    =head2 shuttle_url
774    
775    This is method which uses C<IO::Socket::INET> to communicate with Hyper Estraier node
776    master.
777    
778      my $rv = shuttle_url( $url, $content_type, \$req_body, \$resbody );
779    
780    C<$resheads> and C<$resbody> booleans controll if response headers and/or response
781    body will be saved within object.
782    
783    =cut
784    
785    sub shuttle_url {
786            my $self = shift;
787    
788            my ($url, $content_type, $reqbody, $resbody) = @_;
789    
790            my $status = -1;
791    
792            warn "## $url\n";
793    
794            $url = new URI($url);
795            if (
796                            !$url || !$url->scheme || !$url->scheme eq 'http' ||
797                            !$url->host || !$url->port || $url->port < 1
798                    ) {
799                    carp "can't parse $url\n";
800                    return -1;
801            }
802    
803            my ($host,$port,$query) = ($url->host, $url->port, $url->path);
804    
805            if ($self->{pxhost}) {
806                    ($host,$port) = ($self->{pxhost}, $self->{pxport});
807                    $query = "http://$host:$port/$query";
808            }
809    
810            $query .= '?' . $url->query if ($url->query && ! $reqbody);
811    
812            my $headers;
813    
814            if ($reqbody) {
815                    $headers .= "POST $query HTTP/1.0\r\n";
816            } else {
817                    $headers .= "GET $query HTTP/1.0\r\n";
818            }
819    
820            $headers .= "Host: $url->host:$url->port\r\n";
821            $headers .= "Connection: close\r\n";
822            $headers .= "User-Agent: Search-Estraier/$Search::Estraier::VERSION\r\n";
823            $headers .= "Content-Type $content_type\r\n";
824            $headers .= "Authorization: Basic $self->{auth}\r\n";
825            my $len = 0;
826            {
827                    use bytes;
828                    $len = length($reqbody) if ($reqbody);
829            }
830            $headers .= "Content-Length: $len\r\n";
831            $headers .= "\r\n";
832    
833            my $sock = IO::Socket::INET->new(
834                    PeerAddr        => $host,
835                    PeerPort        => $port,
836                    Proto           => 'tcp',
837                    Timeout         => $self->{timeout} || 90,
838            );
839    
840            if (! $sock) {
841                    carp "can't open socket to $host:$port";
842                    return -1;
843            }
844    
845            warn "## headers:\n$headers\n" if ($self->{debug});
846    
847            print $sock $headers or
848                    carp "can't send headers to network:\n$headers\n" and return -1;
849    
850            if ($reqbody) {
851                    warn "## request body:\n$headers\n" if ($self->{debug});
852                    print $sock $$reqbody or
853                            carp "can't send request body to network:\n$$reqbody\n" and return -1;
854            }
855    
856            my $line = <$sock>;
857            chomp($line);
858            my ($schema, $res_status, undef) = split(/  */, $line, 3);
859            return if ($schema !~ /^HTTP/ || ! $res_status);
860    
861            $status = $res_status;
862            warn "## response status: $res_status\n" if ($self->{debug});
863    
864            # skip rest of headers
865            $line = <$sock>;
866            while ($line) {
867                    $line = <$sock>;
868                    $line =~ s/[\r\n]+$//;
869                    warn "## ", $line || 'NULL', " ##\n";
870            };
871    
872            # read body
873            $len = 0;
874            do {
875                    $len = read($sock, my $buf, 8192);
876                    $$resbody .= $buf if ($resbody);
877            } while ($len);
878    
879            
880            warn "## response body:\n$$resbody\n" if ($self->{debug});
881    
882            return $status;
883    }
884    
885  ###  ###
886    

Legend:
Removed from v.15  
changed lines
  Added in v.39

  ViewVC Help
Powered by ViewVC 1.1.26