/[stem-hr]/StemHR.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /StemHR.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

stem-hr.pl revision 9 by dpavlin, Sat Feb 26 18:54:49 2005 UTC stem-hr.pm revision 14 by dpavlin, Thu Jun 28 10:33:37 2007 UTC
# Line 1  Line 1 
1  #!/usr/bin/perl -w  package StemHr;
2    
3  #  #
4  # Croatian stemmer  # Croatian stemmer
5  #  #
# Line 19  Line 20 
20  #  #
21    
22  use strict;  use strict;
23    use locale;
24    
25    use Memoize;
26    #memoize('stem');
27    
28  sub kgh {  sub kgh {
29          my ($pre,$replace,$post) = @_;          my ($pre,$replace,$post) = @_;
# Line 43  my $g_4r = '[kgh]'; Line 48  my $g_4r = '[kgh]';
48  my $g_5r = '[nm]';  my $g_5r = '[nm]';
49  my $g_6r = '(:?nu|n)';  my $g_6r = '(:?nu|n)';
50    
51  my %rules;  sub stem {
 my %stem_words;  
 my $words = 0;  
 my $stems = 0;  
   
   
 my $last_stem = '';  
 my $errors = 0;  
 sub check_stem {  
         my $s = shift || return;  
         if ($last_stem) {  
                 if ($last_stem ne $s) {  
                         print "ERROR==> ";  
                         $errors++;  
                 }  
         } else {  
                 $last_stem = $s;  
         }  
 }  
   
 while(<>) {  
         chomp;  
         next if (/^#/);  
         if (/^$/) {  
                 print "\n";  
                 $last_stem = '';  
                 next;  
         }  
   
         $words++;  
   
         my $orig = $_;  
52    
53            my $w = shift || return;
54    
55          unless (          unless (
56                  # infinitiv                  # infinitiv
57                  s/(\w)(ti|ći)$/$1.$2 100/g ||                  $w =~ s/(\w)(ti|ći)$/$1.$2 100/g ||
58                  # 1. razred                  # 1. razred
59                  s/([^sk])[td](em|eš|e|emo|ete|oh|osmo|oste|oše|ijah|ijaše|ijasno|ijaste|ijahu|imo|ite|en|ena|eni)$/$1s.ti 101/g ||                  $w =~ s/([^sk])[td](em|eš|e|emo|ete|oh|osmo|oste|oše|ijah|ijaše|ijasno|ijaste|ijahu|imo|ite|en|ena|eni)$/$1s.ti 101/g ||
60                  # 2. razred                  # 2. razred
61                  s/(${sa})[sz](em|eš|e|ešemo|emo|ete|u|oh|e|osmo|oste|oše|ijah|ijaše|ijasmo|ijaste|ijahu|imo|ite|ući|avši|ao|la|lo|li|le|la|en|ena|eni)$/$1s.ti 102/ ||                  $w =~ s/(${sa})[sz](em|eš|e|ešemo|emo|ete|u|oh|e|osmo|oste|oše|ijah|ijaše|ijasmo|ijaste|ijahu|imo|ite|ući|avši|ao|la|lo|li|le|la|en|ena|eni)$/$1s.ti 102/ ||
62                  # 3. razdred                  # 3. razred
63                  s/(p|b|sp|su)(em|eš|e|emo|ete|u|oh|osmo|oste|oše|ah|aše|asmo|aste|ahu|ijah|ijaše|i|imo|ite||ući|avši|ao|la|lo|en|ena|eni)$/$1s.ti 103/ ||                  $w =~ s/(p|b|sp|su)(em|eš|e|emo|ete|u|oh|osmo|oste|oše|ah|aše|asmo|aste|ahu|ijah|ijaše|ijahu|i|imo|ite||ući|avši|ao|la|lo|en|ena|eni)$/$1s.ti 103/ ||
64                    # 4. razred
65                    $w =~ s/[čžš](em|eš|e|emo|ete|u|ah|ahu|en|ena)$/.ći 104/g ||
66                    $w =~ s/[k](oh|osmo|oste|oše|ući|avši|ao|la|lo)$/.ći 105/g ||
67                    $w =~ s/[c](ijah|ijaše|ijasmo|ijaste|ijahu|i|imo|ite)$/.ći 106/g ||
68                    $w =~ s/[g](nuti|oh|nuh|nu|avši|nuvši|ao|nuo|nem|neš|ni|imo|nut|nimo)$/.ći 107/g ||
69    
70                  # imenice                  # imenice
71    
72                  # vrsta a                  # vrsta a
73                  s/(${su}st)a$/$1 13/g ||                  $w =~ s/(${su}st)a$/$1 13/g ||
74                  s/(${su})c[ae]$/$1ce 17/g ||                  $w =~ s/(${su})c[ae]$/$1ce 17/g ||
75                  # kgh                  # kgh
76                  s/(\w${sa})([čžšczs])(i|e|ima)$/kgh($1,$2,' 1')/gex ||                  $w =~ s/(\w${sa})([čžšczs])(i|e|ima)$/kgh($1,$2,' 1')/gex ||
77                  s/(${sa}[kgh])(a|u|om)$/$1 2/g ||                  $w =~ s/(${sa}[kgh])(a|u|om)$/$1 2/g ||
78                  s/(${su})([čžšczs])(i|e|ima)$/kgh($1,"a$2",' 3')/gex ||                  $w =~ s/(${su})([čžšczs])(i|e|ima)$/kgh($1,"a$2",' 3')/gex ||
79                  # imenice na palatal                  # imenice na palatal
80                  s/${palatal}${palatal}(a|u|em|i|ima|e)$/$1a$2 9/g ||                  $w =~ s/${palatal}${palatal}(a|u|em|i|ima|e)$/$1a$2 9/g ||
81                  s/${palatal}(a|u|em)$/$1 8/g ||                  $w =~ s/${palatal}(a|u|em)$/$1 8/g ||
82                  # nepostojano a                  # nepostojano a
83                  s/(${su}a{$su})a/$1 4/g ||                  $w =~ s/(${su}a{$su})a/$1 4/g ||
84                  s/(${su})(${su})(a|u|i|e|om|ima)$/$1a$2 5/g                  $w =~ s/(${su})(${su})(a|u|i|e|om|ima)$/$1a$2 5/g
85          ) {          ) {
86    
87                  # vrsta a                  # vrsta a
88                  s/me$/me 11/g ||                  $w =~ s/me$/me 11/g ||
89                  s/(eta|ena)$/e 12/g ||                  $w =~ s/(eta|ena)$/e 12/g ||
90    
91                  s/(\w${sa}${su})(o|e|a|u|om|em|i|ima|ina|eta)$/$1 7/g ||                  $w =~ s/(\w${sa}${su})(o|e|a|u|om|em|i|ima|ina|eta)$/$1 7/g ||
92    
93                  s/(${su})sa$/$1as 14/g ||                  $w =~ s/(${su})sa$/$1as 14/g ||
94                  s/(${su})ena$/$1e 16/g ||                  $w =~ s/(${su})ena$/$1e 16/g ||
95                  s/(${su})eta$/$1e 17/g ||                  $w =~ s/(${su})eta$/$1e 17/g ||
96                  s/(${su})([oe])$/$1$2 18/g ||                  $w =~ s/(${su})([oe])$/$1$2 18/g ||
97    
98                  0;                  0;
99    
100          }          }
101    
102          if (s/^(.+)\s(\d+)$/$1\t$2/g) {          # makni broj pravila
103                  $rules{$2}++;          $w =~ s/\s\d+$//;
104                  $stems++;          # makni točku koja označava korjen riječi
105                  $stem_words{$1}++;          $w =~ s/\.//g;
                 check_stem($1);  
         } else  {  
                 $last_stem = $_;  
         }  
   
         printf("%-15s %s\n",$orig,$_);  
106    
107            return $w;
108  }  }
 my $nr_stems = keys(%stem_words);  
 printf "\n# %d words, %d stems in %d ops, %.2f%% size [%d errors]\n",$words,$nr_stems,$stems,($nr_stems*100/$words),$errors;  
109    
 foreach my $s (keys %stem_words) {  
         print "#stem $stem_words{$s} $s\n";  
 }  
   
 foreach my $r (sort keys %rules) {  
         print "#rule $rules{$r} $r\n";  
 }  
Legend:
Removed from v.9  
changed lines
  Added in v.14
  ViewVC Help
Powered by ViewVC 1.1.26