/[Sack]/trunk/lib/Sack/Server.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/lib/Sack/Server.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/experiments/protocol-v3/server.pl revision 169 by dpavlin, Mon Nov 2 16:09:40 2009 UTC trunk/lib/Sack/Server.pm revision 245 by dpavlin, Thu Nov 26 19:02:01 2009 UTC
# Line 1  Line 1 
1  #!/usr/bin/perl  #!/usr/bin/perl
2    
3    package Sack::Server;
4    
5  use warnings;  use warnings;
6  use strict;  use strict;
7    
8    my $debug = 0;
9    
10  use IO::Socket::INET;  use IO::Socket::INET;
11  use IO::Select;  use IO::Select;
12    
13  use Data::Dump qw(dump);  use Data::Dump qw(dump);
14  use Storable qw();  use Storable qw();
15  use File::Slurp;  use File::Slurp;
16    use Cwd qw(abs_path);
17    
18  my @cloud = qw(localhost tab.lan llin.lan);  use lib '/srv/Sack/lib';
19    use Sack::Merge;
20  my $cloud_path = '/srv/Sack/etc/lib';  use Sack::Server::HTTP;
21    use Sack::Server::HTML;
22    use Sack::Server::Gnuplot;
23    
24    my @cloud;
25    my $cloud_path = $ENV{CLOUD} || "etc/cloud";
26    die "start with: CLOUD=etc/cloud perl -I/srv/Sack/lib $0\n" unless -e $cloud_path;
27  @cloud = read_file $cloud_path;  @cloud = read_file $cloud_path;
28  @cloud = map { chomp $_; $_ } @cloud;  @cloud = map { chomp $_; $_ } @cloud;
29    
30  warn "# cloud ",dump( @cloud );  warn "# cloud ",dump( @cloud );
31    
32  my $listen_port = 4444;  my $listen_port = 4444;
33    my $http_port   = 4480;
34    
35  my $node_path = '/tmp/client.pl';  my $node_path = abs_path $0;
36    $node_path =~ s{Server}{Client};
37    
38  my $lsn = IO::Socket::INET->new(Listen => 1, LocalPort => $listen_port, Reuse => 1) or die $!;  my $lsn = IO::Socket::INET->new(Listen => 1, LocalPort => $listen_port, Reuse => 1) or die "$listen_port $!";
39    my $www = IO::Socket::INET->new(Listen => 1, LocalPort => $http_port,   Reuse => 1) or die "$http_port $!";
40  my $sel = IO::Select->new($lsn);  my $sel = IO::Select->new($lsn);
41    $sel->add( $www );
42    
43  my $info;  my $info;
44  sub info {  sub info {
45          my $port = shift;          my $port = shift;
46          push @{ $info->{$port} }, [ @_ ];          push @{ $info->{node}->{$port} }, [ @_ ];
47  }  }
48    
49  sub fork_node {  sub fork_ssh {
50          my ( $port, $host ) = @_;          my ( $port, $host ) = @_;
51    
52          if ( my $pid = fork ) {          if ( my $pid = fork ) {
# Line 53  sub fork_node { Line 68  sub fork_node {
68  my $node_port = 4000;  my $node_port = 4000;
69    
70  foreach my $host ( @cloud ) {  foreach my $host ( @cloud ) {
71          system "echo $node_path | cpio --create --dereference | ssh -T -F $cloud_path.ssh $host cpio --extract --make-directories --unconditional";          system "find /srv/Sack/ | cpio --create --dereference | ssh -T -F $cloud_path.ssh $host cpio --extract --make-directories --unconditional";
72          fork_node( $node_port++, $host );          fork_ssh( $node_port++, $host );
73  }  }
74    
75  my $session;  my $session;
76    
77    sub to_all {
78            my $data = shift;
79            foreach my $port ( keys %{ $session->{port} } ) {
80                    warn ">>>> [$port]\n" if $debug;
81                    Storable::store_fd( $data, $session->{port}->{$port} );
82            }
83    }
84    
85    our @shard_load_queue;
86    sub load_shard {
87            my $shard = shift @_ || return;
88    
89            warn "# load_shard $shard\n";
90    
91            my @shards = glob "$shard/*";
92    
93            if ( ! @shards ) {
94                    warn "no shards for $shard\n";
95                    return;
96            }
97    
98            $info->{shard}->{$_} = 'wait' foreach @shards;
99            warn "loading shard $shard from ", dump( @shards );
100    
101            push @shard_load_queue, @shards;
102            to_all { load => $shard };
103    }
104    
105    sub run_view {
106            my ( $path ) = @_;
107            if ( ! -r $path ) {
108                    warn "ERROR view $path: $!";
109                    return;
110            }
111            my $code = read_file $path;
112            Sack::Merge->clean;
113            delete( $info->{view} );
114            delete( $info->{merge} );
115            to_all { code => $code, view => $path };
116    };
117    
118  while (1) {  while (1) {
119          for my $sock ($sel->can_read(1)) {          for my $sock ($sel->can_read(1)) {
120                  if ($sock == $lsn) {                  if ($sock == $lsn) {
121                          my $new = $lsn->accept;                          my $new = $lsn->accept;
122                          $sel->add($new);                          $sel->add($new);
123                          $session->{$new} = $new->peerport;                          $session->{peerport}->{ $new->peerport } = $new;
124                          warn "[socket] connect\n";                          warn "[socket] connect\n";
125                          Storable::store_fd( { ping => 1 }, $new );                          Storable::store_fd( { ping => 1 }, $new );
126                          info 0 => 'ping', $new->peerport;                  } elsif ( $sock == $www ) {
127                            my $client = $www->accept;
128                            Sack::Server::HTTP::request( $client, sub {
129                                    my ( $send, $method, $param ) = @_;
130    
131                                    if ( $method =~ m{views} ) {
132                                            run_view $method;
133                                            print $send "HTTP/1.0 302 $method\r\nLocation: /\r\n\r\n";
134                                            return 1;
135                                    } elsif ( $method =~ m{^/tmp/sack} ) {
136                                            load_shard $method;
137                                            print $send "HTTP/1.0 302 $method\r\nLocation: /\r\n\r\n";
138                                            return 1;
139                                    } elsif ( $method =~ m{^/out/(.+)} ) {
140                                            print $send "HTTP/1.0 200 OK\r\nContent-Type: text/html\r\n\r\n";
141                                            Sack::Server::HTML::send_out( $send, Sack::Merge->out, $1, $param );
142                                            return 1;
143                                    } elsif ( $method =~ m{^/gnuplot} ) {
144                                            eval {
145                                                    my $path = Sack::Server::Gnuplot::date( Sack::Merge->out, $param );
146                                                    if ( -e $path ) {
147                                                            print $send "HTTP/1.0 200 OK\r\nContent-Type: image/png\r\n\r\n";
148                                                            open(my $fh, '<', $path) || die $path;
149                                                            my $b;
150                                                            while ( read($fh, $b, 4096) ) {
151                                                                    print $send $b;
152                                                            }
153                                                            return 1;
154                                                    } else {
155                                                            print $send "HTTP/1.0 404 no graph\r\n\r\n";
156                                                            return 1;
157                                                    }
158                                            };
159                                            warn "ERROR: $@" if $@;
160                                    }
161    
162                                    print $send "HTTP/1.0 200 OK\r\nContent-Type: text/html\r\n\r\n";
163    
164                                    print $send qq|
165    
166    <style type="text/css">
167    
168    .running {
169            color: #f00;
170    }
171    
172    
173    .forked {
174            color: #f00;
175    }
176    
177    .ping {
178            color: #0f0;
179    }
180    
181    .shards {
182            font-family: monospace;
183            line-height: 0.8em;
184            color: #0f0;
185    }
186    
187    .send {
188            color: #ff0;
189    }
190    
191    .wait {
192            color: #f00;
193    }
194    
195    
196    </style>
197    
198    |;
199    
200                                    print $send qq|<h1>Views</h1><ul>|
201                                            , join("\n", map {
202                                                    my $view = $_;
203                                                    my $html = '';
204                                                    if ( my $s = $info->{view}->{$view} ) {
205                                                            my @nodes = sort keys %$s;
206                                                            my $total = 0;
207                                                            $html .= qq|<table><tr><th>node</th><th>rows</th><th>shards</th><th>&sum;</th><th>merge</th></tr>|;
208                                                            foreach my $node ( @nodes ) {
209                                                                    my $h = '';
210                                                                    my $shard = 0;
211                                                                    foreach my $path ( sort keys %{ $s->{$node} } ) {
212                                                                            my $affected = $s->{$node}->{$path};
213                                                                            my $n = '?';
214                                                                            $n = $1 if $path =~ m{/(\w)\w+/\d+};
215                                                                            my $class = $affected == 0 ? 'style="color: #888"' : '';
216                                                                            $h .= qq|<tt title="$affected $path"$class>$n</tt>|;
217                                                                            $shard += $affected;
218                                                                            $total += $affected;
219                                                                    }
220                                                                    my $merge = $info->{merge}->{$view}->{$node};
221                                                                    $html .= qq|<tr><td><tt>$node</tt></td><td>$shard</td><td>$h</td><td>$total</td><td>$merge</td></tr>\n|;
222                                                            }
223    
224                                                            $html .= qq|</table>|;
225                                                    };
226                                                    qq|<li><a href="$view">$view</a>$html|
227                                            } glob '/srv/Sack/views/*/*.pl' )
228                                            , qq|</ul>|
229                                            ;
230    
231                                    my $out = Sack::Merge->out;    
232                                    if ( my $li = join("\n", map { qq|<li><a href="/out/$_" target="$_">$_</a>| } keys %$out ) ) {
233                                            print $send qq|<h1>Results</h1><ul>$li</ul><img src="/gnuplot/">\n|;
234                                    }
235    
236                                    print $send qq|<h1>Nodes</h1>
237                                    |, join("\n", map {
238                                            my $class = join(' ', map { $_->[0] } @{ $info->{node}->{$_} });
239                                            qq|<span class="$class">$_</span>|;
240                                    } sort keys %{ $info->{node} } );
241    
242                                    print $send qq|<h1>Data</h1><ul>|;
243                                    foreach my $path ( glob '/tmp/sack/*' ) {
244                                            print $send qq|<li><a href="$path">$path</a><div class="shards">|;
245                                            foreach my $s ( sort grep { m/$path/ } keys %{ $info->{shard} } ) {
246                                                    my $i = $info->{shard}->{$s};
247                                                    print $send qq|<span class=$i>$i</span> |;
248                                            }
249                                            print $send qq|</div>|;
250                                    }
251                                    print $send qq|</ul>|;
252    
253                                    if ( $param->{info} ) {
254                                            print $send qq|<a href="?info=0">hide info</a>|;
255                                            print $send '<pre>', dump($info), '</pre>'
256                                    } else {
257                                            print $send qq|<a href="?info=1">show info</a>|;
258                                    }
259                                    return 1;
260                            } );
261                  } else {                  } else {
262                          my $data = eval { Storable::fd_retrieve( $sock ) };                          my $data = eval { Storable::fd_retrieve( $sock ) };
263                          if ( $@ ) {                          if ( $@ ) {
# Line 76  while (1) { Line 266  while (1) {
266                                  $sel->remove($sock);                                  $sel->remove($sock);
267                                  $sock->close;                                  $sock->close;
268                          } else {                          } else {
269                                  warn "<<<< ", dump($data), $/;                                  warn "<<<< ", dump($data), $/ if $debug;
270                                  if ( $data->{repl} ) {  
271                                          my $response = { repl => $$, info => $info };                                  if ( my $path = $data->{shard} ) {
272                                            $info->{shard}->{ $path } = $data->{port};
273                                            # FIXME will need push for multiple copies of shards
274                                    }
275    
276                                    if ( my $repl = $data->{repl} ) {
277                                            my $response = { repl_pid => $$ };
278                                            if ( $repl =~ m/ping/ ) {
279                                                    to_all { ping => 1 };
280                                            } elsif ( $repl =~ m/info/ ) {
281                                                    $response->{info} = $info;
282                                            } elsif ( $repl =~ m{load\s*(\S+)?} ) {
283                                                    load_shard $1;
284                                            } elsif ( $repl =~ m{view\s*(\S+)?} ) {
285                                                    run_view $1;
286                                            } elsif ( $repl =~ m{debug\s*(.+)?} ) {
287                                                    to_all { debug => $1 };
288                                            } elsif ( $repl =~ m{out} ) {
289                                                    my $out = Sack::Merge->out;    
290                                                    warn "out ",dump( $out );
291                                                    $response->{out} = $out;
292                                            } elsif ( $repl =~ m{clean} ) {
293                                                    delete $info->{shard};
294                                                    to_all { clean => 1 };
295                                            } elsif ( $repl eq 'exit' ) {
296                                                    to_all { exit => 1 };
297                                                    sleep 1;
298                                                    exit;
299                                            } else {
300                                                    $response->{error}->{unknown} = $data;
301                                            }
302                                          Storable::store_fd( $response, $sock );                                          Storable::store_fd( $response, $sock );
303                                  } elsif ( $data->{ping} ) {                                  } elsif ( $data->{ping} ) {
304                                          $info->{_peer_port}->{$sock->peerport} = $data->{port};                                          my $port = $data->{port};
305                                          info $data->{port} => 'peer port', $sock->peerport;                                          info $port => 'ping', $port;
306                                            $session->{port}->{ $data->{port} } = $sock;
307                                    } elsif ( defined $data->{load} && $data->{load} eq 'shard' ) {
308                                            if ( my $path = shift @shard_load_queue ) {
309                                                    $info->{shard}->{$path} = 'read';
310                                                    my $shard = Storable::retrieve $path;
311                                                    $info->{shard}->{$path} = 'send';
312                                                    warn ">>>> [", $data->{port}, "] sending shard $path\n";
313                                                    Storable::store_fd( { path => $path, shard => $shard }, $sock );
314                                            } else {
315                                                    warn "no more shards for [", $data->{port}, "]\n";
316                                            }
317                                    } elsif ( exists $data->{out} ) {
318                                            my $added = Sack::Merge->add( $data->{out} ) if defined $data->{out};
319                                            $info->{merge}->{ $data->{view} }->{ $data->{port} } = $added;
320                                            $info->{view }->{ $data->{view} }->{ $data->{port} } = $data->{on_shard};
321                                    } else {
322                                            warn "UNKNOWN ",dump($data);
323                                  }                                  }
324                          }                          }
325                  }                  }
Legend:
Removed from v.169  
changed lines
  Added in v.245
  ViewVC Help
Powered by ViewVC 1.1.26