/[socialtext-import]/tamtam/tamtam2socialtext.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /tamtam/tamtam2socialtext.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 12 by dpavlin, Wed Dec 12 14:10:37 2007 UTC revision 20 by dpavlin, Thu Dec 13 11:38:36 2007 UTC
# Line 9  use Regexp::Common qw/balanced/; Line 9  use Regexp::Common qw/balanced/;
9  use Socialtext::Resting;  use Socialtext::Resting;
10  use Encode;  use Encode;
11  use HTTP::Date;  use HTTP::Date;
12    use POSIX qw/strftime/;
13    use File::Slurp;
14    use File::MMagic::XS;
15  use Data::Dump qw/dump/;  use Data::Dump qw/dump/;
16    
17    my $debug = 0;
18  my $max = 999;  my $max = 999;
19    
20  my $page;  my $page;
# Line 18  my $page_date; Line 22  my $page_date;
22    
23  my @page_names;  my @page_names;
24    
25    print "Collecting pages...\n";
26    
27  find({  find({
28          wanted => sub {          wanted => sub {
29                  my $path = $File::Find::name;                  my $path = $File::Find::name;
30                  return unless -f $path;                  return unless -f $path;
31    
32                  warn "# $path\n";                  warn "+ $path\n";
33                  my $ref = XMLin( $path ) || die "can't open $path: $!";                  my $ref = XMLin( $path,
34                            KeyAttr => {
35                                    'attachment' => '+name',
36                                    'meta' => 'name',
37                            },
38                            ForceArray => [ 'attachment', 'widget' ],
39                    ) || die "can't open $path: $!";
40    
41                    warn "## $path = ",dump( $ref ) if $debug;
42    
43                  my $name = $ref->{name} || die "no name in $path";                  my $name = $ref->{name} || die "no name in $path";
44    
45                  return if $name =~ m/^TamSystem/;                  return if $name =~ m/^TamSystem/;
46    
47                  my $date =  $ref->{meta}->{LastModified};                  my $date =  $ref->{meta}->{LastModified}->{value};
48                  if ( ! $date ) {                  if ( ! $date ) {
49                          warn "SKIP: no LastModified in $path $name";                          warn "SKIP: no LastModified in $path $name";
50                          return;                          return;
51                  }                  }
                 my $data =  
                         $ref->{widgets}->{widget}->{data} ||  
                         $ref->{widgets}->{widget}->{Body}->{data} ||  
                         die "no data in $path ",dump( $ref );  
52    
53                  $page->{ $name } = [ $data, $date ];                  my $data;
54    
55                    foreach my $w ( @{ $ref->{widgets}->{widget} } ) {
56    
57                            warn "## w = ",dump( $w ) if $debug;
58    
59                            $data .= "\n----\n" if $data;
60                            $data .= $w->{data} || die "no data?";
61                    }
62    
63                    my $attachments;
64    
65                    if ( my $a = $ref->{attachment} ) {
66                            foreach my $name ( keys %$a ) {
67                                    my $full_path = $path;
68                                    $full_path =~ s,pages/,attachments/,;
69                                    $full_path .= '.' . $name;
70                                    die "$full_path doesn't exist" unless -e $full_path;
71                                    push @$attachments, {
72                                            full_path => $full_path,
73                                            name => ( $name || $a->{$name}->{desc} || 'noname' ),
74                                    };
75                            }
76                    }
77    
78                    $page->{ $name } = {
79                            content => convert_markup( $data ),
80                            date => convert_date( $date ),
81                            attachments => $attachments,
82                    };
83    
                 # strip path from page name  
84                  $name =~ s,^.+/([^/]+)$,$1,;                  $name =~ s,^.+/([^/]+)$,$1,;
85                  push @page_names, $name;                  push @page_names, $name;
86    
                 #warn dump( $ref );  
87          },          },
88            no_chdir=>1,
89  }, shift @ARGV || '.');  }, shift @ARGV || '.');
90    
91  my @pages = ( keys %$page );  my @pages = ( keys %$page );
# Line 60  my $Rester = Socialtext::Resting->new( Line 98  my $Rester = Socialtext::Resting->new(
98          username => 'tamtam',          username => 'tamtam',
99          password => 'import',          password => 'import',
100          server   => 'http://saturn.ffzg.hr/',          server   => 'http://saturn.ffzg.hr/',
101            workspace => 'razmjenavjestina',
102  );  );
 $Rester->workspace('razmjenavjestina');  
103  $Rester->put_workspacetag('TamTam');  $Rester->put_workspacetag('TamTam');
104    
105    sub convert_date {
106            my $date = shift;
107    #       return time2str( $date );
108            return strftime('%F %T %z', gmtime( $date ));
109    }
110    
111  sub header {  sub header {
112          my $h = shift;          my $h = shift;
113          if ( $h =~ m/^(=+)\s+(.+?)\s+\1$/ ) {          if ( $h =~ m/^(=+)\s+(.+?)\s+\1$/ ) {
# Line 86  sub pre { Line 130  sub pre {
130          return '.pre' . $text . '.pre';          return '.pre' . $text . '.pre';
131  }  }
132    
133  my $count = 0;  sub convert_markup {
134            my $body = shift;
 foreach my $name ( keys %$page ) {  
         last if $count++ == $max;  
   
         my ( $body, $date ) = @{ $page->{$name} };  
         $date = time2str( $date );  
135    
136          $body =~ s/\Q[[TableOfContents]]\E/{toc}/gs;          $body =~ s/\Q[[TableOfContents]]\E/{toc}/gs;
137          $body =~ s/\Q[[BR]]\E/\n/gs;          $body =~ s/\Q[[BR]]\E/\n/gs;
# Line 109  foreach my $name ( keys %$page ) { Line 148  foreach my $name ( keys %$page ) {
148          $body =~ s/\["([^"]+)"\]/[$1]/gs;          $body =~ s/\["([^"]+)"\]/[$1]/gs;
149          $body =~ s,\[(http://\S+)\s+([^\]]+)\],"$2"<$1>,gs;          $body =~ s,\[(http://\S+)\s+([^\]]+)\],"$2"<$1>,gs;
150          $body =~ s,\[(http://[^\]]+)\],$1,gs;          $body =~ s,\[(http://[^\]]+)\],$1,gs;
         $body =~ s,$page_link_re,[$1],gs;  
151    
152          Encode::_utf8_off( $body );          # fix hr
153            $body =~ s,(\S+)----,$1\n----,gs;
154            $body =~ s,----(\S+),----\n$1,gs;
155    
156            # attachments
157            $body =~ s,\[attachment:([^\]]+)(gif|png|jpg|jpeg)\],{image: $1$2},gis;
158            $body =~ s,\[attachment:([^\]]+)\],{file: $1},gs;
159    
160            return $body;
161    }
162    
163    my $count = 0;
164    
165    my $m = File::MMagic::XS->new;
166    
167    foreach my $name ( keys %$page ) {
168            last if $count++ == $max;
169    
170            my $p = $page->{$name};
171    
172            warn "## $name = ",dump( $p ) if $debug;
173    
174            my $body = $p->{content} || die "no content?";
175            my $date = $p->{date} || die "no date?";
176    
177          my @tags = ( 'TamTam' );          my @tags = ( 'TamTam' );
178    
179            my $full_name = $name;
180    
181          if ( $name =~ m!/! ) {          if ( $name =~ m!/! ) {
182                  my @page_tags = split(m!/!, $name);                  my @page_tags = split(m!/!, $name);
183                  $name = pop @page_tags; # remove page name                  $name = pop @page_tags; # remove page name
184                  push @tags, @page_tags;                  push @tags, @page_tags;
185          }          }
186    
187          $Rester->put_page( $name, {          # link named pages
188                  content => $body,          $body =~ s,\b$page_link_re\b,[$1],gs;
189                  date => $date,          $body =~ s,``,,gs;
190          });  
191          print "+ $name\n";          $body .= qq{
192    ----
193    
194    "original"<http://www.razmjenavjestina.org/$full_name> {date: $date}
195    };
196    
197            Encode::_utf8_off( $body );
198    
199            $Rester->put_page( $name, { content => $body, date => $date });
200            print "$name $date\n";
201          foreach ( @tags ) {          foreach ( @tags ) {
202                  $Rester->put_pagetag( $name, $_ );                  $Rester->put_pagetag( $name, $_ );
203                  print "+ $name [$_]\n";                  print "+ tag $_\n";
204            }
205            foreach my $a ( @{ $p->{attachments} } ) {
206                    my $type = $m->get_mime( $a->{full_path} );
207                    my $content = read_file( $a->{full_path} );
208                    print "+ attachment ", $a->{name}," $type ", length($content), " bytes\n";
209                    $Rester->post_attachment($name, $a->{name}, $content, $type );
210          }          }
211    
212  }  }
Legend:
Removed from v.12  
changed lines
  Added in v.20
  ViewVC Help
Powered by ViewVC 1.1.26