proof of concept implementation of static recentchanges
[ikiwiki.git] / IkiWiki.pm
1 #!/usr/bin/perl
2
3 package IkiWiki;
4 use warnings;
5 use strict;
6 use Encode;
7 use HTML::Entities;
8 use URI::Escape q{uri_escape_utf8};
9 use POSIX;
10 use open qw{:utf8 :std};
11
12 use vars qw{%config %links %oldlinks %pagemtime %pagectime %pagecase
13             %pagestate %renderedfiles %oldrenderedfiles %pagesources
14             %destsources %depends %hooks %forcerebuild $gettext_obj};
15
16 use Exporter q{import};
17 our @EXPORT = qw(hook debug error template htmlpage add_depends pagespec_match
18                  bestlink htmllink readfile writefile pagetype srcfile pagename
19                  displaytime will_render gettext urlto targetpage
20                  add_underlay
21                  %config %links %pagestate %renderedfiles
22                  %pagesources %destsources);
23 our $VERSION = 2.00; # plugin interface version, next is ikiwiki version
24 our $version='unknown'; # VERSION_AUTOREPLACE done by Makefile, DNE
25 my $installdir=''; # INSTALLDIR_AUTOREPLACE done by Makefile, DNE
26
27 # Optimisation.
28 use Memoize;
29 memoize("abs2rel");
30 memoize("pagespec_translate");
31 memoize("file_pruned");
32
33 sub defaultconfig () { #{{{
34         return
35         wiki_file_prune_regexps => [qr/(^|\/)\.\.(\/|$)/, qr/^\./, qr/\/\./,
36                 qr/\.x?html?$/, qr/\.ikiwiki-new$/,
37                 qr/(^|\/).svn\//, qr/.arch-ids\//, qr/{arch}\//,
38                 qr/(^|\/)_MTN\//,
39                 qr/\.dpkg-tmp$/],
40         wiki_link_regexp => qr{
41                 \[\[                    # beginning of link
42                 (?:
43                         ([^\]\|\n\s]+)  # 1: link text
44                         \|              # followed by '|'
45                 )?                      # optional
46                 
47                 ([^\s\]#]+)             # 2: page to link to
48                 (?:
49                         \#              # '#', beginning of anchor
50                         ([^\s\]]+)      # 3: anchor text
51                 )?                      # optional
52                 
53                 \]\]                    # end of link
54         }x,
55         wiki_file_regexp => qr/(^[-[:alnum:]_.:\/+]+$)/,
56         web_commit_regexp => qr/^web commit (by (.*?(?=: |$))|from (\d+\.\d+\.\d+\.\d+)):?(.*)/,
57         verbose => 0,
58         syslog => 0,
59         wikiname => "wiki",
60         default_pageext => "mdwn",
61         htmlext => "html",
62         cgi => 0,
63         post_commit => 0,
64         rcs => '',
65         notify => 0,
66         url => '',
67         cgiurl => '',
68         historyurl => '',
69         diffurl => '',
70         rss => 0,
71         atom => 0,
72         discussion => 1,
73         rebuild => 0,
74         refresh => 0,
75         getctime => 0,
76         w3mmode => 0,
77         wrapper => undef,
78         wrappermode => undef,
79         svnrepo => undef,
80         svnpath => "trunk",
81         gitorigin_branch => "origin",
82         gitmaster_branch => "master",
83         srcdir => undef,
84         destdir => undef,
85         pingurl => [],
86         templatedir => "$installdir/share/ikiwiki/templates",
87         underlaydir => "$installdir/share/ikiwiki/basewiki",
88         underlaydirs => [],
89         setup => undef,
90         adminuser => undef,
91         adminemail => undef,
92         plugin => [qw{mdwn inline htmlscrubber passwordauth openid signinedit
93                       lockedit conditional recentchanges}],
94         libdir => undef,
95         timeformat => '%c',
96         locale => undef,
97         sslcookie => 0,
98         httpauth => 0,
99         userdir => "",
100         usedirs => 1,
101         numbacklinks => 10,
102         account_creation_password => "",
103 } #}}}
104
105 sub checkconfig () { #{{{
106         # locale stuff; avoid LC_ALL since it overrides everything
107         if (defined $ENV{LC_ALL}) {
108                 $ENV{LANG} = $ENV{LC_ALL};
109                 delete $ENV{LC_ALL};
110         }
111         if (defined $config{locale}) {
112                 if (POSIX::setlocale(&POSIX::LC_ALL, $config{locale})) {
113                         $ENV{LANG}=$config{locale};
114                         $gettext_obj=undef;
115                 }
116         }
117
118         if ($config{w3mmode}) {
119                 eval q{use Cwd q{abs_path}};
120                 error($@) if $@;
121                 $config{srcdir}=possibly_foolish_untaint(abs_path($config{srcdir}));
122                 $config{destdir}=possibly_foolish_untaint(abs_path($config{destdir}));
123                 $config{cgiurl}="file:///\$LIB/ikiwiki-w3m.cgi/".$config{cgiurl}
124                         unless $config{cgiurl} =~ m!file:///!;
125                 $config{url}="file://".$config{destdir};
126         }
127
128         if ($config{cgi} && ! length $config{url}) {
129                 error(gettext("Must specify url to wiki with --url when using --cgi"));
130         }
131         
132         $config{wikistatedir}="$config{srcdir}/.ikiwiki"
133                 unless exists $config{wikistatedir};
134         
135         if ($config{rcs}) {
136                 eval qq{use IkiWiki::Rcs::$config{rcs}};
137                 if ($@) {
138                         error("Failed to load RCS module IkiWiki::Rcs::$config{rcs}: $@");
139                 }
140         }
141         else {
142                 require IkiWiki::Rcs::Stub;
143         }
144
145         if (exists $config{umask}) {
146                 umask(possibly_foolish_untaint($config{umask}));
147         }
148
149         run_hooks(checkconfig => sub { shift->() });
150
151         return 1;
152 } #}}}
153
154 sub loadplugins () { #{{{
155         if (defined $config{libdir}) {
156                 unshift @INC, possibly_foolish_untaint($config{libdir});
157         }
158
159         loadplugin($_) foreach @{$config{plugin}};
160
161         run_hooks(getopt => sub { shift->() });
162         if (grep /^-/, @ARGV) {
163                 print STDERR "Unknown option: $_\n"
164                         foreach grep /^-/, @ARGV;
165                 usage();
166         }
167
168         return 1;
169 } #}}}
170
171 sub loadplugin ($) { #{{{
172         my $plugin=shift;
173
174         return if grep { $_ eq $plugin} @{$config{disable_plugins}};
175
176         foreach my $dir (defined $config{libdir} ? possibly_foolish_untaint($config{libdir}) : undef,
177                          "$installdir/lib/ikiwiki") {
178                 if (defined $dir && -x "$dir/plugins/$plugin") {
179                         require IkiWiki::Plugin::external;
180                         import IkiWiki::Plugin::external "$dir/plugins/$plugin";
181                         return 1;
182                 }
183         }
184
185         my $mod="IkiWiki::Plugin::".possibly_foolish_untaint($plugin);
186         eval qq{use $mod};
187         if ($@) {
188                 error("Failed to load plugin $mod: $@");
189         }
190         return 1;
191 } #}}}
192
193 sub error ($;$) { #{{{
194         my $message=shift;
195         my $cleaner=shift;
196         if ($config{cgi}) {
197                 print "Content-type: text/html\n\n";
198                 print misctemplate(gettext("Error"),
199                         "<p>".gettext("Error").": $message</p>");
200         }
201         log_message('err' => $message) if $config{syslog};
202         if (defined $cleaner) {
203                 $cleaner->();
204         }
205         die $message."\n";
206 } #}}}
207
208 sub debug ($) { #{{{
209         return unless $config{verbose};
210         return log_message(debug => @_);
211 } #}}}
212
213 my $log_open=0;
214 sub log_message ($$) { #{{{
215         my $type=shift;
216
217         if ($config{syslog}) {
218                 require Sys::Syslog;
219                 if (! $log_open) {
220                         Sys::Syslog::setlogsock('unix');
221                         Sys::Syslog::openlog('ikiwiki', '', 'user');
222                         $log_open=1;
223                 }
224                 return eval {
225                         Sys::Syslog::syslog($type, "[$config{wikiname}] %s", join(" ", @_));
226                 };
227         }
228         elsif (! $config{cgi}) {
229                 return print "@_\n";
230         }
231         else {
232                 return print STDERR "@_\n";
233         }
234 } #}}}
235
236 sub possibly_foolish_untaint ($) { #{{{
237         my $tainted=shift;
238         my ($untainted)=$tainted=~/(.*)/s;
239         return $untainted;
240 } #}}}
241
242 sub basename ($) { #{{{
243         my $file=shift;
244
245         $file=~s!.*/+!!;
246         return $file;
247 } #}}}
248
249 sub dirname ($) { #{{{
250         my $file=shift;
251
252         $file=~s!/*[^/]+$!!;
253         return $file;
254 } #}}}
255
256 sub pagetype ($) { #{{{
257         my $page=shift;
258         
259         if ($page =~ /\.([^.]+)$/) {
260                 return $1 if exists $hooks{htmlize}{$1};
261         }
262         return;
263 } #}}}
264
265 sub pagename ($) { #{{{
266         my $file=shift;
267
268         my $type=pagetype($file);
269         my $page=$file;
270         $page=~s/\Q.$type\E*$// if defined $type;
271         return $page;
272 } #}}}
273
274 sub targetpage ($$) { #{{{
275         my $page=shift;
276         my $ext=shift;
277         
278         if (! $config{usedirs} || $page =~ /^index$/ ) {
279                 return $page.".".$ext;
280         } else {
281                 return $page."/index.".$ext;
282         }
283 } #}}}
284
285 sub htmlpage ($) { #{{{
286         my $page=shift;
287         
288         return targetpage($page, $config{htmlext});
289 } #}}}
290
291 sub srcfile ($) { #{{{
292         my $file=shift;
293
294         return "$config{srcdir}/$file" if -e "$config{srcdir}/$file";
295         foreach my $dir (@{$config{underlaydirs}}, $config{underlaydir}) {
296                 return "$dir/$file" if -e "$dir/$file";
297         }
298         error("internal error: $file cannot be found in $config{srcdir} or underlay");
299         return;
300 } #}}}
301
302 sub add_underlay ($) { #{{{
303         my $dir=shift;
304
305         if ($dir=~/^\//) {
306                 unshift @{$config{underlaydirs}}, $dir;
307         }
308         else {
309                 unshift @{$config{underlaydirs}}, "$config{underlaydir}/../$dir";
310         }
311
312         return 1;
313 } #}}}
314
315 sub readfile ($;$$) { #{{{
316         my $file=shift;
317         my $binary=shift;
318         my $wantfd=shift;
319
320         if (-l $file) {
321                 error("cannot read a symlink ($file)");
322         }
323         
324         local $/=undef;
325         open (my $in, "<", $file) || error("failed to read $file: $!");
326         binmode($in) if ($binary);
327         return \*$in if $wantfd;
328         my $ret=<$in>;
329         close $in || error("failed to read $file: $!");
330         return $ret;
331 } #}}}
332
333 sub writefile ($$$;$$) { #{{{
334         my $file=shift; # can include subdirs
335         my $destdir=shift; # directory to put file in
336         my $content=shift;
337         my $binary=shift;
338         my $writer=shift;
339         
340         my $test=$file;
341         while (length $test) {
342                 if (-l "$destdir/$test") {
343                         error("cannot write to a symlink ($test)");
344                 }
345                 $test=dirname($test);
346         }
347         my $newfile="$destdir/$file.ikiwiki-new";
348         if (-l $newfile) {
349                 error("cannot write to a symlink ($newfile)");
350         }
351
352         my $dir=dirname($newfile);
353         if (! -d $dir) {
354                 my $d="";
355                 foreach my $s (split(m!/+!, $dir)) {
356                         $d.="$s/";
357                         if (! -d $d) {
358                                 mkdir($d) || error("failed to create directory $d: $!");
359                         }
360                 }
361         }
362
363         my $cleanup = sub { unlink($newfile) };
364         open (my $out, '>', $newfile) || error("failed to write $newfile: $!", $cleanup);
365         binmode($out) if ($binary);
366         if ($writer) {
367                 $writer->(\*$out, $cleanup);
368         }
369         else {
370                 print $out $content or error("failed writing to $newfile: $!", $cleanup);
371         }
372         close $out || error("failed saving $newfile: $!", $cleanup);
373         rename($newfile, "$destdir/$file") || 
374                 error("failed renaming $newfile to $destdir/$file: $!", $cleanup);
375
376         return 1;
377 } #}}}
378
379 my %cleared;
380 sub will_render ($$;$) { #{{{
381         my $page=shift;
382         my $dest=shift;
383         my $clear=shift;
384
385         # Important security check.
386         if (-e "$config{destdir}/$dest" && ! $config{rebuild} &&
387             ! grep { $_ eq $dest } (@{$renderedfiles{$page}}, @{$oldrenderedfiles{$page}})) {
388                 error("$config{destdir}/$dest independently created, not overwriting with version from $page");
389         }
390
391         if (! $clear || $cleared{$page}) {
392                 $renderedfiles{$page}=[$dest, grep { $_ ne $dest } @{$renderedfiles{$page}}];
393         }
394         else {
395                 foreach my $old (@{$renderedfiles{$page}}) {
396                         delete $destsources{$old};
397                 }
398                 $renderedfiles{$page}=[$dest];
399                 $cleared{$page}=1;
400         }
401         $destsources{$dest}=$page;
402
403         return 1;
404 } #}}}
405
406 sub bestlink ($$) { #{{{
407         my $page=shift;
408         my $link=shift;
409         
410         my $cwd=$page;
411         if ($link=~s/^\/+//) {
412                 # absolute links
413                 $cwd="";
414         }
415         $link=~s/\/$//;
416
417         do {
418                 my $l=$cwd;
419                 $l.="/" if length $l;
420                 $l.=$link;
421
422                 if (exists $links{$l}) {
423                         return $l;
424                 }
425                 elsif (exists $pagecase{lc $l}) {
426                         return $pagecase{lc $l};
427                 }
428         } while $cwd=~s!/?[^/]+$!!;
429
430         if (length $config{userdir}) {
431                 my $l = "$config{userdir}/".lc($link);
432                 if (exists $links{$l}) {
433                         return $l;
434                 }
435                 elsif (exists $pagecase{lc $l}) {
436                         return $pagecase{lc $l};
437                 }
438         }
439
440         #print STDERR "warning: page $page, broken link: $link\n";
441         return "";
442 } #}}}
443
444 sub isinlinableimage ($) { #{{{
445         my $file=shift;
446         
447         return $file =~ /\.(png|gif|jpg|jpeg)$/i;
448 } #}}}
449
450 sub pagetitle ($;$) { #{{{
451         my $page=shift;
452         my $unescaped=shift;
453
454         if ($unescaped) {
455                 $page=~s/(__(\d+)__|_)/$1 eq '_' ? ' ' : chr($2)/eg;
456         }
457         else {
458                 $page=~s/(__(\d+)__|_)/$1 eq '_' ? ' ' : "&#$2;"/eg;
459         }
460
461         return $page;
462 } #}}}
463
464 sub titlepage ($) { #{{{
465         my $title=shift;
466         $title=~s/([^-[:alnum:]:+\/.])/$1 eq ' ' ? '_' : "__".ord($1)."__"/eg;
467         return $title;
468 } #}}}
469
470 sub linkpage ($) { #{{{
471         my $link=shift;
472         $link=~s/([^-[:alnum:]:+\/._])/$1 eq ' ' ? '_' : "__".ord($1)."__"/eg;
473         return $link;
474 } #}}}
475
476 sub cgiurl (@) { #{{{
477         my %params=@_;
478
479         return $config{cgiurl}."?".
480                 join("&amp;", map $_."=".uri_escape_utf8($params{$_}), keys %params);
481 } #}}}
482
483 sub baseurl (;$) { #{{{
484         my $page=shift;
485
486         return "$config{url}/" if ! defined $page;
487         
488         $page=htmlpage($page);
489         $page=~s/[^\/]+$//;
490         $page=~s/[^\/]+\//..\//g;
491         return $page;
492 } #}}}
493
494 sub abs2rel ($$) { #{{{
495         # Work around very innefficient behavior in File::Spec if abs2rel
496         # is passed two relative paths. It's much faster if paths are
497         # absolute! (Debian bug #376658; fixed in debian unstable now)
498         my $path="/".shift;
499         my $base="/".shift;
500
501         require File::Spec;
502         my $ret=File::Spec->abs2rel($path, $base);
503         $ret=~s/^// if defined $ret;
504         return $ret;
505 } #}}}
506
507 sub displaytime ($;$) { #{{{
508         my $time=shift;
509         my $format=shift;
510         if (! defined $format) {
511                 $format=$config{timeformat};
512         }
513
514         # strftime doesn't know about encodings, so make sure
515         # its output is properly treated as utf8
516         return decode_utf8(POSIX::strftime($format, localtime($time)));
517 } #}}}
518
519 sub beautify_url ($) { #{{{
520         my $url=shift;
521
522         if ($config{usedirs}) {
523                 $url =~ s!/index.$config{htmlext}$!/!;
524         }
525         $url =~ s!^$!./!; # Browsers don't like empty links...
526
527         return $url;
528 } #}}}
529
530 sub urlto ($$) { #{{{
531         my $to=shift;
532         my $from=shift;
533
534         if (! length $to) {
535                 return beautify_url(baseurl($from));
536         }
537
538         if (! $destsources{$to}) {
539                 $to=htmlpage($to);
540         }
541
542         my $link = abs2rel($to, dirname(htmlpage($from)));
543
544         return beautify_url($link);
545 } #}}}
546
547 sub htmllink ($$$;@) { #{{{
548         my $lpage=shift; # the page doing the linking
549         my $page=shift; # the page that will contain the link (different for inline)
550         my $link=shift;
551         my %opts=@_;
552
553         $link=~s/\/$//;
554
555         my $bestlink;
556         if (! $opts{forcesubpage}) {
557                 $bestlink=bestlink($lpage, $link);
558         }
559         else {
560                 $bestlink="$lpage/".lc($link);
561         }
562
563         my $linktext;
564         if (defined $opts{linktext}) {
565                 $linktext=$opts{linktext};
566         }
567         else {
568                 $linktext=pagetitle(basename($link));
569         }
570         
571         return "<span class=\"selflink\">$linktext</span>"
572                 if length $bestlink && $page eq $bestlink &&
573                    ! defined $opts{anchor};
574         
575         if (! $destsources{$bestlink}) {
576                 $bestlink=htmlpage($bestlink);
577
578                 if (! $destsources{$bestlink}) {
579                         return $linktext unless length $config{cgiurl};
580                         return "<span class=\"createlink\"><a href=\"".
581                                 cgiurl(
582                                         do => "create",
583                                         page => pagetitle(lc($link), 1),
584                                         from => $lpage
585                                 ).
586                                 "\">?</a>$linktext</span>"
587                 }
588         }
589         
590         $bestlink=abs2rel($bestlink, dirname(htmlpage($page)));
591         $bestlink=beautify_url($bestlink);
592         
593         if (! $opts{noimageinline} && isinlinableimage($bestlink)) {
594                 return "<img src=\"$bestlink\" alt=\"$linktext\" />";
595         }
596
597         if (defined $opts{anchor}) {
598                 $bestlink.="#".$opts{anchor};
599         }
600
601         my @attrs;
602         if (defined $opts{rel}) {
603                 push @attrs, ' rel="'.$opts{rel}.'"';
604         }
605         if (defined $opts{class}) {
606                 push @attrs, ' class="'.$opts{class}.'"';
607         }
608
609         return "<a href=\"$bestlink\"@attrs>$linktext</a>";
610 } #}}}
611
612 sub userlink ($) { #{{{
613         my $user=shift;
614
615         eval q{use CGI 'escapeHTML'};
616         error($@) if $@;
617         if ($user =~ m!^https?://! &&
618             eval q{use Net::OpenID::VerifiedIdentity; 1} && !$@) {
619                 # Munge user-urls, as used by eg, OpenID.
620                 my $oid=Net::OpenID::VerifiedIdentity->new(identity => $user);
621                 my $display=$oid->display;
622                 # Convert "user.somehost.com" to "user [somehost.com]".
623                 if ($display !~ /\[/) {
624                         $display=~s/^(.*?)\.([^.]+\.[a-z]+)$/$1 [$2]/;
625                 }
626                 # Convert "http://somehost.com/user" to "user [somehost.com]".
627                 if ($display !~ /\[/) {
628                         $display=~s/^https?:\/\/(.+)\/([^\/]+)$/$2 [$1]/;
629                 }
630                 $display=~s!^https?://!!; # make sure this is removed
631                 return "<a href=\"$user\">".escapeHTML($display)."</a>";
632         }
633         else {
634                 return $user;
635         }
636 } #}}}
637
638 sub htmlize ($$$) { #{{{
639         my $page=shift;
640         my $type=shift;
641         my $content=shift;
642         
643         my $oneline = $content !~ /\n/;
644
645         if (exists $hooks{htmlize}{$type}) {
646                 $content=$hooks{htmlize}{$type}{call}->(
647                         page => $page,
648                         content => $content,
649                 );
650         }
651         else {
652                 error("htmlization of $type not supported");
653         }
654
655         run_hooks(sanitize => sub {
656                 $content=shift->(
657                         page => $page,
658                         content => $content,
659                 );
660         });
661         
662         if ($oneline) {
663                 # hack to get rid of enclosing junk added by markdown
664                 # and other htmlizers
665                 $content=~s/^<p>//i;
666                 $content=~s/<\/p>$//i;
667                 chomp $content;
668         }
669
670         return $content;
671 } #}}}
672
673 sub linkify ($$$) { #{{{
674         my $lpage=shift; # the page containing the links
675         my $page=shift; # the page the link will end up on (different for inline)
676         my $content=shift;
677
678         $content =~ s{(\\?)$config{wiki_link_regexp}}{
679                 defined $2
680                         ? ( $1 
681                                 ? "[[$2|$3".($4 ? "#$4" : "")."]]" 
682                                 : htmllink($lpage, $page, linkpage($3),
683                                         anchor => $4, linktext => pagetitle($2)))
684                         : ( $1 
685                                 ? "[[$3".($4 ? "#$4" : "")."]]"
686                                 : htmllink($lpage, $page, linkpage($3),
687                                         anchor => $4))
688         }eg;
689         
690         return $content;
691 } #}}}
692
693 my %preprocessing;
694 our $preprocess_preview=0;
695 sub preprocess ($$$;$$) { #{{{
696         my $page=shift; # the page the data comes from
697         my $destpage=shift; # the page the data will appear in (different for inline)
698         my $content=shift;
699         my $scan=shift;
700         my $preview=shift;
701
702         # Using local because it needs to be set within any nested calls
703         # of this function.
704         local $preprocess_preview=$preview if defined $preview;
705
706         my $handle=sub {
707                 my $escape=shift;
708                 my $command=shift;
709                 my $params=shift;
710                 if (length $escape) {
711                         return "[[$command $params]]";
712                 }
713                 elsif (exists $hooks{preprocess}{$command}) {
714                         return "" if $scan && ! $hooks{preprocess}{$command}{scan};
715                         # Note: preserve order of params, some plugins may
716                         # consider it significant.
717                         my @params;
718                         while ($params =~ m{
719                                 (?:([-\w]+)=)?          # 1: named parameter key?
720                                 (?:
721                                         """(.*?)"""     # 2: triple-quoted value
722                                 |
723                                         "([^"]+)"       # 3: single-quoted value
724                                 |
725                                         (\S+)           # 4: unquoted value
726                                 )
727                                 (?:\s+|$)               # delimiter to next param
728                         }sgx) {
729                                 my $key=$1;
730                                 my $val;
731                                 if (defined $2) {
732                                         $val=$2;
733                                         $val=~s/\r\n/\n/mg;
734                                         $val=~s/^\n+//g;
735                                         $val=~s/\n+$//g;
736                                 }
737                                 elsif (defined $3) {
738                                         $val=$3;
739                                 }
740                                 elsif (defined $4) {
741                                         $val=$4;
742                                 }
743
744                                 if (defined $key) {
745                                         push @params, $key, $val;
746                                 }
747                                 else {
748                                         push @params, $val, '';
749                                 }
750                         }
751                         if ($preprocessing{$page}++ > 3) {
752                                 # Avoid loops of preprocessed pages preprocessing
753                                 # other pages that preprocess them, etc.
754                                 #translators: The first parameter is a
755                                 #translators: preprocessor directive name,
756                                 #translators: the second a page name, the
757                                 #translators: third a number.
758                                 return "[[".sprintf(gettext("%s preprocessing loop detected on %s at depth %i"),
759                                         $command, $page, $preprocessing{$page}).
760                                 "]]";
761                         }
762                         my $ret;
763                         if (! $scan) {
764                                 $ret=$hooks{preprocess}{$command}{call}->(
765                                         @params,
766                                         page => $page,
767                                         destpage => $destpage,
768                                         preview => $preprocess_preview,
769                                 );
770                         }
771                         else {
772                                 # use void context during scan pass
773                                 $hooks{preprocess}{$command}{call}->(
774                                         @params,
775                                         page => $page,
776                                         destpage => $destpage,
777                                         preview => $preprocess_preview,
778                                 );
779                                 $ret="";
780                         }
781                         $preprocessing{$page}--;
782                         return $ret;
783                 }
784                 else {
785                         return "[[$command $params]]";
786                 }
787         };
788         
789         $content =~ s{
790                 (\\?)           # 1: escape?
791                 \[\[            # directive open
792                 ([-\w]+)        # 2: command
793                 \s+
794                 (               # 3: the parameters..
795                         (?:
796                                 (?:[-\w]+=)?            # named parameter key?
797                                 (?:
798                                         """.*?"""       # triple-quoted value
799                                         |
800                                         "[^"]+"         # single-quoted value
801                                         |
802                                         [^\s\]]+        # unquoted value
803                                 )
804                                 \s*                     # whitespace or end
805                                                         # of directive
806                         )
807                 *)              # 0 or more parameters
808                 \]\]            # directive closed
809         }{$handle->($1, $2, $3)}sexg;
810         return $content;
811 } #}}}
812
813 sub filter ($$$) { #{{{
814         my $page=shift;
815         my $destpage=shift;
816         my $content=shift;
817
818         run_hooks(filter => sub {
819                 $content=shift->(page => $page, destpage => $destpage, 
820                         content => $content);
821         });
822
823         return $content;
824 } #}}}
825
826 sub indexlink () { #{{{
827         return "<a href=\"$config{url}\">$config{wikiname}</a>";
828 } #}}}
829
830 my $wikilock;
831
832 sub lockwiki (;$) { #{{{
833         my $wait=@_ ? shift : 1;
834         # Take an exclusive lock on the wiki to prevent multiple concurrent
835         # run issues. The lock will be dropped on program exit.
836         if (! -d $config{wikistatedir}) {
837                 mkdir($config{wikistatedir});
838         }
839         open($wikilock, '>', "$config{wikistatedir}/lockfile") ||
840                 error ("cannot write to $config{wikistatedir}/lockfile: $!");
841         if (! flock($wikilock, 2 | 4)) { # LOCK_EX | LOCK_NB
842                 if ($wait) {
843                         debug("wiki seems to be locked, waiting for lock");
844                         my $wait=600; # arbitrary, but don't hang forever to 
845                                       # prevent process pileup
846                         for (1..$wait) {
847                                 return if flock($wikilock, 2 | 4);
848                                 sleep 1;
849                         }
850                         error("wiki is locked; waited $wait seconds without lock being freed (possible stuck process or stale lock?)");
851                 }
852                 else {
853                         return 0;
854                 }
855         }
856         return 1;
857 } #}}}
858
859 sub unlockwiki () { #{{{
860         return close($wikilock) if $wikilock;
861         return;
862 } #}}}
863
864 my $commitlock;
865
866 sub commit_hook_enabled () { #{{{
867         open($commitlock, '+>', "$config{wikistatedir}/commitlock") ||
868                 error("cannot write to $config{wikistatedir}/commitlock: $!");
869         if (! flock($commitlock, 1 | 4)) { # LOCK_SH | LOCK_NB to test
870                 close($commitlock) || error("failed closing commitlock: $!");
871                 return 0;
872         }
873         close($commitlock) || error("failed closing commitlock: $!");
874         return 1;
875 } #}}}
876
877 sub disable_commit_hook () { #{{{
878         open($commitlock, '>', "$config{wikistatedir}/commitlock") ||
879                 error("cannot write to $config{wikistatedir}/commitlock: $!");
880         if (! flock($commitlock, 2)) { # LOCK_EX
881                 error("failed to get commit lock");
882         }
883         return 1;
884 } #}}}
885
886 sub enable_commit_hook () { #{{{
887         return close($commitlock) if $commitlock;
888         return;
889 } #}}}
890
891 sub loadindex () { #{{{
892         %oldrenderedfiles=%pagectime=();
893         if (! $config{rebuild}) {
894                 %pagesources=%pagemtime=%oldlinks=%links=%depends=
895                         %destsources=%renderedfiles=%pagecase=();
896         }
897         open (my $in, "<", "$config{wikistatedir}/index") || return;
898         while (<$in>) {
899                 $_=possibly_foolish_untaint($_);
900                 chomp;
901                 my %items;
902                 $items{link}=[];
903                 $items{dest}=[];
904                 foreach my $i (split(/ /, $_)) {
905                         my ($item, $val)=split(/=/, $i, 2);
906                         push @{$items{$item}}, decode_entities($val);
907                 }
908
909                 next unless exists $items{src}; # skip bad lines for now
910
911                 my $page=pagename($items{src}[0]);
912                 if (! $config{rebuild}) {
913                         $pagesources{$page}=$items{src}[0];
914                         $pagemtime{$page}=$items{mtime}[0];
915                         $oldlinks{$page}=[@{$items{link}}];
916                         $links{$page}=[@{$items{link}}];
917                         $depends{$page}=$items{depends}[0] if exists $items{depends};
918                         $destsources{$_}=$page foreach @{$items{dest}};
919                         $renderedfiles{$page}=[@{$items{dest}}];
920                         $pagecase{lc $page}=$page;
921                         foreach my $k (grep /_/, keys %items) {
922                                 my ($id, $key)=split(/_/, $k, 2);
923                                 $pagestate{$page}{decode_entities($id)}{decode_entities($key)}=$items{$k}[0];
924                         }
925                 }
926                 $oldrenderedfiles{$page}=[@{$items{dest}}];
927                 $pagectime{$page}=$items{ctime}[0];
928         }
929         return close($in);
930 } #}}}
931
932 sub saveindex () { #{{{
933         run_hooks(savestate => sub { shift->() });
934
935         my %hookids;
936         foreach my $type (keys %hooks) {
937                 $hookids{encode_entities($_)}=1 foreach keys %{$hooks{$type}};
938         }
939         my @hookids=sort keys %hookids;
940
941         if (! -d $config{wikistatedir}) {
942                 mkdir($config{wikistatedir});
943         }
944         my $newfile="$config{wikistatedir}/index.new";
945         my $cleanup = sub { unlink($newfile) };
946         open (my $out, '>', $newfile) || error("cannot write to $newfile: $!", $cleanup);
947         foreach my $page (keys %pagemtime) {
948                 next unless $pagemtime{$page};
949                 my $line="mtime=$pagemtime{$page} ".
950                         "ctime=$pagectime{$page} ".
951                         "src=$pagesources{$page}";
952                 $line.=" dest=$_" foreach @{$renderedfiles{$page}};
953                 my %count;
954                 $line.=" link=$_" foreach grep { ++$count{$_} == 1 } @{$links{$page}};
955                 if (exists $depends{$page}) {
956                         $line.=" depends=".encode_entities($depends{$page}, " \t\n");
957                 }
958                 if (exists $pagestate{$page}) {
959                         foreach my $id (@hookids) {
960                                 foreach my $key (keys %{$pagestate{$page}{$id}}) {
961                                         $line.=' '.$id.'_'.encode_entities($key)."=".encode_entities($pagestate{$page}{$id}{$key});
962                                 }
963                         }
964                 }
965                 print $out $line."\n" || error("failed writing to $newfile: $!", $cleanup);
966         }
967         close $out || error("failed saving to $newfile: $!", $cleanup);
968         rename($newfile, "$config{wikistatedir}/index") ||
969                 error("failed renaming $newfile to $config{wikistatedir}/index", $cleanup);
970         
971         return 1;
972 } #}}}
973
974 sub template_file ($) { #{{{
975         my $template=shift;
976
977         foreach my $dir ($config{templatedir}, "$installdir/share/ikiwiki/templates") {
978                 return "$dir/$template" if -e "$dir/$template";
979         }
980         return;
981 } #}}}
982
983 sub template_params (@) { #{{{
984         my $filename=template_file(shift);
985
986         if (! defined $filename) {
987                 return if wantarray;
988                 return "";
989         }
990
991         my @ret=(
992                 filter => sub {
993                         my $text_ref = shift;
994                         ${$text_ref} = decode_utf8(${$text_ref});
995                 },
996                 filename => $filename,
997                 loop_context_vars => 1,
998                 die_on_bad_params => 0,
999                 @_
1000         );
1001         return wantarray ? @ret : {@ret};
1002 } #}}}
1003
1004 sub template ($;@) { #{{{
1005         require HTML::Template;
1006         return HTML::Template->new(template_params(@_));
1007 } #}}}
1008
1009 sub misctemplate ($$;@) { #{{{
1010         my $title=shift;
1011         my $pagebody=shift;
1012         
1013         my $template=template("misc.tmpl");
1014         $template->param(
1015                 title => $title,
1016                 indexlink => indexlink(),
1017                 wikiname => $config{wikiname},
1018                 pagebody => $pagebody,
1019                 baseurl => baseurl(),
1020                 @_,
1021         );
1022         run_hooks(pagetemplate => sub {
1023                 shift->(page => "", destpage => "", template => $template);
1024         });
1025         return $template->output;
1026 }#}}}
1027
1028 sub hook (@) { # {{{
1029         my %param=@_;
1030         
1031         if (! exists $param{type} || ! ref $param{call} || ! exists $param{id}) {
1032                 error 'hook requires type, call, and id parameters';
1033         }
1034
1035         return if $param{no_override} && exists $hooks{$param{type}}{$param{id}};
1036         
1037         $hooks{$param{type}}{$param{id}}=\%param;
1038         return 1;
1039 } # }}}
1040
1041 sub run_hooks ($$) { # {{{
1042         # Calls the given sub for each hook of the given type,
1043         # passing it the hook function to call.
1044         my $type=shift;
1045         my $sub=shift;
1046
1047         if (exists $hooks{$type}) {
1048                 my @deferred;
1049                 foreach my $id (keys %{$hooks{$type}}) {
1050                         if ($hooks{$type}{$id}{last}) {
1051                                 push @deferred, $id;
1052                                 next;
1053                         }
1054                         $sub->($hooks{$type}{$id}{call});
1055                 }
1056                 foreach my $id (@deferred) {
1057                         $sub->($hooks{$type}{$id}{call});
1058                 }
1059         }
1060
1061         return 1;
1062 } #}}}
1063
1064 sub globlist_to_pagespec ($) { #{{{
1065         my @globlist=split(' ', shift);
1066
1067         my (@spec, @skip);
1068         foreach my $glob (@globlist) {
1069                 if ($glob=~/^!(.*)/) {
1070                         push @skip, $glob;
1071                 }
1072                 else {
1073                         push @spec, $glob;
1074                 }
1075         }
1076
1077         my $spec=join(' or ', @spec);
1078         if (@skip) {
1079                 my $skip=join(' and ', @skip);
1080                 if (length $spec) {
1081                         $spec="$skip and ($spec)";
1082                 }
1083                 else {
1084                         $spec=$skip;
1085                 }
1086         }
1087         return $spec;
1088 } #}}}
1089
1090 sub is_globlist ($) { #{{{
1091         my $s=shift;
1092         return ( $s =~ /[^\s]+\s+([^\s]+)/ && $1 ne "and" && $1 ne "or" );
1093 } #}}}
1094
1095 sub safequote ($) { #{{{
1096         my $s=shift;
1097         $s=~s/[{}]//g;
1098         return "q{$s}";
1099 } #}}}
1100
1101 sub add_depends ($$) { #{{{
1102         my $page=shift;
1103         my $pagespec=shift;
1104         
1105         if (! exists $depends{$page}) {
1106                 $depends{$page}=$pagespec;
1107         }
1108         else {
1109                 $depends{$page}=pagespec_merge($depends{$page}, $pagespec);
1110         }
1111
1112         return 1;
1113 } # }}}
1114
1115 sub file_pruned ($$) { #{{{
1116         require File::Spec;
1117         my $file=File::Spec->canonpath(shift);
1118         my $base=File::Spec->canonpath(shift);
1119         $file =~ s#^\Q$base\E/+##;
1120
1121         my $regexp='('.join('|', @{$config{wiki_file_prune_regexps}}).')';
1122         return $file =~ m/$regexp/ && $file ne $base;
1123 } #}}}
1124
1125 sub gettext { #{{{
1126         # Only use gettext in the rare cases it's needed.
1127         if ((exists $ENV{LANG} && length $ENV{LANG}) ||
1128             (exists $ENV{LC_ALL} && length $ENV{LC_ALL}) ||
1129             (exists $ENV{LC_MESSAGES} && length $ENV{LC_MESSAGES})) {
1130                 if (! $gettext_obj) {
1131                         $gettext_obj=eval q{
1132                                 use Locale::gettext q{textdomain};
1133                                 Locale::gettext->domain('ikiwiki')
1134                         };
1135                         if ($@) {
1136                                 print STDERR "$@";
1137                                 $gettext_obj=undef;
1138                                 return shift;
1139                         }
1140                 }
1141                 return $gettext_obj->get(shift);
1142         }
1143         else {
1144                 return shift;
1145         }
1146 } #}}}
1147
1148 sub pagespec_merge ($$) { #{{{
1149         my $a=shift;
1150         my $b=shift;
1151
1152         return $a if $a eq $b;
1153
1154         # Support for old-style GlobLists.
1155         if (is_globlist($a)) {
1156                 $a=globlist_to_pagespec($a);
1157         }
1158         if (is_globlist($b)) {
1159                 $b=globlist_to_pagespec($b);
1160         }
1161
1162         return "($a) or ($b)";
1163 } #}}}
1164
1165 sub pagespec_translate ($) { #{{{
1166         # This assumes that $page is in scope in the function
1167         # that evalulates the translated pagespec code.
1168         my $spec=shift;
1169
1170         # Support for old-style GlobLists.
1171         if (is_globlist($spec)) {
1172                 $spec=globlist_to_pagespec($spec);
1173         }
1174
1175         # Convert spec to perl code.
1176         my $code="";
1177         while ($spec=~m{
1178                 \s*             # ignore whitespace
1179                 (               # 1: match a single word
1180                         \!              # !
1181                 |
1182                         \(              # (
1183                 |
1184                         \)              # )
1185                 |
1186                         \w+\([^\)]*\)   # command(params)
1187                 |
1188                         [^\s()]+        # any other text
1189                 )
1190                 \s*             # ignore whitespace
1191         }igx) {
1192                 my $word=$1;
1193                 if (lc $word eq 'and') {
1194                         $code.=' &&';
1195                 }
1196                 elsif (lc $word eq 'or') {
1197                         $code.=' ||';
1198                 }
1199                 elsif ($word eq "(" || $word eq ")" || $word eq "!") {
1200                         $code.=' '.$word;
1201                 }
1202                 elsif ($word =~ /^(\w+)\((.*)\)$/) {
1203                         if (exists $IkiWiki::PageSpec::{"match_$1"}) {
1204                                 $code.="IkiWiki::PageSpec::match_$1(\$page, ".safequote($2).", \@params)";
1205                         }
1206                         else {
1207                                 $code.=' 0';
1208                         }
1209                 }
1210                 else {
1211                         $code.=" IkiWiki::PageSpec::match_glob(\$page, ".safequote($word).", \@params)";
1212                 }
1213         }
1214
1215         return $code;
1216 } #}}}
1217
1218 sub pagespec_match ($$;@) { #{{{
1219         my $page=shift;
1220         my $spec=shift;
1221         my @params=@_;
1222
1223         # Backwards compatability with old calling convention.
1224         if (@params == 1) {
1225                 unshift @params, 'location';
1226         }
1227
1228         my $ret=eval pagespec_translate($spec);
1229         return IkiWiki::FailReason->new('syntax error') if $@;
1230         return $ret;
1231 } #}}}
1232
1233 package IkiWiki::FailReason;
1234
1235 use overload ( #{{{
1236         '""'    => sub { ${$_[0]} },
1237         '0+'    => sub { 0 },
1238         '!'     => sub { bless $_[0], 'IkiWiki::SuccessReason'},
1239         fallback => 1,
1240 ); #}}}
1241
1242 sub new { #{{{
1243         return bless \$_[1], $_[0];
1244 } #}}}
1245
1246 package IkiWiki::SuccessReason;
1247
1248 use overload ( #{{{
1249         '""'    => sub { ${$_[0]} },
1250         '0+'    => sub { 1 },
1251         '!'     => sub { bless $_[0], 'IkiWiki::FailReason'},
1252         fallback => 1,
1253 ); #}}}
1254
1255 sub new { #{{{
1256         return bless \$_[1], $_[0];
1257 }; #}}}
1258
1259 package IkiWiki::PageSpec;
1260
1261 sub match_glob ($$;@) { #{{{
1262         my $page=shift;
1263         my $glob=shift;
1264         my %params=@_;
1265         
1266         my $from=exists $params{location} ? $params{location} : '';
1267         
1268         # relative matching
1269         if ($glob =~ m!^\./!) {
1270                 $from=~s#/?[^/]+$##;
1271                 $glob=~s#^\./##;
1272                 $glob="$from/$glob" if length $from;
1273         }
1274
1275         # turn glob into safe regexp
1276         $glob=quotemeta($glob);
1277         $glob=~s/\\\*/.*/g;
1278         $glob=~s/\\\?/./g;
1279
1280         if ($page=~/^$glob$/i) {
1281                 return IkiWiki::SuccessReason->new("$glob matches $page");
1282         }
1283         else {
1284                 return IkiWiki::FailReason->new("$glob does not match $page");
1285         }
1286 } #}}}
1287
1288 sub match_link ($$;@) { #{{{
1289         my $page=shift;
1290         my $link=lc(shift);
1291         my %params=@_;
1292
1293         my $from=exists $params{location} ? $params{location} : '';
1294
1295         # relative matching
1296         if ($link =~ m!^\.! && defined $from) {
1297                 $from=~s#/?[^/]+$##;
1298                 $link=~s#^\./##;
1299                 $link="$from/$link" if length $from;
1300         }
1301
1302         my $links = $IkiWiki::links{$page};
1303         return IkiWiki::FailReason->new("$page has no links") unless $links && @{$links};
1304         my $bestlink = IkiWiki::bestlink($from, $link);
1305         foreach my $p (@{$links}) {
1306                 if (length $bestlink) {
1307                         return IkiWiki::SuccessReason->new("$page links to $link")
1308                                 if $bestlink eq IkiWiki::bestlink($page, $p);
1309                 }
1310                 else {
1311                         return IkiWiki::SuccessReason->new("$page links to page $p matching $link")
1312                                 if match_glob($p, $link, %params);
1313                 }
1314         }
1315         return IkiWiki::FailReason->new("$page does not link to $link");
1316 } #}}}
1317
1318 sub match_backlink ($$;@) { #{{{
1319         return match_link($_[1], $_[0], @_);
1320 } #}}}
1321
1322 sub match_created_before ($$;@) { #{{{
1323         my $page=shift;
1324         my $testpage=shift;
1325
1326         if (exists $IkiWiki::pagectime{$testpage}) {
1327                 if ($IkiWiki::pagectime{$page} < $IkiWiki::pagectime{$testpage}) {
1328                         return IkiWiki::SuccessReason->new("$page created before $testpage");
1329                 }
1330                 else {
1331                         return IkiWiki::FailReason->new("$page not created before $testpage");
1332                 }
1333         }
1334         else {
1335                 return IkiWiki::FailReason->new("$testpage has no ctime");
1336         }
1337 } #}}}
1338
1339 sub match_created_after ($$;@) { #{{{
1340         my $page=shift;
1341         my $testpage=shift;
1342
1343         if (exists $IkiWiki::pagectime{$testpage}) {
1344                 if ($IkiWiki::pagectime{$page} > $IkiWiki::pagectime{$testpage}) {
1345                         return IkiWiki::SuccessReason->new("$page created after $testpage");
1346                 }
1347                 else {
1348                         return IkiWiki::FailReason->new("$page not created after $testpage");
1349                 }
1350         }
1351         else {
1352                 return IkiWiki::FailReason->new("$testpage has no ctime");
1353         }
1354 } #}}}
1355
1356 sub match_creation_day ($$;@) { #{{{
1357         if ((gmtime($IkiWiki::pagectime{shift()}))[3] == shift) {
1358                 return IkiWiki::SuccessReason->new('creation_day matched');
1359         }
1360         else {
1361                 return IkiWiki::FailReason->new('creation_day did not match');
1362         }
1363 } #}}}
1364
1365 sub match_creation_month ($$;@) { #{{{
1366         if ((gmtime($IkiWiki::pagectime{shift()}))[4] + 1 == shift) {
1367                 return IkiWiki::SuccessReason->new('creation_month matched');
1368         }
1369         else {
1370                 return IkiWiki::FailReason->new('creation_month did not match');
1371         }
1372 } #}}}
1373
1374 sub match_creation_year ($$;@) { #{{{
1375         if ((gmtime($IkiWiki::pagectime{shift()}))[5] + 1900 == shift) {
1376                 return IkiWiki::SuccessReason->new('creation_year matched');
1377         }
1378         else {
1379                 return IkiWiki::FailReason->new('creation_year did not match');
1380         }
1381 } #}}}
1382
1383 sub match_user ($$;@) { #{{{
1384         shift;
1385         my $user=shift;
1386         my %params=@_;
1387
1388         return IkiWiki::FailReason->new('cannot match user')
1389                 unless exists $params{user};
1390         if ($user eq $params{user}) {
1391                 return IkiWiki::SuccessReason->new("user is $user")
1392         }
1393         else {
1394                 return IkiWiki::FailReason->new("user is not $user");
1395         }
1396 } #}}}
1397
1398 1