2eb4182d0638b161017d09f3ae1a646d1ef22232
[rsync.git] / runtests.sh
1 #! /bin/sh
2
3 # Copyright (C) 2001, 2002 by Martin Pool <mbp@samba.org>
4 # Copyright (C) 2003, 2004, 2005, 2006 Wayne Davison
5
6 # This program is free software; you can redistribute it and/or modify
7 # it under the terms of the GNU General Public License version
8 # 2 as published by the Free Software Foundation.
9 #
10 # This program is distributed in the hope that it will be useful, but
11 # WITHOUT ANY WARRANTY; without even the implied warranty of
12 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13 # Lesser General Public License for more details.
14
15 # You should have received a copy of the GNU Lesser General Public
16 # License along with this program; if not, write to the Free Software
17 # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
19 # rsync top-level test script -- this invokes all the other more
20 # detailed tests in order.  This script can either be called by `make
21 # check' or `make installcheck'.  `check' runs against the copies of
22 # the program and other files in the build directory, and
23 # `installcheck' against the installed copy of the program.  
24
25 # In either case we need to also be able to find the source directory,
26 # since we read test scripts and possibly other information from
27 # there.
28
29 # Whenever possible, informational messages are written to stdout and
30 # error messages to stderr.  They're separated out by the build farm
31 # display scripts.
32
33 # According to the GNU autoconf manual, the only valid place to set up
34 # directory locations is through Make, since users are allowed to (try
35 # to) change their mind on the Make command line.  So, Make has to
36 # pass in all the values we need.
37
38 # For other configured settings we read ./config.sh, which tells us
39 # about shell commands on this machine and similar things.
40
41 # rsync_bin gives the location of the rsync binary.  This is either
42 # builddir/rsync if we're testing an uninstalled copy, or
43 # install_prefix/bin/rsync if we're testing an installed copy.  On the
44 # build farm rsync will be installed, but into a scratch /usr.
45
46 # srcdir gives the location of the source tree, which lets us find the
47 # build scripts.  At the moment we assume we are invoked from the
48 # source directory.
49
50 # This script must be invoked from the build directory.  
51
52 # A scratch directory, 'testtmp', is used in the build directory to
53 # hold per-test subdirectories.
54
55 # This script also uses the $loglevel environment variable.  1 is the
56 # default value, and 10 the most verbose.  You can set this from the
57 # Make command line.  It's also set by the build farm to give more
58 # detail for failing builds.
59
60
61 # NOTES FOR TEST CASES:
62
63 # Each test case runs in its own shell. 
64
65 # Exit codes from tests:
66
67 #    1  tests failed
68 #    2  error in starting tests
69 #   77  this test skipped (random value unlikely to happen by chance, same as
70 #       automake)
71
72 # HOWEVER, the overall exit code to the farm is different: we return
73 # the *number of tests that failed*, so that it will show up nicely in
74 # the overall summary.
75
76 # rsync.fns contains some general setup functions and definitions.
77
78
79 # NOTES ON PORTABILITY:
80
81 # Both this script and the Makefile have to be pretty conservative
82 # about which Unix features they use.
83
84 # We cannot count on Make exporting variables to commands, unless
85 # they're explicitly given on the command line.
86
87 # Also, we can't count on 'cp -a' or 'mkdir -p', although they're
88 # pretty handy (see function makepath for the latter).
89
90 # I think some of the GNU documentation suggests that we shouldn't
91 # rely on shell functions.  However, the Bash manual seems to say that
92 # they're in POSIX 1003.2, and since the build farm relies on them
93 # they're probably working on most machines we really care about.
94
95 # You cannot use "function foo {" syntax, but must instead say "foo()
96 # {", or it breaks on FreeBSD.
97
98 # BSD machines tend not to have "head" or "seq".
99
100 # You cannot do "export VAR=VALUE" all on one line; the export must be
101 # separate from the assignment.  (SCO SysV)
102
103 # Don't rely on grep -q, as that doesn't work everywhere -- just redirect
104 # stdout to /dev/null to keep it quiet.
105
106
107 # STILL TO DO:
108
109 # We need a good protection against tests that hang indefinitely.
110 # Perhaps some combination of starting them in the background, wait,
111 # and kill?
112
113 # Perhaps we need a common way to cleanup tests.  At the moment just
114 # clobbering the directory when we're done should be enough.
115
116 # If any of the targets fail, then (GNU?) Make returns 2, instead of
117 # the return code from the failing command.  This is fine, but it
118 # means that the build farm just shows "2" for failed tests, not the
119 # number of tests that actually failed.  For more details we might
120 # need to grovel through the log files to find a line saying how many
121 # failed.
122
123
124 set -e
125
126 . "./shconfig"
127
128 RUNSHFLAGS='-e'
129 export RUNSHFLAGS
130
131 # for Solaris
132 [ -d /usr/xpg4/bin ] && PATH="/usr/xpg4/bin/:$PATH"
133
134 if [ "x$loglevel" != x ] && [ "$loglevel" -gt 8 ]; then
135     if set -x; then
136         # If it doesn't work the first time, don't keep trying.
137         RUNSHFLAGS="$RUNSHFLAGS -x"
138     fi
139 fi
140
141 POSIXLY_CORRECT=1 
142 if test x"$TOOLDIR" = x; then
143     TOOLDIR=`pwd`
144 fi
145 srcdir=`dirname $0`
146 if test x"$srcdir" = x -o x"$srcdir" = x.; then
147     srcdir="$TOOLDIR"
148 fi
149 if test x"$rsync_bin" = x; then
150     rsync_bin="$TOOLDIR/rsync"
151 fi
152
153 # This allows the user to specify extra rsync options -- use carefully!
154 RSYNC="$rsync_bin $*"
155 #RSYNC="valgrind $rsync_bin $*"
156
157 TLS_ARGS=''
158 if egrep '^#define HAVE_LUTIMES 1' config.h >/dev/null; then
159     TLS_ARGS="$TLS_ARGS -l"
160 fi
161 if egrep '#undef CHOWN_MODIFIES_SYMLINK' config.h >/dev/null; then
162     TLS_ARGS="$TLS_ARGS -L"
163 fi
164
165 export POSIXLY_CORRECT TOOLDIR srcdir RSYNC TLS_ARGS
166
167 echo "============================================================"
168 echo "$0 running in $TOOLDIR"
169 echo "    rsync_bin=$RSYNC"
170 echo "    srcdir=$srcdir"
171 echo "    TLS_ARGS=$TLS_ARGS"
172
173 if [ -f /usr/bin/whoami ]; then
174     testuser=`/usr/bin/whoami`
175 elif [ -f /usr/ucb/whoami ]; then
176     testuser=`/usr/ucb/whoami`
177 elif [ -f /bin/whoami ]; then
178     testuser=`/bin/whoami`
179 else
180     testuser=`id -un 2>/dev/null || echo ${LOGNAME:-${USERNAME:-${USER:-'UNKNOWN'}}}`
181 fi
182
183 echo "    testuser=$testuser"
184 echo "    os=`uname -a`"
185
186 # It must be "yes", not just nonnull
187 if [ "x$preserve_scratch" = xyes ]; then
188     echo "    preserve_scratch=yes"
189 else
190     echo "    preserve_scratch=no"
191 fi    
192
193 # Check if setacl/setfacl is around and if it supports the -k or -s option.
194 if setacl -k u::7,g::5,o:5 testsuite 2>/dev/null; then
195     setfacl_nodef='setacl -k'
196 elif setfacl --help 2>&1 | grep ' -k,\|\[-[a-z]*k' >/dev/null; then
197     setfacl_nodef='setfacl -k'
198 elif setfacl -s u::7,g::5,o:5 testsuite 2>/dev/null; then
199     setfacl_nodef='setfacl -s u::7,g::5,o:5'
200 else
201     # The "true" command runs successfully, but does nothing.
202     setfacl_nodef=true
203 fi
204
205 export setfacl_nodef
206
207 if [ ! -f "$rsync_bin" ]; then
208     echo "rsync_bin $rsync_bin is not a file" >&2
209     exit 2
210 fi
211
212 if [ ! -d "$srcdir" ]; then
213     echo "srcdir $srcdir is not a directory" >&2
214     exit 2
215 fi
216
217 skipped=0
218 missing=0
219 passed=0
220 failed=0
221
222 # Directory that holds the other test subdirs.  We create separate dirs
223 # inside for each test case, so that they can be left behind in case of
224 # failure to aid investigation.  We don't remove the testtmp subdir at
225 # the end so that it can be configured as a symlink to a filesystem that
226 # has ACLs and xattr support enabled (if desired).
227 scratchbase="$TOOLDIR"/testtmp
228 echo "    scratchbase=$scratchbase"
229 [ -d "$scratchbase" ] || mkdir "$scratchbase"
230
231 suitedir="$srcdir/testsuite"
232
233 export scratchdir suitedir
234
235 prep_scratch() {
236     [ -d "$scratchdir" ] && chmod -R u+rwX "$scratchdir" && rm -rf "$scratchdir"
237     mkdir "$scratchdir"
238     # Get rid of default ACLs and dir-setgid to avoid confusing some tests.
239     $setfacl_nodef "$scratchdir" || true
240     chmod g-s "$scratchdir"
241     ln -s "$srcdir" "$scratchdir/src"
242     return 0
243 }
244
245 maybe_discard_scratch() {
246     [ x"$preserve_scratch" != xyes ] && [ -d "$scratchdir" ] && rm -rf "$scratchdir"
247     return 0
248 }
249
250 if [ "x$whichtests" = x ]; then
251     whichtests="*.test"
252 fi
253
254 for testscript in $suitedir/$whichtests
255 do
256     testbase=`echo $testscript | sed -e 's!.*/!!' -e 's/.test\$//'`
257     scratchdir="$scratchbase/$testbase"
258
259     prep_scratch
260
261     set +e
262     sh $RUNSHFLAGS "$testscript" >"$scratchdir/test.log" 2>&1
263     result=$?
264     set -e
265
266     if [ "x$always_log" = xyes -o \( $result != 0 -a $result != 77 -a $result != 78 \) ]
267     then
268         echo "----- $testbase log follows"
269         cat "$scratchdir/test.log"
270         echo "----- $testbase log ends"
271         if [ -f "$scratchdir/rsyncd.log" ]; then
272             echo "----- $testbase rsyncd.log follows"
273             cat "$scratchdir/rsyncd.log"
274             echo "----- $testbase rsyncd.log ends"
275         fi
276     fi
277
278     case $result in
279     0)
280         echo "PASS    $testbase"
281         passed=`expr $passed + 1`
282         maybe_discard_scratch
283         ;;
284     77)
285         # backticks will fill the whole file onto one line, which is a feature
286         whyskipped=`cat "$scratchdir/whyskipped"`
287         echo "SKIP    $testbase ($whyskipped)"
288         skipped=`expr $skipped + 1`
289         maybe_discard_scratch
290         ;;
291     78)
292         # It failed, but we expected that.  don't dump out error logs, 
293         # because most users won't want to see them.  But do leave
294         # the working directory around.
295         echo "XFAIL   $testbase"
296         failed=`expr $failed + 1`
297         ;;
298     *)
299         echo "FAIL    $testbase"
300         failed=`expr $failed + 1`
301         if [ "x$nopersist" = xyes ]; then
302             exit 1
303         fi
304     esac
305 done
306
307 echo '------------------------------------------------------------'
308 echo "----- overall results:"
309 echo "      $passed passed"
310 [ "$failed" -gt 0 ]  && echo "      $failed failed"
311 [ "$skipped" -gt 0 ] && echo "      $skipped skipped"
312 [ "$missing" -gt 0 ] && echo "      $missing missing"
313 echo '------------------------------------------------------------'
314
315 # OK, so expr exits with 0 if the result is neither null nor zero; and
316 # 1 if the expression is null or zero.  This is the opposite of what
317 # we want, and if we just call expr then this script will always fail,
318 # because -e is set.
319
320 result=`expr $failed + $missing || true`
321 echo "overall result is $result"
322 exit $result