On BSD, this seemed to always exit after test failure. Try different
[rsync.git] / runtests.sh
1 #! /bin/sh
2
3 # Copyright (C) 2001 by Martin Pool <mbp@samba.org>
4
5 # This program is free software; you can redistribute it and/or modify
6 # it under the terms of the GNU Lesser General Public License version
7 # 2.1 as published by the Free Software Foundation.
8 #
9 # This program is distributed in the hope that it will be useful, but
10 # WITHOUT ANY WARRANTY; without even the implied warranty of
11 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12 # Lesser General Public License for more details.
13
14 # You should have received a copy of the GNU Lesser General Public
15 # License along with this program; if not, write to the Free Software
16 # Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17
18
19 # rsync top-level test script -- this invokes all the other more
20 # detailed tests in order.  This script can either be called by `make
21 # check' or `make installcheck'.  `check' runs against the copies of
22 # the program and other files in the build directory, and
23 # `installcheck' against the installed copy of the program.  
24
25 # In either case we need to also be able to find the source directory,
26 # since we read test scripts and possibly other information from
27 # there.
28
29 # Whenever possible, informational messages are written to stdout and
30 # error messages to stderr.  They're separated out by the build farm
31 # display scripts.
32
33 # According to the GNU autoconf manual, the only valid place to set up
34 # directory locations is through Make, since users are allowed to (try
35 # to) change their mind on the Make command line.  So, Make has to
36 # pass in all the values we need.
37
38 # For other configured settings we read ./config.sh, which tells us
39 # about shell commands on this machine and similar things.
40
41 # rsync_bin gives the location of the rsync binary.  This is either
42 # builddir/rsync if we're testing an uninstalled copy, or
43 # install_prefix/bin/rsync if we're testing an installed copy.  On the
44 # build farm rsync will be installed, but into a scratch /usr.
45
46 # srcdir gives the location of the source tree, which lets us find the
47 # build scripts.  At the moment we assume we are invoked from the
48 # source directory.
49
50 # This script must be invoked from the build directory.  
51
52 # A scratch directory, 'testtmp', is created in the build directory to
53 # hold working files.
54
55 # This script also uses the $loglevel environment variable.  1 is the
56 # default value, and 10 the most verbose.  You can set this from the
57 # Make command line.  It's also set by the build farm to give more
58 # detail for failing builds.
59
60
61 # NOTES FOR TEST CASES:
62
63 # Each test case runs in its own shell. 
64
65 # Exit codes from tests:
66
67 #    1  tests failed
68 #    2  error in starting tests
69 #   77  this test skipped (random value unlikely to happen by chance, same as
70 #       automake)
71
72 # HOWEVER, the overall exit code to the farm is different: we return
73 # the *number of tests that failed*, so that it will show up nicely in
74 # the overall summary.
75
76 # rsync.fns contains some general setup functions and definitions.
77
78
79 # NOTES ON PORTABILITY:
80
81 # Both this script and the Makefile have to be pretty conservative
82 # about which Unix features they use.
83
84 # We cannot count on Make exporting variables to commands, unless
85 # they're explicitly given on the command line.
86
87 # Also, we can't count on 'cp -a' or 'mkdir -p', although they're
88 # pretty handy.
89
90 # I think some of the GNU documentation suggests that we shouldn't
91 # rely on shell functions.  However, the Bash manual seems to say that
92 # they're in POSIX 1003.2, and since the build farm relies on them
93 # they're probably working on most machines we really care about.
94
95
96 set -e
97
98 . "./shconfig"
99
100 RUNSHFLAGS='-e'
101
102 if [ -n "$loglevel" ] && [ "$loglevel" -gt 8 ]
103 then
104     if set -x
105     then
106         # If it doesn't work the first time, don't keep trying.
107         RUNSHFLAGS="$RUNSHFLAGS -x"
108     fi
109 fi
110
111 echo "============================================================"
112 echo "$0 running in `pwd`"
113 echo "    rsync_bin=$rsync_bin"
114 echo "    srcdir=$srcdir"
115
116 if test ! -f $rsync_bin
117 then
118     echo "rsync_bin $rsync_bin is not a file" >&2
119     exit 2
120 fi
121
122 if test ! -d $srcdir
123 then
124     echo "srcdir $srcdir is not a directory" >&2
125     exit 2
126 fi
127
128 RSYNC="$rsync_bin"
129
130 export rsync_bin RSYNC
131
132 skipped=0
133 missing=0
134 passed=0
135 failed=0
136
137 scratchdir=./testtmp
138 [ -d "$scratchdir" ] && rm -r "$scratchdir"
139 mkdir "$scratchdir"
140 scratchdir=`cd $scratchdir && pwd`
141 echo "    scratchdir=$scratchdir"
142
143 suitedir="$srcdir/testsuite"
144
145 export scratchdir suitedir
146
147 for testbase in rsync-hello hands ssh-basic
148 do
149     testscript="$suitedir/$testbase.test"
150     if test \! -f "$testscript" 
151     then
152         echo "$testscript does not exist" >&2
153         missing=`expr $missing + 1`
154         continue
155     fi
156
157     echo "----- $testbase starting"
158
159     if sh $RUNSHFLAGS "$testscript"
160     then
161         echo "----- $testbase completed succesfully"
162         passed=`expr $passed + 1`
163     else 
164         case $? in
165         77)
166             echo "----- $testbase skipped"
167             skipped=`expr $skipped + 1`
168             ;;
169         *)
170             echo "----- $testbase failed!"
171             failed=`expr $failed + 1`
172             if [ "x$nopersist" = "xyes" ]
173             then
174                 exit 1
175             fi
176         esac
177     fi
178 done
179
180 echo '------------------------------------------------------------'
181 echo "----- overall results:"
182 echo "      $passed passed"
183 echo "      $failed failed"
184 echo "      $skipped skipped"
185 echo "      $missing missing"
186 echo '------------------------------------------------------------'
187
188 exit `expr $failed + $missing`