r26671: rap: Convert the RAP tests to the new torture API and run them by default.
[ira/wip.git] / source / selftest / samba4_tests.sh
1 #!/bin/sh
2 if [ ! -n "$PERL" ]
3 then
4         PERL=perl
5 fi
6
7 incdir=`dirname $0`
8
9 plantest() {
10         name=$1
11         env=$2
12         shift 2
13         cmdline="$*"
14         echo "-- TEST --"
15         if [ "$env" = "none" ]; then
16                 echo "samba4.$name"
17         else
18                 echo "samba4.$name ($env)"
19         fi
20         echo $env
21         echo $cmdline
22 }
23
24 $incdir/../bin/smbtorture -V
25
26 samba4srcdir=$incdir/..
27 samba4bindir=$samba4srcdir/bin
28 SCRIPTDIR=$samba4srcdir/../testprogs/ejs
29 smb4torture="$samba4bindir/smbtorture $TORTURE_OPTIONS"
30
31 plantest "js.base" dc "$SCRIPTDIR/base.js" $CONFIGURATION
32 plantest "js.samr" dc "$SCRIPTDIR/samr.js" $CONFIGURATION ncalrpc: -U\$USERNAME%\$PASSWORD
33 plantest "js.echo" dc "$SCRIPTDIR/echo.js" $CONFIGURATION ncalrpc: -U\$USERNAME%\$PASSWORD
34 #plantest "ejsnet.js" dc "$SCRIPTDIR/ejsnet.js" $CONFIGURATION -U\$USERNAME%\$PASSWORD \$DOMAIN ejstestuser
35 plantest "js.ldb" none "$SCRIPTDIR/ldb.js" `pwd` $CONFIGURATION -d 10
36 plantest "js.winreg" dc $samba4srcdir/scripting/bin/winreg $CONFIGURATION ncalrpc: 'HKLM' -U\$USERNAME%\$PASSWORD
37
38 # Simple tests for LDAP and CLDAP
39
40 for options in "" "--option=socket:testnonblock=true" "-U\$USERNAME%\$PASSWORD --option=socket:testnonblock=true" "-U\$USERNAME%\$PASSWORD"; do
41     plantest "ldb.ldap with options $options" dc $samba4srcdir/../testprogs/blackbox/test_ldb.sh ldap \$SERVER_IP $options
42 done
43 # see if we support ldaps
44 if grep ENABLE_GNUTLS.1 include/config.h > /dev/null; then
45     for options in "" "-U\$USERNAME%\$PASSWORD"; do
46         plantest "ldb.ldaps with options $options" dc $samba4srcdir/../testprogs/blackbox/test_ldb.sh ldaps \$SERVER_IP $options
47     done
48 fi
49 for t in LDAP-CLDAP LDAP-BASIC LDAP-SCHEMA LDAP-UPTODATEVECTOR
50 do
51         plantest "$t" dc $smb4torture "-U\$USERNAME%\$PASSWORD" //\$SERVER_IP/_none_ $t
52 done
53
54 # only do the ldb tests when not in quick mode - they are quite slow, and ldb
55 # is now pretty well tested by the rest of the quick tests anyway
56 LDBDIR=$samba4srcdir/lib/ldb
57 export LDBDIR
58 plantest "ldb" none $LDBDIR/tests/test-tdb.sh
59
60 plantest "js.ldap" dc $SCRIPTDIR/ldap.js $CONFIGURATION -d 10 \$SERVER -U\$USERNAME%\$PASSWORD
61
62 # Tests for RPC
63
64 # add tests to this list as they start passing, so we test
65 # that they stay passing
66 ncacn_np_tests="RPC-SCHANNEL RPC-JOIN RPC-LSA RPC-DSSETUP RPC-ALTERCONTEXT RPC-MULTIBIND RPC-NETLOGON RPC-HANDLES RPC-SAMSYNC RPC-SAMBA3SESSIONKEY RPC-SAMBA3-GETUSERNAME RPC-SAMBA3-LSA RPC-BINDSAMBA3 RPC-NETLOGSAMBA3 RPC-ASYNCBIND RPC-LSALOOKUP RPC-LSA-GETUSER RPC-SCHANNEL2 RPC-AUTHCONTEXT"
67 ncalrpc_tests="RPC-SCHANNEL RPC-JOIN RPC-LSA RPC-DSSETUP RPC-ALTERCONTEXT RPC-MULTIBIND RPC-NETLOGON RPC-DRSUAPI RPC-ASYNCBIND RPC-LSALOOKUP RPC-LSA-GETUSER RPC-SCHANNEL2 RPC-AUTHCONTEXT"
68 ncacn_ip_tcp_tests="RPC-SCHANNEL RPC-JOIN RPC-LSA RPC-DSSETUP RPC-ALTERCONTEXT RPC-MULTIBIND RPC-NETLOGON RPC-HANDLES RPC-DSSYNC RPC-ASYNCBIND RPC-LSALOOKUP RPC-LSA-GETUSER RPC-SCHANNEL2 RPC-AUTHCONTEXT"
69 slow_ncacn_np_tests="RPC-SAMLOGON RPC-SAMR RPC-SAMR-USERS RPC-SAMR-PASSWORDS"
70 slow_ncalrpc_tests="RPC-SAMR RPC-SAMR-PASSWORDS"
71 slow_ncacn_ip_tcp_tests="RPC-SAMR RPC-SAMR-PASSWORDS RPC-CRACKNAMES"
72
73 all_tests="$ncalrpc_tests $ncacn_np_tests $ncacn_ip_tcp_tests $slow_ncalrpc_tests $slow_ncacn_np_tests $slow_ncacn_ip_tcp_tests RPC-SECRETS RPC-SAMBA3-SHARESEC"
74
75 # Make sure all tests get run
76 for t in `$smb4torture --list | grep "^RPC-"`
77 do
78         echo $all_tests | grep $t  > /dev/null
79         if [ $? -ne 0 ]
80         then
81                 auto_rpc_tests="$auto_rpc_tests $t"
82         fi
83 done
84
85 for bindoptions in seal,padcheck $VALIDATE bigendian; do
86  for transport in ncalrpc ncacn_np ncacn_ip_tcp; do
87      case $transport in
88          ncalrpc) tests=$ncalrpc_tests ;;
89          ncacn_np) tests=$ncacn_np_tests ;;
90          ncacn_ip_tcp) tests=$ncacn_ip_tcp_tests ;;
91      esac
92    for t in $tests; do
93     plantest "$t on $transport with $bindoptions" dc $VALGRIND $smb4torture $transport:"\$SERVER[$bindoptions]" -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN $t "$*"
94    done
95    plantest "RPC-SAMBA3-SHARESEC on $transport with $bindoptions" dc $VALGRIND $smb4torture $transport:"\$SERVER[$bindoptions]" -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN --option=torture:share=tmp $t "$*"
96  done
97 done
98
99 for bindoptions in "" $VALIDATE bigendian; do
100  for t in $auto_rpc_tests; do
101   plantest "$t with $bindoptions" dc $VALGRIND $smb4torture "\$SERVER[$bindoptions]" -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN $t "$*"
102  done
103 done
104
105 for bindoptions in connect $VALIDATE ; do
106  for transport in ncalrpc ncacn_np ncacn_ip_tcp; do
107      case $transport in
108          ncalrpc) tests=$slow_ncalrpc_tests ;;
109          ncacn_np) tests=$slow_ncacn_np_tests ;;
110          ncacn_ip_tcp) tests=$slow_ncacn_ip_tcp_tests ;;
111      esac
112    for t in $tests; do
113     plantest "$t on $transport with $bindoptions" dc $VALGRIND $smb4torture $transport:"\$SERVER[$bindoptions]" -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN $t "$*"
114    done
115  done
116 done
117
118
119 # Tests for the NET API
120
121 net=`$smb4torture --list | grep ^NET-`
122
123 for t in $net; do
124     plantest "$t" dc $VALGRIND $smb4torture "\$SERVER[$VALIDATE]" -U"\$USERNAME"%"\$PASSWORD" -W "\$DOMAIN" $t "$*"
125 done
126
127 # Tests for session keys
128
129 bindoptions=""
130 transport="ncacn_np"
131 for ntlmoptions in \
132         "-k no --option=usespnego=yes" \
133         "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no" \
134         "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=yes" \
135         "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=no" \
136         "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes" \
137         "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=no" \
138         "-k no --option=usespnego=yes --option=clientntlmv2auth=yes" \
139         "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no" \
140         "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes" \
141         "-k no --option=usespnego=no --option=clientntlmv2auth=yes" \
142         "-k no --option=gensec:spnego=no --option=clientntlmv2auth=yes" \
143         "-k no --option=usespnego=no"; do
144         name="RPC-SECRETS on $transport with $bindoptions with $ntlmoptions"
145    plantest "$name" dc $smb4torture $transport:"\$SERVER[$bindoptions]"  $ntlmoptions -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN --option=gensec:target_hostname=\$NETBIOSNAME RPC-SECRETS "$*"
146 done
147 plantest "RPC-SECRETS on $transport with $bindoptions with Kerberos" dc $smb4torture $transport:"\$SERVER[$bindoptions]" -k yes -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN "--option=gensec:target_hostname=\$NETBIOSNAME" RPC-SECRETS "$*"
148 plantest "RPC-SECRETS on $transport with $bindoptions with Kerberos - use target principal" dc $smb4torture $transport:"\$SERVER[$bindoptions]" -k yes -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN "--option=clientusespnegoprincipal=yes" "--option=gensec:target_hostname=\$NETBIOSNAME" RPC-SECRETS "$*"
149  plantest "RPC-SECRETS on $transport with Kerberos - use Samba3 style login" dc $smb4torture $transport:"\$SERVER" -k yes -U"\$USERNAME"%"\$PASSWORD" -W "\$DOMAIN" "--option=gensec:fake_gssapi_krb5=yes" "--option=gensec:gssapi_krb5=no" "--option=gensec:target_hostname=\$NETBIOSNAME" "RPC-SECRETS-none*" "$*"
150  plantest "RPC-SECRETS on $transport with Kerberos - use Samba3 style login, use target principal" dc $smb4torture $transport:"\$SERVER" -k yes -U"\$USERNAME"%"\$PASSWORD" -W "\$DOMAIN" "--option=clientusespnegoprincipal=yes" "--option=gensec:fake_gssapi_krb5=yes" "--option=gensec:gssapi_krb5=no" "--option=gensec:target_hostname=\$NETBIOSNAME" "RPC-SECRETS-none*" "$*"
151
152 # Echo tests
153 transports="ncacn_np ncacn_ip_tcp ncalrpc"
154
155 for transport in $transports; do
156  for bindoptions in connect spnego spnego,sign spnego,seal $VALIDATE padcheck bigendian bigendian,seal; do
157   for ntlmoptions in \
158         "--option=socket:testnonblock=True --option=torture:quick=yes"; do
159    plantest "RPC-ECHO on $transport with $bindoptions and $ntlmoptions" dc $smb4torture $transport:"\$SERVER[$bindoptions]" $ntlmoptions -U"\$USERNAME"%"\$PASSWORD" -W "\$DOMAIN" RPC-ECHO "$*"
160   done
161  done
162 done
163
164 for transport in $transports; do
165  for bindoptions in sign seal; do
166   for ntlmoptions in \
167         "--option=ntlmssp_client:ntlm2=yes --option=torture:quick=yes" \
168         "--option=ntlmssp_client:ntlm2=no  --option=torture:quick=yes" \
169         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:128bit=no --option=torture:quick=yes" \
170         "--option=ntlmssp_client:ntlm2=no  --option=ntlmssp_client:128bit=no --option=torture:quick=yes" \
171         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes" \
172         "--option=ntlmssp_client:ntlm2=no  --option=ntlmssp_client:keyexchange=no  --option=torture:quick=yes" \
173         "--option=clientntlmv2auth=yes  --option=ntlmssp_client:keyexchange=no  --option=torture:quick=yes" \
174         "--option=clientntlmv2auth=yes  --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=yes  --option=torture:quick=yes" \
175         "--option=clientntlmv2auth=yes  --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=no  --option=torture:quick=yes" \
176     ; do
177    plantest "RPC-ECHO on $transport with $bindoptions and $ntlmoptions" dc $smb4torture $transport:"\$SERVER[$bindoptions]" $ntlmoptions -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN RPC-ECHO "$*"
178   done
179  done
180 done
181
182 plantest "RPC-ECHO on ncacn_np over smb2" dc $smb4torture ncacn_np:"\$SERVER[smb2]" -U"\$USERNAME"%"\$PASSWORD" -W \$DOMAIN RPC-ECHO "$*"
183
184 # Tests against the NTVFS POSIX backend
185 smb2=`$smb4torture --list | grep "^SMB2-" | xargs`
186 raw=`$smb4torture --list | grep "^RAW-" | xargs`
187 base=`$smb4torture --list | grep "^BASE-" | xargs`
188
189 for t in $base $raw $smb2; do
190     plantest "$t" dc $VALGRIND $smb4torture $ADDARGS //\$SERVER/tmp -U"\$USERNAME"%"\$PASSWORD" $t
191 done
192
193 rap=`$smb4torture --list | grep "^RAP-" | xargs`
194 for t in $rap; do
195     plantest "$t" dc $VALGRIND $smb4torture $ADDARGS //\$SERVER/IPC\\\$ -U"\$USERNAME"%"\$PASSWORD" $t
196 done
197
198 # Tests against the NTVFS CIFS backend
199 for t in $base $raw; do
200     plantest "ntvfs.cifs.$t" dc $VALGRIND $smb4torture //\$NETBIOSNAME/cifs -U"\$USERNAME"%"\$PASSWORD" $t
201 done
202
203 # Local tests
204
205 for t in `$smb4torture --list | grep "^LOCAL-" | xargs`; do
206         plantest "$t" none $VALGRIND $smb4torture ncalrpc: $t "$*"
207 done
208
209 if test -f $samba4bindir/tdbtorture
210 then
211         plantest "tdb stress" none $VALGRIND $samba4bindir/tdbtorture
212 fi
213
214 # Pidl tests
215
216 if test x"${PIDL_TESTS_SKIP}" = x"yes"; then
217    echo "Skipping pidl tests - PIDL_TESTS_SKIP=yes"
218 elif $PERL -e 'eval require Test::More;' > /dev/null 2>&1; then
219   for f in $samba4srcdir/pidl/tests/*.pl; do
220      plantest "pidl.`basename $f .pl`" none $PERL $f "|" $samba4srcdir/script/harness2subunit.pl
221   done
222 else 
223    echo "Skipping pidl tests - Test::More not installed"
224 fi
225
226 # Blackbox Tests:
227 # tests that interact directly with the command-line tools rather than using 
228 # the API
229
230 bbdir=$incdir/../../testprogs/blackbox
231
232 plantest "blackbox.smbclient" dc $bbdir/test_smbclient.sh "\$SERVER" "\$USERNAME" "\$PASSWORD" "\$DOMAIN" "$PREFIX" 
233 plantest "blackbox.kinit" dc $bbdir/test_kinit.sh "\$SERVER" "\$USERNAME" "\$PASSWORD" "\$REALM" "\$DOMAIN" "$PREFIX" 
234 plantest "blackbox.cifsdd" dc $bbdir/test_cifsdd.sh "\$SERVER" "\$USERNAME" "\$PASSWORD" "\$DOMAIN" 
235 plantest "blackbox.nmblookup" dc $bbdir/test_nmblookup.sh "\$NETBIOSNAME" "\$NETBIOSALIAS" "\$SERVER" "\$SERVER_IP" 
236 plantest "blackbox.nmblookup" member $bbdir/test_nmblookup.sh "\$NETBIOSNAME" "\$NETBIOSALIAS" "\$SERVER" "\$SERVER_IP"
237
238 # Tests using the "Simple" NTVFS backend
239
240 for t in "BASE-RW1"; do
241     plantest "ntvfs/simple $t" dc $VALGRIND $smb4torture $ADDARGS //\$SERVER/simple -U"\$USERNAME"%"\$PASSWORD" $t
242 done
243
244 DATADIR=$samba4srcdir/../testdata
245
246 plantest "parse samba3" none $samba4bindir/smbscript $DATADIR/samba3/verify $CONFIGURATION $DATADIR/samba3
247 plantest "js.samba3sam" none $SCRIPTDIR/samba3sam.js $CONFIGURATION `pwd` $DATADIR/samba3/
248
249 # Domain Member Tests
250
251 plantest "RPC-ECHO against member server with local creds" member $VALGRIND $smb4torture ncacn_np:"\$NETBIOSNAME" -U"\$NETBIOSNAME/\$USERNAME"%"\$PASSWORD" RPC-ECHO "$*"
252 plantest "RPC-ECHO against member server with domain creds" member $VALGRIND $smb4torture ncacn_np:"\$NETBIOSNAME" -U"\$DOMAIN/\$DC_USERNAME"%"\$DC_PASSWORD" RPC-ECHO "$*"
253 plantest "RPC-SAMR against member server with local creds" member $VALGRIND $smb4torture ncacn_np:"\$NETBIOSNAME" -U"\$NETBIOSNAME/\$USERNAME"%"\$PASSWORD" "RPC-SAMR" "$*"
254 plantest "RPC-SAMR-USERS against member server with local creds" member $VALGRIND $smb4torture ncacn_np:"\$NETBIOSNAME" -U"\$NETBIOSNAME/\$USERNAME"%"\$PASSWORD" "RPC-SAMR-USERS" "$*"
255 plantest "RPC-SAMR-PASSWORDS against member server with local creds" member $VALGRIND $smb4torture ncacn_np:"\$NETBIOSNAME" -U"\$NETBIOSNAME/\$USERNAME"%"\$PASSWORD" "RPC-SAMR-PASSWORDS" "$*"
256 plantest "wbinfo -a against member server with domain creds" member $VALGRIND $samba4bindir/wbinfo -a "\$DOMAIN/\$DC_USERNAME"%"\$DC_PASSWORD"
257
258 NBT_TESTS=`$smb4torture --list | grep "^NBT-" | xargs`
259
260 for f in $NBT_TESTS; do
261         plantest $f dc $smb4torture //\$SERVER/_none_ $f -U\$USERNAME%\$PASSWORD 
262 done
263
264 WB_OPTS="--option=\"torture:strict mode=yes\""
265 WB_OPTS="${WB_OPTS} --option=\"torture:timelimit=1\""
266 WB_OPTS="${WB_OPTS} --option=\"torture:winbindd separator=\\\\\""
267 WB_OPTS="${WB_OPTS} --option=\"torture:winbindd private pipe dir=\$WINBINDD_PRIV_PIPE_DIR\""
268 WB_OPTS="${WB_OPTS} --option=\"torture:winbindd netbios name=\$SERVER\""
269 WB_OPTS="${WB_OPTS} --option=\"torture:winbindd netbios domain=\$DOMAIN\""
270
271 WINBIND_STRUCT_TESTS=`$smb4torture --list | grep "^WINBIND-STRUCT" | xargs`
272 WINBIND_NDR_TESTS=`$smb4torture --list | grep "^WINBIND-NDR" | xargs`
273 for env in dc member; do
274         for t in $WINBIND_STRUCT_TESTS; do
275                 plantest $t $env $smb4torture $WB_OPTS //_none_/_none_ $t
276         done
277
278         for t in $WINBIND_NDR_TESTS; do
279                 plantest $t $env $smb4torture $WB_OPTS //_none_/_none_ $t
280         done
281 done
282
283 if test -f $samba4bindir/nsstest 
284 then
285         plantest "NSS-TEST using winbind" member $VALGRIND $samba4bindir/nsstest $samba4bindir/shared/libnss_winbind.so
286 fi
287
288 # if python is available, run the python tests:
289 if test -f $samba4bindir/smbpython
290 then
291         PYTHON=bin/smbpython
292         SUBUNITRUN="$PYTHON ./scripting/bin/subunitrun"
293         plantest "ldb.python" none PYTHONPATH="$PYTHONPATH:lib/ldb/tests/python/" $SUBUNITRUN api
294         plantest "credentials.python" none PYTHONPATH="$PYTHONPATH:auth/credentials/tests" $SUBUNITRUN bindings
295         plantest "registry.python" none PYTHONPATH="$PYTHONPATH:lib/registry/tests/" $SUBUNITRUN bindings
296         plantest "tdb.python" none PYTHONPATH="$PYTHONPATH:lib/tdb/python/tests" $SUBUNITRUN simple
297         plantest "auth.python" none PYTHONPATH="$PYTHONPATH:auth/tests/" $SUBUNITRUN bindings
298         plantest "security.python" none PYTHONPATH="$PYTHONPATH:libcli/security/tests" $SUBUNITRUN bindings
299         plantest "param.python" none PYTHONPATH="$PYTHONPATH:param/tests" $SUBUNITRUN bindings
300         plantest "upgrade.python" none $SUBUNITRUN samba.tests.upgrade
301         plantest "samba.python" none $SUBUNITRUN samba.tests
302         plantest "provision.python" none $SUBUNITRUN samba.tests.provision
303         plantest "samba3.python" none $SUBUNITRUN samba.tests.samba3
304         plantest "events.python" none PYTHONPATH="$PYTHONPATH:lib/events" $SUBUNITRUN tests
305         plantest "samba3sam.python" none PYTHONPATH="$PYTHONPATH:dsdb/samdb/ldb_modules/tests" $SUBUNITRUN samba3sam
306         plantest "ldap.python" dc $PYTHON $samba4srcdir/lib/ldb/tests/python/ldap.py \$SERVER -U\$USERNAME%\$PASSWORD
307         plantest "blackbox.samba3dump" none $PYTHON scripting/bin/samba3dump $samba4srcdir/../testdata/samba3
308         rm -rf $PREFIX/upgrade
309         plantest "blackbox.upgrade" none $PYTHON setup/upgrade.py $CONFIGURATION --targetdir=$PREFIX/upgrade ../testdata/samba3 ../testdata/samba3/smb.conf
310         rm -rf $PREFIX/provision
311         plantest "blackbox.provision.py" none $PYTHON ./setup/provision.py $CONFIGURATION --domain=FOO --realm=foo --targetdir=$PREFIX/provision
312 fi