source4/selftest/tests.py

   1 #!/usr/bin/python
   2 # This script generates a list of testsuites that should be run as part of
   3 # the Samba 4 test suite.
   4
   5 # The output of this script is parsed by selftest.pl, which then decides
   6 # which of the tests to actually run. It will, for example, skip all tests
   7 # listed in selftest/skip or only run a subset during "make quicktest".
   8
   9 # The idea is that this script outputs all of the tests of Samba 4, not
  10 # just those that are known to pass, and list those that should be skipped
  11 # or are known to fail in selftest/skip or selftest/knownfail. This makes it
  12 # very easy to see what functionality is still missing in Samba 4 and makes
  13 # it possible to run the testsuite against other servers, such as Samba 3 or
  14 # Windows that have a different set of features.
  15
  16 # The syntax for a testsuite is "-- TEST --" on a single line, followed
  17 # by the name of the test, the environment it needs and the command to run, all
  18 # three separated by newlines. All other lines in the output are considered
  19 # comments.
  20
  21 import os
  22 import subprocess
  23
  24 def binpath(name):
  25     return os.path.join(samba4bindir, "%s%s" % (name, os.getenv("EXEEXT", "")))
  26
  27 perl = os.getenv("PERL", "perl")
  28
  29 if subprocess.call([perl, "-e", "eval require Test::More;"]) == 0:
  30     has_perl_test_more = True
  31 else:
  32     has_perl_test_more = False
  33
  34 try:
  35     import subunit.run
  36 except ImportError:
  37     has_system_subunit_run = False
  38 else:
  39     has_system_subunit_run = True
  40
  41 python = os.getenv("PYTHON", "python")
  42
  43 def valgrindify(cmdline):
  44     """Run a command under valgrind, if $VALGRIND was set."""
  45     valgrind = os.getenv("VALGRIND")
  46     if valgrind is None:
  47         return cmdline
  48     return valgrind + " " + cmdline
  49
  50
  51 def plantestsuite(name, env, cmdline):
  52     """Plan a test suite.
  53
  54     :param name: Testsuite name
  55     :param env: Environment to run the testsuite in
  56     :param cmdline: Command line to run
  57     """
  58     print "-- TEST --"
  59     print name
  60     print env
  61     if isinstance(cmdline, list):
  62         cmdline = " ".join(cmdline)
  63     print "%s 2>&1 | ../selftest/filter-subunit --prefix=\"%s.\"" % (cmdline, name)
  64
  65
  66 def plantestsuite_loadlist(name, env, cmdline):
  67     print "-- TEST-LOADLIST --"
  68     if env == "none":
  69         fullname = name
  70     else:
  71         fullname = "%s(%s)" % (name, env)
  72     print fullname
  73     print env
  74     if isinstance(cmdline, list):
  75         cmdline = " ".join(cmdline)
  76     print "%s $LOADLIST 2>&1 | ../selftest/filter-subunit --prefix=\"%s.\"" % (cmdline, fullname)
  77
  78
  79 def plantestsuite_idlist(name, env, cmdline):
  80     print "-- TEST-IDLIST --"
  81     print name
  82     print env
  83     if isinstance(cmdline, list):
  84         cmdline = " ".join(cmdline)
  85     print cmdline
  86
  87
  88 def skiptestsuite(name, reason):
  89     """Indicate that a testsuite was skipped.
  90
  91     :param name: Test suite name
  92     :param reason: Reason the test suite was skipped
  93     """
  94     # FIXME: Report this using subunit, but re-adjust the testsuite count somehow
  95     print "skipping %s (%s)" % (name, reason)
  96
  97
  98 def normalize_testname(name):
  99     """Normalize a smbtorture test suite name.
 100     """
 101     return name.lower().replace(" ", "_").replace("-", ".")
 102
 103
 104 def planperltestsuite(name, path):
 105     """Run a perl test suite.
 106
 107     :param name: Name of the test suite
 108     :param path: Path to the test runner
 109     """
 110     if has_perl_test_more:
 111         plantestsuite(name, "none", "%s %s | %s" % (perl, path, tap2subunit))
 112     else:
 113         skiptestsuite(name, "Test::More not available")
 114
 115
 116 def planpythontestsuite(env, module):
 117     if has_system_subunit_run:
 118         plantestsuite_idlist(module, env, [python, "-m", "subunit.run", module])
 119     else:
 120         plantestsuite_idlist(module, env, "PYTHONPATH=$PYTHONPATH:%s/../lib/subunit/python:%s/../lib/testtools %s -m subunit.run %s" % (samba4srcdir, samba4srcdir, python, module))
 121
 122
 123 def plansmbtorturetestsuite(name, env, options):
 124     modname = "samba4.%s" % normalize_testname(name)
 125     cmdline = "%s %s %s" % (valgrindify(smb4torture), options, name)
 126     plantestsuite_loadlist(modname, env, cmdline)
 127
 128
 129 samba4srcdir = os.path.abspath(os.path.join(os.path.dirname(__file__), ".."))
 130 builddir = os.getenv("BUILDDIR", samba4srcdir)
 131 samba4bindir = os.path.join(builddir, "bin")
 132 smb4torture = binpath("smbtorture")
 133 smb4torture_testsuite_list = subprocess.Popen([smb4torture, "--list"], stdout=subprocess.PIPE).communicate()[0].splitlines()
 134 validate = os.getenv("VALIDATE", "")
 135 def smb4torture_testsuites(prefix):
 136     return filter(lambda x: x.startswith(prefix), smb4torture_testsuite_list)
 137
 138 sub = subprocess.Popen("tap2subunit", stdout=subprocess.PIPE, stdin=subprocess.PIPE)
 139 sub.communicate("")
 140 if sub.returncode != 1:
 141     tap2subunit = "PYTHONPATH=%s/../lib/subunit/python:%s/../lib/testtools %s %s/../lib/subunit/filters/tap2subunit" % (samba4srcdir, samba4srcdir, python, samba4srcdir)
 142 else:
 143     tap2subunit = "tap2subunit"
 144
 145 subprocess.check_call([smb4torture, "-V"])
 146
 147 bbdir = "../testprogs/blackbox"
 148
 149 configuration = "--configfile=$SMB_CONF_PATH"
 150
 151 torture_options = [configuration, "--maximum-runtime=$SELFTEST_MAXTIME", "--target=$SELFTEST_TARGET", "--basedir=$SELFTEST_PREFIX/s4client", "--format=subunit"]
 152 if not os.getenv("SELFTEST_VERBOSE"):
 153     torture_options.append("--option=torture:progress=no")
 154 if os.getenv("SELFTEST_QUICK"):
 155     torture_options.append("--option=torture:quick=yes")
 156 smb4torture += " " + " ".join(torture_options)
 157
 158 print "OPTIONS %s" % (torture_options,)
 159
 160 # Simple tests for LDAP and CLDAP
 161
 162 for options in ["-U$USERNAME%$PASSWORD --option=socket:testnonblock=true", "-U$USERNAME%$PASSWORD", "-U$USERNAME%$PASSWORD -k yes", "-U$USERNAME%$PASSWORD -k no", "-U$USERNAME%$PASSWORD -k no --sign", "-U$USERNAME%$PASSWORD -k no --encrypt", "-U$USERNAME%$PASSWORD -k yes --encrypt", "-U$USERNAME%$PASSWORD -k yes --sign"]:
 163     plantestsuite("samba4.ldb.ldap with options %s(dc)" % options, "dc", "%s/test_ldb.sh ldap $SERVER %s" % (bbdir, options))
 164
 165 # see if we support ldaps
 166 try:
 167     config_h = os.environ["CONFIG_H"]
 168 except KeyError:
 169     config_h = os.path.join(samba4bindir, "default/source4/include/config.h")
 170 f = open(config_h, 'r')
 171 try:
 172     have_tls_support = "ENABLE_GNUTLS.1" in f.read()
 173 finally:
 174     f.close()
 175
 176 if have_tls_support:
 177     for options in ["-U$USERNAME%$PASSWORD"]:
 178         plantestsuite("samba4.ldb.ldaps with options %s(dc)" % options, "dc",
 179                 "%s/test_ldb.sh ldaps $SERVER_IP %s" % (bbdir, options))
 180
 181 for options in ["-U$USERNAME%$PASSWORD"]:
 182     plantestsuite("samba4.ldb.ldapi with options $options(dc:local)", "dc:local",
 183             "%s/test_ldb.sh ldapi $PREFIX_ABS/dc/private/ldapi %s" % (bbdir, options))
 184
 185 for t in smb4torture_testsuites("LDAP-"):
 186     plansmbtorturetestsuite(t, "dc", '"-U$USERNAME%$PASSWORD" //$SERVER_IP/_none_')
 187
 188 ldbdir = os.path.join(samba4srcdir, "lib/ldb")
 189 # Don't run LDB tests when using system ldb, as we won't have ldbtest installed
 190 if os.path.exists(os.path.join(samba4bindir, "ldbtest")):
 191     plantestsuite("ldb.base", "none", "TEST_DATA_PREFIX=$PREFIX %s/tests/test-tdb.sh" % ldbdir)
 192 else:
 193     skiptestsuite("ldb.base", "Using system LDB, ldbtest not available")
 194
 195 # Tests for RPC
 196
 197 # add tests to this list as they start passing, so we test
 198 # that they stay passing
 199 ncacn_np_tests = ["RPC-SCHANNEL", "RPC-JOIN", "RPC-LSA", "RPC-DSSETUP", "RPC-ALTERCONTEXT", "RPC-MULTIBIND", "RPC-NETLOGON", "RPC-HANDLES", "RPC-SAMSYNC", "RPC-SAMBA3-SESSIONKEY", "RPC-SAMBA3-GETUSERNAME", "RPC-SAMBA3-LSA", "RPC-SAMBA3-BIND", "RPC-SAMBA3-NETLOGON", "RPC-ASYNCBIND", "RPC-LSALOOKUP", "RPC-LSA-GETUSER", "RPC-SCHANNEL2", "RPC-AUTHCONTEXT"]
 200 ncalrpc_tests = ["RPC-SCHANNEL", "RPC-JOIN", "RPC-LSA", "RPC-DSSETUP", "RPC-ALTERCONTEXT", "RPC-MULTIBIND", "RPC-NETLOGON", "RPC-DRSUAPI", "RPC-ASYNCBIND", "RPC-LSALOOKUP", "RPC-LSA-GETUSER", "RPC-SCHANNEL2", "RPC-AUTHCONTEXT"]
 201 drs_rpc_tests = smb4torture_testsuites("DRS-RPC")
 202 ncacn_ip_tcp_tests = ["RPC-SCHANNEL", "RPC-JOIN", "RPC-LSA", "RPC-DSSETUP", "RPC-ALTERCONTEXT", "RPC-MULTIBIND", "RPC-NETLOGON", "RPC-HANDLES", "RPC-ASYNCBIND", "RPC-LSALOOKUP", "RPC-LSA-GETUSER", "RPC-SCHANNEL2", "RPC-AUTHCONTEXT", "RPC-OBJECTUUID"] + drs_rpc_tests
 203 slow_ncacn_np_tests = ["RPC-SAMLOGON", "RPC-SAMR-USERS", "RPC-SAMR-LARGE-DC", "RPC-SAMR-USERS-PRIVILEGES", "RPC-SAMR-PASSWORDS", "RPC-SAMR-PASSWORDS-PWDLASTSET"]
 204 slow_ncacn_ip_tcp_tests = ["RPC-SAMR", "RPC-CRACKNAMES"]
 205
 206 all_tests = ncalrpc_tests + ncacn_np_tests + ncacn_ip_tcp_tests + slow_ncacn_np_tests + slow_ncacn_ip_tcp_tests + ["RPC-LSA-SECRETS", "RPC-SAMBA3-SHARESEC", "RPC-COUNTCALLS"]
 207
 208 # Make sure all tests get run
 209 rpc_tests = smb4torture_testsuites("RPC-")
 210 auto_rpc_tests = []
 211 for t in rpc_tests:
 212     if not t in all_tests:
 213         auto_rpc_tests.append(t)
 214
 215 for bindoptions in ["seal,padcheck", validate, "bigendian"]:
 216     for transport in ["ncalrpc", "ncacn_np", "ncacn_ip_tcp"]:
 217         env = "dc"
 218         if transport == "ncalrpc":
 219             tests = ncalrpc_tests
 220             env = "dc:local"
 221         elif transport == "ncacn_np":
 222             tests = ncacn_np_tests
 223         elif transport == "ncacn_ip_tcp":
 224             tests = ncacn_ip_tcp_tests
 225         for t in tests:
 226             plantestsuite_loadlist("samba4.%s on %s transport with %s" % (normalize_testname(t), transport, bindoptions), env, [valgrindify(smb4torture), "%s:\"$SERVER[%s]\"" % (transport, bindoptions), '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', t])
 227         plantestsuite_loadlist("samba4.rpc.samba3.sharesec on %s with %s" % (transport, bindoptions), env, [valgrindify(smb4torture), "%s:\"$SERVER[%s]\"" % (transport, bindoptions), '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', '--option=torture:share=tmp', 'RPC-SAMBA3-SHARESEC'])
 228
 229 for bindoptions in ["", validate, "bigendian"]:
 230     for t in auto_rpc_tests:
 231         plantestsuite_loadlist("samba4.%s with %s" % (normalize_testname(t), bindoptions), "dc", [valgrindify(smb4torture), "\"$SERVER[%s]\"" % bindoptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', t])
 232
 233 t = "RPC-COUNTCALLS"
 234 plantestsuite_loadlist("samba4.%s" % normalize_testname(t), "dc:local", [valgrindify(smb4torture), "\"$SERVER[%s]\"" % bindoptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', t])
 235
 236 for transport in ["ncacn_np", "ncacn_ip_tcp"]:
 237     env = "dc"
 238     if transport == "ncacn_np":
 239         tests = slow_ncacn_np_tests
 240     elif transport == "ncacn_ip_tcp":
 241         tests = slow_ncacn_ip_tcp_tests
 242     for t in tests:
 243         plantestsuite_loadlist("samba4.%s on %s" % (normalize_testname(t), transport), env, [valgrindify(smb4torture), "%s:\"$SERVER" % transport, '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', t])
 244
 245 # Tests for the DFS referral calls implementation
 246 for t in smb4torture_testsuites("DFS-"):
 247     plansmbtorturetestsuite(t, "dc", '//$SERVER/ipc$ -U"$USERNAME"%"$PASSWORD"')
 248
 249 # Tests for the NET API (NET-API-BECOME-DC tested below against all the roles)
 250 net_tests = filter(lambda x: "NET-API-BECOME-DC" not in x, smb4torture_testsuites("NET-"))
 251 for t in net_tests:
 252     plansmbtorturetestsuite(t, "dc", '"$SERVER[%s]" -U"$USERNAME"%%"$PASSWORD" -W "$DOMAIN"' % validate)
 253
 254 # Tests for session keys and encryption of RPC pipes
 255 # FIXME: Integrate these into a single smbtorture test
 256
 257 bindoptions = ""
 258 transport = "ncacn_np"
 259 for ntlmoptions in [
 260     "-k no --option=usespnego=yes",
 261     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no",
 262     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=yes",
 263     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=no",
 264     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 265     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=no",
 266     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes",
 267     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no",
 268     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 269     "-k no --option=usespnego=no --option=clientntlmv2auth=yes",
 270     "-k no --option=gensec:spnego=no --option=clientntlmv2auth=yes",
 271     "-k no --option=usespnego=no"]:
 272     name = "rpc.lsa.secrets on %s with %s with %s" % (transport, bindoptions, ntlmoptions)
 273     plantestsuite_loadlist("samba4.%s" % name, "dc", [smb4torture, "%s:\"$SERVER[%s]\"" % (transport, bindoptions), ntlmoptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', '--option=gensec:target_hostname=$NETBIOSNAME', 'RPC-LSA-SECRETS'])
 274
 275 transports = ["ncacn_np", "ncacn_ip_tcp"]
 276
 277 #Kerberos varies between functional levels, so it is important to check this on all of them
 278 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 279     for transport in transports:
 280         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with %s with Kerberos" % (transport, bindoptions), env, [smb4torture, "%s:\"$SERVER[%s]\"" % (transport, bindoptions), '-k', 'yes', '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', '"--option=gensec:target_hostname=$NETBIOSNAME"', 'RPC-LSA-SECRETS'])
 281         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with %s with Kerberos - use target principal" % (transport, bindoptions), env, [smb4torture, "%s:\"$SERVER[%s]\"" % (transport, bindoptions), '-k', 'yes', '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', "--option=clientusespnegoprincipal=yes", '"--option=gensec:target_hostname=$NETBIOSNAME"', 'RPC-LSA-SECRETS'])
 282         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login" % transport, env, [smb4torture, "%s:\"$SERVER\"" % transport, '-k', 'yes', '-U"$USERNAME"%"$PASSWORD"', '-W', '"$DOMAIN"', "--option=gensec:fake_gssapi_krb5=yes", '"--option=gensec:gssapi_krb5=no"', '"--option=gensec:target_hostname=$NETBIOSNAME"', "RPC-LSA-SECRETS-none*"])
 283         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login, use target principal" % transport, env, [smb4torture, "%s:\"$SERVER\"" % transport, '-k', 'yes', '-U"$USERNAME"%"$PASSWORD"', '-W', '"$DOMAIN"', "--option=clientusespnegoprincipal=yes", '"--option=gensec:fake_gssapi_krb5=yes"', '"--option=gensec:gssapi_krb5=no"', '"--option=gensec:target_hostname=$NETBIOSNAME"', "RPC-LSA-SECRETS-none*"])
 284         plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, ntlmoptions), env, [smb4torture, "%s:\"$SERVER[%s]\"" % (transport, bindoptions), ntlmoptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '"$DOMAIN"', 'RPC-ECHO'])
 285
 286         # Echo tests test bulk Kerberos encryption of DCE/RPC
 287         for bindoptions in ["connect", "spnego", "spnego,sign", "spnego,seal", validate, "padcheck", "bigendian", "bigendian,seal"]:
 288             echooptions = "--option=socket:testnonblock=True --option=torture:quick=yes -k yes"
 289             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, echooptions), env, [smb4torture, "%s:\"$SERVER[%s]\"" % (transport, bindoptions), echooptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '"$DOMAIN"', 'RPC-ECHO'])
 290     plansmbtorturetestsuite("NET-API-BECOME-DC", env, '"$SERVER[%s]" -U"$USERNAME"%%"$PASSWORD" -W "$DOMAIN"' % validate)
 291
 292 for transport in transports:
 293     for bindoptions in ["sign", "seal"]:
 294         for ntlmoptions in [
 295         "--option=ntlmssp_client:ntlm2=yes --option=torture:quick=yes",
 296         "--option=ntlmssp_client:ntlm2=no --option=torture:quick=yes",
 297         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 298         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 299         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 300         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:keyexchange=no  --option=torture:quick=yes",
 301         "--option=clientntlmv2auth=yes --option=ntlmssp_client:keyexchange=no  --option=torture:quick=yes",
 302         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=yes --option=torture:quick=yes",
 303         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes"]:
 304             if transport == "ncalrpc":
 305                 env = "dc:local"
 306             else:
 307                 env = "dc"
 308             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, ntlmoptions), env, [smb4torture, "%s:$SERVER[%s]" % (transport, bindoptions), ntlmoptions, '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', 'RPC-ECHO'])
 309
 310 plantestsuite_loadlist("samba4.rpc.echo on ncacn_np over smb2", "dc", [smb4torture, 'ncacn_np:"$SERVER[smb2]', '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', 'RPC-ECHO'])
 311
 312 plantestsuite_loadlist("samba4.ntp.signd", "dc:local", [smb4torture, 'ncacn_np:"$SERVER"', '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', 'NTP-SIGND'])
 313
 314 # Tests against the NTVFS POSIX backend
 315 ntvfsargs = ["--option=torture:sharedelay=10000", "--option=torture:oplocktimeout=3", "--option=torture:writetimeupdatedelay=50000"]
 316
 317 smb2 = smb4torture_testsuites("SMB2-")
 318 #The QFILEINFO-IPC test needs to be on ipc$
 319 raw = filter(lambda x: "RAW-QFILEINFO-IPC" not in x, smb4torture_testsuites("RAW-"))
 320 base = smb4torture_testsuites("BASE-")
 321
 322 for t in base + raw + smb2:
 323     plansmbtorturetestsuite(t, "dc", '"//$SERVER/tmp" -U"$USERNAME"%"$PASSWORD"' + " ".join(ntvfsargs))
 324
 325 plansmbtorturetestsuite("RAW-QFILEINFO-IPC", "dc", '//$SERVER/ipc$ -U"$USERNAME"%"$PASSWORD"')
 326
 327 for t in smb4torture_testsuites("RAP-"):
 328     plansmbtorturetestsuite(t, "dc", '//$SERVER/IPC$ -U"$USERNAME"%"$PASSWORD"')
 329
 330 # Tests against the NTVFS CIFS backend
 331 for t in base + raw:
 332     plantestsuite_loadlist("samba4.ntvfs.cifs.%s" % normalize_testname(t), "dc", [valgrindify(smb4torture), '//$NETBIOSNAME/cifs', '-U"$USERNAME"%"$PASSWORD"'] + ntvfsargs + [t])
 333
 334 # Local tests
 335 for t in smb4torture_testsuites("LOCAL-"):
 336     plansmbtorturetestsuite(t, "none", "ncalrpc:")
 337
 338 tdbtorture4 = binpath("tdbtorture")
 339 if os.path.exists(tdbtorture4):
 340     plantestsuite("tdb.stress", "none", valgrindify(tdbtorture4))
 341 else:
 342     skiptestsuite("tdb.stress", "Using system TDB, tdbtorture not available")
 343
 344 plansmbtorturetestsuite("DRS-UNIT", "none", "ncalrpc:")
 345
 346 # Pidl tests
 347 for f in os.listdir(os.path.join(samba4srcdir, "../pidl/tests")):
 348     if f.endswith(".pl"):
 349         planperltestsuite("pidl.%s" % f[:-3], os.path.join(samba4srcdir, "../pidl/tests", f))
 350 planperltestsuite("selftest.samba4", os.path.join(samba4srcdir, "../selftest/test_samba4.pl"))
 351
 352 # Blackbox Tests:
 353 # tests that interact directly with the command-line tools rather than using
 354 # the API. These mainly test that the various command-line options of commands
 355 # work correctly.
 356
 357 planpythontestsuite("none", "samba.tests.blackbox.ndrdump")
 358 plantestsuite("samba4.blackbox.net(dc:local)", "dc:local", [os.path.join(samba4srcdir, "utils/tests/test_net.sh"),  "$SERVER", "$USERNAME", "$PASSWORD", "$DOMAIN"])
 359 plantestsuite("samba4.blackbox.pkinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_pkinit.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$REALM"', '"$DOMAIN"', '"$PREFIX"', "aes256-cts-hmac-sha1-96", configuration])
 360 plantestsuite("samba4.blackbox.kinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_kinit.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$REALM"', '"$DOMAIN"', '"$PREFIX"', "aes256-cts-hmac-sha1-96", configuration])
 361 plantestsuite("samba4.blackbox.kinit(fl2000dc:local)", "fl2000dc:local", [os.path.join(bbdir, "test_kinit.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$REALM"', '"$DOMAIN"', '"$PREFIX"', "arcfour-hmac-md5", configuration])
 362 plantestsuite("samba4.blackbox.kinit(fl2008r2dc:local)", "fl2008r2dc:local", [os.path.join(bbdir, "test_kinit.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$REALM"', '"$DOMAIN"', '"$PREFIX"', "aes256-cts-hmac-sha1-96", configuration])
 363 plantestsuite("samba4.blackbox.ktpass(dc)", "dc", [os.path.join(bbdir, "test_ktpass.sh"), '"$PREFIX"'])
 364 plantestsuite("samba4.blackbox.passwords(dc:local)", "dc:local", [os.path.join(bbdir, "test_passwords.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$REALM"', '"$DOMAIN"', "$PREFIX"])
 365 plantestsuite("samba4.blackbox.export.keytab(dc:local)", "dc:local", [os.path.join(bbdir, "test_export_keytab.sh"), '"$SERVER"', '"$USERNAME"', '"$REALM"', '"$DOMAIN"', "$PREFIX"])
 366 plantestsuite("samba4.blackbox.cifsdd(dc)", "dc", [os.path.join(samba4srcdir, "client/tests/test_cifsdd.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', "$DOMAIN"])
 367 plantestsuite("samba4.blackbox.nmblookup(dc)", "dc", [os.path.join(samba4srcdir, "utils/tests/test_nmblookup.sh"), '"$NETBIOSNAME"', '"$NETBIOSALIAS"', '"$SERVER"', '"$SERVER_IP"'])
 368 plantestsuite("samba4.blackbox.nmblookup(member)", "member", [os.path.join(samba4srcdir, "utils/tests/test_nmblookup.sh"), '"$NETBIOSNAME"', '"$NETBIOSALIAS"', '"$SERVER"', '"$SERVER_IP"'])
 369 plantestsuite("samba4.blackbox.locktest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_locktest.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$DOMAIN"', '"$PREFIX"'])
 370 plantestsuite("samba4.blackbox.masktest(masktest)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_masktest.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$DOMAIN"', '"$PREFIX"'])
 371 plantestsuite("samba4.blackbox.gentest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_gentest.sh"), '"$SERVER"', '"$USERNAME"', '"$PASSWORD"', '"$DOMAIN"', "$PREFIX"])
 372 plantestsuite("samba4.blackbox.wbinfo(dc:local)", "dc:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '"$DOMAIN"', '"$USERNAME"', '"$PASSWORD"', "dc"])
 373 plantestsuite("samba4.blackbox.wbinfo(member:local)", "member:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '"$DOMAIN"', '"$DC_USERNAME"', '"$DC_PASSWORD"', "member"])
 374 plantestsuite("samba4.blackbox.chgdcpass(dc)", "dc", [os.path.join(bbdir, "test_chgdcpass.sh"), '"$SERVER"', "LOCALDC$", '"$REALM"', '"$DOMAIN"', '"$PREFIX"', "aes256-cts-hmac-sha1-96", '"$SELFTEST_PREFIX/dc"'])
 375
 376 # Tests using the "Simple" NTVFS backend
 377 for t in ["BASE-RW1"]:
 378     plantestsuite_loadlist("samba4.ntvfs.simple.%s" % normalize_testname(t), "dc", [valgrindify(smb4torture), "/$SERVER/simple", '-U"$USERNAME"%"$PASSWORD"', t])
 379
 380 # Domain Member Tests
 381 plantestsuite_loadlist("samba4.rpc.echo against member server with local creds", "member", [valgrindify(smb4torture), 'ncacn_np:"$NETBIOSNAME"', '-U"$NETBIOSNAME/$USERNAME"%"$PASSWORD"', 'RPC-ECHO'])
 382 plantestsuite_loadlist("samba4.rpc.echo against member server with domain creds", "member", [valgrindify(smb4torture), 'ncacn_np:"$NETBIOSNAME"', '-U"$DOMAIN/$DC_USERNAME"%"$DC_PASSWORD"', 'RPC-ECHO'])
 383 plantestsuite_loadlist("samba4.rpc.samr against member server with local creds", "member", [valgrindify(smb4torture), 'ncacn_np:"$NETBIOSNAME"', '-U"$NETBIOSNAME/$USERNAME"%"$PASSWORD"', "RPC-SAMR"])
 384 plantestsuite_loadlist("samba4.rpc.samr.users against member server with local creds", "member", [valgrindify(smb4torture), 'ncacn_np:"$NETBIOSNAME"', '-U"$NETBIOSNAME/$USERNAME"%"$PASSWORD"', "RPC-SAMR-USERS"])
 385 plantestsuite_loadlist("samba4.rpc.samr.passwords against member server with local creds", "member", [valgrindify(smb4torture), 'ncacn_np:"$NETBIOSNAME"', '-U"$NETBIOSNAME/$USERNAME"%"$PASSWORD"', "RPC-SAMR-PASSWORDS"])
 386 plantestsuite("samba4.blackbox.smbclient against member server with local creds", "member", [os.path.join(samba4srcdir, "client/tests/test_smbclient.sh"), '"$NETBIOSNAME"', '"$USERNAME"', '"$PASSWORD"', '"$NETBIOSNAME"', '"$PREFIX"'])
 387
 388 # RPC Proxy
 389 plantestsuite_loadlist("samba4.rpc.echo against rpc proxy with domain creds", "rpc_proxy", [valgrindify(smb4torture), 'ncacn_ip_tcp:"$NETBIOSNAME"', '-U"$DOMAIN/$DC_USERNAME"%"$DC_PASSWORD"', "RPC-ECHO"])
 390
 391 # Tests SMB signing
 392 for mech in [
 393     "-k no",
 394     "-k no --option=usespnego=no",
 395     "-k no --option=gensec:spengo=no",
 396     "-k yes",
 397     "-k yes --option=gensec:fake_gssapi_krb5=yes --option=gensec:gssapi_krb5=no"]:
 398     for signing in ["--signing=on", "--signing=required"]:
 399         signoptions = "%s %s" % (mech, signing)
 400         name = "smb.signing on with %s" % signoptions
 401         plantestsuite_loadlist("samba4.%s" % name, "dc", [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', signoptions, '-U"$USERNAME"%"$PASSWORD"', 'BASE-XCOPY'])
 402
 403 for mech in [
 404     "-k no",
 405     "-k no --option=usespnego=no",
 406     "-k no --option=gensec:spengo=no",
 407     "-k yes",
 408     "-k yes --option=gensec:fake_gssapi_krb5=yes --option=gensec:gssapi_krb5=no"]:
 409     signoptions = "%s --signing=off" % mech
 410     name = "smb.signing on with %s" % signoptions
 411     plantestsuite_loadlist("samba4.%s domain-creds" % name, "member", [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', signoptions, '-U"$DC_USERNAME"%"$DC_PASSWORD"', 'BASE-XCOPY'])
 412
 413 for mech in [
 414     "-k no",
 415     "-k no --option=usespnego=no",
 416     "-k no --option=gensec:spengo=no"]:
 417     signoptions = "%s --signing=off" % mech
 418     name = "smb.signing on with %s" % signoptions
 419     plantestsuite_loadlist("samba4.%s local-creds" % name, "member", [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', signoptions, '-U"$NETBIOSNAME/$USERNAME"%"$PASSWORD"', 'BASE-XCOPY'])
 420 plantestsuite_loadlist("samba4.smb.signing --signing=yes anon", "dc", [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', '-k', 'no', '--signing=yes', '-U%', 'BASE-XCOPY'])
 421 plantestsuite_loadlist("samba4.smb.signing --signing=required anon", "dc", [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', '-k', 'no', '--signing=required', '-U%', 'BASE-XCOPY'])
 422 plantestsuite_loadlist("samba4.smb.signing --signing=no anon", "member",  [valgrindify(smb4torture), '//"$NETBIOSNAME"/tmp', '-k', 'no', '--signing=no', '-U%', 'BASE-XCOPY'])
 423
 424 nbt_tests = smb4torture_testsuites("NBT-")
 425 for t in nbt_tests:
 426     plansmbtorturetestsuite(t, "dc", "//$SERVER/_none_ -U$USERNAME%$PASSWORD")
 427
 428 wb_opts = ["--option=\"torture:strict mode=no\"", "--option=\"torture:timelimit=1\"", "--option=\"torture:winbindd_separator=/\"", "--option=\"torture:winbindd_netbios_name=$SERVER\"", "--option=\"torture:winbindd_netbios_domain=$DOMAIN\""]
 429
 430 winbind_struct_tests = smb4torture_testsuites("WINBIND-STRUCT")
 431 winbind_ndr_tests = smb4torture_testsuites("WINBIND-NDR")
 432 for env in ["dc", "member"]:
 433     for t in winbind_struct_tests:
 434         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % wb_opts)
 435
 436     for t in winbind_ndr_tests:
 437         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % wb_opts)
 438
 439 nsstest4 = binpath("nsstest")
 440 if os.path.exists(nsstest4):
 441     plantestsuite("samba4.nss.test using winbind(member)", "member", [valgrindify(nsstest4), os.path.join(samba4bindir, "shared/libnss_winbind.so")])
 442 else:
 443     skiptestsuite("samba4.nss.test using winbind(member)", "nsstest not available")
 444
 445 subunitrun = valgrindify(python) + " " + os.path.join(samba4srcdir, "scripting/bin/subunitrun")
 446 plantestsuite("ldb.python", "none", ['PYTHONPATH="$PYTHONPATH:$samba4srcdir/lib/ldb/tests/python/"', python, '$samba4srcdir/lib/ldb/tests/python/api.py'])
 447 planpythontestsuite("none", "samba.tests.credentials")
 448 planpythontestsuite("none", "samba.tests.gensec")
 449 planpythontestsuite("none", "samba.tests.registry")
 450 plantestsuite("tdb.python", "none", ['PYTHONPATH="$PYTHONPATH:../lib/tdb/python/tests"', subunitrun, 'simple'])
 451 planpythontestsuite("none", "samba.tests.auth")
 452 planpythontestsuite("none", "samba.tests.security")
 453 planpythontestsuite("none", "samba.tests.dcerpc.misc")
 454 planpythontestsuite("none", "samba.tests.param")
 455 planpythontestsuite("none", "samba.tests.upgrade")
 456 planpythontestsuite("none", "samba.tests.core")
 457 planpythontestsuite("none", "samba.tests.provision")
 458 planpythontestsuite("none", "samba.tests.samba3")
 459 planpythontestsuite("dc:local", "samba.tests.dcerpc.sam")
 460 planpythontestsuite("dc:local", "samba.tests.dsdb")
 461 planpythontestsuite("none", "samba.tests.netcmd")
 462 planpythontestsuite("dc:local", "samba.tests.dcerpc.bare")
 463 planpythontestsuite("dc:local", "samba.tests.dcerpc.unix")
 464 planpythontestsuite("none", "samba.tests.dcerpc.rpc_talloc")
 465 planpythontestsuite("none", "samba.tests.samdb")
 466 planpythontestsuite("none", "samba.tests.shares")
 467 planpythontestsuite("none", "samba.tests.messaging")
 468 planpythontestsuite("none", "samba.tests.samba3sam")
 469 planpythontestsuite("none",", ""subunit")
 470 planpythontestsuite("dc:local", "samba.tests.dcerpc.rpcecho")
 471 plantestsuite_idlist("samba.tests.dcerpc.registry", "dc:local", [subunitrun, "-U$USERNAME%$PASSWORD", "samba.tests.dcerpc.registry"])
 472 plantestsuite("samba4.ldap.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap.py"), '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN'])
 473 plantestsuite("samba4.schemaInfo.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:$samba4srcdir/dsdb/tests/python/"', subunitrun, 'dsdb_schema_info', '-U"$DOMAIN/$DC_USERNAME"%"$DC_PASSWORD"'])
 474 plantestsuite("samba4.urgent_replication.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/urgent_replication.py"), '$PREFIX_ABS/dc/private/sam.ldb'])
 475 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 476     plantestsuite("samba4.ldap_schema.python(%s)" % env, env, ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap_schema.py"), '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN'])
 477     plantestsuite("samba4.ldap.possibleInferiors.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/samdb/ldb_modules/tests/possibleinferiors.py"), "ldap://$SERVER", "-U$USERNAME%$PASSWORD", "-W", "$DOMAIN"])
 478     plantestsuite("samba4.ldap.secdesc.python(%s)" % env, env, ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/sec_descriptor.py"), '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN'])
 479     plantestsuite("samba4.ldap.acl.python(%s)" % env, env, ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/acl.py"), '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN'])
 480     plantestsuite("samba4.ldap.passwords.python(%s)" % env, env, ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/passwords.py"), "$SERVER", "-U$USERNAME%$PASSWORD", "-W", "$DOMAIN"])
 481 planpythontestsuite("dc:local", "samba.tests.upgradeprovisionneeddc")
 482 planpythontestsuite("none", "samba.tests.upgradeprovision")
 483 planpythontestsuite("none", "samba.tests.xattr")
 484 planpythontestsuite("none", "samba.tests.ntacls")
 485 plantestsuite("samba4.deletetest.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:../lib/subunit/python:../lib/testtools"', python, os.path.join(samba4srcdir, "dsdb/tests/python/deletetest.py"), '$SERVER', '-U$USERNAME%$PASSWORD','-W', '$DOMAIN'])
 486 plantestsuite("samba4.policy.python", "none", ['PYTHONPATH="$PYTHONPATH:lib/policy/tests/python"', subunitrun, 'bindings'])
 487 plantestsuite("samba4.blackbox.samba3dump", "none", [python, os.path.join(samba4srcdir, "scripting/bin/samba3dump"), os.path.join(samba4srcdir, "../testdata/samba3")])
 488 os.system("rm -rf $PREFIX/upgrade")
 489 plantestsuite("samba4.blackbox.upgrade", "none", [python, os.path.join(samba4srcdir, "setup/upgrade_from_s3"), "--targetdir=$PREFIX/upgrade", os.path.join(samba4srcdir, "../testdata/samba3"), os.path.join(samba4srcdir, "../testdata/samba3/smb.conf")])
 490 os.system("rm -rf $PREFIX/provision") # FIXME
 491 os.system("mkdir $PREFIX/provision") # FIXME
 492 plantestsuite("samba4.blackbox.provision.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_provision.sh"), '"$PREFIX/provision"'])
 493 plantestsuite("samba4.blackbox.provision-backend.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_provision-backend.sh"), '"$PREFIX/provision"'])
 494 plantestsuite("samba4.blackbox.upgradeprovision.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_upgradeprovision.sh"), '"$PREFIX/provision"'])
 495 plantestsuite("samba4.blackbox.setpassword.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_setpassword.sh"), '"$PREFIX/provision"'])
 496 plantestsuite("samba4.blackbox.newuser.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_newuser.sh"), '"$PREFIX/provision"'])
 497 plantestsuite("samba4.blackbox.group.py", "none", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_group.sh"), '"$PREFIX/provision"'])
 498 plantestsuite("samba4.blackbox.spn.py(dc:local)", "dc:local", ['PYTHON="$PYTHON"', os.path.join(samba4srcdir, "setup/tests/blackbox_spn.sh"), '"$PREFIX/dc"'])
 499
 500 # DRS python tests
 501 plantestsuite("samba4.drs_delete_object.python(vampire_dc)", "vampire_dc", ['PYTHONPATH="$PYTHONPATH:$samba4srcdir/torture/drs/python"', 'DC1=$DC_SERVER', 'DC2=$VAMPIRE_DC_SERVER', subunitrun, 'delete_object', '-U"$DOMAIN/$DC_USERNAME"%"$DC_PASSWORD"'])
 502 plantestsuite("samba4.drs_fsmo.python(vampire_dc)", "vampire_dc", ['PYTHONPATH="$PYTHONPATH:$samba4srcdir/torture/drs/python"', 'DC1=$DC_SERVER', 'DC2=$VAMPIRE_DC_SERVER', subunitrun, 'fsmo', '-U"$DOMAIN/$DC_USERNAME"%"$DC_PASSWORD"'])
 503
 504 # This makes sure we test the rid allocation code
 505 t = "RPC-SAMR-LARGE-DC"
 506 plantestsuite_loadlist("samba4.%s.one" % normalize_testname(t), "vampire_dc", [valgrindify(smb4torture), '"$SERVER"', '-U"$USERNAME"%"$PASSWORD"', '-W' '$DOMAIN', t])
 507 plantestsuite_loadlist("samba4.%s.two" % normalize_testname(t), "vampire_dc", [valgrindify(smb4torture), '"$SERVER"', '-U"$USERNAME"%"$PASSWORD"', '-W', '$DOMAIN', t])
 508
 509 # some RODC testing
 510 plantestsuite_loadlist("samba4.rpc.echo", "rodc", [smb4torture, 'ncacn_np:"$SERVER"', "-k", "yes", '-U"$USERNAME"%"$PASSWORD"', '-W' '"$DOMAIN"', 'RPC-ECHO'])