923f2e3dc017f7c3b40cacd1b955975afc95a764
[obnox/wireshark/wip.git] / README.hpux
1 $Id: README.hpux,v 1.15 2001/04/11 05:24:08 guy Exp $
2
3 Contents:
4
5 1 - Building ethereal
6 2 - Building GTK+/GLib with HP's C compiler
7 3 - nettl support
8 4 - libpcap on HP-UX
9 5 - HP-UX patches to fix packet capture problems
10
11 1 - Building ethereal
12
13 The Software Porting And Archive Centre for HP-UX, at
14
15         http://hpux.connect.org.uk/
16
17 (with mirrors in various countries, listed on the Centre's home page;
18 you may want to choose a mirror closer to you) has ported versions, in
19 both source and binary form, for Ethereal, as well as for the libpcap,
20 GLib, GTK+, zlib, and CMU SNMP libraries that it uses.
21
22 The changes they've made appear largely to be compile option changes; if
23 you've downloaded the source to the latest version of Ethereal (the
24 version on the Centre's site may not necessarily be the latest version),
25 it should be able to compile, perhaps with those changes.
26
27 They appear to have used HP-UX's "cc" compiler, with the options "-Ae
28 -O"; there's a comment "Add -Dhpux_9 if building under 9.X".  It may
29 also build with GCC.
30
31 They currently have libpcap 0.6.2; libpcap 0.6.2, and later versions,
32 include changes to properly open network devices when given the name
33 reported by the lanscan and ifconfig commands - earlier versions didn't
34 do this correctly.  Therefore, we strongly suggest you use libpcap 0.6.2
35 or later, not libpcap 0.5.2.
36
37 2 - Building GTK+/GLib with HP's C compiler
38
39 By default, HP's C compiler doesn't support "long long int" to provide
40 64-bit integral data types on 32-bit platforms; the "-Ae" flag must be
41 supplied to enable extensions such as that.
42
43 Ethereal's "configure" script automatically includes that flag if it
44 detects that the native compiler is being used on HP-UX; however, the
45 configure scripts for GTK+ and GLib don't do so, which means that 64-bit
46 integer support won't be enabled.
47
48 This may prevent some parts of Ethereal from compiling; in order to get
49 64-bit integer support in GTK+/GLib, edit all the Makefiles for GTK+ and
50 GLib, as generated by the GTK+ and GLib "configure" scripts, to add
51 "-Ae" to all "CFLAGS = " definitions found in those Makefiles.  (If a
52 Makefile lacks a "CFLAGS = " definition, there's no need to add a
53 definition that includes "-Ae".)
54
55 3 - nettl support
56
57 nettl is used on HP-UX to trace various streams based subsystems.  Ethereal
58 can read nettl files containing IP frames (NS_LS_IP subsystem) and LAPB
59 frames (SX25L2 subsystem).
60 It has been tested with files generated on HP-UX 9.04 and 10.20.
61
62 Use the following commands to generate a trace (cf. nettl(1M)):
63
64 # IP capture. 0x30000000 means PDU in and PDU out :
65 nettl -tn 0x30000000 -e NS_LS_IP -f tracefile
66 # X25 capture. You must specify an interface :
67 nettl -tn 0x30000000 -e SX25l2 -d /dev/x25_0 -f tracefile
68 # stop capture. subsystem is NS_LS_IP or SX25L2 :
69 nettl -tf -e subsystem
70
71 One may be able to specify "-tn pduin pduout" rather than
72 "-tn 0x30000000"; the nettl man page for HP-UX 10.30 implies that it
73 should work.
74
75 4 - libpcap on HP-UX
76
77 If you want to use Ethereal to capture packets, you will have to install
78 libpcap; binary distributions are, as noted above, available from the
79 Software Porting And Archive Centre for HP-UX, as well as source code.
80
81 The source code is also available from the official home of libpcap and
82 tcpdump, at
83
84         http://www.tcpdump.org/
85
86 if you want a version later than the version available from the Software
87 Porting And Archive Centre; however, the versions available from
88 tcpdump.org might not, for example, include support for building libpcap
89 as a shared library.
90
91 5 - HP-UX patches to fix packet capture problems
92
93 Note that packet-capture programs such as Ethereal/Tethereal or tcpdump
94 may, on HP-UX, not be able to see packets sent from the machine on which
95 they're running.  Some articles on Deja.com discussing this are:
96
97         http://www.deja.com/[ST_rn=ps]/getdoc.xp?AN=558092266
98
99 which says:
100
101   Newsgroups: comp.sys.hp.hpux 
102   Subject:  Re: Did someone made tcpdump working on 10.20 ?
103   Date: 12/08/1999
104   From: Lutz Jaenicke <jaenicke@emserv1.ee.TU-Berlin.DE>
105
106   In article <82ks5i$5vc$1@news1.dti.ne.jp>, mtsat <mtsat@iris.dti.ne.jp>
107   wrote:
108    >Hello,
109    >
110    >I downloaded and compiled tcpdump3.4 a couple of week ago. I tried to use
111    >it, but I can only see incoming data, never outgoing.
112    >Someone (raj) explained me that a patch was missing, and that this patch
113    >must me "patched" (poked) in order to see outbound data in promiscuous mode.
114    >Many things to do .... So the question is : did someone has already this
115    >"ready to use" PHNE_**** patch ?
116   
117    Two things:
118    1. You do need a late "LAN products cumulative patch" (e.g.  PHNE_18173
119   for   s700/10.20).
120    2. You must use
121 echo 'lanc_outbound_promisc_flag/W1' | /usr/bin/adb -w /stand/vmunix /dev/kmem
122      You can insert this e.g. into /sbin/init.d/lan
123   
124    Best regards,
125    Lutz
126
127 and
128
129         http://www.deja.com/[ST_rn=ps]/getdoc.xp?AN=586287166
130
131 which says:
132
133   Newsgroups: comp.sys.hp.hpux 
134   Subject: Re: tcpdump only shows incoming packets
135   Date: 02/15/2000
136   From: Rick Jones <foo@bar.baz.invalid>
137
138   Harald Skotnes <harald@cc.uit.no> wrote:
139   > I am running HPUX 11.0 on a C200 hanging on a 100Mb switch. I have
140   > compiled libpcap-0.4 an tcpdump-3.4 and it seems to work. But at a
141   > closer look I only get to see the incoming packets not the
142   > outgoing. I have tried tcpflow-0.12 which also uses libpcap and the
143   > same thing happens.  Could someone please give me a hint on how to
144   > get this right?
145   
146   Search/Read the archives ?-)
147   
148   What you are seeing is expected, un-patched, behaviour for an HP-UX
149   system.  On 11.00, you need to install the latest lancommon/DLPI
150   patches, and then the latest driver patch for the interface(s) in use. 
151   At that point, a miracle happens and you should start seeing outbound
152   traffic.
153
154 [That article also mentions the patch that appears below.]
155
156 and
157
158         http://www.deja.com/[ST_rn=ps]/getdoc.xp?AN=586494200
159
160 which says:
161
162   Newsgroups: comp.sys.hp.hpux
163   Subject: Re: tcpdump only shows incoming packets
164   Date: 02/16/2000
165   From: Harald Skotnes <harald@cc.uit.no>
166
167   Rick Jones wrote:
168   
169         ...
170
171   > What you are seeing is expected, un-patched, behaviour for an HP-UX
172   > system. On 11.00, you need to install the latest lancommon/DLPI
173   > patches, and then the latest driver patch for the interface(s) in
174   > use. At that point, a miracle happens and you should start seeing
175   > outbound traffic.
176   
177   Thanks a lot.  I have this problem on several machines running HPUX
178   10.20 and 11.00.  The machines where patched up before y2k so did not
179   know what to think.  Anyway I have now installed PHNE_19766,
180   PHNE_19826, PHNE_20008, PHNE_20735 on the C200 and now I can see the
181   outbound traffic too.  Thanks again.
182
183 Another posting:
184
185         http://www.deja.com/[ST_rn=ps]/getdoc.xp?AN=457744130
186
187 indicates that you need to install the optional STREAMS product to do
188 captures on HP-UX 9.x:
189
190   Newsgroups: comp.sys.hp.hpux
191   Subject:  Re: tcpdump HP/UX 9.x
192   Date: 03/22/1999
193   From: Rick Jones <foo@bar.baz>
194
195   Dave Barr (barr@cis.ohio-state.edu) wrote:
196   : Has anyone ported tcpdump (or something similar) to HP/UX 9.x?
197   
198   I'm reasonably confident that any port of tcpdump to 9.X would require
199   the (then optional) STREAMS product.  This would bring DLPI, which is
200   what one uses to access interfaces in promiscuous mode.
201   
202   I'm not sure that HP even sells the 9.X STREAMS product any longer,
203   since HP-UX 9.X is off the pricelist (well, maybe 9.10 for the old 68K
204   devices). 
205   
206   Your best bet is to be up on 10.20 or better if that is at all
207   possible.  If your hardware is supported by it, I'd go with HP-UX 11. 
208   If you want to see the system's own outbound traffic, you'll never get
209   that functionality on 9.X, but it might happen at some point for 10.20
210   and 11.X. 
211   
212   rick jones
213
214 (as per other messages cited here, the ability to see the system's own
215 outbound traffic did happen).
216
217 An additional note, from Jost Martin, for HP-UX 10.20:
218
219         Q: How do I get ethereral on HPUX to capture the _outgoing_ packets
220            of an interface
221         A: You need to get PHNE_20892,PHNE_20725 and PHCO_10947 (or
222            newer, this is as of 4.4.00) and its dependencies.  Then you can
223            enable the feature as descibed below:
224
225         Patch Name: PHNE_20892
226         Patch Description: s700 10.20 PCI 100Base-T cumulative patch
227                 To trace the outbound packets, please do the following
228                 to turn on a global promiscuous switch before running
229                 the promiscuous applications like snoop or tcpdump:
230
231                 adb -w /stand/vmunix /dev/mem
232                 lanc_outbound_promisc_flag/W 1
233                 (adb will echo the result showing that the flag has
234                 been changed)
235                 $quit
236         (Thanks for this part to HP-support, Ratingen)
237
238                 The attached hack does this and some security-related stuff
239         (thanks to hildeb@www.stahl.bau.tu-bs.de (Ralf Hildebrandt) who
240         posted the security-part some time ago)
241
242                  <<hack_ip_stack>> 
243
244                 (Don't switch IP-forwarding off, if you need it !)
245                 Install the hack as /sbin/init.d/hacl_ip_stack (adjust
246         permissions !) and make a sequencing-symlink
247         /sbin/rc2.d/S350hack_ip_stack pointing to this script. 
248                 Now all this is done on every reboot.
249
250 Here's the "hack_ip_stack" script:
251
252 -----------------------------------Cut Here-------------------------------------
253 #!/sbin/sh
254 #
255 # nettune:  hack kernel parms for safety
256
257 OKAY=0
258 ERROR=-1
259
260 # /usr/contrib/bin fuer nettune auf Pfad
261 PATH=/sbin:/usr/sbin:/usr/bin:/usr/contrib/bin
262 export PATH
263
264
265 ##########
266 #  main  #
267 ##########
268
269 case $1 in
270    start_msg)
271       print "Tune IP-Stack for security"
272       exit $OKAY
273       ;;
274
275    stop_msg)
276       print "This action is not applicable"
277       exit $OKAY
278       ;;
279
280    stop)
281       exit $OKAY
282       ;;
283
284    start)
285       ;;  # fall through
286
287    *)
288       print "USAGE: $0 {start_msg | stop_msg | start | stop}" >&2
289       exit $ERROR
290       ;;
291    esac
292
293 ###########
294 #  start  #
295 ###########
296
297 #
298 # tcp-Sequence-Numbers nicht mehr inkrementieren sondern random
299 # Syn-Flood-Protection an
300 # ip_forwarding aus
301 # Source-Routing aus
302 # Ausgehende Packets an ethereal/tcpdump etc.
303
304 /usr/contrib/bin/nettune -s tcp_random_seq 2 || exit $ERROR
305 /usr/contrib/bin/nettune -s hp_syn_protect 1 || exit $ERROR
306 /usr/contrib/bin/nettune -s ip_forwarding 0 || exit $ERROR
307 echo 'ip_block_source_routed/W1' | /usr/bin/adb -w /stand/vmunix /dev/kmem || exit $ERROR
308 echo 'lanc_outbound_promisc_flag/W 1' | adb -w /stand/vmunix /dev/mem  || exit $ERROR
309
310 exit $OKAY
311 -----------------------------------Cut Here-------------------------------------