[PATCH] SCSI: fix request flag-related build breakage
[sfrench/cifs-2.6.git] / drivers / ata / libata-sff.c
1 /*
2  *  libata-bmdma.c - helper library for PCI IDE BMDMA
3  *
4  *  Maintained by:  Jeff Garzik <jgarzik@pobox.com>
5  *                  Please ALWAYS copy linux-ide@vger.kernel.org
6  *                  on emails.
7  *
8  *  Copyright 2003-2006 Red Hat, Inc.  All rights reserved.
9  *  Copyright 2003-2006 Jeff Garzik
10  *
11  *
12  *  This program is free software; you can redistribute it and/or modify
13  *  it under the terms of the GNU General Public License as published by
14  *  the Free Software Foundation; either version 2, or (at your option)
15  *  any later version.
16  *
17  *  This program is distributed in the hope that it will be useful,
18  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
19  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
20  *  GNU General Public License for more details.
21  *
22  *  You should have received a copy of the GNU General Public License
23  *  along with this program; see the file COPYING.  If not, write to
24  *  the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
25  *
26  *
27  *  libata documentation is available via 'make {ps|pdf}docs',
28  *  as Documentation/DocBook/libata.*
29  *
30  *  Hardware documentation available from http://www.t13.org/ and
31  *  http://www.sata-io.org/
32  *
33  */
34
35 #include <linux/kernel.h>
36 #include <linux/pci.h>
37 #include <linux/libata.h>
38
39 #include "libata.h"
40
41 /**
42  *      ata_tf_load_pio - send taskfile registers to host controller
43  *      @ap: Port to which output is sent
44  *      @tf: ATA taskfile register set
45  *
46  *      Outputs ATA taskfile to standard ATA host controller.
47  *
48  *      LOCKING:
49  *      Inherited from caller.
50  */
51
52 static void ata_tf_load_pio(struct ata_port *ap, const struct ata_taskfile *tf)
53 {
54         struct ata_ioports *ioaddr = &ap->ioaddr;
55         unsigned int is_addr = tf->flags & ATA_TFLAG_ISADDR;
56
57         if (tf->ctl != ap->last_ctl) {
58                 outb(tf->ctl, ioaddr->ctl_addr);
59                 ap->last_ctl = tf->ctl;
60                 ata_wait_idle(ap);
61         }
62
63         if (is_addr && (tf->flags & ATA_TFLAG_LBA48)) {
64                 outb(tf->hob_feature, ioaddr->feature_addr);
65                 outb(tf->hob_nsect, ioaddr->nsect_addr);
66                 outb(tf->hob_lbal, ioaddr->lbal_addr);
67                 outb(tf->hob_lbam, ioaddr->lbam_addr);
68                 outb(tf->hob_lbah, ioaddr->lbah_addr);
69                 VPRINTK("hob: feat 0x%X nsect 0x%X, lba 0x%X 0x%X 0x%X\n",
70                         tf->hob_feature,
71                         tf->hob_nsect,
72                         tf->hob_lbal,
73                         tf->hob_lbam,
74                         tf->hob_lbah);
75         }
76
77         if (is_addr) {
78                 outb(tf->feature, ioaddr->feature_addr);
79                 outb(tf->nsect, ioaddr->nsect_addr);
80                 outb(tf->lbal, ioaddr->lbal_addr);
81                 outb(tf->lbam, ioaddr->lbam_addr);
82                 outb(tf->lbah, ioaddr->lbah_addr);
83                 VPRINTK("feat 0x%X nsect 0x%X lba 0x%X 0x%X 0x%X\n",
84                         tf->feature,
85                         tf->nsect,
86                         tf->lbal,
87                         tf->lbam,
88                         tf->lbah);
89         }
90
91         if (tf->flags & ATA_TFLAG_DEVICE) {
92                 outb(tf->device, ioaddr->device_addr);
93                 VPRINTK("device 0x%X\n", tf->device);
94         }
95
96         ata_wait_idle(ap);
97 }
98
99 /**
100  *      ata_tf_load_mmio - send taskfile registers to host controller
101  *      @ap: Port to which output is sent
102  *      @tf: ATA taskfile register set
103  *
104  *      Outputs ATA taskfile to standard ATA host controller using MMIO.
105  *
106  *      LOCKING:
107  *      Inherited from caller.
108  */
109
110 static void ata_tf_load_mmio(struct ata_port *ap, const struct ata_taskfile *tf)
111 {
112         struct ata_ioports *ioaddr = &ap->ioaddr;
113         unsigned int is_addr = tf->flags & ATA_TFLAG_ISADDR;
114
115         if (tf->ctl != ap->last_ctl) {
116                 writeb(tf->ctl, (void __iomem *) ap->ioaddr.ctl_addr);
117                 ap->last_ctl = tf->ctl;
118                 ata_wait_idle(ap);
119         }
120
121         if (is_addr && (tf->flags & ATA_TFLAG_LBA48)) {
122                 writeb(tf->hob_feature, (void __iomem *) ioaddr->feature_addr);
123                 writeb(tf->hob_nsect, (void __iomem *) ioaddr->nsect_addr);
124                 writeb(tf->hob_lbal, (void __iomem *) ioaddr->lbal_addr);
125                 writeb(tf->hob_lbam, (void __iomem *) ioaddr->lbam_addr);
126                 writeb(tf->hob_lbah, (void __iomem *) ioaddr->lbah_addr);
127                 VPRINTK("hob: feat 0x%X nsect 0x%X, lba 0x%X 0x%X 0x%X\n",
128                         tf->hob_feature,
129                         tf->hob_nsect,
130                         tf->hob_lbal,
131                         tf->hob_lbam,
132                         tf->hob_lbah);
133         }
134
135         if (is_addr) {
136                 writeb(tf->feature, (void __iomem *) ioaddr->feature_addr);
137                 writeb(tf->nsect, (void __iomem *) ioaddr->nsect_addr);
138                 writeb(tf->lbal, (void __iomem *) ioaddr->lbal_addr);
139                 writeb(tf->lbam, (void __iomem *) ioaddr->lbam_addr);
140                 writeb(tf->lbah, (void __iomem *) ioaddr->lbah_addr);
141                 VPRINTK("feat 0x%X nsect 0x%X lba 0x%X 0x%X 0x%X\n",
142                         tf->feature,
143                         tf->nsect,
144                         tf->lbal,
145                         tf->lbam,
146                         tf->lbah);
147         }
148
149         if (tf->flags & ATA_TFLAG_DEVICE) {
150                 writeb(tf->device, (void __iomem *) ioaddr->device_addr);
151                 VPRINTK("device 0x%X\n", tf->device);
152         }
153
154         ata_wait_idle(ap);
155 }
156
157
158 /**
159  *      ata_tf_load - send taskfile registers to host controller
160  *      @ap: Port to which output is sent
161  *      @tf: ATA taskfile register set
162  *
163  *      Outputs ATA taskfile to standard ATA host controller using MMIO
164  *      or PIO as indicated by the ATA_FLAG_MMIO flag.
165  *      Writes the control, feature, nsect, lbal, lbam, and lbah registers.
166  *      Optionally (ATA_TFLAG_LBA48) writes hob_feature, hob_nsect,
167  *      hob_lbal, hob_lbam, and hob_lbah.
168  *
169  *      This function waits for idle (!BUSY and !DRQ) after writing
170  *      registers.  If the control register has a new value, this
171  *      function also waits for idle after writing control and before
172  *      writing the remaining registers.
173  *
174  *      May be used as the tf_load() entry in ata_port_operations.
175  *
176  *      LOCKING:
177  *      Inherited from caller.
178  */
179 void ata_tf_load(struct ata_port *ap, const struct ata_taskfile *tf)
180 {
181         if (ap->flags & ATA_FLAG_MMIO)
182                 ata_tf_load_mmio(ap, tf);
183         else
184                 ata_tf_load_pio(ap, tf);
185 }
186
187 /**
188  *      ata_exec_command_pio - issue ATA command to host controller
189  *      @ap: port to which command is being issued
190  *      @tf: ATA taskfile register set
191  *
192  *      Issues PIO write to ATA command register, with proper
193  *      synchronization with interrupt handler / other threads.
194  *
195  *      LOCKING:
196  *      spin_lock_irqsave(host lock)
197  */
198
199 static void ata_exec_command_pio(struct ata_port *ap, const struct ata_taskfile *tf)
200 {
201         DPRINTK("ata%u: cmd 0x%X\n", ap->id, tf->command);
202
203         outb(tf->command, ap->ioaddr.command_addr);
204         ata_pause(ap);
205 }
206
207
208 /**
209  *      ata_exec_command_mmio - issue ATA command to host controller
210  *      @ap: port to which command is being issued
211  *      @tf: ATA taskfile register set
212  *
213  *      Issues MMIO write to ATA command register, with proper
214  *      synchronization with interrupt handler / other threads.
215  *
216  *      FIXME: missing write posting for 400nS delay enforcement
217  *
218  *      LOCKING:
219  *      spin_lock_irqsave(host lock)
220  */
221
222 static void ata_exec_command_mmio(struct ata_port *ap, const struct ata_taskfile *tf)
223 {
224         DPRINTK("ata%u: cmd 0x%X\n", ap->id, tf->command);
225
226         writeb(tf->command, (void __iomem *) ap->ioaddr.command_addr);
227         ata_pause(ap);
228 }
229
230
231 /**
232  *      ata_exec_command - issue ATA command to host controller
233  *      @ap: port to which command is being issued
234  *      @tf: ATA taskfile register set
235  *
236  *      Issues PIO/MMIO write to ATA command register, with proper
237  *      synchronization with interrupt handler / other threads.
238  *
239  *      LOCKING:
240  *      spin_lock_irqsave(host lock)
241  */
242 void ata_exec_command(struct ata_port *ap, const struct ata_taskfile *tf)
243 {
244         if (ap->flags & ATA_FLAG_MMIO)
245                 ata_exec_command_mmio(ap, tf);
246         else
247                 ata_exec_command_pio(ap, tf);
248 }
249
250 /**
251  *      ata_tf_read_pio - input device's ATA taskfile shadow registers
252  *      @ap: Port from which input is read
253  *      @tf: ATA taskfile register set for storing input
254  *
255  *      Reads ATA taskfile registers for currently-selected device
256  *      into @tf.
257  *
258  *      LOCKING:
259  *      Inherited from caller.
260  */
261
262 static void ata_tf_read_pio(struct ata_port *ap, struct ata_taskfile *tf)
263 {
264         struct ata_ioports *ioaddr = &ap->ioaddr;
265
266         tf->command = ata_check_status(ap);
267         tf->feature = inb(ioaddr->error_addr);
268         tf->nsect = inb(ioaddr->nsect_addr);
269         tf->lbal = inb(ioaddr->lbal_addr);
270         tf->lbam = inb(ioaddr->lbam_addr);
271         tf->lbah = inb(ioaddr->lbah_addr);
272         tf->device = inb(ioaddr->device_addr);
273
274         if (tf->flags & ATA_TFLAG_LBA48) {
275                 outb(tf->ctl | ATA_HOB, ioaddr->ctl_addr);
276                 tf->hob_feature = inb(ioaddr->error_addr);
277                 tf->hob_nsect = inb(ioaddr->nsect_addr);
278                 tf->hob_lbal = inb(ioaddr->lbal_addr);
279                 tf->hob_lbam = inb(ioaddr->lbam_addr);
280                 tf->hob_lbah = inb(ioaddr->lbah_addr);
281         }
282 }
283
284 /**
285  *      ata_tf_read_mmio - input device's ATA taskfile shadow registers
286  *      @ap: Port from which input is read
287  *      @tf: ATA taskfile register set for storing input
288  *
289  *      Reads ATA taskfile registers for currently-selected device
290  *      into @tf via MMIO.
291  *
292  *      LOCKING:
293  *      Inherited from caller.
294  */
295
296 static void ata_tf_read_mmio(struct ata_port *ap, struct ata_taskfile *tf)
297 {
298         struct ata_ioports *ioaddr = &ap->ioaddr;
299
300         tf->command = ata_check_status(ap);
301         tf->feature = readb((void __iomem *)ioaddr->error_addr);
302         tf->nsect = readb((void __iomem *)ioaddr->nsect_addr);
303         tf->lbal = readb((void __iomem *)ioaddr->lbal_addr);
304         tf->lbam = readb((void __iomem *)ioaddr->lbam_addr);
305         tf->lbah = readb((void __iomem *)ioaddr->lbah_addr);
306         tf->device = readb((void __iomem *)ioaddr->device_addr);
307
308         if (tf->flags & ATA_TFLAG_LBA48) {
309                 writeb(tf->ctl | ATA_HOB, (void __iomem *) ap->ioaddr.ctl_addr);
310                 tf->hob_feature = readb((void __iomem *)ioaddr->error_addr);
311                 tf->hob_nsect = readb((void __iomem *)ioaddr->nsect_addr);
312                 tf->hob_lbal = readb((void __iomem *)ioaddr->lbal_addr);
313                 tf->hob_lbam = readb((void __iomem *)ioaddr->lbam_addr);
314                 tf->hob_lbah = readb((void __iomem *)ioaddr->lbah_addr);
315         }
316 }
317
318
319 /**
320  *      ata_tf_read - input device's ATA taskfile shadow registers
321  *      @ap: Port from which input is read
322  *      @tf: ATA taskfile register set for storing input
323  *
324  *      Reads ATA taskfile registers for currently-selected device
325  *      into @tf.
326  *
327  *      Reads nsect, lbal, lbam, lbah, and device.  If ATA_TFLAG_LBA48
328  *      is set, also reads the hob registers.
329  *
330  *      May be used as the tf_read() entry in ata_port_operations.
331  *
332  *      LOCKING:
333  *      Inherited from caller.
334  */
335 void ata_tf_read(struct ata_port *ap, struct ata_taskfile *tf)
336 {
337         if (ap->flags & ATA_FLAG_MMIO)
338                 ata_tf_read_mmio(ap, tf);
339         else
340                 ata_tf_read_pio(ap, tf);
341 }
342
343 /**
344  *      ata_check_status_pio - Read device status reg & clear interrupt
345  *      @ap: port where the device is
346  *
347  *      Reads ATA taskfile status register for currently-selected device
348  *      and return its value. This also clears pending interrupts
349  *      from this device
350  *
351  *      LOCKING:
352  *      Inherited from caller.
353  */
354 static u8 ata_check_status_pio(struct ata_port *ap)
355 {
356         return inb(ap->ioaddr.status_addr);
357 }
358
359 /**
360  *      ata_check_status_mmio - Read device status reg & clear interrupt
361  *      @ap: port where the device is
362  *
363  *      Reads ATA taskfile status register for currently-selected device
364  *      via MMIO and return its value. This also clears pending interrupts
365  *      from this device
366  *
367  *      LOCKING:
368  *      Inherited from caller.
369  */
370 static u8 ata_check_status_mmio(struct ata_port *ap)
371 {
372         return readb((void __iomem *) ap->ioaddr.status_addr);
373 }
374
375
376 /**
377  *      ata_check_status - Read device status reg & clear interrupt
378  *      @ap: port where the device is
379  *
380  *      Reads ATA taskfile status register for currently-selected device
381  *      and return its value. This also clears pending interrupts
382  *      from this device
383  *
384  *      May be used as the check_status() entry in ata_port_operations.
385  *
386  *      LOCKING:
387  *      Inherited from caller.
388  */
389 u8 ata_check_status(struct ata_port *ap)
390 {
391         if (ap->flags & ATA_FLAG_MMIO)
392                 return ata_check_status_mmio(ap);
393         return ata_check_status_pio(ap);
394 }
395
396
397 /**
398  *      ata_altstatus - Read device alternate status reg
399  *      @ap: port where the device is
400  *
401  *      Reads ATA taskfile alternate status register for
402  *      currently-selected device and return its value.
403  *
404  *      Note: may NOT be used as the check_altstatus() entry in
405  *      ata_port_operations.
406  *
407  *      LOCKING:
408  *      Inherited from caller.
409  */
410 u8 ata_altstatus(struct ata_port *ap)
411 {
412         if (ap->ops->check_altstatus)
413                 return ap->ops->check_altstatus(ap);
414
415         if (ap->flags & ATA_FLAG_MMIO)
416                 return readb((void __iomem *)ap->ioaddr.altstatus_addr);
417         return inb(ap->ioaddr.altstatus_addr);
418 }
419
420 /**
421  *      ata_bmdma_setup_mmio - Set up PCI IDE BMDMA transaction
422  *      @qc: Info associated with this ATA transaction.
423  *
424  *      LOCKING:
425  *      spin_lock_irqsave(host lock)
426  */
427
428 static void ata_bmdma_setup_mmio (struct ata_queued_cmd *qc)
429 {
430         struct ata_port *ap = qc->ap;
431         unsigned int rw = (qc->tf.flags & ATA_TFLAG_WRITE);
432         u8 dmactl;
433         void __iomem *mmio = (void __iomem *) ap->ioaddr.bmdma_addr;
434
435         /* load PRD table addr. */
436         mb();   /* make sure PRD table writes are visible to controller */
437         writel(ap->prd_dma, mmio + ATA_DMA_TABLE_OFS);
438
439         /* specify data direction, triple-check start bit is clear */
440         dmactl = readb(mmio + ATA_DMA_CMD);
441         dmactl &= ~(ATA_DMA_WR | ATA_DMA_START);
442         if (!rw)
443                 dmactl |= ATA_DMA_WR;
444         writeb(dmactl, mmio + ATA_DMA_CMD);
445
446         /* issue r/w command */
447         ap->ops->exec_command(ap, &qc->tf);
448 }
449
450 /**
451  *      ata_bmdma_start_mmio - Start a PCI IDE BMDMA transaction
452  *      @qc: Info associated with this ATA transaction.
453  *
454  *      LOCKING:
455  *      spin_lock_irqsave(host lock)
456  */
457
458 static void ata_bmdma_start_mmio (struct ata_queued_cmd *qc)
459 {
460         struct ata_port *ap = qc->ap;
461         void __iomem *mmio = (void __iomem *) ap->ioaddr.bmdma_addr;
462         u8 dmactl;
463
464         /* start host DMA transaction */
465         dmactl = readb(mmio + ATA_DMA_CMD);
466         writeb(dmactl | ATA_DMA_START, mmio + ATA_DMA_CMD);
467
468         /* Strictly, one may wish to issue a readb() here, to
469          * flush the mmio write.  However, control also passes
470          * to the hardware at this point, and it will interrupt
471          * us when we are to resume control.  So, in effect,
472          * we don't care when the mmio write flushes.
473          * Further, a read of the DMA status register _immediately_
474          * following the write may not be what certain flaky hardware
475          * is expected, so I think it is best to not add a readb()
476          * without first all the MMIO ATA cards/mobos.
477          * Or maybe I'm just being paranoid.
478          */
479 }
480
481 /**
482  *      ata_bmdma_setup_pio - Set up PCI IDE BMDMA transaction (PIO)
483  *      @qc: Info associated with this ATA transaction.
484  *
485  *      LOCKING:
486  *      spin_lock_irqsave(host lock)
487  */
488
489 static void ata_bmdma_setup_pio (struct ata_queued_cmd *qc)
490 {
491         struct ata_port *ap = qc->ap;
492         unsigned int rw = (qc->tf.flags & ATA_TFLAG_WRITE);
493         u8 dmactl;
494
495         /* load PRD table addr. */
496         outl(ap->prd_dma, ap->ioaddr.bmdma_addr + ATA_DMA_TABLE_OFS);
497
498         /* specify data direction, triple-check start bit is clear */
499         dmactl = inb(ap->ioaddr.bmdma_addr + ATA_DMA_CMD);
500         dmactl &= ~(ATA_DMA_WR | ATA_DMA_START);
501         if (!rw)
502                 dmactl |= ATA_DMA_WR;
503         outb(dmactl, ap->ioaddr.bmdma_addr + ATA_DMA_CMD);
504
505         /* issue r/w command */
506         ap->ops->exec_command(ap, &qc->tf);
507 }
508
509 /**
510  *      ata_bmdma_start_pio - Start a PCI IDE BMDMA transaction (PIO)
511  *      @qc: Info associated with this ATA transaction.
512  *
513  *      LOCKING:
514  *      spin_lock_irqsave(host lock)
515  */
516
517 static void ata_bmdma_start_pio (struct ata_queued_cmd *qc)
518 {
519         struct ata_port *ap = qc->ap;
520         u8 dmactl;
521
522         /* start host DMA transaction */
523         dmactl = inb(ap->ioaddr.bmdma_addr + ATA_DMA_CMD);
524         outb(dmactl | ATA_DMA_START,
525              ap->ioaddr.bmdma_addr + ATA_DMA_CMD);
526 }
527
528
529 /**
530  *      ata_bmdma_start - Start a PCI IDE BMDMA transaction
531  *      @qc: Info associated with this ATA transaction.
532  *
533  *      Writes the ATA_DMA_START flag to the DMA command register.
534  *
535  *      May be used as the bmdma_start() entry in ata_port_operations.
536  *
537  *      LOCKING:
538  *      spin_lock_irqsave(host lock)
539  */
540 void ata_bmdma_start(struct ata_queued_cmd *qc)
541 {
542         if (qc->ap->flags & ATA_FLAG_MMIO)
543                 ata_bmdma_start_mmio(qc);
544         else
545                 ata_bmdma_start_pio(qc);
546 }
547
548
549 /**
550  *      ata_bmdma_setup - Set up PCI IDE BMDMA transaction
551  *      @qc: Info associated with this ATA transaction.
552  *
553  *      Writes address of PRD table to device's PRD Table Address
554  *      register, sets the DMA control register, and calls
555  *      ops->exec_command() to start the transfer.
556  *
557  *      May be used as the bmdma_setup() entry in ata_port_operations.
558  *
559  *      LOCKING:
560  *      spin_lock_irqsave(host lock)
561  */
562 void ata_bmdma_setup(struct ata_queued_cmd *qc)
563 {
564         if (qc->ap->flags & ATA_FLAG_MMIO)
565                 ata_bmdma_setup_mmio(qc);
566         else
567                 ata_bmdma_setup_pio(qc);
568 }
569
570
571 /**
572  *      ata_bmdma_irq_clear - Clear PCI IDE BMDMA interrupt.
573  *      @ap: Port associated with this ATA transaction.
574  *
575  *      Clear interrupt and error flags in DMA status register.
576  *
577  *      May be used as the irq_clear() entry in ata_port_operations.
578  *
579  *      LOCKING:
580  *      spin_lock_irqsave(host lock)
581  */
582
583 void ata_bmdma_irq_clear(struct ata_port *ap)
584 {
585         if (!ap->ioaddr.bmdma_addr)
586                 return;
587
588         if (ap->flags & ATA_FLAG_MMIO) {
589                 void __iomem *mmio =
590                       ((void __iomem *) ap->ioaddr.bmdma_addr) + ATA_DMA_STATUS;
591                 writeb(readb(mmio), mmio);
592         } else {
593                 unsigned long addr = ap->ioaddr.bmdma_addr + ATA_DMA_STATUS;
594                 outb(inb(addr), addr);
595         }
596 }
597
598
599 /**
600  *      ata_bmdma_status - Read PCI IDE BMDMA status
601  *      @ap: Port associated with this ATA transaction.
602  *
603  *      Read and return BMDMA status register.
604  *
605  *      May be used as the bmdma_status() entry in ata_port_operations.
606  *
607  *      LOCKING:
608  *      spin_lock_irqsave(host lock)
609  */
610
611 u8 ata_bmdma_status(struct ata_port *ap)
612 {
613         u8 host_stat;
614         if (ap->flags & ATA_FLAG_MMIO) {
615                 void __iomem *mmio = (void __iomem *) ap->ioaddr.bmdma_addr;
616                 host_stat = readb(mmio + ATA_DMA_STATUS);
617         } else
618                 host_stat = inb(ap->ioaddr.bmdma_addr + ATA_DMA_STATUS);
619         return host_stat;
620 }
621
622
623 /**
624  *      ata_bmdma_stop - Stop PCI IDE BMDMA transfer
625  *      @qc: Command we are ending DMA for
626  *
627  *      Clears the ATA_DMA_START flag in the dma control register
628  *
629  *      May be used as the bmdma_stop() entry in ata_port_operations.
630  *
631  *      LOCKING:
632  *      spin_lock_irqsave(host lock)
633  */
634
635 void ata_bmdma_stop(struct ata_queued_cmd *qc)
636 {
637         struct ata_port *ap = qc->ap;
638         if (ap->flags & ATA_FLAG_MMIO) {
639                 void __iomem *mmio = (void __iomem *) ap->ioaddr.bmdma_addr;
640
641                 /* clear start/stop bit */
642                 writeb(readb(mmio + ATA_DMA_CMD) & ~ATA_DMA_START,
643                         mmio + ATA_DMA_CMD);
644         } else {
645                 /* clear start/stop bit */
646                 outb(inb(ap->ioaddr.bmdma_addr + ATA_DMA_CMD) & ~ATA_DMA_START,
647                         ap->ioaddr.bmdma_addr + ATA_DMA_CMD);
648         }
649
650         /* one-PIO-cycle guaranteed wait, per spec, for HDMA1:0 transition */
651         ata_altstatus(ap);        /* dummy read */
652 }
653
654 /**
655  *      ata_bmdma_freeze - Freeze BMDMA controller port
656  *      @ap: port to freeze
657  *
658  *      Freeze BMDMA controller port.
659  *
660  *      LOCKING:
661  *      Inherited from caller.
662  */
663 void ata_bmdma_freeze(struct ata_port *ap)
664 {
665         struct ata_ioports *ioaddr = &ap->ioaddr;
666
667         ap->ctl |= ATA_NIEN;
668         ap->last_ctl = ap->ctl;
669
670         if (ap->flags & ATA_FLAG_MMIO)
671                 writeb(ap->ctl, (void __iomem *)ioaddr->ctl_addr);
672         else
673                 outb(ap->ctl, ioaddr->ctl_addr);
674 }
675
676 /**
677  *      ata_bmdma_thaw - Thaw BMDMA controller port
678  *      @ap: port to thaw
679  *
680  *      Thaw BMDMA controller port.
681  *
682  *      LOCKING:
683  *      Inherited from caller.
684  */
685 void ata_bmdma_thaw(struct ata_port *ap)
686 {
687         /* clear & re-enable interrupts */
688         ata_chk_status(ap);
689         ap->ops->irq_clear(ap);
690         if (ap->ioaddr.ctl_addr)        /* FIXME: hack. create a hook instead */
691                 ata_irq_on(ap);
692 }
693
694 /**
695  *      ata_bmdma_drive_eh - Perform EH with given methods for BMDMA controller
696  *      @ap: port to handle error for
697  *      @prereset: prereset method (can be NULL)
698  *      @softreset: softreset method (can be NULL)
699  *      @hardreset: hardreset method (can be NULL)
700  *      @postreset: postreset method (can be NULL)
701  *
702  *      Handle error for ATA BMDMA controller.  It can handle both
703  *      PATA and SATA controllers.  Many controllers should be able to
704  *      use this EH as-is or with some added handling before and
705  *      after.
706  *
707  *      This function is intended to be used for constructing
708  *      ->error_handler callback by low level drivers.
709  *
710  *      LOCKING:
711  *      Kernel thread context (may sleep)
712  */
713 void ata_bmdma_drive_eh(struct ata_port *ap, ata_prereset_fn_t prereset,
714                         ata_reset_fn_t softreset, ata_reset_fn_t hardreset,
715                         ata_postreset_fn_t postreset)
716 {
717         struct ata_eh_context *ehc = &ap->eh_context;
718         struct ata_queued_cmd *qc;
719         unsigned long flags;
720         int thaw = 0;
721
722         qc = __ata_qc_from_tag(ap, ap->active_tag);
723         if (qc && !(qc->flags & ATA_QCFLAG_FAILED))
724                 qc = NULL;
725
726         /* reset PIO HSM and stop DMA engine */
727         spin_lock_irqsave(ap->lock, flags);
728
729         ap->hsm_task_state = HSM_ST_IDLE;
730
731         if (qc && (qc->tf.protocol == ATA_PROT_DMA ||
732                    qc->tf.protocol == ATA_PROT_ATAPI_DMA)) {
733                 u8 host_stat;
734
735                 host_stat = ata_bmdma_status(ap);
736
737                 ata_ehi_push_desc(&ehc->i, "BMDMA stat 0x%x", host_stat);
738
739                 /* BMDMA controllers indicate host bus error by
740                  * setting DMA_ERR bit and timing out.  As it wasn't
741                  * really a timeout event, adjust error mask and
742                  * cancel frozen state.
743                  */
744                 if (qc->err_mask == AC_ERR_TIMEOUT && host_stat & ATA_DMA_ERR) {
745                         qc->err_mask = AC_ERR_HOST_BUS;
746                         thaw = 1;
747                 }
748
749                 ap->ops->bmdma_stop(qc);
750         }
751
752         ata_altstatus(ap);
753         ata_chk_status(ap);
754         ap->ops->irq_clear(ap);
755
756         spin_unlock_irqrestore(ap->lock, flags);
757
758         if (thaw)
759                 ata_eh_thaw_port(ap);
760
761         /* PIO and DMA engines have been stopped, perform recovery */
762         ata_do_eh(ap, prereset, softreset, hardreset, postreset);
763 }
764
765 /**
766  *      ata_bmdma_error_handler - Stock error handler for BMDMA controller
767  *      @ap: port to handle error for
768  *
769  *      Stock error handler for BMDMA controller.
770  *
771  *      LOCKING:
772  *      Kernel thread context (may sleep)
773  */
774 void ata_bmdma_error_handler(struct ata_port *ap)
775 {
776         ata_reset_fn_t hardreset;
777
778         hardreset = NULL;
779         if (sata_scr_valid(ap))
780                 hardreset = sata_std_hardreset;
781
782         ata_bmdma_drive_eh(ap, ata_std_prereset, ata_std_softreset, hardreset,
783                            ata_std_postreset);
784 }
785
786 /**
787  *      ata_bmdma_post_internal_cmd - Stock post_internal_cmd for
788  *                                    BMDMA controller
789  *      @qc: internal command to clean up
790  *
791  *      LOCKING:
792  *      Kernel thread context (may sleep)
793  */
794 void ata_bmdma_post_internal_cmd(struct ata_queued_cmd *qc)
795 {
796         ata_bmdma_stop(qc);
797 }
798
799 #ifdef CONFIG_PCI
800 /**
801  *      ata_pci_init_native_mode - Initialize native-mode driver
802  *      @pdev:  pci device to be initialized
803  *      @port:  array[2] of pointers to port info structures.
804  *      @ports: bitmap of ports present
805  *
806  *      Utility function which allocates and initializes an
807  *      ata_probe_ent structure for a standard dual-port
808  *      PIO-based IDE controller.  The returned ata_probe_ent
809  *      structure can be passed to ata_device_add().  The returned
810  *      ata_probe_ent structure should then be freed with kfree().
811  *
812  *      The caller need only pass the address of the primary port, the
813  *      secondary will be deduced automatically. If the device has non
814  *      standard secondary port mappings this function can be called twice,
815  *      once for each interface.
816  */
817
818 struct ata_probe_ent *
819 ata_pci_init_native_mode(struct pci_dev *pdev, struct ata_port_info **port, int ports)
820 {
821         struct ata_probe_ent *probe_ent =
822                 ata_probe_ent_alloc(pci_dev_to_dev(pdev), port[0]);
823         int p = 0;
824         unsigned long bmdma;
825
826         if (!probe_ent)
827                 return NULL;
828
829         probe_ent->irq = pdev->irq;
830         probe_ent->irq_flags = IRQF_SHARED;
831         probe_ent->private_data = port[0]->private_data;
832
833         if (ports & ATA_PORT_PRIMARY) {
834                 probe_ent->port[p].cmd_addr = pci_resource_start(pdev, 0);
835                 probe_ent->port[p].altstatus_addr =
836                 probe_ent->port[p].ctl_addr =
837                         pci_resource_start(pdev, 1) | ATA_PCI_CTL_OFS;
838                 bmdma = pci_resource_start(pdev, 4);
839                 if (bmdma) {
840                         if (inb(bmdma + 2) & 0x80)
841                                 probe_ent->_host_flags |= ATA_HOST_SIMPLEX;
842                         probe_ent->port[p].bmdma_addr = bmdma;
843                 }
844                 ata_std_ports(&probe_ent->port[p]);
845                 p++;
846         }
847
848         if (ports & ATA_PORT_SECONDARY) {
849                 probe_ent->port[p].cmd_addr = pci_resource_start(pdev, 2);
850                 probe_ent->port[p].altstatus_addr =
851                 probe_ent->port[p].ctl_addr =
852                         pci_resource_start(pdev, 3) | ATA_PCI_CTL_OFS;
853                 bmdma = pci_resource_start(pdev, 4);
854                 if (bmdma) {
855                         bmdma += 8;
856                         if(inb(bmdma + 2) & 0x80)
857                                 probe_ent->_host_flags |= ATA_HOST_SIMPLEX;
858                         probe_ent->port[p].bmdma_addr = bmdma;
859                 }
860                 ata_std_ports(&probe_ent->port[p]);
861                 probe_ent->pinfo2 = port[1];
862                 p++;
863         }
864
865         probe_ent->n_ports = p;
866         return probe_ent;
867 }
868
869
870 static struct ata_probe_ent *ata_pci_init_legacy_port(struct pci_dev *pdev,
871                                 struct ata_port_info **port, int port_mask)
872 {
873         struct ata_probe_ent *probe_ent;
874         unsigned long bmdma = pci_resource_start(pdev, 4);
875
876         probe_ent = ata_probe_ent_alloc(pci_dev_to_dev(pdev), port[0]);
877         if (!probe_ent)
878                 return NULL;
879
880         probe_ent->n_ports = 2;
881         probe_ent->private_data = port[0]->private_data;
882
883         if (port_mask & ATA_PORT_PRIMARY) {
884                 probe_ent->irq = ATA_PRIMARY_IRQ;
885                 probe_ent->port[0].cmd_addr = ATA_PRIMARY_CMD;
886                 probe_ent->port[0].altstatus_addr =
887                 probe_ent->port[0].ctl_addr = ATA_PRIMARY_CTL;
888                 if (bmdma) {
889                         probe_ent->port[0].bmdma_addr = bmdma;
890                         if (inb(bmdma + 2) & 0x80)
891                                 probe_ent->_host_flags |= ATA_HOST_SIMPLEX;
892                 }
893                 ata_std_ports(&probe_ent->port[0]);
894         } else
895                 probe_ent->dummy_port_mask |= ATA_PORT_PRIMARY;
896
897         if (port_mask & ATA_PORT_SECONDARY) {
898                 if (probe_ent->irq)
899                         probe_ent->irq2 = ATA_SECONDARY_IRQ;
900                 else
901                         probe_ent->irq = ATA_SECONDARY_IRQ;
902                 probe_ent->port[1].cmd_addr = ATA_SECONDARY_CMD;
903                 probe_ent->port[1].altstatus_addr =
904                 probe_ent->port[1].ctl_addr = ATA_SECONDARY_CTL;
905                 if (bmdma) {
906                         probe_ent->port[1].bmdma_addr = bmdma + 8;
907                         if (inb(bmdma + 10) & 0x80)
908                                 probe_ent->_host_flags |= ATA_HOST_SIMPLEX;
909                 }
910                 ata_std_ports(&probe_ent->port[1]);
911                 probe_ent->pinfo2 = port[1];
912         } else
913                 probe_ent->dummy_port_mask |= ATA_PORT_SECONDARY;
914
915         return probe_ent;
916 }
917
918
919 /**
920  *      ata_pci_init_one - Initialize/register PCI IDE host controller
921  *      @pdev: Controller to be initialized
922  *      @port_info: Information from low-level host driver
923  *      @n_ports: Number of ports attached to host controller
924  *
925  *      This is a helper function which can be called from a driver's
926  *      xxx_init_one() probe function if the hardware uses traditional
927  *      IDE taskfile registers.
928  *
929  *      This function calls pci_enable_device(), reserves its register
930  *      regions, sets the dma mask, enables bus master mode, and calls
931  *      ata_device_add()
932  *
933  *      ASSUMPTION:
934  *      Nobody makes a single channel controller that appears solely as
935  *      the secondary legacy port on PCI.
936  *
937  *      LOCKING:
938  *      Inherited from PCI layer (may sleep).
939  *
940  *      RETURNS:
941  *      Zero on success, negative on errno-based value on error.
942  */
943
944 int ata_pci_init_one (struct pci_dev *pdev, struct ata_port_info **port_info,
945                       unsigned int n_ports)
946 {
947         struct ata_probe_ent *probe_ent = NULL;
948         struct ata_port_info *port[2];
949         u8 tmp8, mask;
950         unsigned int legacy_mode = 0;
951         int disable_dev_on_err = 1;
952         int rc;
953
954         DPRINTK("ENTER\n");
955
956         port[0] = port_info[0];
957         if (n_ports > 1)
958                 port[1] = port_info[1];
959         else
960                 port[1] = port[0];
961
962         if ((port[0]->flags & ATA_FLAG_NO_LEGACY) == 0
963             && (pdev->class >> 8) == PCI_CLASS_STORAGE_IDE) {
964                 /* TODO: What if one channel is in native mode ... */
965                 pci_read_config_byte(pdev, PCI_CLASS_PROG, &tmp8);
966                 mask = (1 << 2) | (1 << 0);
967                 if ((tmp8 & mask) != mask)
968                         legacy_mode = (1 << 3);
969         }
970
971         /* FIXME... */
972         if ((!legacy_mode) && (n_ports > 2)) {
973                 printk(KERN_ERR "ata: BUG: native mode, n_ports > 2\n");
974                 n_ports = 2;
975                 /* For now */
976         }
977
978         /* FIXME: Really for ATA it isn't safe because the device may be
979            multi-purpose and we want to leave it alone if it was already
980            enabled. Secondly for shared use as Arjan says we want refcounting
981
982            Checking dev->is_enabled is insufficient as this is not set at
983            boot for the primary video which is BIOS enabled
984          */
985
986         rc = pci_enable_device(pdev);
987         if (rc)
988                 return rc;
989
990         rc = pci_request_regions(pdev, DRV_NAME);
991         if (rc) {
992                 disable_dev_on_err = 0;
993                 goto err_out;
994         }
995
996         if (legacy_mode) {
997                 if (!request_region(ATA_PRIMARY_CMD, 8, "libata")) {
998                         struct resource *conflict, res;
999                         res.start = ATA_PRIMARY_CMD;
1000                         res.end = ATA_PRIMARY_CMD + 8 - 1;
1001                         conflict = ____request_resource(&ioport_resource, &res);
1002                         while (conflict->child)
1003                                 conflict = ____request_resource(conflict, &res);
1004                         if (!strcmp(conflict->name, "libata"))
1005                                 legacy_mode |= ATA_PORT_PRIMARY;
1006                         else {
1007                                 disable_dev_on_err = 0;
1008                                 printk(KERN_WARNING "ata: 0x%0X IDE port busy\n" \
1009                                                     "ata: conflict with %s\n",
1010                                                     ATA_PRIMARY_CMD,
1011                                                     conflict->name);
1012                         }
1013                 } else
1014                         legacy_mode |= ATA_PORT_PRIMARY;
1015
1016                 if (!request_region(ATA_SECONDARY_CMD, 8, "libata")) {
1017                         struct resource *conflict, res;
1018                         res.start = ATA_SECONDARY_CMD;
1019                         res.end = ATA_SECONDARY_CMD + 8 - 1;
1020                         conflict = ____request_resource(&ioport_resource, &res);
1021                         while (conflict->child)
1022                                 conflict = ____request_resource(conflict, &res);
1023                         if (!strcmp(conflict->name, "libata"))
1024                                 legacy_mode |= ATA_PORT_SECONDARY;
1025                         else {
1026                                 disable_dev_on_err = 0;
1027                                 printk(KERN_WARNING "ata: 0x%X IDE port busy\n" \
1028                                                     "ata: conflict with %s\n",
1029                                                     ATA_SECONDARY_CMD,
1030                                                     conflict->name);
1031                         }
1032                 } else
1033                         legacy_mode |= ATA_PORT_SECONDARY;
1034         }
1035
1036         /* we have legacy mode, but all ports are unavailable */
1037         if (legacy_mode == (1 << 3)) {
1038                 rc = -EBUSY;
1039                 goto err_out_regions;
1040         }
1041
1042         /* FIXME: If we get no DMA mask we should fall back to PIO */
1043         rc = pci_set_dma_mask(pdev, ATA_DMA_MASK);
1044         if (rc)
1045                 goto err_out_regions;
1046         rc = pci_set_consistent_dma_mask(pdev, ATA_DMA_MASK);
1047         if (rc)
1048                 goto err_out_regions;
1049
1050         if (legacy_mode) {
1051                 probe_ent = ata_pci_init_legacy_port(pdev, port, legacy_mode);
1052         } else {
1053                 if (n_ports == 2)
1054                         probe_ent = ata_pci_init_native_mode(pdev, port, ATA_PORT_PRIMARY | ATA_PORT_SECONDARY);
1055                 else
1056                         probe_ent = ata_pci_init_native_mode(pdev, port, ATA_PORT_PRIMARY);
1057         }
1058         if (!probe_ent) {
1059                 rc = -ENOMEM;
1060                 goto err_out_regions;
1061         }
1062
1063         pci_set_master(pdev);
1064
1065         /* FIXME: check ata_device_add return */
1066         ata_device_add(probe_ent);
1067
1068         kfree(probe_ent);
1069
1070         return 0;
1071
1072 err_out_regions:
1073         if (legacy_mode & ATA_PORT_PRIMARY)
1074                 release_region(ATA_PRIMARY_CMD, 8);
1075         if (legacy_mode & ATA_PORT_SECONDARY)
1076                 release_region(ATA_SECONDARY_CMD, 8);
1077         pci_release_regions(pdev);
1078 err_out:
1079         if (disable_dev_on_err)
1080                 pci_disable_device(pdev);
1081         return rc;
1082 }
1083
1084 /**
1085  *      ata_pci_clear_simplex   -       attempt to kick device out of simplex
1086  *      @pdev: PCI device
1087  *
1088  *      Some PCI ATA devices report simplex mode but in fact can be told to
1089  *      enter non simplex mode. This implements the neccessary logic to
1090  *      perform the task on such devices. Calling it on other devices will
1091  *      have -undefined- behaviour.
1092  */
1093
1094 int ata_pci_clear_simplex(struct pci_dev *pdev)
1095 {
1096         unsigned long bmdma = pci_resource_start(pdev, 4);
1097         u8 simplex;
1098
1099         if (bmdma == 0)
1100                 return -ENOENT;
1101
1102         simplex = inb(bmdma + 0x02);
1103         outb(simplex & 0x60, bmdma + 0x02);
1104         simplex = inb(bmdma + 0x02);
1105         if (simplex & 0x80)
1106                 return -EOPNOTSUPP;
1107         return 0;
1108 }
1109
1110 unsigned long ata_pci_default_filter(const struct ata_port *ap, struct ata_device *adev, unsigned long xfer_mask)
1111 {
1112         /* Filter out DMA modes if the device has been configured by
1113            the BIOS as PIO only */
1114
1115         if (ap->ioaddr.bmdma_addr == 0)
1116                 xfer_mask &= ~(ATA_MASK_MWDMA | ATA_MASK_UDMA);
1117         return xfer_mask;
1118 }
1119
1120 #endif /* CONFIG_PCI */
1121