/* SPDX-License-Identifier: GPL-2.0 */
#ifndef _LINUX_VIRTIO_PCI_MODERN_H
#define _LINUX_VIRTIO_PCI_MODERN_H

#include <linux/pci.h>
#include <linux/virtio_config.h>
#include <linux/virtio_pci.h>

/**
 * struct virtio_pci_modern_device - info for modern PCI virtio
 * @pci_dev:     Ptr to the PCI device struct
 * @common:     Position of the common capability in the PCI config
 * @device:     Device-specific data (non-legacy mode)
 * @notify_base:    Base of vq notifications (non-legacy mode)
 * @notify_pa:     Physical base of vq notifications
 * @isr:     Where to read and clear interrupt
 * @notify_len:     So we can sanity-check accesses
 * @device_len:     So we can sanity-check accesses
 * @notify_map_cap: Capability for when we need to map notifications per-vq
 * @notify_offset_multiplier: Multiply queue_notify_off by this value
 *                            (non-legacy mode).
 * @modern_bars:    Bitmask of BARs
 * @id:      Device and vendor id
 * @device_id_check: Callback defined before vp_modern_probe() to be used to
 *      verify the PCI device is a vendor's expected device rather
 *      than the standard virtio PCI device
 *      Returns the found device id or ERRNO
 * @dma_mask:     Optional mask instead of the traditional DMA_BIT_MASK(64),
 *      for vendor devices with DMA space address limitations
 */
struct virtio_pci_modern_device {
 struct pci_dev *pci_dev;

 struct virtio_pci_common_cfg __iomem *common;
 void __iomem *device;
 void __iomem *notify_base;
 resource_size_t notify_pa;
 u8 __iomem *isr;

 size_t notify_len;
 size_t device_len;
 size_t common_len;

 int notify_map_cap;

 u32 notify_offset_multiplier;
 int modern_bars;
 struct virtio_device_id id;

 int (*device_id_check)(struct pci_dev *pdev);
 u64 dma_mask;
};

/*
 * Type-safe wrappers for io accesses.
 * Use these to enforce at compile time the following spec requirement:
 *
 * The driver MUST access each field using the “natural” access
 * method, i.e. 32-bit accesses for 32-bit fields, 16-bit accesses
 * for 16-bit fields and 8-bit accesses for 8-bit fields.
 */
static inline u8 vp_ioread8(const u8 __iomem *addr)
{
 return ioread8(addr);
}
static inline u16 vp_ioread16 (const __le16 __iomem *addr)
{
 return ioread16(addr);
}

static inline u32 vp_ioread32(const __le32 __iomem *addr)
{
 return ioread32(addr);
}

static inline void vp_iowrite8(u8 value, u8 __iomem *addr)
{
 iowrite8(value, addr);
}

static inline void vp_iowrite16(u16 value, __le16 __iomem *addr)
{
 iowrite16(value, addr);
}

static inline void vp_iowrite32(u32 value, __le32 __iomem *addr)
{
 iowrite32(value, addr);
}

static inline void vp_iowrite64_twopart(u64 val,
     __le32 __iomem *lo,
     __le32 __iomem *hi)
{
 vp_iowrite32((u32)val, lo);
 vp_iowrite32(val >> 32, hi);
}

void
vp_modern_get_driver_extended_features(struct virtio_pci_modern_device *mdev,
           u64 *features);
void vp_modern_get_extended_features(struct virtio_pci_modern_device *mdev,
         u64 *features);
void vp_modern_set_extended_features(struct virtio_pci_modern_device *mdev,
         const u64 *features);

static inline u64
vp_modern_get_features(struct virtio_pci_modern_device *mdev)
{
 u64 features_array[VIRTIO_FEATURES_DWORDS];

 vp_modern_get_extended_features(mdev, features_array);
 return features_array[0];
}

static inline u64
vp_modern_get_driver_features(struct virtio_pci_modern_device *mdev)
{
 u64 features_array[VIRTIO_FEATURES_DWORDS];
 int i;

 vp_modern_get_driver_extended_features(mdev, features_array);
 for (i = 1; i < VIRTIO_FEATURES_DWORDS; ++i)
  WARN_ON_ONCE(features_array[i]);
 return features_array[0];
}

static inline void
vp_modern_set_features(struct virtio_pci_modern_device *mdev, u64 features)
{
 u64 features_array[VIRTIO_FEATURES_DWORDS];

 virtio_features_from_u64(features_array, features);
 vp_modern_set_extended_features(mdev, features_array);
}

u32 vp_modern_generation(struct virtio_pci_modern_device *mdev);
u8 vp_modern_get_status(struct virtio_pci_modern_device *mdev);
void vp_modern_set_status(struct virtio_pci_modern_device *mdev,
     u8 status);
u16 vp_modern_queue_vector(struct virtio_pci_modern_device *mdev,
      u16 idx, u16 vector);
u16 vp_modern_config_vector(struct virtio_pci_modern_device *mdev,
       u16 vector);
void vp_modern_queue_address(struct virtio_pci_modern_device *mdev,
        u16 index, u64 desc_addr, u64 driver_addr,
        u64 device_addr);
void vp_modern_set_queue_enable(struct virtio_pci_modern_device *mdev,
    u16 idx, bool enable);
bool vp_modern_get_queue_enable(struct virtio_pci_modern_device *mdev,
    u16 idx);
void vp_modern_set_queue_size(struct virtio_pci_modern_device *mdev,
         u16 idx, u16 size);
u16 vp_modern_get_queue_size(struct virtio_pci_modern_device *mdev,
        u16 idx);
u16 vp_modern_get_num_queues(struct virtio_pci_modern_device *mdev);
void __iomem * vp_modern_map_vq_notify(struct virtio_pci_modern_device *mdev,
           u16 index, resource_size_t *pa);
int vp_modern_probe(struct virtio_pci_modern_device *mdev);
void vp_modern_remove(struct virtio_pci_modern_device *mdev);
int vp_modern_get_queue_reset(struct virtio_pci_modern_device *mdev, u16 index);
void vp_modern_set_queue_reset(struct virtio_pci_modern_device *mdev, u16 index);
u16 vp_modern_avq_num(struct virtio_pci_modern_device *mdev);
u16 vp_modern_avq_index(struct virtio_pci_modern_device *mdev);
#endif