pmap: Implement pmap_npt_transform() for NVMM

This function will transform an initialized pmap structure for use by
NVMM's AMD SVM backend.

AMD's NPT (nested page table), aka RVI (rapid virtualization indexing)
implementation is more complete than Intel's EPT; it supports A/D bits
and uses the same bits positions as native x86 page tables.  So this
function is a simplified version of pmap_ept_transform().

pc64/vmm: Use pmap_ept_transform() to simplify EPT code

pmap: Implement pmap_ept_transform() for NVMM

The pmap_ept_transform() transforms an initialized pmap structure to be
EPT type for Intel VMX hypervisor (e.g., NVMM) use.  This implementation
is derived from vmx_ept_init() and vmx_ept_pmap_pinit() in
'pc64/vmm/ept.c'.

Note that this function has a different prototype as NetBSD's one,
because we don't make 'pmap_ept_has_ad' a global variable so we need to
pass extra flags to the pmap.

When zeroing out the page directories, note that the valid area is two
pages if there is a pm_pmlpv_iso PTE installed (i.e., the system has
meltdown mitigation enabled), otherwise, it's only one page.  (credit to
Matt Dillon)

nvmmctl(8): Rewrite makefile and hook to build

nvmmctl(8): Port to DragonFly

* Adjust header inclusions
* Add 'XCR0_FLAGS1' macro define
* Add several '__unused' attributes
* Rename '__dead' to '__dead2'

libnvmm: Adapt to also build on NetBSD

Adapt the libnvmm code to build and work on both DragonFly and NetBSD.
So it can help debug the porting issues.

libnvmm: Fix mmap() failure with 'permission denied'

The mmap() in nvmm_vcpu_create() was always failing with the EACCES
(permission denied) error code.  It was because mmap() was requesting
prot = PROT_READ|PROT_WRITE and flags = MAP_SHARED, but the fd was
opened with O_RDONLY (or O_WRONLY in nvmm_root_init()) and thus
disallowed such a mmap request.

Fix this issue by opening the nvmm fd with O_RDWR flag.  This also
requires to change the mode of '/dev/nvmm' from 0640 to 0660.
However, this makes root owner distinguishing in nvmm kernel module
useless.  So change to identify root owner by checking whether the
caller has root privilege.

In addition, refactor nvmm_root_init() to also check for root privilege
first and then call nvmm_init().

libnvmm: Update makefiles and hook to build

libnvmm: Port to DragonFly

* Add 'nvmm_compat.h' to adapt some macros/constants for DragonFly.
* Add some '__unused' attributes to fix compilation warnings/errors.
* Adjust header inclusions.
* Update nvmm(4) kernel source path in the man page, also update
  'struct nvmm_x64_state' to match DragonFly's version.

nvmm: Improve makefile to allow standalone build

This change makes the nvmm kernel module is buildable in its own
directory.  This helps debug the module.

nvmm: Rewrite makefiles and hook to build

Note that kernel header files are install by the top-level
'include/Makefile'.  However, it will install all found header
files in the specified directories, including 'nvmm_compat.h'
and 'nvmm_internal.h'.  Therefore, add a guard to prevent them
from including by userland utilities (e.g., libnvmm, nvmmctl).

nvmm: Add to sys/conf/files and LINT64

Meanwhile, remove the unused 'files.nvmm'.

nvmm: Port to DragonFly #23: header inclusion adjustments

nvmm: Port to DragonFly #22: pmap EPT/NPT base address

Replace NetBSD's pmap->pm_pdirpa[0] with our vtophys(pmap->pm_pml4).

In addition, use vmspace_pmap() to grab the pmap, which is more
consistent with other code in our code base.

nvmm: Port to DragonFly #21: virtual address space management

Adapt the following NetBSD UVM functions to DragonFly:

* uvmspace_alloc() -> vmspace_alloc()
* uvmspace_free() -> vmspace_rel()
* uvm_fault() -> vm_fault()
* uvm_map() -> vm_map_insert() + vm_map_inherit() + vm_map_madvise() ...
* uvm_map_pageable() -> vm_map_wire()
* uvm_unmap(), uvm_deallocate() -> vm_map_remove()

To support the UVM_FLAG_FIXED & UVM_FLAG_UNMAP flags in uvm_map(),
vm_map_delete() is called unconditionally to make room fot the coming
new mapping.  Note that vm_map_findspace() cannot be called in this case,
because it's not guaranteed to return the input hint address if the
hint range is available.

Use vm_map_wire() to wire/unwire the mapping; vm_map_unwire() is for
userland mlock operations.

In uvm_deallocate(), need to unwire kernel page before remove, because
vm_map_remove() only handles user wirings.

Reviewed-by: Matt Dillon

nvmm: Port to DragonFly #20: preemption & critical section

In DragonFly, a normal kernel thread will not migrate to another CPU or be
preempted (except by an interrupt thread), so kpreempt_{disable,enable}()
are not needed.  However, we can't use critical section as an instead,
because that would also prevent interrupt/reschedule flags from being
set, which would be a problem for nvmm_return_needed() that's called from
vcpu_run() loop.  (credit to Matt Dillon)

Port nvmm_return_needed() to DragonFly.  But note that the
*_resched_wanted() functions cannot be used in critical sections, which
would prevent the relevant flags from being set.  (credit to Matt Dillon)

Port splhigh()/splx() as critical sections in DragonFly for the moment.
Don't worry about it unless we have issues with it later.

nvmm: Port to DragonFly #19: IPI cross-cpu calls

Replace NetBSD xcall(9) API by our lwkt_send_ipiq() and
lwkt_send_ipiq_mask() to unicast/broadcast a function call to one/all
CPUs.

In DragonFly, a normal kernel thread won't migrate to another CPU,
so no need to implement NetBSD's curlwp_bind() and curlwp_bindx().

nvmm: Port to DragonFly #18: kernel memory allocation

Use kmem_alloc() and kmem_free() to implement uvm_km_alloc() and
uvm_km_free() as they're used in svm_vcpu_create() and vmx_vcpu_create().
However, our kmem_alloc() may return 0 (i.e., allocation failure), so
need an extra check in the caller functions.

Since we've defined 'kmem_alloc' and 'kmem_free' macros to adapt
NetBSD's functions to use our kmalloc() and kfree().  Therefore, extra
parentheses are added around 'kmem_alloc' and 'kmem_free' to avoid macro
expansion, so the original functions would be called.

In addition, change the 'kmem_free()' to 'uvm_km_free()' in
vmx_vcpu_create(), aligning with the invocation pattern as well as
the use case in svm_vcpu_create().

nvmm: Port to DragonFly #17: physical page allocation

Implement uvm_pagealloc() and uvm_pagefree() with vm_page_alloczwq() and
vm_page_freezwq(), respectively, which are added for this purpose by
Matt Dillon in 14067db606f14f728f62891ebcdc30366e95aa3d.

These two functions are used in 'nvmm_x86_svm.c' to allocate the HSAVE
memory.

nvmm: Port to DragonFly #16: contiguous memory allocation

svm_memalloc() and vmx_memalloc() need to allocate memory block that's
both virtually contiguous and physically contiguous.  NetBSD achieves
this requirement by first allocating a list of physically contiguous
pages and a virtually contiguous memory address, and then mapping them
page by page.

We can just use contigmalloc(9) to achieve the same goal.

nvmm: Port to DragonFly #15: anonymous object management

Implement compat code for NetBSD anonymous object management:
uao_create(), uao_reference() and uao_detach().

The created object should be pageable by default, for example, the
object of guest physical memory.  So choose the default pager to create
the anonymous object.

If the object needs to be wired (e.g., the object for communicating
between kernel and userland), the uvm_map_pageable() can be called to
wire the object.

nvmm: Port to DragonFly #14: device & module operations

Replace NetBSD 'cdevsw' and 'fileops' structs with our 'dev_ops' struct,
and port NVMM to support both device open/close and module load/unload
operations.

NetBSD doesn't support cloning device, so it clones the file descriptor
(fd_clone() function) of the opened device (/dev/nvmm) and reassociates
it to the current process.  So that each process sees a separate
instance of the device.  See also NetBSD 'sys/net/if_tap.c' for an
example with detailed explanation on this mechansim.

DragonFly supports per-file-descriptor data with the devfs cdevpriv API,
which is much simpler than the method with autoclone device.

Also credit to Jaromír Doleček for his porting work of NVMM to DragonFly.
See: https://github.com/Moritz-Systems/DragonFlyBSD/commit/b96e5836fd25b448bb54775ac0107917adc2937d

nvmm: Port to DragonFly #13: debug register save & restore

Derived from NetBSD's x86_dbregs_save()/x86_dbregs_restore() in
'sys/arch/x86/x86/dbregs.c'.

nvmm: Port to DragonFly #12: FPU save & restore

Note that the host FPU state is indeterminant and depends on whether
the user program used the FPU or not, so there might not be any state to
save.  npxpush() and npxpop() can handle this.  Accordingly, need to use
'mcontext_t' to store host FPU state.

At first I used fpu_area_save() and fpu_area_restore() to deal with the
host FPU state, but it caused a hard fault loop when trying to boot an
OS in QEMU, because it failed to handle an uninitialized FPU.  Thanks
to Matt Dillon for tracking it down and fixing it.

Credit to FreeBSD vmm code: save_guest_fpustate(), restore_guest_fpustate()

nvmm: Port to DragonFly #11: CPU features

nvmm: Port to DragonFly #10: cpu_info etc.

* Replace 'struct cpu_info' with 'struct globaldata'.
* Port cpu_info's ci_tss_sel/ci_tss/ci_gdt.
* Port curcpu(), cpu_number(), cpu_index() functions.
* Port CPU iteration code.

nvmm: Port to DragonFly #9: atomic operations

Add compat defines for NetBSD's atomic_inc_64(), atomic_{inc,dec}_uint().
However, we don't have an alternative for the type-generic
atomic_load_relaxed() function.  So just modify the code accordingly.

nvmm: Port to DragonFly #8: kcpuset(9) -> cpumask(9)

Translate NetBSD's kcpuset(9) API to our cpumask(9) API.  Use the atomic
version to avoid possible races between multiple vCPUs.

nvmm: Port to DragonFly #7: memory allocation

Add compat code to adapt NetBSD's kmem_alloc()/kmem_zalloc()/kmem_free().

nvmm: Port to DragonFly #6: mutex/rwlock

Add compat code to adapt NetBSD's mutex and rwlock to use DragonFly's
lockmgr(9).

nvmm: Port to DragonFly #5: constants/functions/macros

Update nvmm_compat.h to include various compat constant/functions
defines.

nvmm: Port to DragonFly #4: PAT modes

Adapt NetBSD's PATENTRY() and PAT_* modes to ours PAT_VALUE() and PAT_*
defines.

nvmm: Port to DragonFly #3: CR/MSR defines

Add XCR0 and various MSRs compat defines.

nvmm: Port to DragonFly #2: CPUID Fn0000_000B for SVM

Add CPUID Fn0000_000B (Extended Topology Enumeration) defines for SVM.

Obtained from NetBSD.

nvmm: Port to DragonFly #1: nvmm_x86_{svmfunc,vmxfunc}.S

nvmm: Port to DragonFly #0: initial nvmm_compat.h

Add nvmm_compat.h to hold the major compatibility code for the porting.
Currently there are mostly CPUID2_* and CPUID_SEF_* defines.

Credit to Jaromír Doleček for his initial porting of NVMM to DragonFly.
See: https://github.com/Moritz-Systems/DragonFlyBSD/commit/b96e5836fd25b448bb54775ac0107917adc2937d

Add group 'nvmm' and GID_NVMM for nvmm(4) & nvmmctl(8)

nvmm.4: Add HISTORY and hook to build

nvmm: Bring some minor changes from NetBSD-current

These changes help port NVMM to DragonFly by reducing the required
difference.

Import nvmm.4 manpage from NetBSD 9-stable

Branch: NetBSD 9-stable
Date: Fri Apr 30 14:08:16 2021 +0000
Path: share/man/man4/nvmm.4

Import nvmmctl(8) from NetBSD 9-stable

This is a program to control NVMM(4) virtual machines.  It currently
implements the following two commands:
- identify: display the capabilities of the system.
- list: display information on each virtual machine registered in the
  system.

Branch: NetBSD 9-stable
Date: Fri Apr 30 14:08:16 2021 +0000
Path: usr.sbin/nvmmctl

Import libnvmm(3) from NetBSD 9-stable

This is the virtualization API that provides a way for VMM software to
effortlessly create and manage virtual machines via NVMM(4).

Branch: NetBSD 9-stable
Date: Fri Apr 30 14:08:16 2021 +0000
Path: lib/libnvmm

Import nvmm(4) from NetBSD 9-stable

This is the kernel driver that provides support for hardware-accelerated
virtualization.  It is made of an MI frontend with the following two MD
backends:
- x86 Intel VMX
- x86 AMD SVM

Branch: NetBSD 9-stable
Date: Fri Apr 30 14:08:16 2021 +0000
Path: sys/dev/nvmm

<sys/signal.h>: Put sig_t and sigmask() under __BSD_VISIBLE.

pam_passwdqc: Local modifications.

Merge branch 'vendor/PAM_PASSWDQC'

Import passwdqc 2.0.2

openpam: Push README.DELETED to master.

Import OpenPAM Tabebuia.

Fixes an off-by-one in pam_getenv(3).

See HISTORY for the details.

sbin/hammer2: Print freemap leaf's linear offset when "show"

sys/vfs/hammer2: Fix compilation when HAMMER2_IO_DEBUG enabled

No such field debug_data in struct hammer2_io.

sys/vfs/hammer2: #if0 incomplete HAMMER2_FREEMAP_{DOMAYFREE,DOREALFREE} related

Disable related code in addition to already #if0'd parts.

Neither "how == HAMMER2_FREEMAP_DOMAYFREE" nor "how == HAMMER2_FREEMAP_DOREALFREE"
happen. Looks like these weren't completely implemented since first
appeared in 10136ab6cde1969ab6ca22168b2a10ed5d9cc557 in 2013.

sys/vfs/hammer2: Remove unused HAMMER2_XOP_IROOT

Never used since first appeared in 6f445d15835c6677a0a79c8d168ef44d0b9b22c3 in 2018.
Also remove a comment for nonexistent HAMMER2_XOP_RECURSE.

kernel/acpi: Adjust MADT revision check.

Update the pciconf(8) database.

July 5, 2021 snapshot from https://pci-ids.ucw.cz

libstand: Unbreak buildworld.

Oops, this was a stupid last minute mistake.

Make stand/lib an internal one, i.e. don't install libstand anymore.

Nothing in dports needs it either.

Also, leave the manual page.

boot: Move boot source code /usr/src/stand.

sys/boot becomes stand/boot and lib/libstand becomes stand/lib.

My main reason is to have boot out of the way when for example grepping
in sys/. It also makes more sense since it's not really userland or
kernel code.

Other BSDs have moved their boot/standalone code around too, but maybe
with different directory layouts.

Approved-by: dillon, zrj

sys/vfs/hammer2: Remove unused HAMMER2_OFFSET_{MIN,MAX}

Never used since first appeared in 504565062f34ec55037ac0cf308fe3562f091460 in 2014.

periodic/whatis: Remove whatis(1) db rebuilding for localized manpages.

makewhatis doesn't have an -L option since the switch to mandoc's version.

Besides, we don't have localized manual pages in base and also in dports
I couldn't find a trace of any.

periodic: Enable {daily,weekly,monthly,security}_show_badconfig by default.

It can be helpful and found an issue in a dports periodic script, so we
want this on, I guess. Our base scripts have been cleaned up to not error
on optional things like a missing accounting file when accounting is not
enabled, etc.

Reported-by: James Cook (falsifian)

periodic: Do not error with rc==2 for some optional stuff.

* UFS accounting has to be enabled in rc.conf, and if it is not, the
  script should just do nothing.

* /etc/news.expire is just some backwards compatibility stuff, so
  don't worry if it doesn't exist.

periodic: Do not error with rc=2 when /etc/daily.local etc. don't exist.

These scripts are only for backwards compatibility and we could even
remove 999.* but for now, just stay silent and do nothing if they
don't exist.

uname.1: Add missing options to the usage.

Submitted-by: yellowrabbit2010
Dragonfly-bug: https://bugs.dragonflybsd.org/issues/3285

sys/vfs/hammer2: Use HAMMER2_IND_COUNT_XXX

sys/vfs/hammer2: HAMMER2_CHAIN_BMAP* should be HAMMER2_CHAIN_BLKMAP*

The freemap code uses "bmap" and "BMAP" for bitmap,
so these two macros should be "BLKMAP" as the comment implies.

npx: Remove an unused typedef and clean up a bit

* Remove unused typedef bool_t
* Fix a minor typo: FXRSTR -> FXRSTOR
* Fix indentation
* Reorganize a bit

npx: Fix inline ASM error in fpu_clean_state()

I made a mistake in commit 6becaabbb80a1d1b37c868ce7f22fca2ef6a743f when
I changed it use 'fldz' in the inline ASM.  Fix it.

mknod(2): Allow for the creation of fifos with mknod() to satisfy POSIX.

Calling mknod() and mknodat() with S_IFIFO shall be equivalent to
calling mkfifo() and mkfifoat().

Note that we ignore 'dev' if S_IFIFO is passed, like Linux does, but
different from what {Free,Net,Open}BSD do, which require it to be 0.
It's true that the standard leaves anything but 0 undefined for this
case but also note the standard's example which does indeed pass a
'dev' arg and doesn't take any precautions of initializing it:

https://pubs.opengroup.org/onlinepubs/9699919799/functions/mknod.html#tag_16_328_06

I don't think it makes any difference in practice, though.

Reported-by: DanDan
While here, fix the manual page's HISTORY a bit (taken from FreeBSD).

periodic/snapshot-hammer2: Change scarce free space handling slightly.

The idea is that whenever the user falls into free space shortage
situation, the "sliding window" of snapshots potentially continues
rolling forward, instead of becoming stuck into the past.

Submitted-by: Francis GUDIN
Dragonfly-bug: <https://bugs.dragonflybsd.org/issues/3287>

npx: Use 64-bit version FXSAVE64/FXRSTOR64 and XSAVE64/XRSTOR64

Since DragonFly is 64-bit only, use the 64-bit version
FXSAVE64/FXRSTOR64 and XSAVE64/XRSTOR64.

The new FXSAVE64/FXRSTOR64 version represents FIP/FDP as 64-bit fields
(union fp_addr.fa_64), while the legacy FXSAVE/FXRSTOR version uses
split fields: 32-bit offset, 16-bit segment and 16-bit reserved field
(union fp_addr.fa_32).  The latter implies that the actual addresses are
truncated to 32 bits which is insufficient in modern programs.

Improve the inline ASM code a bit to use 'xsave64'/'xrstor64' names.
The extra 'area' variable is introduced to help avoid dereferencing
'void *' pointer.

Referred-to: NetBSD

npx: Extend fpusave/fpurstor() to accept an XSAVE mask argument

XSAVE/XRSTOR requires a mask argument that determines the
components/states to save/restore.  Thus this argument controls the
save area size.

Extend fpusave/fpurstor() functions to accept an XSAVE mask argument,
so the caller can choose the wanted components/states to save/restore
and knows the exact area size.

NVMM will use this feature.

npx: Use 'fldz' in fpu_clean_state() to load dummy zero

The 'fldz' instruction pushs +0.0 onto the FPU register stack.  Use it
to replace the 'dummy_variable' variable.

Referred-to: NetBSD

ffs.5 : ffs is the default filesystem for /boot only

inetd: Adjust error message too (a la the removed fcntl one).

inetd: Use pipe2() instead of pipe()/fcntl()/fcntl() combo.

file: Update README.DRAGONFLY and config.h.

Merge branch 'vendor/FILE'

vendor/file: upgrade from 5.39 to 5.40

For details, see ChangeLog.

libmagic/mkmagic: Add generated header(s) to CLEANFILES.

kernel/modules: Simplify a number of .PATHs in module Makefiles.

<sys/sensors.h>: Include <sys/types.h> for timeval and int64_t.

While here, remove an unused define.

world - Add covid(1) utility and port manual page from netbsd (2)

* Though perhaps one could say that the 512-byte page-table pages
  the VAX had were a kind of disease, no... we won't go there.

  Fix manual page, move to section 1, and it isn't vax-specific.

world - Add covid(1) utility and port manual page from netbsd

* Move from section (4) to section (1) and include a utility which
  dumps one of the genome sequences.  Just to put an exclamation
  mark on the amount of damage such an absurdly short genetic sequence
  can wreak on the world

Makefile.inc1: Remove unneeded exists() checks.

Just doing 'make' in /usr/src isn't used for building anymore for a long
time, and our targets don't really make sense with an incomplete sounrce
tree.

Makefile.inc1: Put all backup related stuff under the NO_BACKUP check.

Main effect is that /usr/obj/world_backup is no longer created when
NO_BACKUP is set.

sys/vfs/hammer2: #if0 unused HAMMER2_DIRHASH_{HIMASK,FORCED}

HIMASK was no longer used since e028fa747e9825425f74da7e9c57a50a82b48e82 in 2012.
FORCED bit was never used since first appeared in above commit.

Only LOMASK bits are relevant for dirent lookup.

sys/vfs/hammer2: Fix function name in xop kprintf's

libc: Sync namespace.h and un-namespace.h a bit more pedantically.

kernel: Staticize some variables.

kernel/vm: Remove an unused variable.

It is no longer needed since f2c2051ee473577d22178d55f782ceebbd88d58f.

kernel: Remove ndis(4) and associated tools and stuff.

ndis(4) was a wrapper to allow running binary Windows network
drivers that conformed to the Network Driver Interface Specification,
i.e. NDIS.

It only ever supported drivers from the days of Windows XP and
Windows Server 2003 (i.e. NDIS 5.1). And even if one was actually
able to extract the .sys and .inf files from the driver package and
successfully convert them to a building module, which both were
adventures in itself, it could be any result when trying to run it,
depending on the card and driver, from resonably working to not
working, even crashing. But it did work for some cards, so it had
some limited merit in its time.

NetBSD removed it in 2018, FreeBSD in January 2021, so let's follow
suit now.

wpa_cli.8: command is actually optional.

wpa_supplicant: Adjust READMEs.

Merge branch 'vendor/WPA_SUPPLICANT'

wpa_supplicant: Remove NDIS specific code on the vendor branch.

ipfw3nat: Fix indentation

A follow-up to eb4c9e6d01df1803b884c6499ab99062a4453975.

netinet6 - Add bridge test to ND6_RTENTRY_IS_NEIGHBOR()

* Refactor ND6_RTENTRY_IS_NEIGHBOR() to get rid of
  the confusing double-negative.

* Change the IFP test to also allow the case where
  the route belongs to a bridge that the ifp is
  associated with.

* Fixes bogus "nd6_lookup: failed to lookup..." console messages.

netinet6 - Fix 'not IPV6' console warning

* Remove the ethernet header before issuing the icmp6_error()
  after an ARP (well, IPV6 equivalent) failure.

  Fixes a console warning.

hammer2 - Remove fhtovp debugging

* Remove kprintf() in fhtovp().