locate.updatedb(8): improve default search paths with small updates

* Make locate.updatedb(8) default to search from all mount points with
  the allowed filesystem types.  Therefore, it is allowed to exclude the
  root filesystem type, while still correctly index other mounted
  filesystem with allowed types.  Otherwise, the whole filesystem is
  simply ignored if the root filesystem type is excluded.

* Although we can now ignore the root filesystem type from being indexed,
  but this is generally a configuration mistake, so we warn about this.

* Use stat(1) instead of the obscure "find -c" to help check whether the
  created database is empty.

* Print out the full find command by default (to help config/debug), also print
  a message when the database is successfully built.

* Update locate.rc accordingly.

* Explain why use cat instead of cp for the final database creation.

if_vtnet - Don't drop vtnet_slz in some of the virtqueue_notify() calls.

* There are several cases where the vtnet_slz serializer is dropped around
  virtqueue_notify() calls, with the hope that this allows other cores to
  run if_vtnet code in parallel.

* In vtnet_exec_ctrl_cmd(), it shouldn't make a significant performance
  difference, and avoids some theoretical race possibilities.

* In the vtnet_init_rx_vq initialization code, it also is irrelevant for
  performance, and only complicates things.

* In the vtnet_rxeof() and vtnet_start() cases it might actually be relevant
  for performance, so we keep those for now. When changing the driver to
  use the MULTI_SERIALIZERS MODE, the serializer dropping can also be
  removed in those two cases.

if_vtnet - Remove vtnet_tick_ch and vtnet_cfgchg_task from softc struct.

* Forgot to remove the softc variables in the changes
  c5f8e1538bcc13f7a39b805bcc5b774780 and 603be9646446bdb4292b6cd27544788c2c.

* Also remove a leftover taskqueue_drain() call.

if_vtnet - Pass the vtnet serializer in ether_ifattach().

* This is likely just an intermediate step, the plan is to eventually use
  the MULTI SERIALIZER MODE.

if_vtnet - Remove unused vtnet_tick() code.

if_vtnet - No need to use the taskqueue to run vtnet_update_link_status().

[pci_vendors] Update pci_vendors to 2018.03.21

[test] Hi Fred :-)

drm/linux: Add signal_pending_state

virtio - Get rid of unused flags option in virtio_alloc_virtqueues().

virtio - Explicitly teardown interrupts in driver detach methods.

* This seems to be an easy way to avoid potential races during driver
  detachements.

virtio - Move virtqueue_pending() checks into the child driver.

* This makes it easier for now, to deal with virtqueue locking, when
  multiple virtqueues are mapped to a single interrupt vector.

virtio - Get rid of config_change devmethod, treat like vq interrupts.

virtio - Specify handler and argument in bind_intr, instead of vq alloc.

virtio - Refactor virtio bus API, to untangle virtuques from IRQ allocation.

* These API changes allow each virtio device driver to explicitly control
  the assignment of virtqueues to IRQ vectors.

* This allows explicitly assigning IRQ vectors to cpus. And virtio device
  drivers also get to know, on which cpu each virtqueue interrupt is
  running.

groff/tmac: Revert doc-common back to vendor state.

Missing .Fx etc. versions should be added to mdoc.local instead, so
add any which were not in it yet.

While here, fix a typo from 12041c96816e1e7cccac302fd5656529fe9c9e9b
and add NetBSD 9.0 for fstyp.8.

sys/vfs/autofs: Revert 1bfb99b1b1("prevent assert on unmount")

1bfb99b1b1 originally brought from NetBSD was not correct.
Autofs can't unmount when more than one level of directories
are created via indirect map.

drm/linux: Add cmpxchg_relaxed()

Obtained-from: FreeBSD

kernel - Fix namecache leak / broken hysteresis

* We were double-using NCF_DESTROYED for both dummy ncp's for
  list iteration and to indicate a removed ncp.  This prevented
  the hysteresis code from properly cleaning up such ncp's.

  Symptoms were growing stalls every few seconds on one cpu as
  the hysteresis code would try to futiley clean up excess
  namecache entries.

* Use NCF_DUMMY instead of NCF_DESTROYED to check for dummy
  list iterators in the hysteresis code, allowing it to process
  NCF_DESTROYED ncps.

* These ncps could accumulate only in situations where the vnode
  nlinks count is greater than 1, since a file deletion when nlinks
  is 1 will delete the vnode and all related ncp's.

  When nlinks is greater than 1, a file entry deletion does not
  necessarily cause the vnode to be deleted, leaving the namecache
  records intact, but flagged NCF_DESTROYED, and prevented the
  hystersis code from operating correctly.

Reported-by: ftigeot

kernel/machdep: Remove unused and #if 0'd finishidentcpu() prototype.

drm/linux: Add a few functions (mostly stubs)

vfs_unmountall.9: Document the new halting argument.

kernel: Add missing atomic_fcmpset_*() variants

They will be useful for newer drm code from Linux 4.8.

kernel/devfs: Use 1UL << ... in bitmap bit operations.

Remove obsolete stabs.7 manual page.

virtio_blk - Inline vtblk_complete into vtblk_vq_intr. Dedup sglist_reset.

virtio_pci - Remove int return value from interrupt handler functions.

kernel - devfs cleanup

* staticize two functions, remove *_fff() from manual pages (now
  static).

* Adjust documentation.

* Rename internal function from devfs_clone_bitmap_resize() to
  devfs_clone_bitmap_extend().  Document the slight weirdness in
  the extent of the passed-in 'newchunks' parameter, but do not change
  the API.

Submitted-by: Aaron LI, with added code comments by Matt

kernel - Fix tapN creation >= 32 units, fix pty issues >= 32 ptys (2)

* Also fix incorrect shift type in devfs_clone_bitmap_set().

Submitted-by: Aaron LI

kernel - Fix tapN creation >= 32 units, fix pty issues >= 32 ptys

* Fix ifconfig tapN create for N >= 32.

* devfs_clone_bitmap_chk(), which only if_tap uses, was returning
  the wrong default value for unit numbers beyond the current
  dynamic size of the bitmap.

* Both devfs_clone_bitmap_chk() and devfs_clone_bitmap_put()
  were improperly using (1 << unit) instead of (1L << unit)
  when masking the 64-bit (long) bitmap elements, resulting in
  chaos for units >= 32.

* This also should fix pty issues >= 32 ptys.

Reported-by: Aaron Li

idr.9: Improve this manual page a bit.

Based on a patch submitted by Aaron LI <aly@aaronly.me>.

kernel - Fix quickhalt panic-on-reboot

* Fix an issue with the quickhalt feature that shortcuts the
  unmounting of procfs, devfs, and tmpfs.

* Fixes a panic-on-reboot due to quickhalt still cleaning out
  the vnode ops even though it leaves the vnodes intact.  Don't
  clean out the vnode ops.

Reported-by: zrj

BSD.include.dist: Use spaces to indent (see etc/mtree/README).

ipfw3: use the headers in include folder

ipfw3: move the headers into include folder

[bsd-family-tree]: announce NetBSD 7.1.2

mmap.2: Remove reference to no longer existing BUGS section.

boot/common/fs.h: Add a common definition of CTASSERT().

<net/if_poll.h>: Add license. It was based on sys/net/if_poll.c.

Reported-by: Aaron LI <aly@aaronly.me>
Discussed-with: sephe

kernel - Attempt to fix high vnlru cpu use

* In certain situations _cache_cleanpos() gets into a livelock
  of some sort.  It is limited by a counter but the livelock creates
  havoc when it happens.

* It appears that _cache_cleanpos() can get into a situation where
  the head element of all available nchashtbl[] slots is not freeable
  (e.g. due to having multiple refs).  When this occurs, trailing
  elements in the chained hash table cannot be recycled.

  nchashtbl[] is typically very large, so this situation does not
  happen very often.  There are usually plenty of entries to pick
  away at.  However, it looks like situations can develop where
  enough entries get into this masked state that the hysteresis is
  unable to complete, resulting in a cpubound loop.

* Refactor the chained list from LIST to TAILQ and modify the
  _cache_cleanpos() function to cycle ncp's to the end of the
  list before trying to zap them.  If the zap fails, the next
  iteration will encounter a different head.

Reported-by: ftigeot

atkbdc - Add additional ACPI PNP IDs specified by Microsoft for Keyboards.

These IDs are from Microsofts device IDs list at
http://download.microsoft.com/download/1/6/1/161ba512-40e2-4cc9-843a-923143f3456c/devids.txt
which is linked from http://www.uefi.org/PNP_ACPI_Registry.

This should fix some machines which failed to attach the PS2 Keyboard
after 131acb0380e93664f106117ebf8ba322a3d1b7c4, unless the acpi(4) module
was disabled.

periodic - Adjust daily 160 and 161 (hammer and hammer2 cleanup)

* Use /usr/bin/lockf to avoid backing up many hammer or hammer2
  cleanup processes, as a cleanup (depending on the situation
  and vfs.hammer2.bulkfree_tps setting) can take longer than a
  day.

kernel - Implement QUICKHALT shortcut for unmounting during shutdown

* Add the MNTK_QUICKHALT flag which allows the system to just unlink but
  otherwise ignore certain mount types during a halt or reboot.  For now
  we flag tmpfs, devfs, and procfs.

* The main impetus for this is to reduce the messing around we
  do with devfs during a shutdown.  Devfs has its fingers, and its
  vnodes, prettymuch sunk throughout the system (e.g. /dev/null, system
  console, vty's, root mount, and so on and so forth).  There's no
  real need to attempt to unwind all of that mess nicely.

devfs - Fix a few more issues (3)

* devfs_unlinkp() was improperly setting node->v_node to NULL,
  which messes up certain interlocks for race avoidance.

* Use vhold()/vdrop() instead of vref()/vrele() to prevent
  vnode destruction during node teardown.  The node can be
  torndown with an unreferenced vnode.  vref() will panic if
  the refcnt is not already > 0.

* Refactor devfs_vop_reclaim() a bit.  Do not interpose the
  v_release_rdev() call between the node check and the call
  to devfs_freep().

kernel - Fix deadlock during halt/reboot

* Fix a deadlock which occurs between udev and devfs.  udev
  must issue devfs_clone_bitmap_put() outside of the udev_lk.

* Fixes numerous shutdown/reboot deadlocks.

devfs - Fix a few more issues (2)

* The devfs_freep() issues were more extensive then originally
  determined.  There was another race, primarily due to some
  vnodes (related to unlinked devfs nodes) getting torn down
  before aliases during umount.

* Add another flag and adjust the code to not free the node
  structure until all link references (nlinks) have gone
  away.

* Also refactor locking and sequencing to further bullet-proof
  vnode reclaims vs devfs_freep()'s.

pc64 - Improve TSC and LAPIC timer calibration code.

* The hw.tsc_calibrate_test=1 and hw.lapic_calibrate_test=1 tunables can
  be specified to test results of the calibration for different delays
  (from 100 milliseconds to 2 seconds in 100 millisecond steps).

* With this change the TSC and LAPIC calibration each should take only
  200 milliseconds, instead of the original 1 second and 2 second delays.

* This change tries to make the TSC calibration more exact, by averaging
  the TSC values from before and after reading the timer. By sampling the
  latency of reading the (HPET) timer, we can make sure that the start and
  end measurements of TSC and the (typically HPET or i8254) timer didn't
  get interrupted (e.g. by an SMI on hardware, or by the host when running
  virtualized), and filter out those outliers.

* Additionally for the TSC calibration the new code does 2 measurements at
  the start and end of the delay time, separated by 20 milliseconds. This
  should make results even more consistent.

* The hw.calibrate_tsc_fast=0 tunable can be set, to revert to the old TSC
  calibration code.

* Use the TSC to calibrate the LAPIC timer, when the TSC is invariant.
  Although this indirect calibration might accumulate inaccuracies, this
  still seems better. Since the TSC runs very fast, we can get a very
  accurate value in 200ms or even less.
  To forcibly disable the TSC based LAPIC calibration, set the
  hw.lapic_calibrate_fast=0 loader tunable.

* The fallback (without using the TSC) LAPIC calibration is slightly
  improved, by measuring the sysclock timestamp at the start and end of the
  measurement explicitly with sys_cputimer->count(). Also the lapic timer is
  explicitly read after starting the countdown.
  It also proves to be useful in at least some virtualization environments
  (e.g. QEMU with TCG emulation), to do some LAPIC timer access before
  actually measuring anything.

* The HPET and LAPIC mmio read accesses are no barrier for Intel and AMD
  cpus. So we explicitly have to avoid out-of-order execution of the rdtsc()
  call that follows the sys_cputimer->count(), by using rdtsc_ordered()
  which uses lfence or mfence on Intel and AMD CPUs respectively.

acpi_hpet - Implement early HPET initialization for TSC calibration.

pc64 - Allow for initializing other cputimers than i8254 in early boot.

A little mdoc cleanup in 3 manual pages.

dm - synchronize disk info before returning

* DM now issues a disk_config(NULL) after setting up the disk info
  in order to wait for the probe to complete, otherwise callers
  may race trying to open() the disk device before it is actually
  ready.

* Fixes cryptsetup luksOpen errors which occur due to probe races,
  typically when used in a VM or qemu.

Reported-by: Aaron LI

iwm - Improve firmware Time Event handling.

* This is a mix of the OpenBSD Git 7fd9664469d1b717a307eebd74aeececbd3c41cc
  change, and syncing with the Linux iwlwifi code.

Taken-From: Linux iwlwifi, and OpenBSD

<sys/mutex2.h>: Fix build without INVARIANTS.

Reported-by: ivadasz

iwm - Avoid Tx watchdog timeout, when dropping a connection.

iwm - Track firmware state better, and improve handling in iwm_newstate().

* This avoids firmware resets in all the cases in iwm_newstate(). Instead
  iwm_bring_down_firmware() is called, which tears down all the STA
  connection state, according to the sc->sc_firmware_state value.

* Improve the behaviour of the LED blinking a bit, so it only blinks when
  there really is a wireless scan going on.

* Print the newstate arg in debug output of iwm_newstate(), to help in
  debugging.

This is inspired by the firmware state maintaining change in OpenBSD's iwm, by
stsp@openbsd.org (OpenBSD Git 0ddb056fb7370664b1d4b84392697cb17d1a414a).

systat - Fix '?' suffix case for dirtybufspace reporting

* Dirtybufspace (dirtyb) reporting sometimes showed a '?'
  because put64() didn't know how to upgrade 'k'.  Using 'K'
  solves the problem.

devfs - Fix a few more issues

* Fix a devfs_freep() race.  VOP_RECLAIM generated by unrelated
  system load (such as a 'du' which causes vnodes to recycle quickly)
  can race a node teardown because devfs_freep() temporarily unlocks
  devfs_lock across a vnode op.

* Instead of asserting, use the DEVFS_DESTROYED flag to check
  for the race.  The state will be stable for this particular race
  due to the vnode lock.

Reported-by: multiple

devfs - Fix a few issues

* Report when an attempt is made to add a device node under a
  non-directory device node.

* devfs_freep() no longer asserts if the node is not linked.
  It's ok for the node to not be linked.  It still asserts on
  double calls to devfs_freep().

* Clean up nlinks during normal removals of nodes.

* Also iterate and remove orphan nodes on unmount.

* Misc syntax cleanups.

kernel - Fix udev devfs leak and possible panic

* udev was trying to add cloned nodes under /dev/udev, but /dev/udev
  is not a directory.

* Leave /dev/udev alone and put the cloned nodes under /dev/udevs/%d.

* Fixes 'X leaked device nodes' from devfs, particularly when mounted
  inside jails.

* Might also fix occassional devfs related panics.

hammer2 - Recover errornous lost flag (2)

* Also ensure the recovery pass is executed when remounting RW.

hammer2 - Recover errornous lost flag

* Add a scan of the PFS root inodes which fixes any missing
  HAMMER2_BREF_FLAG_PFSROOT bref flags.

Update files for libpcap-1.8.1 import

Merge branch 'vendor/LIBPCAP'

Conflicts:
contrib/libpcap/scanner.l

Import libpcap-1.8.1.

See CHANGES for the details.

efisetup - Use hammer2

* Adjust efisetup to use hammer2 instead of hammer1

kernel - Improve spinlock performance

* Primarily improve spinlock performance when transitioning
  from an exclusive to a shared lock by allowing atomic_fetchadd_int()
  to be used instead of atomic_cmpset_int().

* Also clean up a few remaining atomic_cmpset_int() cases that
  can use atomioc_fcmpset_int() instead.

Suggested-by: mjg

kernel - Clarify vsyncscan() operation

* Clarify vsyncscan() operation.

kernel - Fix rare race in mutex ownership transfer

* Fix cases where competing mutexes can get confused over ownership,
  due to the mutex code not properly NULLing out the field in
  certain situations.

hammer - Fix bugs, fix serious snapshot bug, flush adjustments

* Make sure we only flush the volume header for a general sync request
  and not for a fsync() on /.

* Fix more lock order reversals when translating directory entries
  to inodes.

* Separate out spmp elements into their own list to make umount ordering
  easier.

* Flush in three stages.

  (1) flush dirty filesystem inodes
  (2) flush PFS meta-data topology up to the filesystem inodes.
  (3) flush the volume root and its meta-data up to the PFS inodes.

  This is staging for later sync concurrency improvements.

* Fix a bug where creating enough snapshots (more than 4 total PFSs)
  causes some PFSs to lose an important flag in their blockref, which
  causes flushes to stop working properly on that PFS.

hammer2 - More involved refactoring of chain_repparent, cleanup

* Remove unused locking flags (remove the NOLOCK and NOUNLOCK
  features).

* Add HAMMER2_RESOLVE_NONBLOCK to hammer2_chain_lock() for use
  only by hammer2_chain_getparent() and hammer2_chain_repparent().

* Refactor hammer2_chain_getparent() and hammer2_chain_repparent().
  Add a hot-path that uses HAMMER2_RESOLVE_NONBLOCK.  If this fails
  we now do a much more involved tracking operation via 'reptrack'
  to deal with races against indirect block deletions.

* Cleanup the copyright messages.

* Fix an issue where a sync could be held-up indefinitely by
  ongoing overlapping modifying operations.

* Install a proper initial inode count when creating a snapshot.

* Fix a deadlock in checkdirempty().  A chain lock was winding
  up being ordered incorrectly.

hammer2 - Refactor LRU chain recycling

* Refactor LRU chain recycling by allowing a chain to remain on the
  LRU even if it gets referenced again.  This will be detected and
  handled properly if the LRU tries to recycle the chain.

* Improved LRU performance by avoiding unnecessary global-ish spinlocks.

* Also fixes a rare flagging/list race.

hammer2 - Flush asynchronization, bug fixes, stabilization (2)

* Add the HAMMER2_INODE_DIRTYDATA flag and use it to interlock
  clearing the vnode's dirty flag.

hammer2 - Flush asynchronization, bug fixes, stabilization

* Better-asynchronize the flush (sync) code.  Generally split flushing
  of inodes and flushing of topology above the inodes such that we can
  flush the inodes inside a normal transaction.

  This leaves only the topology flush in the flush transaction (which
  locks out all other modifying transactions).  Concurrent read/write/
  flush performance is significantly improved.

* Fix numerous bugs in the inode tracking code where the chain topology
  under an inode could wind up remaining in a modified state when the
  vnode is in a clean state.  This could cause hefty 'sync' latency on
  clean trees (that had already been flushed).

* Fix numerous bugs in the handling of lost parent links, which occurs
  due to locking races primarily when indirect blocks have to be
  inserted or deleted.

* Deleted-chain sub-topology tracking had some issues which could lead
  to chain's being lost, resulting in malloc complaints on umount.

* Rename a few H2 sysctl variables for readability.

* Adjust the "dumpchain" debugging directive to allow us to trace
  the ONFLUSH topology.

objformat(1): Fix comment in the Makefile.

libipsec: Using snprintf() to append to a buffer is not valid in C99.

This silences a gcc80 -Wrestrict warning.

Reported-by: zrj
Taken-from:  FreeBSD (r216369)

kernel/usb4bsd: Sync the quirks with FreeBSD.

Might be we don't yet properly support every device that some of
these quirks are for.

Update the pciconf(8) database.

March 6, 2018 snapshot from https://pci-ids.ucw.cz

dialog(1): Use ${} uniformly.

export.5: Bump .Dd

mountd(8): Fix several more warnings, raise WARNS to 3

exports.5: network prefixlength (CIDR) format is supported

Also take various minor fixes from FreeBSD.

mountd(8): Fix a type mismatch and several compilation warnings

The char ** type mismatch is taken from FreeBSD r292864

mountd(8): Replace malloc+strcpy with strdup/strndup

Taken-from: FreeBSD r324007,r324014

mountd(8): Change default uid/gid to nobody/nogroup (65534/65533)

The default values found in /etc/passwd and /etc/group are 65534, 65533.
In mountd.c, the defaults were -2, which was 65534 back when uid_t was 16bits.
Without this patch, a file created by root on an NFS exported volume without
the "-root=" export option will end up owned by uid 4**32 - 2.
When discussed on freebsd-current@, it seemed that users preferred the
values being changed to 65534/65533.
I have not added code to acquire these values from the databases, since
the mountd daemon might get "stuck" during startup waiting for a non-responsive
password database server.

Taken-from: FreeBSD usr.sbin/mountd/mountd.c r318262

mountd(8): Fix conversion of prefix length to a netmask

Taken-from: FreeBSD usr.sbin/mountd/mountd.c r219125

test - Fix fsx build

* Fix the 'install' target so it works as intended.

Add references to mount_hammer2.8 in a few manual pages.

ps.1: Update FILES section a bit.

mtree: Remove BSD.local.dist.

The (d)ports framework uses its own Templates/BSD.local.dist.

Discussed-with: zrj

etc/periodic: Add more xz(1)/zstd(1) support.

periodic/security/800.loginfail: Add xz(1) and zstd(1) support.

periodic.conf.5: Document two more variables.

kernel - Remove minidump debugging

* Remove minidump debugging "pdp %04x..." lines.  Minidump fixes have
  been well tested at this point.

periodic: Sync with FreeBSD current

* Sync periodic scripts, periodic.conf, periodic.conf.5 with FreeBSD
* The "{daily,weekly,monthly}_status_security_<var>_enable" variables are
  changed to be "security_status_<var>_enable" and
  "security_status_<var>_period" (daily, weekly, monthly).
* Keep DFly-specific settings (e.g., HAMMER and HAMMER2 related)
* Ignore the FreeBSD-specific things, e.g., ZFS, GEOM

rc.d/accounting: Sync with FreeBSD

Prepare to sync periodic with FreeBSD

periodic: Remove obsolete daily/status-named and weekly/clean-kvmdb

periodic: Remove already disabled monthly statistics report

The up-to-date tool can be obtained from DPorts: sysutils/bsdstats

To sync with FreeBSD

periodic(8): Sync with FreeBSD current

cryptsetup(8): Revert part of 0482a033108. We got mlockall().

initrd/oinit: chdir to the new root before chroot to it

chroot(2) doesn't change the working directory of the current process,
therefore a single chroot(2) to a new root (during the early boot with
encrypted root) causes getcwd(3) fail, which further causes problems for
some rc scripts.

For example:
Without this fix, and by placing a 'echo "PWD=`pwd`"' to the beginning
of /etc/rc, the following messages were logged on the console:
Mar 12 10:40:28 dfly kernel: pwd: .: No such file or directory
Mar 12 10:40:28 dfly kernel: PWD=

Another example with "unbound" rc start:
Mar  3 09:28:11 dfly kernel: Obtaining a trust anchor:
Mar  3 09:28:11 dfly kernel: _su: No such file or directory
Mar  3 09:28:11 dfly kernel: _su: Trying to start from "/"
Mar  3 09:28:12 dfly kernel: .
Mar  3 09:28:12 dfly kernel: [1520040492] unbound-checkconf[1138:0] error: cannot getcwd: No such file or directory
Mar  3 09:28:12 dfly kernel: Starting unbound.
Mar  3 09:28:12 dfly kernel: [1520040492] unbound[1139:0] warning: unbound is already running as pid 1139.

uWSGI rc startup also failed to setup correct working directory due to
this problem.