Merge branch 'vendor/LDNS'

ldns: Update vendor branch from 1.6.11 to 1.6.16

Update the pciconf(8) database.

October 11, 2013 snapshot from http://pciids.sourceforge.net/

vga_pci: Fix cached resources cleanup and setup driver's softc size

- The cached resource was not cleanup even if the underlying resource was
  freed.  Now, if the cached resource reference count drops to zero, the
  underlying resource is freed and the cached resource is cleared.
Submitted-by: dillon@
- The driver uses softc, so the softc size in the driver_t needs to be
  setup properly.

vga_pci: Allocate resource method requires resource owner CPUID

libc - Fix bugs in arc4random, improve arc4random() and srandomdev()

* Fix a bug where arc4random() was not using the entire 128 bytes of random
  data it had read from /dev/random.

* Increase the amount of state incorporated by arc4random_stir()
  from 128 to 256 bytes.

* Fix an important issue with both srandomdev() and arc4random().  When
  /dev/random is not available these functions now back-off to the new
  kern.random sysctl to obtain random data.

  This allows these functions to work in chroot's that might not have
  /dev mounted.

* Do not try to incorporate random stack data.  This is stupid, the stack
  data is not random.

kernel - Add sysctl kern.random

* Add a sysctl kern.random which returns random data.  This can be used
  when /dev/random is not available (e.g. a chroot and no /dev mounted in
  the chroot).

kernel - Use shared spinlock for namecache hash

* Use a shared spinlock when doing lookups in the namecache hash table.
  This wasn't showing up in the contention statistics but it's an issue.

* Use a shared spinlock for the vnode v_spin when scanning v_namecache,
  when possible.

kernel - namecache clock performance improvement

* Fix a bug in _cache_lock_shared_special() which could cause a shared
  lock to improperly fall-back to an exclusive lock.  This could result
  in a cascade which regressed all namecache locks on the ncp in question
  to also fall-back.

kernel - Fix panic in sysctl_kern_proc()

* sysctl_kern_proc() loops through ncpus and moves the thread to each cpu
  in turn in order to access its local thread list.

* Fix a panic where the function does not return on the same cpu it was
  called on.  The userland scheduler expects threads to return to usermode
  on the same cpu they left usermode on and is responsible for moving the
  thread to another cpu (for userland scheduling purposes) itself.

make upgrade: Clean up after the "locale megapatch".

make upgrade: Do no longer remove multibyte.3

kernel/hammer2: Remove two unused malloc types, W_BIOQUEUE and W_MTX.

libc/nftw: Bring in some fixes from FreeBSD.

* Silently skip directories causing loops (instead of erroring with ELOOP).

* Refresh OpenBSD CVS IDs.

* Don't check maxfds against OPEN_MAX.

ps - Allow a pid specification in combination with -R

* e.g. 'ps R23434' will output the specified process plus also output
  all children (recursively) of that process.

Remove formatted manual pages too via 'make upgrade'.

ppp(8): Fix a logic error.

MPPE only accepts protocol numbers 0x21 through 0xfa.

Confirmed-by: FreeBSD

kernel - improve pv_hold()

* pv_hold() can just use an atomic_add_int() here.

kernel - Fix spin_lock_shared() race

* Fix a serious bug in the shared spinlock code.  There are numerous races.
  The main problem is that the spin_lock_shared*() inlines set the
  SPINLOCK_SHARED bit based on a non-atomic test, assuming that the previous
  atomic operation guarded the test:

      atomic_add_int(&spin->counta, 1);
      if (spin->counta == 1)
    atomic_set_int(&spin->counta, SPINLOCK_SHARED);

  However, this can race an exclusive spin lock in another thread inbetween
  the conditional and the atomic_set_int().  The exclusive spinlock code
  would have seen contention, but then does this:

atomic_clear_int(&spin->counta, SPINLOCK_SHARED);
atomic_add_int(&spin->counta, SPINLOCK_EXCLWAIT - 1);
...

  The exclusive spinlock code then assumes that the shared spinlock code
  can no longer set SPINLOCK_SHARED.  However, if this occurs just after
  the shared spinlock code's if (spin->counta == 1) but before it atomically
  sets the SHARED bit, we wind up in a situation where the exclusive spinlock
  code completes its operation and leaves the SHARED bit set.

  In other words, the code which believes it has sucessfully obtained an
  exclusive spinlock actually winds up getting a shared spinlock.  Oops!

* Fixed by guarding the shared lock conditional and atomic op and changing
  the way shared lock contention is handled.

* Case was only reproducable on monster, probably due to massive shared
  spinlock use in the pmap code on 48 cpu cores all fork/exec'ing /bin/sh
  at the same time.

bsd-family-tree: Sync with FreeBSD.

btx: Add FreeBSD's r256293 (fixes boot on Jetway NF81 mobo with RAID enabled).

FreeBSD's commit msg:

Sanitize the %eflags returned by BIOS routines.  Some BIOS routines enter
protected mode and may leave protected-mode-specific flags like PSL_NT set
when they return to real mode.  This can cause a fault when BTX re-enters
protected mode after the BIOS mode returns.

Reported-by: Julian Pidancet <julian.pidancet@gmail.com>
Taken-from:  FreeBSD

Fix up some include guards (and checks) in our header files.

kernel - work around ipmi serial port bug

* On our supermicro blade server the ipmi can get confused when the
  host initializes the 16550A and may fail to clear the RXRDY interrupt
  status, resulting in an endless loop.

  This appears to only occur when interrupts are enabled early to support
  kern.alt_break_to_debugger on a serial console.

* Issuing a dummy read of the RXDATA register appears to unstick the ipmi.
  Go figure.

kernel - more vfs syncer stuff

* Make sure we stop the thread when a mount attempt fails.

kernel - Fix bug last commit (2)

* Oops. and don't try to get the syncer thread's context if there is no
  syncer thread for a mount point.  I'm sure I'll get this right.

kernel - Fix bug last commit

* Don't add the syncer vnode to the syncer list if the mount point
  has no syncer thread (optimization for nullfs).

kernel - Fix hammer recovery crash (due to recent syncer work)

* Unconditionally create a syncer thread for each mount.  This way we can
  create the thread prior to calling VFS_MOUNT.

* hammer(1) needs to acquire vnodes and potentially issue vn_rdwr()'s during
  mount for recovery purposes.  This syncer thread is expected to already
  exist.  (and it does now).

* Remove the default syncer thread.

* rewrite speedup_syncer().

kernel - Use per-cpu token for deadlwps list

* There is a deadlwps reaper thread per cpu, use a per-cpu token instead
  of a global token to control it.

kernel - Concurrent fork/exec (3) - Fix 32-bit builds & vkernels

* 32-bit kernels and both 32 and 64-bit vkernels were setting
  kernel_pmap.pm_pteobj to kernel_object.  This creates a shared/excl
  race that locks them up.

* Replace with kptobj, a vm_object dedicated to the kernel_pmap.

* Not applicable on normal 64-bit kernels as they use a more modern
  pmap implementation that does not require a pm_pteobj.

Reported-by: tuxillo

pkill/pwait: tweak manuals

mdocml: upstream sync of lib.in

Heh, Ingo fetched our lib.in/st.in changes already.  Cheers!
Here are some more library definitions from NetBSD and FreeBSD.

Taken-from: OpenBSD

drm: Sync drm_hashtab files with Linux 3.8

Replacing BSD LIST_xxx macros by Linux hlist functions and data types

drm: Add hlist RCU macros

drm: Replace BSD and legacy DRM macros by Linux mechanisms

Reducing differences with Linux

drm: Rename DRM_LIST_HEAD to LINUX_LIST_HEAD

It is supposed to be the well-known Linux LIST_HEAD() macro after all

kernel - Concurrent fork/exec (2)

* Fix bug in vm_fault() path that can cause a token live lock.
  When taking a write fault first_shared must be set to 0
  because the fault might involve calling swap_pager_unswapped(),
  which currently requires an exclusive VM object lock.

drm - Fix kernel compile

* Linux's LIST_HEAD interferes with ours.  Rename as it was previously
  renamed from LIST_HEAD to DRM_LIST_HEAD.  Also, other source files
  already assumed DRM_LIST_HEAD.

* Fixes kernel compile

drm: Add linux/compiler.h from the FreeBSD OFED stack

drm: Replace drm_linux_list.h by linux/list.h ...

... from FreeBSD's OFED stack

* Keep a few missing functions and macros

drm: Add a local implementation of linux/export.h

* The Linux drm files often contain EXPORT_SYMBOL() macros

* We don't /need/ them but keeping them unchanged in the drm
  files helps reducing differences with Linux

drm: Add a local implementation of linux/hash.h

* Implement hash_long() as a wrapper on top of the existing
  hash32_buf() function

drm: Define BITS_PER_LONG

At the same time, rename a macro of the same name in drm_atomic.h. They
both have the same meaning but the one in drm_atomic.h uses sizeof(),
which prevents from using it inside an #if preprocessor condition.

kernel - Greatly improve concurrent fork's and concurrent exec's

* Rewrite all the vm_fault*() API functions to use a two-stage methodology
  which keeps track of whether a shared or exclusive lock is being used
  on fs.first_object and fs.object.  For most VM faults a shared lock is
  sufficient, particularly under fork and exec circumstances.

  If the shared lock is not sufficient the functions will back-down to an
  exclusive lock on either or both elements.

* Implement shared chain locks for use by the above.

* kern_exec - exec_map_page() now attempts to access the page with a
  shared lock first, and backs down to an exclusive lock if the page
  is not conveniently available.

* vm_object ref-counting now uses atomic ops across the board.  The
  acquisition call can operate with a shared object lock.  The deallocate
  call will optimize decrementation of ref_count for values above 3 using
  an atomic op without needing any lock at all.

* vm_map_split() and vm_object_collapse() and associated functions are now
  smart about handling terminal (e.g. OBJT_VNODE) VM objects and will use
  a shared lock when possible.

* When creating new shadow chains in front of a OBJT_VNODE object, we no
  longer enter those objects onto the OBJT_VNODE object's shadow_head.
  That is, only DEFAULT and SWAP objects need to track who might be shadowing
  them.  TODO: This code needs to be cleaned up a bit though.

  This removes another exclusive object lock from the critical path.

* vm_page_grab() will use a shared object lock when possible.

netinet/in.h: Add missing IPPORT_MAX definition

Obtained-from: FreeBSD

Fix world build bootstrapping issue

The new version of find(1) uses a new locale function called rpmatch.
The use of this function breaks the world build on systems that don't
have the new locale functionality yet, e.g. Release 3.4.

To fix this, I added a BOOTSTRAPPING macro that will check the
first letter of the response character array rather than use the
locale function.  This modification appears only in the bootstrap tool.

pwait(1): Import from FreeBSD, built without modification!

pgrep(1), pkill(1): Sync with FreeBSD to get the -F options

These functions haven't been touched since DragonFly 1.1 (2004), other
than build tweaks.  It was claimed that it would be "trivial" to add
the -F options (pid file) but I wouldn't classify it as such.  There
is a pretty big diff between the FreeBSD and DragonFly 1.1 version.  I
had make some modifications, but the functions appear to work in the
very short tests that I performed.

find(1): Sync with FreeBSD

Originally I did this to gain the -quit feature.  It turns out that we
already had it, but FreeBSD didn't document it until 4 years after they
implemented it, so it wasn't on our man page either.

With this sync, we get time comparisons down to the nanosecond.  We get
the -sparse option.  The behavior of -delete was changed the delete the
files given as arguments.

The only thing that was omitted with all the birthtime options.
The new find was used successfully in locate.update job, something
that failed in the last sync and code in functions.c had to be
partially reverted.

pwd(1): Sync with FreeBSD (very minor, mainly editorial)

realpath(1): Sync with FreeBSD to add -q option

If -q is specified, warnings will not be printed out when realpath(3) fails.

pwd(1), realpath(1): Split shared source file into separate ones

The realpath(1) and pwd(1) programs share the same source file using the
program name as a condition.  Let's create a dedicated directory for
realpath, duplicate the source file, then tailor both.  Not only is this
more logical, it will make maintenance easier in the (near) future.

kernel - Fix bug when running swapon a gpt slice

* diskpsize() and related API functions to obtain the number of blocks
  in a disk specification was punting if there was no dragonfly disklabel.
  This path was being specifically used by swapon.

* Do not require a dragonfly disklabel when the whole-slice partition is
  specified (i.e. /dev/daXsY with no a...z suffix).

* Swapon now works on gpt swap slices.

Reported-by: julianp

kernel - Performance optimization pass

* Numerous pid and priority related syscalls, such as getpid(), were
  improperly acquiring proc_token to protect fields that are now protected
  with per-process or per-pgrp tokens.

  Do a pass on kern_prot.c and kern_resource.c fixing these issues.  This
  removes the use of proc_token from several common system call paths but
  it should be noted that none of these system calls are in critical paths.
  The benefit is probably minor but will improve performance in the face
  of allproc-scanning operations (such as when you do a 'ps' or 'top').

* vmntvnodescan() is not in the critical path except for vflush()'s which
  occur on umount.  vflush()'s pass a NULL fast function.  The
  vmntvnodescan() only needs to hold the vmobj_token when the fastfunc is
  non-NULL.  Do not hold the vmobj_token when fastfunc is NULL.

  This primarily improves performance when tmpfs's are being mounted and
  unmounted at a high rate (poudriere bulk builds).

drm/radeon: Add missing "return false" after unmapping invalid BIOS

Without that, we would try to copy the unmapped BIOS.

Submitted by: Christoph Mallon <christoph.mallon@gmx.de>
Approved by: re (blanket)

drm: Rename struct drm_driver_info to struct drm_driver

This reduces the diff between FreeBSD and Linux 3.8.

drm: Rename members of struct drm_agp_head to match Linux

This reduces the diff between FreeBSD and Linux 3.8.

vga_pci.c: Sync with FreeBSD

Most important change:

* Use vga_pci_alloc_resource() to map PCI Expansion ROMs

* This is cleaner and fixes Video BIOS mapping when the given device isn't
the boot display.

* Original author: dumbbell@

kernel: Add a method to get the bus's bus_dma_tag_t

This is required by some machine architectures where there are separate
IOMMU's for each PCI bus.

Obtained-from: FreeBSD

stat.1 - Remove unsupported %B

* Our struct stat does not have st_birthtim so don't mention it.

kernel - Optimize sync and msync for tmpfs and nfs

* Flesh-out the vfs_sync API and implement vhold/vdrop callbacks
  (used by NFS).

* Use MNTK_THR_SYNC in tmpfs and finish implementing it in nfs.  This
  will optimize sync and msync for these filesystems.

* In both cases inode attributes are either synchronous or don't involve
  any VFS work to flush, so we don't have to use VISDIRTY.

kernel - Optimize vfs_msync() when MNTK_THR_SYNC is used

* vfs_msync() will now use vsyncscan() when MNTK_THR_SYNC is set.
  Lazy synchronization scans will still properly ignore MADV_NOSYNC
  areas, but will not be able to optimize away the scan overhead for
  those vnodes (they remain on the syncer list).

  This change allows both lazy synchronization and explicit 'sync' commands
  to avoid having to scan all cached vnodes on the system, resulting in O(1)
  operation in many cases where it might have taken a few seconds before
  (on large systems with hundreds of thousands to millions of vnodes cached).
  With this change both the vnode sync and the memory sync will be optimal.

  Currently implemented for hammer1 and hammer2.

* Add VOBJDIRTY to the set of flags that will place the vnode on the
  syncer list.  This occurs from the vm_page_dirty() and other bits of
  code only if MNTK_THR_SYNC is set.

  Theoretically it should be safe for us to do this even though neither
  the vm_object or the related vnode are likely locked or guarded, because
  neither can go away while an associated vm_page is busied.  The syncer
  list code itself is protected with a token.

hammer - Use new vsyncscan() mechanic (3)

* The vsyncscan() feature requires using MNTK_THR_SYNC, otherwise the
  callback has to deal with vnodes unrelated to the mount point.
  Assert this in vsyncscan().

* Enable MNTK_THR_SYNC in hammer

* Cleanup edge cases in the scan2 callback.

hammer - Use new vsyncscan() mechanic (2)

* Fix crash, VISDIRTY must be cleared in reclaim.

* Implement convenient API functions to set and clear VISDIRTY and
  properly synchronize the syncer list.

hammer - Use new vsyncscan() mechanic.

* Use the new vsyncscan() mechanic, greatly reducing the work involved
  in finding dirty vnodes in hammer_vfs_sync() and during unmounting.
  Call vsyncscan() instead of vmntvnodescan().

* We set VISDIRTY in the vnode and call vn_syncer_add() when an inode
  becomes dirty.  This ensures that dirty vnodes are placed in the syncer
  list even if the vnode has no related dirty file data buffers.

  Previously we had to do a full scan of the mount's vnode list to
  find dirty inodes.

kernel - Add vsyncscan() infrastructure

* For VFS's which support it, allows vnodes with dirty inodes to be placed
  on the syncer list rather than just vnodes with dirty buffers.  The VFS
  can then implement its VFS_SYNC ops by calling vsyncscan() instead of
  vmntvnodescan().

* On large systems with potentially hundreds of thousands to millions of
  cached vnodes, this reduces sync scan overhead by several orders of
  magnitude.

* Add the VISDIRTY flag to vnode->v_flag to indicate a dirty inode, adjust
  syncer add/delete code to use the flag.

* Cleanup vfs_sync.c.  Always initialize mp->mnt_syncer_ctx to something.
  Change the kern.syncdelay sysctl to use SYSCTL_PROC which properly
  range-checks syncdelay.

* Implement vsyncscan() which only scans the syncer lists for a mount point.

man: no need for libutil

man: fix suffix parsing for good

Instead of guessing the suffix in the code, use the suffix list previously
loaded via man.conf(5).  While there, zap unused interation code.

netgraph.4: manlint and style nitpicking

man: mop up a couple of manlint issues

dirfs - Rework how host file permissions are checked.

* Retrieve uid/gid of the user running the vkernel on mount time
  instead of on every open(2).

kernel - Attempt to fix tty race

* Opening /dev/tty is special cased to open the session ttyvp.  The
  VCTTYISOPEN flag is used on the session ttyvp to indicate this.

* There is a bug where the VCTTYISOPEN flag is set prior to calling
  VOP_OPEN() on ttyvp.  Because devfs's devfs_spec_open() (and
  also devfs_spec_close()) temporarily release the vnode lock
  on the vp (ttyvp in this case), setting the flag prior to
  the VOP_OPEN() can lead to a race where another process opens
  AND closes /dev/tty before our VOP_OPEN() executes.

  The racing open will see that the VCTTYISOPEN flag is already
  set and not issue a VOP_OPEN().  It's close will then VOP_CLOSE()
  ttyvp (which so far has not been opened by either process),
  which can kill the last open on ttyvp and cause the tty to
  disconnect.

  This race is very difficult to reproduce.  We were only able to
  reproduce it on monster (48-core opteron) which happened to
  access "/dev/tty" during a poudriere bulk build in a manner
  that was able to trigger the race.

* Fix this particular bug by not setting the VCTTYISOPEN flag
  until after VOP_OPEN() returns, then re-checking the flag to
  detect the race and clean-up/retry if a race is detected.

* TODO - This is not the only bug.  Unfortunately it is also quite possible
  for multiple threads/processes to open("/dev/tty", ...) simultaniously.
  There is only one VCTTYISOPEN flag so when this occurs and one process
  then close()s its descriptor, the VCTTYISOPEN flag is cleared.

  The other process or processes may then proceed to access ttyvp without
  an opencount guard.  When they close() the count is handled properly
  because the close() code detects that the VCTTYISOPEN flag was cleared.
  The problem is the unguarded read, write, and ioctl calls that might
  occur in the mean time.

dmesg - Add -f option for continuous monitoring

* Add the -f option to dmesg.  After the initial message buffer dump
  dmesg monitors the kernel for additional data and displays it as it
  arrives.  dmesg will not terminate until killed in this mode.

* The sysctl() is deficient so libkvm is forced when this option is
  specified.

bsd-family-tree: Sync with FreeBSD.

kernel: Fix the LINT kernels.

kernel - Fix pgrp and session ref-count races

* Fix some tight timing windows where the ref count on these structures
  could race.

* Protect the pgrp hash table with a spinlock instead of using proc_token.

* Improve pgfind() performance by using the spinlock in shared mode.

* Do not transition p_pgrp through NULL when changing a process's pgrp.
  Atomically transition the process (protected p->p_token and
  pg->pg_token).

drm/radeon: Import firmwares

These files come from FreeBSD but were originally obtained from
https://git.kernel.org/cgit/linux/kernel/git/firmware/linux-firmware.git/

drm/radeon: Remove useless .PATH directive

drm/radeon: Fix locking issues

drm: Some drm_addmap() fixes

* Fix two warnings, moving some of the code to make the function more
  similar to drm_addmap_core() in Linux 3.8

* Remove some weirdly placed locking directives not present in Linux

Makefile.usr - Remove pkgsrc targets

* DragonFly will be pure dports as of the next release so remove the
  pkgsrc helper targets from /usr/Makefile.

drm/radeon: Import the Radeon KMS driver from FreeBSD

* Credits for porting an updated version of this driver from Linux
  mainly go to Jean-Sébastien Pédron <jean-sebastien.pedron@dumbbell.fr>

* Compatibility layer for running 32-bit applications on 64-bit systems
  left out

Additional credits from the FreeBSD import message:

This driver is based on Linux 3.8 and a previous effort by kan@.

More informations about this project can be found on the FreeBSD wiki:
    https://wiki.freebsd.org/AMD_GPU

Help from: kib@, kan@
Tested by: avg@, kwm@, ray@,
Alexander Yerenkow <yerenkow@gmail.com>,
Anders Bolt-Evensen <andersbo87@me.com>,
Denis Djubajlo <stdedjub@googlemail.com>,
J.R. Oldroyd <fbsd@opal.com>,
Mikaël Urankar <mikael.urankar@gmail.com>,
Pierre-Emmanuel Pédron <pepcitron@gmail.com>,
Sam Fourman Jr. <sfourman@gmail.com>,
Wade <wade-is-great@live.com>,
(probably other I forgot...)
HW donations: kyzh, Yakaz

kernel/drm: Fix the LINT build.

a couple more Mt macros for author emails

libc: proper FreeBSD version and some Mt macros for mails

world: remove spurious Pp macros

mdocml: sync std strings with groff

groff: add recent FreeBSD releases

(reduces `manlint' noise)

hammer - Fix exit path for newly added ioctl

* Release cursor/inode on exit.
* Take in account the case where hammer_get_inode() returns a NULL ip.

mdocml: sync a few upstream commits

Most of our local changes have found its way to upstream.
Let's return the favour and bring in fixes that we have
requested.  Hunk count for mandiff output reduced from
3321 to 3311 (not much, but it's a start).

     # make mandiff | grep "^@@" | wc -l

bsd.man.mk: add temporary ``mandiff'' target

Show differences in ASCII output between groff(1) and mandoc(1).  This
will help generate uptream bug reports.  Also useful for spotting local
configuration quirks of both programs.

idr: Remove duplicated code

* idr_get_new() and idr_get_new_above() mostly do the same thing

* Have idr_get_new() call idr_get_new_above() and only keep a single
  implementation

Update pkg bootstraps

The naming scheme for pkg bootstraps is inadequate.  Even if it were to
include the release, library updates could necessitate the generation
of a new bootstrap more than once per release.  Therefore, I've added
a serial in the name.  The name is now:

  bootstrap_pkg_${SERIAL}_x86-${32,64}.tar.xz

Bootstrap 01 has been created and put on mirror master.  The original
bootstraps stopped working after the locales update.

libhammer - Make use of the HAMMERIOC_PFS_ITERATE ioctl.

* With this change 'info' directive no longer issues 65535 ioctl
  calls to retrieve the information of all PFSes.

hammer - Add HAMMER_PFS_ITERATE ioctl

* It allows iterating through all created PFSes and
  retrieving the information from them.

Fix i386 world build.

* Patch will be sent upstream to mdocml.

tools/netperf: Use pipe to pass result back instead of tmp file

drm: Remove the drm_gem_names subsystem

And use the original idr code from Linux 3.8 instead

idr: Simplify idr_grow()

Make sure to only allocate powers of two descriptor numbers
and not weird values such as 1027

kernel - Add shared active virtual memory, i386

* Add shared active virtual memory.

  Shared active real memory represents the amount of memory shared across
  two or more pmap instances.  The memory is counted just once.

  Shared active virtual memory multiplies that value out by the number
  of pmap instances the memory is being shared across, giving the sysop
  some idea of the amount of ram being saved by e.g. shared libraries or
  shared mmap()s, etc.

* Collect statistics on 32-bit systems too.

kernel - Allow NULL softc in ulptclose()

* Try to fix an unplug / null-pointer-indirection