kernel - remove extra crit_exit()

Those are leftover from 080c00e6fcafedf719b52e5de548a005201b0218 .

installer: Fix a bug when /boot (HAMMER) or / (UFS) is are to be encrypted.

The installer will warn that this is not possible, but previously left the
encryption flag set. Clear it.

docs - Expand the swapcache(8) manual page

* Add a description for static and dynamic wear leveling and write-combining

kernel: Remove some PC98 remains.

These were either not caught when we removed support, or they came back
in later.

kernel - Remove unneeded critical sections from VM code, add pmap asserts

* Various bits of VM code now only need vm_token and no longer need
  a critical section.

* Add pmap_page_assertzero() assertions in a couple of places when
  PMAP_DEBUG is enabled.

* Add PMAP_DEBUG as a global kernel config option.

* Be a bit more conservative and clear PG_ZERO for all page table
  pages and not just terminal page table pages.  When such pages
  are finally freed they will be zero again due to the way the
  pmap code works but don't make that assumption.

kernel - Document ordering requirement in lwkt_cpusync_remote2()

* Add a cpu_ccfence() to document necessary ordering but assume
  that the atomic op following handles the actual requirement.

  This is essentially a nop.

Add sha256/512 support to libcrypt, change default

* Add sha256 and sha512 support to libcrypt.

* Change the default password hash to sha256.

* All old passwords will of course still works, but all new ones will be
  created using sha256.

Sponsored-by: Google Code-In

amr(4): Sync with FreeBSD.

This adds support for various new devices (full list is in the manual
page), among other things.

Reported-by: Tomaz Borstnar <tomaz.borstnar@over.net>
               Jonas Trollvik <jontro@gmail.com>
Dragonfly-bug: <http://bugs.dragonflybsd.org/issue305>

mfi(4): Add missing dev_ops_remove_minor().

kernel - Fix bug in x86-64 version of bzeront()

* The x86-64 bzeront code was subtracting the wrong value from the count
  when looping.  Note that prior to this commit the code was not being
  used anyway.

* Rearrange the way movnti support is detected and enable for x86-64.

dm - undo my pointless moving of dm.h

* There was no need to move dm.h, we can just use <dev/disk/dm/dm.h>.

* And since we can do the above, we can also get rid of the strange
  Makefile CFLAGS magic I added.

* Also undo the removal on upgrade of /usr/include/dev/disk/dm/dm.h and
  instead remove sys/dm.h

Reported-by: Sascha Wildner

Remove <dev/disk/dm/dm.h> via make upgrade. It's <sys/dm.h> now.

style.9: Somehow, half of the usage() example was missing. Fix it.

Noticed-by: sjg

kernel - Provide descriptions for many net.inet6 sysctl's

Submitted-by: Taras Klaskovsky
Sponsored-by: Google Code-In

mfi(4): Make mfi_linux.ko compile (maybe it even works).

I haven't tested this yet.

vga/vesa: Use hexdump() instead of cooking our own.

Add a hexdump(9) manual page (taken from FreeBSD).

kernel - Fix mbuf header exhaustion w/ degenerate unix domain socket case

* Increase the number of mbuf headers to accomodate a degenerate
  fd-passing case with chains of unix domain sockets, one fd per
  socket.

* This does not address other mbuf exhaustion issues which can crop
  up in a user ddos attack due to the default number of fds a user
  is allowed to own.

Reported-by: Venkatesh Srinivas <me@endeavour.zapto.org>

kernel - Fix deep stack recursion in unix domain socket garbage collection

* A chain of unix domain sockets with the previous fd passed into the
  next one can cause a kernel stack overflow.

* Flatten the portion of the gc which would otherwise recurse by placing
  the fp on a list instead of calling a nested closef(), then running
  the closes at the top level.

Reported-by: Venkatesh Srinivas <me@endeavour.zapto.org>

installer - encrypted root fix for new modules

* With the new modularized dm, dm_target_crypt will have to be loaded
  explicitly if the module_path is not reachable in the moment the crypt
  target is needed.

* Simply write dm_target_crypt_load="YES" to the installed loader.conf
  so that there are no nasty surprises.

Reported-by: Sascha Wildner

dm - Modularize it fully

* Move each of the targets (except error and zero) into a subdirectory
  in targets/.

* Change the macro DM_TARGET_MODULE to also let the module depend on dm.

* Add a new macro DM_TARGET_BUILTIN, which must be used instead of
  DM_TARGET_MODULE for targets that are compiled into the main dm.ko
  instead of a separate module. Not doing this will prevent dm.ko from
  unloading.

* Enable automatic loading of target modules if they aren't builtin or
  loaded yet. Automatically loaded modules can be unloaded via kldunload
  safely via a little hack (see source).

* NOTE: automatic loading doesn't always work. /boot must be mounted
  already, so if you are planning on encrypting your swap or similar
  stuff, you need to *EXPLICITLY* load dm_target_crypt.ko via the
  loader.

* NOTE: PLEASE NOTE THE NOTE ABOVE!

* Fix a little issue with dm_target_crypt that would print "unloaded"
  even if it wouldn't unload.

* Change the name of dm_target_stripe to dm_target_striped, since the
  target is actually called "striped".

* Move dm.h to sys/sys/dm.h

* Get rid of files.dm, a leftover from the import

Unbreak buildworld.

kernel - Replace broken mp lock in bounce pages swi_vm() with spinlock

* Replace old non-MPSAFE crit section and mplock code with a spinlock

* x86-64 was not registering swi_vm(), add that code in.

Reported-by: Venkatesh Srinivas <me@endeavour.zapto.org>

kernel - Fix NFS race

* The nfsnode code could in very rare circumstances double-vput a vnode,
  creating havoc.

kernel - vm_mmap: Remove Advertising clause and DragonFly CVSID.

mmcsd(4): Enhance readability by using a variable for the buf pointer.

hammer.8: Fix typo.

mfi(4): Add device statistics.

condvar - Constify

mfi(4): Remove the unused MFI_DECODE_LOG option.

mfi(4): Add the mfi(4) RAID driver and the mfiutil(8) configuration tool.

The driver supports the following adapters:

* LSI MegaRAID SAS 1078
* LSI MegaRAID SAS 8408E
* LSI MegaRAID SAS 8480E
* LSI MegaRAID SAS 9260
* Dell PERC5
* Dell PERC6
* IBM ServeRAID M5015 SAS/SATA
* IBM ServeRAID-MR10i
* Intel RAID Controller SROMBSAS18E

It was tested with the LSI MegaRAID SAS 8408E card.

Many thanks to FreeBSD, from which this code was obtained.

kernel: Bring in hexdump() from FreeBSD.

mlockall.2: Fix month name and remove trailing whitespace.

Merge branch 'GCI2010'

kernel - Provide descriptions for lwkt.* and debug.* sysctl's

* Take the opportunity to chop a few dead sysctl's as well

Submitted-by: Taras Klaskovsky
Sponsored-by: Google Code-In

Merge branch 'master' of git://crater.dragonflybsd.org/dragonfly

unp_connect() - Use euid/egid for access checks via VOP_EACCESS().

Fixes socket access for set[ug]id applications by using the euid/egid
rather than the uid/gid.

Reported-By: Tim Darby <t+dfbsd@timdarby.net>

kernel - Run pfil hooks for bridged packets

* The pfil hooks were not being run in all cases for bridged packets.

Submitted-by: Rumko <rumcic@gmail.com>

kernel - tmpfs - Remove mplock in tmpfs_read().

Import mlockall(2)/munlockall(2) manpage from OpenBSD and modify for Dfly.

dm - access io_cnt atomically

* Now that we are using shared locks at some points, only update the
  io_cnt atomically, otherwise we can mess things up.

dm - misc minor cleanup

* remove dead code, weird white spaces and fix comments.

dm - remove convoluted string comparison methods

dm - minor cleanup

* Fix a bit of indenting, add a comment.

* Remove useless and pointless (just as redundant as using both of those
  words) code.

dm - use shared/exclusive lockmgr for table access

* Use shared/exclusive lockmgr locks for table access instead of this
  random mess of exclusive lockmgr locks, reference counts and condvars.

dm - properly encapsulate disable_dev

condvar - add cv_has_waiters()

kernel - Document an odd case in vm_page.c

* Document cases from the buffer cache where a vm_page's clean/dirty bits
  might be modified without busying the related vm_page.  vm_token is still
  held through the operation.

HAMMER VFS - Fix HAMMER_INODE_XDIRTY flags / state assertion

* The HAMMER_INODE_XDIRTY flag was not being immediately synchronized
  with the state of ip->rec_tree in one case and the delay could create
  a window of opportunity where an assertion would get hit.

* Remove the window of opportunity, the assertion no longer gets hit.

Reported-by: YONETANI Tomokazu <qhwt.dfly@les.ath.cx>

kernel - x86-64 - normalize the location of the pcb/md_regs and remove gd_rsp0

* Normalize the location of the pcb and related user process register
  frame for traps and system calls.

* The pcb is now 16-byte aligned at the top of the kernel thread's stack
  and md_regs is placed just below it.

* We no longer reserve 16 bytes for a 8086 emulation frame.

* Change the md_regs assignment in the trap code to an assertion that the
  value is correct.

* Remove gd_rsp0, use the value from common_tss.tss_rsp0 instead (which
  is the same).

kernel - Hold vm_token() for certain buf/bio/vm_page interactions

* Hold the vm_token when messing around with page valid and dirty bits
  in buffer cache operations.  Such race conditions are possible but would
  be very rare.

* Fix inconsistent use of bio2.bio_offset when swapcache intercepts an
  I/O operation.  When this case occurs the normal filesystem VOP_STRATEGY
  function will not be called and any assumption that bio2.bio_offset
  will represent a block device offset will be invalid.

  To deal with this case swapcache will re-set bio_offset to NOOFFSET.
  Filesystems use this value to determine that no block device offset
  has been cached for a logical file block.

Reported-by: Jan Lentfer <Jan.Lentfer@web.de> (bio_offset issue)

kernel - Fix MP race in signotify_remote()

* In rare cases it is possible for a process to hop multiple cpus while
  a signal is trying to chase the process.  Adjust signotify_remote() to
  deal with the case.

kernel - Fix NFS stall and likely also x86-64 seg-fault issue

* The nfs node hash code was not MPSAFE due to its use of a global
  hash table.  This could lead to a stall condition due to the
  global hash table losing track of its manual lock.  For now use a
  token to interlock hash table access and replace the manual lock
  with a lockmgr lock.

* This appears to have also fixed the long-standing random seg-fault
  issue with x86-64, where a buildworld loop would seg-fault every once
  in a while for no apparent reason.  /usr/src on my test box has always
  been NFS mounted but was never considered a possible contributor to
  the problem.

  If NFS loses track of related nfs nodes or races operations on underlying
  vnodes while expecting their storage to remain stable it is possible
  for a random vnode to become corrupt.  How this could translate to a
  completely random seg-fault is not entirely understood but I surmise
  the unrelated cc1's binary mmap could become corrupt.

Reported-by: Thomas Nikolajsen <thomas.nikolajsen@mail.dk> (nfs issue)

kernel - Provide descriptions for vm.stats.* sysctl's

Submitted-by: Taras Klaskovsky
Sponsored-by: Google Code-In

dmirror - Add Matt's design notes

dmirror - initial code (layout)

* Initial code laying out basic functionality and design except for
  resynchronization.

* NOTE: this code is faaaaaaaaaaaar away from being usable. It really is
  only a layout.

* NOTE: did I mention that this code is far away from being usable and
  still needs a lot of love? The only reason I'm committing this, is so
  it doesn't linger forever on my personal repo.

* If anyone feels like it, *PLEASE* work on dmirror!!!!

dm - Major cleanup & module work

* Add module code to all the targets and get rid of the hackish global
  target insertion.

* Clean up all sorts of dead code and crappy whitespaces. There isn't
  much point in maintaining whitespaces just to have a small diff to
  NetBSD since our diff is quite big now anyways.

mmap - add mmap offset randomization

* mmap offset randomization, based upon OpenBSD's implementation in
  sys/uvm/uvm_map.c and sys/uvm/uvm_mmap.c.

* The randomization is controllable via the sysctl vm.randomize_mmap,
  which by default is 0 (off).

Obtained-from: OpenBSD

tr(1): Add the -C option.

http://www.opengroup.org/onlinepubs/9699919799/utilities/tr.html

-C complements the set of characters specified by the first argument,
while -c complements the set of byte values specified by the first
argument.

Taken-from: FreeBSD

kernel - Honor MAP_WIREFUTURE flag in stack growth, mmap, and brk.

This should complete a working version of mlockall(MCL_FUTURE).

kernel - Skeleton sys_mlockall.

Currently implements MCL_FUTURE but not MCL_CURRENT.

hammer.8 - Avoid core dumping when running dedup

Avoid dumping core when a user runs dedup or dedup-simulate on a
meta-data only PFS (PFS which does not contain bulk data, just
softlinks, directory entries, etc).  Instead print out a 0.00 dedup
ratio.

Reported-by: Sascha Wildner <saw@online.de>

dm_target_crypt - use mpipe, add module magic

* Switch the kmallocs in the I/O path to using mpipe with a bare minimum
  of two preallocated elements, for each read and write. This finally
  allows for an encrypted swap without any issues with memory pressure.
  It might also improve performance, but it is not the aim of the
  commit.

* Add some module magic to dm and make use of it in dm_target_crypt.

* (temporarily) remove the old module magic.

sysinit - add SI_SUB_DM_TARGETS

dm - Fix a reference leak

* References to the newly created target would not be released on an
  error, but they should. Otherwise dm_target_rem will never succeed if
  an error occured here.

Merge branch 'master' of /repository/git/dragonfly

kernel - Export vm_map_transition_wait and correct race between sleep/wakeup.

kernel - Implement munlockall.

Test commit

kernel - Add a flags field to the vm_map and a MAP_WIREFUTURE flag.

libdm - clean libdm-dragonfly-iface

* Remove bogus whitespace.

* Remove dead code.

* Clean up a few comments.

* Remove prop_dictionary_externalize_to_file that were used for debug
  purposes.

newfs - add volume name support

Obtained-from: FreeBSD

fsid - clear buffer before reading

Fix a couple of typos in messages & manpages.

arcmsr(4): Update to vendor release 1.20.00.19.

Bug fixes:
  * Fixed "inquiry data fails comparion at DV1 step"
  * Fixed bad range input in bus_alloc_resource for ADAPTER_TYPE_B
  * Fixed arcmsr driver prevent arcsas support for Areca SAS HBA ARC13x0

Taken-from: FreeBSD

arcmsr(4): Fix up the device description a bit.

printf(1): Fix the printing of floats which I broke back in 2007.

I forgot braces in f386bcf2683a4edef25828e3958ba5b087d702d2

kernel - Fix namecache memory exhaustion edge case

* The namecache has traditionally relied on vnode limits to avoid
  blowing up its memory pool.  However, creating millions of hardlinks
  to the same vnode easily circumvents this assumption.

* Enhance the negative cache hysteresis code with a section for the
  positive cache that does the same thing, preventing the namecache
  from growing greater than 2x maxvnodes.

  This situation will not occur under normal operation, it is strictly
  for correctness.  The kernel should never panic on normal filesystem
  operations even if those operations are unrealistic.

* Tested w/HAMMER and a few million hardlinks to a single file.

Reported-by: Venkatesh Srinivas <me@acm.jhu.edu>

kernel - AHCI hotplug work to help support AMD chipsets

* Change the Hot-plug mechanics to something which appears to work for
  both NVidia and AMD AHCI chipsets, and hopefully Intel too (untested).

  This appears to fix hot-plug for AMD's SB850-based AHCI (circa AM3 socket
  mobos).

* Basically the SCTL.DET and CMD.SUD bits control the behavior of the
  SATA Phy, but in typical Intel fashion the specification is seriously
  lacking on how events such as hot-plug are handled based on what state
  the phy is in.

  Previously we were looking for phy transition events while holding
  the port in the RESET state (DET=1, SUD=1), which worked up till this
  point.  But it doesn't work with AMD's SB850-based AHCI.

  Now we are attempting to do the same thing with the port in
  the SPIN-UP/NORMAL state (DET=0, SUD=1).

* The AHCI documentation wants us to use the LISTEN mode (DET=0, SUD=0)
  and get a SERR.DIAG.X event for hot-plug but this doesn't seem to work
  very reliably.  In fact, 10.10.4 is ambiguous for the case
  where Staggered-spin-up is not supported since SUD is wired to '1'
  in that case (making LISTEN mode impossible).

kernel - More AHCI work to help support broken AMD chipsets

This cleans up more of our AHCI support for AMD 880/890/SB850 chipsets.

This does NOT clean up hot-plug issues (fixing those might require actually
probing dead ports every few seconds).

* Better PCS/PRCS masking during low level reset sequences to prevent
  the PCS/PRCS interrupt from poking ports while we are in a hard reset.

* Breakout the COMRESET sequence into its own procedure.

* Make sure SPM is disabled in addition to IPM when doing a hard reset
  of a port.  Also make sure that POD (Power Up Device) is set in
  addition to SUD (Spin up Device) while we are in a hard reset.

* Wait one full second after aftering DET_INIT (sending COMINIT) before
  testing the SSTS bits, to ensure the microcontroller has reinitialized
  itself so we do not get bogus bits and to prevent bogus device detection
  which some chipsets may have left unmasked.

  This may also be needed in general when supporting SATA-III's longer
  training times.

* Do not reinit the port after a PM probe fails as it could undo all of
  the hard work we did initializing it.

* Reissue the COMRESET if a PM probe fails to ensure that any state left
  over from the PM detection gets cleared and to deal with any devices
  which brick when they receive a PM-related command.

kernel - Add APIC_IO conf option back in / make it adjust hw.apic_io_enable

* APIC_IO again controls whether a SMP kernel will use the io-apic or not.
  All it does now is adjust the hw.apic_io_enable default value.

  Changing the code to allow apic-io to be soft-selectable was great, but
  removing the kernel config option was not so great.

* SMP Kernels compiled without APIC_IO again default to not using it.  You
  can use APIC_IO either by configuring the kernel with the option or
  by setting hw.apic_io_enable=1 in /boot/loader.conf.

* SMP Kernels compiled with APIC_IO default to using APIC_IO.

* Reduces confusion between 2.8 and 2.9 kernel config files.

* Reduces personal frustrations.

OpenSSL: Add pre-generated asm files to the build.

This causes measurable performance increases.

The Makefile in asm/ will generate the .s files from the vendor-provided
.pl files when a new version of OpenSSL is imported.

Dragonfly-bug: <http://bugs.dragonflybsd.org/issue1542>

Merge branch 'vendor/OPENSSL' into HEAD

OpenSSL: Reduce diffs to vendor source.

Make OpenSSL thread-safe.

tmpfs - fix chgrp(), or chown() when one of uid/gid is to be unchanged

uid/gid values from function arguments were being used instead of the ones
arranged by vop_helper_chown(), accidentally setting one of them to -1
(4294967295) instead of leaving it unchanged.

debug - Add seekbench.c

* Add a little program which purposefully attempts to defeat OS and disk
  caches to calculate seek latencies for different relative seek spans.

  Well, this doesn't tell us anything we didn't know already, that being
  that unless one can make accesses use of the HDs zone cache well anything
  other than a linear read is going to have a fairly huge seek-time cost.

Fortune: update hammer snapshot info

kbdmap(1): Fix a segmentation fault with -r.

Reported-by: Mikael Moghadam <binarybusiness@gmail.com>
Dragonfly-bug: <http://bugs.dragonflybsd.org/issue1918>

mount_devfs - don't unconditionally clear rules

* mount_devfs was unconditionally clearing all rules of a mountpoint
  after mounting.

* According to the man page (and my original intentions, I'd presume),
  mount_devfs should only clear the rules of a mountpoint if it was
  already mounted. So fix mount_devfs accordingly.

Dragonfly-bug: http://bugs.dragonflybsd.org/issue1885

kern_shutdown - sync_devs before looking for dumpdev

* We need to sync_devs before starting to look for dumpdev, otherwise it
  might have happened that the probing of the disk hasn't finished yet.

devfs - don't propagate on terminate, it's redundant

* Don't propagate the device removal in the cdev terminate op since it
  must have happened before; otherwise something went horribly wrong.

* Verify that the cdev isn't linked into the dev list anymore upon
  terminate. As explained in the commit, this *must* be the case.

dloader - understand dumpdev

devfs - Only check rules after inserting into topology

* Previously rules were checked in allocp before binding the node into
  the topology. Since the rule checking itself needs the topology,
  stuff(TM) didn't work properly.

* NOTE: this still doesn't fix the issue of rules not being applied
  correctly on mount, but it's the first step towards that end.

Dragonfly-bug: http://bugs.dragonflybsd.org/issue1885

Add files to OpenSSL that will generate optimized asm code.

build - Fix IP_DIVERT w/UP build error

Reported-by: Stephane Russell <srussell@prodigeinfo.com>

mlxcontrol(8): Sync with FreeBSD.

While here, raise WARNS to 6 and fix the warnings.

vn - switch to using own malloc type

devfs - Fix FREEBLKS

* Since vn and md were changed to use the disk subsystem they
  essentially haven't been able to receive any BUF_CMD_FREEBLKS since
  their D_CANFREE flag was not propagated through the disk subsystem.

* Fix this by making the flag specific to the device via SI_CANFREE and
  propagating the D_CANFREE of even *underlying*/covered devices to the
  top-level device's SI_CANFREE.

kern_udev - fix the devtype property

* The devtype cannot be extracted from the si_flags in cdev, but only
  from the ops flags.