hammer(8) rebalance: change default saturation_percentage a few more places

hammer(8) - Take in account the saturation level passed to rebalance.

Also change the default saturation level from 75% to 85%.

kernel: Remove support for the Xerox Network Systems (NS) protocol.

It was previously removed from LINT with commit 67bf99c4 and its removal
was also announced here:

http://leaf.dragonflybsd.org/mailarchive/kernel/2010-09/msg00025.html

To be on the safe side, bump _DragonFly_version due to /usr/include/netns
going away. In the unlikely event of something breaking in pkgsrc we'll
have a version to patch against, if needed.

bluetooth(4): Fix loading bluetooth without pf.

bluetooth(4) was previously using pf(4)'s pool_* macros. Now that pool_get()
has been turned into a function in pf(4), this is no longer possible, since
the bluetooth(4) module would have to depend on the pf(4) module for that.

To unbreak module loading, convert all calls to these macros to the zone(9)
calls which they really are.

aibs(4): Add missing module dependency.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

kernel - s/so_pru_control/so_pru_control_direct/

* This enables building without COMPAT_43

Rearrange the previous commit a bit and fix a pathname.

pf: Do not install pfsync man pages, as we lack support for it.

pf: Update man pages, too

Fix 64 bit build.

Bump the copyright years.

\o/  H A P P Y  N E W  Y E A R !  \o/

twe(4): Update to version 1.50.01.002.

This adds support for the 7000/8000 series adapters (some of which
are SATA controllers).

See the manual page for the full list of supported devices.

The update was tested with a 6200 card.

Taken-from: FreeBSD
Thanks-to:  lentferj for providing a controller for testing

remove pfsync option from LINT

        * pfsync is now build as part of pf directly

pf: Update packetfilter to OpenBSD 4.4

        * As correct pf function depends directly on pfsync now
          compile if_pfsyn.c into pf.ko. pflog is already part
          of pf.ko.

        * Activate pfsync function by default. It's not a kernel
          option anymore, but pfsync is very unlikley to work.
          Anyway our ifconfig is missing all pfsync related options.
          I will try to make pfsync working again after upgrading to
          pf from OpenBSD 4.5 as pfsync changes completley then
          and is not compatible anymore with prior versions.

        * Also make the module unloading sane in if_pflog.c

        Thanks to Alex Hornung and Aggelos Economopoulos for debugging.

apic: Clear all entries in int table

This fixes the case where missing 8259 entry and missing IRQ15
happen simultaneously

intr: Start hardware interrupt at IDT_OFFSET

intr: Remove call_fast_unpend() declaration

This function is not implemented at all.

apic: Remove unused macros

apic: Remove unused macros and duplicated comment

intr: Move IO/APIC IDT vector offset into isa/intr_machdep.h

intr: Make sure that changing IPI offset will also update related TPR

While I'm here, reorganize various IPI offsets

intr: Remove unused typedef

intr: Remove unused TRP macros

intr: Clean up comment of Local APIC TPR

pci: MPTable pcib/hostb should not be used, if !apic_io_enable

MP Table is not parsed at all if !apic_io_enable

ldns: Re-Add lost README files

ldns/drill: Update local files to 1.6.7

Update to ldns-1.6.7

HAMMER - Remove unused variable

Although assigned (so GCC was silent), the 'blockmap' variable is
unused in hammer_blockmap_free(), hammer_blockmap_dedup() and
hammer_blockmap_finalize() functions.

Nuke forward_fastint_remote(), which has never been used.

kernel - Fix lockmgr non-zero exclusive count panic (2)

* Handle another possible case when upgrading a shared lock to an
  exclusive lock where the exclusive flag can wiggle its way in.

Reported-by: Peter Avalos <peter@theshell.com>,
     YONETANI Tomokazu <qhwt.dfly@les.ath.cx>

kernel - Fix lockmgr non-zero exclusive count panic

* The vm_map lock uses shared & exclusive locks and tries to upgrade
  shared to exclusive.  There is a race where a shared upgrade can
  steal an exclusive lock from an exclusive request which has already
  acquired the LK_WANT_EXCL flag.

* Deal with the case by having the exclusive lock also acquire
  LK_HAVE_EXCL to catch any shared upgrades which beat out the
  request.

Reported-by: YONETANI Tomokazu <qhwt.dfly@les.ath.cx>
Researched-by: YONETANI Tomokazu <qhwt.dfly@les.ath.cx>

ip_demux: Update comment for tcp_ctlport()

ip_demux: Update comment for ip_lengthcheck()

mtodoff: Add comment

While i'm here, nuke staled comment

kernel: Remove support for the EISA bus and EISA/VLB devices.

Discussed-with-and-approved-by: dillon, aggelos, and others.

Remove redundant settings. These are the same in /etc/defaults/rc.conf.

installer: Add swap to /etc/crypttab only if it is actually encrypted.

This caused some nasty warnings and error msgs upon booting.

ipflow: cpumask_t should be used instead of uint32_t

re(4): Add support for 8168E

Submitted-by: Tim Bisson <bissont@mac.com>

Create MLINKS for the mbuf(9) manual page.

Someone with more knowledge than me should review mbuf(9) and update it
to our current state of affairs.

Reported-by: pavalos

Merge branch 'master' of /repository/git/dragonfly

kernel -- Spinlock debugging.

* Track spinlocks held by a thread in a per-thread array; records the lock
  address and the EIP of the lock-taker.

* Panic in lockmgr() if we hold any spinlocks when trying to take a sleeping
  lockmgr lock.

mpipe.9: Remove trailing whitespace.

vkernel - Catch manpage up with loader/installkernel changes

Reported-by: Tony

ips.4: Sort SEE ALSO references.

Miscellaneous manual page cleanup.

Fix typos in messages and manual pages.

kernel -- MPIPE: Don't call a NULL constructor.

kernel -- MPIPE: Add a constructor argument and priv ptr.

kernel - Fix boot-time lockup with if_igb

* In DragonFly on return from a call to if_start if
  (IFF_RUNNING|IFF_OACTIVE) == IFF_RUNNING the if_start code for the
  device is expected to have drained the queue and will be re-called
  if it has not.

  Add a required ifq_purge() in igb_start_locked() in case where the
  adapter's link is not yet active.

* NOTE: In FreeBSD this is not the case, but correctly coding the
  driver would probably still be beneficial.

udevd - Exit from the SIGTERM handler

Reported-by: Tim Darby

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

vm_map_findspace.9: Turn an Xr to a manpage we don't have (yet) into an Fn.

kernel - Add many sysctl definitions, sysv, vfs, nfs, etc.

* Also take the opportunity to remove some dead (no longer referenced
  sysctl's), these are:
  vfs.cache.dothits
  vfs.cache.dotdothits
  vfs.cache.nummiss
  vfs.cache.nummisszap
  vfs.cache.numposzaps
  vfs.cache.numposhits
  vfs.cache.numnegzaps
  vfs.cache.numneghits
  vfs.reassignbufloops
  vfs.reassignbufsortgood
  vfs.reassignbufsortbad
  vfs.reassignbufmethod
  vfs.nfs.defect
  vfs.cache.numfullpathfail4
  vfs.cache.numfullpathfail3
  vfs.cache.numfullpathfail2
  vfs.cache.numfullpathfail1
  vfs.cache.numcwdfail4
  vfs.cache.numcwdfail3
  vfs.cache.numcwdfail2
  vfs.cache.numcwdfail1

* Add back a couple of vfs.cache sysctl's with improved names
  vfs.cache.numcwdfailnf
  vfs.cache.numcwdfailsz
  vfs.cache.numfullpathfailnf
  vfs.cache.numfullpathfailsz

Submitted-by: Taras Klaskovsky
Sponsored-by: Google Code-In

Hook the vm_page_alloc.9 manual page into the build.

Import vm_page_alloc manpage from FreeBSD and add DFly-specifics.

Convert netstat/inet6.c to use a standard NELEM. (buildworld fixes).

Reported-by: pavalos@

Restore __arysize to stdint.h. Userland was including and using __arysize.

Reported-by: Santabolt on #dragonflybsd

kernel -- Convert sfbuf to use kref.

kref_dec was also modified to return an int, whether it saw a 1 -> 0
transition (0) or not (1).

Code clean -- nuke private defines of __arysize and arysize, replace with NELEM.

kernel -- Implement kref, a very lightweight reference counting system.

route(8)/routed(8): Raise WARNS to 6.

Update MPIPE manual page to describe MPF_CACHEDATA & remove old lock comment.

kgdb(1): Adjust comments, too.

kgdb(1): Fix finding the right kernel for symbols when using -n.

Due to a change of kernel names in /var/crash (kernel.xx -> kern.xx)
kgdb(1) wasn't finding the kernel anymore and resorted to the one in
/usr/obj.

last(1): Raise WARNS to 6.

tcp: Don't allow persist timer if TCP connection is not established yet

This probably could move the un-updated snd_nxt panic earlier.

The dump of the panic in http://bugs.dragonflybsd.org/issue1939 shows
- snd_nxt is less than snd_una
- A persist timer was fired (frame 16, tp->tt_msg->tt_prev_tasks).
- The TCP segment triggered the panic has SYN|ACK (frame 17, th->th_flags).
  This TCP segment is considered as valid (frame 17, list), so tp->t_state
  was SYN_SENT.

This explains why snd_nxt is less than snd_una:
If tcp_output() is called by persist timer, then the persist timer is
active and the "forced" is turned on, this causes the snd_nxt not updated
at all.

MISSING CHIAN IN THE LINK:
How is the persist timer got set in the SYN_SENT in the first place?

Hope the new panic could lift the veil...

Bring in mps(4) for LSI Fusion-MPT 2 Serial Attached SCSI controllers.

The driver should support the following controllers:

* LSI Logic SAS2004 (4 Port SAS)
* LSI Logic SAS2008 (8 Port SAS)
* LSI Logic SAS2108 (8 Port SAS)
* LSI Logic SAS2116 (16 Port SAS)
* LSI Logic SAS2208 (8 Port SAS)

Due to it still being in in development (Integrated RAID isn't supported,
for example), it's only hooked into the module build and added to LINT.

The port hasn't received any testing at all other than make it build. But
it is known that Matt has such a controller. :-)

Thanks to FreeBSD from which this driver is taken.

Fix buildworld for latest liblzma/libarchive changes.

libarchive:  link in liblzma.

Reported-by: dillon@

Fix VKERNEL/VKERNEL64 build.

utmpx - Bring in ${foo}x.3 manpages from NetBSD

kernel - vm_page BUSY handling, change vm_page_cache() API, maybe fix seg-fault

* All vm_page_deactivate() calls now operate with the caller holding
  the page PG_BUSY or the page known not to be busy.  Reorder several
  cases where a vm_page is unbusied prior to calling deactivate.

* vm_page_cache() now expected the vm_page to be PG_BUSY and will cache
  the page and clear the bit.

* Fix a race in vm_pageout_page_free() which calls vm_object_reference()
  with an unbusied vm_page, then proceeds to busy and free the page.
  The problem is that vm_object_reference() can block on vmobj_token.

  This may fix the x86-64 seg-fault issue.  Or it may not (throws up hands).

* Remove incorrect KKASSERT which was causing bogus panics.

kernel - Implement POLLING support for if_igb, change token->lockmgr lock

* Clean up the polling code so it works.

* Use a lockmgr lock instead of a token, the original driver writer
  expected a normal lock.

kernel - Optimize idle thread halt

* Count the number of times the idle thread is entered on a cpu without
  switching to a non-idle thread.  Use the fast-halt (non-ACPI) until the
  count exceeds a reasonable machdep.cpu_idle_repeat.

  This improves the default performance to levels closer to cpu_idle_hlt
  mode 1 but still gives us the power savings from mode 3.  Performanced is
  improved significantly because many threads on SMP boxes are event
  or pipe oriented and only sleep for short periods of time or ping-pong
  back and forth.  For example, a cc -pipe, or typical kernel threads
  blocking on tokens or locks for short periods of time.

* Adjust machdep.cpu_idle_hlt modes:

    0 Never halt, the idle thread just spins.

    1 Always use a fast HLT/MONITOR/MWAIT

    2 Hybrid approach use (1) up to a certain point, then use (3).
(this is the default)

    3 Always use the ACPI halt

kernel - Add MONITOR/MWAIT support to the LWKT scheduler

* Adjust the FIFO contention resequencer (which deals with spinning
  on tokens) to use MONITOR/MWAIT when available instead of DELAY(1)
  when waiting to become the head of the queue.

* Adjust the x86-64 idle loop to use MONITOR/MWAIT when available when
  the idle halt mode (machdep.cpu_idle_hlt) is set to 1.  This
  significantly improves performance for event-oriented programs, including
  compile pipelines.

  NOTE: On the 48-core monster setting machdep.cpu_idle_hlt to 1 improves
  performance but at the cost of an additional 200W of power at idle vs
  the default value of 2 (ACPI idle halt).  Look for a hybrid approach in
  a future commit.

Merge branch 'master' of git://git.dragonflybsd.org/dragonfly

Interbench -- Do not compare strings with ==.

Update to libarchive-2.8.4.

This includes support for lzma and no longer relies on OpenSSL for hash
functions.

Merge branch 'vendor/LIBARCHIVE' into HEAD

Add SHA384 functions to libmd.

jme: Rework software reset procedure

There is a wired TX/RX clock synchronization issues during software reset.
To address these issues we have to disable and enable TX/RX clocks several
times according to JMicron's document.

These clock synchronization issues seem to affect JMC250C/JMC260C chips,
however, it is claimed that these issues affact all JMC250/JMC260 chips.

Thank JMicron for providing JMC250C samples and detailed document.

Hook up liblzma, lzmainfo, xz, and xzdec to the build.

Merge branch 'vendor/XZ' into HEAD

Rearrange lib/Makefile.

Use one line per subdir.  This greatly improves readability.

Remove libraries we don't have any more from the comments.

Import xz-5.0.0.

This is from the XZ Utils project: http://tukaani.org/xz/

Rename cpu_mmw_pause(l) to cpu_mmw_pause_(int/long)

Use xorq, not xorl, for RAX on x64.

kernel -- Replace cpu_mmw_mwait with _pause, which doesn't loop. Correct bugs.

kernel -- Monitor/Mwait routine for x64; (untested!)

kernel -- Correct bug in i386 monitor / mwait routine and change to long type.

kernel -- Add MONITOR and MWAIT routine to i386 kernel.

Provides cpu_mmw_spin() and cpu_mmw_mwait(), both of which wait for a given
memory cell to contain a value different from an expected value. _spin()
merely spins on the cell; _mwait() uses the SSE3 MONITOR/MWAIT isns.

kernel - scheduler adjustments for large ncpus / 48-core monster

* Change the LWKT scheduler's token spinning algorithm.  It used to
  DELAY a short period of time and then simply retry, creating a lot
  of contention between cpus trying to acquire a token.

  Now the LWKT scheduler uses a FIFO index mechanic to resequence the
  contending cpus into 1uS retry slots using essentially just
  atomic_fetchadd_int(), so it is very cache friendly.  The spin-retry
  thus has a bounded cache management traffic load regardless of
  the number of cpus and contending cpus will not be tripping over
  each other.

  The new algorithm slightly regresses 4-cpu operation (~5% under heavy
  contention) but significantly improves 48-cpu operation.  It is also
  flexible enough for further work down the road.  The old algorithm
  simply did not scale very well.

  Add three sysctls:

  sysctl lwkt.spin_method=1

0    Allow a user thread to be scheduled on a cpu while kernel
     threads are contended on a token, using the IPI mechanic
     to interrupt the user thread and reschedule on decontention.

     This can potentially result in excessive IPI traffic.

1    Allow a user thread to be scheduled on a cpu while kernel
     threads are contended on a token, reschedule on the next clock
     tick (100 Hz typically).  Decontention will NOT generate
     any IPI traffic.  DEFAULT.

2    Do not allow a user thread to be scheduled on a cpu while
     kernel threads are contended.  Should not be used normally,
     for debugging only.

  sysctl lwkt.spin_delay=1

Slot time in microseconds, default 1uS.  Recommended values are
1 or 2 but not longer.

  sysctl lwkt.spin_loops=10

Number of times the LWKT scheduler loops on contended threads
before giving up and allowing an idle-thread HLT.  In order to
wake up from the HLT decontention will cause an IPI so you do
not want to set this value too small and.  Values between
10 and 100 are recommended.

* Redo the token decontention algorithm.  Use a new gd_reqflags flag,
  RQF_WAKEUP, coupled with RQF_AST_LWKT_RESCHED in the per-cpu globaldata
  structure to determine what cpus actually need to be IPId on token
  decontention (to wakeup their idle threads stuck in HLT).

  This requires that all gd_reqflags operations use locked atomic
  instructions rather than non-locked instructions.

* Decontention IPIs are a last-gasp effort if the LWKT scheduler has spun
  too many times.  Under normal conditions, even under heavy contention,
  actual IPIing should be minimal.

utilities - Print the cpu id for running and runnable threads

* The cpuid was only being printed for the currently running thread on
  a cpu.  Also print it for any scheduled (runnable) threads on that cpu
  even if they aren't the currently running thread.

kernel - Fix M_NOWAIT's in e1000/if_igb driver

* M_NOWAITs should be M_INTWAITs.  Fixes numerous boot-time problems
  with the driver.

kernel -- Remove fo_poll.

Merge branch 'master' of /repository/git/dragonfly