release58/index.mdwn

   1 # DragonFly BSD 5.8
   2
   3 * Version 5.8.0 released xx MM 2020
   4
   5
   6 DragonFly version 5.8 brings ....
   7
   8 The details of all commits between the 5.6 and 5.8 branches are available in the associated commit messages for [5.8.0rc1](http://lists.dragonflybsd.org/pipermail/commits/2020-February/720529.html) and [5.8.0](http://lists.dragonflybsd.org/pipermail/commits/2020-February/720604.html).
   9
  10 ## Big-ticket items
  11
  12 * [`dsynth(1)`](https://www.dragonflybsd.org/cgi/web-man?command=dsynth&section=1) written and added to base, making it more convenient for users to build their own binary repos for [DPorts(7)](https://www.dragonflybsd.org/cgi/web-man?command=dports&section=7).
  13 dsynth is used to build some or all of the DPorts collection, over 25000 third-party packages.  It's also working as an informal performance measure, with many of the changes in this release to speed up DragonFly when building multiple dependent packages.
  14
  15 * Many ports these days seem to assume a greater degree of signal safety for libc function, particularly for `malloc()`.  We have implemented a low-overhead signal masking feature that now allows us to make `malloc*()` and other related functions signal-safe.
  16
  17 * A ton of bug fixes, stability work, and usability work has gone into this release.  Many niggling little annoyances, such as Chrome/Chromium stuttering when system memory is low, have been fixed.
  18
  19 * DRM (GPU) support continues to improve slowly but steadily.
  20
  21 * Significantly improved paging algorithms reduces or eliminates UI/browser glitches in low-memory situations.
  22
  23 ## Details
  24
  25 ### Checksums
  26
  27     MD5 (dfly-x86_64-5.8.0_REL.img) =
  28     MD5 (dfly-x86_64-5.8.0_REL.iso) =
  29     MD5 (dfly-x86_64-5.8.0_REL.img.bz2) =
  30     MD5 (dfly-x86_64-5.8.0_REL.iso.bz2) =
  31
  32 ### Upgrading
  33
  34 If you have an existing 5.x system and are running a generic kernel, the normal upgrade process, described below, will work.
  35
  36 Change your local `/usr/src` to 5.8:
  37
  38     cd /usr/src
  39     git fetch origin
  40     git branch DragonFly_RELEASE_5_8 origin/DragonFly_RELEASE_5_8
  41     git checkout DragonFly_RELEASE_5_8
  42     git pull
  43
  44 And then rebuild: (in `/usr/src`)
  45
  46     make buildworld
  47     make buildkernel
  48     make installkernel
  49     make installworld
  50     make upgrade
  51
  52     (reboot your system)
  53
  54     make initrd
  55
  56 `make initrd` is optional for systems with unencrypted disks, and has been possible for several releases; it's mentioned here for completeness. Look at the [initrd(7)](https://leaf.dragonflybsd.org/cgi/web-man?command=initrd&section=ANY) man page for details on what it does.
  57
  58 Don't forget to upgrade your existing packages.  5.8 packages have already been built and are immediately available.
  59
  60     pkg update
  61     pkg upgrade
  62
  63 ## All other changes since prior release
  64
  65 ### Security Issues
  66
  67 * Fix two minor kernel stack disclosures and a few minor memory leaks.
  68 * Fix a buffer overflow in libfetch (CVS-2020-7450)
  69 * Fix CVE-2019-18218.
  70 * Fix two environment variable vulnerabilities in the telnet client.
  71
  72 ### Kernel
  73
  74 * Scaling adjustments to improve performance on high-core-count machines.  VM page lookup shortcuts, reduced contention when opening special devices like `/dev/lpmap`, reduced contention for `open(... O_RDWR)` calls, recoded namecache (mp, ncp) mount point lookup cache.
  75 * Significantly reduce SMP contention in low-memory situations.
  76 * Significantly improve page selection in the pageout scan.  SMP work over the last few years marginalized the page selection algorithm, causing it to often select pages which were actually active.  These changes significantly reduce the selection of such pages in favor of inactive pages.  The result is the elimination of stuttering in applications like Chrome when system memory is tight.
  77 * Do not shortcut VM faults of INACTIVE pages, require the long-path to ensure that the pages are moved to the ACTIVE queue first.  This prevents premature pageout of heavily cached VM pages such as pages from highly-shared libraries.
  78 * Improve pageout daemon pipe-lining by fixing some of the hysteresis code.  Also improve the early-termination checks for the pageout daemon to stop paging more quickly when a large amount of memory is suddenly freed up.
  79 * Fixed a rare `wait*()` deadlock.
  80 * The `vm.fault_quick` sysctl now supports a burst count, but the default is still 1.  We do not expect significant gains in performance until the APIs can be refactored all the way through to the low-level pmap code.
  81 * Offset the stathz timer by 50% of the hz timer and change default frequency to (hz + 1).  This is intended to reduce sampling errors that were causing phantom 'interrupt' time accumulation in system statistics.
  82 * Refactor the random number generator in the kernel and also as supplied to userland to use per-CPU state.  This gets rid of a significant source of SMP contention under heavy loads.  Adjust the RDRAND driver to collect entropy on all CPUs, as well as to chain some of the entropy between CPUs.  This ensures that no single CPU can accidentally become deficient.
  83 * Reduce excessive RDRAND harvesting.  The RDRAND harvesting rate was too high and causing high-core-count Zen CPUs to burn 2-3% of the system CPU at idle.  The harvest size has been reduced to compensate.  In addition, some of the entropy is chained between CPUs to ensure that entropy collection on one CPU is not only beneficial to that CPU.
  84 * Fix a USB crash on quick plug/detach/plug/detach sequences.
  85 * Add system call support for `realpath(3)`, allowing the kernel to build the path for us instead of having to cycle tons of *stat() calls.
  86 * Add system call support for `getrandom(2)`.  We already had a sysctl-based mechanism and a device mechanism.
  87 * Fix a bug in the (rare) `lockmgr(9)` cancel path.
  88 * Fix 'indefinite wait buffer' live-locks related to encrypted disks.  The encrypted I/O path had a low-memory deadlock that could prevent paging to encrypted-swap from happening, resulting in a locked up system.
  89 * Reduce mpipe overhead, improving (primarily) encrypted I/O performance a bit.
  90 * Fix a panic in the control messages processing for IPv6.
  91 * Enable keyboard polling in `shutdown -h` to try to keep the keyboard operational at the 'press any key to reboot' message.
  92 * Fix a dangling reference on filesystem FIFO vnodes.  This could prevent umount from succeeding indefinitely.
  93 * Merge a `m_pulldown()` bug fix (discussed with multiple BSDs).  See c24e3890e671.
  94 * Enable busmaster operation on bridges (the BIOS might not).
  95 * Make sure the `%fs` selector is properly loaded in the AP bootstrap.  Otherwise the selector may be invalid on certain Zen 2 CPUs.
  96 * Change the TCP keepalive options from milliseconds to seconds, making the units the same as Linux, in order to improve ports compatibility.
  97 * Fix a rare pmap placemarker timing race that could cause a process to get stuck in the `pvplw` state.
  98 * Implement SMAP/SMEP support.
  99 * Fix `vm.swap_size` reporting and add a new sysctl `vm.swap_free`.
 100 * Fix a minor kernel memory leak related to the `rt_msg_buffer()` API.
 101 * Check for deferred interrupts in more `crit_exit*()` paths, undoing some optimizations made in prior years.  The checks are necessary to avoid non-deterministic interrupt response times in certain cases.
 102 * Get rid of `udev_t`.
 103 * Add sysctl support for `CTLTYPE_BIT32` and `CTLTYPE_BIT64`, allowing sysctl to directly control the same flags field with separate sysctl elements.
 104 * Add `/dev/lpmap`, a per-thread shared user/kernel page.  This page allows userland to implement temporary signal blocking on a per-thread basis without having to make any system calls.
 105 * Add support for `pthread_get_name_np()` via a new system call, `lwp_getname()`.  Reimplement `lwp_setname()` via the new `/dev/lpmap` feature (i.e. make it work without needing a system call).  Also, `setproctitle()` now uses `upmap->proc_title[]`.
 106 * Catch infinite parser recursions in broken ACPI.
 107 * Fix a bug in the `lockf(1)` code that could cause a process to hang indefinitely in "lockfz".
 108 * Fix multiple `devfs(5)` bitmap races primarily related to PTY allocation and management.
 109 * Jails - Rework sysctl configuration variables.  See [`jail(8)`](https://www.dragonflybsd.org/cgi/web-man?command=jail&section=8) for more information.
 110 * Jails are now allowed to mount nullfs and tmpfs filesystems.
 111
 112 ### Filesystems
 113
 114 * HAMMER2
 115   * Fix inode & chain limits in order to avoid kmalloc pool assertions on low-memory machines.
 116   * Significantly improve the flush pipeline and dirty inode count hysteresis.  This fixes a long-standing issue where heavy filesystem activity was not making use of available I/O bandwidth due to a number of `tsleep()` stalls in the flusher loop.  This also improves frontend-operation vs backend-flush concurrency.
 117   * Fix a bug where a small file less than or equal to 512 bytes that is extended above 512 bytes can sometimes lose data in the first 512 bytes (replaced with `0x00` bytes).
 118   * Fix an indefinite stall that could occur when I/O errors are encountered.
 119   * Add an emergency operations mode to allow recovery of `ENOSPC` edge cases.  This is a mode which allows snapshots to be destroyed by updating inodes in-place, allowing the removal of a files and directories in situations where the normal block-copy-on-write mechanism does not function due to lack of space.  See the [`hammer2(8)`](https://www.dragonflybsd.org/cgi/web-man?command=hammer2&section=8) man page for more details.
 120   * Fix a number of issues and significantly improve performance by optimizing how HAMMER2 support threads are dispatched.
 121 * TMPFS
 122   * Reduce low-memory thrashing.  Normally TMPFS cycles pages through the VM page cache only and avoids flushing them to backing store (swap).  In low-memory conditions, TMPFS now cycles dirtied pages through the buffer cache and bypasses the inactive queue upon completion to avoid interfering with memory pressure caused by processes.
 123   * Enable write-clustering, improving paging performance when under memory pressure.  Prior to this fix, physical I/O was limited to 16KB chunks.
 124   * Make `tmpfs_move_pages()` more robust to close potential race conditions.  Fix a number of other race conditions as well.
 125 * MSDOSFS - Many fixes and improvements, mostly taken from FreeBSD.
 126 * DEVFS - Fixed a missing lock that could result in a panic during heavy duplicate mount/umount activity.
 127 * NFS - Fix a rare NFS deadlock related to `mmap()`'s I/O.
 128 * NULLFS - Improve mount/umount performance slightly.
 129 * All filesystems now default to microseconds precision instead of seconds precision.  The use of nanoseconds is problematic due to `utimes()`'s archaic API.
 130
 131 ### Networking
 132
 133 * Add support for IPv4 /31 prefixes (RFC 3021).
 134 * tap(4) - Improve `SIOCSIFMTU` ioctl handle to support MTU > 1500.
 135 * PF - Fix a number of edge cases, but these fixes have not dealt with all reported PF issues.
 136 * Add support for `SIOCSIFINFO_IN6`.
 137 * Refactor the `CMSG_ALIGN` mechanic for network control messages to work properly with modern data types.
 138 * Return `EHOSTDOWN` under certain situations in the route lookup code.  Don't mark cloned route as `RTF_REJECT` or `RTM_MISS`.  Also separate route messages from creation/lookup.
 139 * Ensure that `RTM_IFINFO` is sent first when bringing an interface up or down, as route update messages can overflow the route socket.
 140 * Add support for `SO_RERROR`.
 141
 142 ### Graphics
 143
 144 * Generic drm code has been updated to Linux 4.9 with a few backported Linux 4.12 features in order to improve Wayland support
 145 * the drm/i915 driver has been updated to Linux 4.8.17 with a few backported changes from Linux 5.4 (support for newer Skylake, Coffelake, Amber Lake, Whiskey Lake and Comet Lake GPU models).
 146 * the drm/radeon driver has been updated to Linux 4.9.
 147 * Fix some DMAP issues with the way Linux expects `pmap_change_attr()` to work.
 148
 149 ### Driver updates
 150
 151 * SOUND/HDA - use driver-specific taskqueue instead of per-CPU taskqueue.
 152 * PSM - Fix memory corruption and panic, add Elantech IC type 15 support (e.g., in ThinkPad L480 laptops).
 153 * AHCI - Add a quirk for the MCP73 AHCI controller.
 154 * AHCI - Add a TPS balancing mode for storage devices, enabled by default.  This feature brings write TPS down to match read TPS when both are pending.  Normally both read and write I/Os get a few private tags, but because write I/O is heavily buffered by the device even a single tag can destroy read performance.
 155 * AHCI - Enforce a 10-second poll of the chipset when idle to try to catch any potential lost interrupts.  This is an attempt to work around a 'lost' timeout issue that we sometimes see.
 156 * u4b/uaudio - Fix a NULL pointer indirection panic.
 157 * IWM - Full sync from FreeBSD, adding iwm-9000 and iwm-9260 support.
 158 * SIO - Refactor some of the code.
 159 * AMDSBWD and INTPM - Updated for AMD watchdog, power management on newer chips.
 160
 161 ### Userland
 162
 163 * Binutils 2.34 added, and 2.25 removed.  2.27 is still the default for now.
 164 * pctrack (`%rip` sampler) - Improved symbol table translation.
 165 * Sync `<math.h>`, `sincos()`, and other math support from OpenBSD.
 166 * Sync `<sys/ttydefaults.h>` from FreeBSD to improve ports compatibility.
 167 * Synchronize improvements made to `fsck_msdosfs` from FreeBSD.
 168 * Check if the context is invalid in `setcontext()` and `swapcontext()` to throw errors earlier in situations where too-small a stack size has been specified.
 169 * `fish(6)` - bug fixes.
 170 * Fix `ps(1)` and `fstat(1)` when used on kernel cores.
 171 * `vmstat(8)` now pulls 'ncpus' from the kernel core image, when used with a kernel core.  Also make the verbose (`-v`) option work with (`-m`), dumping all memory pools whether they are empty or not.
 172 * Adopt a more Linux-friendly `basename()` and `dirname()` to improve ports compatibility.
 173 * Fix bug in `fparseln()` (taken from NetBSD).
 174 * libc/`getaddrinfo()` - Accept numeric servname for `AF_INET` / `AF_INET6`.  Take from FreeBSD.
 175 * Update zoneinfo to tzdata2019c.
 176 * Fix an issue when rotating `/var/log/wtmpx`.
 177 * `iostat(8)` - fix column count bug.
 178 * libdevstat - Fix a bug in `DS_SELECT_REMOVE`.
 179 * libc - Add `sigblockall()` and `sigunblockall()` (DragonFly native API), a fast way to mask signals for a short period of time without having to make any system calls.
 180 * libc - Make signal safe (primarily for `malloc()` and friends).  Numerous ports now assume more expansive signal safety for various libc functions.
 181 * libc - Make `strtok()` thread-safe.
 182 * libc - Add `TABDLY`, `TAB0`, and `TAB3` to improve dports support.
 183 * libc - Add `__errno_location()` for better ports compatibility, particularly for some languages which need an actual procedure to call rather than a macro for their run-times.
 184 * libc - Significant `utmpx` changes, taken from NetBSD and FreeBSD mostly.
 185 * Remove `mrouted` and related utilities from the tree.  Newer, better versions can be found in dports and ours was getting crufy.
 186 * libkvm - Fix mask generation when parsing minidumps.  This fixes many of the corrupted dump issues reported.
 187 * `leave(1)` - Allow up to 99 in the minutes field in + mode.  Just like microwaves do.
 188 * `phantasia(6)` - Fix monsters file permissions.
 189 * `du(1)` - Add an option (`-t`) to return results based on the file size instead of `st_blkcnt`.
 190 * libpthreads - Fix numerous issues.
 191 * `calendar(1)` - Multiple improvements, mostly taken from FreeBSD and OpenBSD.
 192 * `rcorder(8)` - Import `rcorder-visualize.sh` script from FreeBSD
 193 * Openresolv upgrade to 3.9.2.
 194 * DHCPCD upgraded to 8.1.3.
 195
 196 ### Boot, Image
 197
 198 * Sync ACPICA with Intel's version 20200214
 199 * Unbreak the EFI build when `WORLD_LDVER` is overridden.
 200 * The installer now chooses a more sane default for the `/build` partition.
 201 * EFI - Sync our TianoCore EDK II headers to edk2-stable201911.
 202 * Refactor `malloc_type` in the kernel, which caused an excessive amount of static data in the image.  This reduces the image size by 6MB.
 203 * Warn when duplicate physical address ranges for free memory are passed in from the BIOS, instead of crashing.
 204
 205 ### Various tools have been upgraded in the base system:
 206
 207 * The build system is slowly being adapted to allow bootstrap utilities and tools to be compiled on a wide range of operating systems as part of a project to supply a `build.sh` script to be able to build DragonFly BSD on other OSs.  This work is not yet complete.
 208 * The build system now has a `build-all` and `install-all` target to conveniently do a full world + kernel build and install in one or two steps as desired.
 209 * Multiple cleanups to `kern.pre.mk` and `kern.post.mk`.
 210 * No longer try to generate embedded newlines in strings, instead use POSIX string concatenation.
 211 * The [`nrelease(7)`](http://man.dragonflybsd.org/?command=nrelease&section=7) build now supports a `binpkgs` option to allow the use of binary packages, and has received many other fixes and improvements.
 212
 213 ### Compiler status
 214
 215 * Currently using GCC 8 by default, with GCC 4.7 built but not used as fallback.
 216
 217 ### Package updates
 218
 219 * A full set of new binary packages has been built for 5.8, available through the `pkg(8)` tool.