docs/developer/ProjectsPage.mdwn

   1 # DragonFly Projects
   2
   3 This page shall serve as a common place to look if you're in search of a DragonFly related project. It's also the place to check if someone else is already working on it (to prevent project collision) or should be contacted.
   4
   5 Projects that can be clearly used for Google Code-In are marked with their category, where applicable.  Some unmarked items may be eligible; it depends on how the student wants to tackle the project.
   6
   7 [[!toc levels=3 ]]
   8
   9 ## Website projects
  10
  11 ### One-liners
  12 * Add traffic report, especially to lists requests that cause 404s (GCI:Research)
  13 * Add the mail archive to the search index (GCI:Documentation)
  14 * Download link right on the main page.
  15 * Fix RSS feed to have correct links
  16 * Create layout for http://bugs.dragonflybsd.org that matches the main site.  (GCI:User Interface)
  17 * Create short list of tasks for a new DragonFly user
  18 * How to upgrade the operating system (GCI:Training)
  19 * How to get to a working desktop (GCI:Training)
  20 * and where and how to report issues.(GCI:Documentation)
  21
  22 ### Post papers in the proper locations on the website
  23 * Format conversion may be necessary
  24 * Aggelos's papers from [http://leaf.dragonflybsd.org/~aggelos/] (http://leaf.dragonflybsd.org/~aggelos/) (netmp-paper.pdf and netmp.pdf) to Presentations
  25 * ["A Peek at the vKernel" article](http://cvsweb.dragonflybsd.org/cvsweb/site/data/docs/articles/vkernel/vkernel.shtml?rev=1.3&content-type=text/x-cvsweb-markup) from old site
  26 (GCI:Documentation)
  27
  28 ## Documentation projects
  29
  30 ### One-liners
  31 * Reorder `/usr/src/UPDATING` to put more relevant information at top; remove data no longer relevant.
  32 * Help out in [http://bugs.dragonflybsd.org](http://bugs.dragonflybsd.org) (try to reproduce, diagnose, propose fixes ...)
  33 * Organize, contribute to, and finish the C book project.
  34
  35 ### Handbook maintenance
  36 * Check if the content applies to DragonFly.  If not, change it.
  37 * Add new content and enhance the previous chapters
  38 * Check for syntax error, typos and wiki errors.
  39 * Add prev/next buttons to all pages. (GCI:User Interface)
  40
  41
  42 ### Write manpages
  43 * sysref (GCI:Documentation or Research)
  44
  45 ## Userland projects
  46
  47 ### One-liners
  48 * Update the [[contributed software|docs/user/ContribSoftware]] which is out-of-date.
  49 * Remove `NOINET6` build option
  50 * `WARN` corrections to utilities (GCI:Code)
  51 * Bring in code from other *BSDs:
  52 * smbfs changes from FreeBSD (GCI:Code)
  53 * Add extended slice support to `fdisk`
  54 * Install Coverity and fix the FreeBSD bugs that were uncovered by Coverity, but do not just blindly pull over the FreeBSD patches. Make sure that you first understand what the patch does.
  55 * C99 Standards Conformance. The todo list is on [[/docs/developer/StandardsConformanceProject]] (GCI:Code)
  56 * Setup a regression testing machine/system to register and find problems and new improvements. (GCI:Quality Assurance)
  57 * Networking performance / scalability ((GCI:Research)
  58 * [[RegressionTest|/docs/developer/RegressionTest]] (GCI:Research)
  59 * also check [[HowToStressTest|/docs/developer/HowToStressTest]] (GCI:Research)
  60 * Add lwp support to ptrace/gdb/core dumps.
  61 * Bringing in version 2.0 of the BSD Installer
  62 * UTF8 support in the console
  63
  64 ### Scalability (algorithmic performance) (GCI:Research)
  65 * [http://bulk.fefe.de/scalability/](http://bulk.fefe.de/scalability/)
  66 * [http://bulk.fefe.de/lk2006/talk.pdf](http://bulk.fefe.de/lk2006/talk.pdf)
  67
  68 ### Clean our code to make it [style(9)](http://leaf.dragonflybsd.org/cgi/web-man?command=style&section=ANY#style&sectionANY) compatible.  (GCI:Code)
  69 * Compile and test your changes.
  70 * Verify that the checksum (sha(1)) of the unmodified object matches the checksum of the cleaned object.  Check also with strip(1)+sha(1)
  71
  72 ### Port BSD-licensed tools (ex: `grep`, `diff` and `sort`) (GCI:Code)
  73 * The OpenBSD guys already did some work related to that.
  74 * If you manage to bring the tools to DragonFly, check if everything works as expected (e.g. rc.d scripts, make world runs, ...).
  75 * The new tools need to have at least all the features of the old GNU tools.
  76
  77 ### Randomize mmap() offsets
  78 * [http://www.openbsd.org/papers/ven05-deraadt/index.html](http://www.openbsd.org/papers/ven05-deraadt/index.html)
  79
  80 ### GDB
  81 * ptrace/gdb follow-fork-mode support and more (peek at linux)
  82 * Change the build to create one libbfd for gdb and binutils
  83 * Separate RPC code from NFS into separate library.
  84
  85 ### I/O diagnostic utilities
  86 * A utility similar to top which displays I/O usage on a per-process basis
  87 * Network, Disk
  88
  89 ### SMART capabilities
  90 * Add to natacontrol (see NetBSD's atactl?)
  91 * Add to camcontrol
  92
  93 ### Disk scheduling rc scripts (GCI:Code)
  94 * Create a rc script to manage the disk/io scheduling system
  95 * Perhaps 1 entry to "enable" it, and all disks will have mode set to "auto", in auto mode smart inquiries and other heuristics could attempt to determine the best i/o scheduler
  96 * Per-device and device class or similar defaults should be definable in rc.conf also
  97 * The bulk of this functionality could be implemented in a resurrected "dschedctl" utility and exposed through the rc interface using just a thin wrapper, allowing hotplug scripts and etc. an easier option to use the same facilities.
  98
  99 ### libHAMMER
 100 * HAMMER has the capability to expose very rich information to userland through ioctl's.
 101 * Currently the hammer(8) utility makes use of this information in an ad-hoc manner.
 102 * Port this core functionality into a public libhammer library so that other base and third party utilities may take advantage of it.
 103
 104 ## Kernel projects
 105
 106 ### One-liners
 107 * Port the BSDL OSS code to DragonFly
 108 * Complete Path MTU Discovery by adding a host route to remember the Path MTU and setting a timer to expire old host routes. See netinet/if_ether.c for an example of this mechanism as used by ARP. Periodically increase MTU of hosts that have had its MTU decreased.
 109 * Look for places in the kernel that can benefit from Solaris-style caching of preconstructed slab allocator objects. If we can find enough of these uses, we can add this functionality to the kernel memory allocator.
 110 * Implement [`sem_open()`](http://www.opengroup.org/onlinepubs/000095399/functions/sem_open.html), [`sem_close()`](http://www.opengroup.org/onlinepubs/000095399/functions/sem_close.html), and [`sem_unlink()`](http://www.opengroup.org/onlinepubs/000095399/functions/sem_unlink.html). (GCI:Code)
 111 * Clean our code to make it [style(9)](http://leaf.dragonflybsd.org/cgi/web-man?command#style&sectionANY) compatible.  Compile and test your changes.  Verify that the checksum (sha(1)) of the unmodified object matches the checksum of the cleaned object.  Check also with strip(1)+sha(1)
 112 * Setup a regression testing machine/system to register and find problems and new improvements. (GCI:Research)
 113 * Port or update drivers from other systems.
 114 * Port NFSv4.  [This mail](http://leaf.dragonflybsd.org/mailarchive/kernel/2008-01/msg00065.html) is a good starting point.
 115 * clean up buildworld/kernel compilation warnings
 116 * Port DTrace
 117 * Port Linux emulation to x86-64
 118
 119 ### Code to port/sync from FreeBSD
 120 * PCI code (to take advantage of power saving features)
 121 * Bring in support for UFS2, just the changes to extend the width of some fields from 32 bits to 64 bits.  (GCI:Code)
 122 * hardware drivers.
 123
 124 ### Code to port/sync from OpenBSD
 125 * Add support for the NoExecute bit as described in [http://www.openbsd.org/papers/auug04/index.html](http://www.openbsd.org/papers/auug04/index.html).
 126 * After that, make user stacks and data heaps non-executable. (W^X)
 127 * hardware drivers, specially wireless.
 128
 129 ### CPU scheduler
 130 * A scheduler API supporting multiple scheduler implementations already exists
 131 * Add a Solaris-like dispatcher framework that can handle more than one installed scheduling policy
 132
 133 ### I/O scheduler
 134 * A pluggable kernel I/O scheduler already exists
 135 * Implement additional disk scheduling policies
 136
 137 ### Implement boot cache
 138 * Effectively a smart readahead.
 139 * Store the pattern of incoming read requests of the boot disk. (Likely into an array structure for better linear readback.)
 140 * Sort pattern into a playback list. (Burstsort or a simple quick sort to get things going?)
 141 * Provide feedback of boot cache playback list hit rate for better adaptiveness.
 142
 143 ### Improve kernel boot speed
 144 * Research source of delays in boot process, keyboard init, scsi?
 145 * Better thread some hardware init, for example USB?
 146 * Perhaps look to see how Linux can boot in one second, better pci scan code?
 147 * "Some kernel work made it possible to do asynchronous initialization of some subsystems. For example, the modified kernel starts the Advanced Host Controller Interface (AHCI) initialization, to handle storage, at the same time as the Universal Host Controller Interface (UHCI), in order to handle USB" - http://lwn.net/Articles/299483/
 148
 149 ### Modify firmware framework
 150 * We currently use the firmware(9) FreeBSD also uses
 151 * It would be more appropriate to avoid future problems with redistribution problems, etc, to adapt the wifi firmware stuff to use the firmware(9) we used to have before, which was able to load firmware files from userland (/etc/firmware).
 152 * See "firmware discussion" thread on kernel@ mailing list, March-May 2010.
 153 * Since it's not desired to just add another way of doing it, this project should include getting rid of loading firmwares as modules
 154
 155 ### Work relating to LWKT (LightWeightKernelThreading)
 156 * Implement lazy IPI cross-processor lwkt message passing.
 157 * Add timeout functionality to lwkt_waitmsg().
 158 * Write man pages for the lwkt message passing API.
 159
 160 ### Filesystem extended attributes
 161 * Generic VFS attributes layer
 162 * Emulate attributes ala Darwin
 163 * Allow filesystems to define their own attribute vop ops
 164 * QUESTIONS: Attributes or subfiles? The consensus is that subfiles are better?
 165
 166 ### Capabilities
 167 * Implement something resembling or inspired by POSIX.1e
 168 * This implementation could possibly exist in userland and interlock with the kernel via a VFS Journal or HAMMER mirroring ioctl's.
 169 * These should be capable of supporting NFSv4 capabilities.
 170 * References: [1](http://leaf.dragonflybsd.org/mailarchive/kernel/2006-07/msg00012.html)
 171
 172 ### Hardware virtualization extensions
 173 * Increase performance of virtual kernels
 174 * Make use of hardware virtualization extensions, if supported, to manage vmspaces
 175 * Implement a KVM-compatible virtualization device to support qemu
 176 * Hardware IOMMU support is not a priority and if implemented must be strictly optional.
 177
 178 ### Remove zalloc
 179 * zalloc is a deprecated kernel interface and all current consumers can be ported to objcache, with varying levels of difficulty.
 180 * zlib, pv entries
 181 * Once all consumers are ported, zalloc can be removed.
 182
 183 ### Document all sysctl's
 184 * The description of sysctl's can be provided when the sysctl is declared and displayed in userland by passing the -d flag to the sysctl utility.
 185 * Document all undocumented sysctl's
 186 * Verify that the description of documented sysctl's is correct.
 187
 188 ### Convert kprintf-enabling sysctl's to KTR's
 189 * Many sysctl's simply enable one or more kernel kprintf's
 190 * This can be very easy, or can be very unwieldy
 191 * Convert all of these cases to ktr's, while slightly less easy they are far easier to wield in all cases.
 192
 193 ### Tear out C/H/S disk reporting (GCI:Research)
 194 * Cylinders/Heads/Sectors are an outdated concept and the system doesn't rely on them anymore.
 195 * Verify the assumption that we don't rely on them in any way, shape or form.
 196 * Tear the reporting out of the kernel/installer/etc.
 197
 198 ### Change vm_map lookup algorithm
 199 * The vm_map lookups currently use a Red-Black tree, since 2005.
 200 * It has been decided that using an array'ized bucket'ized hash table is probably a better approach.
 201 * References: [1](http://kerneltrap.org/mailarchive/freebsd-current/2010/10/1/6260944) [2](http://leaf.dragonflybsd.org/mailarchive/kernel/2005-01/msg00122.html)
 202
 203 ### Trampoline Code Page instead of direct syscalls
 204 * Map a read/execute trampoline page into every process, which has a syscall table, i.e. is used instead of "int" to enter the kernel. This way we can easily change the kernel enter method from "int" to e.g. "sysenter" without having to recompile userland applications, or even implement some syscalls in userspace.
 205
 206 ### Compressed in-memory swap device
 207 * A device that uses physical memory as swap space, but compresses it.
 208 * Do we support stacking of swap space? For example, one would have this compressed in-memory swap device with highest priority. Replaced objects will be put into the next priority swap device (e.g. a SSD), and so on.
 209
 210 ### tmpfs allocations from swap
 211 * Currently, tmpfs nodes and stuff are allocated from KVA are the size limiter for a tmpfs filesystem
 212 * Instead allocate them from swappable memory; this will allow larger tmpfses up to swap limits
 213
 214 ### mmap MAP_ALIGN
 215 * Solaris's mmap support a flag, MAP_ALIGN, where the address to mmap acts as an alignment hint
 216 * Our backing VM calls support an alignment parameter, but our public mmap does not
 217 * This would allow nmalloc to allocate slabs (64k, 64k-aligned) without wastage
 218
 219 ### vnode dumps
 220 * It would be beneficial to be able to have crash dumps written to an ordinary file in configurations where swap is not configured.
 221
 222 ### Kernel allocator feature enhancements
 223 * Enhance objcache in a manner that will allow the initialization to specify allocation functions which will allocate and free entire slabs of memory, not just single objects.
 224 * Rework the kmalloc allocator to sit on top of objcache (there are various dependencies to making this work).
 225 * Create or sort out a metric for vnode/other cache object cycling rate that can indicate realistic memory pressure.
 226 * Clear out free objcache slabs under memory pressure.
 227 * Add reclaim functionality to objcache, such that it may ask consumers to free objects back into it under memory pressure.
 228
 229
 230 For more theoretical projects and project concepts see [[ResearchProjects|/docs/developer/ResearchProjectsPage]]