Ciao,
mi pare che questi due intanto possano esserti utili in generale sui sistemi operativi:
Tanembaum, I moderni sistemi operativi, Prentice-Hall-Jackson Libri
Silberschatz, Sistemi Operativi, Addison-Wesley
Per quanto riguarda il discorso sistemi embedded (cioè sistemi operativi che devono gestire particolari risorse e in "real time", come accade nei palmari, nei cellulari, elettrodomestici, etc.), ti posso dire che ne esistono di diversi tipi, anche Windows e Linux hanno particolari versioni per girare come sistemi di questo genere.
Ti posso suggerire un paio di link su un sistema operativo embedded, chiamato QNX di cui mi pare esista anche la versione Open:
http://www.qnx.com/
http://www.openqnx.com/
http://www.lynuxworks.com/products/bluecat/bluecat.php3
http://www.wipro.com/prodesign/focusare ... bedded.htm
Tramite Google puoi trovare una miriade di risorse, anche per lo sviluppo, comunque i primi due testi sono alla base di qualunque corso universitario di Sistemi Operativi.
Highrender
"La miglior battaglia è quella che vinciamo senza combattere" - (Sun Tsu)