Para hacer un libro con algo estilo markdown necesitas como mínimo un sistema de plantillas y, obviamente, unas buenas hojas de estilos (implementadas a través de lo que sea). Sin las plantillas sencillamente no vas a poder gestionar automáticamente índices, referencias, etc.
Si publicas tu libro no tienes obligación de publicar «el código fuente». Y si lo haces da igual la manera en qué lo hagas, excepto si esperas mejoras de terceros, para lo que sí conviene un servicio relacionado con git.
Hay otras cosas como https://www.wikibooks.org/ pero a las que tendrías que adaptarte a su formato y herramientas.
En cuanto al lugar de publicación, pues las alternativas son infinitas. En mi caso particularísimo me gusta que mis cosas estén publicadas al menos colgando de olea.org.
Lo del ISBN, como dice Rubén, sólo es obligado en ciertos casos (los libros-e pueden tener ISBN también) y puede ser interesante para tener un identificador de metadatos internacional. Lo malo del ISBN es que ahora te cobran para el registro, a menos que des con una editorial que ya tenga reservados unos cuantos y te ceda un número.
Otra duda suele ser el depósito legal, que no es obligatorio y que sirve como prueba legal en caso de juicio por plagio. Antes era gratuito y podías entregar material en CD. No sé cómo está ahora.
Complementariamente hay servicios como web.archive.org donde puedes registrar instantáneas en el tiempo para demostrar cuándo publicaste. Creo que ya se ha usado positiviamente como prueba judicial en EEUU. También hay otros servicios equivalentes en la red, unos de pago y otros gratis, de notaría.
El tipo de licencia: la que te salga de la… voluntad. Depende de lo que quieras y no quieras que se haga. Por ejemplo mi blog lo licencio como CC-BY-ND, porque soy especialito. Pero luego otros materiales (como mis fotos en http://commons.wikimedia.org/) simplemente CC-BY para que, como decía la canción, «ojalá os sirvan».
Otra cosa que para mi es importante es que durante el proceso de creación del contenido puedes pasar por etapas previas más o menos marranas que te sirven para agilizar la escritura pero sabiendo que al final estructurarás los contenidos al sistema que hayas elegido. Yo por ejemplo puedo empezar con un mapa mental a lo bestia para identificar y anotar los contenidos relevantes e irlos pasando a estructura arbórea, luego con cualquier otra herramienta desarrollo los textos y finalmente con la definitiva hago el acabado final, las anotaciones de formato (palabras clave, unificar la presentación de nomenclaturas y cosas así) para generar el formato de publicación, que lo ideal sería web y pdf: web porque estamos en el siglo XXI y PDF para los seres humanos que usan los ordenadores como si fueran imprentas.
Justo estuve pensando en estas cosas para la memoria de mi TFG pero ni siquiera he empezado a escribirla por lo que no puedo compartir un ejemplo. En mi caso acabaría usando DocBook porque lo conozco y me parece maravilloso, pero no es que sea muy amigable para alguien que no quiera complicaciones 
Para las dudas, si me haces preguntas concretas intentaría darte una respuesta (presuntamente) útil.
