Io credo che tutto dipenda da quanto grande e' il tuo sito.

Se il tuo sito e' statico e comprende circa 10-20 pagine e' inutile stare a creare tante cartelle, io personalmente creo solamente una cartella IMG per le immagini o per qualche cosa particolare.

I css se non sono complicati e' meglio tenerli tutti in un file style.css altrimenti crei dei file in piu' con pochissime righe di codice extra che potresti riassumere in un solo file.

Come hai gia' capito tu sarebbe meglio fare diversi file css solo in base ai dispositivi. Di base sarebbero solamente screen e print, gli altri solo in base al pubblico del tuo sito (spesso e' inutile ottimizzare per mobile...).