Знак "$" обозначает, что команда будет выполнена от имени непривилегированного пользователя, т.е. не от root-a. Знак "#" говорит о том, что команду необходимо выполнять от пользователя root.
Источники: 1, 2
