Знак "$" обозначает, что команду до́лжно будет запускать от имени непривилегированного пользователя, т.е. не от root-a. Знак "#" говорит о том, что команду необходимо выполнять от пользователя root.
Источники: 1, 2