Знакомый работающий на MAC обратился с вопросом. При попытке соединиться на SFTP сервер muCommander выдаёт ошибку “Invalid private key file or passphrase”. После недолгих боданий пришли к выводу что видимо проблема с паролем в ключе, независимо от того какой ключ RSA или DSA.
Просто снимите парольную защиту приватного ключа.
$ ssh-keygen -p [-P old_passphrase] [-N new_passphrase] [-f keyfile]
или интерактивно
$ ssh-keygen -p [-f keyfile]