Ошибка возникает при использовании ключа, сгенерированного OpenSSL для доступа к серверу по протоколу SSH.
Для ее решения достаточно переконвертировать этот ключ в формат PuTTY. Для этого запускаем программу PuTTYgen, в верхнем меню выбираем Conversions -> Import key. Далее Импортируем туда ключ:
Далее остается только сохранить его, нажав кнопку "Save private key", и можно пробовать ключ в PuTTY. По желанию можно также добавить пароль.