Такая ошибка может возникать из-за отсутствия подписей у драйвера.
Делаем так:

1. Запускаем командную оболочку от имени администратора (в windows я пользуюсь Far Manager, чего и всем желаю)
2. Включаем режим тестирования подписей(Test Signing Mode) командой

     bcdedit set testsigning on 

3. Обновляем jtagice из Atmel Studio или вручную(утилита atfw.exe)
4. Возвращаем обратно проверку подписей(Driver Signature Verification) командой
   

     bcdedit set testsigning off  

Если получаете ошибку типа protected by Secure Boot policy, это значит, что влючена так называемая Secure Boot. Отключается в BIOS.