Est-ce que tu as une led sur D13 (comme l'Arduino standard) ?
Au moment du reset, cette led doit "pulser" 2 fois
Si ce n'est pas le cas c'est qu'il n'y a pas de bootloader dans le chip
Il est peut être temps de poster quelques photos de ton adaptateur USB/série, des schémas, ... pour aider a voir clair ?