Hallo,
hast Du spaßeshalber mal probiert die Kabel an RxD und TxD zu tauschen? Vielleicht hast Du da was durcheinander gebracht?
Ansonsten kannst Du mal nach dieser Anleitung vorgehen: elektronik-bastelkeller.de (halt angepasst an Deine Gegebenheiten und Deinen Programmer).
Und wichtig: Diesen Arduino in der IDE auswählen: "Arduino NG or older w/ ATMega8"
Gruß,
Ralf