Olá Gui,
Eu também fiz uma placa personalizada de Arduino, baseada no Arduino Severino e também tive problemas como você está tendo aí.
Posso estar errado, o que não é nada difícil, mas eu acho que quando chega nessa mensagem significa que o Atmega foi identificado mas ocorreram problemas de sincronização.
Lembro até mesmo de ter esse tipo de problema com a Severino, acho que resolvi na época mudando o jumper JP4, mas não sei se realmente tem alguma coisa a ver.
Mais uma vez posso estar enganado mas acho que algumas coisas podem estar influenciando nisso: Cabo serial muito longo (ruído), ou cabo passando perto de outros equipamentos (como luminária de reator), configuração da porta serial também pode tentar alterar (com velocidades mais baixas talvez.
Mas o que realmente dá certo aqui quando rola isso é o seguinte:
Na hora de fazer upload do sketch, dá o reset no Arduino e bem logo após isto aperta o botão de upload, se seu computador for mais lento ele demora um pouco pra compilar e mandar pra placa, então tenta apertar o upload primeiro e depois reset na placa, vai tentado isso com intervalos diferentes. Mais uma vez, não sei se tem a ver com seu caso mas pelo menos por aqui é o que resolve.
Tudo isso considerando que não existe erro elétrico na sua placa.
Valeu !