Wenn ich die baud-Rate erhöhe wird manchmal der falsche RGB-Wert eingetragen oder das erste Pixel nicht ausgefüllt.
Das wäre dann eben die fehlende Synchronisation. Der Arduino muss ja wissen, wo angefangen wird. Klar kannst Du einfach definieren, dass der Arduino warten muss und wenn der PC dann beginnt, Daten zu schicken, dann muss er einfach immer schön im Takt bleiben, aber solche ideale Zustände hast Du in der Praxis häufig nicht. Das ist genau der Grund, wieso ich den Trick mit den reservierten 255-Werten (0xFF) verwendet hätte. Den kannst Du schon vom PC aus verwenden.
Du solltest wahrscheinlich Deinen ganzen Code posten, damit wir ihn mal durchsehen können. Die grundsätzliche Kommunikation mit dem PC sollte auch bei hohen Baudraten zu keinen Problemen führen, bis 57600 hatte ich nie Probleme. Deshalb vermute ich ein Problem in Deinem Sketch.