Wenn dein Monitor nur 60 Hz kann, solltest du die Framerate auch auf 60 begrenzen (in den Einstellungen von TSW). Spart nebenbei noch Energie und die Kiste läuft leiser und kühler.
Wenn eine neue Grafikkarte kaum Verbesserung bringt, hast du an irgendeiner Stelle ein Bottleneck. Das kann die CPU sein, die Schnittstelle, oder schlicht und einfach das Spiel an sich.
Bis die CPU kommt, teste doch einmal diesen Mod: https://www.trainsimcommunity.…-quality-enhancement-v202
Lies dir die Anleitung aufmerksam durch, fange erstmal mit einem mittleren Preset an. Dort ist viel beschrieben, wie man die optimale Performance und Grafikqualität aus TSW herausholt.
Wie schon an anderer Stelle erwähnt, habe ich mit einem 9800X3D, einer 7800XT und diesem Mod auf 1440p mit VSync in fast allen Situationen 60 fps mit sehr konstanten Frametimes, also keinen (Mikro-)rucklern. Das macht wirklich viel Spaß.
Zu Treibereinstellungen kann ich nicht viel sagen, da ich Linux benutze. Es empfiehlt sich jedoch, vor einem Herstellerwechsel den alten Nvidia-Treiber restlos zu entfernen und immer den aktuellen Treiber vom Hersteller zu verwenden, nicht das, was Windows einem vorschlägt.