So wie dengstdu schon schrieb, reduziert Anti-Aliasing den Treppeneffekt bei schrägen Linien, da je nach Auflösung dafür halbe oder viertel Pixel benötigt würden, damit kein Treppen Effekt entsteht, die Linie aber dennoch schön dünn ist. Je höher die Auflösung umso geringer dieser Treppeneffekt von Haus aus auch ohne AA.
AA macht dann nix anderes als das Bild in einer viel höheren Auflösung zu berechnen (sehr vereinfacht ausgedrückt) und dann wieder herunter rechnet auf deine Auflösung, dann aber die Helligkeit der Randpixel anpasst, damit dieses Ausfransen nicht so sehr auffällt.
Wichtig ist hier, dass AA die Grafikkarte extrem fordert. Aber bei deiner sollte 2x2 bis 3x2 funktionieren. Musst du halt ausprobieren wie sich deine FPS dann entwickeln.
Tante Edit: Ja, FXAA fordert die Graka nicht, geht mit jeder Hardware, MSAA schon mehr, und SSAA fordert die Graka am meisten, sieht aber auch am besten aus xD.