Configurando a resolução de tela no xorg.conf

Para obter a melhor resolução do seu monitor, precisamos configurar corretamente as taxas HorizSync e VertRefresh no xorg.conf:

1) Primeiramente vamos instalar o hwinfo, um utilitário que detecta as configurações de hardware do computador:
aptitude install hwinfo

Depois rode o comando desta forma:
hwinfo --monitor

A saída será algo como esta:
notebook:~# hwinfo --monitor
27: None 00.1: 10002 LCD Monitor
  [Created at monitor.95]
  Unique ID: jyhG.iq6iwBoCEA3
  Hardware Class: monitor
  Model: "N141I3-L02 LCD Monitor"
  Vendor: CMO "N141I3-L02"
  Device: eisa 0x1425
  Resolution: 1280x800@60Hz
  Size: 303x190 mm
  Detailed Timings #0:
     Resolution: 1280x800
     Horizontal: 1280 1328 1360 1440 (+48 +80 +160) -hsync
       Vertical:  800  803  809  823 (+3 +9 +23) -vsync
    Frequencies: 71.00 MHz, 49.31 kHz, 59.91 Hz
  Config Status: cfg=new, avail=yes, need=no, active=unknown

Com estas informações em mãos vamos alterar o xorg.conf:
nano /etc/X11/xorg.conf

Na seção [monitor] adicione:
HorizSync 49.31
VertRefresh 59.91

Na seção [Screen] altere a opção Modes com os valores retornados pelo hwinfo, conforme exemplo:
Section "Screen"
        Identifier "Screen0"
        Device     "Card0"
        Monitor    "Monitor0"
        DefaultDepth    24
        SubSection "Display"
                Viewport   0 0
                Depth     24
                Modes   "1280x800_71"  (Onde 71= 71.00MHz)
        EndSubSection
EndSection