Омар Хайямге қызығушылық тап болды, алғашқы ғылыми еңбектерін Самарқанде жазды . Бұл жерде ол алгебра және геометрия саласындағы зерттеулерді жалғастырды .
Омар Хайям «Алгебра және ал-мукабала мәселелеріне дәлелдер туралы трактат» атты еңбегін жазды, бұл еңбек кубикалық теңдесулердің геометриялық шешімдерін зерттейді . Алгебраның алғаш рет белгілі бір сипаттамасын осы еңбеке берді .
Сонымен қатар, Омар Хайам «Евклидтің «Бастамаларына» комменариясын» жазды — бұл Еуклидтік геометрияның негіздерін қалаған еңбек .