Ordet syftar på att byggnaden tycks så hög att den "skrapar vid skyn". Både på engelska (skyscraper) och svenska (sedan 1833) har ordet först används som en synonym till det högt på masten sittande seglet skejsel (skysail), för att på 1890-talet även börja användas om byggnader.
Det finns ingen entydig, överenskommen definition av exakt hur hög en skyskrapa ska vara för att kallas en skyskrapa. Man brukar säga att huset ska höja sig märkbart över sin omgivning, vilket innebär att ett 80 meter högt hus i en för övrigt lågbyggd stad kan anses som en skyskrapa, medan det till exempel i Hongkong krävs högre höjder än så.
Organisationen Emporis Standards har däremot för sina statistiksyften definierat att en skyskrapa ska vara minst 100 meter hög. Det finns även ett annat kriterium som idag används i Europa och USA som säger att byggnaden skall vara minst 150 meter högt, om den skall rankas som en skyskrapa.Ytterligare ett kriterium för att begreppet skyskrapa ska få tillämpas är att byggnaden till större del ska gå att vistas i, den ska alltså nästan uteslutande vara indelad i våningsplan. Därmed bortses från många höga byggnadsverk som minareter, radiomaster, industribyggnader och torn, som till exempel Eiffeltornet och Tokyo Tower. Skyskrapa är dessutom en delmängd av höghus, vilket gör att alla skyskrapor är höghus, vilket av Emporis Standards definieras som ett hus som har minst tolv våningar eller är mer än 35 meter högt.
De första skyskraporna byggdes i slutet av 1800-talet i de amerikanska storstäderna Chicago och New York.
