Birkelund er student fra Århus Katedralskole 1930 og trådte sine biblioteksmæssige ungdomssko ved Statsbiblioteket i Århus, fra 1936 ved Universitetsbiblioteket i København, samtidig med at han blev jurist i 1944. Samme år ansattes han som bibliotekar her, fra 1948 overgik han til Det Kongelige Bibliotek, blev førstebibliotekar året efter, inden han i 1952 blev rigsbibliotekar og chef for Det Kongelige Bibliotek og de to universitetsbiblioteker.
Han var med sin ven og samtidige, Danmarks Biblioteksskoles grundlægger og første rektor Preben Kirkegaards ord ”den fødte bogmand og bibliotekar”, men han var også en igangsætter og organisator, der førte Det Kongelige Bibliotek ind i den moderne tidsalder efter mellemkrigstidens og den anden verdenskrigs stagnation. Han nyorganiserede bl.a. fagreferentsystemet, udbyggede den faglige og tekniske organisation, fornyede uddannelsen af biblioteksmedarbejdere i både folke- og forskningsbiblioteker, og skabte med grundlæggelsen af den videnskabelige årbog Fund og Forskning i Det Kongelige Biblioteks Samlinger i 1954, hvoraf bind 50 just er udkommet, et nyt forum for at udbrede og formidle kendskabet til bibliotekets samlinger og forskning ”og i det hele taget, at udbygge forbindelsen mellem biblioteket og offentligheden”. I 1968 nedsatte han en arbejdsgruppe, der skulle udrede de muligheder, den nye edb-teknologi kunne give Det Kongelige Bibliotek og sørgede for, at det blev repræsenteret i udviklingen af de nye internationale standarder, der blev til i IFLA og Library of Congress’ regi.
Han var en central figur i den danske biblioteksverdenen og dens rådgivende og styrende organer i en menneskealder, hans beretninger på Danmarks Biblioteksforenings årsmøder gav ofte genlyd. I den store konflikt i 1970.erne i Bibliotekskommissionen var han med til sprænge forsknings-bibliotekerne ud af fællesforeningen og danne Danmarks Forskningsbiblioteksforening, hvis første formand han blev.
Også på den internationale scene gjorde han sig gældende. Han havde været Unesco-stipendiat i USA i 1949, og som Unesco-konsulent var han med til at udvikle Burmas universitetsbiblioteker i 1968. Han så begrænsningen i den internationale biblioteksorganisation IFLA og var medstifter i 1971 af LIBER, i dag den vigtigste europæiske forskningsbiblioteksorganisation, der står for en meget betydelig del af det europæiske bibliotekssamarbejde. På den hjemlige front lagde han et stort arbejde i bestyrelserne for faglige foreninger som Forening for Boghaandværk, Dansk Bibliotekshistorisk Selskab og forlaget Forum, heraf mange år som formand. Også som medredaktør af en række leksika og tidsskrifter ydede han meget. På 60-årsdagen i 1972 blev han hædret med et usædvanligt festskrift med titlen ”Med Birkelund på forperronen”.
Palle Birkelund var chef i en tid med store forandringer i kultur- og omgangsformer, hvor alene udviklingen gjorde det vanskeligt at sidde på chefposten så længe i en stor organisation. Han mestrede med sin karisma og personlighed at gøre hele perioden med fra efterkrigstid over koldkrig til ungdomsoprøret og hvad deraf fulgte.