図書館法の規定では、図書館は「図書、記録その他必要な資料を収集し、整理し、保存して、一般公衆の利用に供し、その教養、調査研究、レクリエーション等に資することを目的とする施設」としています。設置主体は都道府県や市町村などの地方公共団体(地方自治体)と、日本赤十字社・一般社団法人・一般財団法人に限定し、地方公共団体が設置する図書館を「公立図書館」、それ以外の法人が設置する図書館を「私立図書館」と呼んでいます。この2つを一般に「公共図書館」といいます(公立図書館だけを公共図書館と呼ぶ場合もあります)。公共図書館の数と蔵書冊数は右肩上がりで増えており、2012年4月1日現在、公共図書館の数は3234、蔵書冊数は約4億1000万冊に上ります。
公共図書館のほかには、国が設置した国立国会図書館、小・中・高校などの学校図書館、大学図書館、団体・企業・研究機関などが設置した専門図書館があります。国内で発行される出版物を国民共有の文化的遺産として保存・継承するため、国会図書館法により国内で発行された全ての出版物は国会図書館に納入することが義務づけられています(納本制度)。