按照牛津工商管理词典（Oxford Dictionary of Business and Management），官僚组织是指“按照固定程序处理大量工作的层级管理体系，它往往遵守一系列严格和非个人化的规则”，“它往往具有恒定和稳定的特性，是经验和过往经历的集合，不依赖于个体”，而这些加起来或多或少就是灵活组织所不具有的（特性）。
这个思想最早出现于美国领导力理论家沃伦·本尼斯（Warren G. Bennis）的著作。《当前社会》（the Temporary Society）（与菲利普·斯莱特 （Philip Slater） 合著）中描述企业未来时，本尼斯预言了被他称之为“灵活组织”的组织结构会依赖于敏捷和灵活的项目团队。拉丁语ad hoc 意味着“只为了这个特殊的目的”，尽管今天这个词也表达一种即兴发挥的意思。
灵活组织理论得到了阿尔文·托夫勒（Alvin Toffler）1970的畅销书《未来的冲击》（ Future Shock）的有力的支持。在这本书中，
他将灵活组织理念视为一种“全新的，自由形式，动态组织的世界”，并预言了企业要想生存，需要更为扁平的结构，更为快速的信息流通和更为自主的项目团队。之后，亨利·明茨伯格（Henry Mintzberg）将这个术语继续深入发展。
明茨伯格，不仅在研究经理人如何实际分配他们的时间上享有盛名，在组织结构方面也有相当的建树。在他1979年的著作《组织的结构》（The Structuring of Organizations）中，他定义了四种基本的组织类型。这些（组织类型）是利用二乘二的矩阵形式来标明组织的工作环境性质（简单还是复杂）和组织的变化速度（稳定还是动态）。这四种类型分别是机械型组织（Machine Bureaucracy），专业型组织(Professional Bureaucracy)，创业型组织(Entrepreneurial Startup)和灵活组织(Adhocracy)。明茨伯格认为，每一种组织类型都在利用完全不同的机制来协调自己的活动，同时，每一种类型内部的不同团队都存在自己的力量。