零式战斗机设计期间，三菱公司召开的新战斗机性能取向会上军方代表曾有过争论，一派认为：空战能力主要取决于转弯格斗性能，为了格斗性能必需牺牲航程与速度。
而另一派则认为：日本战斗机的格斗性能优越，足够对抗世界任何战机，差的就是速度，新战斗机应该着重解决速度与航程的问题，至于格斗性能可以适当牺牲。一时会上出现了两种截然相反的观念，谁也无法说服谁，只得休会。
由于这两个需求过于严苛，尤其是必须兼顾8小时1300海浬以上的续航力与飞机机动性这两项互相冲突的指标，中岛公司在设计阶段放弃竞标，而三菱公司单独进行设计。
1939年3月16日，三菱名古屋工厂完成了第一架样机。新机被运送到位于各务原的陆军训练机场进行飞行测试。1939年4月1日，原型机由试飞员志摩胜三驾驶首飞成功，试飞结果非常成功，仅仅在机轮刹车，滑油系统方面发现小问题，另外飞行时有轻微振动。
在更换了三叶恒速螺旋桨后振动消失。1939年9月14日，日本海军认可了原型机，正式编号A6M1，同时第二架原型机也完成了，10月通过了公司内部试飞。
零式战斗机是日本飞机设计的重要里程碑，它实现了多个第一，如首次采用全封闭可收放起落架，电热飞行服，大口径机关炮，恒速螺旋桨，超硬铝承力构造，大视界座舱和可抛弃的大型副油箱等设备。
零式战斗机设计成功一个关键因素是日本住友金属有限公司当时合成了一种超级铝合金，日本称50岚金属，这种铝合金比钢还硬，因为有了这种金属零式设计时就采用了很细的飞机框架，并且敢于在上面钻孔减重。
此外铆钉尺寸也非常小，在能保证战机强度的情况下大大减轻了飞机重量，如果没有住友金属的这种铝合金，零式是根本生产不出来的。因为有了超硬铝合金，对飞机主桁梁进行革新，其抗拉强度好，耐疲劳强度更好，而且机体重量极轻。
零式采用了950马力的中岛“荣”12星型气冷发动机，虽然相比于欧美同期产品并不出众，但由于机体较轻，空重（21型）仅1680千克，时速达到了533千米/小时。
零式的性能优势最大来源就是轻，翼载极小，完全弥补了发动机动力的不足，而且保证了2200公里的超大航程。同时由于轻，零式还获得了非常快的爬升速度：每分钟900米。完全超越了同期如F2A、F4F、P-40、喷火等欧美战斗机，